Apple 从 App Store 中删除了可以使用生成式 AI 生成裸照的应用程序

2024-04-30 09:20

就在有消息称,华为手机中的AI功能有问题,脱衣服后,关于苹果的类似消息也浮出水面(通过404 Media)。

据报道,该公司已经从App Store中删除了三款标榜为“艺术生成器”的应用程序,但在Instagram和成人网站上宣传自己,声称它们可以“免费脱掉任何女孩的衣服”。

这些应用程序利用人工智能来创建穿着衣服的人的虚假裸体图像。虽然这些图像没有描绘实际的裸体,但该应用程序可以生成可用于骚扰、勒索和侵犯隐私的图像。

AI Nude Apps 苹果

令人担忧的是,苹果的回应是在 404 Media 分享了这些应用程序及其广告的链接之后做出的。

令人惊讶的是,这些应用程序自 2022 年以来一直在 App Store 上提供,在成人网站上宣传“脱衣服”功能。

该报告还表明,如果这些应用程序从成人网站上删除广告,它们最初被允许留在App Store上。

然而,其中一个应用程序在 2024 年之前投放广告,当时谷歌将其从 Play 商店中撤下。

Apple 删除了使用生成式 AI 拍摄裸体的应用程序

苹果现在终于决定将它们从App Store中删除。不过,看到应用商店审核的反应性以及开发人员利用漏洞的可能性,这有点令人担忧。

这一事件发生在苹果的敏感时期。WWDC 2024 即将到来,预计该公司将在 iOS 18 和 Siri 上发布重大 AI 公告。

苹果一直在积极建立负责任的人工智能开发的声誉,甚至以合乎道德的方式许可训练数据。

相比之下,谷歌和OpenAI因涉嫌使用受版权保护的内容来训练其人工智能系统而面临诉讼。苹果延迟删除NCI应用程序可能会玷污其精心培养的形象。

来源:IT时代网

IT时代网(关注微信公众号ITtime2000,定时推送,互动有福利惊喜)所有原创文章版权所有,未经授权,转载必究。
创客100创投基金成立于2015年,直通硅谷,专注于TMT领域早期项目投资。LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源。决策快、投资快是创客100基金最显著的特点。