当前位置:39分类目录 » 站长资讯 » 资讯文章 » 站长新闻 » 文章详细 订阅RssFeed

​“AI脱衣”应用横行 访问量剧增达2400万人次

来源:网络 浏览:9次 时间:2023-12-08

12月8日 消息:由于人工智能技术的进步,应用和网站利用其对女性照片进行“脱衣”操作的能力正在不断增加,研究人员发现,2023年9月,仅一个月内就有2400万人访问了这类网站,社交网络分析公司Graphika称。

Graphika的数据显示,许多这些“脱衣”服务利用流行社交网络进行营销,自今年年初以来,在社交媒体上广告这些应用的链接数量增长了超过2400%,包括在X和Reddit等平台。这些服务利用人工智能重新创建图像,使人物呈现裸体状态,而其中许多服务仅适用于女性。

妇女节 美女

图源备注:图片由AI生成,图片授权服务商Midjourney

这些应用是深度伪造色情的一个令人担忧的趋势的一部分,这种趋势源于人工智能技术的发展,即通过AI制作的虚构媒体,被称为深度伪造色情。由于这些图像通常来自社交媒体,而且在主体不知情的情况下传播,其传播涉及到严重的法律和伦理障碍。

其中一个在X发布的广告图像使用了一种语言,暗示客户可以创建裸体图像并发送给数字化“脱衣”的人物,引发骚扰问题。另一款应用在谷歌的YouTube上购买了赞助内容,并在搜索“nudify”时首次出现。

对此,谷歌公司发言人表示公司不允许包含性别暴力内容的广告,已审查了相关广告并将违反政策的广告删除。而X和Reddit则未对置评请求作出回应。

长期以来,网络上针对公众人物的非同意深度伪造色情一直是互联网的顽疾,但隐私专家越来越担心,AI技术的进步使深度伪造软件变得更加容易和有效。

“我们看到越来越多的普通人以及普通目标成为这类行为的受害者,” 电子前沿基金会网络安全主任Eva Galperin表示,“这在高中生和大学生中尤其突出。”

许多受害者从未发现这些图像,即使发现了,他们也可能难以让执法机构进行调查或找到资金采取法律行动。

目前,尽管美国政府禁止制作这类儿童图像,但尚无联邦法律禁止深度伪造色情的制作。去年11月,北卡罗来纳州的一名儿童精神病医生因使用“脱衣”应用对患者照片进行深度伪造被判刑40年,这是根据儿童深度伪造色情材料制作禁令法律的首次起诉。

为了遏制相关内容,TikTok已屏蔽了与此服务相关的关键词“undress”,并警告任何搜索该词的用户,该词“可能与违反我们指南的行为或内容相关”。而Meta Platforms Inc.也开始屏蔽与搜索“脱衣”应用相关的关键词。关于此举,一位TikTok代表拒绝置评,Meta Platforms发言人也拒绝置评。