欧洲时报网 >> 英国
深度伪造色情网站滥用AI换脸 近4000名人中招

【欧洲时报3月22日刘涛编译】一项针对当前五个访问量最大的深度伪造(deepfake)网站的调查发现,有近4000位名人被AI换脸成色情内容的主角,这些受害者中包括255位英国名人。

英国《卫报》报道,调查发现,这五个网站三个月的浏览量达到了1亿次。英国电视四台新闻频道分析发现,受害者包括女演员、电视明星、音乐家和Youtube网红,这些人的姓名暂未公布。

英国电视四台新闻频道主持人凯茜·纽曼是受害者之一。“感觉像一种侵犯。有人把这些(照片)拼在一起,我看不到他们,但他们却能看到这种想象版本、伪造版本的我,感觉真的很邪恶。”她说。

根据英国网络安全法案,自1月31日起,未经同意分享此类图像是非法的,但并不包括内容创作。该法案的通过就是为了应对AI和APP生成的深度伪造色情内容激增。

早在2016年,研究人员就在网上发现了一个深度伪造的色情视频。2023年前三个季度,有超过14万个新的深度伪造色情视频被上传到40个最常用的深度伪造色情网站,比之前所有年份的总和还要多。

31岁的索菲·帕里什发现,在该法案出台之前,网上就有人伪造她的裸照。她说:“这非常暴力,严重侮辱人格。就好像女人没有任何意义,我们毫无价值,我们只是一块肉。男人可以为所欲为。在此之前,我信任所有人。”

英国通信管理局Ofcom的一位发言人表示,非法的深度伪造内容具有破坏性,令人深感不安。根据网络安全法案,公司必须评估深度伪造内容在其服务上的传播风险,采取措施阻止其出现,并在意识到这一点时迅速删除。“虽然这些规定尚未生效,但我们鼓励公司现在就实施这些措施,保护用户。”

谷歌的一位发言人说他们理解这些内容有多令人痛苦,他们正致力于在现有保护措施的基础上,帮助受影响的人。该发言人还说:“根据我们的政策,人们可以让包含这些内容以及他们头像的页面从搜索引擎中删除。虽然这对搜索引擎来说是一个技术挑战,但我们正积极为谷歌搜索开发额外的保护措施,包括帮助人们更大程度保护自己的工具,以及改进排名,以处理这些内容。”

来自Facebook和Instagram母公司Meta的瑞安·丹尼尔斯则称,Meta严禁儿童裸体和性化儿童的内容,以及提供AI生成未经同意的裸体图片的服务。“虽然提供深度伪造的APP仍可在各种应用商店下载,但我们已经删除了相关的广告和在背后运营的账户。”

(编辑:柳露)

分享到:
网友热评
查看更多评论
我要评论
展开全文
分享按钮