【欧洲时报1月20日李非编译】在社交媒体平台X的Grok工具生成滥用内容后，欧盟委员会正考虑禁止那些利用人工智能技术伪造他人裸露图像的应用程序。

美国政治新闻网欧洲版（Politico.eu）报道，此前，欧洲议会议员已发起了一项呼吁，即根据欧盟的旗舰人工智能法规，禁止允许用户在未经同意的情况下生成虚假个人私密图像的应用和工具。

欧盟委员会发言人托马斯·雷尼耶表示，欧盟委员会正在“调查此事”。

此前，埃隆·马斯克的X上出现了大量由Grok机器人制作的色情深伪图像。该平台近日宣布将采取措施解决问题，但这些措施并不适用于内置Grok助手的用户。

根据欧盟的《人工智能法》，自2025年2月起，如果人工智能的某些用途对人们的安全、基本权利或生计构成明显威胁，就将被禁止。

爱尔兰自由派议员迈克尔·麦克纳马拉指出，当前禁令清单中并未明确列出AI裸体生成应用，这一状况亟待改变。麦克纳马拉是欧洲议会人工智能小组的联合负责人，负责议会关于修改和简化人工智能法案的提案工作。

他在提到Grok的帖子时说：“这显然是一种伤害，应被列入禁止行为范畴。”

Grok事件引发了人们的质疑，即为什么在2023年法律谈判结束时，人工智能生成色情深伪内容没有被列入禁止行为清单。

麦克纳马拉说：“我认为这是没有设想或预料到的。”

人工智能治理专家劳拉·卡罗里近日表示，禁止深伪“简直是不可想象的”。卡罗利曾担任欧洲议会另一位人工智能事务负责人、意大利社会民主党人布兰多·贝尼菲的助理，并参与了2023年12月最终敲定禁令清单的谈判。

她在博客中写道：“禁令几乎被视为有毒之物，尤其在成员国眼中。”

欧盟法律中唯一提到深度伪造的内容是“有义务给它们贴上标签，以便用户识别”——这一要求将于2026年8月生效。

欧盟委员会现在必须确定人工智能生成的色情深度伪造内容是否符合现有禁令条款，比如禁止“具有操纵性或欺骗性”或利用人类脆弱性的人工智能系统，抑或应增设新禁令。

欧盟的人工智能法规要求欧盟委员会每年评估是否应该更新被禁止行为的清单，这为修订条款留下了空间。

卡罗里警告，修改禁令清单可能会带来新的麻烦。“我担心它可能会朝任何可能的方向发展，因为某些成员国对特定禁令并不满意。”她说，“谁能保证过程会一帆风顺？”

替代禁令的方案可能是针对最复杂最先进的模型（即通用人工智能模型）制定独立条款，X公司的Grok即属此类。

根据该方案，企业必须应对模型引发的“系统性风险”。去年专家组为企业起草合规指南时，围绕这些风险展开了激烈争论，其中“未经同意的私密影像”风险被列为典型案例。这可能为欧盟委员会人工智能办公室与X展开正式讨论提供基础。

（编辑：木子）