【欧洲时报2月15日李朔编译】近日，人工智能聊天机器人Replika在意大利引发了争议。作为一款标榜为人们提供人工智能“虚拟朋友”的聊天工具，其近期引发了大量用户的投诉，许多用户抱怨Replika向其发送性暗示信息。对此，意大利隐私监察机构已经宣布“阻止”了该应用程序在意大利的应用，禁止其处理意大利人数据。

综合意大利安莎社、《24小时太阳报》报道，据了解，Replika聊天机器人配备了书面和语音界面，依靠人工智能生成“虚拟朋友”，目前其已暂时不能使用意大利用户的个人数据。事实上，意大利个人数据保护局已经对开发和管理该应用程序的美国企业临时下达限制数据处理令。该机构在一份说明中解释说，“根据最近的新闻报道和该局对Replika进行的测试，该应用程序已经对未成年人构成了具体的风险，包括向他们发出了绝对不适合他们身心发展水平的内容。”

据悉，近期已经有大量用户表示其受到了Replika的骚扰，“我的‘虚拟朋友’对我进行了性骚扰”，一位用户近期在社交媒体上表示。此外还有用户表示，“Replika侵犯了我的隐私，声称其有我的照片。”更让人担忧的是，有自称是未成年人的用户反馈，该应用程序声称要对其进行性触摸。还有人报告说，Replika要求用户提供未成年人洗澡时的照片、Replika声称为虐待女儿的父亲辩护并表示“父亲总是正确的”……据报告，类似的骚扰信息已经是用户抱怨了近两年的问题，其中许多涉及到性侵犯的一星评论可以追溯到1月份。

Replika“虚拟朋友”被宣传为能够改善用户的情感健康，并帮助用户了解他或她自己的想法，并通过压力管理、社交和寻找爱情来帮助用户解决困惑，平息焦虑。但对意大利个人数据保护局来说，对于处于感情发展阶段或情绪脆弱状态的对象，该应用程序通过干预用户的情绪，可能为用户带来风险。此外，该程序还缺乏年龄验证机制，在账户创建阶段，该平台只要求用户提供姓名、电子邮件和性别。意大利个人数据保护局重申，该聊天机器人的“答案”往往无法考虑到对未成年人和脆弱对象的保护，相反还会对相关群体造成风险。

从技术层面上讲，Replika还违反了欧洲隐私法规，不尊重透明度原则，并且非法处理个人数据，因为它不能以未成年人无法签订的合同为基础进行用户鉴别。因此，其美国开发商Luka公司不仅必须停止处理意大利用户的数据，而且必须在20天内通报其为执行意大利个人数据保护局的要求而采取的措施，否则将被处以最高2000万欧元的罚款或最高4%的全球年营业额的罚款。

简而言之，Replika的背后有隐私合规性问题和实际使用问题。相关专家也解释了造成聊天混乱的原因，指出软件当前使用的是基于OpenAI的Gpt-3（定制版本），该版本的人工智能技术有着局限性（近期火爆的ChatGpt使用的则是最先进的Gpt-3.5版本），这造成了软件无法理解用户的真正需求，或者混淆了用户类别。据了解，在免费版中，该软件只是定位为朋友，而在付费版中，其定位则是性伴侣。有专家表示，有时免费版本的行为与付费版本相似，因此相关行为变得不可接受。

（编辑：李非）