在使用人工智能时要谨慎，并且要谨慎选择目标。隐私担保机构最近对管理聊天机器人“Replika”的美国公司Luka Inc.处以罚款，这给消费者敲响了警钟：该公司因“未能明确个人数据处理操作的法律依据”而须支付五百万欧元。此外，该公司“在多个方面提供的隐私政策不充分”。不仅如此，担保机构还启动了一项独立调查，以验证该服务所依赖的生成人工智能系统是否正确处理了个人数据。

但我们在谈论什么呢？ Replika 是一个聊天机器人，旨在通过帮助用户了解他们的想法和感受、监测他们的情绪、管理压力和实现个人成长目标来改善用户的情绪健康。用户可以将他们的“虚拟伴侣”配置成不同的角色，包括朋友、治疗师、恋人或导师。该服务基于生成人工智能系统，特别是基于大型语言模型（Llm），这是一种通过与用户交互不断改进的自然语言概率模型。这种人工智能使用神经算法根据用户提示创建原创内容，从文本生成到图像、声音和视频的制作。

该聊天机器人具有书面和语音界面，允许用户“生成”一个“虚拟朋友”，可以充当知己、治疗师、伴侣或导师。

担保人还发现，尽管该公司宣称将未成年人排除在潜在用户之外，但该公司并未提供任何验证用户年龄的机制，无论是在注册服务时还是在使用服务过程中。从进行的技术调查中发现，业主目前实施的年龄验证系统在许多方面仍然存在缺陷。

在启动新调查的信息请求中，担保人要求 Luka 澄清有关该服务所依赖的生成式人工智能系统整个生命周期的数据处理情况。特别是关于“Replika”底层语言模型在开发和训练的各个阶段的风险评估和采取的数据保护措施、所使用的数据类型和类别，以及可能实施的匿名化或假名化措施。

（Unioneonline/E.Fr.）

© Riproduzione riservata