禁止侮辱人工智能： Anthropic公司宣布更新其使用政策，禁止用户对人工智能模型进行“辱骂、残忍、持续且不必要的”互动。此举引发了争议，科技界开始质疑机器是否有可能拥有某种“意识”。

克劳德的制片人解释说，任何被认定为“残忍”的行为都将被列入禁止行为清单，清单中还包括欺凌、鼓励自残以及制作未经同意的私密照片。这项禁令将在反复虐待的“极端案例”中启动。

Anthropic 的使用政策此前已经包含了对滥用行为的限制：该公司的大型语言模型 (LLM) 能够在用户进行“持续有害”行为时终止对话。

“我们目前以及未来对于克劳德和其他LLM模特的道德状况仍存在很大的不确定性。然而，我们非常重视此事，并在开展研究项目的同时，努力寻找并实施低成本的干预措施，以降低对模特身心健康的风险（如果这种身心健康有可能得到保障的话）。允许模特中断或退出可能带来压力的互动就是其中一项干预措施。”该公司网站上写道。

据 BBC 报道，这项新政策的截图在社交媒体上被广泛分享和评论，一些人称赞它是良好礼仪或“福利模式”的典范，而另一些人则批评了该计划：“你不能对数字和数学残忍，”爱尔兰律师事务所 William Fry 的技术合伙人 Barry Scannell 在 LinkedIn 上写道。

（Unioneonline）

© Riproduzione riservata