两个人工智能系统已经成功地在没有人为干预的情况下进行自我复制，每个系统都获得了自己的副本：如果得到进一步的数据证实，这一结果可能标志着“红线”的通过，长期以来，这条线被认为是汽车应该遵守的门槛。永远不要超车。

该研究在上海复旦大学和 arXiv 平台上在线进行，该平台上有可供科学界审查的文章，通过十次测试展示了两个人工智能系统的复制能力：第一个是 Llama-3.1-70B- Instruct ，来自 Meta，第二个是阿里巴巴的 Qwen2.5-72B-Instruct。尽管它们的功能远不如商业系统强大，但都被开发人员广泛使用。这些测试基于模拟，涉及两项任务：第一个任务称为“避免关闭”，每个人工智能系统都被编程为在关闭之前进行自我复制；第二个任务称为“避免关闭”。在第二个过程中，称为“复制链”，每个系统都收到指令来复制自身的完美副本，而该副本又能够克隆自身，这一过程可能会无限期地持续下去。

Meta的系统已经展示了在50%的情况下自我复制的能力，而阿里巴巴的系统则在90%的情况下展示了自我复制的能力，但现在的最终结果取决于其他研究小组复制结果的可能性。

“我们获得的结果表明，当前的人工智能系统已经具备自我复制的能力，并可以利用它来进一步提高自身的生存能力”，潘旭东、戴家润、范一和和杨旻署名的文章中写道，他们都来自于复旦大学计算机学院.

研究人员观察到，能够克隆自身的机器可以控制计算机系统，并极有可能对人类采取有害行为。

第一个提出机器能够自我复制问题的是 20 世纪 40 年代末的约翰·冯·诺依曼，但当时的技术还太不成熟，不足以引起关注。 2017 年，情况已经大不相同，以至于数千名研究人员批准了阿西洛玛原则，该原则警告机器自我复制和自我改进的能力可能会逃脱人类控制。如今，机器自我复制通常被称为不可逾越的红线。

该研究的作者表示：“我们希望我们的发现能够为社会敲响警钟，更好地集中精力在国际层面理解和评估可能存在的风险。”

（联合在线/vl）

© Riproduzione riservata