这是人类最可怕的噩梦：人工智能的演进可能在本十年末对人类构成真正的生存威胁，甚至毁灭人类。发出这一警告的是一位来自美国公益公司Anthropic的研究员，他的言论听起来更像是电影情节。这位研究员已从该公司辞职，他警告说，不受控制地创造能够自我改进的超级智能的竞赛，最早可能在本十年末，也就是2030年，就将人类毁灭。

他的告别进一步助长了近几个月来科学家们决定离开实验室的浪潮，他们对正在开发的系统的潜在风险感到担忧。

据《金融时报》报道，他的名字叫雅各布·考克森，是一位27岁的英国研究员，就职于这家位于旧金山的公司。他坚信，Anthropic及其主要竞争对手OpenAI正在拿人类的未来“赌博”。

他在X论坛上发表辞职声明时谴责道：“开发人工智能的人真心相信，到十年末，人工智能可能会毁灭我们所有人。” 他补充说：“这不是营销噱头。没有任何其他人类活动会带来如此巨大的危险。”

科克森只是近期离开美国大型人工智能实验室的又一位员工，他离职的原因包括安全顾虑。7月底，该公司唯一的伦理学家克洛伊·巴卡拉离职，随后是安全系统团队负责人约翰内斯·海德克。之后，前任务协调负责人约书亚·阿奇亚姆、首席运营官布拉德·莱特卡普以及研究员安德鲁·何也相继离职，何因技术分歧而辞职。

Coxon 的离职正值 Anthropic 公司准备进行大规模首次公开募股 (IPO) 之际，该公司已将人工智能安全作为其公众形象的核心要素，此次 IPO 的估值可能高达 1 万亿美元。

曾在加入Anthropic之前在OpenAI工作的考克森警告说，实验室外的人们低估了这项技术的威力。“很快，这些系统将成为超人般的存在，能够入侵任何系统，一夜之间彻底改变任何行业，并获得真正的权力和资源。”

Anthropic公司的高级安全研究员埃文·胡宾格(Evan Hubinger)呼应了考克森的警告，他表示人工智能发展如此迅速，以至于他认为在未来十年内，人工智能“毁灭全人类”的可能性超过10%。胡宾格在X网站上发表的一篇文章中指出，现有模型带来的风险“较低”，但他担忧这项技术可能很快发展得过于复杂，以至于在不久的将来对人类构成生存威胁。

（Unioneonline）

© Riproduzione riservata