Это худший кошмар человечества: эволюция искусственного интеллекта может представлять собой реальную экзистенциальную угрозу для человечества к концу десятилетия, уничтожив его. Тревогу, в духе сюжета фильма, поднял исследователь из Anthropic — американской некоммерческой организации в области искусственного интеллекта, — который ушел из этой корпорации, предупреждая, что неконтролируемая гонка за созданием сверхинтеллекта, способного к самосовершенствованию, может уничтожить человечество уже в этом десятилетии, к 2030 году.

Его прощание еще больше подпитывает волну ученых, решивших покинуть свои лаборатории в последние месяцы, встревоженных потенциалом разрабатываемых ими систем.

Как сообщает Financial Times, его зовут Джейкоб Коксон, это 27-летний британский исследователь, работающий в компании из Сан-Франциско, который убежден, что Anthropic и ее главный конкурент, OpenAI, «играют в азартные игры» с будущим человечества.

«Разработчики ИИ искренне верят, что к концу десятилетия он может убить нас всех», — заявил он в сообщении на X, объявляя о своей отставке. «Это не маркетинговый ход», — добавил он. «Никакая другая человеческая деятельность не несет в себе такого уровня опасности».

Коксон — лишь последний из сотрудников, покинувших крупную американскую лабораторию искусственного интеллекта, сославшись, помимо прочего, на проблемы безопасности. В конце июля ушла Хлоя Бакалар, единственный в компании специалист по этике, за ней последовал Йоханнес Хайдеке, руководитель группы систем безопасности. Затем пришли Джошуа Ачиам, ранее возглавлявший отдел согласования задач, главный операционный директор Брэд Лайткэп и, наконец, исследователь Эндрю Хо, который уволился из-за технических разногласий.

Уход Коксона происходит в тот момент, когда компания Anthropic, сделавшая безопасность ИИ центральным элементом своего имиджа, готовится к масштабному первичному публичному размещению акций (IPO), которое может оценить компанию в 1 триллион долларов.

Коксон, ранее работавший в OpenAI, а затем перешедший в Anthropic, предупредил, что люди за пределами лаборатории недооценивают мощь этой технологии. «Вскоре это будут сверхчеловеческие системы, способные взламывать что угодно, революционизировать любую отрасль в одночасье и получить реальную власть и ресурсы».

Эван Хабингер, старший научный сотрудник по вопросам безопасности в компании Anthropic, поддержал предупреждение Коксона, заявив, что искусственный интеллект развивается настолько быстро, что, по его мнению, существует более чем 10% вероятность того, что он «может уничтожить все человечество» в течение следующего десятилетия. В своем сообщении на X Хабингер заявил, что риск, связанный с существующими моделями, «низок», но выразил обеспокоенность тем, что технология может вскоре развиться и стать настолько сложной, что в ближайшем будущем может представлять экзистенциальную угрозу для человечества.

(Unioneonline)

© Riproduzione riservata