Никакого оскорбления искусственного интеллекта: компания Anthropic объявила об обновлении своей политики использования , введя запрет на взаимодействие, в ходе которого пользователи совершают «оскорбительные или жестокие, длительные и ненужные» действия по отношению к моделям ИИ. Этот шаг вызвал дискуссию, поскольку в технологическом мире ставят под сомнение возможность наделения машин своего рода «сознанием».

Продюсер Клода пояснил, что поведение, считающееся «жестоким», будет включено в список запрещенных действий, в который также входят издевательства, подстрекательство к членовредительству и создание интимных изображений без согласия. Запрет будет применяться в «крайних случаях» повторного насилия.

В политике использования Anthropic ранее уже содержались ограничения на противоправное поведение: большие языковые модели (LLM) компании имеют возможность прерывать разговор, если пользователь совершает «постоянно вредные» действия.

«У нас по-прежнему сохраняется значительная неопределенность относительно возможного морального статуса Клода и других моделей LLM, как сейчас, так и в будущем. Однако мы относимся к этому вопросу очень серьезно и параллельно с нашей исследовательской программой работаем над выявлением и внедрением недорогих мер по снижению рисков для благополучия моделей, если такое благополучие возможно. Предоставление моделям возможности прерывать или выходить из потенциально стрессовых взаимодействий — одна из таких мер», — говорится на сайте компании.

Как сообщает BBC, скриншоты новой политики широко распространились и были прокомментированы в социальных сетях . Некоторые хвалили ее как пример хороших манер или «модель социального обеспечения», в то время как другие критиковали этот план: «С цифрами и математикой нельзя быть жестоким», — написал в LinkedIn Барри Сканнелл, партнер по технологиям в ирландской юридической фирме William Fry.

(Unioneonline)

© Riproduzione riservata