Будьте осторожны с тем, как вы используете ИИ и на кого вы нацеливаетесь. Предупреждение для потребителей вытекает из последнего штрафа, наложенного Privacy Guarantor на американскую компанию Luka Inc., которая управляет чат-ботом «Replika»: ей придется заплатить пять миллионов евро «за неспособность определить правовые основы операций по обработке персональных данных». Кроме того, компания «предоставила ненадлежащую политику конфиденциальности по различным аспектам». Мало того: Guarantor также начал независимое расследование для проверки правильности обработки персональных данных, осуществляемой генеративной системой искусственного интеллекта, лежащей в основе сервиса.

Но о чем мы говорим? Replika — это чат-бот, призванный улучшить эмоциональное благополучие пользователей, помогая им понимать свои мысли и чувства, контролировать свое настроение, справляться со стрессом и работать над целями личностного роста. Пользователи могут настраивать своего «виртуального компаньона» на различные роли, включая друга, терапевта, романтического партнера или наставника. Сервис основан на генеративной системе искусственного интеллекта, в частности на Большой языковой модели (Llm) — вероятностной модели естественного языка, которая постоянно совершенствуется посредством взаимодействия с пользователями. Этот тип искусственного интеллекта использует нейронные алгоритмы для создания оригинального контента в ответ на запросы пользователя: от генерации текста до создания изображений, звуков и видео.

Чат-бот, имеющий как письменный, так и голосовой интерфейс, позволяет пользователям «создать» «виртуального друга» , который может выступать в роли доверенного лица, терапевта, романтического партнера или наставника.

Гарант также обнаружил, что компания не предоставила никакого механизма проверки возраста пользователей ни при регистрации на сервисе, ни во время его использования, хотя компания заявила, что исключает несовершеннолетних из числа потенциальных пользователей. В результате проведенных технических исследований выяснилось, что система проверки возраста, применяемая в настоящее время владельцем, по-прежнему несовершенна во многих аспектах.

В запросе информации, положившем начало новому расследованию, Гарант попросил Луку дать разъяснения относительно обработки данных, относящихся ко всему жизненному циклу генеративной системы искусственного интеллекта, лежащей в основе сервиса. В частности, в отношении оценки рисков и мер, принятых для защиты данных на различных этапах разработки и обучения лингвистической модели, лежащей в основе «Реплики», типов и категорий используемых данных, а также возможной реализации мер анонимизации или псевдонимизации.

(Unioneonline/E.Fr.)

© Riproduzione riservata