Microsoft обновила Designer, инструмент искусственного интеллекта, способный создавать изображения, начиная с текстовых указаний, которые могли бы использоваться для создания откровенно сексуальных фотографий Тейлор Свифт, которые позже стали вирусными и были заблокированы платформой X.

После обновления приложение больше не позволяет связывать какие-либо термины сексуального характера для создания похожих изображений, даже малоизвестных людей. По данным сайта 404 Media, созданные с помощью ИИ фотографии обнаженной Тейлор Свифт были взяты с форума 4chan и канала Telegram, где люди использовали Designer для создания изображений знаменитостей с помощью ИИ.

До того, как сообщения Свифта были распространены в социальных сетях, Designer предотвращал создание контента, вводя такие слова, как «Тейлор Свифт голая», но пользователи могли обойти защиту, неправильно написав имя и используя слова, которые имели только сексуальный подтекст. Недостатки, которые будут исправлены после обновления.

«Мы расследуем эти сообщения и предпринимаем соответствующие шаги для их устранения», — заявил представитель Microsoft вскоре после того, как дипфейки были опубликованы. «Кодекс поведения запрещает использование наших инструментов для создания контента для взрослых интимного характера или без согласия, и любая повторная попытка создания контента, противоречащего нашей политике, может привести к потере доступа к сервису. У нас есть команды, которые работают именно над таким мониторингом в соответствии с принципами ответственного искусственного интеллекта, включая фильтрацию контента и обнаружение злоупотреблений для создания более безопасной среды для пользователей», — заключила компания из Редмонда.

(Юнионлайн/Д)

© Riproduzione riservata