OpenAI следует примеру Anthropic и соблюдает требования Европейского закона об искусственном интеллекте. Компания Сэма Альтмана добавит машиночитаемый цифровой водяной знак к тексту, генерируемому ChatGPT и Codex, чтобы соответствовать требованию прозрачности, изложенному в статье 50 Регламента ЕС об искусственном интеллекте, которое вступит в силу 2 августа.

«Информация о происхождении контента помогает людям понять, откуда он взялся, как был создан или изменен, и содержит ли он сигналы, связанные с нашими моделями», — говорится в официальном сообщении калифорнийской компании. «Технологии водяных знаков и распознавания текста все еще находятся на ранних стадиях развития и имеют существенные ограничения. Кроме того, дискуссия об их преимуществах и возможных ответственных способах использования все еще продолжается. Наш поэтапный подход учитывает как требования Закона об искусственном интеллекте, так и технологические ограничения, подчеркивая прозрачность в отношении того, что текстовый водяной знак может и не может сообщать пользователям».

OpenAI будет использовать свою технологию textGrain, которая, по утверждению компании, превосходит конкурирующие технологии, включая SynthID от Google. Однако, подчеркивается, что «системы обнаружения могут допускать два типа ошибок: сообщать о наличии водяного знака, когда его нет (ложноположительное срабатывание), или не обнаруживать водяной знак, который на самом деле присутствует (ложноотрицательное срабатывание)».

После внедрения цифрового водяного знака для текстов в ЕС, на основе полученных отзывов, компания примет решение о его глобальном распространении. Исследователи и экспертные организации смогут протестировать этот инструмент. Компания Anthropic начала этот путь в августе, заявив, что будет использовать открытый технологический стандарт C2PA и распространит поддержку водяных знаков также на более старые модели ИИ.

(Unioneonline)

© Riproduzione riservata