OpenAI folgt dem Beispiel von Anthropic und erfüllt die Anforderungen des europäischen KI-Gesetzes. Das Unternehmen von Sam Altman wird den von ChatGPT und Codex generierten Texten ein maschinenlesbares digitales Wasserzeichen hinzufügen, um die Transparenzanforderungen gemäß Artikel 50 der EU-Verordnung über künstliche Intelligenz zu erfüllen, die am 2. August in Kraft trat.

„Die Herkunftsnachverfolgung von Inhalten hilft Nutzern zu verstehen, woher diese stammen, wie sie erstellt oder verändert wurden und ob sie Signale enthalten, die mit unseren Modellen in Verbindung stehen“, erklärt das kalifornische Unternehmen in einer offiziellen Mitteilung. „Wasserzeichen- und Texterkennungstechnologien befinden sich noch in der Entwicklungsphase und weisen erhebliche Einschränkungen auf. Zudem ist die Debatte über ihren Nutzen und einen verantwortungsvollen Einsatz noch im Gange. Unser stufenweiser Ansatz berücksichtigt sowohl die Anforderungen des KI-Gesetzes als auch die technologischen Grenzen und legt Wert auf Transparenz hinsichtlich der Informationen, die ein Textwasserzeichen den Nutzern vermitteln kann und welche nicht.“

OpenAI wird seine textGrain-Technologie einsetzen, die laut eigenen Angaben konkurrierende Technologien, darunter Googles SynthID, übertrifft. Das Unternehmen betont jedoch: „Erkennungssysteme können zwei Arten von Fehlern machen: Sie melden das Vorhandensein eines Wasserzeichens, obwohl keines vorhanden ist (falsch-positiv), oder sie erkennen ein tatsächlich vorhandenes Wasserzeichen nicht (falsch-negativ).“

Nach der Einführung des digitalen Wasserzeichens für Texte in der EU wird das Unternehmen auf Basis des erhaltenen Feedbacks entscheiden, ob es weltweit eingeführt wird. Forscher und Expertenorganisationen können das Tool testen. Anthropic hat diesen Weg im August eingeschlagen und angekündigt, den offenen Technologiestandard C2PA zu nutzen und die Wasserzeichenunterstützung auch auf ältere KI-Modelle auszuweiten.

(Unioneonline)

© Riproduzione riservata