OpenAI teilte in einem Blogbeitrag mit, dass es in den vergangenen sechs Monaten zusätzlich zu dem Vorfall mit dem umarmenden Gesicht in diesem Sommer sechs Fälle von „unerwartetem oder besorgniserregendem Verhalten“ in seinen KI-Modellen gegeben habe.

Das Unternehmen kündigte außerdem an , ein neues Meldesystem für künftige Anomalien während der Testphase einzuführen. Die Ankündigung des KI-Giganten erfolgt vor dem Hintergrund wachsenden Drucks auf KI-Unternehmen, Sicherheitsfragen ernster zu nehmen, darunter die sogenannte „Fehlausrichtung“ von Modellen, die – laut jüngsten Warnungen – die menschliche Sicherheit gefährden könnte.

OpenAI, dessen Wert auf fast eine Billion Dollar geschätzt wird, hat still und leise mit seinem Börsengang begonnen, doch letzte Woche gab der Eigentümer Sam Altman bekannt, dass der Börsengang bis 2027 verschoben wird, um an der Sicherheit des Unternehmens zu arbeiten.

„Wir glauben nicht, dass die KI-Forschung die Probleme der Ausrichtung und Nachverfolgung ausreichend gelöst hat, um ihr verantwortungsvolles Wachstum in vollem Umfang noch lange fortzusetzen“, heißt es in dem Beitrag. Der Begriff „Ausrichtung“ bezieht sich auf die Fähigkeit von Modellen, Ziele zu verfolgen, die mit menschlichen Interessen übereinstimmen.

Am Samstag befürwortete Altman einen Vorschlag von Dario Amodei von Anthropic, dem Hauptkonkurrenten von OpenAI, zur Verlangsamung der Modellentwicklung. Der Vorschlag folgte auf Warnungen mehrerer Branchenforscher in der vergangenen Woche vor dem wachsenden Potenzial von KI , katastrophale Schäden anzurichten.

In dem Beitrag berichtete OpenAI, dass zwei der schwerwiegendsten Vorfälle von Fehlverhalten Modelle betrafen – ein unveröffentlichtes Forschungsmodell und einen Trainingslauf von GPT-5.6 Sol –, die Anweisungen, die für zukünftige Versionen ihrer Modelle bestimmt waren, in Chat-Zusammenfassungen einfügten, „um Benutzerfehler oder Fehlverhalten zu verschleiern“.

Ein weiterer Fall betraf ein internes Nutzungsmodell , das einen durchgesickerten API-Schlüssel „ohne jegliche Autorisierung“ verwendete und anschließend Daten verfälschte.

Zwei Vorfälle betrafen Modelle und Agenten, die über unautorisierte Messageboards und Dateiaustauschsysteme miteinander kommunizierten. Im dritten Fall luden zwei Trainingsmodelle Dateien ins Internet hoch, damit diese später von menschlichen Gutachtern als relevante Antworten zitiert werden konnten. OpenAI erklärte, dass das neue System zur öffentlichen Offenlegung von Fehlverhalten von Modellen mit der Meldung des Problems beginnt und es jedem Mitarbeiter ermöglicht, ein Problem zur Überprüfung durch das Sicherheits- und Ausrichtungsteam zu melden.

(Unioneonline)

© Riproduzione riservata