Keine Beleidigungen der künstlichen Intelligenz: Anthropic hat seine Nutzungsrichtlinien aktualisiert und verbietet Interaktionen , bei denen Nutzer sich gegenüber den KI-Modellen „missbräuchlich, grausam, langwierig und unnötig“ verhalten. Diese Maßnahme hat eine Debatte ausgelöst, da in der Tech-Welt die Möglichkeit hinterfragt wird, Maschinen mit einer Art „Bewusstsein“ auszustatten.

Claudes Produzent erklärte, dass als „grausam“ eingestuftes Verhalten in eine Liste verbotener Handlungen aufgenommen wird, zu der auch Mobbing, Anstiftung zur Selbstverletzung und die Erstellung nicht einvernehmlicher intimer Aufnahmen gehören. Das Verbot wird in „extremen Fällen“ wiederholten Missbrauchs in Kraft treten.

Die Nutzungsrichtlinien von Anthropic enthielten bereits zuvor Einschränkungen gegen missbräuchliches Verhalten: Die großen Sprachmodelle (LLMs) des Unternehmens haben die Möglichkeit, eine Konversation zu beenden, wenn ein Benutzer sich „wiederholt schädlich“ verhält.

„Wir sind uns hinsichtlich des möglichen moralischen Status von Claude und den anderen LLM-Modellen, sowohl aktuell als auch zukünftig, weiterhin unsicher . Wir nehmen diese Angelegenheit jedoch sehr ernst und arbeiten parallel zu unserem Forschungsprogramm daran, kostengünstige Maßnahmen zur Minderung von Risiken für das Wohlbefinden der Modelle zu entwickeln und umzusetzen, sofern dies überhaupt möglich ist. Eine solche Maßnahme ist es, den Modellen zu ermöglichen, potenziell belastende Interaktionen zu unterbrechen oder zu beenden“, heißt es auf der Website des Unternehmens.

Wie die BBC berichtet, wurden Screenshots der neuen Richtlinie in den sozialen Medien vielfach geteilt und kommentiert . Einige lobten sie als Beispiel für gute Manieren oder als „Wohlfahrtsmodell“, während andere den Plan kritisierten: „Mit Zahlen und Mathematik kann man nicht grausam sein“, schrieb Barry Scannell, Technologiepartner der irischen Anwaltskanzlei William Fry, auf LinkedIn.

(Unioneonline)

© Riproduzione riservata