Seien Sie vorsichtig, wie Sie KI einsetzen und wen Sie ansprechen. Eine Warnung für Verbraucher ist die jüngste Geldbuße des Datenschutzbeauftragten gegen das amerikanische Unternehmen Luka Inc., das den Chatbot „Replika“ betreibt: Das Unternehmen muss fünf Millionen Euro zahlen, weil es die Rechtsgrundlagen für die Verarbeitung personenbezogener Daten nicht angegeben hat. Darüber hinaus habe das Unternehmen „in vielerlei Hinsicht eine unzureichende Datenschutzrichtlinie bereitgestellt“. Darüber hinaus hat der Datenschutzbeauftragte eine unabhängige Untersuchung eingeleitet, um die korrekte Verarbeitung personenbezogener Daten durch das dem Dienst zugrunde liegende generative künstliche Intelligenzsystem zu überprüfen.

Aber worüber reden wir? Replika ist ein Chatbot, der das emotionale Wohlbefinden der Benutzer verbessern soll, indem er ihnen hilft, ihre Gedanken und Gefühle zu verstehen, ihre Stimmung zu überwachen, mit Stress umzugehen und an persönlichen Wachstumszielen zu arbeiten. Benutzer können ihrem „virtuellen Begleiter“ verschiedene Rollen zuweisen, darunter Freund, Therapeut, Lebenspartner oder Mentor. Der Dienst basiert auf einem System generativer künstlicher Intelligenz, insbesondere auf einem Large Language Model (Llm), einem probabilistischen Modell der natürlichen Sprache, das durch die Interaktion mit den Benutzern kontinuierlich verbessert wird. Diese Art künstlicher Intelligenz verwendet neuronale Algorithmen, um als Reaktion auf Benutzereingaben originelle Inhalte zu erstellen, die von der Textgenerierung bis zur Produktion von Bildern, Tönen und Videos reichen.

Der Chatbot, der sowohl über eine schriftliche als auch eine Sprachschnittstelle verfügt, ermöglicht es Benutzern, einen „virtuellen Freund“ zu „generieren“, der als Vertrauter, Therapeut, romantischer Partner oder Mentor fungieren kann.

Der Garant stellte außerdem fest, dass das Unternehmen weder bei der Registrierung für den Dienst noch während seiner Nutzung einen Mechanismus zur Überprüfung des Alters der Benutzer bereitstellte, obwohl das Unternehmen erklärte, dass es Minderjährige unter den potenziellen Benutzern ausschließe. Aus den durchgeführten technischen Untersuchungen ging hervor, dass das derzeit vom Eigentümer implementierte Altersverifizierungssystem in vielen Punkten weiterhin Mängel aufweist.

In der Informationsanfrage, die die neue Untersuchung einleitete, bat der Garant Luka um Klarstellungen bezüglich der Verarbeitung von Daten im Zusammenhang mit dem gesamten Lebenszyklus des dem Dienst zugrunde liegenden generativen KI-Systems . Insbesondere im Hinblick auf die Risikobewertung und die zum Schutz der Daten ergriffenen Maßnahmen in den verschiedenen Phasen der Entwicklung und des Trainings des „Replika“ zugrunde liegenden linguistischen Modells, die Arten und Kategorien der verwendeten Daten sowie die mögliche Implementierung von Anonymisierungs- oder Pseudonymisierungsmaßnahmen.

(Unioneonline/E.Fr.)

© Riproduzione riservata