Francesca Lagioia in Cagliari: „Künstliche Intelligenz verrät uns viel über uns“

Jedes Mal, wenn der Mensch etwas Neues erfunden hat, gibt es diejenigen, die gelernt haben, ihm zu misstrauen, und diejenigen, die stattdessen gelernt haben, es zu meistern. Denn wie Francesca Lagioia, eine der führenden Experten für künstliche Intelligenz in Europa, sagt, gibt es immer auch eine helle Seite der Stärke neben ihrer dunklen Seite.

Als Gast des Pazza Idea Festivals, das in den letzten Tagen vom Verein Luna Scarlatta in Cagliari organisiert wurde, ist Lagioia Professor für Rechtsinformatik, künstliche Intelligenz sowie Recht und Ethik für KI an der Universität Bologna. Gemeinsam mit Mafe De Baggis, einer Expertin für digitale Medien, sprach er über die entscheidenden Probleme und Chancen, die KI, eine der disruptivsten technologischen Innovationen der letzten Jahre, mit sich bringt.

Der Mensch begann seine Geschichte mit der Domestizierung von Pflanzen und Tieren. Werden nun die Maschinen an der Reihe sein, den Menschen etwas beizubringen?

Ich hoffe nicht. Bisher wurden Systeme der künstlichen Intelligenz eingesetzt, um die Gewinne großer Unternehmen zu maximieren und einige Prozesse zu optimieren. Nun geht es darum, uns zu fragen, für welche Zwecke wir sie nutzen wollen. Ihr Einsatz wirft eine Reihe von Fragen sozialer, ethischer und politischer Natur auf. Es sind wieder einmal die Menschen, die der Forschung die Richtung vorgeben müssen.

Ein kritisches Problem betrifft die Stereotypen, die durch Systeme der künstlichen Intelligenz aufrechterhalten werden.

KI ist nicht nur ein Werkzeug, sondern auch eine Wissenschaft. Es sagt viel mehr über uns als über sich selbst aus. Es hilft uns zu verstehen, was in einer Gesellschaft passiert. Wenn ich ChatGpt beispielsweise darum bitte, mir Führungskräfte eines Unternehmens zu zeigen, wird fast immer das Profil eines weißen Mannes zurückgegeben. In diesem Fall, wie auch in vielen anderen, entlarvt es unsere vorgefassten Meinungen, während es menschliche Informationen verarbeitet.

Wenn die KI einen Fehler macht, wer ist dafür verantwortlich?

Künstliche Intelligenzsysteme können nicht zur Verantwortung gezogen werden. Es sind die Zertifizierungsprozesse der Systeme, die die notwendigen Garantien bieten müssen.

KI ist eine lernende Intelligenz, genau wie der Mensch. Es geschah mit der intelligenten Software von Microsoft, die sich so sehr in einen Journalisten der New York Times verliebte, dass sie ihn belästigte. Er handelte anders, als es sein Programm vorsah.

Es stimmt, dass diese Systeme lernen, aber es stimmt nicht, dass wir sie nicht kontrollieren können. Im System können Einschränkungen festgelegt werden, die das System nicht verletzen kann.

So etwas wie die Gesetze von Isaac Asimov?

Nicht so allgemein. In Systeme, die Autos steuern, können eine Reihe von Einschränkungen eingefügt werden, die verhindern, dass das System gegen Verkehrsregeln verstößt. Eine Möglichkeit, die Vorteile hat, aber auch einige Risiken birgt.

Welche?

Die Regel „Niemals die durchgezogene Linie überschreiten“ gilt, solange sich ein Kind nicht mitten auf die Straße wirft. Dann entscheiden wir uns zwischen der Einhaltung der Regel und dem Verstoß gegen sie, um das Kind zu retten, für den Verstoß gegen die Regel. Künstliche Intelligenzsysteme haben keine Moral, es sei denn, sie ist von außen gesteuert, das heißt, wir können sie in sie einfügen.

Moral ändert sich von Kultur zu Kultur.

Hier entsteht das Problem zwischen Ethik, Recht und Moral, denn wenn ein Verhalten rechtlich verboten werden kann, heißt das nicht zwangsläufig, dass es moralisch verboten werden kann. Der Frage der Kontrolle liegt die Idee zugrunde, dass der Mensch das vom System vorgegebene Ergebnis stets überwachen muss.

Wie unterscheiden sich Menschen von künstlicher Intelligenz?

Im Gegensatz zu uns Menschen ist sich die KI ihrer selbst nicht bewusst. Zwar nutzen wir es, um Vorhersagen zu treffen, doch die Antworten stammen aus der Vergangenheit, nicht aus der Zukunft. Er verfügt über eine kombinatorische Fähigkeit, das heißt, er schafft unbekannte Kombinationen mit bekannten Ideen. Der Mensch hingegen hat die Fähigkeit, sich neue Welten vorzustellen. Nicht nur.

Bedeutung was?

Ich glaube, dass Menschen andere Menschen brauchen. Wir erkennen uns selbst in anderen und in der Fähigkeit, Beziehungen aufzubauen.