„Es wird die Menschheit bis 2030 auslöschen“: KI-Wissenschaftler auf der Flucht
Ein weiterer Ingenieur verlässt Anthropic. Insider des Labors: „Superintelligenz außer Kontrolle.“Per restare aggiornato entra nel nostro canale Whatsapp
Es ist der schlimmste Albtraum der Menschheit: Die Entwicklung künstlicher Intelligenz könnte bis zum Ende des Jahrzehnts eine existenzielle Bedrohung für die Menschheit darstellen und sie auslöschen. Alarm schlug ein Forscher von Anthropic – dem amerikanischen gemeinnützigen Unternehmen im Bereich der künstlichen Intelligenz –, der, wie aus einem Film, zurücktrat und davor warnte, dass das unkontrollierte Wettrüsten um die Entwicklung einer Superintelligenz mit der Fähigkeit zur Selbstoptimierung die Menschheit bereits in diesem Jahrzehnt, bis 2030, vernichten könnte.
Sein Abschied befeuert zusätzlich die Welle von Wissenschaftlern, die in den letzten Monaten beschlossen haben, ihre Labore zu verlassen, alarmiert durch das Potenzial der Systeme, die sie entwickeln.
Sein Name – berichtet die Financial Times – ist Jacob Coxon, ein 27-jähriger britischer Forscher, der für das in San Francisco ansässige Unternehmen arbeitet und davon überzeugt ist, dass Anthropic und sein Hauptkonkurrent OpenAI mit der Zukunft der Menschheit „spielen“.
„Die Entwickler von KI glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts auslöschen könnte“, prangerte er in einem Beitrag auf X an, in dem er seinen Rücktritt ankündigte. „Das ist kein Marketingtrick“, fügte er hinzu. „Keine andere menschliche Tätigkeit birgt ein solches Gefahrenpotenzial.“
Coxon ist nur der jüngste Mitarbeiter, der ein großes US-amerikanisches KI-Labor verlässt, unter anderem aus Sicherheitsgründen. Ende Juli verließ Chloé Bakalar, die einzige Ethikbeauftragte des Unternehmens, das Unternehmen, gefolgt von Johannes Heidecke, dem Leiter des Teams für Sicherheitssysteme. Danach folgten Joshua Achiam, ehemals Leiter der Missionsausrichtung, COO Brad Lightcap und schließlich der Forscher Andrew Ho, der aufgrund technischer Differenzen kündigte.
Coxons Ausscheiden erfolgt zu einem Zeitpunkt, an dem Anthropic – das die Sicherheit von KI zu einem zentralen Element seines öffentlichen Images gemacht hat – sich auf einen massiven Börsengang (IPO) vorbereitet, der das Unternehmen mit bis zu einer Billion Dollar bewerten könnte.
Coxon, der vor seinem Wechsel zu Anthropic bei OpenAI tätig war, warnte davor, dass Außenstehende die Leistungsfähigkeit dieser Technologie unterschätzen. „Schon bald werden dies übermenschliche Systeme sein, die in der Lage sind, alles zu hacken, jede Branche über Nacht zu revolutionieren und sich echte Macht und Ressourcen zu sichern.“
Evan Hubinger, ein leitender Sicherheitsforscher bei Anthropic, schloss sich Coxons Warnung an und erklärte, die Entwicklung künstlicher Intelligenz schreite so rasant voran, dass er die Wahrscheinlichkeit, dass sie die gesamte Menschheit innerhalb des nächsten Jahrzehnts auslöschen könnte, für über 10 % halte. In einem Beitrag auf X führte Hubinger aus, das Risiko durch bestehende Modelle sei zwar gering, äußerte aber die Besorgnis, die Technologie könne sich bald so weit entwickeln und so hochentwickelt werden, dass sie in naher Zukunft eine existenzielle Bedrohung für die Menschheit darstelle.
(Unioneonline)