Tod durch KI – so lautete die Überschrift eines Editorials vor wenigen Wochen an dieser Stelle. Anlass war der Tod einer Ukrainerin durch eine KI-gesteuerte Drohne, die von der Zielfindung bis zum tödlichen Angriff auf Propantanks vollkommen autonom agierte, ohne jeden menschlichen Eingriff. Was damals wie eine Zäsur in der modernen Kriegsführung wirkte, erscheint angesichts neuer Prognosen inzwischen überholt.

Anthropics eigene KI-Forscher halten es für „nicht unwahrscheinlich“, dass künstliche Intelligenz alles menschliche Leben auf der Erde auslöschen könnte – mit einer Wahrscheinlichkeit von rund 10 Prozent. So lautet die persönliche Einschätzung von Evan Hubinger, der bei Anthropic den Bereich „Alignment Science“ leitet. Andere Experten bezeichnen diese Größenordnung als „nicht unvernünftig“. Kurz zuvor hatte Jacob Coxon, ein ehemaliger Anthropic-Mitarbeiter, dem Unternehmen und OpenAI vorgeworfen, im Wettlauf um selbstverbessernde Superintelligenz leichtfertig mit dem Leben der Menschen zu spielen – und seinen Job aus eben diesen Befürchtungen hingeworfen.

Anthropic-Chef Dario Amodei warnte in seinem am Wochenende veröffentlichten Essay „We must pace the Frontier“ vor einer zu schnell voranschreitenden KI‑Entwicklung. Er befürchtet, sie könnte eher zum Bau biologischer Waffen missbraucht werden, als zur Entwicklung von Krebstherapien beizutragen – oder binnen sechs bis zwölf Monaten das gesamte Internet übernehmen. Die möglichen Katastrophenszenarien scheinen kein Ende zu nehmen.

Im selben Atemzug fordert Amodei eine stärkere Regulierung der künstlichen Intelligenz. Was daraufhin geschah, dürfte in der Geschichte des Silicon Valley beispiellos sein: OpenAI-Gründer Sam Altman, Elon Musk und auch die Köpfe hinter Googles KI-Sparte DeepMind schlossen sich der Forderung nach mehr Regulierung an. Tech-Bosse, die noch vor wenigen Monaten Millionen, wenn nicht Milliarden Dollar in Lobbyarbeit gesteckt hatten, um jede Regulierung zu verhindern, wollen das Entwicklungstempo nun freiwillig drosseln. Weniger begeistert von der Idee zeigen sich hingegen jene Firmenchefs, die noch versuchen, ihren Rückstand auf Claude, ChatGPT & Co. aufzuholen.

Auch das Weiße Haus winkt ab und wird nicht eingreifen. Man fürchtet dort, im Wettrennen gegen China durch Regulierung ins Hintertreffen zu geraten. „Whoever wins AI, wins“, brachte es US-Präsident Donald Trump auf den Punkt. Er vermutet „negative Kräfte“ hinter den Warnungen aus der Tech-Branche. Amodeis Vorschlag, China vom Kauf KI-fähiger Chips und Halbleiter auszuschließen, dürfte schon aus wirtschaftlichen Gründen kaum Gehör finden: Das weltweit führende KI-Chip-Unternehmen Nvidia – dessen Chip auch in der eingangs erwähnten russischen Drohne verbaut war – hat seinen Sitz ebenfalls in den USA.

„Ich denke, dass KI wahrscheinlich, höchstwahrscheinlich, irgendwie zum Ende der Welt führen wird. Aber bis dahin werden großartige Unternehmen entstehen, die auf ernst zu nehmendem maschinellem Lernen basieren“ – so lautet ein berühmt-berüchtigtes Zitat von Sam Altman. Gesagt hat er es bereits 2015, noch bevor OpenAI überhaupt gegründet war. Damals steckten maschinelles Lernen und künstliche Intelligenz noch in den Kinderschuhen. Ein Jahrzehnt später zeichnet sich ab: Er könnte mit dieser Aussage richtiger gelegen haben, als ihm selbst lieb ist.