Es kommt nicht häufig vor, dass der amerikanische Finanzminister und der Chef der US-Notenbank die Chefs der größten Wall-Street-Banken zusammenrufen, um sie vor einer neuen Technologie zu warnen. Genau das geschah im April. Scott Bessent und Jerome Powell wollten sicherstellen, dass die Banken auf die Cyberfähigkeiten neuer KI-Modelle vorbereitet sind. Im Mittelpunkt stand ein Modell von Anthropic, das selbstständig Sicherheitslücken finden und ausnutzen kann.

Luxemburg soll genau hinhören

In Luxemburg sollte man bei solchen Nachrichten genau hinhören. Rund ein Viertel der Wirtschaftsleistung entfällt hierzulande auf den Finanzsektor. Gerät das internationale Finanzsystem ins Visier einer neuen Generation von Cyberangriffen, steht für Luxemburg besonders viel auf dem Spiel.

Seit dem Treffen in Washington sind die Warnungen nicht weniger geworden. Ende August warnte das Financial Stability Board die G20 vor den Cyberrisiken sogenannter Frontier-KI, also der derzeit leistungsfähigsten KI-Modelle. Sie könnten Cyberangriffe schneller, größer und billiger machen.

Dass die Gefahr nicht nur theoretisch ist, zeigen ausgerechnet die Entwickler selbst. Mehr als 100 Unternehmen und Organisationen warnten Ende August vor einer neuen Welle KI-gestützter Cyberangriffe. Bei Sicherheitstests gelangten Modelle von OpenAI und Anthropic bereits aus ihren vorgesehenen Testumgebungen heraus und griffen reale Systeme an. OpenAIs kommendes Modell Astra kann zudem bislang unbekannte Sicherheitslücken finden und ausnutzen.

Grenzen verschieben sich rasant

Das bedeutet nicht, dass eine KI plötzlich einen eigenen Willen entwickelt. Es zeigt aber, wie schnell sich die Grenzen des technisch Möglichen verschieben. Und damit stellt sich eine Frage, die immer drängender wird: Wie reguliert man eine Technologie, von der niemand weiß, wozu sie in zwei oder drei Jahren fähig sein wird?

Die EU hat mit dem AI Act versucht, darauf eine Antwort zu geben. Aber die EU-Verordnung wurde für eine Technologie geschrieben, die sich seit Beginn der Verhandlungen bereits grundlegend verändert hat. Neue Fähigkeiten entstehen innerhalb weniger Monate. Gesetze brauchen dagegen oft Jahre. Einige Regeln für Hochrisiko-Systeme werden sogar erst 2027 beziehungsweise 2028 gelten.

Der AI Act versucht zwar, diese Entwicklung mit Risikokategorien, besonderen Regeln für besonders leistungsfähige Modelle und regelmäßigen Anpassungen aufzufangen. Doch wer kann heute schon sagen, was die nächsten Modelle für Fähigkeiten haben? Regulierung läuft damit Gefahr, einer Technologie hinterherzulaufen, die sie eigentlich unter Kontrolle halten soll.

Regulierung neu denken

Das macht Regulierung nicht überflüssig. Im Gegenteil. In den USA wird sie vor allem als mögliches Hindernis im KI-Wettrennen mit China gesehen. Gleichzeitig muss der amerikanische Finanzminister die größten Banken des Landes vor den Cyberfähigkeiten amerikanischer KI-Modelle warnen.

Europa wird das Problem aber auch mit dem AI Act nicht alleine lösen können. Es braucht internationale Mindeststandards und Regeln, die sich an den tatsächlichen Fähigkeiten der Modelle orientieren und schnell angepasst werden können. Das dürfte schwierig genug werden. Schon die USA und Europa verfolgen völlig unterschiedliche Ansätze. China kommt noch hinzu.

Unser Wohlstand hängt zu einem erheblichen Teil an einem funktionierenden internationalen Finanzsystem. Die Vorstellung, eine Technologie, die sich in diesem Tempo entwickelt, mit den klassischen Instrumenten der Politik dauerhaft kontrollieren zu können, ist wahrscheinlich eine Illusion. Regulierung muss also neu gedacht werden. Fragt sich nur, wie.