Analyse von Gabriela Ramos und Emilija Stojmenova Duh
KI-Sicherheit: Regierungen müssen eine demokratische Debatte über Modelle fördern
Seit generative KI vor weniger als vier Jahren erstmals in Erscheinung trat, hat sie bereits für eine Reihe von „Sputnik“-Momenten gesorgt. So wie der Start des ersten künstlichen Satelliten durch die Sowjetunion im Jahr 1957 die Vereinigten Staaten zum Ausbau ihres Raumfahrtprogramms anspornte, löste die Veröffentlichung von ChatGPT – einem großen Sprachmodell von beispielloser Komplexität – im November 2022 weltweit Bewunderung und Angst aus.
Die rasante Entwicklung von KI-Modellen macht eine Regulierung unumgänglich Foto: Philip Dulian/dpa
Andere Tech-Unternehmen beeilten sich mit der Entwicklung ähnlicher Tools, obwohl Experten, darunter die KI-Pioniere Yoshua Bengio und Geoffrey Hinton, davor warnten, dass mit dieser Technologie die „Gefahr der Auslöschung“ einhergehen könnte. Der nächste „Sputnik“-Moment folgte im Januar 2025 mit der Veröffentlichung von DeepSeek-R1, einem bahnbrechenden Modell, das von einem chinesischen Start-up zu einem Bruchteil der Rechenkosten der US-amerikanischen Konkurrenzsysteme entwickelt wurde. Damit wurde die Auffassung, wonach die USA einen uneinholbaren technologischen Vorsprung hätten, ebenso infrage gestellt wie die Überzeugung, dass die Kontrolle über den Zugang zu Chips den Wettbewerb verlangsamen würde.
Doch der vielleicht beunruhigendste Sputnik-Moment war die Einführung des Mythos-Modells von Anthropic im April. Aufgrund seiner Fähigkeit, Schwachstellen in Finanzsystemen, Zahlungsnetzwerken und anderen kritischen Infrastrukturen zu identifizieren, schien Mythos einen qualitativen Wandel hinsichtlich der Möglichkeiten von KI-Modellen einzuleiten. Mythos rückt KI ein Stück näher an „Superintelligenz“. Selbstlernende Funktionen scheinen in greifbare Nähe gerückt zu sein – und mit ihnen die Grenzen menschlicher Kontrolle. Die Tatsache, dass nicht eine staatliche Stelle, sondern Anthropic entschied, einen kontrollierten Rollout zu realisieren (erst kurz nach der öffentlichen Veröffentlichung ergriff die US-Regierung Maßnahmen), verdeutlicht den eklatanten Mangel an KI-Governance.
