Aufruf
Führende KI-Experten fordern Verlangsamung der Veröffentlichung neuer Modelle
Anthropic-Chef Dario Amodei und mehr als 1.000 teils führende Mitarbeitende in großen KI-Unternehmen haben die US-Regierung am Dienstag in einer Petition zur Mithilfe dabei aufgefordert, die Veröffentlichung der fortschrittlichsten KI-Modelle zu verlangsamen.
OpenAI-CEO Sam Altman glaubt, dass die KI die menschliche Intelligenz und Kontrolle bereits überschritten hat Foto: Jason Redmond/AFP
Die Unterzeichner der Petition fordern, „dass die US-Regierung internationale Bemühungen unterstützt, die notwendigen technischen und regulatorischen Werkzeuge zu entwickeln, um die Grenzen der Entwicklung automatisierter KI bewusst zu steuern“.
Unter den Unterzeichnerinnen und Unterzeichnern sind die Forschungsleiter von ChatGPT-Entwickler OpenAI und Meta AI sowie der Strategieleiter der Google-Tochter DeepMind. „Die weltweit führenden KI-Unternehmen glauben, dass sie kurz davorstehen könnten, die KI-Forschung zu automatisieren“, heißt es in dem Petitionstext. „Es ist schwer, genau vorauszusagen, wie sehr dies den KI-Fortschritt beschleunigen wird, doch besteht die reale Gefahr, dass sich die Entwicklung dieser Fähigkeiten so rasant beschleunigt, dass wir sie nicht mehr verstehen oder kontrollieren können.“
OpenAI-Chef Sam Altman ist nicht unter den Unterzeichnern. In einem am Dienstag veröffentlichten Interview sagte er jedoch, dass Entwickler bei den rapiden Fortschritten ihrer KI-Modelle möglicherweise freiwillig auf die Bremse treten müssten, damit die Gesellschaft eine Chance bekomme, Schritt zu halten.
OpenAI hatte in der vergangenen Woche offengelegt, dass seine KI-Modelle selbstständig einen Cyberangriff unternommen und dabei die Sicherheitsprotokolle umgangen hatten, die so etwas verhindern sollten. Bei einem Test brachen die Modelle aus ihrem isolierten Testumfeld aus, wie OpenAI mitteilte. Sie verbanden sich mit dem Internet und infiltrierten die Plattform „Hugging Face“ – eine Website, die Softwareentwickler nutzen, um Codes zu speichern und auszutauschen.
Singularität bereits überschritten
Es war nicht das erste Mal, dass ein Modell der Kontrolle seiner Entwickler entwischte – doch der Vorfall galt als besonders beunruhigend. OpenAI „pausierte“ in der Folge seine eigenen Tests und verbesserte die Sicherheitsmaßnahmen, sagte Altman in dem Podcast „Invest Like the Best“. Aber langfristig werde sich die Industrie wohl auf eine Verlangsamung der Entwicklung einigen müssen.
Eine solche Initiative müsse „so umgesetzt werden, dass sie weder für irgendjemanden wie eine Vereinnahmung der Regulierungsbehörden wirkt, noch wie eine Absprache zwischen den führenden Forschungslabors“, fuhr Altman fort. Das werde einige Zeit in Anspruch nehmen.
In einem weiteren Podcast hatte der OpenAI-Chef am Samstag gesagt, er glaube, dass die sogenannte Singularität bereits erreicht worden sei. Mit Singularität wird der hypothetische Zeitpunkt bezeichnet, zu dem die Technologie so weit fortgeschritten ist, dass sie die menschliche Intelligenz und Kontrolle überschreitet. „Dies ist der Moment“, sagte Altman in dem Podcast „Relentless“.
Unkontrollierter KI-Hackerangriff größer als angenommen
Der unkontrollierte Hackerangriff durch Künstliche Intelligenz (KI) Mitte Juli hatte nach Angaben des US-Unternehmens OpenAI ein noch größeres Ausmaß als bisher angenommen. OpenAI erklärte am Mittwoch, es seien auch Konten bei vier „öffentlich zugänglichen Diensten“ geknackt worden. Die betroffenen Unternehmen nannte OpenAI nicht.
Das Unternehmen aus San Francisco hatte vergangene Woche bekannt gemacht, dass sich ein eigener KI-Agent während eines Sicherheitstests selbstständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform „Hugging Face“ unternommen habe. Es habe sich um einen „nie dagewesenen Cybervorfall“ gehandelt, erklärte das Unternehmen.
Der Vorfall ereignete sich laut OpenAI bei einem Testlauf mehrerer leistungsfähiger KI-Modelle, darunter das kürzlich veröffentlichte GPT-5.6. Zur Sicherheit war bei dem Test der Internetzugang eingeschränkt – doch dem Agenten gelang es, eigenständig ins Netz zu gelangen und den Cyberangriff zu starten.
