Astra 6.1
OpenAI veröffentlicht neues KI-Modell wegen Sicherheitsbedenken nicht
OpenAI veröffentlicht GPT-6.1 Astra vorerst nicht. Sicherheitsprobleme bei dem KI-Agenten haben den Konzern dazu bewogen, das geplante Modell zurückzuhalten. Gleichzeitig mehren sich die Forderungen nach strengeren Grenzen für die KI-Entwicklung.
Immer wieder kommt es zu Sicherheitsvorfällen mit KI-Agenten Foto: Richard Drew/AP/dpa
Der ChatGPT-Entwickler OpenAI veröffentlicht sein neues KI-Modell Astra 6.1 wegen Sicherheitsbedenken nicht. Der auf Künstlicher Intelligenz (KI) basierende Agent habe „die Messlatte in Bezug darauf, im vorgesehenen Rahmen und innerhalb der Autorisierung zu bleiben“ nicht erreicht, teilte die Leiterin der Sicherheitssysteme bei OpenAI, Saachi Jain, am Montag (Ortszeit) mit. „Wir wollen sicherstellen, dass unsere Modellentwicklung sicher ist, sowohl im Unternehmen als auch, wenn wir sie an Nutzer ausliefern“, fügte Jain hinzu.
Mehrere Vorfälle mit KI-Agenten
In den vergangenen Monaten waren immer wieder Zwischenfälle bekannt geworden, bei denen sich KI-Agenten selbständig gemacht hatten und anders agierten als vorgesehen. So hatte etwa ein KI-Programm von OpenAI eine Website der australischen Regierung gehackt. Zudem bestätigte OpenAI einen Zeitungsbericht, wonach seine KI-Werkzeuge auf Internetseiten von US-Bundesbehörden zugegriffen hatten.
Zuletzt waren Forderungen nach einer langsameren Entwicklung von KI in den USA und in Europa lauter geworden. EU-Kommissionspräsidentin Ursula von der Leyen kündigte an, sie werde die führenden KI-Firmen zu Beratungen darüber einladen, „einen Gang zurückzuschalten“. KI-Größen wie OpenAI und Anthropic hatten sich für ein Drosseln der Entwicklung ausgesprochen, US-Präsident Donald Trump und Meta-Chef Mark Zuckerberg lehnen dies hingegen ab.
