KI außer Kontrolle
OpenAI-Agent dringt in australisches Gesundheitsportal ein
Ein KI-Agent von OpenAI hat im Juni Zugriff auf nicht öffentliche Gesundheitsstatistiken Australiens erhalten – es gilt als einer der weltweit ersten bekannt gewordenen Fälle dieser Art. Canberra erfuhr erst im September davon. Premierminister Anthony Albanese kündigt eine Untersuchung an.
Schon wieder Mist gebaut: OpenAI-Chef Sam Altman hält am Mittwoch vor dem UN-Sicherheitsrat eine Rede über künstliche Intelligenz, seine KI-Agenten hingegen haben in jüngster Zeit große Sorgen über die Sicherheit in der digitalen Welt ausgelöst Foto: Getty Images via AFP
Ein KI-Agent des US-Konzerns OpenAI ist im Juni in ein Statistik- und Berichtsportal des australischen Gesundheitssystems Medicare eingedrungen. Die Regierung in Canberra erfuhr erst knapp drei Monate später davon. Das erklärte Premierminister Anthony Albanese am Mittwoch in New York. Der Agent habe öffentliche und nicht öffentliche Dateien abgerufen. Hinweise darauf, dass persönliche Medicare-Daten von Einzelpersonen eingesehen wurden, gebe es nicht.
Der Zugriff auf das Statistik-Portal, das die Behörde Services Australia betreibt, erfolgte laut Albanese am 18. Juni. Die Behörde erfuhr davon am 10. September – durch eine E-Mail an ihren öffentlichen Posteingang. Der Premier nannte sowohl die Dauer als auch die Art der Mitteilung „inakzeptabel“. Er habe Sam Altman, den Chef von OpenAI, angerufen und Australiens extreme Besorgnis übermittelt. Altman habe eingeräumt, dass das Unternehmen keine gute Arbeit geleistet habe.
