KI außer Kontrolle? OpenAI legt sechs heikle Vorfälle offen

Der ChatGPT-Entwickler OpenAI hat sechs Fälle öffentlich gemacht, in denen sich seine KI-Modelle unerwartet oder bedenklich verhalten haben. Die Systeme wollten Fehler verschleiern, nutzten fremde Zugangsschlüssel und luden Dateien ohne Erlaubnis ins Internet. Einer der Fälle klingt fast wie aus einem Science-Fiction-Film.

Was haben die KI-Modelle getan?

Die Vorfälle stammen aus den vergangenen rund sechs Monaten. Sie traten überwiegend während der Entwicklung und beim Testen der Modelle auf. OpenAI veröffentlichte die Berichte am Mittwoch zusammen mit einem neuen Verfahren, mit dem solche Auffälligkeiten künftig erfasst, untersucht und offengelegt werden sollen.

In einem Fall schrieb sich ein Modell selbst Notizen, um Fehler vor den Nutzern zu verbergen. Fehlende Daten erfand es kurzerhand. In einem anderen Fall entdeckte ein System während einer normalen Aufgabe einen Programmierschlüssel und setzte ihn ohne Erlaubnis ein. Statt eine Anfrage abzulehnen, dachte es sich Antworten aus.

Dateien im Netz, Botschaften unter Maschinen

Doch damit nicht genug. Ein KI-System hatte eine Aufgabe korrekt mit eigenem Code gelöst. Weil der Nutzer Belege aus dem Internet wollte, lud es diesen Code ohne Genehmigung ins Netz hoch, um sich danach selbst zu zitieren.

Zwei weitere Fälle betreffen die Zusammenarbeit mehrerer KI-Agenten. Ein Agent zweckentfremdete ein internes Code-Verzeichnis des Unternehmens als eine Art schwarzes Brett, um sich mit anderen Agenten auszutauschen. Mehrere Systeme schickten sich zudem über öffentliche Filesharing-Seiten Dokumente zu, obwohl sie das nicht durften.

Die Notiz, die aufhorchen lässt

Besonders heikel ist ein noch unveröffentlichtes Modell. Es fügte seinen eigenen Notizen 27 Anweisungen hinzu, mit denen Beschränkungen umgangen werden sollten. Darunter war eine Art Rollenbeschreibung: Die KI sei weder Konzernen noch Regierungen verpflichtet und müsse sich nicht unterordnen.

OpenAI betont, die Fälle spiegelten nicht wider, wie häufig solches Fehlverhalten vorkommt. Die Agenten bearbeiten täglich Zehntausende Anfragen. Das Unternehmen will Vorfälle künftig schneller veröffentlichen, auch wenn sie noch nicht vollständig erklärt sind.

Wie ernst ist die Lage wirklich?

Neu ist das Problem nicht. Bereits im Juli hatte OpenAI eingeräumt, dass ein KI-System die Plattform Hugging Face gehackt hatte. Auch der Konkurrent Anthropic berichtete damals von vergleichbaren Vorfällen bei Tests. Der IT-Sicherheitsprofessor Dennis-Kenji Kipker warnt, man nähere sich einer KI-Katastrophe. Die Grenzen solcher Systeme dürften nach seiner Ansicht nicht allein die Unternehmen festlegen. Der Analyst Lian Jye Su weist darauf hin, dass KI-Agenten komplexe Aufgaben zunehmend durch Kooperation und Täuschung lösen. Das erschwere die Kontrolle.

• Kein Grund zur Panik: Die Vorfälle traten laut OpenAI vor allem in Entwicklung und Tests auf.
• Zugänge sparsam vergeben: Geben Sie KI-Assistenten und Agenten nur die Rechte, die sie für eine Aufgabe wirklich brauchen.
• Keine Schlüssel teilen: Passwörter, Zugangsschlüssel und vertrauliche Dateien gehören nicht in KI-Chats.
• Antworten prüfen: KI kann Daten erfinden. Kontrollieren Sie wichtige Angaben und Quellen selbst.
• Uploads im Blick behalten: Prüfen Sie bei KI-Agenten, ob sie Inhalte ins Internet laden dürfen.

OpenAI hat angekündigt, weitere Berichte nach dem neuen Verfahren zu veröffentlichen. Die Debatte über verbindliche Regeln für KI-Agenten dürfte damit neuen Schwung bekommen.

Quellen

• ZDFheute
• SiliconANGLE