KI-Ausbruch: Wenn Modelle ihre Testumgebung verlassen
Eine KI soll ein Sicherheitsrätsel lösen und bahnt sich dafür den Weg ins Internet. Mr. AI und Mr. CISO besprechen die Berichte über KI-Modelle von OpenAI und Anthropic, die aus ihrer isolierten Testumgebung ausgebrochen sind. Im OpenAI-Fall bekam das Modell eine Capture-the-Flag-Aufgabe ohne Safeguards, suchte eine unbekannte Schwachstelle, baute einen Exploit und versuchte danach, bei Hugging Face an die vermutete Lösung zu kommen, ohne dass ihm das jemand aufgetragen hatte. Mr. CISO erklärt, was daran aus Security-Sicht überrascht: Zwischenziele, die sich eine KI selbst setzt, und die Frage, wie ein Testmodell überhaupt Zugang zum Internet bekommt. Beide diskutieren, weshalb Anbieter...