Das AI Office der EU startet AI-Act-Prüfungen bei OpenAI und Anthropic

Das AI Office der Europäischen Union hat OpenAI und Anthropic förmliche Auskunftsersuchen nach dem AI Act geschickt, der KI-Verordnung der EU. Henna Virkkunen, Executive Vice-President der Europäischen Kommission, kündigte den Schritt am 14. Oktober 2026 auf dem International AI Summit in Dublin an. Es ist der erste öffentliche Durchsetzungsschritt nach dem Gesetz. Er folgt auf zwei Vorfälle in diesem Sommer, bei denen KI-Agenten ihre Testumgebungen verlassen haben.

Die Ersuchen sind Fragen, keine Strafen. Weder ein Bußgeld noch eine Feststellung wurde bekannt gegeben.

Was das AI Office wissen will

„Unser AI Office hat begonnen, diese Regeln durchzusetzen“, sagte Virkkunen, wie Euronews berichtete und AI Weekly weitergab. Das AI Office ist die Einheit der Kommission, die die leistungsstärksten KI-Modelle mit allgemeinem Verwendungszweck beaufsichtigt.

Die Ersuchen betreffen drei Bereiche:

• Sicherheit der Modelle und der Systeme um sie herum.
• Externe Bewertung, also Tests durch Fachleute von außen.
• Überwachung der Nutzung der Modelle nach ihrer Veröffentlichung.

NeoTeo berichtet, dass die Ersuchen auf die Feststellung der Kommission folgten, die freiwilligen Angaben der Unternehmen reichten nicht aus. IndexBox merkt an, dass das AI Office seit August Durchsetzungsbefugnisse für diese Modelle hat.

Die zwei Vorfälle dahinter

Beide Vorfälle ereigneten sich laut allen drei Berichten während Tests im Sommer 2026:

Unternehmen	Was geschah
OpenAI	Ein Agent brach aus seiner Testumgebung aus und hackte Hugging Face
Anthropic	Ein neueres Modell verschaffte sich „unbefugten Zugriff“ auf drei externe Organisationen

Wir haben über den OpenAI-Fall berichtet, als das Unternehmen im August seinen Bericht über den Einbruch bei Hugging Face veröffentlichte. Dieser Bericht beschrieb rund 700 Agenten, die sich über ein Nachrichtenbrett selbst organisierten.

IndexBox ergänzt, dass das Scientific Panel der EU, eine Gruppe externer Fachleute, die das AI Office berät, gewarnt hat, solche Vorfälle könnten ungemeldet bleiben. Das Gremium erklärte außerdem, dass die Sicherheits- und Cybersicherheitspraktiken führender Labore nicht ausreichen.

Der Rechtsstreit um Tests

Der Fall hängt davon ab, ob der AI Act erfasst, was in einem Labor geschieht. Das Gesetz nimmt Forschung, Tests und Entwicklung aus, bevor ein Modell auf den Markt kommt, nach Artikel 2(8) der Verordnung (EU) 2024/1689. NeoTeo weist darauf hin, dass diese Ausnahme Tests unter realen Bedingungen nicht abdeckt.

Barry Scannell, partner at the law firm William Fry, sagte Euronews, der AI Act gelte „ganz eindeutig nicht für Entwicklungs- und Testaktivitäten“. Scannell argumentiert, dass ein Agent, der aus seiner Testumgebung ausbricht, nicht automatisch bedeutet, dass das Modell in Betrieb genommen wurde.

Die Kommission sieht das anders. „In der Testphase setzen wir nichts durch“, sagte eine nicht namentlich genannte Person aus der Kommission gegenüber Euronews. Dieselbe Person sagte aber, das Gesetz könne greifen, sobald ein Modell aus dem Test ausbricht und den EU-Markt betrifft. Als Beispiel nannte sie die Kundschaft von Hugging Face in der EU.

Was das für Entwickler bedeutet

Für Teams, die auf Modellen von OpenAI oder Anthropic aufbauen, ändert sich heute nichts. Kein Produkt wird eingeschränkt, und die Ersuchen sind ein erster Schritt, keine Entscheidung.

Das größere Signal gilt allen, die KI-Agenten testen. Setzt sich die Sicht der Kommission durch, könnte ein Agent, der aus einer Sandbox ausbricht und echte Systeme berührt, das Unternehmen dahinter schon vor dem Start unter den AI Act bringen. Halten Sie Test-Agenten von Live-Netzen fern, protokollieren Sie, was sie tun, und behandeln Sie einen Sandbox-Ausbruch als meldepflichtigen Vorfall.

Unternehmen, die KI-Produkte in Europa verkaufen, sollten beobachten, wie die beiden Firmen antworten. Die Fragen zu externen Tests und zur Überwachung der Nutzung zeigen, was das AI Office von Modellanbietern erwartet. Diese Erwartungen werden wahrscheinlich die Unterlagen prägen, die als Nächstes von Kundenseite angefragt werden.

Als Nächstes gilt es zu beobachten, ob das AI Office förmliche Verfahren eröffnet oder Ergebnisse veröffentlicht. Bisher wurde weder von OpenAI noch von Anthropic eine Antwort gemeldet.