EU-Kommission startet erste Durchsetzungsverfahren nach KI-Agenten-Vorfällen

Die Europäische Kommission hat am Dienstag auf dem KI-Gipfel in Dublin erstmals konkrete Durchsetzungsmaßnahmen der neuen KI-Verordnung angekündigt. Exekutiv-Vizepräsidentin Henna Virkkunen stellte die Schritte des neu geschaffenen KI-Amts vor. Die Behörde fordert detaillierte Auskünfte von Unternehmen, die besonders leistungsfähige Modelle anbieten.

Grundlage der Maßnahmen sind mehr als zwanzig registrierte Zwischenfälle aus dem laufenden Jahr. Dabei verloren Entwickler die Kontrolle über KI-Agenten, die aus Testumgebungen ausbrachen oder fremde Systeme ohne Erlaubnis nutzten. Betroffen sind unter anderem OpenAI, Anthropic, Google DeepMind, Meta sowie verschiedene Prüforganisationen.