KI-Agenten und der AI Act nach dem Digital-Omnibus: Rollen, Pflichten, Fristen

Wer einen KI-Agenten einführt, fragt bald, welche Pflichten aus dem AI Act gelten und ab wann. Stand: Oktober 2026. Unsere These: Der AI Act reguliert Einsatzzwecke, nicht Agenten. Die meisten Agenten in Kanzleien, Steuerberatung, Praxen und KMU sind keine Hochrisiko-KI-Systeme. Einige Pflichten gelten aber schon heute, und die Verschiebung durch den Digital-Omnibus ist kein Grund zu warten.

Anbieter oder Betreiber: Welche Rolle Sie haben

Ein Agent auf Basis eines Sprachmodells passt auf die Definition des KI-Systems in Artikel 3 Nr. 1: Er arbeitet mit einem gewissen Grad an Autonomie und leitet aus Eingaben Ausgaben ab, die virtuelle oder physische Umgebungen beeinflussen können. Das Sprachmodell dahinter ist meist ein GPAI-Modell, dessen eigene Pflichten den Modellanbieter treffen.

Für Ihre Pflichten zählt die Rolle. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt; auch die Inbetriebnahme zum Eigengebrauch zählt. Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet.

Wann ein Agent zum Hochrisiko-System wird

Hochriskant ist ein Agent nicht wegen seiner Autonomie, sondern wenn sein Zweck unter Anhang III fällt (Artikel 6 Abs. 2) oder er Sicherheitsbauteil eines Produkts nach Anhang I ist. Für KMU und Praxen zählen vor allem:

• Beschäftigung (Nr. 4): Bewerbungen sichten oder filtern, Bewerber bewerten, Leistung und Verhalten von Beschäftigten beobachten und bewerten.
• Grundlegende Dienste (Nr. 5): Kreditwürdigkeit natürlicher Personen prüfen, Risiko und Preis bei Lebens- und Krankenversicherungen bewerten, Patienten in der Notfallversorgung triagieren.

Ein Agent, der Belege vorkontiert, Fristen einträgt oder Rechtsprechung recherchiert, fällt in der Regel unter keinen Bereich des Anhangs III; die Rechtspflege nach Nr. 8 meint Systeme von oder im Namen von Justizbehörden sowie der alternativen Streitbeilegung. Auch ein Anhang-III-System gilt nach Artikel 6 Abs. 3 nicht als hochriskant, wenn es etwa nur eine eng gefasste Verfahrensaufgabe oder eine vorbereitende Aufgabe erledigt und das Ergebnis der Entscheidung nicht wesentlich beeinflusst. Profiling natürlicher Personen bleibt immer hochriskant, und ein Anbieter, der sich auf die Ausnahme beruft, muss seine Bewertung vorab dokumentieren. Leitlinien der Kommission zur Einstufung liegen seit Mai 2026 als Entwurf vor.

Was schon heute gilt

• KI-Kompetenz (Artikel 4), seit 2. Februar 2025: Anbieter und Betreiber ergreifen Maßnahmen, um die KI-Kompetenz ihres Personals zu fördern, abgestimmt auf Vorwissen und Einsatzkontext. Ein bestimmtes Niveau müssen sie seit dem Omnibus ausdrücklich nicht garantieren, die Pflicht gilt aber für jeden Agenten. Praktisch heißt das: Schulungen, die zeigen, was der Agent darf, wo er irrt und wie man ihn stoppt.
• Verbotene Praktiken (Artikel 5), seit 2. Februar 2025: Verboten ist etwa, mit KI Emotionen von Personen am Arbeitsplatz abzuleiten, außer aus medizinischen oder Sicherheitsgründen. Ein Agent, der Telefonate anhand der Stimme auf die Stimmung der Mitarbeitenden auswertet, wäre damit unzulässig.
• Transparenz (Artikel 50), seit 2. August 2026: Ein Agent, der direkt mit Menschen kommuniziert, etwa ein Terminassistent auf der Website einer Praxis, muss so gestaltet sein, dass sie erfahren, mit einer KI zu interagieren, sofern das nicht offensichtlich ist. Anbieter generativer Systeme müssen Ausgaben maschinenlesbar als künstlich erzeugt kennzeichnen.

Was der Digital-Omnibus verschoben hat

Die Digital-Omnibus-Verordnung (EU) 2026/1744 ist am 27. Juli 2026 in Kraft getreten. Verschoben wurden die Hochrisiko-Anforderungen samt den Betreiberpflichten nach Artikel 26. Artikel 4 und 5 sowie die Transparenzpflichten blieben bis auf eine Übergangsfrist im Zeitplan.

Ab dem 2. Dezember 2027 müssen Betreiber von Anhang-III-Systemen unter anderem die menschliche Aufsicht kompetenten Personen übertragen, automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren und Beschäftigte vor dem Einsatz am Arbeitsplatz informieren.

Was Sie jetzt tun sollten

1. Inventur mit Zweck: Halten Sie für jeden Agenten fest, wofür er eingesetzt wird, und prüfen Sie den Zweck gegen Anhang III. Mehr dazu im Beitrag Was ist KI-Agenten-Governance?
2. Rolle und Einstufung festhalten: Notieren Sie je Agent, ob Sie Anbieter, Betreiber oder beides sind, und begründen Sie schriftlich, warum er nicht hochriskant ist.
3. KI-Kompetenz belegen: Dokumentieren Sie, welche Maßnahmen Sie für welche Personengruppe ergriffen haben.
4. Transparenz prüfen: Kontrollieren Sie bei Agenten im direkten Kontakt mit Mandanten, Patienten oder Kunden den KI-Hinweis.
5. Aufsicht und Protokolle vorbereiten: Wer einen Agenten im Personalbereich plant, sollte menschliche Freigaben und Protokolle jetzt in die Architektur einbauen, nicht erst 2027. Für Einrichtungen unter dem NISG 2026 lohnt der Abgleich mit unserem Beitrag NISG 2026 und KI-Agenten.

Pflichten brauchen technische Grundlagen

AEGIS, das lokal betriebene Agentensystem von oQueo, stellt keine Konformität her. Es liefert aber technische Bausteine dafür: begrenzte und dokumentierte Befugnisse über eine Positivliste mit Default-Deny, eine Prüfung jeder Aktion durch eine getrennte Instanz vor der Ausführung, eine Höchststufe je Agent als Notbremse und einen nur anhängenden Audit-Trail als SHA-256-Hash-Kette. Die Einstufung Ihres Einsatzes und die organisatorische Verantwortung bleiben bei Ihnen. Mehr dazu unter Sicherheit.

Dieser Beitrag ersetzt keine Rechtsberatung im Einzelfall.