EU AI Act: Was für Chatbots, KI-Agenten und generative Tools wirklich gilt

Ein Hinweis vorab: Wir sind keine Anwälte. Was folgt, ist unsere Einordnung der Rechtstexte und offiziellen Quellen, keine Rechtsberatung. Wenn Sie das rechtlich anders einordnen als wir, schreiben Sie uns gerne — wir nehmen jeden Hinweis ernst und aktualisieren diesen Text bei Bedarf.

Wer den EU AI Act für sich einordnet, denkt zuerst an Chatbots: ein Hinweis-Banner, fertig. Das greift zu kurz. Das Gesetz unterscheidet nicht nach Technologie-Label — ob ein System "Chatbot", "Agent" oder "generative KI" heißt, spielt rechtlich keine Rolle. Entscheidend ist, wofür das System eingesetzt wird. Genau diese Unterscheidung wird für Betriebe relevant, die KI nicht nur zum Textschreiben nutzen, sondern in Prozesse wie Bewerbungssichtung, Kundenkommunikation oder interne Automatisierung einbinden.

Der Zeitplan — auch nach der Verschiebung

Der AI Act tritt nicht an einem Stichtag komplett in Kraft, sondern gestaffelt. Eine Nachbesserung, die sogenannte Digital-Omnibus-Verordnung (EU) 2026/1744, hat einen Teil der Fristen im Juli 2026 verschoben — die harmonisierten Normen, an denen sich Unternehmen orientieren sollen, waren schlicht noch nicht fertig.

Die Verschiebung betrifft ausdrücklich nicht die Transparenzpflicht (Art. 50) und die KI-Kompetenz-Pflicht — beide gelten unverändert seit ihrem ursprünglichen Datum.

Vier Risikostufen, eine Logik

Der AI Act sortiert Systeme in vier Stufen, und die Einstufung hängt vom Einsatzzweck ab, nicht vom Werkzeug:

• Unzulässig: verboten seit Februar 2025, etwa Social Scoring oder die gezielte Ausnutzung von Schutzbedürftigkeit.
• Hochrisiko: Systeme aus einer der acht Kategorien in Anhang III, oder KI als Sicherheitsbauteil in bereits regulierten Produkten (Anhang I).
• Begrenztes Risiko: Transparenzpflicht nach Art. 50 — betrifft Chatbots, KI-generierte Inhalte, Deepfakes.
• Minimal: keine spezifischen Pflichten. Die meiste interne Nutzung von KI-Tools fällt hierunter.

Was "KI-Agenten" und generative Tools konkret betrifft

Hier liegt der Kern der Frage, die uns beschäftigt hat: Es gibt keine eigene Rechtskategorie für "Agenten", "generative KI" oder "agentisches Coding". Das Gesetz fragt nicht, wie ein System technisch funktioniert, sondern was es bewirkt.

Ein internes Tool, das Entwicklern beim Schreiben oder Testen von Code hilft, fällt in aller Regel unter die Stufe Minimal: Softwareentwicklung taucht in keiner der acht Anhang-III-Kategorien auf, es gibt keine Interaktion mit Endkunden, und die einzige greifbare Pflicht ist die allgemeine KI-Kompetenz-Anforderung nach Art. 4 — die gilt ohnehin schon seit Februar 2025 und ist niedrigschwellig.

Sobald ein Agent oder ein generatives Tool aber in eine der acht Anhang-III-Kategorien hineinwirkt, ändert sich das vollständig. Drei Kategorien sind für unsere Kundenbranchen am wahrscheinlichsten relevant:

Beschäftigung — die naheliegendste Falle. Ein KI-Tool, das Bewerbungen sichtet, Kandidaten rankt oder Stellenanzeigen gezielt aussteuert, fällt unter Hochrisiko — unabhängig davon, ob es am Ende ablehnt oder nur für die menschliche Prüfung vorsortiert. Es gibt keine Bagatellgrenze. Das betrifft nicht nur große HR-Abteilungen: Ein Handwerksbetrieb, der ein KI-Plugin zum Vorsortieren von Bewerbungen einsetzt, ist ebenso erfasst wie ein Konzern.

Bildung — enger als vermutet. Nur vier Fälle zählen: Zugang zu Bildungseinrichtungen, Bewertung von Lernergebnissen, Einstufung des Bildungsniveaus, Überwachung bei Prüfungen. Ein FAQ-Chatbot auf der Website einer Bildungseinrichtung fällt nicht automatisch darunter — erst wenn das System über Zulassung oder Benotung mitentscheidet.

Wesentliche Dienste — nur bei natürlichen Personen. Kreditwürdigkeitsprüfung, Risikobewertung bei Lebens- und Krankenversicherung, Notruf-Priorisierung. Relevant etwa für Hausverwaltungen oder Makler, wenn eine KI automatisiert die Bonität von Mietinteressenten bewertet — eine reine Objekt-Datenbank ist davon nicht betroffen.

Die Nutzung von ChatGPT, Claude oder Copilot als Werkzeug für Text, Recherche oder Code bleibt für die allermeisten Betriebe unkritisch. Sie sind dabei "Deployer" eines Basismodells, nicht dessen Anbieter — die schweren Pflichten (technische Dokumentation, Risikomanagement, Konformitätsbewertung) treffen die Hersteller der Modelle, nicht die Nutzer.

Wenn Sie ein KI-Tool anpassen: wann Sie selbst zum Anbieter werden

Der aus unserer Sicht wichtigste, am wenigsten bekannte Punkt: Wer ein fremdes KI-System lediglich einbindet, bleibt rechtlich Betreiber. Das kippt nach Art. 25, sobald einer von drei Fällen zutrifft:

Tritt einer dieser Fälle ein, übernimmt der Betreiber die vollen Anbieter-Pflichten: Risikomanagementsystem, technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung. Ein fertiges, unverändertes Tool einzubinden ist unkritisch. Ein Tool substanziell für den eigenen Zweck umzubauen — besonders in Richtung einer der Anhang-III-Kategorien — ist der Punkt, an dem sich ein genauerer Blick lohnt.

Transparenzpflicht: mehr als der Chatbot-Hinweis

Art. 50 wird oft auf den Chatbot-Hinweis reduziert, deckt aber mehr ab:

• Chatbots und direkte KI-Interaktion müssen ihre KI-Natur offenlegen — spätestens beim ersten Kontakt, klar erkennbar.
• KI-generierte Bilder, Audio- und Videoinhalte brauchen eine maschinenlesbare Kennzeichnung.
• KI-generierte Texte, die zu Themen von öffentlichem Interesse veröffentlicht werden, müssen als KI-generiert gekennzeichnet werden — das betrifft grundsätzlich auch redaktionelle Inhalte auf Unternehmens-Websites.

Eine Ausnahme von der Textkennzeichnung gilt, wenn kumulativ zwei Bedingungen erfüllt sind: eine identifizierbare Person oder Organisation trägt die redaktionelle Verantwortung, und der Text durchläuft eine echte inhaltliche Prüfung vor Veröffentlichung — reine Rechtschreibprüfung reicht ausdrücklich nicht. Das ist der Grund, warum ein sauberer Redaktionsprozess mit menschlicher Freigabe nicht nur gute Praxis, sondern inzwischen ein handfester Compliance-Faktor ist.

Wer das in Deutschland durchsetzt

Seit dem 29. Juli 2026 regelt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) die deutsche Aufsicht: Die Bundesnetzagentur ist zentrale Marktüberwachungsbehörde und Anlaufstelle — auch für bisher unregulierte Bereiche wie Personalmanagement und Bildung. Verstöße gegen die Transparenzpflicht (Art. 50) können mit bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Bei Verstößen gegen verbotene Praktiken (Art. 5) sind es bis zu 35 Millionen Euro oder 7 %. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere der beiden Werte.

Was das für Sie bedeutet

Die meiste KI-Nutzung im Mittelstand bleibt unkritisch: Text- und Recherche-Tools, interne Automatisierung, Coding-Assistenten. Genauer hinsehen lohnt sich, sobald ein KI-System Bewerbungen sichtet oder rankt oder ein fremdes KI-Tool substanziell für den eigenen Zweck angepasst wird. Auch KI-generierte Texte ohne echte redaktionelle Prüfung gehören in diese Kategorie — nicht das Werkzeug ändert sich, sondern die rechtliche Einordnung dessen, wofür es eingesetzt wird.

Wenn Sie das für Ihren konkreten Fall genauer einordnen möchten, sind wir erreichbar — mit dem Hinweis, dass auch das keine Rechtsberatung ersetzt.

Eine ähnlich detaillierte Einordnung — Gesetzestext statt Zusammenfassung — haben wir auch zum Thema Barrierefreiheit gemacht: BFSG im Gesetzestext: Wer wirklich ausgenommen ist.

Quellen

• EU AI Act, Art. 113 — Anwendungsbeginn
• EU AI Act, Art. 50 — Transparenzpflichten
• EU AI Act, Art. 25 — Pflichten entlang der Wertschöpfungskette
• EU AI Act, Art. 99 — Sanktionen
• Anhang III — Hochrisiko-KI-Systeme, vollständige Liste
• Digital Omnibus: Verschiebung der Hochrisiko-Fristen
• Agentic AI unter dem EU AI Act
• Bundesnetzagentur — Marktüberwachung KI