Was gehört laut KI-Verordnung zu den verbotenen Praktiken?

Die Frage nach den verbotenen Praktiken stellt sich, sobald ein Unternehmen KI nicht nur ausprobiert, sondern in Abläufe einbaut: im Marketing, im Kundenservice, in der Personalarbeit. Die KI-Verordnung, offiziell Verordnung (EU) 2024/1689 und oft EU AI Act genannt, zieht hier eine harte Linie, die nicht erst in Zukunft greift, sondern schon gilt. Dieser Beitrag erklärt die Rechtslage praxisnah, er ist keine Rechtsberatung. Für die verbindliche Bewertung deines Einzelfalls brauchst du eine Anwältin oder einen Anwalt. Den Gesamtüberblick über Risikoklassen und Fristen findest du im Leitfaden zum EU AI Act, hier geht es nur um die Verbote.

Welche acht Praktiken verbietet Artikel 5 im Einzelnen?

Artikel 5 Absatz 1 der KI-Verordnung zählt acht Praktiken auf, gegliedert in die Buchstaben a bis h. Gemeinsam ist ihnen, dass der Gesetzgeber sie als klare Bedrohung für Sicherheit, Lebensgrundlagen und Grundrechte einstuft. Deshalb sind sie nicht an Auflagen gebunden, sondern vollständig untersagt. Einige Verbote enthalten eng gefasste Ausnahmen, die in der Tabelle stehen.

Den vollständigen Wortlaut samt Ausnahmen findest du in Artikel 5 der KI-Verordnung. Für die Einordnung im Alltag reicht eine Faustregel: Verboten ist KI, die Menschen heimlich steuert, sie nach Verhalten oder sensiblen Merkmalen sortiert oder sie biometrisch überwacht.

Seit wann gelten die Verbote und für wen?

Die Verbote gelten seit dem 2. Februar 2025. Sie waren zusammen mit der Pflicht zur KI-Kompetenz der erste harte Stichtag der Verordnung, die am 1. August 2024 in Kraft getreten ist. Ein System, das unter Artikel 5 fällt, darf weder in Verkehr gebracht noch eingesetzt werden. Das trifft Anbieter, die ein solches System entwickeln, genauso wie Betreiber, die es beruflich nutzen.

Eine Untergrenze nach Unternehmensgröße gibt es nicht. Der KMU-Leitfaden zur Verordnung räumt kleinen Unternehmen zwar Erleichterungen ein, etwa bei Gebühren oder Dokumentation für Hochrisiko-Systeme. Bei den Verboten entwarnt er ausdrücklich nicht.

Seit dem 2. August 2025 sind außerdem die Sanktionsvorschriften wirksam. Für kleine und mittlere Unternehmen werden Bußgelder nach dem jeweils niedrigeren Wert bemessen (Art. 99). Am Kern ändert das nichts: Eine verbotene Praktik lässt sich nicht durch Dokumentation heilen, sie muss unterbleiben.

Wo endet das Verbot und wo beginnt Hochrisiko-KI?

Das Verbot endet dort, wo der Gesetzgeber eine Anwendung zwar für riskant, aber für beherrschbar hält. Solche Systeme stuft Artikel 6 als Hochrisiko-KI ein: entweder als Sicherheitskomponente eines regulierten Produkts nach Anhang I oder als Anwendungsfall aus Anhang III, etwa Bewerberauswahl, Kreditwürdigkeitsprüfung oder Bildungszugang. Hochrisiko-KI ist erlaubt, aber an Risikomanagement, Dokumentation und menschliche Aufsicht gebunden.

Die Grenze verläuft manchmal mitten durch eine Technik. Das beste Beispiel ist die Emotionserkennung:

• Am Arbeitsplatz und in Bildungseinrichtungen: verboten nach Artikel 5, außer aus medizinischen oder Sicherheitsgründen.
• In anderen Bereichen: Hochrisiko-Anwendungsfall nach Anhang III (Biometrie), mit allen Pflichten dieser Klasse.
• Beim Einsatz grundsätzlich: Betroffene Personen müssen nach Artikel 50 darüber informiert werden.

Ähnlich bei der Biometrie: Eine biometrische Kategorisierung nach sensiblen Merkmalen wie Religion oder politischer Überzeugung ist verboten, die reine Verifikation einer Identität dagegen nicht einmal hochriskant. Wer wissen will, ob ein System in die Hochrisiko-Klasse fällt, findet die Prüfung Schritt für Schritt im Beitrag zum Hochrisiko-KI-System.

Auch die Frage nach Artikel 9 gehört in diese Abgrenzung. Er steht in Kapitel III, das die Artikel 6 bis 49 umfasst und ausschließlich die Hochrisiko-KI regelt. Die Verbote bilden dagegen ein eigenes Kapitel II mit nur einem Artikel, dem Artikel 5.

Was hat Artikel 4 mit den Verboten zu tun?

Artikel 4 sorgt dafür, dass ein Verbot im Alltag überhaupt erkannt wird. Er verpflichtet Anbieter und Betreiber, nach besten Kräften für ein ausreichendes Maß an KI-Kompetenz ihres Personals zu sorgen, und gilt seit demselben Stichtag wie die Verbote, dem 2. Februar 2025. Eine verbotene Praktik entsteht selten aus Absicht, sondern weil niemand im Team die Grenze kennt.

Ein Beispiel: Eine Vertriebsabteilung will Gesprächsaufzeichnungen ihrer eigenen Mitarbeitenden automatisch nach Stimmung auswerten lassen, um Leistung zu bewerten. Technisch ist das schnell eingerichtet. Rechtlich kann genau das Emotionserkennung am Arbeitsplatz nach Artikel 5 Absatz 1 lit. f sein. Wer das nicht weiß, merkt es erst, wenn es zu spät ist.

Die Verordnung schreibt kein festes Schulungsformat und kein Zertifikat vor. Die Angemessenheit richtet sich nach Wissen und Erfahrung der Menschen, nach dem Einsatzkontext und nach den Personengruppen, mit denen die KI arbeitet. Was das konkret für dein Team heißt, steht im Beitrag zur KI-Schulungspflicht.

Betreffen die Verbote auch ein normales mittelständisches Unternehmen?

Ja, die Verbote gelten für jedes Unternehmen, auch wenn die meisten Mittelständler nie in die Nähe biometrischer Überwachung kommen. Die typischen KI-Einsätze im Mittelstand, also Textentwürfe, Chatbots, Zusammenfassungen oder Automatisierungen, liegen in den Klassen minimal oder begrenzt. Relevant wird Artikel 5 dort, wo KI Menschen bewertet oder beeinflusst.

Drei Stellen verdienen einen zweiten Blick:

1. Marketing und Vertrieb: Personalisierung ist erlaubt. Kritisch wird es, wenn ein System gezielt Schwächen von Menschen wegen Alter oder wirtschaftlicher Notlage ausnutzt oder mit täuschenden Techniken Verhalten so verzerrt, dass erheblicher Schaden entsteht.
2. Personal und Führung: Emotionserkennung bei Mitarbeitenden ist am Arbeitsplatz verboten. Bewerberauswahl per KI ist nicht verboten, aber ein Hochrisiko-Anwendungsfall.
3. Kunden- und Mitarbeiterbewertung: Ein Score über soziales Verhalten oder persönliche Eigenschaften, der zu ungerechtfertigter oder unverhältnismäßiger Schlechterstellung führt, ist Social Scoring.

Neben den Verboten greift ab dem 2. August 2026 die Kennzeichnungspflicht für Chatbots und KI-generierte Inhalte. Sie ist eine eigene Baustelle, die im Beitrag zur KI-Kennzeichnungspflicht in Deutschland erklärt ist.

Wie prüft AUTIMA neue KI-Systeme auf verbotene Praktiken?

AUTIMA prüft jedes neue KI-System vor dem Einsatz mit einem Negativcheck gegen Artikel 5. Seit Juli 2026 führt AUTIMA ein Verzeichnis aller eingesetzten KI-Systeme nach EU AI Act, in dem jedes System mit Zweck, Rolle und Risikoklasse steht. Ein System, das nicht eingetragen ist, gilt als nicht freigegeben. Keines der eingetragenen Systeme fällt unter die Verbote.

Drei Regeln aus diesem Verzeichnis lassen sich direkt übernehmen:

• Kein KI-System entscheidet über Menschen. Keine Bewerberauswahl, keine Bonitätsbewertung, kein Scoring von Personen. Wo eine KI etwas vorschlägt, gibt ein Mensch frei.
• Anfragen im verbotenen Bereich werden abgelehnt, nicht kreativ umgedeutet. Ein Kundenwunsch, der in Richtung Artikel 5 geht, wird nicht gebaut.
• Ein Verdacht wird eskaliert, statt nur protokolliert. Berührt ein System möglicherweise Artikel 5 oder einen Hochrisiko-Bereich, entscheidet nicht die Person, die es gebaut hat.

Diese Einordnung stammt nicht aus zweiter Hand: René Tzschoppe, EU AI Act Beauftragter mit TÜV Rheinland geprüfter Qualifikation, trägt das Prüfzeichen mit der ID 0217466644, gültig bis 27.07.2029.

Die Qualifikation belegt Fachkunde, keine Rechtsberatung, der Hinweis vom Anfang gilt unverändert. Praktisch bedeutet sie, dass die Frage nach den Verboten Teil der Planung ist, bevor ein KI-System gebaut wird, und nicht erst danach. Wenn du für dein Unternehmen klären willst, welche KI-Einsätze sinnvoll und zulässig sind, ist die KI-Strategie-Beratung der passende Einstieg.