Der EU AI Act im Mittelstand

Dieser Artikel ordnet ein und ersetzt keine Rechtsberatung. Wo es um Ihren konkreten Einsatz geht, gehört die Bewertung an einen Fachanwalt oder Ihren Datenschutzbeauftragten.

Anbieter oder Betreiber – die Frage, die am Anfang steht

Die meisten Beiträge über den EU AI Act beschreiben Pflichten, die den Mittelstand gar nicht betreffen. Das liegt daran, dass die Verordnung im Kern wie eine Produktvorschrift gebaut ist: Sie richtet sich vor allem an denjenigen, der ein KI-System entwickelt und in Verkehr bringt. Das ist der Anbieter. Ihn treffen Risikomanagement, technische Dokumentation, Datenqualitätsanforderungen, Konformitätsbewertung und CE-Kennzeichnung – ein Apparat, der für einen Sondermaschinenbauer mit 80 Beschäftigten weder gemeint noch leistbar wäre.

Wer ein fertiges Werkzeug einkauft und im eigenen Haus einsetzt, ist Betreiber. Das ist die Rolle, in der praktisch jeder Mittelständler steckt, der einen Assistenzdienst abonniert, eine Texterkennung nutzt oder eine KI-Funktion in seiner Branchensoftware verwendet. Die Betreiberpflichten sind deutlich schmaler, aber sie sind nicht null – und sie werden regelmäßig übersehen, weil die öffentliche Diskussion sich an den Anbieterpflichten abarbeitet.

Die Rolle kann kippen. Wer ein System unter eigenem Namen weitergibt, seinen Zweck wesentlich ändert oder es so umbaut, dass etwas Neues entsteht, kann selbst zum Anbieter werden. Das ist kein theoretisches Risiko für einen Softwarehersteller, wohl aber eines für ein Ingenieurbüro, das ein KI-gestütztes Auslegungswerkzeug entwickelt und an Kunden weitergibt. Eigene Vorlagen zu hinterlegen oder die eigene Dokumentenablage anzubinden – wie in Eigene Unterlagen nutzbar machen beschrieben – löst diesen Rollenwechsel nach allgemeiner Lesart nicht aus. Sicher ist das im Einzelfall aber nur mit juristischer Prüfung.

Vier Risikostufen und was auf ihnen steht

Der Aufbau der Verordnung ist risikobasiert. Nicht die Technik entscheidet über die Pflichten, sondern der Verwendungszweck. Dasselbe Sprachmodell kann in der einen Anwendung praktisch unreguliert und in der anderen hochreguliert sein.

Auf der obersten Stufe stehen verbotene Praktiken. Dazu zählen unter anderem Systeme, die Menschen durch unterschwellige oder manipulative Techniken in schädigender Weise beeinflussen, die Schutzbedürftigkeit von Personen ausnutzen, Menschen anhand ihres Sozialverhaltens allgemein bewerten und benachteiligen, oder die Emotionen von Beschäftigten am Arbeitsplatz erkennen sollen – letzteres mit engen Ausnahmen etwa für Sicherheitszwecke. Diese Verbote gelten bereits. Für den Mittelstand ist vor allem der Punkt zur Emotionserkennung am Arbeitsplatz relevant: Wer über eine Software nachdenkt, die Stimmung oder Stresslevel von Mitarbeitern misst, sollte das Vorhaben stoppen, bevor Geld fließt.

Darunter liegt der Hochrisikobereich. Er umfasst zum einen KI, die als Sicherheitsbauteil in bereits regulierten Produkten steckt – Maschinen, Medizinprodukte, Aufzüge. Für einen Maschinenbauer, der eine KI-gestützte Schutzfunktion in seine Anlage einbaut, ist das der wichtigste Absatz der ganzen Verordnung. Zum anderen umfasst er eine in einem Anhang aufgezählte Liste von Anwendungsfeldern, darunter kritische Infrastruktur, Bildung, Strafverfolgung, Kreditwürdigkeitsprüfung natürlicher Personen und – für fast jeden Betrieb einschlägig – Beschäftigung, Personalauswahl und Entscheidungen über Arbeitsverhältnisse. Was daraus folgt, steht in KI in der Personalarbeit.

Die dritte Stufe ist begrenztes Risiko mit Transparenzpflichten, die vierte ist alles Übrige: der weitaus größte Teil dessen, was im Mittelstand tatsächlich passiert. Ein Angebotsentwurf, eine Protokollzusammenfassung, eine übersetzte Betriebsanleitung, ein aus Monteurstichworten erzeugter Arbeitsbericht – das sind keine Hochrisikoanwendungen, und es hilft niemandem, so zu tun, als wären sie es.

Die Pflichten, die jeden Betreiber treffen

Drei Dinge gelten unabhängig davon, wie harmlos die Anwendung ist.

Erstens die KI-Kompetenz. Die Verordnung verlangt von Anbietern und Betreibern, dafür zu sorgen, dass die Personen, die mit KI-Systemen arbeiten, über ein für den Einsatz angemessenes Maß an Kompetenz verfügen. Das ist keine Zertifizierungspflicht und kein bestimmtes Stundenkontingent. Gemeint ist, dass jemand, der ein Werkzeug bedient, dessen Grenzen kennt – etwa dass ein Sprachmodell Zahlen nicht rechnet, sondern schreibt, wie Wie ein Sprachmodell arbeitet erklärt. Praktisch heißt das: Schulung durchführen, Inhalt und Teilnehmer dokumentieren, bei neuen Werkzeugen wiederholen. Diese Pflicht gilt seit Anfang 2025 und ist die einzige, bei der nahezu jeder Betrieb säumig ist.

Zweitens die Transparenzpflichten. Sie zielen auf Situationen, in denen jemand nicht erkennen kann, dass er es mit Maschine oder maschinell erzeugtem Material zu tun hat: der Chatbot auf der Website, künstlich erzeugte oder veränderte Bilder und Töne, in bestimmten Konstellationen auch veröffentlichte Texte. Ein Küchenstudio mit einem Beratungs-Chatbot muss also darauf hinweisen, dass kein Mensch antwortet. Ein intern erzeugter Entwurf, den ein Mitarbeiter prüft, korrigiert und als eigenen Text unterschreibt, ist ein anderer Fall.

Drittens die Verwendung nach Zweckbestimmung samt menschlicher Aufsicht. Wer ein System einsetzt, muss es so verwenden, wie der Anbieter es vorgesehen hat, und die vorgesehene Aufsicht auch tatsächlich ausüben. Eine Aufsicht, die im Handbuch steht, aber im Tagesgeschäft niemand wahrnimmt, ist keine.

Ein Zeitplan, der sich bewegt hat

Die Verordnung tritt gestaffelt in Kraft. Die Verbote und die Pflicht zur KI-Kompetenz gelten seit Anfang 2025, die Regeln für Anbieter allgemeiner Modelle seit Mitte 2025, die allgemeine Anwendbarkeit samt Transparenzpflichten seit August 2026. Die Pflichten für Hochrisikosysteme sind im Rahmen eines nachträglichen Änderungspakets nach hinten verschoben worden, für die im Anhang gelisteten Anwendungsfelder auf Ende 2027, für KI in regulierten Produkten auf 2028.

Diese Daten haben sich im Verfahren mehrfach bewegt, und es ist nicht auszuschließen, dass sie sich weiter bewegen. Nehmen Sie sie als Größenordnung, nicht als Stichtag, und lassen Sie den für Sie maßgeblichen Stand prüfen, bevor Sie darauf planen. Wer die Verschiebung als Entwarnung liest, macht einen Fehler: Die Vorlaufzeit für ein Hochrisikosystem ist länger als die gewonnene Frist.

Was ein Betrieb mit 40 Leuten praktisch tun muss

Der ehrliche Aufwand ist kleiner, als die Diskussion vermuten lässt, aber er ist nicht null. Fünf Schritte reichen für den Anfang.

• Bestandsaufnahme. Eine Liste aller KI-Werkzeuge, die tatsächlich im Einsatz sind, einschließlich der Funktionen, die in vorhandener Software stecken, und einschließlich dessen, was Mitarbeiter auf eigene Faust nutzen. Letzteres ist meist der längere Teil der Liste.
• Einordnung. Für jeden Eintrag die Frage: Ist das verboten, ist das Hochrisiko, greift eine Transparenzpflicht, oder ist es keins von beidem? Bei den meisten Einträgen lautet die Antwort auf alle vier Fragen Nein, und das darf man dann auch so festhalten.
• Schulung. Eine dokumentierte Unterweisung zu Grenzen, Prüfpflicht und erlaubten Daten. Zwei Stunden, protokolliert, mit Teilnehmerliste.
• Schriftliche Regelung. Was erlaubt ist, was nicht, wer zuständig ist. Dazu KI-Leitplanken: die Betriebsregelung.
• Wiedervorlage. Ein fester Termin, an dem die Liste und die Einordnung überprüft werden, weil beides veraltet.

Was Sie nicht brauchen: ein Managementsystem nach Norm, eine externe Zertifizierung oder ein sechsstelliges Beratungsprojekt, solange Sie kein Hochrisikosystem anbieten oder betreiben. Wer Ihnen das verkaufen will, sollte zuerst erklären, welche Ihrer Anwendungen in den Hochrisikobereich fällt.

Was das im Mentoring bedeutet

Die Bestandsaufnahme und die erste Einordnung sind Teil des KI-Readiness-Checks in der Phase START – dort wird festgehalten, was tatsächlich im Einsatz ist, nicht was offiziell erlaubt wäre. Die verbindliche Regelung entsteht später im Werkzeug KI-Leitplanken der Phase SKALIERUNG, wenn der Einsatz über einen Pilotbereich hinauswächst. Die rechtliche Prüfung des Einzelfalls bleibt dabei Aufgabe Ihrer Rechtsberatung; das Mentoring sortiert die Fragen und liefert die Unterlage, mit der Sie dort hingehen.