Kennzeichnung und Transparenz: wann KI sich zu erkennen geben muss

Dieser Artikel ordnet ein und ersetzt keine Rechtsberatung. Wo es um Ihre konkrete Veröffentlichung geht, gehört die Bewertung an einen Fachanwalt.

Die zwei Fragen, um die es geht

Die Transparenzregeln der KI-Verordnung lassen sich auf zwei Fragen herunterbrechen, und beide sind einfacher zu beantworten als ihr Ruf.

Erstens: Spricht hier ein Mensch oder eine Maschine? Wenn Menschen mit einem KI-System interagieren, müssen sie das erkennen können – es sei denn, es ist aus dem Zusammenhang ohnehin offensichtlich.

Zweitens: Ist das echt oder erzeugt? Künstlich erzeugte oder veränderte Bilder, Tonaufnahmen und Videos, die echten Personen, Gegenständen oder Ereignissen hinreichend ähneln, müssen als künstlich erzeugt kenntlich gemacht werden. Dasselbe gilt für bestimmte veröffentlichte Texte.

Der Rest ist Auslegung im Einzelfall. Aber mit diesen zwei Fragen kommen Sie durch neunzig Prozent der Lagen, die in einem mittelständischen Betrieb vorkommen.

Der Chatbot auf der Website

Der häufigste Fall. Wenn auf Ihrer Seite ein Assistent antwortet, gehört ein Hinweis an den Anfang der Unterhaltung, nicht ins Kleingedruckte. Ein Satz genügt:

Hier antwortet ein digitaler Assistent. Bei Fragen zu Verträgen oder Preisen verbinde ich Sie gern mit einem Menschen.

Drei Dinge machen diesen Satz gut. Er sagt, was er ist. Er sagt, wo seine Grenze liegt. Und er bietet einen Ausweg an – was Sie nebenbei vor dem größten Ärger schützt, nämlich vor einem Bot, der eine Zusage macht, die Sie halten müssen.

Wenn das System in der Stimme eines bestimmten Menschen spricht oder dessen Namen trägt, gehört das ausdrücklich dazu: dass es mit dessen Wissen arbeitet, aber nicht diese Person ist. Wir machen das auf dieser Website so, und der Satz steht nicht in den Nutzungsbedingungen, sondern im ersten Satz, den Sie hören.

Erzeugte Bilder, Ton und Video

Hier wird es praktisch relevant, sobald Marketing ins Spiel kommt. Ein erzeugtes Produktfoto, ein Stimmklon in der Telefonansage, ein Video mit einem Gesicht, das es nicht gibt: All das kann unter die Kennzeichnungspflicht fallen, sobald es echten Personen, Gegenständen oder Ereignissen ähnelt und verbreitet wird.

Zwei Dinge dazu, die in der Diskussion untergehen:

Die Kennzeichnung soll maschinenlesbar sein. Gemeint ist eine technische Markierung in der Datei – Metadaten, Wasserzeichen, Herkunftsangaben nach den einschlägigen Verfahren. Für den Mittelstand heißt das in der Praxis: Fragen Sie das Werkzeug, mit dem Sie erzeugen, ob es eine solche Markierung setzt. Viele tun es inzwischen von sich aus.

Die sichtbare Kennzeichnung ist die, die zählt. Für den Betrachter ist ein unauffälliger Zusatz an der Bildunterschrift entscheidend, nicht ein Eintrag in den Metadaten. „Bild: KI-generiert“ reicht. Es kostet nichts und erspart die Diskussion.

Der Fall, über den fast alle stolpern

Ein erzeugtes Bild von einem Gebäude, das es gibt. Eine Stimme, die einer echten Person ähnelt. Ein Video, in dem jemand etwas sagt, das er nie gesagt hat – auch wenn es nur ein Werbegag sein sollte.

Sobald ein echter Mensch erkennbar ist, ist die KI-Verordnung nicht Ihr einziges Problem. Persönlichkeitsrecht, Recht am eigenen Bild und Wettbewerbsrecht gelten unverändert weiter, und sie sind in Deutschland schärfer durchgesetzt als alles, was aus Brüssel kommt. Die Faustregel ist deshalb älter als jede KI-Regelung: Kein erkennbarer Mensch ohne dessen Einverständnis. Das gilt auch für Mitarbeiter, auch für den Chef, auch intern.

Die interne Regel, die alles vereinfacht

Die Pflicht trifft Ihr Unternehmen, umgesetzt wird sie von einzelnen Menschen in Marketing, Vertrieb und Service. Deshalb gehört sie in eine Zeile Ihrer Betriebsregelung, nicht in einen Vermerk der Geschäftsführung. Drei Sätze genügen:

• Alles, was wir veröffentlichen und das erzeugt oder wesentlich verändert wurde, wird gekennzeichnet.
• Kein erkennbarer Mensch ohne schriftliches Einverständnis, auch kein eigener Mitarbeiter.
• Wo ein Assistent antwortet, sagt er im ersten Satz, dass er einer ist.

Wie man so eine Regelung aufsetzt, ohne dass sie zur Verwaltungsordnung aufquillt, steht in KI-Leitplanken: die Betriebsregelung.

Warum Offenheit hier besser verkauft als Tarnen

Ein Teil des Mittelstands fürchtet, der Hinweis entwerte das Ergebnis. Die Erfahrung spricht dagegen. Menschen reagieren nicht allergisch auf Maschinen, sondern auf das Gefühl, hereingelegt worden zu sein. Ein offen benannter Assistent, der zugibt, was er nicht kann, bekommt mehr Geduld als ein getarnter, dem man auf die Schliche kommt – und auf die Schliche kommt man ihm.

Dazu kommt ein Verkaufsargument, das zunehmend zieht: Wer kennzeichnet, signalisiert, dass er die Regeln kennt. In einer Branche, in der viele Anbieter gerade erst merken, dass es Regeln gibt, ist das ein Unterschied.

Was das im Mentoring bedeutet

Die Frage, wo Kennzeichnung nötig ist, wird in der Phase SKALIERUNG beim Werkzeug KI-Leitplanken beantwortet – zusammen mit der Frage, wer im Haus überhaupt veröffentlichen darf. Vorher, in den Phasen UMSETZUNG und REALISIERUNG, wird sie bei jedem Piloten mitgestellt, bei dem etwas nach außen geht. Die rechtliche Bewertung Ihres konkreten Falls bleibt bei Ihrer Rechtsberatung; das Mentoring sorgt dafür, dass die Frage überhaupt gestellt wird, bevor die Anzeige läuft.