Deepfake

Was das ist

Die KI-Verordnung definiert den Deepfake in Art. 3 Nr. 60: ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Text ist nie ein Deepfake. Vier Kriterien müssen zusammenkommen: merkliche Ähnlichkeit, ein plausibel existierender Gegenstand, eine Person oder Sache im weiten Sinn und der falsche Anschein von Echtheit. Eine Täuschungsabsicht ist nicht nötig.

Was das für Sie heißt

• Das KI-geschönte Produktbild ist ein Deepfake, wenn es das Produkt ansprechender zeigt als in Wirklichkeit. Die Kommission nennt den Fall ausdrücklich.
• Ein reales Vorbild ist nicht nötig: Auch die erfundene, realistisch klingende KI-Stimme im Radiospot oder in der Telefonansage ist erfasst.
• Geringfügige Bearbeitung echter Aufnahmen – Farbkorrektur, Rauschreduzierung, ein entfernter Passant – macht keinen Deepfake. Wo die Grenze liegt, ist offen.
• Wer als Betreiber einen Deepfake veröffentlicht, muss ihn sichtbar oder hörbar kennzeichnen. Metadaten und Wasserzeichen des Werkzeugs genügen nicht.

Der typische Fehler

Das Marketing lässt für die Website ein Teamfoto mit einem KI-erzeugten Hintergrund und einem synthetischen Sprecher im Imagefilm produzieren. Niemand hält das für einen Deepfake, weil nichts Böses beabsichtigt ist. Auf die Absicht kommt es aber nicht an, nur auf den Anschein. Die fehlende Kennzeichnung ist ein Verstoß gegen Art. 50 Abs. 4, und der Regierungsentwurf zu § 201b StGB macht die sichtbare Kennzeichnung zugleich zur Grenze der Strafbarkeit, sobald eine reale Person betroffen ist.