Veröffentlicht inNews

KI-generierte Deepfakes: Die EU plant schärfere Kennzeichnung

Avatar photovon Maja-Lina Lauer

Welche Regeln braucht es für einen sicheren Umgang mit KI?

Flagge der EU weht blau im Wind
Die EU sucht nach einem gemeinsamen Weg gegen Desinformation vorzugehen. © Pixabay / NoName_13

Der Papst in einer hippen, weißen Daunenjacke, Selensky, der seine Soldaten auffordert, die Waffen niederzulegen – das sind besonders prominente Beispiele für KI-generierte Deepfakes, die jüngst für Schlagzeilen sorgten. Auch wenn der erstere Fall vor allem als digitaler Hingucker wahrgenommen wurde, könnten gefälschte Videos von Politkern, Unternehmern und Prominenten mittelfristig zu einem echten Risiko werden. Die Verbreitung von Fake News ist laut der Tagesschau auf dem Vormarsch. Jetzt will die EU gegen diese Entwicklung vorgehen und plant hierzu eine freiwillige Selbstverpflichtung für Tech-Unternehmen, KI-generierte Inhalte zu kennzeichnen.

Screenshot eines Deepfakes, der den Papst in einer weißen Daunenjacke zeigt auf Reddit
Digitaler Hingucker oder echtes Risiko? Politik muss einen Umgang mit Deepfakes finden, sagt unter anderem die Datenschutzbeauftragte von Schleswig-Holstein, Marit Hansen. © RP/Reddit/r/midjourney

EU will Verhaltenskodex gegen Desinformation erweitern

Um die Kennzeichnung flächendeckend einzuführen, will die EU-Kommission dazu den EU-Verhaltenskodex gegen Desinformation erweitern. Eine Passage zur Nutzung von KI soll dabei dazukommen. EU-Kommissionsvizin Vera Jourova teilte dazu mit, Google-CEO Sundar Pichai habe ihr persönlich versichert, dass die Umsetzung einer solchen Regelung technisch möglich sei.

Neben Google wären davon auch viele andere große Player im Tech-Bereich betroffen, etwa Microsoft, Meta und TikTok. Alle vier haben den bestehenden Kodex bereits unterzeichnet. Twitter dagegen hatte sich erst kürzlich aus der Selbstverpflichtung gegen Desinformation verabschiedet.

Esken zweifelt an Effizienz der Selbstverpflichtung

Der Vorstoß der EU ist ein erster Ansatz, politisch gegen Deepfakes vorzugehen. Ob eine Selbstverpflichtung dazu ausreicht, sei jedoch fraglich, findet unter anderem SPD-Chefin Saskia Esken. “Diejenigen, die unsere freien und demokratischen Gesellschaften durch ihre Desinformation verunsichern und spalten wollen, werden weder einer freiwilligen noch einer gesetzlichen Kennzeichnungspflicht für KI-generierte Inhalte folgen”, sagte sie gegenüber dem Handelsblatt. Anstelle einer freiwilligen Kennzeichnung maschinell erstellter Inhalte fordert sie daher ein Qualitätssiegel für gesicherte Inhalte. Es sei “klüger und zielgerichteter, die Echtheit digitaler Medieninhalte wie Text, Ton und Bild beim Urheber fälschungssicher zu kennzeichnen und damit die Erkennbarkeit verlässlicher Information zu stärken”.

Zustimmung erhält sie dazu von Datenschutzbeauftragten aus Schleswig-Holstein, Marit Hansen. “Wir werden uns also nicht darauf verlassen können, dass Deepfakes und Desinformation powered by AI erkennbar sind.”, sagte sie gegenüber dem Handelsblatt und fordert zeitnah gesetzliche Vorgaben.

Jetzt kostenlos zum IMTEST-Newsletter anmelden!

Unsere besten News, Ratgeber und Kaufberatungen der Woche für Sie per Mail und kostenlos.

Mit meiner Anmeldung zum Newsletter stimme ich der Werbevereinbarung zu.

*Pflichtfeld. Eine Abmeldung ist jederzeit über einen Link im Newsletter möglich.

Avatar photo

Maja-Lina Lauer arbeitet seit Oktober 2022 als Volontärin für IMTEST. Zuvor studierte sie Sozial- und Kulturwissenschaften in Fulda mit Schwerpunkt interkulturelle Beziehungen. Vor ihrem Volontariat engagierte sie sich zudem ehrenamtlich in den Bereichen Bildungsarbeit und Naturschutz. Entsprechend liegen ihr Fairness und Nachhaltigkeit sehr am Herzen. Ob alternative Mobilität, Foodsharing-Apps oder langlebige Recyclingprodukte – sie kann sich für vieles begeistern, Hauptsache es ist sinnvoll, nachhaltig und erschwinglich.