Mithilfe von KI generierte Pornografie mit den Gesichtern von realen Personen ist auch in der Schweiz ein Thema. Die Rechtslage dazu ist jedoch unklar.
Südkorea ist erschüttert. An mehr als 500 Schulen und Universitäten im Land beschafften sich Täter Bilder von jungen Frauen und Mädchen und nutzten KI-Bildtools, um sie in pornografische Szenen einzupflanzen. Teilweise wurden diese dann benutzt, um die Opfer zu erpressen. Dies berichtete die BBC im September 2024 mit Verweis auf die südkoreanische Journalistin Ko Narin, die den Skandal in der Zeitung «Hankyoreh» an die Öffentlichkeit brachte.
«Jede Minute haben Leute Bilder von Mädchen, die sie kennen, hochgeladen und gebeten, dass sie in Deepfakes umgewandelt werden», wird Ko im BBC-Artikel zitiert. Abgespielt haben soll sich das auf dem kaum moderierten Nachrichtendienst Telegram. Viele Frauen und Teenager entfernten daraufhin Bilder von ihren Social Media-Kanälen, um nicht selber Opfer zu werden, wie es weiter heisst.
Was sind Deepfakes?
Professorin Brigitte Tag und Jurist Martin Wyss von der Universität Zürich definierten Deepfakes kürzlich in einem Artikel als mit KI geschaffene Fälschungen, «die zwar täuschend echt wirken, aber keine realen Lebensvorgänge wiedergeben». Für diese gebe es durchaus sinnvolle legale Anwendungsbereiche, es bestehe aber auch Missbrauchspotential, so zum Beispiel bei «nicht einvernehmliche[n] pornografischen Deepfakes». Dabei würden etwa alltägliche Gesichtsbilder auf tatsächliche oder virtuell geschaffene pornografische Darstellungen übertragen.
Das Phänomen Deepfake-Pornografie ist keineswegs auf Südkorea beschränkt. Bereits am 2. Februar letzten Jahres wurde der Film «Unfreiwillig im Porno – Wie Frauen Opfer künstlicher Intelligenz werden» von Nicole Krättli bei «NZZ Format» von SRF publiziert. Dabei erzählen Frauen, eine nordirische Politikerin und eine ehemalige englische Aktivistin, wie mit ihren Gesichtern pornografische Deepfakes generiert wurden und was für einschneidende Auswirkungen das auf ihren Leben hatte.
Form von sexueller Gewalt
KI-Experte Henry Ajder sagt im Film, er habe bereits 2019 in einer Studie festgestellt, dass 96 Prozent aller Deepfakes pornografischer Natur waren, und sich meist gegen Frauen richteten. Er geht von Millionen von Opfern auf der ganzen Welt aus. Regula Bernhard Hug von Kinderschutz Schweiz sagte im August dieses Jahres zur «NZZ», KI beschleunige die Erschaffung und Verbreitung solcher Inhalte. Zudem ordnete sie die Praxis eindeutig als eine Form sexueller Gewalt ein.
Pornografische Deepfakes als sexualisierte Gewalt
Hug ist nicht die Einzige, die pornografische Deepfakes als sexualisierte Gewalt einordnet. So sagte etwa Jolanda Spiess-Hegglin vom Verein «Netzcourage» Anfang 2024 zu SRF: «Mit Pornografie kann man eine Frau im Innersten treffen». Es ging damals um pornografische Deepfakes von US-Popstar Taylor Swift, die auf X (ehemals Twitter) kursierten. «Deepfakes werden gezielt eingesetzt, um Frauen zu demütigen und mundtot zu machen und im Zweifel aus dem öffentlichen Raum zu verdrängen» zitierte das ZDF im April 2024 Josephine Ballon, Geschäftsführerin von HateAid.
Und wie ist die Lage in der Schweiz? Die Bundespolizei (Fedpol) gab letzten Sommer der Nachrichtenagentur Keystone-SDA (hier via Watson) bekannt, dass Kantonspolizeien bereits mit Fällen konfrontiert seien. Dabei handle es sich um Fälle, in denen sich Männer mit Deepfake-Pornografie an ihren Ex-Partnerinnen «rächen» wollten. Um wie viele Fälle es sich handelt wurde offengelassen.
Das Unrecht das den Opfern angetan wird, würde zumindest auf strafrechtliche Folgen für die Macher und Verbreiter solcher Inhalte hoffen lassen. Doch Deepfake-Pornografie ist in der Schweiz nicht explizit gesetzlich geregelt. Natürlich können Täter für strafbare Handlungen, die Sie im Zusammenhang mit Deepfake-Pornografie begehen (etwa Kinderpornografie oder Erpressung) belangt werden, nicht aber notwendigerweise für die sexuelle Gewalt, die die Opfer erleiden.
Fairmedia-Newsletter abonnieren
Einen Einblick in die Gesetzeslage bietet die Motion von Nationalrat Raphaël Mahaim (Grüne). Er forderte bereits im Mai 2023, dass der Bundesrat Deepfakes reguliert und unter anderem einen Tatbestand ausarbeitet, der die Erstellung und die Verbreitung von persönlichkeits- und rufschädigenden Deepfakes unter Strafe stellt.
Bundesrat sieht keinen Handlungsbedarf
Der Bundesrat vertat in seiner Stellungnahme zu Mahaims Vorstoss jedoch den Standpunkt, dass bereits ausreichende Instrumente zur Verfügung stünden, um solche Delikte zu ahnden. Er verwies dabei auf Artikel 173 fortfolgende im Strafgesetzbuch (StGB), die sich mit Ehrverletzungsdelikten befassen und 179 decies StGB (Identitätsmissbrauch). Weiter hielt der Bundesrat fest, dass etwaige Verletzungen der Persönlichkeitsrechte auf dem Zivilweg eingeklagt werden können.
Herstellung von pornografischen Deepfakes ist erschreckend einfach
In einem Selbstversuch (siehe Titelbild) hat Fairmedia ein Bild einer Geschäftsfrau im Anzug künstlich generieren lassen. Nach nur wenigen Suchschritten im Web und auf einer Social-Media-Plattform haben wir Applikationen gefunden, die das Erscheinungsbild der Person innert weniger Sekunden nach Wunsch verändern können. Eine Übertragung des Gesichts auf einen Körper im Bikini war noch gratis. Vollständige Nacktheit oder gar sexuelle Handlungen waren hinter einer Bezahlschranke.
Eine ähnliche Haltung nahm der Bundesrat in seiner Antwort auf eine bereits im März 2016 eingereichte Motion von Nationalrätin Yvonne Feri (SP) ein. Hier ging es um eine spezifische Regulierung von Rachepornografie, also das Weiterleiten und Veröffentlichen von intimen Aufnahmen des Partners oder der Partnerin ohne deren Einwilligung. Dieses Anliegen fand jedoch mit der Revision des Sexualstrafrechts (in Kaft seit 1. Juni 2024) im Artikel 197a Einzug ins Strafgesetzbuch.
Den Artikel 197a erwähnen auch Tag und Wyss in ihrer Abhandlung. Sie schlagen eine Ergänzung vor, die spezifiziert, dass der Artikel sowohl auf tatsächliche wie auch auf nicht tatsächliche sexuelle Inhalte anwendbar ist. Dies würde viele juristischen Fragen klären, vor allem in Bezug auf schützenswerte Rechtsgüter, die durch digitale Manipulationen tangiert sind. Zum Teil seien die angedrohten Strafen vor dem Hintergrund «der potentiell schweren Auswirkungen […] in eher niedrigen Bereichen angesiedelt», so Tag und Wyss weiter. Sie befürchten, dass sich die Problematik mit dem zunehmenden Anteil synthetisch generierter Inhalte im Internet künftig weiter akzentuieren dürfte.
Wie so oft bei sich rasch verbreitenden digitalen Phänomenen
Da es sich bei pornografischen Deepfakes um ein historisch relativ junges Problem handelt, bliebt abzuwarten, wie in der Schweiz damit umgegangen wird. Fairmedia ist keine Rechtsprechung mit Präzedenzcharakter bekannt, an der klar ersichtlich wäre, wie im Rahmen geltenden Rechts mit der Problematik umgegangen wird.
Es ist möglich, dass eine solche Rechtsprechung noch folgt und sich daraus eine solide Praxis ergibt. Mangels expliziter Gesetzgebung ist es aber ebenso möglich, dass derartige Delikte wenig strafrechtliche Relevanz erfahren und den Opfern nur übrig bleibt, in aufwändigen Zivilverfahren um zumindest die Durchsetzung ihrer Persönlichkeitsrechte zu ringen.
(Veröffentlicht am 6.1.2025 von Steve Last und Tobias König)
