Eine Plattform namens AI ModelForge lehrt Männer, wie sie aus Instagram-Fotos von Frauen pornografische KI-Influencer erstellen. Mehrere Frauen haben nun Klage eingereicht, weil ihre Bilder ohne Zustimmung missbraucht wurden. Die Plattform zeigt Schritt-für-Schritt-Anleitungen, wie aus harmlosen Social-Media-Fotos explizite Inhalte generiert werden. Laut Ars Technica handelt es sich um einen der ersten größeren Rechtsfälle zu diesem Thema.
KI-Pornografie – Was steckt dahinter?
KI-Pornografie bezeichnet computergenerierte sexuelle Inhalte, die mithilfe künstlicher Intelligenz erstellt werden. Dabei werden Gesichter echter Personen auf pornografische Szenen übertragen. Die Technologie nutzt generative KI (künstliche Intelligenz, die neue Inhalte erstellt) und maschinelles Lernen.
Die Funktionsweise ähnelt einem digitalen Fotomontage-Programm, nur vollautomatisch. Die KI analysiert Gesichtsmerkmale aus normalen Fotos und fügt sie in pornografische Szenen ein. Das Ergebnis wirkt oft täuschend echt, obwohl die Person nie an solchen Aufnahmen beteiligt war.
Laut Ars Technica bietet AI ModelForge detaillierte Tutorials für diese Technik an. Die Plattform richtet sich gezielt an Männer, die eigene KI-Influencer erstellen wollen. Dabei werden bewusst Fotos echter Frauen aus sozialen Netzwerken verwendet, ohne deren Wissen oder Einverständnis.
Die Klägerinnen werfen den Betreibern vor, ihre Persönlichkeitsrechte massiv verletzt zu haben. Sie fordern Schadenersatz und die sofortige Entfernung aller mit ihren Gesichtern erstellten Inhalte.
KI-Pornografie: Warum das gerade jetzt wichtig ist
Die Technologie für KI-generierte Inhalte ist in den letzten zwei Jahren deutlich zugänglicher geworden. Was früher Expertenwissen erforderte, kann heute jeder mit einer Internetverbindung nutzen. Gleichzeitig steigt die Qualität der Ergebnisse rapide an, wodurch Fälschungen schwerer erkennbar werden.
Social-Media-Plattformen kämpfen bereits mit dem Problem. Meta berichtete 2023, dass täglich Millionen KI-generierte Fake-Inhalte entfernt werden müssen. Die Dunkelziffer dürfte deutlich höher liegen, da viele Fälle unentdeckt bleiben oder nicht gemeldet werden.
Besonders problematisch ist die kommerzielle Nutzung solcher Inhalte. Plattformen wie AI ModelForge monetarisieren den Missbrauch fremder Bilder direkt. Sie verkaufen Anleitungen und Tools, mit denen Nutzer Geld durch gefälschte Inhalte verdienen können.
Der aktuelle Rechtsfall könnte Präzedenzcharakter haben. Bisher gab es kaum erfolgreiche Klagen gegen solche Plattformen, da die rechtlichen Grundlagen oft unklar waren.
Was das für Österreich bedeutet
Österreichische Frauen sind genauso betroffen wie Frauen weltweit. Ihre Instagram-Fotos können ebenso missbraucht werden. Die österreichische Datenschutzbehörde hat bereits mehrfach vor solchen Praktiken gewarnt und Beschwerdemöglichkeiten aufgezeigt.
Konkrete österreichische Fälle sind noch nicht bekannt geworden. Das liegt vermutlich daran, dass viele Betroffene nichts von dem Missbrauch ihrer Bilder wissen. Die Inhalte werden oft in geschlossenen Gruppen oder kostenpflichtigen Bereichen geteilt.
Für österreichische Unternehmen entstehen neue Haftungsrisiken. Wer KI-Tools zur Inhaltserstellung nutzt, muss sicherstellen, dass keine Persönlichkeitsrechte verletzt werden. Das betrifft besonders Marketing-Agenturen und Content-Ersteller, die mit KI-generierten Bildern arbeiten.
Die EU-KI-Verordnung, die auch in Österreich gilt, verbietet bestimmte KI-Anwendungen explizit. Dazu gehören Systeme zur biometrischen Kategorisierung und zur Manipulation von Personen. KI-Pornografie ohne Einverständnis fällt unter diese Verbote.
Die rechtlichen Konsequenzen werden sich in den kommenden Monaten zeigen.
Praktischer Nutzen für dich
Überprüfe regelmäßig, ob deine Fotos missbraucht werden. Google-Bildersuche und spezialisierte Tools können helfen, Fälschungen zu finden. Stelle deine Social-Media-Profile auf privat, um den Zugang zu deinen Bildern zu beschränken.
Besonders gefährdet sind Personen des öffentlichen Lebens, Influencer und Menschen mit vielen öffentlichen Fotos. Aber auch Privatpersonen können betroffen sein. Lehrer, Verkäufer oder andere Berufsgruppen mit Online-Präsenz sollten vorsichtig sein.
Dokumentiere verdächtige Fälle sofort mit Screenshots. Melde Missbrauch bei den Plattformen und erwäge rechtliche Schritte. In Österreich können Betroffene sich an die Datenschutzbehörde wenden oder Anzeige erstatten.
Welche Erfahrungen hast du mit KI-generierten Inhalten gemacht? Hast du schon einmal verdächtige Bilder oder Videos entdeckt?
Einschätzung der Redaktion
Dieser Fall zeigt die dunkle Seite der KI-Revolution deutlich auf. Während wir über die Chancen von ChatGPT und Co. diskutieren, missbrauchen andere die Technologie für kriminelle Zwecke. Die Plattform AI ModelForge ist ein Paradebeispiel dafür, wie Technologie-Unternehmen Profit über Menschenwürde stellen. Dass solche Dienste überhaupt legal betrieben werden können, ist ein Versagen der Gesetzgebung. Die EU-KI-Verordnung kommt zu spät und greift zu kurz.
Österreichische Internetnutzer sollten ihre Privatsphäre-Einstellungen sofort überprüfen. Macht eure Instagram-Profile privat, beschränkt die Sichtbarkeit eurer Fotos und seid vorsichtig mit Gesichtsfotos in hoher Auflösung. Unternehmen raten wir, klare Richtlinien für KI-Nutzung zu entwickeln und Mitarbeiter zu schulen. Wer heute wegschaut, zahlt morgen den Preis.
Quelle: Ars Technica