Ein Telegram-Bot macht aus normalen Fotos Nacktbilder

Telegram galt einmal als sicherere WhatsApp-Alternative. Die App hat aber ebenfalls so ihre Probleme. Jetzt haben Sicherheitsexperten einen Bot gefunden, der aus normalen Fotos Nacktfotos machen kann.

Frau mit Smartphone
Bildrechte: imago images/Westend61

Auf Telegram kursiert ein Bot, der aus ganz normalen Fotos Nacktfotos machen kann. Gefunden hat ihn das Sicherheitsunternehmen Sensity. Laut dem Bericht des Unternehmens könne man ein Foto einer bekleideten Person an den Bot schicken. Nach einigen Minuten liefere der Algorithmus dann ein gefälschtes Nacktfoto der Person und postet es für alle Nutzer einsehbar auf seinem Kanal. Unter den Bildern sollen auch Fotos von Minderjährigen sein.

Unrealistisch, aber trotzdem gefährlich

Der britische Sender BBC hat den Bot mit freiwilligen Testpersonen ausprobiert. Die Ergebnisse seien zwar sehr unrealistisch. Dennoch könnten sie genutzt werden, um Personen zu erpressen oder öffentlich zu demütigen. Laut dem Bericht des Sicherheitsunternehmens sei die Software vor allem auf Bilder von Frauen spezialisiert.

Insgesamt fanden die Forscher sieben Telegram-Kanäle, die mit dem Bot in Zusammenhang stehen. Der Großteil der Nutzenden dort stamme aus Ländern wie Russland, Belarus und Kasachstan.

Keine Reaktion von Telegram

Chancen dagegen vorzugehen gibt es wenige. Auf Anfrage der BBC sagt der Administrator der Telegram-Gruppen des Bots, dass ihm das alles recht egal sei: "Das ist Unterhaltung, die keine Gewalt mit sich bringt. Niemand wird jemanden damit erpressen, da die Qualität sehr unrealistisch ist."

Telegram selbst äußerte sich bisher nicht. Merlin Schumacher vom Computermagazin c't hält die Chancen, dass der Messenger-Dienst etwas gegen diesen Bot unternimmt, für relativ gering.

Tendenziell löschen die nix. Es gibt ganz wenige Inhalte, auf die Telegram überhaupt reagiert.

Vor allem bei Inhalten, in denen es um Terrorismus geht, werde Telegram aktiv. Aber auch nur auf Druck der russischen Regierung, sagt Schumacher.

Das russische Netzwerk vKontakte, auf dem ebenfalls eine Version des Bots zu finden war, erklärte, solche Inhalte nicht zu dulden und dagegen vorzugehen.

Keine Chance, dagegen vorzugehen

Wer so ein gefälschtes Foto von sich im Netz findet, habe wenig Chancen, sich dagegen zu wehren, sagt Merlin Schumacher. Was einmal im Netz sei, könne man nur schwer wieder einfangen. Gleiches gelte auch für den Code der Software.

Man kann höchstens hoffen, dass man die Leute, die das reingestellt haben erwischt und die bestrafen kann.

Für Geschädigte bleibe eigentlich nur, darauf zu hoffen, dass schnell Gras über die Sache wächst. Gegen Telegram selbst habe man kaum eine Handhabe, weil die Firmenstruktur ausgesprochen schwierig zu durchschauen sei. Der beste Ratschlag sei, auf jeden Fall zur Polizei zu gehen und Anzeige gegen Unbekannt zu stellen.

Software existiert schon seit 2019

Der Bot basiert auf einer Software namens DeepNude, die vergangenes Jahr veröffentlicht wurde. Mit Hilfe von sogenanntem 'Machine Learning' wurde einem Computer beigebracht, Nacktfotos aus Bildern bekleideter Personen zu generieren. Die Software wurde vor allem mit Bildern von Frauen "trainiert".

Die Programmierer hatten ihre Software zwar schnell wieder aus dem Netz entfernt, diese sei mittlerweile aber kopiert worden und frei im Netz auffindbar.

Dieses Thema im Programm MDR JUMP am Wochenende | 31. Oktober 2020 | 13:40 Uhr

Aktuelle Themen von MDR JUMP