Meta gab am Donnerstag bekannt, dass es neue Tools entwickelt, um jugendliche Nutzer vor „Sextortion“-Betrügereien auf seiner Instagram-Plattform zu schützen, die von US-Politikern beschuldigt wird, die psychische Gesundheit von Jugendlichen zu schädigen.
Banden betreiben Sextortionsbetrug, indem sie Menschen dazu überreden, explizite Bilder von sich selbst zur Verfügung zu stellen, und ihnen dann drohen, diese der Öffentlichkeit zugänglich zu machen, sofern sie kein Geld erhalten.
Meta sagte, es teste ein KI-gesteuertes „Nacktheitsschutz“-Tool, das Bilder mit Nacktheit, die über das Nachrichtensystem der App an Minderjährige gesendet wurden, finden und unkenntlich machen würde.
„Auf diese Weise wird der Empfänger nicht mit unerwünschten intimen Inhalten konfrontiert und hat die Wahl, das Bild zu sehen oder nicht“, sagte Capucine Tuffier, die bei Meta France für den Kinderschutz zuständig ist, gegenüber AFP.
Das US-Unternehmen sagte, es werde auch Ratschläge und Sicherheitstipps für alle bereitstellen, die solche Nachrichten senden oder empfangen.
Nach Angaben der dortigen Behörden wurden im Jahr 3,000 in den USA etwa 2022 junge Menschen Opfer von Sexploitation-Betrügereien.
Unabhängig davon haben mehr als 40 US-Bundesstaaten im Oktober damit begonnen, Meta in einem Fall zu verklagen, in dem dem Unternehmen vorgeworfen wird, es habe „von den Schmerzen der Kinder profitiert“.
In der Klageschrift wurde behauptet, Meta habe junge Nutzer ausgebeutet, indem es ein Geschäftsmodell entwickelt habe, das darauf abzielte, die Zeit, die sie trotz Gesundheitsschäden auf der Plattform verbringen, zu maximieren.
„Maschinelles Lernen auf dem Gerät“
Meta kündigte im Januar an, Maßnahmen zum Schutz von unter 18-Jährigen einzuführen, darunter eine Verschärfung der Inhaltsbeschränkungen und die Stärkung der Instrumente zur elterlichen Aufsicht.
Das Unternehmen sagte am Donnerstag, dass die neuesten Tools auf „unserer langjährigen Arbeit zum Schutz junger Menschen vor unerwünschtem oder potenziell schädlichem Kontakt“ aufbauen.
„Wir testen neue Funktionen, um junge Menschen vor Sextortion und Missbrauch von Intimbildern zu schützen und es potenziellen Betrügern und Kriminellen zu erschweren, Jugendliche zu finden und mit ihnen zu interagieren“, sagte das Unternehmen.
Es fügte hinzu, dass das Tool zum Schutz vor Nacktheit „maschinelles Lernen auf dem Gerät“, eine Art künstliche Intelligenz, zur Analyse von Bildern verwende.
Das Unternehmen, dem zudem immer wieder die Verletzung der Privatsphäre seiner Nutzer vorgeworfen wird, betonte, dass es keinen Zugriff auf die Bilder hätte, wenn die Nutzer sie nicht meldeten.
Meta sagte, es werde auch KI-Tools verwenden, um Konten zu identifizieren, die anstößiges Material senden, und ihre Fähigkeit, mit jungen Benutzern auf der Plattform zu interagieren, stark einschränken.
Die Whistleblowerin Frances Haugen, eine ehemalige Facebook-Ingenieurin, veröffentlichte 2021 eine intern von Meta – damals bekannt als Facebook – durchgeführte Untersuchung, die zeigte, dass sich das Unternehmen seit langem der Gefahren bewusst war, die seine Plattformen für die psychische Gesundheit junger Menschen darstellen.