Einer Warnung einer Online-Sicherheitsgruppe zufolge verwenden Pädophile künstliche Intelligenz, um „verblüffend realistische“ Bilder vom sexuellen Kindesmissbrauch zu erzeugen, die für viele Menschen von echten Bildern nicht zu unterscheiden sein könnten.
Laut einem Bericht von Sky News hat die Internet Watch Foundation (IWF) bereits sehr realistische KI-generierte Bilder gefunden, auf denen sexueller Missbrauch von Kindern dargestellt wird, und dass die künstliche Intelligenz dazu verwendet wird, dass die „Mengen“ der Bilder vom sexuellen Kindesmissbrauch rasant ansteigen.
Darüber hinaus sind die Bilder so realistisch, dass es unter Umständen schwer festzustellen ist, wann echte Kinder in Gefahr sind, warnte die IWF, die Inhalte über Kindesmissbrauch im Internet aufspürt und löscht.
Auf den von der IWF untersuchten Online-Seiten, von denen einige von der Öffentlichkeit gemeldet wurden, waren angeblich Bilder zu sehen, auf denen Kinder im Alter von drei Jahren abgebildet waren. Der IWF erklärte, er habe sogar eine Art „Handbuch“ im Internet gefunden, das Perversen helfen soll, mit Hilfe von KI realistischere Bilder von Kindesmissbrauch zu erstellen.
Obwohl die Erstellung dieser Art von Bildern in Großbritannien illegal ist, erklärt die Online-Sicherheitsgruppe, dass sich die KI-Technologie so schnell weiterentwickelt hat bzw. immer leichter zugänglich ist, dass es für die Gesetzgebung bald schwierig werden könnte, mit dem Problem Schritt zu halten.
Die britische National Crime Agency (NCA) erklärte, dass das Risiko „zunimmt“ und „sehr ernst“ genommen wird, wie Sky News berichtete.
“ Wenn die Menge an KI-generiertem Material zunimmt, besteht die reale Möglichkeit, dass sich dies erheblich negativ auf die Durchsetzung der Gesetze auswirkt und die Zeit, die benötigt wird, um schutzbedürftige Kinder zu identifizieren, verlängert“, sagte Chris Farrimond, der Direktor der NCA für Bedrohungsmanagement.
Großbritanniens Premierminister Rishi Sunak kündigte an, dass auf dem bevorstehenden globalen KI-Gipfel regulatorische „Schutzmechanismen“ erörtert werden sollen, die die von der KI ausgehenden künftigen Risiken verringern könnten.
Ein Sprecher der Regierung sagte Sky News Folgendes:
KI-generierte Inhalte zur sexuellen Ausbeutung und zum Missbrauch von Kindern sind verboten, unabhängig davon, ob sie ein echtes Kind darstellen oder nicht. Das bedeutet, dass Technologieunternehmen im Rahmen des Gesetzes zur Online-Sicherheit, das mit neuen Technologien wie der künstlichen Intelligenz (KI) Schritt halten soll, verpflichtet sein werden, Inhalte proaktiv zu identifizieren und zu entfernen.
“ Das Gesetz zur Online-Sicherheit wird Unternehmen dazu verpflichten, proaktiv gegen alle Formen des sexuellen Missbrauchs von Kindern im Internet vorzugehen, einschließlich Pädophilie, Live-Streaming, Material über sexuellen Missbrauch von Kindern und unerlaubte Bilder von Kindern – oder sie müssen mit hohen Geldstrafen rechnen“, fügte die Sprecherin hinzu.
Medien berichteten zuvor, dass KI-generierte sexuelle Inhalte ein wachsendes Problem darstellen, da Facebook und TikTok es zulassen, dass von KI generierte sexuelle Anzeigen ihre Plattformen überfluten:
NBC News berichtet, dass Social-Media-Plattformen, die für ihre strengen Richtlinien gegen sexualisierte Inhalte bekannt sind, nun mit Fragen zu ihren Moderationssystemen konfrontiert werden. Facebooks Instagram und TikTok, Plattformen, die in der Vergangenheit Anzeigen für Prostitution, Pornografie und sogar Aufklärungsarbeit über sexuelle Gesundheit verboten haben, sind nun die Heimat einer neuen Art von sexualisierten Inhalten – Anzeigen für KI-generierte sexuelle Bilder und „Gesellschaft“.
Diese oft expliziten Anzeigen versprechen den Nutzern „NSFW-Bilder“ und unzensierte Chats. Sie zeigen digital erstellte Figuren, oft spärlich bekleidet und in aufreizenden Posen. Noch beunruhigender ist die Verwendung von beliebten Kinderfernsehfiguren wie SpongeBob Schwammkopf und Krümelmonster in einigen dieser Werbematerialien.
Ukraine setzt KI gesteuerte Killerdrohnen ein
Der Irak verbietet den Ausdruck „Homosexualität“