Als Jennifer Watkins die Nachricht von YouTube erhielt, dass ihr Kanal geschlossen wurde, machte sie sich zunächst keine Sorgen. Schließlich hat sie YouTube nicht genutzt.

Ihre 7-jährigen Zwillingssöhne nutzten jedoch das Tablet unter ihrem Google-Konto, um sich Kinderinhalte anzusehen und machten YouTube-Videos von sich selbst, in denen sie alberne Tänze aufführten. Nur wenige dieser Videos erhielten mehr als fünf Aufrufe. Aber das Video, das Watkins in Schwierigkeiten brachte und von einem ihrer Söhne gefilmt wurde, war anderer Natur.

Dies steht im Material der New York Times.

„Offensichtlich war es ein Po-Video“, sagte Watkins, der das Video noch nie gesehen hatte. „Ein Klassenkamerad überredete ihn, nackt auszusehen.“

Künstliche Intelligenz und ihre Fähigkeiten

YouTube, im Besitz von Google, verfügt über Systeme, die auf künstlicher Intelligenz basieren Intelligence , die jede Minute Hunderte Stunden an Videos ansehen, die auf den Dienst hochgeladen werden. Der Scanvorgang kann manchmal schief gehen und unschuldige Menschen können als Kindesmissbraucher verdächtigt werden.

Die New York Times hat weitere Episoden dokumentiert, in denen das digitale Leben von Eltern durch Nacktfotos und Videos ihrer Kinder auf den Kopf gestellt wurde, die von Googles künstlichen Intelligenzsystemen gekennzeichnet und von menschlichen Rezensenten als illegal eingestuft wurden. Infolgedessen wurden gegen einige Eltern polizeiliche Ermittlungen eingeleitet.

Das im September hochgeladene „Nacktvideo“ im Fall Watkins wurde innerhalb weniger Minuten als mögliche sexuelle Ausbeutung eines Kindes gekennzeichnet. Dies stellt einen Verstoß gegen die Nutzungsbedingungen der Google-Dienste mit sehr schwerwiegenden Folgen dar.

Gesperrtes Konto

Watkins, eine im Gesundheitswesen in New South Wales, Australien, lebende Mitarbeiterin, stellte bald fest, dass sie nicht nur von YouTube, sondern von allen ihren Google-Konten gesperrt wurde. Sie sagte, sie habe den Zugriff auf ihre Fotos, Dokumente und E-Mails verloren, was bedeutete, dass sie über die McDonald's-App, auf die sie über Ihr Google-Konto zugegriffen hatte, keine Nachrichten über ihren Arbeitsplan erhalten, Kontoauszüge einsehen oder „einen dicken Smoothie bestellen“ konnte.

Ihr Konto wurde schließlich gelöscht, was ihr auf ihrer Google-Anmeldeseite mitgeteilt wurde, sie konnte jedoch gegen die Entscheidung Berufung einlegen. Sie klickte auf die Schaltfläche „Einspruch starten“ und schrieb in das Textfeld, dass ihre 7-jährigen Söhne Gesäßbacken komisch fanden und dass sie für das Hochladen des Videos verantwortlich seien.

„Das tut mir weh.“ finanziell “, fügte sie hinzu.

Globale Überwachung

Kinderschützer und Gesetzgeber auf der ganzen Welt drängen Technologieunternehmen, die Verbreitung verletzender Bilder online zu stoppen, indem sie solche Materialien überwachen ihre Plattformen.

Viele Kommunikationsanbieter scannen mittlerweile von ihren Nutzern gespeicherte und geteilte Fotos und Videos, um bekannte Bilder von Gewalt zu finden, die den Behörden gemeldet wurden.

Google wollte auch die Möglichkeit haben, noch nie dagewesene Inhalte zu kennzeichnen -Inhalt der gesehenen Bilder. Vor einigen Jahren entwickelten sie einen auf bekannten Bildern trainierten Algorithmus, der versucht, neue Betriebsstoffe zu identifizieren; Google hat es anderen Unternehmen zur Verfügung gestellt, darunter Meta und TikTok.

Nachdem ein Mitarbeiter bestätigt hatte, dass das von Sohn Watkins gepostete Video problematisch war, meldete Google es dem National Center for Missing and Exploited Children, einer gemeinnützigen Organisation, die als bundesstaatliche Clearingstelle für bestimmte Inhalte fungiert. Das Zentrum kann das Video zu seiner Datenbank bekannter Bilder hinzufügen und entscheiden, ob es den örtlichen Strafverfolgungsbehörden gemeldet werden soll.

Laut Statistiken des nationalen Zentrums ist Google eine der größten Quellen für Meldungen über „explizite Kinderpornografie“. Letztes Jahr hat Google mehr als zwei Millionen Berichte eingereicht, weit mehr als die meisten Unternehmen für digitale Kommunikation, aber weniger als die Anzahl der von Meta eingereichten Berichte.

Fragwürdige Urteile?

< p dir="ltr">Experten sagen, es sei schwierig, die Schwere des Kindesmissbrauchsproblems allein anhand der Zahlen zu beurteilen. In einer Studie einer kleinen Stichprobe von Nutzern, die wegen des Teilens unangemessener Bilder von Kindern gemeldet wurden, sagten Facebook-Analysten, dass mehr als 75 Prozent keine böswilligen Absichten hatten. Zu den Nutzern gehörten Teenager, die romantische Beziehungen führen und intime Bilder von sich selbst teilten, sowie Menschen, die „ein Meme eines Tieres teilten, das die Genitalien eines Kindes beißt, weil sie es lustig finden.“

Apple stand nicht unter Druck, iCloud nach ausbeuterischem Material zu durchsuchen. Der Sprecher verwies auf einen Brief, den das Unternehmen dieses Jahr an eine Menschenrechtsgruppe geschickt hatte, in dem er seine Besorgnis über „die Sicherheit und Privatsphäre unserer Nutzer“ zum Ausdruck brachte und sagte, dass „unschuldige Parteien in einem dunklen Netz gefangen sind.“

Letzten Herbst schrieb Googles Chief Trust and Safety Officer, Susan Jasper, in einem Blogbeitrag, dass das Unternehmen plant, seinen Beschwerdeprozess zu aktualisieren, um „das Nutzererlebnis“ für Menschen zu verbessern, die „glauben, dass wir schlechte Entscheidungen getroffen haben“.

< p>Highlights Die Änderung besteht darin, dass das Unternehmen jetzt mehr Informationen über die Gründe für die Kontosperrung bereitstellt, anstatt eine allgemeine Meldung über einen „schwerwiegenden Verstoß“ gegen die Unternehmensrichtlinien. Watkins beispielsweise wurde mitgeteilt, dass der Grund für ihre Sperrung die Ausbeutung von Kindern sei.

Kontowiederherstellung

Trotzdem wurden die wiederholten Berufungen von Watkins abgelehnt. Sie hatte ein kostenpflichtiges Google-Konto, das es ihr und ihrem Mann ermöglichte, Kundendienstmitarbeitern Nachrichten zu senden. Aber in von The Times überprüften E-Mails sagten Agenten, dass das Video, auch wenn es sich um die unbewusste Handlung eines Kindes handelte, dennoch gegen die Unternehmensrichtlinien verstieß.

Eine drakonische Strafe für ein bedeutungsloses Video scheine unfair, sagte Watkins. Sie fragt sich, warum Google sie nicht hätte warnen können, bevor der Zugriff auf alle ihre Konten und mehr als 10 Jahre digitalen Erinnerungen gesperrt wurde.

Nach mehr als einem Monat erfolgloser Versuche, das zu überzeugen Watkins sprach mit The Times, als das Unternehmen seine Meinung änderte. Einen Tag nachdem sich ein Reporter nach ihrem Fall erkundigt hatte, wurde ihr Google-Konto wiederhergestellt.

„Wir möchten nicht, dass unsere Plattformen dazu genutzt werden, Kinder zu gefährden oder auszubeuten, und es besteht eine weit verbreitete Forderung, dass Online-Plattformen die strengsten Maßnahmen ergreifen, um sexuellen Missbrauch von Kindern zu erkennen und zu verhindern“, heißt es in einer Erklärung des Unternehmens. „In diesem Fall gehen wir davon aus, dass die Inhalte, die die Rechte des Kindes verletzen, nicht in böswilliger Absicht hochgeladen wurden.“

Das Unternehmen antwortete nicht, wie es sonst noch Einfluss auf die Ablehnung der Berufung nehmen könnte. außer indem Sie einen E-Mail-Brief an den Reporter der Times senden.

“Zwei Seiten derselben Medaille”

Google sei in einer schwierigen Lage, solche Beschwerden zu beurteilen, sagte Dave Willner, ein Fellow am Cyber ​​​​Policy Center der Stanford University, der bei mehreren großen Technologieunternehmen an Vertrauens- und Sicherheitsfragen gearbeitet hat. Selbst wenn ein Foto oder Video harmlosen Ursprungs ist, kann es mit böswilliger Absicht weitergegeben werden.

“Pädophile teilen Bilder, die Eltern in Unschuld aufgenommen haben, oder sammeln sie in Sammlungen, weil sie es tun Ich will einfach nur nackte Kinder sehen“, sagte Wilner.

Ein weiteres Problem ist die schiere Menge potenziell ausbeuterischer Inhalte, die Google kennzeichnet.

„Es ist einfach ein sehr, sehr schwieriges Problem, Werturteile in diesem Ausmaß zu regulieren“, sagte Willner. „Sie treffen jedes Jahr Hunderttausende oder Millionen Entscheidungen. Wenn man so oft würfelt, bekommt man Schlangenaugen.“

Er sagte, dass Watkins‘ Probleme, nachdem er den Zugang zu Google verloren hatte, „ein gutes Argument dafür waren, sein digitales Leben auszuweiten“ und Verlassen Sie sich bei vielen Diensten nicht auf ein einziges Unternehmen.

Watkins hat aus dieser Erfahrung eine weitere Lehre gezogen: Eltern sollten ihr Google-Konto nicht für die Internetaktivitäten ihrer Kinder verwenden, sondern ein eigenes Konto erstellen Wahl, die Google fördert.

Sie hat noch keine für die Zwillinge erstellt. Vorerst ist ihnen die Nutzung des Internets untersagt.

Lesen Sie auch:

Ähnliche Themen:

Weitere Neuigkeiten