Alle Artikel von Marcel Weiß auf neunetz.com

„Without encryption, we will lose all privacy. This is our new battleground“ schreibt Edward Snowden im Guardian.

Er hat recht. Aber.

Vor einigen Tagen erschien in der New York Times eine lange Reportage, welche die rasante Zunahme von Bildern und Videos von sexuellem Kindesmissbrauch online beleuchtet: „The Internet Is Overrun With Images of Child Sexual Abuse. What Went Wrong?“ (Vorsicht. Der Artikel beinhaltet auch grobe Beschreibungen brutalsten Missbrauchs.)

Einige Auszüge (keine Missbrauchsbeschreibungen):

Twenty years ago, the online images were a problem; 10 years ago, an epidemic.

Now, the crisis is at a breaking point.[…]

Pictures of child sexual abuse have long been produced and shared to satisfy twisted adult obsessions. But it has never been like this: Technology companies reported a record 45 million online photos and videos of the abuse last year. […]

While the material, commonly known as child pornography, predates the digital era, smartphone cameras, social media and cloud storage have allowed the images to multiply at an alarming rate. Both recirculated and new images occupy all corners of the internet, including a range of platforms as diverse as Facebook Messenger, Microsoft’s Bing search engine and the storage service Dropbox. […]

The groups use encrypted technologies and the dark web, the vast underbelly of the internet, to teach pedophiles how to carry out the crimes and how to record and share images of the abuse worldwide. In some online forums, children are forced to hold up signs with the name of the group or other identifying information to prove the images are fresh. […]

And when tech companies cooperate fully, encryption and anonymization can create digital hiding places for perpetrators. Facebook announced in March plans to encrypt Messenger, which last year was responsible for nearly 12 million of the 18.4 million worldwide reports of child sexual abuse material, according to people familiar with the reports. Reports to the authorities typically contain more than one image, and last year encompassed the record 45 million photos and videos, according to the National Center for Missing and Exploited Children.

All the while, criminals continue to trade and stockpile caches of the material. […]

Bing was said to regularly submit reports that lacked essential information, making investigations difficult, if not impossible. Snapchat, a platform especially popular with young people, is engineered to delete most of its content within a short period of time. According to law enforcement, when requests are made to the company, Snap often replies that it has no additional information.

A Microsoft spokesman said that the company had only limited information about offenders using the search engine, and that it was cooperating as best as it could. A Snap spokesman said the company preserved data in compliance with the law.

Data obtained through a public records request suggests Facebook’s plans to encrypt Messenger in the coming years will lead to vast numbers of images of child abuse going undetected. The data shows that WhatsApp, the company’s encrypted messaging app, submits only a small fraction of the reports Messenger does.

​Im Internet können sich Nischen finden, ja, erst richtig entfalten. Interessierte finden Gleichgesinnte, die sie sonst nie gefunden hätten, weil das Internet geografische Grenzen aufhebt. Das gilt für alle Interessensgebiete. Auch und besonders für kriminelle.

Die Verbreitung digitaler Inhalte ist zusätzlich quasi kostenfrei. Die Verteilung einer weiteren Datei an ein Ziel ist mit keinen Kosten für den Verteilenden verbunden. Wir haben diesen Aspekt beim Thema Urheberrecht bis zum Ende durchgespielt.

Es gilt auch hier.

Man muss diese Fakten mitdenken, wenn man von Verschlüsselung von Messengern spricht. Whatsapp hat eine weitaus größere internationale Verbreitung als das noch nicht verschlüsselte Facebook Messenger. Das ist mit an Sicherheit grenzender Wahrscheinlichkeit der Hauptgrund, warum es weniger Meldungen von Whatsapp bezüglich Missbrauchsmaterial gibt als beim Facebook Messenger.

Datenschützer fordern eine lückenlose E2E-Verschlüsselung bei Messenger und co. Sie haben einen validen Punkt. Aber gleichzeitig argumentieren auch viele, etwas zynisch aber wahrscheinlich realistisch, dass Facebook viele Probleme für sich mit der Verschlüsselung löst, weil das Unternehmen nicht verantwortlich gemacht werden kann für Dinge, die es technisch nicht mehr sehen kann. Facebook braucht die Inhalte privater Kommunikation nicht für sein Werbeprodukt; gleichzeitig dürfte vielen nicht klar sein, wie viel Schreckliches auch im Messenger passiert bei der kaum vorstellbaren Größe der Nutzerschaft von Facebook.

Es gibt mittelfristig auf der Seite der Informationsarchitekturen zwei Dinge, die die Verbreitung von Missbrauchsmaterial zumindest eindämmen können:

• Machine Learning, das allerdings technisch noch Fortschritte machen muss, kann Material, das jemand teilen möchte, analysieren und kategorisieren. Das ist auch mit Ende-zu-Ende-Verschlüsselung vereinbar. Denn Machine Learning kann auch on-device, also direkt in der App auf dem Gerät, stattfinden. Identifiziertes Material kann dann wie ein Shadow-Ban „geteilt“ werden und gleichzeitig zum Review intern weitergeleitet werden. (Die neue Rekorder-App auf dem Google Pixel 4 transkripiert Audio sofort und on-device. Im Gegensatz zu urheberechtlich geschütztem Material ist Missbrauchsmaterial auch erkennbar ohne den jeweiligen konkreten rechtlichen Kontext. Sprich: Man sieht einem Bild oder Video nicht an, wer welche Rechte daran hält. Man sieht aber, was auf diesem Material zu sehen ist. Für Urheberrechtsverletzungen wird Machine Learning deshalb nie die Lösung sein. Für diesen Fall kann es dagegen eine effektive Gegenmassnahme unter weiteren(!) sein.))
• Verschlüsselte Kommunikationsdienste, die als Distributionskanäle dienen, wie eben etwa Messenger-Apps, müssen, wenn sie Verschlüsselung anbieten, gleichzeitig die Massenverbreitung von Inhalten einschränken. (WhatsApp hat bereits Anfang des Jahres das Weiterleiten von 20 Empfängern auf fünf begrenzt. Der Hauptbeweggrund hier war das Verteilen von Falschinformationen. Die Überlegungen gehen offensichtlich in die gleiche Richtung: Reibung wieder einführen und damit Missbrauch zumindest etwas erschweren.)

Es gibt sicher noch mehr Dinge die hier auf Anbieterseite getan werden können. (Im Grunde muss jede reibungsfreiere Massenverbreitung mit Missbrauchsgegenmassnahmen einhergehen.) Nicht nur seitens der Angebote sondern auch vor allem seitens der Organisationen. Fast wichtiger als all das erscheint aber eine massive Ressourcenaufstockung bei den zugehörigen Behörden. Es ist eine Katastrophe, dass hier die Strukturen national wie international nicht analog zum Anstieg des kursierenden Materials mitgewachsen sind.

Allerdings: Langfristig werden verschlüsselte, dezentrale Alternativen für Messenger, Hosting etc. jede Gegenmassnahme zunichte machen. Das alles wird gleichzeitig vielfältiger, einfacher zu nutzen und wird sich weiter verbreiten. Diese dezentralen Alternativen, blockchain-basiert oder anderweitig umgesetzt, werden gerade deshalb attraktiv(er) sein, weil sie keinen zentralen Ansprechpartner haben, der begrenzende Massnahmen in des Gesamtkonstrukt einführen kann.

Gleichzeitig kann und darf man nicht Snowdens Argument übergehen. Kann eine demokratische Gesellschaft ohne Privatsphäre überhaupt existieren?

Ich sehe, deprimierenderweise, aktuell keine auch nur ansatzweise zufriedenstellende Lösung für diese Herausforderung.