Nein zur Chatkontrolle

Künstliche Intelligenz

Eine Kolumne von Ullrich Slusarczyk Bullauge

Die Eindämmung von sexuellem Kindesmissbrauch im Internet soll das neue Gesetz der EU bewirken. Das ist per se ein gutes, ja sogar hehres Ziel. Kinder haben maximalen Schutz verdient und wir sollten wirklich alles tun, um sie zu schützen.

Allerdings habe ich schon in der Schule gelernt, dass viele Wege nach Rom führen und dass der Zweck eben nicht jedes Mittel rechtfertigt.

Client-Side-Scanning

Eine Technologie, genannt Client-Side-Scanning, soll dabei auf den Endgeräten, also Handy, Tablet und PC, installiert werden und direkt auf dem Rechner Nachrichten, Bilder und Dateien durchsuchen. Mal abgesehen davon, dass hier also anlasslos gesucht werden darf, gibt es da etwas, das viel schwerer wiegt: Hier sucht eine Software – kein Mensch. Algorithmen entscheiden über die Zukunft eines Menschen.

Nun wissen wir aus Erfahrung: Algorithmen sind z.B. rassistisch. [1] Und sie sind nicht in der Lage festzustellen, ob ein Jugendlicher ein Nacktselfie von sich gemacht hat oder ein Vater ein Foto von seinem kranken Kind für eine medizinische Praxis. Letzteres ist bereits vorgekommen und ging nicht gut für den Vater aus, obwohl es sich um einen sogenannten false-positive-Alarm handelte. [2]

Sexting

Jetzt soll also so eine Technik auf unserer Hardware Inhalte scannen, ohne Anlass und uneingeschränkt. Mein Vertrauen in eine solche Technik ist doch eher sehr stark eingeschränkt. Kann eine Software sogenanntes Sexting unter Jugendlichen erkennen und weiß um das Alter der betreffenden?

Bei Jugendlichen ab 14 Jahren, die sich gegenseitig und einvernehmlich Nacktbilder zusenden, handelt es sich aber nicht um die Herstellung und Verbreitung von Jugendpornografie (§ 184c StGB). [3]

Schon das halte ich für eine unlösbare Aufgabe für eine Software.

Amtlicher Missbrauch

In einem Buch, das viele kennen, steht: Drum führe mich nicht in Versuchung.

Wir alle wissen, was aus solchen Versuchungen entstehen kann. 2018/19 gab es in ganz Deutschland Demonstrationen gegen die sogenannten Polizeiordnungsgesetze. In Bayern das PAG, in Niedersachsen das NPOG. Sie sollten der Polizei primär den Kampf gegen den Terrorismus erleichtern. Schon damals wurde von vielen Institutionen, darunter auch der Piratenpartei, befürchtet, dass einige Regelungen missbraucht werden könnten. Jetzt, im Jahr 2022, hat sich diese Befürchtung mehr als bewahrheitet. Mein Kollege Arnold Schiller hat das in seinem Artikel ausführlich besprochen.

https://flaschenpost.piratenpartei.de/2022/11/09/willkommen-im-mittelalter/

Jetzt soll eine Software zum Beispiel direkt auf meinem Handy alle Dateien scannen dürfen? Selbst ich würde da in Versuchung geraten. Aber selbst wenn unser Staat das Ganze nicht missbraucht. Wer garantiert mir, dass andere Staaten, Verbrecherorganisationen oder Kriminelle das nicht tun? Und wer garantiert mir, dass nicht eines Tages Neonazis Zugriff auf die Software bekommen?

So hat unser Europaabgeordneter Patrick Breyer dazu eine klare Meinung:

„Die Kommission schlägt ein verpflichtendes, allgemeines Überwachungssystem vor, das so extrem ist, dass es nirgendwo sonst in der freien Welt existiert.“ [4]

Polizei

Bei alledem wird etwas übersehen. Da ist zum einen eine Polizei, die schon längst personell unterbesetzt ist. Was nicht wundert, immerhin kann man mit einer Polizei kein Geld verdienen. Viel wichtiger aber ist der Umstand, all das findet eben nicht „im“ Internet statt. Sondern bei dem netten Nachbarn von nebenan, der immer so freundlich gegrüßt hat. Und ganz ehrlich, da muss ermittelt werden. Ich vertraue der Polizei da ehrlich gesagt wesentlich mehr, als wenn sie sich dabei ausschließlich auf das Internet verlässt. Die diesbezügliche Expertise ist wie vieles Digitale im Zusammenhang mit öffentlichen Institutionen eher bescheiden.

Ich habe diverse Anzeigen erstattet gegen Spammer, Scammer etc. Dazu jede Menge Daten gesammelt und mitgeliefert. Keine einzige Anzeige hat je etwas gebracht. Alle sind sang- und klanglos verschwunden. Digitale Ermittlungen können helfen, ohne Frage. Aber rechtfertigt das alles?

Fazit

China ist angeblich das Land, in dem die Menschen am meisten digital überwacht werden. Ich weiß nicht, ob das stimmt. Aber ich bin nicht bereit, mein ganzes Leben einer Software, über die ich keine Kontrolle habe, von der ich nicht weiß, wer sie programmiert hat, noch warum, anzuvertrauen. Wenn ich Fotos von einer Demonstration mache als Journalist, möchte ich nicht anschließend verhaftet werden, nur weil eine Software glaubt, ich wäre ein Terrorist.

Ich bin ein Fan von Technik. Aber das bedeutet nicht, dass ich verrückt bin. Es gibt noch keine funktionierende KI, und selbst wenn es sie geben würde, wäre mein Handy sicher zu schwach, als dass sie darauf zufriedenstellend laufen würde. Das von mir genannte Beispiel mit Google hat, wie ich finde, eindrücklich gezeigt, was passieren kann, und zwar, selbst nachdem Menschen hinzugezogen wurden! Es gibt andere, bessere Wege. Die Chatkontrolle ist es nicht.

Übrigens, schon 2016 wurde das Thema Überwachung hier besprochen: https://flaschenpost.piratenpartei.de/2016/03/25/von-nadeln-und-heuhaufen/

Ullrich Slusarczyk

[1] https://www.deutschlandfunk.de/rassismus-im-algorithmus-us-versicherungssoftware-100.html 

[1] https://rise-jugendkultur.de/artikel/rassismus-und-diskriminierung-durch-algorithmen/ 

[2] https://stadt-bremerhaven.de/google-konto-gesperrt-da-ein-vater-fotos-von-seinem-nackten-kleinkind-fuer-den-arzt-gemacht-hat/ 

[3] https://www.polizei-beratung.de/startseite-und-aktionen/aktuelles/detailansicht/sexting-wann-sind-nacktbilder-strafbar/ 

[4] https://www.patrick-breyer.de/beitraege/chatkontrolle/

About

Ullrich Slusarczyk 1963 in West-Berlin geboren. Jetzt in Hannover. Sehr viel gemacht im Leben und sehr viel gesehen. Schreibe gerne. Bin für direkte Sprache bekannt, manchmal berüchtigt. Halte nichts davon, Fakten auf einem DIN A4 Blatt breitzutreten, wenn das Wort „Idiot“ ausreicht. Schreibe jetzt hier die Kolumne hauptsächlich. Meine Themen sind: Gesundheit, Digitalisierung, Urheberrecht und Energie. Ich bin kein Wissenschaftler, logisches Arbeiten und Denken ist mir aber nicht fremd. Bin ein Wissenschaftsfan. Lese Science Fiction. Habe Karl May gelesen, aber auch Antoine de Saint-Exupéry oder Stanislav Lem. Mastodon


Schreibe einen Kommentar

Ihre E-Mail-Adresse wird nicht öffentlich angezeigt. Verbindlich einzugebende Felder werden mit diesem Zeichen kenntlich gemacht: *

Weitere Informationen

Newsletter

Um unseren Newsletter zu abonnieren geht bitte auf diese Seite und abonniert die Liste.

Archiv aller Artikel