Vertrauensprobleme

Hello friend, I hope this e-mail finds you well.

Ich bin ein Freund, ein Bekannter, ein Arbeitskollege, der Newsletter deines Vertrauens. Aber etwas stimmt nicht. Irgendwas scheint falsch zu sein. Der Absender stimmt, die Adresse ist korrekt. Spam ist das hier nicht. Aber irgendwas … irgendwas ist merkwürdig.

Vieles von dem, was wir heute tun, basiert auf gegenseitigem Vertrauen. Wir haben Mittel und Wege geschaffen, mit denen wir sicherstellen, dass wir wirklich mit uns vertrauten Personen oder Instanzen zu tun haben. Was aber, wenn dieses Vertrauen untergraben wird?

Was passiert, wenn es immer einfacher wird, Bild, Ton und Video zu manipulieren, sehen wir bereits. Wer von uns hat nicht schon einmal ein Bild vor Augen gehabt und an dessen Echtheit gezweifelt? Das ist doch Fake.

Mir geht es immer häufiger so. Ich sehe ein Bild oder Video und der erste Reflex ist: Das ist nicht echt.

Deshalb haben wir uns in der Vergangenheit auf Medien verlassen. Instanzen, die – im besten Fall – das Material, das sie online stellen, vorher geprüft haben. Ich gehe davon aus, dass ein renommiertes Medium, nicht einfach ungeprüftes Material online stellt.

Deshalb bezahle ich für bestimmte Medien. Deshalb abonniere ich bestimmte Podcasts und Newsletter. Doch hier gibt es ein Problem. Was, wenn jemand in der Mitte Informationen manipuliert?

Seit einiger Zeit häufen sich Beschwerden bei großen Medienhäusern. Sie schrieben wirres Zeug oder, noch schlimmer, bringen wichtige Fakten durcheinander. Dabei war das gar nicht der Fall. Die Newsletter wurden mit den korrekten Informationen verschickt, kamen aber mit falschen Informationen bei den Empfängerinnen an.

Wie konnte das passieren?

In der IT spricht man von einer sogenannten Man in the Middle Attacke.

Der Angreifer steht dabei entweder physisch oder logisch zwischen den beiden Kommunikationspartnern, hat dabei mit seinem System vollständige Kontrolle über den Datenverkehr zwischen zwei oder mehreren Netzwerkteilnehmern und kann die Informationen nach Belieben einsehen und sogar manipulieren.

• Wikipedia

Wer aber sollte zwischen dem Newsletterversender und mir stehen? Es wird sich wohl kaum jemand die Mühe machen, sich in meinen Datenverkehr zu hängen, um Informationen in meinen abonnierten Newslettern zu manipulieren.

Die Antwort auf diese Frage gab es bald. Niemand stand in der Mitte, das Problem sitzt in der Inbox.

Betroffen waren insbesondere GMail-Anwenderinnen.
Google erkennt die Sprache jeder E-Mail und bietet eine automatische Übersetzung der E-Mails an. Wenn Google also glaubt, eine englischsprachige E-Mail zu erkennen, versucht es, diese E-Mail auf Deutsch zu übersetzen.

Wenn nun eine deutschsprachige E-Mail fälschlicherweise als anderssprachig eingestuft wird, wird diese übersetzt und deutsche Worte werden "erneut" ins Deutsche übersetzt. Das Resultat sind verfälschte Texte.

Das mag zunächst etwas skurril klingen, wenn aber in einem Bericht über russische Angriffe auf "ukrainischen Stellungen" auf einmal "amerikanische Stellungen" werden, oder andere Fakten verdreht werden, bekommt das eine gewisse Brisanz.

T-Online hat ausführlich über das Problem berichtet und auch die taz beschreibt einen ähnlichen Fall, der allerdings vor der Veröffentlichung bemerkt wurde (via achtmilliarden)

Was macht das mit uns, wenn wir jetzt nicht einmal mehr darauf vertrauen können, dass zum einen Texte, die wir schreiben, genauso bei der Empfängerin ankommen? Und umgekehrt: Wenn wir nicht sicher sein können, dass das, was wir gerade lesen, so überhaupt geschrieben wurde?

Google arbeite an einer Lösung, schreibt T-Online.

Die Frage aber bleibt; auch wenn das nur ein ärgerlicher Fehler war. Mit all den KI-Tools, die inzwischen überall eingesetzt werden, ob man als User will oder nicht, können wir nie sicher sein, was mit unseren Daten passiert.

Was macht das mit uns?

Zumindest in der direkten Kommunikation können wir das Risiko eindämmen. Wir können E-Mail-Dienste nutzen, die keine KI-Funktionen integrieren. Wer eine eigene Domain hat, kann diese meist auch zum Versand und Empfang von E-Mails nutzen.

Wir sollten ergänzend unsere E-Mails verschlüsseln. Wenn eine KI es schafft, Inhalte einer mit GPG/PGP verschlüsselten E-Mail zu manipulieren, haben wir ganz andere Probleme.

Auch Prüfsummen wären möglich. Diese werden schon lange bei der Bereitstellung von Software eingesetzt und machen es nachvollziehbar, ob nach der Veröffentlichung des Quellcodes oder des Programms (und Erstellung einer Prüfsumme) Daten manipuliert wurden. Ist dem so, passt die Prüfumme nicht mehr zum manipulierten Code.

Das bringt aber alles nichts, wenn in unseren Apps KIs schlummern, die ihre Arbeit erst nach dem Entschlüsseln beginnen. Wie so oft, kann uns aber Open-Source-Software dabei helfen, das zu vermeiden. Dank offenem Quellcode können wir wirklich sicher sein, dass der Mann in der Mitte nicht gar auf unserem Schoß sitzt.

Wenn wir unser Vertrauen nicht gänzlich verlieren, wenn wir uns noch auf digitale Medien und unsere Kommunikation verlassen wollen, müssen wir jetzt Maßnahmen ergreifen, die es uns ermöglichen, Manipulation zu unterbinden.

Und weiterhin (und umso mehr) steht die Frage im Raum: Was macht das mit uns, wenn wir keiner Information mehr trauen können?

I hope this e-mail finds you well – and was not manipulated.