Ist das Internet (bald) tot? Über russische Bots, Vertrauen und eine post-epistemische Welt

KI-Logbuch

Inspiration, Entdeckungen, Anwendungen

Ist das Internet (bald) tot? Über russische Bots, Vertrauen und eine post-epistemische Welt

Created on 2024-06-24 08:30

Published on —

Liebe Neugierige, Kreative, Entdecker*innen,

Gandhi sagte mal:

„Die Zukunft hängt davon ab, was wir heute tun.“

Angesichts der rasanten Entwicklungen im Bereich der Künstlichen Intelligenz (KI) und insbesondere der Verbreitung von Social Media Bots im Internet, gewinnt dieser Satz für mich zunehmend an Bedeutung.

Wird die „Dead Internet Theory“ jetzt Realität?

Die „Dead Internet Theory„, eine Verschwörungstheorie aus den tiefen Gewässern des Internets (unter anderem 4Chan), behauptet, ein Großteil oder gar sämtliche Aktivitäten und Inhalte im Internet würden heute nicht mehr von Menschen, sondern von Bots und KI-Systemen generiert. Wenn auch recht extrem gedacht (wie die meisten Verschwörungstheorien halt so sind) scheinen aktuelle Zahlen diese Theorie auf verblüffende Weise mittlerweile jedoch zu bestätigen:

– Laut einer dieses Jahr für 2023 veröffentlichten Studie des Cybersecurity-Unternehmens Imperva stammten vergangenes Jahr fast 50% des gesamten Internetverkehrs von Bots – Tendenz steigend.

– Sogenannte „Bad Bots“, die für Spam, Hacking und Desinformation eingesetzt werden, machten dabei 32% aus.

– Besonders betroffen waren Länder wie Irland (71% Bot-Traffic), Deutschland (67,5%) und Mexiko (42,8%).

Quelle: 2024 Bad Bot Report (S.7) – der Anteil von Bots am Internet Traffic nimmt allgemein zu.

Russische Bots schüren Konflikte

Besonders besorgniserregend ist der gezielte Einsatz von Bots für Propaganda und Manipulation, wie eine Studie der LMU München am Beispiel des Ukraine-Kriegs zeigt:

– Nach dem russischen Angriff auf die Ukraine verbreiteten Bots massiv pro-russische Propaganda auf Twitter.

– Rund 20% der Verbreiter solcher Botschaften waren Bots, die gezielt Länder ins Visier nahmen, die sich bei UN-Resolutionen gegen Russland enthielten.

– Ziel war es, die Unterstützung für Sanktionen zu untergraben und die Solidarität mit der Ukraine zu schwächen.

„KI könnte das Vertrauen der Menschen zerstören“

Der vergangenen April verstorbene Philosoph Daniel Dennett warnte eindringlich vor den Gefahren von KI für unsere Gesellschaft. Er formte das Konzept der „Counterfeit People„, also von KI erzeugte Kopien von uns oder gar komplett synthetisch erzeugte, digitale Menschen. Im Atlantic schrieb er dazu im Mai 2023:

„Zum ersten Mal in der Geschichte ist es dank KI für jeden möglich, gefälschte Menschen zu erschaffen, die in vielen digitalen Umgebungen als echt durchgehen. Diese gefälschten Menschen sind die gefährlichsten Artefakte der Menschheitsgeschichte, die nicht nur Volkswirtschaften, sondern die menschliche Freiheit selbst zerstören können.“

Dennett befürchtete, dass „Counterfeit People“ das Vertrauen zwischen Menschen massiv beschädigen und zu Manipulation und Unterdrückung führen könnten. Dies würde letzten Endes auch den Volkswirtschaften der Länder weltweit schaden. Wäre das Ganze nicht so eine reale und vor allem ernste Angelegenheit, es wäre sicherlich guter Stoff für den nächsten SciFi Blockbuster.

Auf dem Weg in eine „post-epistemische Welt“?

Eric Horvitz, Chefwissenschaftler von Microsoft, sprach angesichts dieser Entwicklungen von einer drohenden „post-epistemischen Welt“ – einer Welt, in der wir nicht mehr wissen, was wahr und was falsch ist. Eine Welt, in der Gefühle, Befindlichkeiten und Meinungen wichtiger geworden sind als Fakten. In solch einer Welt kann man sich nicht mehr auf einen geteilten Wahrnehmungs- oder Erfahrungsraum berufen. Ein anhaltender Dissens ist dann meist nicht mehr rational.

In seiner Forschungsarbeit „On the Horizon: Interactive and Compositional Deepfakes“ aus dem Jahr 2022 warnt Horvitz recht konkret:

„Ohne Gegenmaßnahmen droht durch interaktive und kompositorische Deepfakes eine post-epistemische Welt, in der Fakt nicht mehr von Fiktion unterschieden werden kann.“

Überhaupt ist das Paper von Horvitz lesenswert und für die ganz Eiligen unter Euch auch als kommentierte Zusammenfassung verfügbar.

Um dem entgegenzuwirken, müssen wir laut Horviz jetzt handeln:

– Regierungen und Plattformen müssen stärker gegen Desinformation und Manipulation durch Bots vorgehen.

– Wir brauchen klare rechtliche und ethische Regeln für den Einsatz von KI.

– Nutzer müssen für das Thema sensibilisiert werden und lernen, Quellen kritisch zu hinterfragen.

Was kann jede*r Einzelne von uns tun?

– Hinterfragt Inhalte und Quellen im Internet kritisch, insbesondere bei emotionalen und polarisierenden Themen.

– Achtet auf Anzeichen für Bots und Fake-Accounts, z.B. fehlende Profilbilder, generische Namen, unnatürliche Posting-Muster.

– Meldet verdächtige Accounts und offensichtliche Desinformation an die Plattformbetreiber.

– Informiert Euch aus seriösen, etablierten Medien und gleicht Informationen mit mehreren Quellen ab.

– Sensibilisiert Euer Umfeld für das Thema und diskutiert respektvoll miteinander über Wege aus der Vertrauenskrise.

Abschließende Gedanken

Wie ich so oft schon behauptet habe, ist das rasante Aufkommen von (generativer) KI aus meiner Perspektive ein Lackmustest für den Reifegrad unserer Gesellschaft – unserer globalen Gesellschaft. Nur, wenn wir gemeinsam und entschlossen handeln, können wir verhindern, dass eine einstige Verschwörungstheorie letztlich tatsächlich Wirklichkeit wird, dass das Internet tatsächlich „stirbt“ und von Bots und Fakes dominiert wird. Angelehnt an das Gandhi Zitat oben könnten wir also sagen: die Zukunft des Internets und unserer Gesellschaft hängt davon ab, was wir heute tun.

Ok, zugegeben, das war heute etwas schwerere Kost. Kommende Woche wird es entspannter, versprochen. Da schauen wir uns einmal an, inwiefern KI Humor hat und warum das direkt oder indirekt auch etwas mit Zensur zu tun hat. Bis dahin…

…bleibt neugierig,

Euer

Arno Selhorst