KI-Logbuch: Inspiration, Entdeckungen, Anwendungen
Ist das Internet (bald) tot? Über russische Bots, Vertrauen und eine post-epistemische Welt
Created on 2024-06-24 08:30
Published on —
Liebe Neugierige, Kreative, Entdecker*innen,
Gandhi sagte mal:
„Die Zukunft hängt davon ab, was wir heute tun.“
Angesichts der rasanten Entwicklungen im Bereich der Künstlichen Intelligenz (KI) und insbesondere der Verbreitung von Social Media Bots im Internet, gewinnt dieser Satz für mich zunehmend an Bedeutung.
Wird die „Dead Internet Theory“ jetzt Realität?
Die „Dead Internet Theory„, eine Verschwörungstheorie aus den tiefen Gewässern des Internets (unter anderem 4Chan), behauptet, ein Großteil oder gar sämtliche Aktivitäten und Inhalte im Internet würden heute nicht mehr von Menschen, sondern von Bots und KI-Systemen generiert. Wenn auch recht extrem gedacht (wie die meisten Verschwörungstheorien halt so sind) scheinen aktuelle Zahlen diese Theorie auf verblüffende Weise mittlerweile jedoch zu bestätigen:
- Laut einer dieses Jahr für 2023 veröffentlichten Studie des Cybersecurity-Unternehmens Imperva stammten vergangenes Jahr fast 50% des gesamten Internetverkehrs von Bots – Tendenz steigend.
- Sogenannte „Bad Bots“, die für Spam, Hacking und Desinformation eingesetzt werden, machten dabei 32% aus.
- Besonders betroffen waren Länder wie Irland (71% Bot-Traffic), Deutschland (67,5%) und Mexiko (42,8%).
Russische Bots schüren Konflikte
Besonders besorgniserregend ist der gezielte Einsatz von Bots für Propaganda und Manipulation, wie eine Studie der LMU München am Beispiel des Ukraine-Kriegs zeigt:
- Nach dem russischen Angriff auf die Ukraine verbreiteten Bots massiv pro-russische Propaganda auf Twitter.
- Rund 20% der Verbreiter solcher Botschaften waren Bots, die gezielt Länder ins Visier nahmen, die sich bei UN-Resolutionen gegen Russland enthielten.
- Ziel war es, die Unterstützung für Sanktionen zu untergraben und die Solidarität mit der Ukraine zu schwächen.
„KI könnte das Vertrauen der Menschen zerstören“
Der vergangenen April verstorbene Philosoph Daniel Dennett warnte eindringlich vor den Gefahren von KI für unsere Gesellschaft. Er formte das Konzept der „Counterfeit People„, also von KI erzeugte Kopien von uns oder gar komplett synthetisch erzeugte, digitale Menschen. Im Atlantic schrieb er dazu im Mai 2023:
„Zum ersten Mal in der Geschichte ist es dank KI für jeden möglich, gefälschte Menschen zu erschaffen, die in vielen digitalen Umgebungen als echt durchgehen. Diese gefälschten Menschen sind die gefährlichsten Artefakte der Menschheitsgeschichte, die nicht nur Volkswirtschaften, sondern die menschliche Freiheit selbst zerstören können.“
Dennett befürchtete, dass „Counterfeit People“ das Vertrauen zwischen Menschen massiv beschädigen und zu Manipulation und Unterdrückung führen könnten. Dies würde letzten Endes auch den Volkswirtschaften der Länder weltweit schaden. Wäre das Ganze nicht so eine reale und vor allem ernste Angelegenheit, es wäre sicherlich guter Stoff für den nächsten SciFi Blockbuster.
Auf dem Weg in eine „post-epistemische Welt“?
Eric Horvitz, Chefwissenschaftler von Microsoft, sprach angesichts dieser Entwicklungen von einer drohenden „post-epistemischen Welt“ – einer Welt, in der wir nicht mehr wissen, was wahr und was falsch ist. Eine Welt, in der Gefühle, Befindlichkeiten und Meinungen wichtiger geworden sind als Fakten. In solch einer Welt kann man sich nicht mehr auf einen geteilten Wahrnehmungs- oder Erfahrungsraum berufen. Ein anhaltender Dissens ist dann meist nicht mehr rational.
„Ohne Gegenmaßnahmen droht durch interaktive und kompositorische Deepfakes eine post-epistemische Welt, in der Fakt nicht mehr von Fiktion unterschieden werden kann.“
Überhaupt ist das Paper von Horvitz lesenswert und für die ganz Eiligen unter Euch auch als kommentierte Zusammenfassung verfügbar.
Um dem entgegenzuwirken, müssen wir laut Horviz jetzt handeln:
- Regierungen und Plattformen müssen stärker gegen Desinformation und Manipulation durch Bots vorgehen.
- Wir brauchen klare rechtliche und ethische Regeln für den Einsatz von KI.
- Nutzer müssen für das Thema sensibilisiert werden und lernen, Quellen kritisch zu hinterfragen.
Was kann jede*r Einzelne von uns tun?
- Hinterfragt Inhalte und Quellen im Internet kritisch, insbesondere bei emotionalen und polarisierenden Themen.