Liebe Neugierige, Kreative, Entdecker*innen,

KI Modelle faken Fakten über Halluzinationen. Das hat jetzt sogar Apple verstanden und das in einer dafür eigens angelegten Studie „bewiesen„. Das, was solche Sprachmodelle dann aber raus hauen, ist meistens so überzeugend, dass viele Menschen erst gar nicht darüber nachdenken, die Ergebnisse nachzuprüfen (Spoiler: wer das macht, wir bald peinliche Fragen beantworten müssen). Aber gerade dieses überzeugende Argumentieren für völlig falsche Grundannahmen kannte ich bisher so eigentlich nur aus den Gesprächen von Kölner Mitbürgern in der Linie 1 Richtung Neumarkt. Und wenn wir gar nicht merken, dass wir rhetorisch in völlig andere Fahrwasser „geschubst“ werden nennt man das auch „Nudging“. Das leichte Hinführen in Themen, Kaufentscheidungen oder Überzeugungen, die wir so eigentlich gar nicht hätten kenne ich noch zu gut aus meiner Zeit als Konzeptioner und UX Lead während meiner Agentur- und Consulting Zeiten. Und da habe ich mich gefragt: wie sieht Nudging eigentlich jetzt in einer Welt aus, in der KI völlig plausible Welten in wenigen Sekunden erzeugen kann? Inmitten weltweiter Debatten über Desinformation, Datenschutz und digitale Ethik gewinnt, wird dem Thema „Nudging“ meiner Meinung nach nicht genug Aufmerksamkeit gewidmet. Dabei gewinnt genau dieses Thema mit KI-Stand heute wieder massiv an neuer Brisanz. Und, ja, ist jetzt nichts Neues, Nudging. Schon immer hat „Nudging“ unsere Alltagsentscheidungen subtil beeinflusst. Aber mit künstlicher Intelligenz ist Nudging heute personalisiert, unsichtbar und permanent präsent. Richard Thaler, Ökonom und Nobelpreisträger, formulierte einst zusammen mit Cass Sunstein treffend:

„A nudge alters people’s behavior in a predictable way without forbidding any options or significantly changing their economic incentives.“

Ok, Nudging – jetzt nur mit 50% mehr KI?! Was ist dran?

Wie generative KI-Nudges unsere Entscheidungen formen

Nudging heißt, Menschen durch sanfte Anstöße oder „Anstöße“ (engl. „nudges“) zu Handlungen zu bewegen, die angeblich in ihrem oder im gesellschaftlichen Interesse (oder dem eines Unternehmens!) liegen. Was zunächst harmlos klingt, gewinnt in Zeiten generativer KI ganz neue Dimensionen: Plötzlich sind KI-basierte „Schubser“ personalisiert, lernfähig und rund um die Uhr präsent und sie betreffen fast alle Bereiche unseres Lebens, von Gesundheit bis E-Commerce.

Digitale Nudges wirken heute über individuell zugeschnittene Nachrichten, Empfehlungen oder visuelle Elemente, die von Algorithmen sekundenschnell erzeugt werden. Mithilfe generativer KI entstehen dabei nicht mehr nur starre, vordefinierte Hinweise, sondern „schlaue“ Interventionen, die sich im laufenden Dialog verändern: Deine Fitness-App, die dich nach einer eher untätigen Woche freundlich an deinen Trainingsplan erinnert, oder die Online-Seite, die im richtigen Moment auf Nachhaltigkeitsoptionen beim Produktkauf hinweist, sind nur zwei Beispiele davon. Studien zeigen, wie maschinelles Lernen, Natural Language Processing und große Sprachmodelle personalisierte Nudges erzeugen, die sich wie ein menschlicher Gesprächspartner anfühlen.

Diese neuen Möglichkeiten bergen große Chancen: Patienten werden zu gesünderem Verhalten motiviert, Nutzern wird beim Umgang mit KI-Fehlern geholfen, Unternehmen stärken durch subtile Produktempfehlungen ihre Kundenbindung. Aber gerade die Wirksamkeit stellt auch die Ethik auf den Prüfstand, denn: Wann wird aus Unterstützung eine Manipulation? Werden durch KI-Nudges blinde Flecken, Vorurteile und Diskriminierung ins System eingeschleust? Ein wissenschaftlicher Review unterstreicht: KI-gestütztes Nudging steigert die Effizienz und Reichweite von Verhaltensmodifikation, fordert aber gleichzeitig spezifische ethische Leitplanken, um Autonomie, Fairness und Transparenz zu gewährleisten.

Im Spannungsfeld zwischen Nutzen und Kontrolle: Chancen und Risiken

KI-Nudging ist gerade in der Wirtschaft auf dem Vormarsch. Im E-Commerce etwa sorgen KI-gestützte „Schubser“ für eine maßgeschneiderte Use Experience: Produktempfehlungen, Rabatt-Trigger oder „psychologische Preisanker“ erreichen Zielgruppen punktgenau. Marktführer melden dank KI-Nudges gesteigerte Conversion Rates und bessere Kundenbindung in einem zunehmend fragmentierten Umfeld. Generative KI bringt diese Taktik noch weiter voran, indem sie Echtzeitdaten nutzt, proaktiv Kommunikation anpasst und Nutzern immer neue, attraktivere Vorschläge präsentiert.

Bei allem Fortschritt sollten wir aber natürlich auch beim Nudging die „dunkle Seite“ betrachten. Das Risiko steigt nämlich, dass Manipulation subtil und kaum nachweisbar bleibt, denn personalisierte Nudges wirken oft im Verborgenen. Forscher*innen betonen besonders die Herausforderungen beim Datenschutz, der Sicherstellung von Konsens und der Vermeidung von algorithmischen Verzerrungen (Bias). Gerade durch die wachsende Einsatzbandbreite – von nachhaltigem Konsum über Gesundheits-Anwendungen bis hin zu politischer Meinungsbildung – werden die Forderungen lauter, verlässliche ethische und rechtliche Standards zu schaffen, etwa Transparenzpflichten und Schutzmechanismen für individuelle Autonomie.

Häufige Anwendungsfelder und aktuelle Entwicklungen des KI-Nudgings

Im Gesundheitsbereich haben generative KI-Nudges längst Einzug gehalten: Apps zur Prävention, Therapieunterstützung und medizinischen Entscheidungsfindung lernen aus Nutzerdaten, passen Empfehlungen individuell an und helfen, gesunde Routinen bei Patent*innen aufzubauen. Ebenso verändern KI-Nudges Produktivitätstools in Unternehmen, indem sie Mitarbeitende zu effizienteren Arbeitsweisen „schubsen“ oder an Sicherheitsrichtlinien erinnern.

Spannend ist außerdem, wie KI-gesteuertes Nudging zunehmend zur Förderung nachhaltigen Konsums eingesetzt wird. Projekte wie “Green Nudging” in Dänemark machen sich maschinelles Lernen zunutze, um Tourist*innen in Echtzeit zu einem klimafreundlicheren Einkaufsverhalten zu bewegen – durch personalisierte Hinweise im Supermarkt oder Empfehlungen beim Online-Shopping. Gleichzeitig sorgt die Diskussion um „negative“ Nudges („Sludging“) und überbordende Manipulationsgefahren für Debatten: Wo ist die Grenze zwischen Hilfe und Übergriff? Wie gewährleisten Unternehmen, dass ethische und gesellschaftliche Prinzipien eingehalten werden?

Schon gewusst?

Schaut man sich die aktuelle Landschaft von KI-unterstützten Tools der „Digitale Nudge-Industry“ an, so könnte man um die 300 verschiedenen Software-Lösungen identifizieren, die in Echtzeit personalisierte Handlungsempfehlungen auf Basis von KI ausspielen – Tendenz steigend.

Tipps und Tricks: So behältst du die Kontrolle über KI-Nudges

1. Überprüfe regelmäßig die Privatsphäre-Einstellungen deiner Apps und Dienste!

2. Lass dich nicht von „Voreinstellungen“ oder „Default“-Optionen leiten – prüfe Alternativen!

3. Reflektiere, ob Empfehlungen zu deinem Bedarf passen oder eher dem Anbieter nützen.

4. Fordere bei Diensten immer transparente Information darüber, wie Empfehlungen zustande kommen.

5. Nutze Tools, die explizit Wert auf Datensparsamkeit und Nutzerautonomie legen.

Top Links

• Software Tool: myfitnesspal

• Aktuelle Studie: „Ethical Dimensions and Decision-Making Dynamics: A Meta-Synthesis of Ai Nudging Across Sectors“

• Best Practice Use Case: „AI-Nudging für nachhaltigen Konsum – Dänisches Forschungsprojekt“.

Was bleibt

Kleine „Schubser“ durch KI gehören längst zu unserem Alltag – mal hilfreich, mal fragwürdig, immer relevant. Die eigentliche Frage für uns bleibt: Wie behalten wir die Kontrolle über unsere Entscheidungen im Zeitalter generativer Algorithmen? Schon der Philosoph Martin Buber wusste:

„Die größte Entscheidung unseres Lebens liegt darin, ob wir uns an das Zufällige oder an das Wesentliche binden.“

Was aber, wenn wir in Zukunft vielleicht gar nicht mehr mitbekommen, dass unsere Entscheidung, was wesentlich ist und was zufällig still und leise von smarten Algorithmen für jede*n von uns individuell definiert wird. Sollte nudging klar und deutlich als solches markiert werden? Wie setzen wir sowas überhaupt durch? Wie bereits so oft vorher beobachtet bewegen wir uns hier schon lange nicht mehr „Nur“ auf einem technischen Spielfeld. Die Herausforderungen, denen wir uns in unserer heutigen Welt stellen müssen, sind in zunehmenden Maße „hausgemacht“. Welche Alternativen bieten sich uns? Wie gehen wir damit um? Diskutiere gerne mit mir in den Kommentaren. Danke für Deine Zeit mit meinem KI-Logbuch und dafür, dass neugierig bleibst!

Gruß, Arno

Digital „king whisperers“: „Nudging“ in the age of AI

Dear curious, creative, explorers,

AI models fake facts about hallucinations. Even Apple has now understood this and „proved“ it in a specially designed study. But what they come up with is usually so convincing that many people don’t even think about checking the results (spoiler: those who do will soon have to answer embarrassing questions). But it’s precisely this convincing argumentation for completely false basic assumptions that I’ve only ever heard from conversations with fellow Cologne residents on Line 1 towards Neumarkt. And if we don’t even realize that we are being rhetorically „pushed“ into completely different waters, this is also called „nudging“. I’m still too familiar with the easy way of leading us into topics, purchasing decisions or beliefs that we wouldn’t actually have from my time as a concept developer and UX lead during my agency and consulting days. And that got me wondering: what does nudging actually look like now in a world where AI can create completely plausible worlds in a matter of seconds? In the midst of global debates about disinformation, data protection and digital ethics, I don’t think enough attention is being paid to the topic of nudging. Yet it is precisely this topic that is gaining massive new explosiveness with the state of AI today. And, yes, nudging is nothing new. Nudging has always subtly influenced our everyday decisions. But with artificial intelligence, nudging is now personalized, invisible and permanently present. Richard Thaler, economist and Nobel Prize winner, once aptly put it together with Cass Sunstein:

„A nudge alters people’s behavior in a predictable way without forbidding any options or significantly changing their economic incentives.“

Ok, nudging – now only with 50% more AI?! What’s the story?

How generative AI nudges shape our decisions

Nudging means using gentle nudges to encourage people to take actions that are supposedly in their or society’s interest (or that of a company!). What sounds harmless at first takes on a whole new dimension in the age of generative AI: Suddenly, AI-based „nudges“ are personalized, adaptive and present around the clock, and they affect almost all areas of our lives, from health to e-commerce.

Today, digital nudges work via individually tailored messages, recommendations or visual elements that are generated by algorithms in a matter of seconds. With the help of generative AI, it is no longer just rigid, predefined instructions that are created, but „smart“ interventions that change during the ongoing dialog: Your fitness app that kindly reminds you of your training plan after a rather inactive week, or the online page that points out sustainability options when buying a product at the right moment, are just two examples. Studies show how machine learning, natural language processing and large language models create personalized nudges that feel like a human conversation partner.

These new possibilities offer great opportunities: patients are motivated to adopt healthier behavior, users are helped to deal with AI errors, companies strengthen their customer loyalty through subtle product recommendations. But it is precisely this effectiveness that puts ethics to the test: When does support become manipulation? Do AI nudges introduce blind spots, prejudice and discrimination into the system? A scientific review underlines that AI-supported nudging increases the efficiency and scope of behavior modification, but at the same time requires specific ethical guidelines to ensure autonomy, fairness and transparency.

The tension between benefits and control: opportunities and risks

AI nudging is currently on the rise in business. In e-commerce, for example, AI-supported „nudges“ ensure a customized user experience: product recommendations, discount triggers or „psychological price anchors“ reach target groups with pinpoint accuracy. Market leaders report increased conversion rates and better customer loyalty in an increasingly fragmented environment thanks to AI nudges. Generative AI takes this tactic even further by using real-time data, proactively adapting communication and presenting users with ever new, more attractive suggestions.

Despite all the progress, we should of course also consider the „dark side“ of nudging. There is an increased risk that manipulation will remain subtle and barely detectable, as personalized nudges often work behind the scenes. Researchers particularly emphasize the challenges of data protection, ensuring consensus and avoiding algorithmic bias. The growing range of applications – from sustainable consumption and health applications to political opinion-forming – is leading to louder calls for the creation of reliable ethical and legal standards, such as transparency obligations and protective mechanisms for individual autonomy.

Frequent fields of application and current developments in AI nudging

Generative AI nudges have long since found their way into the healthcare sector: Apps for prevention, therapy support and medical decision-making learn from user data, adapt recommendations individually and help to establish healthy routines for patients. AI nudges are also changing productivity tools in companies by „nudging“ employees to work more efficiently or reminding them of safety guidelines.

It is also exciting to see how AI-driven nudging is increasingly being used to promote sustainable consumption. Projects such as „Green Nudging“ in Denmark make use of machine learning to encourage tourists to adopt more climate-friendly shopping habits in real time – through personalized tips in the supermarket or recommendations when shopping online. At the same time, the discussion about „negative“ nudges („sludging“) and the excessive risk of manipulation is causing debate: Where is the line between help and encroachment? How do companies ensure that ethical and social principles are adhered to?

Did you know?

If you look at the current landscape of AI-supported tools in the „digital nudge industry“, you could identify around 300 different software solutions that provide personalized recommendations for action based on AI in real time – and the trend is rising.

Tips and tricks: How to stay in control of AI nudges

1. Check the privacy settings of your apps and services regularly!

2. Don’t be guided by „presets“ or „default“ options – check alternatives!

3. Reflect on whether recommendations suit your needs or rather benefit the provider

4. Always ask services for transparent information about how recommendations are made.

5. Use tools that explicitly value data economy and user autonomy.

Top Links

• Software Tool: myfitnesspal

• Current Research: „Ethical Dimensions and Decision-Making Dynamics: A Meta-Synthesis of Ai Nudging Across Sectors“

• Best Practice Use Case: „AI-Nudging für nachhaltigen Konsum – Dänisches Forschungsprojekt“.

What remains

Small „nudges“ from AI have long been part of our everyday lives – sometimes helpful, sometimes questionable, always relevant. The real question for us remains: How do we retain control over our decisions in the age of generative algorithms? The philosopher Martin Buber already knew this:

„The biggest decision in our lives is whether we commit ourselves to the accidental or to the essential.“

But what if, in the future, we might not even realize that our decision about what is essential and what is random is quietly and silently defined for each of us individually by smart algorithms? Should nudging be clearly marked as such? How do we even enforce it? As we have observed so often before, we are no longer „just“ on a technical playing field. The challenges we face in today’s world are increasingly „home-made“. What alternatives do we have? How do we deal with them? Feel free to discuss with me in the comments. Thank you for your time with my AI logbook and for staying curious!

Greetings, Arno