–>> Du bist unterwegs und kannst das KI-Logbuch gerade nicht lesen? Klicke hier, um die KI-generierte Version dieses Newsletters als Podcast zu hören <<–

Liebe Neugierige, Kreative, Entdecker*innen,

stellt Euch vor, Euer persönlicher KI-Assistent ruft für Euch beim Kundenservice an, klärt Anliegen, bucht Termine oder reklamiert Gebühren – und das alles autonom. Was vor Kurzem noch nach Science-Fiction klang, wird immer mehr zur Realität. Die fortschreitende Entwicklung von Sprachmodellen und Voice Bots hat die Interaktion zwischen Unternehmen und Kund*innen bereits stark verändert. Doch heute möchte ich einmal ein wenig in die Glaskugel schauen – es könnte sich da nämlich ein neuer Trend abzeichnen, mit ziemlich drastischen Konsequenzen: Endkund*innen könnten in Zukunft zunehmend eigene, KI-basierte Voice Bots verwenden, um ihre Anliegen automatisiert an Kundenservice-Hotlines zu richten. Diese Entwicklung ist nicht nur technisch spannend, sondern wirft auch als Folge Fragen für betroffene Unternehmen auf, natürlich auch in der Branche, in der ich mich momentan beruflich bewege – Telekommunikation mit ihrer traditionell hohen Affinität zu Automatisierung ABER auch zu den Menschen, die diesen Unternehmen wortwörtlich ein Gesicht geben. Wie es die fiktive Person ‚Jane Fulton‘ n Rita Mae Browns Roman „Sudden Death“ (deutsch: „Die Tennisspielerin“) einmal ganz treffend formulierte:

„Wahnsinn ist, immer wieder das Gleiche zu tun, aber andere Ergebnisse zu erwarten.“

Vielleicht wird uns die durch KI veränderte Architektur des Kunde-Anbieter Verhältnisses fürher oder später dazu nötigen, Kundenservice tatsächlich komplett neu zu denken. Oder gibt es da vielleicht ja schon Strömungen, Trends oder Ansätze, die Kund*innen von morgen über KI zu befähigen, ihren Umgang mit dem Service „auszulagern“? Ich hatte in letzter Zeit da so ein Bauchgefühl und wollte mir das einmal genauer anschauen. Eines steht jedenfalls fest: „Weiter machen wie immer“ wird nicht mehr gehen.

Wenn der Kunde selbst zum KI-Operator wird: Der Status Quo

Die technologische Grundlage für den Einsatz autonomer KI Voice Bots durch Endkund*innen ist heute in der Tat schon recht ausgereift. Fortschritte in Bereichen wie Natural Language Processing (NLP), Text-to-Speech (TTS), Speech-to-Text (STT), die in jüngster Vergangenheit salonfähig gewordenen multimodalen Modelle, agentische Systeme (beispielsweise „Manus AI“) und Anthropic’s Model Context Protocol (MCP) haben dazu geführt, dass leistungsfähige, lokal oder cloudbasiert laufende Voice Bots für Privatpersonen grundsätzlich, technologisch verfügbar sind. Open-Source-Frameworks wie OpenAI’s Whisper für Speech-to-Text, ElevenLabs oder Microsoft Azure für TTS ermöglichen es technisch versierten Nutzer*innen, eigene Bots zu erstellen, die komplexe Dialoge führen und sich nahtlos in Telefongespräche einklinken können – beispielsweise mit Twillio. Schon jetzt schraubt Google an einem Smartphone Assistenten, der in der Lage sein wird, für seine Nutzer Anrufe zu tätigen. Dieser personalisierte KI-gestützte Chatbot, der auf Endgeräten, einschließlich Smartphones, integriert sein wird, kann schon bald Anrufe automatisch beantworten, Anfragen verstehen, im Namen des Nutzers antworten und Routineanrufe tätigen. Er ermöglicht es sogar, Präferenzen für den Umgang mit Anrufen festzulegen. Das Feature befindet sich aktuell in der Testphase, wobei sich die Nutzer möglicherweise über Google Search Labs für Experimente anmelden können. Ok, da wird also noch viel auf uns zukommen. Denn, klar, wenn Google damit vorlegt, werden sich die anderen Tech Bros hier nicht die Butter vom Brot nehmen lassen. Also, Popcorn bereit halten!

Obwohl also die technologische Basis bei OpenSource und auch im „Big Business“ gelegt ist, ist die tatsächliche Verbreitung von KI Voice Bots auf Endkund*innenseite im Vergleich zum Unternehmenseinsatz noch wirklich verschwindend gering. Das kann sich aber schon bald ändern. Ich vermute, dass es im Grunde nur eine Frage der UX ist – so geschehen bei der ersten Suchseite von Google und dann (ganz sicher abgeguckt!) das simple Design der ersten ChatGPT Chatbot Webseite von OpenAI – damals, als die Kühlschränke noch nach innen auf gingen. Aber echt jetzt: 2022 scheint Äonen weit entfernt zu sein. Aber zurück zu den VoiceBots für unsere Kund*innen: genaue, global aggregierte Zahlen zur kundenseitigen Verwendung von VoiceBots Unternehmen gegenüber sind rar, da momentan viele Nutzer*innen ihre Bots (noch) individuell konfigurieren. Klartext: das Ganze ist aktuell noch eher etwas für Liebhaber und Hobby Frikkler mit jeder Menge intrinsischer Motivation und Durchhaltevermögen. In der Studie „How People are Really Using Generative AI Now“ von Marc Zao-Sanders taucht „Customer Service“ zumindest schon einmal auf. Ansonsten ist hier bezüglich Studien bisher eher ein maues Feld. Oder anders formuliert: das ist DIE Gelegenheit für Deine nächste Master/Bachelor Arbeit! Branchenanalysten schätzten jedoch für 2024, dass etwa 1–3 % aller Kundenservice-Anrufe in westlichen Märkten bereits von autonomen Systemen auf Kund*innenseite initiiert wurden. Besonders in Branchen mit hohem Automatisierungsgrad wie Telekommunikation oder Banken könnte der Anteil der von Kunden verwendeten KI Voicebots in Zukunft deutlich ansteigen. Die häufigsten Anwendungsfälle sind Routineaufgaben: Abfrage von Kontoständen, Buchung oder Stornierung von Terminen, Einholung von Produktinformationen oder die Einreichung von Beschwerden. Gerade in der Telekommunikationsbranche mit ihren stark frequentierten Hotlines werden wir in Zukunft viele Nutzer*innen finden, die in der Anwendung von eigenen KI VoiceBots eine effiziente Alternative zum eigenen Anruf sehen könnten.

Die Reaktion der Unternehmen: Zwischen Akzeptanz und Abwehr

Auf der anderen Seite könnten schon bald Unternehmen vor der Herausforderung stehen, diese von Kunden-KIs initiierten Anrufe zu erkennen und angemessen darauf zu reagieren. Die Motivation hierfür ist vielfältig: Es geht um die Wahrung der Servicequalität, Betrugsprävention und die Einhaltung regulatorischer Vorgaben. Moderne Callcenter-Software integriert zunehmend Algorithmen zur Erkennung auch synthetischer Stimmen. Diese analysieren Merkmale wie Prosodie, Sprechgeschwindigkeit und Pausen. Anbieter wie Pindrop oder Resemble Detect bieten Lösungen an, die synthetische Stimmen mit hoher Genauigkeit erkennen sollen, indem sie auf subtile Artefakte in der Audioqualität achten – auch wenn die Erkennung fortschrittlicher Modelle herausfordernd bleibt und das Risiko von Falsch-Positiven besteht. Ich vermute, dass wir hier in recht naher Zukunft einer Art neuem „Wettrüsten“ gegenüberstehen werden. Ähnlich, wie wir es auch aus der Antivirensoftwarebranche kennen.

Die Reaktionen der Unternehmen auf identifizierte KI-Anrufe können dann natürlich stark variieren. Einige könnten darin eine Chance zur weiteren Automatisierung sehen und ihre Schnittstellen anpassen, um auch maschinell generierte Anfragen korrekt zu verarbeiten, etwa durch standardisierte API-Endpunkte, MCPs oder Gibberlink. Andere Unternehmen könnten menschliche Anrufer priorisieren und die Bots einfach in separate Warteschleifen leiten oder die Bearbeitung verzögern – jedenfalls so lange, bis auch VoiceBots nach dem Gespräch an einer NPS Abfrage teilnehmen können… In Fällen von Missbrauch oder Überlastung könnten KI Voice Bot-Anrufe auch gezielt blockiert werden, basierend auf schwarzen Listen oder einer ausgebufften Anomalieerkennung. Dafür sollten Unternehmen schon heute entsprechende, interne Richtlinien für den Umgang mit solchen Anrufen entwickeln. Dazu gehört meiner Meinung nach zumindest eine solide Definition zulässiger Bot-Interaktionen, Transparenzanforderungen (Offenlegungspflicht für Bot-Nutzung) und die strikte Einhaltung von Datenschutzvorgaben wie der DSGVO, insbesondere Artikel 22 bezüglich automatisierter Entscheidungsfindung. Entscheidend ist dabei, eine Balance zwischen Effizienzsteigerung und einem positiven, persönlichen Kundenerlebnis zu finden. Also, bieten die Unternehmen gezielt KundenBots Anlaufpunkte oder wird in Zukunft einfach geblockt?

Herausforderungen und ethische Aspekte im neuen Kundendialog

Sollten autonome KI Voice Bots in Zukunft immer häufiger durch Endkund*innen zum Einsatz kommen, wirft das eine Reihe von technischen, ethischen und rechtlichen Fragen auf. Die Erkennung von KI Voice Bots wird technisch anspruchsvoll bleiben und fehleranfällig, besonders bei fortschrittlichen Sprachmodellen. Die Gefahr, echte Kund*innen fälschlich als Bots zu klassifizieren, ist real und kann zu Reputationsschäden führen. Gleichzeitig muss die Verarbeitung von Sprachdaten zur Bot-Erkennung im Einklang mit Datenschutzgesetzen erfolgen, wobei die Nutzung biometrischer Daten wie Stimm-IDs besonders sensibel ist.

Und, ja, dann ist da noch der „Elefant“ im Raum: ein erhebliches Missbrauchspotenzial besteht natürlich auch, wenn Bots für betrügerische Zwecke eingesetzt werden, etwa zur Umgehung von Authentifizierungsmechanismen oder zur Überlastung von Hotlines. Unternehmen müssen daher in Zukunft (oder schon heute?) kontinuierlich in neue Erkennungsmethoden investieren. Zentral sind auch ethische Fragen: Wie stellt man die Gleichbehandlung von menschlichen und automatisierten Anrufern sicher? Wie wahrt man die Transparenz gegenüber Kund*innen und schützt deren Privatsphäre? Diese Fragen sind besonders relevant, wenn es um barrierefreie Services geht, bei denen Voicebots für Menschen mit Behinderungen eine legitime Unterstützung darstellen können. Die Herausforderung liegt darin, die Vorteile der Automatisierung zu nutzen, ohne die Sicherheit, Transparenz und ein positives Kundenerlebnis dafür zu opfern.

Schon gewusst?

Laut einer Studie der Boston Consulting Group aus dem vergangenen Jahr äußerten die Befragten in Bezug auf den Einsatz von GenAI als LifeStyle eine Mischung aus Begeisterung (43 %) und Besorgnis (29 %). Die Begeisterung über GenAI am Arbeitsplatz war mit 70 % sogar noch höher, während 15 % Bedenken äußerten.

Tips und Tricks: Umgang mit der neuen Voice-Bot-Realität (für Unternehmen)

1. Transparenz schaffen: Kommuniziert offen, wie Euer Unternehmen mit automatisierten Anrufen umgeht und bietet ggf. digitale Alternativkanäle (Web-Formulare, APIs) an.

2. Flexible Systemarchitektur entwickeln: Sorgt dafür, dass Eure Service-Infrastruktur sowohl menschliche als auch maschinelle Anrufer effizient verarbeiten kann (z.B. durch modulare IVR-Systeme).

3. KI-gestützte Erkennung nutzen (und aktuell halten): Implementiert fortschrittliche Sprachanalyse- und Machine-Learning-Modelle zur Identifizierung von KI Voice Bots und passt diese regelmäßig an neue Bot-Generationen an.

4. Klare Policies definieren: Erarbeitet interne Richtlinien und Governance-Strukturen für den Umgang mit Bot-Anrufen (Kriterien für Akzeptanz, Priorisierung, Ablehnung).

5. Menschliche Eskalation ermöglichen: Auch bei automatisierten Anrufen muss immer die Möglichkeit bestehen, komplexe oder kritische Anliegen an menschliche Servicemitarbeitende zu übergeben.

Top Links:

• Software/Tool: Resemble Detect – Ein Beispiel für ein Tool zur Erkennung von Deepfake-Audio.

• Aktuelle Studie: Die aktuelle MUUUH! Voice Studie 2025 offenbart eine Kluft zwischen technologischem Fortschritt und realer Nutzung von KI VoiceBots

• Best Practice Use Case: Die Sparkassen Finanzgruppe hat ein „Sprachdialogsystem“ für den Einsatz beim Kunden an den Start gebracht.

Da tut sich was! Oder: die Kund*innen schlagen zurück?

Die Nutzung autonomer KI Voice Bots durch Endkund*innen für Anrufe bei Kundenservice-Hotlines steckt im Hier und Jetzt, Mai 2025, noch deutlich in den Kinderschuhen. Aber wie das mit en technologischen Entwicklungen im Bereich generativer KI in den vergangenen Jahren immer wieder belegt wurde: die Dinge können von jetzt auf gleich umschlagen. Und was wir heute noch müde belächeln und als SciFi abtun, könnte uns morgen schon die Reputation kosten, wenn wir nicht im Heute gut vorbereitet sind. Obwohl also der Anteil „selbst gebastelter“ KI Richtung Unternehmen aktuell im Vergleich zum Gesamtvolumen noch ziemlich gering ausfällt, könnte er in naher Zukunft rasant wachsen. Ich hoffe jedenfalls, dass dieses KI-Logbuch einigermaßen in Würde altern wird…

Unternehmen sollte sich aber jetzt schon mal Gedanken machen, wie sie mit einer Mischung aus technischer Innovation, organisatorischen Anpassungen und ersten Pilotprojekten für Bot-zu-Bot-Kommunikation reagieren möchten. Die größten Herausforderungen liegen in der sicheren Erkennung, der Wahrung der Servicequalität und der Einhaltung regulatorischer Vorgaben. Es ist ein faszinierendes neues Kapitel und ch kann nur hoffen, dass wir als Gesellschaft hier auch in Zukunft mit Entwicklungen wie den hier skizzierten Schritt halten können. Erinnert mich ein bisschen an Isaac Asimov:

„Der traurigste Aspekt des Lebens von heute ist, dass die Wissenschaft schneller Wissen sammelt, als die Gesellschaft Weisheit.“

Ich würde es jedenfalls feiern, wenn meine KI-Logbuch Einträge die Nadel ein kleines bisschen Richtung Weisheit bewegen könnte. Das wär ja mal was, oder? Aber klar, es bleibt abzuwarten, ob wir die Weisheit entwickeln, neue Technologien wirklich zum Wohle aller einzusetzen. Dann wäre schon viel gewonnen.

Euer Arno

AI’s Calling: will customers start using their own autonomous voice bots and shake up the service industry?

–>> Are you on the road and can’t read the AI logbook right now? Click here to listen to the AI-generated version of this newsletter as a podcast <<–

Dear curious, creative and explorers,

Imagine your personal AI assistant calling customer service for you, clarifying issues, booking appointments or making complaints about fees – all autonomously. What recently sounded like science fiction is increasingly becoming reality. The ongoing development of voice models and voice bots has already significantly changed the interaction between companies and customers. But today I would like to take a look into the crystal ball – a new trend could be on the horizon, with rather drastic consequences: In the future, end customers could increasingly use their own AI-based voice bots to automatically address their concerns to customer service hotlines. This development is not only technically exciting, but also raises questions for the companies concerned, including, of course, in the industry in which I currently work – telecommunications with its traditionally high affinity for automation BUT also for the people who literally give these companies a face. As the fictional character ‚Jane Fulton‘ in Rita Mae Brown’s novel „Sudden Death“ once put it quite aptly:

„Insanity is doing the same thing over and over again but expecting different results.“

Perhaps the changed architecture of the customer-provider relationship brought about by AI will sooner or later force us to completely rethink customer service. Or are there perhaps already currents, trends or approaches to empowering the customers of tomorrow to „outsource“ their interaction with the service via AI? I’ve had a gut feeling about this recently and wanted to take a closer look. One thing is certain: „business as usual“ will no longer work.

When the customer becomes the AI operator: The status quo

The technological basis for the use of autonomous AI voice bots by end customers is already quite mature. Advances in areas such as natural language processing (NLP), text-to-speech (TTS), speech-to-text (STT), the multimodal models that have recently become socially acceptable, agent-based systems (e.g. „Manus AI“) and Anthropic’s Model Context Protocol (MCP) have led to powerful, locally or cloud-based voice bots being technologically available for private individuals. Open-Source-Frameworks like OpenAI’s Whisper for Speech-to-Text, ElevenLabs or Microsoft Azure für TTS enable tech-savvy users to create their own bots that can conduct complex dialogs and seamlessly integrate themselves into telephone conversations – for example with Twillio. Google is already working on a smartphone assistant that will be able to make calls for its users. This personalized AI-powered chatbot, which will be integrated on devices including smartphones, will soon be able to automatically answer calls, understand requests, respond on behalf of the user and make routine calls. It will even make it possible to set preferences for how calls are handled. The feature is currently in the test phase, with users possibly being able to sign up for experiments via Google Search Labs. Ok, so there’s still a lot to come. Because, of course, if Google leads the way, the other tech bros won’t let them take the butter off their bread. So, get your popcorn ready!

So although the technological foundation has been laid in open source and also in „big business“, the actual spread of AI voice bots on the end customer side is still really negligible compared to corporate use. But that could change soon. I suspect that it’s basically just a question of UX – as happened with Google’s first search page and then (most certainly copied!) the simple design of OpenAI’s first ChatGPT chatbot website – back when fridges still opened inwards. But really now: 2022 seems eons away. But back to the VoiceBots for our customers: precise, globally aggregated figures on customer use of VoiceBots vis-à-vis companies are rare, as many users currently (still) configure their bots individually. To put it plainly: the whole thing is currently still more for enthusiasts and hobbyists with a lot of intrinsic motivation and stamina. In the study „How People are Really Using Generative AI Now“ by Marc Zao-Sanders, „Customer Service“ appears at least once. Other than that, it’s been a rather poor field in terms of studies. Or to put it another way: this is THE opportunity for your next Master’s/Bachelor’s thesis! However, industry analysts estimate that by 2024, around 1-3% of all customer service calls in Western markets will already have been initiated by autonomous systems on the customer side. Especially in industries with a high degree of automation such as telecommunications or banking, the proportion of AI voicebots used by customers could increase significantly in the future. The most common use cases are routine tasks: Checking account balances, booking or canceling appointments, obtaining product information or submitting complaints. In the telecommunications industry in particular, with its highly frequented hotlines, we will find many users in the future who could see the use of their own AI voicebots as an efficient alternative to making their own calls.

The reaction of companies: Between acceptance and defense

On the other hand, companies could soon be faced with the challenge of recognizing these calls initiated by customer AIs and responding appropriately. The motivation for this is manifold: it is about maintaining service quality, fraud prevention and compliance with regulatory requirements. Modern call center software is increasingly integrating algorithms to recognize synthetic voices. These analyze characteristics such as prosody, speaking speed and pauses. Providers such as Pindrop or Resemble Detect offer solutions that aim to recognize synthetic voices with high accuracy by looking for subtle artefacts in the audio quality – even if the detection of advanced models remains challenging and there is a risk of false positives. I suspect that we will be facing a kind of new „arms race“ here in the very near future. Similar to what we know from the antivirus software industry.

The reactions of companies to identified AI calls can then of course vary greatly. Some may see this as an opportunity for further automation and adapt their interfaces to process machine-generated requests correctly, for example through standardized API endpoints, MCPs or Gibberlink. Other companies could prioritize human callers and simply route the bots to separate queues or delay processing – at least until voice bots can also participate in an NPS query after the call… In cases of misuse or overload, AI voice bot calls could also be specifically blocked based on blacklists or sophisticated anomaly detection. To this end, companies should already develop appropriate internal guidelines for dealing with such calls. In my opinion, this includes at least a solid definition of permissible bot interactions, transparency requirements (disclosure obligation for bot use) and strict compliance with data protection regulations such as the GDPR, in particular Article 22 regarding automated decision-making. It is crucial to find a balance between increasing efficiency and a positive, personalized customer experience. So, do companies offer targeted customer bots points of contact or will they simply block them in future?

Challenges and ethical aspects in the new customer dialog

If autonomous AI voice bots are increasingly used by end customers in the future, this will raise a number of technical, ethical and legal issues. Recognizing AI voice bots will remain technically challenging and error-prone, especially with advanced language models. The risk of misclassifying real customers as bots is real and can lead to reputational damage. At the same time, the processing of voice data for bot recognition must comply with data protection laws, and the use of biometric data such as voice IDs is particularly sensitive.

And, yes, then there is the „elephant“ in the room: there is of course also considerable potential for abuse if bots are used for fraudulent purposes, for example to bypass authentication mechanisms or to overload hotlines. Companies must therefore continuously invest in new detection methods in the future (or already today?). Ethical questions are also key: how can the equal treatment of human and automated callers be ensured? How do you maintain transparency towards customers and protect their privacy? These questions are particularly relevant when it comes to accessible services, where voicebots can provide legitimate support for people with disabilities. The challenge is to leverage the benefits of automation without sacrificing security, transparency and a positive customer experience.

Did you know?

According to a study conducted by the Boston Consulting Group last year, respondents expressed a mixture of enthusiasm (43%) and concern (29%) about the use of GenAI as a lifestyle. Enthusiasm about GenAI in the workplace was even higher at 70%, while 15% expressed concerns.

Tips and tricks: Dealing with the new voice bot reality (for companies)

• Create transparency: Communicate openly how your company deals with automated calls and offer digital alternative channels (web forms, APIs) where appropriate.

• Develop flexible system architecture: Ensure that your service infrastructure can process both human and machine callers efficiently (e.g. through modular IVR systems).

• Use AI-powered recognition (and keep it up to date): Implement advanced speech analytics and machine learning models to identify AI voice bots and regularly adapt them to new bot generations.

• Define clear policies: Develops internal guidelines and governance structures for dealing with bot calls (criteria for acceptance, prioritization, rejection).

• Enable human escalation: Even with automated calls, there must always be the option of handing over complex or critical concerns to human service employees.

Top Links:

• Software/Tool: Resemble Detect – An example of a tool for detecting deepfake audio.

• Current study: The current MUUUH! Voice Study 2025 reveals a gap between technological progress and the real use of AI voice bots

• Best Practice Use Case: The Sparkassen Finanzgruppe has launched a „voice dialog system“ for use by customers.

Something is happening! Or: are customers fighting back?

The use of autonomous AI voice bots by end customers for calls to customer service hotlines is still very much in its infancy in the here and now, May 2025. But as technological developments in the field of generative AI have proven time and again in recent years, things can change from one day to the next. And what we wearily smile at today and dismiss as sci-fi could cost us our reputation tomorrow if we are not well prepared today. So although the proportion of „home-made“ AI towards companies is currently still quite low compared to the overall volume, it could grow rapidly in the near future. In any case, I hope that this AI logbook will age with some dignity…

However, companies should start thinking now about how they want to respond with a mixture of technical innovation, organizational adjustments and initial pilot projects for bot-to-bot communication. The biggest challenges lie in secure detection, maintaining service quality and complying with regulatory requirements. It’s a fascinating new chapter and I can only hope that we as a society can keep pace with developments such as those outlined here in the future. Reminds me a bit of Isaac Asimov:

„The saddest aspect of life today is that science gathers knowledge faster than society gathers wisdom.“

Anyway, I would love to see my AI logbook entries moving the needle just a little bit towards wisdom. That would be something, wouldn’t it? But of course, it remains to be seen whether we develop the wisdom to really use new technologies for the benefit of all.

If so, we would have already gained a lot.

Your Arno