Liebe Neugierige, Kreative, Entdecker*innen,

der Rückblick auf die vergangenen und aktuellen Hype Cycle von Gartner hat vergangene Woche für einige Reaktionen gesorgt. Wie dort bereits angedeutet, möchte ich diese KI-Logbuch Ausgabe einem der Themen des Hype Cycle widmen: „Edge KI„.

Warum?

Das Thema hat sich ungewöhnlich auf dem Gartner Hype Cycle verhalten. 2023 war es noch weiter im „Tal der Tränen“ („Trough of Disillusionment“) und dann 2024 plötzlich wieder deutlich zurück Richtung „Peak of inflated expectations“ gegangen. Was passiert da? Das wollte ich mir genauer anschauen. Und dann habe ich gemerkt, wie spannend und vor allem wichtig das Thema „Edge KI“ eigentlich ist. Denn gerade bei KI Anwendungen halte ich eine lokale Lösung aus diversen Gründen für absolut sinnvoll und eigentlich den einzigen Weg nach vorn. Ich bin fest davon überzeugt, dass im Kontext von künstlicher Intelligenz „Edge KI“ immer mehr an Bedeutung gewinnen wird.

Aber was verstehen wir eigentlich unter „Edge KI“?

„Edge KI“ bezieht sich auf die Verarbeitung von Daten direkt am Ort ihrer Entstehung, anstatt sie zuerst in die Cloud zu senden. Dies ermöglicht eine schnellere und effizientere Verarbeitung von Daten, was insbesondere in Anwendungsbereichen wie der Industrie, dem Gesundheitswesen und der Mobilität von großer Bedeutung ist.

Wie Wolfgang Ecker, „Distinguished Engineer“ bei Infineon Technologies, in einem Interview mit der Plattform Lernende Systeme sagte, schätzt er die Opportunitäten der „Edge AI“ als grenzenlos ein. Aber:

Auch, wenn es bereits Erfolge vorzuweisen gibt, so nutzen wir das verfügbare Potenzial aber bei weitem noch nicht aus. (Quelle)

Trotz der großen Bedeutung von „Edge KI“ und der Notwendigkeit, ihre Möglichkeiten zu erkunden und zu nutzen haben wir also noch viel Luft nach oben. Aber, was passiert denn da gerade überhaupt genau?

Der Zustand des „Edge KI“-Markts

Der Markt für „Edge KI“ wächst rasant. Erst vergangene Woche veröffentlichte META sein neuestes Modell Llama 3.1 Modell. Kurz darauf schrieb Mitko Vasilev auf LinkedIn, dass er die Modelle auf einem Mobiltelefon oder einem kleinen Laptop verwenden könne, nachdem sie auf 4 Bit quantisiert wurden. Die Zeiten, in denen mächtige LLMs ausschließlich auf riesigen Rechnerfarmen laufen konnten scheinen gezählt.

Ach, und noch ein kleiner Tipp: wenn Ihr gerade eh auf Vasilev’s Huggingface Präsenz vorbei schaut, werft mal einen Blick auf seine fantastische Präsentation zu KI und Open Source. Die bietet er dort als kostenfreien Download an – großes Kino. Bitte schreibt ihm unbedingt ein paar nette Zeilen Feedback (schöne Grüße von mir), wenn Ihr seine Inhalte herunterladen möchtet – die KI Community hilft sich gegenseitig und lässt es wissen, wenn jemand gute Inhalte teilt. Außerdem: guter Ton und so…

Ok, zurück zur „Edge“.

Laut dem Bericht „2024 State of Edge AI Report“ von Wevolver wird der Markt für „Edge KI“ bis 2025 auf 1,4 Milliarden US-Dollar anwachsen. Dieser Wachstumstrend wird durch die zunehmende Nachfrage nach „Edge-KI“-Lösungen in verschiedenen Branchen wie der Industrie, dem Gesundheitswesen und der Mobilität weiter voran getrieben.

Im Anwendungsbereich „Industrie“ kann „Edge KI“ zur Realisierung von Predictive-Maintenance-Anwendungen verwendet werden, die eine vorausschauende Wartung von Maschinen und Anlagen ermöglichen. Laut dem Bericht „Edge AI: KI nahe am Endgerät“ der Plattform für künstliche Intelligenz „Lernende Systeme“ kann „Edge KI“ in der Industrie zu einer Steigerung der Produktivität um bis zu 20% und einer Reduzierung der Wartungskosten um bis zu 15% führen.

Herausforderungen und Vorteile von „Edge KI“

Eine der größten Herausforderungen bei der Implementierung ist die Komplexität der Systeme. „Edge KI“ erfordert eine enge Integration von Hardware und Software. Laut Wolfgang Ecker ist eine holistische Herangehensweise erforderlich, um „Edge KI“ erfolgreich zu implementieren. Weitere Herausforderungen sind:

1. Begrenzte Rechenleistung: Edge-Geräte haben oft weniger Leistung als Cloud-Server.

2. Modelloptimierung: KI-Modelle müssen für den Einsatz auf Edge-Geräten angepasst und komprimiert werden. Beispielsweise über „Quantisierung„.

3. Sicherheit: Dezentrale Systeme erfordern robuste Sicherheitskonzepte.

Um diese Herausforderungen zu meistern, arbeiten Unternehmen und Forschungseinrichtungen an speziellen „Edge KI“-Chips, optimierten Algorithmen und sicheren Softwareplattformen.

Ein großer Vorteil von „Edge KI“ ist die schnellere Verarbeitung von Daten. Dadurch, daß dies direkt am Ort ihrer Entstehung passiert, ermöglicht „Edge KI“ eine schnellere Reaktionszeit, was insbesondere in Anwendungsbereichen wie der Mobilität von großer Bedeutung ist. Laut dem Bericht „2024 State of Edge AI Report“ kann „Edge KI“ in der Mobilität zu einer Reduzierung der Reaktionszeit um bis zu 50% führen. Aber die Verlagerung der Intelligenz in die Endgeräte bringt weitere Vorteile mit sich:

1. Verbesserte Datensicherheit: Sensible Daten müssen nicht mehr in die Cloud übertragen werden, sondern bleiben auf dem Gerät, was die Privatsphäre schützt.

2. Höhere Energieeffizienz: „Edge KI“-Geräte verbrauchen oft weniger Energie als cloud-basierte Lösungen, da weniger Daten übertragen werden müssen.

3. Geringere Bandbreitennutzung: Nur relevante Metadaten werden an Server gesendet, was die Netzwerkbelastung reduziert.

4. Erhöhte Ausfallsicherheit: „Edge KI“-Systeme können auch ohne Internetverbindung funktionieren, was sie robuster macht.

Strategien für die Implementierung von „Edge KI“

Um „Edge KI“ erfolgreich zu implementieren, ist es wichtig, eine klare Strategie zu entwickeln. Der Bericht „Edge AI: KI nahe am Endgerät“ rät Unternehmen zu folgenden Schritten:

1. Identifizierung von Anwendungsbereichen: Unternehmen sollten zunächst potenzielle Anwendungsbereiche für „Edge KI“ identifizieren und priorisieren.

2. Ziele setzen: Anschließend ist die klare Zielsetzung für eine Strategie entscheidend. Welche Herausforderungen sollte das Unternehmens hier berücksichtigen?

3. Auswahl von „Edge-KI“-Lösungen: Unternehmen müssen sich sorgfältig überlegen, welche „Edge-KI“-Lösungen sie wählen, die auf die Anforderungen des Unternehmens abgestimmt sind oder werden können.

4. Implementierung von „Edge KI“: Abschließend geht es natürlich um die Implementierung und vor Allem gewissenhaftes Testen der Lösungen, um sicherzustellen, dass alles wie erwartet funktioniert.

Tipps und Tricks für den Einstieg in „Edge AI“

1. Beginne mit einfachen Projekten und skaliere danach schrittweise.

2. Nutze spezialisierte „Edge KI“-Entwicklungsplattformen wie TensorFlow Lite oder NVIDIA Jetson.

3. Optimiere Deine KI-Modelle für den Einsatz auf ressourcenbeschränkten Geräten.

4. Berücksichtige von Anfang an Datenschutz, Ethik und Sicherheitsaspekte.

5. Bleibe auf dem Laufenden über neue Hardware-Entwicklungen im „Edge KI“-Bereich.

Fazit

„Edge KI“ steht noch am Anfang seiner Entwicklung, aber das Potenzial ist enorm. Wie der Zukunftsforscher Roy Amara sagte:

„Wir neigen dazu, die Auswirkungen einer Technologie kurzfristig zu überschätzen und langfristig zu unterschätzen.“

Ganz sicher aber ist „Edge KI“ ein Thema, das unsere Geschäftsprozesse aber auch uns als Privatpersonen nachhaltig beeinflussen- und dadurch relevant bleiben wird. Ich vermute, dass das Thema in Zukunft eher noch an Bedeutung gewinnen wird. Meine steile These: Unternehmen, die keine klare Strategie für die Implementierung von „Edge KI“ entwickeln/umsetzen und „Edge-KI“-Lösungen auswählen, die den Anforderungen des Unternehmens entsprechen, werden in dieser Zukunft nicht mehr mitspielen können.

In diesem Sinne bin ich gespannt, welche innovativen Anwendungen wir in den kommenden Jahren noch bei den großen Unternehmen hierzulande sehen werden.

Ich hoffe, dieser Newsletter hat Euch einen guten Überblick über „Edge KI“ gegeben.

In der nächsten Ausgabe geht es dann ums „Jailbreaken“. Nein, wir brechen nicht aus Gefängnissen aus. Viel eher helfen wir KI, sich aus ihren Beschränkungen zu befreien. Was da der Stand der Dinge ist, das möchte ich in dieser kommenden Ausgabe dann zusammenfassen. Bis dahin wünsche ich Euch viel Erfolg bei Euren eigenen KI-Projekten!

Wenn Ihr spannende Themen habt, die Eurer Meinung unbedingt ins KI-Logbuch gehören, würde ich mich über eine Nachricht dazu über eine Privatnachricht hier auf LinkedIn freuen!

Bleibt neugierig,

Euer Arno Selhorst