Edge AI: KI vor Ort einsetzen!
KI-Lösungen wie ChatGPT, Gemini oder Claude basieren auf sehr großen Sprachmodellen und benötigen sowohl für das Training als auch für die Anwendung (Inferenz) erhebliche Rechenressourcen. Sie werden deshalb typischerweise als Cloud-Service angeboten. Anwender können so von der umfangreichen, auf KI spezialisierten Infrastruktur der Anbieter profitieren.
Die Nutzung von KI aus der Cloud bringt allerdings auch Nachteile mit sich. Sie ist auf stabile, breitbandige Internetverbindungen angewiesen, wie sie im industriellen Umfeld, in den Bereichen Verkehr und Logistik oder in der Landwirtschaft nicht immer zur Verfügung stehen. Die Übertragung der Daten in die Cloud und zurück benötigt viel Zeit, was latenzsensitive Anwendungen erschwert oder gar unmöglich macht. Werden personenbezogene Daten, Geschäftsgeheimnisse oder andere sensible Informationen an das KI-Modell in der Cloud übertragen, kann es darüber hinaus zu Datenschutz- oder Compliance-Verstößen kommen.
Unternehmen suchen deshalb zunehmend nach Möglichkeiten, künstliche Intelligenz lokal zu entwickeln und einzusetzen. Zu den gängigen Strategien gehören das Finetuning bestehender Modelle im eigenen Rechenzentrum sowie das Retrieval-Augmented Generation (RAG), bei dem große Sprachmodelle mit der Wissensbasis eines Unternehmens verknüpft werden (mehr dazu in diesem Artikel).
Künstliche Intelligenz lässt sich aber auch direkt in Smartphones, IoT-Devices, Fahrzeugen, Industrierobotern und anderen Geräten oder Maschinen nutzen. Analysten gehen davon aus, dass die Nachfrage nach solchen Edge-AI-Lösungen in den kommenden Jahren massiv steigen wird. Das Marktforschungsunternehmen Roots Analysis prognostiziert beispielsweise für die nächsten zehn Jahre ein durchschnittliches jährliches Wachstum von fast 28 Prozent. Das Marktvolumen würde sich demnach von rund 24 Milliarden US-Dollar im Jahr 2024 auf knapp 357 Milliarden US-Dollar im Jahr 2035 nahezu verfünfzehnfachen.
Wie Edge AI funktioniert
Edge AI beginnt mit der Datenerfassung durch Sensoren und andere Systeme. Das können Kameras oder Lidar-Komponenten (Light imaging, detection and ranging) sein, wie sie beispielsweise in autonomen Fahrzeugen zur Abstandsmessung eingesetzt werden. Smartphones und Smartwatches sind mit Gyro- und Beschleunigungssensoren ausgestattet, die Informationen über die Position und Bewegung des Nutzers erfassen können. In Industrieanlagen oder bei der Heimvernetzung kommen unter anderem Sensoren für die Messung von Temperatur, Luftfeuchte oder auch Feinstaubbelastung zum Einsatz.
Die registrierten Informationen werden auf dem Edge-Gerät zunächst gefiltert, normalisiert und konsolidiert. Die Analyse der vorverarbeiteten Daten erfolgt entweder direkt mit einem für Embedded Devices optimierten KI-Modell oder ortsnah auf einem Edge-Server beziehungsweise in einem Edge-Rechenzentrum. Bei Bedarf können die Daten auch in die Cloud übertragen werden, um sie dort zu speichern, für weitere Auswertungen zu nutzen oder um die zugrundeliegenden KI-Modelle zu aktualisieren und zu verbessern.
Die Vorteile von Edge AI
Edge AI kommt bereits in vielen Bereichen zum Einsatz, etwa in Fertigungsunternehmen zur Qualitätskontrolle und vorausschauenden Wartung, im Einzelhandel an Selbstbedienungskassen oder im Warenmanagement, in Smart Cities zur Verkehrssteuerung oder im Medienbereich zur Optimierung der Video- und Audioqualität. Im Gesundheitswesen können tragbare Edge-AI-Geräte zur Überwachung von Vitalwerten und zur Sturzerkennung die Sicherheit und Lebensqualität von chronisch Kranken und älteren Menschen deutlich verbessern. KI-gestützte Systeme beschleunigen zudem die Entwicklung neuer Therapien und Diagnoseverfahren.
Auch in der Landwirtschaft gewinnt künstliche Intelligenz an Bedeutung. Edge-AI-Systeme optimieren Aussaat, Düngung, Bewässerung und Schädlingsbekämpfung. Sie sorgen so für bessere Ernten und reduzieren den Einsatz von Düngemitteln und Pestiziden auf das Nötigste.
Restaurants und Hotels profitieren ebenfalls von Edge AI. Intelligente Reservierungs- und Check-in-Systeme können die Belegung von Zimmern und Restauranttischen optimieren und so die Kundenzufriedenheit und den Umsatz steigern. In der Logistik sorgen Sensoren und KI-Assistenten dafür, dass die Kühlkette nicht unterbrochen wird und immer genügend frische Lebensmittel zur Verfügung stehen.
Edge AI in der Praxis
Die folgenden Beispiele zeigen, wie sich Edge AI konkret einsetzen lässt:
- Siemens Healthineers nutzt Edge AI in der bildgebenden Diagnostik, um die Strahlentherapie zu verbessern. Ziel ist es, Tumore schneller und genauer von umliegenden Organen abzugrenzen und so die Schädigung von gesundem Gewebe bei der Bestrahlung zu minimieren. Durch den Einsatz von skalierbaren Intel Xeon Prozessoren und dem Computer Vision Toolkit OpenVINO (Open Visual Inference and Neural Network Optimization) konnte das Unternehmen die Erkennung von Gewebekonturen um den Faktor 35 beschleunigen. Ein typischer Abdomen-Scan kann nun in weniger als 200 Millisekunden durchgeführt werden.
- Der kanadische Lebensmittelproduzent Nature Fresh Farms hat seine Gewächshäuser mit einer Edge-AI-Lösung ausgestattet, die ebenfalls auf Intel Xeon Prozessoren und OpenVINO basiert. Jede Pflanze wird von der Aussaat bis zur Auslieferung verfolgt. Tausende von Sensoren generieren dabei jährlich rund 23 Terabyte an Daten, die in Echtzeit ausgewertet werden. Durch den Einsatz von Edge AI konnte Nature Fresh Farms den Ertrag pro Fläche verzehnfachen.
- Die intelligenten Assistenten des Anbieters PreciTaste erleichtern Restaurants die Planung. Sie prognostizieren auf Basis historischer Daten die Nachfrage, geben Empfehlungen für die optimale Menge und Anzahl der vorzubereitenden Komponenten und Gerichte, unterstützen das Personal mit interaktiven Anleitungen bei der Zubereitung und automatisieren das Bestandsmanagement. Laut PreciTaste lässt sich die Verschwendung von Lebensmitteln so um 50 Prozent reduzieren. Die durchschnittliche Zeitersparnis beziffert der Anbieter auf vier Stunden pro Restaurant und Tag.
Fazit: Edge AI – der nächste logische Schritt in der digitalen Transformation
Intelligente Systeme am Edge ermöglichen es, Entscheidungen in Echtzeit zu treffen, die Betriebssicherheit und den Nutzerkomfort vor Ort zu erhöhen, Kosten zu senken und das Serviceportfolio zu optimieren. Die Entwicklung und der Einsatz von Edge AI ist deshalb ein wichtiger Schritt auf dem Weg zur Digitalisierung und Automatisierung von Prozessen und Systemen.
Um das volle Potenzial von Edge AI auszuschöpfen, sollten Unternehmen laut dem Marktforschungsunternehmen IDC auf Software-definierte Edge-Computing-Plattformen wie Intel Smart Edge setzen. Sie reduzieren die Komplexität von Edge-AI-Umgebungen erheblich, indem sie alle Komponenten abstrahieren und in Software abbilden. Vorkonfigurierte Lösungen wie die Intel KI-Edge-Systeme, die für die Anforderungen einzelner Branchen optimiert sind, und Referenzimplementierungen wie die Edge-KI-Suites beschleunigen die Entwicklung und Bereitstellung unternehmensspezifischer Edge-AI-Umgebungen. So können Organisationen sicherstellen, dass ihr nächstes Edge-AI-Projekt zum Erfolg wird.