Verarbeitung auf dem Gerät und KI gehen Hand in Hand

In einer Beziehung mit Qualcomm

Ob Sie ein autonomes Fahrzeug betreiben, die Gesichtserkennung für den Zugriff auf Ihr Bankkonto verwenden oder Ihr Gerät vor sich schnell ändernden Sicherheitsbedrohungen schützen, künstliche Intelligenz (KI) spielt eine immer größere Rolle in unserem Leben. In der Vergangenheit war für diese Verarbeitung die Leistung der Cloud erforderlich, aber Edge-Geräte wie Smartphones und Drohnen sind jetzt für rechenintensive KI-Operationen gerüstet. Tatsächlich ist das Edge-Gerät in vielen Fällen die bevorzugte Plattform für die Ausführung von KI-gestützten Anwendungen.



Die Realität ist, dass heute mehr KI-Anwendungen entstehen, als den meisten von uns bewusst ist. Wenn ein Gerät mit KI ausgestattet ist, kann es unser Leben erheblich erweitern und verbessern, sei es durch die Aufnahme schärferer Bilder und Videos, die natürlichere Kommunikation mit uns oder die Wahrnehmung der Umgebung und die autonome Navigation an unser Ziel.

KI ist ein Überbegriff, der alles umfasst, was einem Gerät hilft, das menschliche Gehirn zu replizieren, sagt Gary Brotman, Director of Product Management bei Qualcomm. Maschinelles Lernen (ML) ist eine breite Klasse von Techniken und Algorithmen zur Lösung der Probleme, die KI ermöglichen. Die Klasse, auf die wir uns konzentrieren, ist Deep Learning (DL) und Recurrent Neural Networks (RNN), die auf dem eigentlichen Gerät ausgeführt werden.

Die signifikante Verbesserung der KI-Algorithmen und der Verarbeitung auf dem Gerät, zwei entscheidende Zutaten für die allgegenwärtige KI, führen zu nahtloseren und überzeugenderen Benutzererlebnissen. Dies gilt insbesondere, da KI-basierte Funktionen in Fahrzeuge, Haushaltsgeräte und Sensoren für das Internet der Dinge (IoT) verlagert werden. Verbesserte Wahrnehmungs- und kognitive Fähigkeiten aufgrund der vielen Technologien unter dem Dach der KI, wie ML, DL und RNNs, können jetzt auf modernen Edge-Geräten ausgeführt werden.

Beispielsweise kann die KI auf dem Gerät die Bilderkennung und erweiterte Bildverarbeitung verbessern, z. B. die Erzeugung von Bokeh-Effekten (ein weicher, unscharfer Hintergrund) und Stilübertragungen. Mit KI ausgestattete Geräte können auch lernen, Schlüsselwörter und Stimmen zu erkennen, ihre Reaktion auf den Verbraucher zu verbessern und bei der Übersetzung in Fremdsprachen zu helfen.

Darüber hinaus kann KI Geräten und Apps dabei helfen, Benutzerpräferenzen und -umgebungen besser wahrzunehmen, Absichten zu verstehen und auf kontextrelevante Weise zu reagieren. KI auf Ihrem Gerät führt zu einem kontextreicheren Erlebnis, sagt Brotman. Und mit der Zeit wird Ihr Gerät in der Lage sein, vorherzusagen und ein tieferes Verständnis dafür zu entwickeln, was Sie als Nächstes tun werden.

KI in Ihrer Hand

Die geräteinterne KI hat mehrere bedeutende Vorteile. Das erste ist die Leistung. Die Verarbeitung auf dem Gerät ist einfach schneller – kein Roundtrip in die Cloud, sagt Brotman. Als nächstes kommt der Datenschutz. Die Menschen geben gerne einige persönliche Daten weiter, aber nicht alle. Und das dritte ist Zuverlässigkeit. Mobilfunknetze sind allgegenwärtig, aber es gibt keine Garantie dafür, dass Sie immer eine Verbindung haben.

Leistung: Das Ausführen von KI-Algorithmen auf dem Gerät – unabhängig von der Cloud – kann die Reaktionszeit und Effizienz erheblich verbessern, da keine Daten zwischen der Cloud und dem Gerät übertragen werden müssen. Dies ist wichtig, da mobile KI-Funktionen in der Regel zeitkritisch für die Benutzererfahrung und Entscheidungsfindung sind.

KI-Apps sind in der Regel in Echtzeit und geschäftskritisch, sagt Jeff Gehlhaar, Vice President of Technology bei Qualcomm. Viele KI-Anwendungsfälle, die ein Erlebnis verbessern, können sich keine Latenz leisten.

Ein autonomes Fahrzeug, das beispielsweise bremsen muss, kann sich nicht einmal eine Millisekunde Latenz leisten, die durch die Cloud-Verarbeitung entstehen könnte. Entscheidungen müssen in Sekundenbruchteilen getroffen werden, damit das Fahrzeug sicher funktioniert.

In Bezug auf die Benutzererfahrung kann eine natürliche Sprachbenutzeroberfläche nur eine begrenzte Latenzzeit tolerieren. Benutzer sind an sofortige Antworten gewöhnt, wenn sie eine Sprachschnittstelle zur Verarbeitung natürlicher Sprache verwenden, und die Auswirkungen von Netzwerkverzögerungen führen zu schlechten Erfahrungen.

Privatsphäre und Sicherheit: Die Aufbewahrung Ihrer Daten auf dem Gerät gewährleistet die Privatsphäre, und KI wird auch für die biometrische Authentifizierung mit Sprach-, Fingerabdruck-, Iris- und Gesichtserkennung verwendet. Die Verwendung Ihres Gesichts zum Entsperren eines Geräts wird alltäglich, sagt Brotman. Und die 3D-Gesichtserkennung entwickelt sich, um ein höheres Maß an Authentizität für die Ermöglichung mobiler Zahlungen zu bieten.

Die Verarbeitung von KI-Anwendungen auf dem Gerät kann auch die Geräte- und Datensicherheit erhöhen, indem ein wachsames Auge auf abweichendes Verhalten gelenkt wird. KI kann helfen, Malware und anomales Verhalten zu erkennen, sagt Gehlhaar. Wir können das neuronale Netzwerk darauf trainieren, zu sehen, wie sich schlechte Akteure verhalten. Und es kann diese schlechten Verhaltensweisen erkennen, wie z. B. die Frage: „Warum öffnet meine Kameraanwendung meine Kontaktdatenbank?“

Zuverlässigkeit: Selbst in den am weitesten fortgeschrittenen Gebieten der Welt ist die Mobilfunknetzabdeckung nicht allgegenwärtig. Wenn es jedoch um bestimmte KI-gesteuerte Funktionen geht, gibt es keinen Raum für Fehler. Autonome Fahrzeuge können es sich einfach nicht leisten, ein unterbrochenes Funksignal zu erleben, wie es beispielsweise beim Einfahren in einen Tunnel oder ein Parkhaus auftreten kann. Die Verarbeitung auf dem Gerät wird neben anderen Redundanzfunktionen immer eine Voraussetzung für unternehmenskritische Anwendungen wie autonomes Fahren sein.

KI auf Edge-Geräte bringen

Während diese KI-Funktionen jetzt auf dem Gerät ausgeführt werden können, spielt die Cloud immer noch eine Rolle, insbesondere als Ergänzung zur Verarbeitung auf dem Gerät. KI-Apps verlassen sich immer noch auf Cloud-Plattformen, um Big Data zu verwalten und die neuronalen Netzwerkmodelle zu trainieren, die die KI-Inferenz vorantreiben.

Edge-Geräte selbst müssen auch für die effektive Ausführung von KI-Workloads ausgestattet sein. Beispielsweise muss die Verarbeitung innerhalb der Einschränkungen der Plattform erfolgen, einschließlich Stromverbrauch und thermischer Grenzen. Anwendungsprozessoren mit diversen Verarbeitungs-Engines eignen sich besonders gut für die effiziente Ausführung von KI-Aufgaben. Die Qualcomm Snapdragon Mobile Platform ist beispielsweise mit drei separaten Verarbeitungsmodulen ausgestattet – einer zentralen Verarbeitungseinheit (CPU), einer Grafikverarbeitungseinheit (GPU) und einem digitalen Signalprozessor (DSP) mit Vektorverarbeitungsfunktionen – die alle eine Schlüsselrolle spielen in der geräteinternen KI.

Beim heterogenen Computing gibt es eine Vielzahl unterschiedlicher Engines innerhalb des Chips, um eine bestimmte Aufgabe am effizientesten zu verarbeiten, sagt Pat Lawlor, Technical Marketing Staff Manager bei Qualcomm. CPU, GPU und DSP haben unterschiedliche Stärken und Schwächen und können je nach KI-Aufgabe zusammen oder getrennt arbeiten. Sie ergänzen sich gegenseitig, und die KI-Aufgaben laufen auf den entsprechenden Engines für hohe Leistung bei geringer Leistung.

Die erhöhte Verarbeitungsleistung, die in die Chipsätze moderner Edge-Geräte integriert ist, hilft ihnen, die intensive Verarbeitung zu bewältigen. Beispielsweise können der Qualcomm Hexagon 685 DSP, die Adreno 630 GPU und die Kryo 385 CPU im Snapdragon 845 eine bis zu zwei- bis dreimal schnellere KI-Verarbeitung im Vergleich zur vorherigen Generation liefern. Der Hexagon DSP zum Beispiel wurde ursprünglich für vektormathematikintensive Workloads wie die Audioverarbeitung entwickelt und wird weiterhin verbessert, um KI-Workloads zu bewältigen, wie z. B. die Beschleunigung neuronaler Netze während der KI-Inferenz.

Was kommt als nächstes für mobile KI?

Mobile KI ist ein schnell wachsender Markt. Mit kontinuierlichen Fortschritten bei neuronalen Netzwerken, DL-Algorithmen und Hardwaredesign werden wir enorme Verbesserungen in Genauigkeit und Geschwindigkeit sowie neue, immersive Benutzererfahrungen sehen.

Im breiteren Universum der Mobilität sind auch drahtlose 5G-Netzwerke am Horizont. KI wird 5G verbessern und erweitern und umgekehrt, sagt Brotman. 5G wird es Geräten ermöglichen, freier miteinander zu kommunizieren, um Daten und Kontext zu teilen. Mit dieser Entwicklung werden wir ein vollständig vernetztes Universum intelligenter Edge-Geräte erleben, das personalisiertere Benutzererlebnisse in Echtzeit ermöglicht.

Unser heutiges Leben wird durch die Fähigkeiten unserer Geräte bereichert, und unsere Zukunft wird zunehmend durch die Fortschritte in der KI verbessert. Die Konvergenz dieser beiden starken Trends prägt bereits Erfahrungen in unserem Privat- und Geschäftsleben.

Um mehr über geräteinterne KI zu erfahren, besuchen Sie qualcomm.com/artificial-intelligence .

verbergen