NPU

Eine NPU (Neural Processing Unit) ist ein spezialisierter Rechenkern für Aufgaben der künstlichen Intelligenz. Sie sitzt neben Hauptprozessor (CPU) und Grafikchip im selben Chipsatz und übernimmt genau die Berechnungen, die neuronale Netze brauchen.

Warum ein eigener Chip?

KI-Modelle bestehen im Kern aus sehr vielen, aber sehr einfachen Rechenoperationen – hauptsächlich Matrixmultiplikationen mit geringer Genauigkeit. Eine CPU kann das, ist dabei aber langsam und stromhungrig. Eine NPU ist genau für dieses eine Muster gebaut und erledigt es um ein Vielfaches schneller bei einem Bruchteil des Energiebedarfs. Ihre Leistung geben Hersteller in TOPS an (Tera Operations Per Second); aktuelle Smartphone-NPUs liegen bei etwa 30 bis 80 TOPS.

Was die NPU im Alltag macht

Fotografie: Szenenerkennung, Rauschunterdrückung, Nachtmodus, Freistellen des Hintergrunds im Porträtmodus und das Wegretuschieren störender Objekte laufen über die NPU.

Sprache: Diktieren, Live-Untertitel, Übersetzung von Gesprächen in Echtzeit und die Zusammenfassung von Anrufen.

Text: Zusammenfassen von Mails und Webseiten, Umformulieren von Nachrichten, intelligente Suche in eigenen Inhalten.

System: Gesichtsentsperrung, Akkuverwaltung, Rauschfilter bei Telefonaten.

Der entscheidende Vorteil: alles bleibt auf dem Gerät

Ohne NPU müssten diese Funktionen in der Cloud laufen. Auf dem Gerät gerechnet (On-Device-KI) funktionieren sie dagegen ohne Internetverbindung, ohne Verzögerung und vor allem, ohne dass persönliche Daten das Handy verlassen – ein handfester Datenschutzvorteil. Rechenintensive Aufgaben wie das Erzeugen ganzer Bilder werden weiterhin in die Cloud ausgelagert; Hersteller kombinieren daher beide Wege.

Wer baut welche NPU?

Bei Qualcomm heißt der Block Hexagon NPU (in den Snapdragon-Chips), bei Apple Neural Engine, bei Samsung und MediaTek schlicht NPU beziehungsweise APU. Die zugehörigen Funktionspakete werden als Galaxy AI, Apple Intelligence oder Google Gemini vermarktet.

Worauf sollte man beim Kauf achten?

Die TOPS-Zahl allein sagt wenig – entscheidend ist, welche KI-Funktionen der Hersteller tatsächlich freischaltet und wie lange er sie mit Updates versorgt. Wichtig ist außerdem der Arbeitsspeicher: Ein Sprachmodell muss komplett im RAM liegen, weshalb Geräte mit KI-Ambitionen inzwischen mit 8 bis 16 GB antreten. Bei Einsteigergeräten fehlt eine leistungsfähige NPU meist ganz. Die Chipsätze der aktuellen Modelle stehen in den Datenblättern im Handyvergleich.