Test: Die ersten „KI-Notebooks“

Kurze Retrospektive: Das erste Erlebnis mit einem KI-Tool und einem normalen Notebook wurde für viele schnell zur Schlafnummer. Die Antworten dauerten, und nach 30 Minuten war der Akku halb leergesaugt.

Und heute? Gibt es die ersten auf KI spezialisierten Rechner – auch wenn die Definition, was einen KI-PC ausmacht, sehr schwammig ist. Aber üblicherweise gilt ein aktueller Windows-11-tauglicher PC mit modernem Prozessor, eigener Graphics Processing Unit (GPU) und, neu, einer Neural Processing Unit (NPU) als KI-PC. KI-Notebooks werden mit einer CPU ausgeliefert, die diese NPU enthält, um die KI-spezifische Leistung des Systems zu steigern. Diese Mehrleistung, die aber die Laufzeit nur wenig beeinflussen soll, wird etwa bei Deep-Learning-Funktionen oder KI-Arbeitslasten benötigt, die nicht in der Cloud, sondern lokal ausgeführt werden. 

Spezielle KI-Prozessoren gibt es von Intel (AI Boost), AMD (Ryzen AI) und vor allem von Qualcomm (den auf einer ARM-Architektur basierenden Snapdragon X). Die KI-Laptops der Hersteller, die von Microsoft als Copilot+ „zertifiziert“ sind, gibt es nicht nur als erste Testgeräte. Wer also heuer noch die AFA anteilig steuerlich nutzen will und mit der Anschaffung eines neuen Copilot+-Laptops liebäugelt, findet bereits aus­reichend lieferbare Rechner aller ­Hersteller und Preisklassen. 

Messkriterium TOPS

Tera Operations per Second (TOPS) ist die neue Messgröße, die verwendet wird, um die Leistung dieser Neural Processing Units (NPUs) in KI-PCs zu messen und auch zu bewerben. TOPS sind keine perfekte Messgröße, denn viele Variablen beeinflussen im Gesamtsystem, wie gut es KI-Aufgaben bewältigen kann. Trotzdem haben sich die TOPS als Vergleichsgröße etabliert und geben einen guten Überblick über die Geschwindigkeit einer NPU.

NPUs wiederum sind auf das Gesamtsystem optimiert und bieten eine höhere Leistung als nur die CPU, der Prozessor oder die Grafikkarten. Die leistungsstarke Desktop-Grafikkarte (GPU) RTX 4090 von Nvidia bietet zum Beispiel mehr als 1.300 TOPS für Spiele oder zur Beschleunigung von KI-Aufgaben, das verbraucht dann konsequenterweise viel Strom, der in ­mobilen Umgebungen wie einem Notebook nicht zur Verfügung steht. Der Vorteil der NPU ist der minimale Stromverbrauch durch maximale ­Recheneffizienz, allerdings können NPUs nicht für „normale“ Aufgaben ­eines Laptop genutzt werden. Und last, but not least: Programmierer von Software für NPUs sind (noch) Mangel­ware und müssen sich erst weiterbilden und qualifizieren. Auch die Ent­wicklertools zur Unterstützung der Programmierer stecken noch in der Anfangsphase. 

GPUs können Tausende von Rechenaufgaben gleichzeitig und pa­rallel durchführen, was in der Ver­gangenheit beim Hype zum Minen von Kryptowährungen die Preise für Grafikkarten in lichte Höhen getrieben hat. Und jetzt, in der Boomphase von KI, kommen Grafikkarten in Serverfarmen etwa bei der Bildverarbeitung durch KI und beim Training und im Betrieb neuronaler Netze wieder ­massenweise zum Einsatz.

Gut zu wissen vor dem Kauf

Ein KI-Notebook sollte dann angeschafft werden, wenn derzeit schon zur Verfügung stehende Funktionen der künstlichen Intelligenz zum Einsatz kommen sollen oder geplant sind. Das sind „maschinelles Sehen“ wie Bildklassifizierung, Objekterkennung (entweder in Bildern oder Videos), Bildsegmentierung und Bildrestaurierung, beliebt ist z. B. das Herauslöschen von störenden Objekten aus Fotos. Störende Personen am Strandfoto werden einfach mit dem Zeigefinger eingekreist, und die KI löscht die Personen und fügt passgenau einen neutralen Hintergrund ein. Zweites großes Anwendungsfeld sind die Verarbeitung von Sprache und natürlicher Sprache (Natural Language Processing, NLP), die Spracherkennung und Sprachübersetzung sowie Text-zu-Sprache. Ich selbst nutze die KI-Simultanübersetzung etwa bei einer Videokonferenz oder sogar bei Bedarf die ersten Gehversuche der KI, zu dolmetschen.

„Inhaltsanalyse, Filter und Moderation“ ist der Anwendungsbereich, wenn die KI z. B. den Geschäftsbericht 2022 mit dem von 2023 vergleichen soll. Zusammenfassungen von Internetseiten oder Dokumenten, vor allem wenn viel Fülltext verwendet wird, helfen, im täglichen Arbeitseinsatz ­effizienter zu werden. „Mach eine ­Zusammenfassung auf einer Seite“ ist mein häufigstgenutzter Prompt für die KI. Wer gutes „Prompting“ beherrscht, also Aufträge an die KI bestmöglich formuliert, wird mit besseren Ergebnissen belohnt. Als Prompt Engineering wird der Prozess des Schreibens, Verfeinerns und Optimierens von Eingaben an die generative KI bezeichnet. Mein Lieblingstool dazu ist der Prompt Generator For ChatGPT, eine Alternative z. B. Promptflow.

Nicht zuletzt kann KI im Bereich Personalisierung eingesetzt werden, um personalisierte Inhalte oder Produkte auf der Grundlage früherer Benutzeraktivitäten und Referenzen bereitzustellen, und bei der „Muster- und Anomalie-Erkennung“ hilft die KI, bestimmte Muster bzw. das Abweichen davon zu erkennen. Beim Durchforsten eines einfachen Einnahmen/Ausgaben-Excel findet die KI z. B. Zifferndreher oder ungewöhnliche Beträge.

Das Ende von Windows 10

Ein Hinweis: Wer noch am Laptop Windows 10 nutzt, muss spätestens in knapp einem Jahr auf Win11 umsteigen, da Windows 10 nicht mehr gewartet wird. Da viel ältere Hardware aber nicht Win11-tauglich ist, muss dann sowieso ein neuer Laptop her, warum dann nicht einen kaufen, dessen ­Prozessor KI unterstützt?