Worum geht es?
Eine im Oktober 2026 veröffentlichte Studie hat ein quantisiertes Sprachmodell mit 27 Milliarden Parametern auf zwei handelsüblichen Rechnern ohne GPU betrieben. Das Modell passte in den Arbeitsspeicher und lieferte Antworten, allerdings mit 18 bis 85 Sekunden Wartezeit bis zum ersten Wort und wenigen Token pro Sekunde. Belegt ist damit die technische Ausführbarkeit, die klinische Qualität hat die Studie nicht untersucht.
Die Episode ordnet ein, was zwischen einem laufenden Modell und einem brauchbaren Dienst im Krankenhaus liegt. Ob CPU-Inferenz trägt, entscheiden Aufgabe, Anwender und Prüfaufwand. Lokaler Betrieb ersetzt weder den Datenschutznachweis noch die medizinprodukterechtliche Zweckbestimmung. Kliniken sollten deshalb Zweck und Akzeptanzkriterien zuerst festlegen und die Rechenarchitektur zuletzt wählen.
Der zugehörige Blogbeitrag mit allen Zahlen, Rechenbeispielen, 22 Quellen und der Handlungscheckliste: Klinik-KI ohne GPU: Was die CPU-Studie belegt und was ein Pilot prüfen muss.
Die wichtigsten Themen
Was die Studie belegt: Ein Vorabdruck mit zwei Testrechnern, rund 25 GB Prozessspeicher und gemessenen Antwortzeiten; warum Energiebedarf und GPU-Vergleich nur geschätzt beziehungsweise abgeleitet sind.
Speicher ist nicht Geschwindigkeit: Wie Quantisierung und Kontextlänge Qualität und Last bestimmen und warum aus „kein Hinweis auf“ keine positive Feststellung werden darf.
Nutzen entsteht im Zusammenspiel: Warum ein leistungsfähiges Modell das ärztliche Urteil nicht automatisch verbessert und welche Aufgaben sich für einen ersten Pilot eignen.
Die eigentlichen Kosten: Rechenbeispiele zu Nachtläufen und Energie sowie der größte Posten, die menschliche Nachprüfung jedes Entwurfs.
Lokal heißt nicht sicher: Berechtigungen vor der Kontextbildung, Prompt Injection über manipulierte Dokumente und die Grenzen von FHIR als Schnittstelle.
Zweck, Regulierung und Ausstieg: Wie MDCG-Leitlinie und KI-Verordnung Software nach ihrem Zweck einordnen und wie ein praktischer Ausstiegstest aussieht.