Andrej Karpathy, einer der einflussreichsten KI-Forscher der Gegenwart, hat mit seiner Metapher der digitalen Geistwesen eine Debatte angestoßen, die über technische Details hinausgeht. Seine zentrale These: Wir verstehen KI-Modelle falsch, wenn wir sie mit biologischen Organismen vergleichen. Sie sind keine digitalen Tiere mit Instinkten und Bedürfnissen, sondern etwas fundamental Anderes – Entitäten ohne körperliche Erfahrung, ohne Kontinuität des Erlebens, ohne evolutionäre Prägung.
Das RL-Effizienzproblem
Reinforcement Learning, das bei Spielen wie Go oder Schach spektakuläre Erfolge feiert, stößt in der realen Welt an fundamentale Grenzen. Die Effizienz, mit der RL-Systeme lernen, ist um Größenordnungen schlechter als die eines menschlichen Lernenden. Ein Kind lernt Fahrradfahren in Stunden; ein RL-Agent benötigt Millionen simulierter Versuche. Karpathy argumentiert, dass dieses Effizienzdefizit kein technisches Problem ist, das durch mehr Rechenleistung gelöst wird, sondern auf eine grundlegende Limitation der Methodik verweist.
Intelligenzexplosion: Realität oder Mythos?
Die populäre Vorstellung einer rekursiven Selbstverbesserung – KI, die sich selbst verbessert, die sich dann schneller verbessert – ignoriert praktische Engpässe. Karpathy weist darauf hin, dass die Verbesserung von KI-Systemen an physikalische Grenzen gebunden ist: Energieverbrauch, Chipproduktion, Datenverfuegbarkeit. Eine exponentielle Intelligenzexplosion setzt voraus, dass all diese Faktoren gleichzeitig exponentiell skalieren – eine Annahme, die wenig mit der Realität zu tun hat.
Konsequenzen für den Umgang mit KI
Karpathys Perspektive hat praktische Konsequenzen. Wenn KI-Modelle keine Tiere sind, sollten wir sie weder vermenschlichen noch dämonisieren. Sie sind Werkzeuge mit ungewöhnlichen Eigenschaften: erstaunlich in manchen Bereichen, bestilrzend limitiert in anderen. Diese nüchterne Einschätzung hilft, sowohl den Hype als auch die Panik zu vermeiden, die den öffentlichen Diskurs über KI prägen. Was wir brauchen, ist ein realistisches Verständnis der Stärken und Schwächen – und die Bereitschaft, unsere Analogien zu überdenken.