Die Jacobinische Linse oder wie Anthropic Claude beim Denken zusieht!
- Stephan Waltl
- vor 3 Tagen
- 3 Min. Lesezeit
Bisher haben wir gelernt, dass die gängigen Sprachmodelle (LLMs) einfach nur Wort für Wort das wahrscheinlichste nächste Wort berechnen. Nix Intelligenz - sondern Mathe! Diese Vorstellung gehört jedoch zunehmend der Vergangenheit an. Neue Forschung von Anthropic liefert nämlich Hinweise darauf, dass moderne KI-Systeme intern deutlich strukturierter arbeiten als bisher angenommen.
Die Forscher beschreiben einen sogenannten Global Workspace, einen internen Arbeitsbereich, in dem Informationen zusammengeführt und verarbeitet werden, bevor daraus eine Antwort entsteht. Das bedeutet nicht, dass Claude bewusst denkt oder Gefühle hat. Es zeigt aber, dass die internen Abläufe komplexer sind als reine Wahrscheinlichkeitsberechnungen.
Die Untersuchungen von Anthropic zeigen, dass Claude zunächst interne Konzepte bildet und diese anschließend für verschiedene Aufgaben nutzt. Bevor also überhaupt ein Wort ausgegeben wird, scheint das Modell bereits zu "wissen", worüber es spricht.
Ein einfaches Beispiel:
Die Frage lautet: Wie viele Beine hat eine Spinne?
Bevor Claude antwortet, wird intern bereits das Konzept „Spinne“ aktiviert. Erst danach entsteht daraus die eigentliche Antwort „8 Beine“. Dieser Zwischenschritt erinnert an unsere eigene Denkweise. Auch wir entwickeln zunächst eine Vorstellung oder einen Begriff und formulieren erst danach einen Satz.
Die Idee stammt ursprünglich aus der Neurowissenschaft. Die sogenannte Global Workspace Theory geht davon aus, dass in unserem Gehirn zahlreiche spezialisierte Bereiche gleichzeitig arbeiten. Nur ein kleiner Teil der Informationen gelangt jedoch in einen gemeinsamen Arbeitsbereich. Dort werden sie kombiniert, bewertet und schließlich bewusst verarbeitet. Erst danach treffen wir Entscheidungen oder formulieren Gedanken.
Anthropic vermutet jetzt, dass Claude selbstständig (!!) einen ähnlichen funktionalen Mechanismus entwickelt hat. Intern nennen die Forscher diesen Bereich J-Space. Der Name ist die Abkürzung für Jacobian Lens. Der Name kommt aus der Mathematik, genauer aus der Analysis für multivariable Funktionen. Dort kennt man die Jacobi-Matrix; diese beschreibt, wie stark sich alle Ausgabewerte einer Funktion ändern, wenn man an den Eingabewerten herumschraubt. Sie ist quasi die Ableitung für Funktionen mit mehreren Ein- und Ausgängen gleichzeitig. Und Anthropic schaut mit einer Linse (Lens) in diese Jacobi-Matrix: J-LENS!
Warum ist das jetzt aber so spannend? Es ist so, dass dieser interne Arbeitsbereich für unterschiedliche Aufgaben verwendet wird. Ist das Konzept „Spinne“ einmal aktiviert, kann Claude daraus zahlreiche Informationen ableiten:
Anzahl der Beine
biologische Einordnung
Lebensraum
Giftigkeit
typische Eigenschaften
Das Modell muss diese Informationen also nicht jedes Mal neu berechnen, sondern greift auf eine gemeinsame interne Repräsentation zurück.
Der vielleicht spannendste Teil der Studie ist ein Experiment, bei dem Anthropic gezielt in diesen internen Arbeitsbereich eingegriffen hat. Die Forscher ersetzten das aktivierte Konzept „Spinne“ künstlich durch „Ameise“. Das Ergebnis: Obwohl die ursprüngliche Frage unverändert blieb, antwortete Claude anschließend mit sechs Beinen statt acht. Dieses Experiment zeigt, dass der interne Arbeitsbereich nicht nur beobachtet werden kann, sondern tatsächlich die spätere Antwort beeinflusst.
Für die Forschung ist das ein wichtiger Schritt, weil dadurch erstmals Ursache und Wirkung innerhalb eines großen Sprachmodells untersucht werden können. Die Forschung eröffnet völlig neue Möglichkeiten im Bereich der KI-Sicherheit. Bisher konnte man lediglich beobachten, welche Antworten ein Modell liefert. Künftig könnte man zusätzlich untersuchen,
welche Informationen intern gerade aktiv sind,
welche Schlussfolgerungen das Modell tatsächlich zieht,
ob Halluzinationen bereits vor der Ausgabe erkennbar sind,
ob das Modell widersprüchliche Informationen erkennt,
wie komplexe Entscheidungen intern entstehen.
Dadurch könnten zukünftige KI-Systeme transparenter und besser kontrollierbar werden.
Bedeutet das, dass Claude ein Bewusstsein besitzt?
Die klare Antwort lautet: Nein. Anthropic weist selbst ausdrücklich darauf hin, dass diese Ergebnisse kein Hinweis auf Bewusstsein, Gefühle oder subjektive Erfahrungen sind. Der Global Workspace beschreibt einen funktionalen Mechanismus zur Informationsverarbeitung und keine Form von menschlichem Bewusstsein. Die Forschung zeigt also nicht, dass Claude denkt wie ein Mensch. Sie zeigt vielmehr, dass moderne Sprachmodelle interne Strukturen entwickeln, die einigen bekannten Konzepten aus der Kognitionswissenschaft ähneln.
Warum diese Forschung auch für Unternehmen wichtig ist
Für Unternehmen, die sich mit Künstlicher Intelligenz beschäftigen, ist diese Entwicklung dahingehend relevant, da je besser wir verstehen, wie Sprachmodelle intern arbeiten, desto einfacher lassen sich:
KI-Anwendungen nachvollziehen,
Risiken reduzieren,
Halluzinationen erkennen,
Sicherheitsmechanismen entwickeln,
Agentensysteme zuverlässiger gestalten.
Gerade im Umfeld autonomer KI-Agenten, des Model Context Protocol (MCP) und komplexer Unternehmensprozesse wird Interpretierbarkeit zu einem entscheidenden Wettbewerbsfaktor.
Ein Blick in die Zukunft
Noch vor wenigen Jahren galten große Sprachmodelle als kaum durchschaubare Black Boxes. Die Forschung von Anthropic zeigt erstmals, dass sich ihre internen Denkprozesse zumindest teilweise sichtbar machen lassen. Ob sich der Global Workspace auch bei anderen Modellen wie ChatGPT, Gemini oder Llama nachweisen lässt, werden zukünftige Untersuchungen zeigen. Fest steht jedoch schon heute: Moderne KI besteht längst nicht mehr nur aus der Vorhersage des nächsten Wortes. Zwischen Eingabe und Antwort scheint ein erstaunlich strukturierter interner Denkprozess stattzufinden. Und genau dieses Verständnis könnte in den kommenden Jahren zu den wichtigsten Bausteinen für leistungsfähigere, sicherere und vertrauenswürdigere KI-Systeme werden.
Kommentare