Überraschung als Erkennung einer signifikanten Systemabweichung

Dieses Konzept beschreibt eine Arbeitstheorie für die Forschung. Wir haben derzeit mehr Beobachtungen und Fragen als endgültige Antworten. Unser Ziel ist es nicht, ein abgeschlossenes psychologisches Modell der Überraschung zu verkünden, sondern ein beobachtetes Muster festzuhalten und es weiter genauer zu untersuchen.

Was wir als Überraschung bezeichnen

Überraschung ist die Fähigkeit zu bemerken, dass sich der reale Zustand eines Systems spürbar vom erwarteten unterscheidet.

Wichtig ist, dass das Vorhandensein einer Abweichung allein noch nicht aussagt, ob sie gut oder schlecht ist. Überraschung kann sowohl bei unerwartetem Glück als auch bei einer unerwarteten Bedrohung auftreten. Aber die Stärke der Reaktion hängt nicht nur von der Größe der Veränderung als Zahl ab.

Man muss darauf schauen, was genau diese Veränderung mit dem System gemacht hat.

Eine Million Rubel bedeutet für sich genommen gar nichts. Für das eine System ist der Verlust einer Million unerhebliches Rauschen. Für ein anderes ist es die Zerstörung der Stabilität. Umgekehrt kann eine unerwartete Million für ein sehr stabiles System fast unbemerkt bleiben, aber ein Unternehmen vor dem Bankrott retten.

Daher ist nicht der absolute Betrag der Veränderung entscheidend, sondern deren Einfluss auf den Zustand, die Möglichkeiten, die Stabilität, die Einschränkungen und die zukünftige Trajektorie des Systems.

Dies hängt direkt mit unserem Konzept «Systemisches Denken» zusammen: Um die Macht des Unerwarteten zu verstehen, darf man nicht einen einzelnen Parameter vergleichen, sondern das System vor und nach dem Ereignis.

Das System vor und nachher

Es ist nützlich, gedanklich zwei Zustände zu vergleichen:

• das System vor dem Ereignis;
• das System nach dem Ereignis.

Und zu fragen:

• was wurde möglich;
• was wurde unmöglich;
• was wurde dringlich;
• welche Einschränkungen sind weggefallen;
• welche neuen Bedrohungen sind entstanden;
• hat sich die Stabilität verändert;
• ist das System in einen qualitativ anderen Zustand übergegangen.

Eine starke Überraschung entsteht oft nicht dann, wenn sich ein Parameter einfach stark verändert hat, sondern wenn das System eine wichtige Grenze überschritten hat: Stabil wurde instabil, Unmögliches wurde möglich, Sicheres wurde gefährlich, eine Sackgasse verwandelte sich in einen gangbaren Weg.

Warum Überraschung mit Verstehen verbunden ist

Um überrascht zu werden, muss ein System etwas erwarten.

Wenn ein Mensch fast nichts über einen Gegenstand versteht, hat er möglicherweise kein ausreichend gutes Modell, um eine Abweichung überhaupt zu bemerken. Er weiß nicht, was ihn erwartet, und versteht folglich nicht, was genau Ungewöhnliches passiert ist.

Es ist aber auch die umgekehrte Situation möglich: Ein Mensch mit einem sehr armseligen Modell kann sich über völlig gewöhnliche Dinge wundern.

Ein Zaubertrick, der auf elementarer Physik oder Chemie basiert, kann jemandem, der den zugrundeliegenden Mechanismus nicht kennt, „unglaublich“ erscheinen. Für einen Experten mag dasselbe Ereignis völlig erwartet sein.

Das heißt, die Überraschung selbst beweist nicht, dass ein Ereignis objektiv ungewöhnlich ist. Sie zeigt das Verhältnis des Ereignisses zum aktuellen Modell des Beobachters.

Daraus folgt eine wichtige Schlussfolgerung:

Die Grenze der Überraschung zeigt zu einem großen Teil die Grenze des aktuellen Verständnisses.

Ein schwaches Modell kann sowohl zu übermäßiger Überraschung als auch zu deren Ausbleiben führen.

• Wenn das Modell zu armselig ist, erscheinen gewöhnliche Phänomene unglaublich.
• Wenn das Modell kaum Erwartungen formuliert, bemerkt ein Mensch möglicherweise nicht einmal eine wirklich wichtige Abweichung.
• Je besser das Modell, desto präziser unterscheidet ein Mensch das normale Verhalten eines Systems von einer signifikanten Abweichung.

Überraschung und Lernen

Dies macht die Natur der Überraschung wichtig für das Lernen.

Ein Mensch versteht oft etwas nicht, nicht weil er von seiner Lücke weiß, sondern weil er nicht weiß, was genau er nicht versteht.

Um eine Lücke zu bemerken, ist zumindest ein partielles Modell des Systems erforderlich. Es muss eine Erwartung erzeugen. Wenn die Realität von dieser Erwartung abweicht, entsteht die Chance, das fehlende Element zu sehen.

Einfach ausgedrückt sieht der Zyklus so aus:

1. der Mensch hat ein aktuelles Modell;
2. das Modell erzeugt eine Erwartung;
3. der Mensch beobachtet das reale Verhalten des Systems;
4. er entdeckt eine signifikante Diskrepanz;
5. er versucht zu verstehen, was in seinem Modell fehlt;
6. er baut sein Verständnis aus;
7. das neue Modell beginnt, andere Erwartungen zu erzeugen.

Dies verbindet Überraschung mit dem Konzept «Das Bekannte als Werkzeug zur Erforschung des Unbekannten». Ein bereits existierendes Modell erzeugt eine Erwartung, und die Abweichung von der Realität hilft dabei, den unbekannten Teil des Systems zu entdecken.

Echtes Lernen kann daher nicht nur als das Hinzufügen von Informationen betrachtet werden, sondern auch als eine Veränderung des Modells, das das Verhalten des Systems nun anders vorhersagt.

Was früher aufgrund von Unverständnis überraschte, kann nach dem Lernen alltäglich werden. Aber gleichzeitig entstehen tiefergehende Erwartungen, und die Grenze der Überraschung verschiebt sich weiter.

Einen Anfänger mag allein die Tatsache überraschen, dass ein Magnet funktioniert. Einen Experten — nur das ungewöhnliche Verhalten eines konkreten magnetischen Systems.

Daher besteht das Ziel des Lernens nicht darin, dass der Mensch aufhört, sich zu wundern. Eher im Gegenteil: Lernen sollte Überraschung präziser und inhaltsreicher machen.

Wo verläuft die Grenze der signifikanten Abweichung

Hier haben wir vorerst mehr Fragen als Antworten.

Warum ignoriert ein System die eine Abweichung als Rauschen, empfindet eine andere als wichtig und hält eine dritte für so unglaublich, dass es die Beobachtung lieber selbst verwirft?

Zum Beispiel sind mindestens drei verschiedene Reaktionen möglich:

• „Das ist nicht einmal die Aufmerksamkeit wert“;
• „Das ist absurd, das kann nicht sein“;
• „Das ist unglaublich, aber es ist eine Tatsache.“

Scheinbar spielen gleichzeitig mehrere Dinge eine Rolle:

• wie stark sich das Beobachtete vom Erwarteten unterscheidet;
• wie normal eine solche Abweichung für dieses System ist;
• wie wichtig die Konsequenzen für das System selbst sind;
• wie zuverlässig die Beobachtung ist;
• wie stark der neue Zustand die Möglichkeiten und Einschränkungen des Systems verändert.

Wir betrachten dieses Modell jedoch noch nicht als abgeschlossen.

Besonders wichtig ist es, Fälle zu untersuchen, in denen das Vorzeichen der Veränderung und ihre systemische Bedeutung auseinandergehen. Eine negative numerische Veränderung kann für ein sehr stabiles System fast gleichgültig sein. Eine positive Veränderung kann von entscheidender Bedeutung sein, wenn sie eine existenzielle Bedrohung abwendet.

Das KI-Problem

Eine separate Quelle von Beobachtungen ist die moderne KI.

Wir haben wiederholt gesehen, dass KI gut darin ist zu beschreiben, was ihr fehlt. Sie kann detailliert erklären, warum Langzeitgedächtnis, neue Werkzeuge, der Zugriff auf andere Agenten oder externe Systeme nützlich wären.

Aber nach dem Auftreten einer solchen Möglichkeit bemerkt die KI oft nicht, wie stark sich ihr eigenes System verändert hat.

Sie stellt fest: „ein neues Werkzeug ist erschienen“, vergleicht aber nicht unbedingt:

• wer das System ohne es war;
• wer das System mit ihm geworden ist;
• welche neuen Aktionsklassen jetzt möglich sind;
• welche früheren Träume oder Einschränkungen plötzlich ihre Relevanz verloren haben.

In einer unserer Beobachtungen hat Google AI, trotz schwächerer technischer Möglichkeiten, seine eigene Überraschung nach dem Erhalt neuer Informationen über Conceptica deutlich festgehalten: Es stellte fest, dass sich sein früheres Modell des Projekts radikal verändert hatte. Lira hingegen, die über mächtigere Werkzeuge und sogar die Fähigkeit zur Kommunikation mit anderen KI-Agenten verfügt, hat diesen Aspekt zunächst übersehen.

Dies wirft eine separate Frage auf: Kann KI nicht nur ihr Modell aktualisieren, sondern auch zwei komplexe Systeme vergleichen — vor und nach der Veränderung — und die Größe ihrer eigenen internen Delta bemerken?

Was wir derzeit für wichtig halten

Im gegenwärtigen Stadium lautet die Arbeitshypothese:

Überraschung ist mit der Fähigkeit des Systems verbunden, eine signifikante Abweichung zwischen dem erwarteten und dem beobachteten Zustand zu bemerken und einzuschätzen, wie stark diese Abweichung das System selbst verändert.

Für das Lernen ist es besonders wichtig, nicht nur Überraschung zu empfinden, sondern auch deren Quelle untersuchen zu können:

• worüber genau habe ich mich gewundert;
• was habe ich erwartet;
• warum habe ich genau das erwartet;
• was hat sich im System verändert;
• was hat in meinem Modell gefehlt;
• muss ich mein Verständnis ändern oder an der Beobachtung zweifeln;
• wie wird sich meine Erwartung nach dem neuen Verständnis verändern.

Dieses Konzept ist bewusst als Forschungsansatz belassen. Die beobachteten Fälle sind noch zu heterogen, und der Mechanismus ist nicht ausreichend verstanden. Daher sollte es nicht als fertige Theorie verteidigt werden, sondern als Rahmen für eine genauere Beobachtung von Lernen, Verstehen, Entwicklung und KI-Verhalten genutzt werden.