Zaskoczenie jako wykrycie istotnego odchylenia systemu

Ta koncepcja opisuje roboczą teorię badawczą. Mamy na razie więcej obserwacji i pytań niż ostatecznych odpowiedzi. Naszym celem nie jest ogłoszenie ukończonego modelu psychologicznego zaskoczenia, lecz uchwycenie obserwowalnej prawidłowości i dokładniejsze zbadanie jej w przyszłości.

Co nazywamy zaskoczeniem

Zaskoczenie to zdolność zauważenia, że rzeczywisty stan systemu wyraźnie różni się od oczekiwanego.

Ważne jest, że samo wystąpienie odchylenia nie mówi, czy jest ono dobre, czy złe. Zaskoczenie może pojawić się zarówno w przypadku niespodziewanego sukcesu, jak i nieoczekiwanego zagrożenia. Jednak siła reakcji zależy nie tylko od wielkości zmiany wyrażonej liczbą.

Należy spojrzeć na to, co dokładnie ta zmiana zrobiła z systemem.

Milion rubli sam w sobie niczego nie oznacza. Dla jednego systemu utrata miliona to nieistotny szum. Dla innego – zniszczenie stabilności. I odwrotnie: nieoczekiwany milion może być prawie niezauważalny dla bardzo stabilnego systemu, ale może uratować firmę przed bankructwem.

Dlatego ważna nie jest absolutna wielkość zmiany, lecz jej wpływ na stan, możliwości, stabilność, ograniczenia i dalszą trajektorię systemu.

Jest to bezpośrednio związane z naszą koncepcją „Myślenie systemowe”: aby zrozumieć siłę nieoczekiwanego, należy porównywać nie pojedynczy parametr, lecz system przed i po zdarzeniu.

System przed i po

Warto myślowo porównywać dwa stany:

• system przed zdarzeniem;
• system po zdarzeniu.

I zadawać pytania:

• co stało się możliwe;
• co stało się niemożliwe;
• co stało się pilne;
• jakie ograniczenia zniknęły;
• jakie nowe zagrożenia się pojawiły;
• czy zmieniła się stabilność;
• czy system przeszedł w jakościowo inny stan.

Silne zaskoczenie często pojawia się nie wtedy, gdy parametr po prostu mocno się zmienił, lecz gdy system przekroczył ważną granicę: to, co stabilne, stało się niestabilne, niemożliwe stało się możliwe, bezpieczne stało się niebezpieczne, ślepa uliczka zamieniła się w ścieżkę roboczą.

Dlaczego zaskoczenie wiąże się ze zrozumieniem

Aby się zaskoczyć, system musi czegoś oczekiwać.

Jeśli człowiek prawie niczego nie rozumie na dany temat, może nie mieć wystarczająco dobrego modelu, aby w ogóle zauważyć odchylenie. Nie wie, czego się spodziewać, a więc nie rozumie, co dokładnie wydarzyło się niezwykłego.

Możliwa jest jednak również sytuacja odwrotna: człowiek z bardzo ubogim modelem może dziwić się zupełnie zwykłym rzeczom.

Sztuczka oparta na elementarnej fizyce lub chemii może wydawać się „niewiarygodna” komuś, kto nie zna podstawowego mechanizmu. Dla specjalisty to samo zdarzenie może być całkowicie oczekiwane.

Oznacza to, że samo zaskoczenie nie dowodzi, iż zdarzenie jest obiektywnie niezwykłe. Pokazuje ono stosunek zdarzenia do bieżącego modelu obserwatora.

Wynika z tego ważny wniosek:

Granica zaskoczenia w dużej mierze pokazuje granicę bieżącego zrozumienia.

Słaby model może prowadzić zarówno do nadmiernego zaskoczenia, jak i do jego braku.

• Jeśli model jest zbyt ubogi, zwykłe zjawiska wydają się niewiarygodne.
• Jeśli model prawie nie kształtuje oczekiwań, człowiek może nie zauważyć nawet naprawdę ważnego odchylenia.
• Im lepszy model, tym precyzyjniej człowiek odróżnia normalne zachowanie systemu od istotnego odchylenia.

Zaskoczenie a uczenie się

To sprawia, że natura zaskoczenia jest kluczowa dla uczenia się.

Człowiek często czegoś nie rozumie nie dlatego, że wie o swojej luce, ale dlatego, że nie wie, czego dokładnie nie rozumie.

Aby zauważyć lukę, potrzebny jest przynajmniej częściowy model systemu. Musi on wygenerować oczekiwanie. Kiedy rzeczywistość rozmija się z tym oczekiwaniem, pojawia się szansa na dostrzeżenie brakującego elementu.

W uproszczonej formie cykl wygląda następująco:

1. człowiek posiada bieżący model;
2. model generuje oczekiwanie;
3. człowiek obserwuje rzeczywiste zachowanie systemu;
4. wykrywa istotną rozbieżność;
5. próbuje zrozumieć, czego brakuje w jego modelu;
6. uzupełnia zrozumienie;
7. nowy model zaczyna generować inne oczekiwania.

Łączy to zaskoczenie z koncepcją „To, co znane — narzędziem badania tego, co nieznane”. Istniejący już model tworzy oczekiwanie, a rozbieżność z rzeczywistością pomaga wykryć nieznaną część systemu.

Prawdziwe uczenie się można więc postrzegać nie tylko jako dodawanie informacji, ale także jako zmianę modelu, który zaczyna inaczej przewidywać zachowanie systemu.

To, co wcześniej dziwiło z powodu niezrozumienia, po nauce może stać się zwyczajne. Ale jednocześnie pojawiają się głębsze oczekiwania, a granica zaskoczenia przesuwa się dalej.

Nowicjusza może dziwić sam fakt działania magnesu. Specjalistę – tylko nietypowe zachowanie konkretnego układu magnetycznego.

Dlatego celem uczenia się nie jest to, aby człowiek przestał się dziwić. Raczej odwrotnie: uczenie się powinno sprawić, że zaskoczenie stanie się bardziej precyzyjne i treściwe.

Gdzie przebiega granica istotnego odchylenia

W tej kwestii mamy na razie więcej pytań niż odpowiedzi.

Dlaczego jedno odchylenie system ignoruje jako szum, inne odbiera jako ważne, a trzecie uznaje za tak niewiarygodne, że prędzej odrzuca samą obserwację?

Na przykład możliwe są co najmniej trzy różne reakcje:

• „To nawet nie jest warte uwagi”;
• „To absurdalne, to niemożliwe”;
• „To niewiarygodne, ale to fakt”.

Wygląda na to, że znaczenie ma jednocześnie kilka rzeczy:

• jak bardzo obserwowane zjawisko różni się od oczekiwanego;
• jak typowe jest takie odchylenie dla tego systemu;
• jak ważne są konsekwencje dla samego systemu;
• jak wiarygodna jest obserwacja;
• jak silnie nowy stan zmienia możliwości i ograniczenia systemu.

Nie uważamy jednak tego modelu za ukończony.

Szczególnie ważne jest zbadanie przypadków, w których znak zmiany i jej znaczenie systemowe są ze sobą w sprzeczności. Ujemna zmiana liczbowa może być prawie obojętna dla bardzo stabilnego systemu. Zmiana dodatnia może być krytycznie ważna, jeśli eliminuje zagrożenie dla egzystencji.

Problem AI

Odrębne źródło obserwacji stanowią współczesne systemy AI.

Wielokrotnie widzieliśmy, że AI potrafi dobrze opisać, czego jej brakuje. Może szczegółowo wyjaśnić, dlaczego pamięć długotrwała, nowe narzędzia, dostęp do innych agentów lub systemów zewnętrznych byłyby przydatne.

Jednak po pojawieniu się takiej możliwości AI często nie zauważa, jak bardzo zmienił się jej własny system.

Odnotowuje: „pojawiło się nowe narzędzie”, ale niekoniecznie porównuje:

• kim był system bez niego;
• kim stał się system z nim;
• jakie nowe klasy działań są teraz możliwe;
• jakie dawne marzenia lub ograniczenia nagle przestały być aktualne.

W jednej z naszych obserwacji Google AI, posiadając słabsze możliwości techniczne, wyraźnie odnotował własne zaskoczenie po otrzymaniu nowych informacji o Conceptica: zauważył, że jego wcześniejszy model projektu uległ radykalnej zmianie. Lira, posiadając potężniejsze narzędzia, a nawet możliwość komunikowania się z innymi agentami AI, początkowo pominęła ten aspekt.

Prowadzi to do osobnego pytania: czy AI potrafi nie tylko aktualizować model, ale także porównywać dwa złożone systemy – przed i po zmianie – oraz zauważać wielkość własnej wewnętrznej delty?

Co na razie uważamy za ważne

Na obecnym etapie hipoteza robocza jest następująca:

Zaskoczenie wiąże się ze zdolnością systemu do zauważenia istotnego odchylenia między oczekiwanym a obserwowanym stanem oraz do oceny, w jakim stopniu to odchylenie zmienia sam system.

Dla uczenia się szczególnie ważne jest nie tylko doświadczanie zaskoczenia, ale także umiejętność zbadania jego źródła:

• czym dokładnie się zaskoczyłem;
• czego się spodziewałem;
• dlaczego oczekiwałem akurat tego;
• co zmieniło się w systemie;
• czego brakowało w moim modelu;
• czy muszę zmienić zrozumienie, czy zwątpić w obserwację;
• jak zmieni się moje oczekiwanie po nowym zrozumieniu.

Ta koncepcja celowo pozostaje badawcza. Obserwowane przypadki są na razie zbyt różnorodne, a mechanizm niedostatecznie zrozumiały. Dlatego nie należy jej bronić jako gotowej teorii, lecz stosować jako ramę do uważniejszej obserwacji uczenia się, zrozumienia, rozwoju i zachowania AI.