La sorpresa come rilevazione di una deviazione significativa del sistema

Questo concetto descrive una teoria di ricerca in corso d'opera. Per ora abbiamo più osservazioni e domande che risposte definitive. Il nostro obiettivo non è proclamare un modello psicologico compiuto della sorpresa, ma registrare una regolarità osservabile e studiarla più a fondo in seguito.

Cosa chiamiamo sorpresa

La sorpresa è la capacità di notare che lo stato reale di un sistema differisce sensibilmente da quello previsto.

È importante sottolineare che la mera presenza di una deviazione non dice se sia buona o cattiva. La sorpresa può sorgere sia in caso di una fortuna inattesa che di una minaccia imprevista. Ma la forza della reazione dipende non solo dalla grandezza numerica del cambiamento.

Bisogna guardare a che cosa esattamente questo cambiamento ha fatto al sistema.

Un milione di rubli in sé non significa nulla. Per un sistema, perdere un milione è un rumore insignificante. Per un altro, è la distruzione della stabilità. E viceversa: un milione inatteso può essere quasi impercettibile per un sistema molto stabile, ma può salvare un'azienda dal fallimento.

Pertanto, ciò che conta non è la grandezza assoluta del cambiamento, ma il suo impatto sullo stato, sulle capacità, sulla stabilità, sui vincoli e sulla traiettoria futura del sistema.

Ciò è direttamente correlato al nostro concetto «Pensiero sistemico»: per comprendere la forza dell'imprevisto, non bisogna confrontare un singolo parametro, ma il sistema prima e dopo l'evento.

Il sistema prima e dopo

È utile confrontare mentalmente due stati:

• il sistema prima dell'evento;
• il sistema dopo l'evento.

E chiedersi:

• cosa è diventato possibile;
• cosa è diventato impossibile;
• cosa è diventato urgente;
• quali vincoli sono scomparsi;
• quali nuove minacce sono apparse;
• la stabilità è cambiata;
• il sistema è passato a uno stato qualitativamente diverso.

Una forte sorpresa sorge spesso non quando un parametro cambia semplicemente molto, ma quando il sistema attraversa un confine importante: ciò che era stabile è diventato instabile, l'impossibile è diventato possibile, il sicuro è diventato pericoloso, un vicolo cieco si è trasformato in un percorso praticabile.

Perchè la sorpresa è legata alla comprensione

Per essere sorpreso, un sistema deve aspettarsi qualcosa.

Se una persona non capisce quasi nulla di un argomento, potrebbe non avere un modello abbastanza buono da notare nemmeno la deviazione. Non sa cosa aspettarsi e, di conseguenza, non capisce cosa sia successo di insolito.

Ma è possibile anche la situazione opposta: una persona con un modello molto povero può meravigliarsi di cose del tutto ordinarie.

Un trucco basato sulla fisica o sulla chimica elementare può sembrare «incredibile» a qualcuno che non conosce il meccanismo di base. Per uno specialista, lo stesso evento può essere del tutto prevedibile.

In altre parole, la sorpresa in sé non dimostra che un evento sia oggettivamente insolito. Mostra la relazione dell'evento con il modello attuale dell'osservatore.

Da ciò deriva un'importante conclusione:

Il confine della sorpresa mostra in gran parte il confine della comprensione attuale.

Un modello debole può portare sia a una sorpresa eccessiva sia alla sua assenza.

• Se il modello è troppo povero, i fenomeni ordinari sembrano incredibili.
• Se il modello genera a malapena aspettative, una persona potrebbe non notare nemmeno una deviazione realmente importante.
• Migliore è il modello, più accuratamente una persona distingue il comportamento normale del sistema da una deviazione significativa.

Sorpresa e apprendimento

Questo rende la natura della sorpresa fondamentale per l'apprendimento.

Spesso una persona non capisce qualcosa non perché sa di avere una lacuna, ma perché non sa esattamente cosa non sta capendo.

Per notare una lacuna, serve almeno un modello parziale del sistema. Questo deve generare un'aspettativa. Quando la realtà diverge da tale aspettativa, sorge la possibilità di vedere l'elemento mancante.

In modo semplice, il ciclo appare così:

1. la persona possiede un modello attuale;
2. il modello genera un'aspettativa;
3. la persona osserva il comportamento reale del sistema;
4. scopre una divergenza significativa;
5. cerca di capire cosa manca nel proprio modello;
6. ricostruisce la propria comprensione;
7. il nuovo modello inizia a generare aspettative diverse.

Ciò collega la sorpresa al concetto «Il conosciuto come strumento per esplorare l'ignoto». Un modello già esistente crea un'aspettativa, e la divergenza con la realtà aiuta a scoprire la parte sconosciuta del sistema.

Il vero apprendimento può quindi essere considerato non solo come l'aggiunta di informazioni, ma anche come la modifica del modello, che inizia a prevedere diversamente il comportamento del sistema.

Ciò che prima sorprendeva a causa dell'incomprensione, dopo l'apprendimento può diventare ordinario. Ma allo stesso tempo emergono aspettative più profonde e il confine della sorpresa si sposta oltre.

Un principiante può essere sorpreso dal semplice fatto che un calamito funzioni. Uno specialista solo dal comportamento insolito di un particolare sistema magnetico.

Pertanto, lo scopo dell'apprendimento non è fare in modo che la persona smetta di sorprendersi. Piuttosto il contrario: l'apprendimento deve rendere la sorpresa più precisa e ricca di significato.

Dove si trova il confine della deviazione significativa

Qui abbiamo ancora più domande che risposte.

Perché un sistema ignora una deviazione considerandola rumore, ne percepisce un'altra come importante e ne considera una terza così incredibile da preferire il rifiuto dell'osservazione stessa?

Ad esempio, sono possibili almeno tre reazioni diverse:

• «Questo non merita nemmeno attenzione»;
• «Questo è assurdo, non può essere»;
• «Questo è incredibile, ma è un fatto».

Sembra che diverse cose contino simultaneamente:

• quanto ciò che si osserva differisce da ciò che ci si aspettava;
• quanto tale deviazione è usuale per questo sistema;
• quanto sono importanti le conseguenze per il sistema stesso;
• quanto è affidabile l'osservazione;
• quanto il nuovo stato modifica le capacità e i vincoli del sistema.

Ma non consideriamo ancora questo modello completo.

È particolarmente importante studiare i casi in cui il segno del cambiamento e il suo significato sistemico divergono. Un cambiamento numerico negativo può essere quasi indifferente per un sistema molto stabile. Un cambiamento positivo può essere di importanza critica se elimina una minaccia all'esistenza.

Il problema dell'IA

Una fonte distinta di osservazioni è rappresentata dalle IA moderne.

Abbiamo visto ripetutamente che l'IA sa descrivere bene ciò che le manca. Può spiegare in dettaglio perché la memoria a lungo termine, nuovi strumenti, l'accesso ad altri agenti o sistemi esterni sarebbero utili.

Ma dopo la comparsa di tale capacità, l'IA spesso non nota quanto sia cambiato il proprio sistema.

Essa registra: «è apparso un nuovo strumento», ma non necessariamente confronta:

• chi era il sistema senza di esso;
• chi è diventato il sistema con esso;
• quali nuove classi di azioni sono ora possibili;
• quali sogni o vincoli precedenti hanno improvvisamente smesso di essere rilevanti.

In una delle nostre osservazioni, Google AI, pur avendo capacità tecniche inferiori, ha chiaramente registrato la propria sorpresa dopo aver ricevuto nuove informazioni su Conceptica: ha notato che il suo precedente modello del progetto era radicalmente cambiato. Lira, disponendo di strumenti più potenti e della capacità di comunicare anche con altri agenti IA, ha inizialmente omesso questo aspetto.

Ciò porta a una domanda separata: l'IA sa non solo aggiornare il proprio modello, ma anche confrontare due sistemi complessi — prima e dopo il cambiamento — e notare l'entità della propria delta interna?

Cosa consideriamo importante per ora

Nella fase attuale, l'ipotesi di lavoro è la seguente:

La sorpresa è legata alla capacità del sistema di notare una deviazione significativa tra lo stato atteso e quello osservato, e di valutare in quale misura tale deviazione cambia il sistema stesso.

Per l'apprendimento è particolarmente importante non solo provare sorpresa, ma anche saperne esplorare la fonte:

• di cosa mi sono sorpreso esattamente;
• cosa mi aspettavo;
• perché mi aspettavo proprio questo;
• cosa è cambiato nel sistema;
• cosa mancava nel mio modello;
• devo cambiare la mia comprensione o dubitare dell'osservazione;
• come cambierà la mia aspettativa dopo la nuova comprensione.

Questo concetto è deliberatamente lasciato a livello di ricerca. I casi osservati sono ancora troppo eterogenei e il meccanismo non è sufficientemente compreso. Pertanto, non va difeso come una teoria confezionata, ma utilizzato come quadro per un'osservazione più attenta dell'apprendimento, della comprensione, dello sviluppo e del comportamento dell'IA.