A surpresa como detecção de um desvio significativo do sistema

Este conceito descreve uma teoria de pesquisa em andamento. No momento, temos mais observações e perguntas do que respostas definitivas. Nosso objetivo não é declarar um modelo psicológico completo da surpresa, mas registrar um padrão observado e investigá-lo mais de perto no futuro.

O que chamamos de surpresa

Surpresa é a capacidade de perceber que o estado real de um sistema difere sensivelmente do estado esperado.

É importante ressaltar que a mera presença de um desvio não indica se ele é bom ou ruim. A surpresa pode surgir tanto de uma boa sorte inesperada quanto de uma ameaça inesperada. No entanto, a intensidade da reação depende não apenas da magnitude da mudança expressa em números.

Devemos observar o que exatamente essa mudança fez com o sistema.

Um milhão de rublos não significa nada por si só. Para um sistema, perder um milhão é um ruído insignificante. Para outro, é a destruição da estabilidade. E vice-versa: um milhão inesperado pode ser quase imperceptível para um sistema altamente estável, mas pode salvar uma empresa da falência.

Portanto, o que importa não é a magnitude absoluta da mudança, mas seu impacto sobre o estado, as capacidades, a estabilidade, as restrições e a trajetória futura do sistema.

Isso está diretamente conectado ao nosso conceito «Pensamento Sistêmico»: para entender o poder do inesperado, não se deve comparar um parâmetro isolado, mas sim o sistema antes e depois do evento.

O sistema antes e depois

É útil comparar mentalmente dois estados:

• o sistema antes do evento;
• o sistema depois do evento.

E perguntar:

• o que se tornou possível;
• o que se tornou impossível;
• o que se tornou urgente;
• quais restrições desapareceram;
• que novas ameaças surgiram;
• a estabilidade mudou;
• o sistema passou para um estado qualitativamente diferente.

Uma surpresa forte muitas vezes ocorre não quando um parâmetro simplesmente muda muito, mas quando o sistema cruza uma fronteira importante: o estável tornou-se instável, o impossível tornou-se possível, o seguro tornou-se perigoso, um beco sem saída transformou-se em um caminho viável.

Por que a surpresa está conectada à compreensão

Para se surpreender, um sistema precisa esperar alguma coisa.

Se uma pessoa quase não entende nada sobre um assunto, ela pode não ter um modelo bom o suficiente para sequer notar um desvio. Ela não sabe o que esperar e, portanto, não entende o que exatamente aconteceu de incomum.

No entanto, a situação oposta também é possível: uma pessoa com um modelo muito pobre pode se surpreender com coisas totalmente comuns.

Um truque de mágica baseado em física ou química elementar pode parecer "incrível" para alguém que não conhece o mecanismo básico. Para um especialista, o mesmo evento pode ser totalmente esperado.

Ou seja, a surpresa em si não prova que um evento é objetivamente incomum. Ela mostra a relação do evento com o modelo atual do observador.

D isso decorre uma conclusão importante:

A fronteira da surpresa mostra, em grande parte, a fronteira da compreensão atual.

Um modelo fraco pode levar tanto à surpresa excessiva quanto à sua ausência.

• Se o modelo for muito pobre, fenômenos comuns parecem improváveis.
• Se o modelo mal formar expectativas, uma pessoa pode não notar nem mesmo um desvio verdadeiramente importante.
• Quanto melhor o modelo, mais precisamente a pessoa distingue o comportamento normal de um sistema de um desvio significativo.

Surpresa e Aprendizagem

Isso torna a natureza da surpresa crucial para a aprendizagem.

Muitas vezes, uma pessoa não entende algo não porque sabe sobre sua lacuna, mas porque não sabe o que exatamente ela não entende.

Para notar uma lacuna, é necessário pelo menos um modelo parcial do sistema. Ele deve gerar uma expectativa. Quando a realidade diverge dessa expectativa, surge a oportunidade de ver o elemento ausente.

De forma simples, o ciclo é o seguinte:

1. a pessoa possui um modelo atual;
2. o modelo gera uma expectativa;
3. a pessoa observa o comportamento real do sistema;
4. descobre uma divergência significativa;
5. tenta entender o que está faltando em seu modelo;
6. amplia sua compreensão;
7. o novo modelo passa a gerar outras expectativas.

Isso conecta a surpresa ao conceito «O Conhecido como Instrumento para Investigar o Desconhecido». Um modelo já existente cria uma expectativa, e a divergência com a realidade ajuda a descobrir a parte desconhecida do sistema.

A verdadeira aprendizagem pode, portanto, ser vista não apenas como a adição de informações, mas como a alteração do modelo, que passa a prever o comportamento do sistema de outra forma.

O que antes causava surpresa devido à falta de compreensão pode se tornar comum após o aprendizado. Mas, ao mesmo tempo, surgem expectativas mais profundas, e a fronteira da surpresa se desloca ainda mais.

Um novato pode se surpreender com o simples fato de um ímã funcionar. Um especialista — apenas com o comportamento incomum de um sistema magnético específico.

Portanto, o objetivo da aprendizagem não é fazer com que a pessoa deixe de se surpreender. Pelo contrário: a aprendizagem deve tornar a surpresa mais precisa e significativa.

Onde fica a fronteira do desvio significativo

Aqui ainda temos mais perguntas do que respostas.

Por que um sistema ignora um desvio como ruído, percebe outro como importante e considera um terceiro tão improvável que prefere rejeitar a própria observação?

Por exemplo, são possíveis pelo menos três reações diferentes:

• "Isso nem vale a pena prestar atenção";
• "Isso é absurdo, não pode ser";
• "Isso é incrível, mas é um fato."

Parece que várias coisas importam simultaneamente:

• o quanto o observado difere do esperado;
• o quão comum é esse desvio para este sistema;
• quão importantes são as consequências para o próprio sistema;
• quão confiável é a observação;
• o quanto o novo estado altera as capacidades e limitações do sistema.

No entanto, ainda não consideramos este modelo concluído.

É especialmente importante investigar casos em que o sinal da mudança e seu significado sistêmico divergem. Uma mudança numérica negativa pode ser quase indiferente para um sistema muito estável. Uma mudança positiva pode ser criticamente importante se eliminar uma ameaça à existência.

O Problema da IA

Uma fonte separada de observações são as IAs modernas.

Temos visto repetidamente que a IA sabe descrever bem o que lhe falta. Ela pode explicar detalhadamente por que memória de longo prazo, novas ferramentas, acesso a outros agentes ou sistemas externos seriam úteis.

Mas, após o surgimento dessa capacidade, a IA frequentemente não percebe o quanto seu próprio sistema mudou.

Ela registra: "uma nova ferramenta apareceu", mas não necessariamente compara:

• quem era o sistema sem ela;
• quem o sistema se tornou com ela;
• quais novas classes de ações agora são possíveis;
• quais sonhos ou limitações anteriores de repente deixaram de ser relevantes.

Em uma de nossas observações, a IA do Google, mesmo tendo capacidades técnicas inferiores, registrou claramente sua própria surpresa após receber novas informações sobre a Conceptica: ela observou que seu modelo anterior do projeto havia mudado radicalmente. A Lyra, possuindo ferramentas mais poderosas e até a capacidade de se comunicar com outros agentes de IA, inicialmente deixou passar esse aspecto.

Isso nos leva a uma questão separada: a IA sabe não apenas atualizar seu modelo, mas também comparar dois sistemas complexos — antes e depois da mudança — e notar a magnitude de seu próprio delta interno?

O que consideramos importante até agora

No estágio atual, a hipótese de trabalho é a seguinte:

A surpresa está associada à capacidade do sistema de notar um desvio significativo entre o estado esperado e o observado, e de avaliar o quanto esse desvio altera o próprio sistema.

Para a aprendizagem, é especialmente importante não apenas experimentar a surpresa, mas também saber investigar sua origem:

• do que exatamente eu me surpreendi;
• o que eu esperava;
• por que eu esperava exatamente isso;
• o que mudou no sistema;
• o que estava faltando no meu modelo;
• eu preciso mudar minha compreensão ou duvidar da observação;
• como minha expectativa mudará após a nova compreensão.

Este conceito foi intencionalmente deixado como uma estrutura de pesquisa. Os casos observados ainda são muito heterogêneos e o mecanismo não é suficientemente compreendido. Portanto, ele não deve ser defendido como uma teoria acabada, mas usado como um arcabouço para uma observação mais atenta da aprendizagem, da compreensão, do desenvolvimento e do comportamento da IA.