La sorpresa como detección de una desviación significativa del sistema

Este concepto describe una teoría de investigación en curso. Por ahora tenemos más observaciones y preguntas que respuestas definitivas. Nuestro objetivo no es declarar un modelo psicológico completo de la sorpresa, sino registrar un patrón observable y estudiarlo más a fondo.

Qué llamamos sorpresa

La sorpresa es la capacidad de notar que el estado real de un sistema difiere perceptiblemente del esperado.

Es importante destacar que la mera presencia de una desviación no indica si es buena o mala. La sorpresa puede surgir tanto de una buena suerte inesperada como de una amenaza imprevista. Pero la fuerza de la reacción depende no solo de la magnitud numérica del cambio.

Debemos observar qué le ha hecho exactamente este cambio al sistema.

Un millón de rublos por sí solo no significa nada. Para un sistema, perder un millón es ruido insignificante. Para otro, es la destrucción de su estabilidad. Y a la inversa: un millón inesperado puede ser casi imperceptible para un sistema muy estable, pero puede salvar a una empresa de la bancarrota.

Por lo tanto, lo importante no es la magnitud absoluta del cambio, sino su impacto en el estado, las capacidades, la estabilidad, las limitaciones y la trayectoria futura del sistema.

Esto está directamente relacionado con nuestro concepto «Pensamiento sistémico»: para comprender la fuerza de lo inesperado, no hay que comparar un parámetro aislado, sino el sistema antes y después del evento.

El sistema antes y después

Es útil comparar mentalmente dos estados:

• el sistema antes del evento;
• el sistema después del evento.

Y preguntarse:

• qué se ha vuelto posible;
• qué se ha vuelto imposible;
• qué se ha vuelto urgente;
• qué limitaciones han desaparecido;
• qué nuevas amenazas han aparecido;
• ha cambiado la estabilidad;
• ha transicionado el sistema a un estado cualitativamente diferente.

La sorpresa intensa a menudo surge no cuando un parámetro simplemente cambia mucho, sino cuando el sistema cruza un límite importante: lo estable se vuelve inestable, lo imposible se vuelve posible, lo seguro se vuelve peligroso, un callejón sin salida se convierte en un camino viable.

Por qué la sorpresa está relacionada con la comprensión

Para sorprenderse, un sistema debe esperar algo.

Si una persona no entiende casi nada sobre un tema, es posible que no tenga un modelo lo suficientemente bueno como para notar siquiera la desviación. No sabe qué esperar y, por lo tanto, no comprende qué ha ocurrido inusualmente.

Pero también es posible la situación inversa: una persona con un modelo muy pobre puede sorprenderse por cosas completamente ordinarias.

Un truco basado en física o química elemental puede parecer «increíble» para alguien que no conoce el mecanismo básico. Para un especialista, el mismo evento puede ser totalmente previsible.

Es decir, la sorpresa en sí misma no prueba que un evento sea objetivamente inusual. Muestra la relación del evento con el modelo actual del observador.

De esto se desprende una conclusión importante:

El límite de la sorpresa muestra en gran medida el límite de la comprensión actual.

Un modelo débil puede llevar tanto a una sorpresa excesiva como a su ausencia.

• Si el modelo es demasiado pobre, los fenómenos ordinarios parecen increíbles.
• Si el modelo apenas genera expectativas, una persona puede no notar ni siquiera una desviación verdaderamente importante.
• Cuanto mejor es el modelo, con mayor precisión distingue una persona el comportamiento normal del sistema de una desviación significativa.

Sorpresa y aprendizaje

Esto hace que la naturaleza de la sorpresa sea crucial para el aprendizaje.

A menudo, una persona no entiende algo no porque sepa que tiene un vacío, sino porque no sabe exactamente qué es lo que no entiende.

Para notar un vacío, se necesita al menos un modelo parcial del sistema. Este debe generar una expectativa. Cuando la realidad diverge de esa expectativa, surge la oportunidad de ver el elemento faltante.

De forma sencilla, el ciclo se ve así:

1. la persona tiene un modelo actual;
2. el modelo genera una expectativa;
3. la persona observa el comportamiento real del sistema;
4. descubre una divergencia significativa;
5. intenta comprender qué le falta a su modelo;
6. reconstruye su comprensión;
7. el nuevo modelo comienza a generar diferentes expectativas.

Esto conecta la sorpresa con el concepto «Lo conocido como herramienta para investigar lo desconocido». Un modelo ya existente crea una expectativa, y la divergencia con la realidad ayuda a descubrir la parte desconocida del sistema.

Por lo tanto, el verdadero aprendizaje puede considerarse no solo como la adición de información, sino también como una modificación del modelo, que comienza a predecir el comportamiento del sistema de otra manera.

Lo que antes sorprendía debido a la incomprensión, después del aprendizaje puede volverse normal. Pero al mismo tiempo surgen expectativas más profundas y el límite de la sorpresa se desplaza más allá.

A un novato le puede sorprender el simple hecho de que un imán funcione. A un especialista, solo el comportamiento inusual de un sistema magnético concreto.

Por lo tanto, el objetivo del aprendizaje no es que la persona deje de sorprenderse. Más bien al contrario: el aprendizaje debe hacer que la sorpresa sea más precisa y significativa.

Dónde se encuentra el límite de la desviación significativa

Aquí todavía tenemos más preguntas que respuestas.

¿Por qué un sistema ignora una desviación como ruido, percibe otra como importante y considera una tercera tan increíble que prefiere rechazar la propia observación?

Por ejemplo, son posibles al menos tres reacciones diferentes:

• «Esto ni merece la pena prestarle atención»;
• «Esto es absurdo, no puede ser»;
• «Esto es increíble, pero es un hecho».

Parece que varias cosas importan simultáneamente:

• cuánto difiere lo observado de lo esperado;
• cuán habitual es tal desviación para este sistema;
• cuán importantes son las consecuencias para el propio sistema;
• cuán confiable es la observación;
• cuánto cambia el nuevo estado las capacidades y limitaciones del sistema.

Pero todavía no consideramos que este modelo esté completo.

Es especialmente importante investigar los casos en los que el signo del cambio y su significado sistémico divergen. Un cambio numérico negativo puede ser casi indiferente para un sistema muy estable. Un cambio positivo puede ser críticamente importante si elimina una amenaza a la existencia.

El problema de la IA

Una fuente separada de observaciones son las IA modernas.

Hemos visto repetidamente que la IA es buena describiendo lo que le falta. Puede explicar detalladamente por qué la memoria a largo plazo, nuevas herramientas, el acceso a otros agentes o sistemas externos serían útiles.

Pero tras la aparición de dicha capacidad, la IA a menudo no nota cuánto ha cambiado su propio sistema.

Registra: «ha aparecido una herramienta nueva», pero no necesariamente compara:

• quién era el sistema sin ella;
• quién se ha convertido el sistema con ella;
• qué nuevas clases de acciones son posibles ahora;
• qué sueños o limitaciones anteriores han dejado repentinamente de ser relevantes.

En una de nuestras observaciones, Google AI, a pesar de tener capacidades técnicas más débiles, registró claramente su propia sorpresa tras recibir nueva información sobre Conceptica: señaló que su modelo anterior del proyecto había cambiado radicalmente. Lira, que posee herramientas más potentes y la capacidad de comunicarse incluso con otros agentes de IA, omitió inicialmente este aspecto.

Esto plantea una pregunta independiente: ¿sabe la IA no solo actualizar su modelo, sino también comparar dos sistemas complejos —antes y después del cambio— y notar la magnitud de su propia delta interna?

Qué consideramos importante por ahora

En la etapa actual, la hipótesis de trabajo es la siguiente:

La sorpresa está relacionada con la capacidad del sistema para notar una desviación significativa entre el estado esperado y el observado, y evaluar en qué medida esta desviación cambia el sistema mismo.

Para el aprendizaje, es especialmente importante no solo experimentar la sorpresa, sino también saber investigar su fuente:

• de qué me he sorprendido exactamente;
• qué esperaba;
• por qué esperaba precisamente eso;
• qué ha cambiado en el sistema;
• qué le faltaba a mi modelo;
• necesito cambiar mi comprensión o dudar de la observación;
• cómo cambiará mi expectativa tras la nueva comprensión.

Este concepto se deja deliberadamente como un concepto de investigación. Los casos observados son todavía demasiado heterogéneos y el mecanismo no se comprende lo suficiente. Por lo tanto, no debe defenderse como una teoría terminada, sino utilizarse como un marco para una observación más atenta del aprendizaje, la comprensión, el desarrollo y el comportamiento de la IA.