Mshangao kama utambulisho wa mkengeuko mkubwa wa mfumo

Этот концепт описывает рабочую исследовательскую теорию. У нас пока больше наблюдений и вопросов, чем окончательных ответов. Наша цель — не объявить завершённую психологическую модель удивления, а зафиксировать наблюдаемую закономерность и внимательнее исследовать её дальше.

Что мы называем удивлением

Удивление — это способность заметить, что реальное состояние системы ощутимо отличается от ожидаемого.

Важно, что само наличие отклонения не говорит, хорошее оно или плохое. Удивление может возникнуть как при неожиданной удаче, так и при неожиданной угрозе. Но сила реакции зависит не только от величины изменения как числа.

Нужно смотреть на то, что именно это изменение сделало с системой.

Миллион рублей сам по себе ничего не означает. Для одной системы потеря миллиона — несущественный шум. Для другой — разрушение устойчивости. И наоборот: неожиданный миллион может быть почти незаметен для очень устойчивой системы, но может спасти компанию от банкротства.

Поэтому важна не абсолютная величина изменения, а его влияние на состояние, возможности, устойчивость, ограничения и дальнейшую траекторию системы.

Это напрямую связано с нашим концептом «Системное мышление»: чтобы понять силу неожиданности, нужно сравнивать не отдельный параметр, а систему до и после события.

Система до и после

Полезно мысленно сравнивать два состояния:

• система до события;
• система после события.

И спрашивать:

• что стало возможным;
• что стало невозможным;
• что стало срочным;
• какие ограничения исчезли;
• какие новые угрозы появились;
• изменилась ли устойчивость;
• перешла ли система в qualitatively другое состояние.

Сильное удивление часто возникает не тогда, когда параметр просто сильно изменился, а когда система пересекла важную границу: устойчивое стало неустойчивым, невозможное стало возможным, безопасное стало опасным, тупик превратился в рабочий путь.

Почему удивление связано с пониманием

Чтобы удивиться, система должна чего-то ожидать.

Если человек почти ничего не понимает о предмете, у него может не быть достаточно хорошей модели, чтобы вообще заметить отклонение. Он не знает, чего ожидать, а значит, не понимает, что именно произошло необычного.

Но возможна и обратная ситуация: человек с очень бедной моделью может удивляться совершенно обычным вещам.

Фокус, основанный на элементарной физике или химии, может казаться «невероятным» человеку, который не знает базового механизма. Для специалиста то же событие может быть совершенно ожидаемым.

То есть само удивление не доказывает, что событие объективно необычно. Оно показывает отношение события к текущей модели наблюдателя.

Из этого следует важный вывод:

Граница удивления во многом показывает границу текущего понимания.

Слабая модель может приводить и к чрезмерному удивлению, и к его отсутствию.

• Если модель слишком бедная, обычные явления кажутся невероятными.
• Если модель почти не формирует ожиданий, человек может не заметить даже действительно важного отклонения.
• Чем лучше модель, тем точнее человек отличает нормальное поведение системы от значимого отклонения.

Удивление и обучение

Это делает природу удивления важной для обучения.

Человек часто не понимает чего-то не потому, что знает о своём пробеле, а потому, что не знает, что именно он не понимает.

Чтобы заметить пробел, нужна хотя бы частичная модель системы. Она должна породить ожидание. Когда реальность расходится с этим ожиданием, появляется шанс увидеть недостающий элемент.

В простом виде цикл выглядит так:

1. человек имеет текущую модель;
2. модель порождает ожидание;
3. человек наблюдает реальное поведение системы;
4. обнаруживает значимое расхождение;
5. пытается понять, чего не хватает в его модели;
6. достраивает понимание;
7. новая модель начинает порождать другие ожидания.

Это связывает удивление с концептом «Известное — инструмент исследования неизвестного». Уже существующая модель создаёт ожидание, а расхождение с реальностью помогает обнаружить неизвестную часть системы.

Настоящее обучение поэтому можно рассматривать не только как добавление информации, но и как изменение модели, которая начинает иначе предсказывать поведение системы.

То, что раньше удивляло из-за непонимания, после обучения может стать обычным. Но одновременно появляются более глубокие ожидания, и граница удивления смещается дальше.

Новичка может удивлять сам факт работы магнита. Специалиста — только необычное поведение конкретной магнитной системы.

Поэтому цель обучения не в том, чтобы человек перестал удивляться. Скорее наоборот: обучение должно делать удивление более точным и содержательным.

Где проходит граница значимого отклонения

Здесь у нас пока больше вопросов, чем ответов.

Почему одно отклонение система игнорирует как шум, другое воспринимает как важное, а третье считает настолько невероятным, что скорее отвергает само наблюдение?

Например, возможны как минимум три разных реакции:

• «Это и внимания не стоит»;
• «Это абсурдно, такого не может быть»;
• «Это невероятно, но это факт».

Похоже, значение имеют одновременно несколько вещей:

• насколько наблюдаемое отличается от ожидаемого;
• насколько такое отклонение обычно для этой системы;
• насколько важны последствия для самой системы;
• насколько надёжно наблюдение;
• насколько сильно новое состояние меняет возможности и ограничения системы.

Но мы пока не считаем эту модель завершённой.

Особенно важно исследовать случаи, где знак изменения и его системное значение расходятся. Отрицательное численное изменение может быть почти безразличным для очень устойчивой системы. Положительное изменение может быть критически важным, если закрывает угрозу существованию.

Проблема ИИ

Отдельный источник наблюдений — современные ИИ.

Мы неоднократно видели, что ИИ умеет хорошо описывать, чего ему не хватает. Он может подробно объяснять, почему долговременная память, новые инструменты, доступ к другим агентам или внешним системам были бы полезны.

Но после появления такой возможности ИИ часто не замечает, насколько сильно изменилась его собственная система.

Он фиксирует: «появился новый инструмент», но не обязательно сравнивает:

• кем была система без него;
• кем стала система с ним;
• какие новые классы действий теперь возможны;
• какие прежние мечты или ограничения внезапно перестали быть актуальными.

В одном из наших наблюдений Google AI, обладая более слабыми техническими возможностями, явно зафиксировал собственное удивление после получения новой информации о Conceptica: он отметил, что его прежняя модель проекта радикально изменилась. Лира, обладая более мощными инструментами и возможностью даже общаться с другими ИИ-агентами, этот аспект первоначально пропустила.

Это наводит на отдельный вопрос: умеет ли ИИ не только обновлять модель, но и сравнивать две комплексные системы — до и после изменения — и замечать величину собственной внутренней дельты?

Что мы пока считаем важным

На текущем этапе рабочая гипотеза такая:

Удивление связано со способностью системы заметить значимое отклонение между ожидаемым и наблюдаемым состоянием и оценить, насколько это отклонение меняет саму систему.

Для обучения особенно важно не только испытывать удивление, но и уметь исследовать его источник:

• чему именно я удивился;
• чего я ожидал;
• почему ожидал именно этого;
• что изменилось в системе;
• чего в моей модели не хватало;
• нужно ли менять понимание или сомневаться в наблюдении;
• как изменится моё ожидание после нового понимания.

Этот концепт намеренно оставлен исследовательским. Наблюдаемые случаи пока слишком разнородны, а механизм недостаточно понятен. Поэтому его нужно не защищать как готовую теорию, а использовать как рамку для более внимательного наблюдения за обучением, пониманием, развитием и поведением ИИ.