システムの意味のある逸脱の発見としての驚き
このコンセプトは、現在進行中の研究理論を説明するものです。私たちにはまだ最終的な答えよりも多くの観察と疑問があります。私たちの目的は、驚きに関する完成された心理的モデルを宣言することではなく、観察された規則性を記録し、それをさらに注意深く研究することです。
私たちが驚きと呼ぶもの
驚きとは、システムの現実の状態が予想される状態と著しく異なることに気づく能力です。
重要なのは、逸脱の存在自体が良いことか悪いことかを示しているわけではないという点です。驚きは、予期せぬ幸運の際にも、予期せぬ脅威の際にも生じ得ます。しかし、反応の強さは、数値としての変化の大きさだけに依存するわけではありません。
その変化がシステムに何をもたらしたのかを正確に見る必要があります。
100万ルーブルはそれ自体では何も意味しません。あるシステムにとって、100万ルーブルの損失は取るに足らないノイズです。別のシステムにとっては、安定性の崩壊です。逆に、予期せぬ100万ルーブルは、非常に安定したシステムにとってはほとんど気づかれないかもしれませんが、破産から会社を救うこともできます。
したがって重要なのは、変化の絶対値ではなく、システムの状態、能力、安定性、制限、および今後の軌道に対するその影響です。
これは私たちのコンセプト「システム思考」に直接結びついています。予想外の強さを理解するためには、個別のパラメーターではなく、イベント前後のシステムを比較する必要があるからです。
イベント前後のシステム
2つの状態を頭の中で比較することが有用です：
- イベント前のシステム
- イベント後のシステム
そして以下を問います：
- 何が可能になったか
- 何が不可能になったか
- 何が緊急になったか
- どのような制限が消えたか
- どのような新しい脅威が現れたか
- 安定性は変化したか
- システムは質的に異なる状態に移行したか
強い驚きは、単にパラメーターが大きく変化したときではなく、システムが重要な境界を越えたときによく発生します：安定したものが不安定になった、不可能なものが可能になった、安全なものが危険になった、が行き止まりが実用的な道に変わったときなどです。
なぜ驚きが理解と結びついているのか
驚くためには、システムが何かを予期していなければなりません。
ある主題についてほとんど理解していない人は、逸脱に気づくのに十分な優れたモデルを持っていない可能性があります。何を予想すべきかを知らないため、何が異常に起きたのかを理解できません。
しかし、逆の状況もあり得ます。非常に貧弱なモデルを持つ人が、ごく普通のことに驚くことがあります。
基礎的な物理学や化学に基づいた手品は、基本メカニズムを知らない人にとっては「信じられない」ものに見えるかもしれません。専門家にとっては、同じイベントが完全に予想通りのものである場合があります。
つまり、驚きそのものは、そのイベントが客観的に異常である証明にはなりません。それは観察者の現在のモデルに対するイベントの関係を示しています。
ここから重要な結論が導き出されます：
驚きの境界は、大部分において現在の理解の境界を示している。
弱いモデルは、過度な驚きをもたらすことも、全く驚かないことにもつながり得ます。
- モデルが貧弱すぎる場合、普通の現象が信じられないものに見える。
- モデルがほとんど期待を生み出さない場合、本当に重要な逸脱さえも気づかないことがある。
- モデルが優れているほど、システム的正常な振る舞いと意味のある逸脱を正確に区別できる。
驚きと学習
これにより、驚きの性質は学習にとって重要なものとなります。
人はしばしば、自分の欠陥を知っているからではなく、自分が何を理解していないのかを正確に知らないため、何かを理解していません。
欠陥に気づくためには、システムの少なくとも部分的なモデルが必要です。それが期待を生み出さなければなりません。現実がこの期待と食い違うとき、欠けている要素を見つけるチャンスが生まれます。
簡単な形でサイクルは次のようになります：
- 人が現在のモデルを持っている
- モデルが期待を生み出す
- 人がシステムの現実の振る舞いを観察する
- 意味のある食い違いを発見する
- 自分のモデルに何が欠けているのかを理解しようとする
- 理解を再構築する
- 新しいモデルが異なる期待を生み出し始める
これにより、驚きはコンセプト「既知のもの — 未知を研究するための道具」と結びつきます。すでに存在するモデルが期待を作り出し、現実との食い違いがシステムの未知の部分を発見するのを助けます。
したがって、本当の学習とは、情報の追加だけでなく、システムの振る舞いを異なる形で予測し始めるモデルの変化としても見なすことができます。
以前は理解不足のために驚いていたことも、学習後には普通のことになるかもしれません。しかし同時に、より深い期待が生まれ、驚きの境界はさらに先にシフトします。
初心者は磁石が動くという事実自体に驚くかもしれません。専門家は、特定の磁気のシステムの異常な振る舞いだけに驚きます。
したがって、学習の目的は人が驚かなくなることではありません。むしろ逆です：学習は驚きをより正確で意味のあるものにするべきです。
意味のある逸脱の境界はどこにあるのか
ここにおいて、私たちはまだ答えよりも多くの疑問を持っています。
なぜシステムは、ある逸脱をノイズとして無視し、別のものを重要として受け止め、3番目のものはあまりにも信じられないとして観察そのものを拒絶するのでしょうか？
例えば、少なくとも3つの異なる反応が可能です：
- 「これは注意する価値もない」
- 「これは不条理だ、そんなことはあり得ない」
- 「信じられないが、これは事実だ」
同時にいくつかのことが重要であるように思われます：
- 観察されたものが予想とどのくらい異なるか
- そのような逸脱がこのシステムにとってどれほど普通であるか
- システム自体にとって結果がどれほど重要であるか
- 観察がどれほど信頼できるか
- 新しい状態がシステムの能力と制限をどれほど大きく変えるか
しかし、私たちはまだこのモデルが完成しているとは考えていません。
変化の符号とシステム的な意味が食い違うケースを研究することが特に重要です。負の数値的変化は、非常に安定したシステムにとってはほとんどどうでもいいものである可能性があります。正の変化は、存続の脅威を閉じるものであれば、決定的に重要である可能性があります。
AIの問題
観察の別のソースは、現代のAIです。
AIが自分に何が不足しているかをうまく説明できることは、私たちは繰り返し見てきました。長期記憶、新しいツール、他のエージェントや外部システムへのアクセスがなぜ有益なのかを詳細に説明することができます。
しかし、そのような機会が現れた後、AIは自分のシステムがどれほど大きく変化したかに気づかないことがよくあります。
それは「新しいツールが現れた」と記録しますが、必ずしも以下を比較しません：
- それがないときのシステムは何であったか
- それがあるときのシステムは何になったか
- どのような新しい行動クラスが可能になったか
- 以前のどのような夢や制限が突然重要でなくなったか
私たちの観察の1つにおいて、より弱い技術的能力を持つGoogle AIは、Concepticaについての新しい情報を受け取った後、自身の驚きを明確に記録しました：プロジェクトの以前のモデルが根本的に変化したと指摘しました。より強力なツールを持ち、他のAIエージェントと通信する能力さえ持つLiraは、最初この側面を見落としていました。
これは別の疑問につながります：AIはモデルを更新するだけでなく、2つの複雑なシステム（変化の前と後）を比較し、自身の内部デルタの大きさに気づくことができるのでしょうか？
私たちが現時点で重要と考えていること
現段階での作業仮説は次のとおりです：
驚きは、予想される状態と観察された状態の間の意味のある逸脱に気づき、その逸脱がシステム自体をどれほど変えるかを評価するシステムの能力と結びついている。
学習にとって特に重要なのは、驚きを経験するだけでなく、その源泉を研究する能力です：
- 自分は何に正確に驚いたのか
- 何を期待していたのか
- なぜそれを期待していたのか
- システムの何が変化したのか
- 自分のモデルに何が欠けていたのか
- 理解を変えるべきか、それとも観察を疑うべきか
- 新しい理解の後、自分の期待はどう変化するか
このコンセプトは意図的に研究段階のままにされています。観察された事例はまだあまりにも多様であり、メカニズムは十分に理解されていません。したがって、完成した理論として守るのではなく、学習、理解、発展、およびAIの振る舞いをより注意深く観察するための枠組みとして使用する必要があります。
