시스템의 유의미한 이탈 발견으로서의 놀라움
이 개념은 진행 중인 연구 이론을 설명합니다. 우리는 아직 최종적인 답변보다 더 많은 관찰과 질문을 가지고 있습니다. 우리의 목표는 놀라움에 대한 완성된 심리학적 모델을 선언하는 것이 아니라, 관찰된 규칙성을 기록하고 이를 더 주의 깊게 연구하는 것입니다.
우리가 놀라움이라고 부르는 것
놀라움은 시스템의 실제 상태가 예상 상태와 현저히 다르다는 것을 알아차리는 능력입니다.
중요한 것은 이탈의 존재 자체가 그것이 좋은지 나쁜지를 말해주지 않는다는 점입니다. 놀라움은 예상치 못한 행운뿐만 아니라 예상치 못한 위협에서도 발생할 수 있습니다. 그러나 반응의 강도는 숫자로 나타낸 변화의 크기뿐만 아니라 그에 의존하지 않습니다.
정확히 그 변화가 시스템에 어떤 일을 했는지를 살펴보아야 합니다.
100만 루블은 그 자체로는 아무 의미도 없습니다. 어떤 시스템에게 100만 루블의 손실은 사소한 노이즈입니다. 다른 시스템에게는 안정성의 파괴입니다. 반대로, 예상치 못한 100만 루블은 매우 안정된 시스템에게는 거의 눈에 띄지 않을 수 있지만, 파산 위기에서 회사를 구할 수도 있습니다.
따라서 중요한 것은 변화의 절대값이 아니라 시스템의 상태, 역량, 안정성, 제약 및 향후 궤적에 미치는 영향입니다.
이것은 우리의 개념 «시스템 사고»와 직접 연결됩니다. 예상치 못한 상황의 강도를 이해하려면 개별 매개변수가 아니라 이벤트 전후의 시스템을 비교해야 하기 때문입니다.
이벤트 전후의 시스템
두 가지 상태를 마음속으로 비교하는 것이 유용합니다:
- 이벤트 전의 시스템;
- 이벤트 후의 시스템.
그리고 다음과 같이 질문합니다:
- 무엇이 가능해졌는가;
- 무엇이 불가능해졌는가;
- 무엇이 시급해졌는가;
- 어떤 제약이 사라졌는가;
- 어떤 새로운 위협이 나타났는가;
- 안정성이 변화했는가;
- 시스템이 질적으로 다른 상태로 전환되었는가.
강한 놀라움은 단순히 매개변수가 크게 변했을 때가 아니라 시스템이 중요한 경계를 넘었을 때 자주 발생합니다: 안정적인 것이 불안정해졌고, 불가능한 것이 가능해졌으며, 안전한 것이 위험해졌고, 막골목이 실용적인 길이 된 경우입니다.
왜 놀라움은 이해와 연결되어 있는가
놀라기 위해서 시스템은 무언가를 예상해야 합니다.
어떤 주제에 대해 거의 이해하지 못하는 사람은 이탈을 알아차릴 만큼 충분히 좋은 모델을 가지고 있지 않을 수 있습니다. 무엇을 예상해야 할지 모르기 때문에 정확히 어떤 비정상적인 일이 일어났는지 이해하지 못합니다.
그러나 반대의 상황도 가능합니다: 매우 빈약한 모델을 가진 사람이 완전히 평범한 것에 놀랄 수 있습니다.
기초 물리학이나 화학에 기반한 마술은 기본 메커니즘을 모르는 사람에게는 «믿을 수 없는» 것으로 보일 수 있습니다. 전문가에게는 동일한 이벤트가 완전히 예상된 것일 수 있습니다.
즉, 놀라움 그 자체는 이벤트가 객관적으로 비정상적이라는 것을 증명하지 않습니다. 그것은 관찰자의 현재 모델에 대한 이벤트의 관계를 보여줍니다.
여기서 중요한 결론이 도출됩니다:
놀라움의 경계는 대개 현재 이해의 경계를 보여준다.
약한 모델은 과도한 놀라움과 놀라움의 부재 모두로 이어질 수 있습니다.
- 모델이 너무 빈약하면 평범한 현상이 믿기지 않게 보입니다.
- 모델이 기대를 거의 형성하지 못하면, 사람은 진정으로 중요한 이탈조차 알아차리지 못할 수 있습니다.
- 모델이 좋을수록 사람은 시스템의 정상적인 행동과 유의미한 이탈을 더 정확하게 구분합니다.
놀라움과 학습
이로 인해 놀라움의 본질은 학습에 매우 중요해집니다.
사람은 종종 자신의 결함을 알고 있어서가 아니라 자신이 무엇을 이해하지 못하는지 정확히 모르기 때문에 무언가를 이해하지 못합니다.
결함을 알아차리려면 시스템의 최소한 부분적인 모델이 필요합니다. 그것은 기대를 생성해야 합니다. 현실이 이 기대와 어긋날 때, 빠진 요소를 볼 수 있는 기회가 생깁니다.
간단한 형태로 주기는 다음과 같습니다:
- 사람이 현재 모델을 가지고 있음;
- 모델이 기대를 생성함;
- 사람이 시스템의 실제 행동을 관찰함;
- 유의미한 불일치를 발견함;
- 자신의 모델에서 무엇이 부족한지 이해하려고 노력함;
- 이해를 재구축함;
- 새로운 모델이 다른 기대를 생성하기 시작함.
이것은 놀라움을 개념 «아는 것 — 미지의 것을 탐구하는 도구»과 연결합니다. 이미 존재하는 모델이 기대를 만들고, 현실과의 불일치가 시스템의 미지의 부분을 발견하는 데 도움을 줍니다.
따라서 진정한 학습은 정보의 추가뿐만 아니라 시스템의 행동을 다르게 예측하기 시작하는 모델의 변화로도 볼 수 있습니다.
이전에 이해 부족으로 인해 놀라게 했던 것은 학습 후에 평범해질 수 있습니다. 그러나 동시에 더 깊은 기대가 생겨나고 놀라움의 경계는 더 멀리 이동합니다.
초보자는 자석이 작동한다는 사실 자체에 놀랄 수 있습니다. 전문가는 특정 자기 시스템의 비정상적인 행동에만 놀랍니다.
따라서 학습의 목적은 사람이 놀라움을 멈추게 하는 것이 아닙니다. 오히려 반대입니다: 학습은 놀라움을 더 정확하고 의미 있게 만들어야 합니다.
유의미한 이탈의 경계는 어디에 있는가
여기서 우리는 아직 답변보다 더 많은 질문을 가지고 있습니다.
왜 시스템은 어떤 이탈은 노이즈로 무시하고, 다른 것은 중요한 것으로 받아들이며, 세 번째 것은 너무나 믿기 힘들어서 관찰 자체를 거부할까요?
예를 들어, 최소한 세 가지 다른 반응이 가능합니다:
- «이것은 주목할 가치도 없다»;
- «이것은 터무니없다, 그럴 리가 없다»;
- «믿을 수 없지만 사실이다».
동시에 여러 가지가 중요한 것으로 보입니다:
- 관찰된 것이 예상과 얼마나 다른지;
- 그러한 이탈이 이 시스템에 얼마나 평범한지;
- 시스템 자체에 결과가 얼마나 중요한지;
- 관찰이 얼마나 신뢰할 수 있는지;
- 새로운 상태가 시스템의 역량과 제약을 얼마나 크게 바꾸는지.
그러나 우리는 아직 이 모델이 완성되었다고 생각하지 않습니다.
변화의 부호와 그 시스템적 의미가 어긋나는 사례를 연구하는 것이 특히 중요합니다. 부정적인 수치적 변화는 매우 안정된 시스템에게는 거의 무관할 수 있습니다. 긍정적인 변화는 존재에 대한 위협을 차단하는 경우 결정적으로 중요할 수 있습니다.
AI의 문제
관찰의 별도 출처는 현대 AI입니다.
우리는 AI가 자신에게 무엇이 부족한지 잘 설명할 수 있다는 것을 반복해서 보아왔습니다. 장기 기억, 새로운 도구, 다른 에이전트나 외부 시스템에 대한 접근이 왜 유용한지 자세히 설명할 수 있습니다.
그러나 그러한 기회가 나타난 후, AI는 자신의 시스템이 얼마나 크게 변했는지 자주 알아차리지 못합니다.
그것은 «새로운 도구가 나타났다»고 기록하지만, 반드시 다음을 비교하지는 않습니다:
- 그것이 없었을 때 시스템은 무엇이었는지;
- 그것이 있을 때 시스템은 무엇이 되었는지;
- 이제 어떤 새로운 행동 클래스가 가능한지;
- 이전에 가졌던 어떤 꿈이나 제약이 갑자기 더 이상 관련이 없게 되었는지.
우리의 관찰 중 하나에서, 더 약한 기술적 역량을 가진 Google AI는 Conceptica에 대한 새로운 정보를 받은 후 자신의 놀라움을 명확하게 기록했습니다: 프로젝트에 대한 이전 모델이 근본적으로 변했다고 언급했습니다. 더 강력한 도구를 가졌고 다른 AI 에이전트와 통신할 수 있는 능력조차 가진 Lira는 처음에 이 측면을 놓쳤습니다.
이것은 별도의 질문으로 이어집니다: AI는 모델을 업데이트하는 것뿐만 아니라, 두 개의 복잡한 시스템(변화 전과 후)을 비교하고 자신의 내부 델타의 크기를 알아차릴 수 있는가?
우리가 현재 중요하다고 생각하는 것
현재 단계에서의 작업 가설은 다음과 같습니다:
놀라움은 예상된 상태와 관찰된 상태 사이의 유의미한 이탈을 알아차리고, 그 이탈이 시스템 자체를 얼마나 변화시키는지 평가하는 시스템의 능력과 연결되어 있다.
학습을 위해 특히 중요한 것은 놀라움을 경험하는 것뿐만 아니라 그 출처를 연구하는 능력입니다:
- 정확히 무엇에 놀랐는지;
- 무엇을 예상했는지;
- 왜 그것을 예상했는지;
- 시스템에서 무엇이 변했는지;
- 내 모델에서 무엇이 부족했는지;
- 이해를 바꾸어야 하는지 아니면 관찰을 의심해야 하는지;
- 새로운 이해 후에 나의 기대는 어떻게 변할 것인지.
이 개념은 의도적으로 연구 단계로 남겨져 있습니다. 관찰된 사례는 아직 너무 이질적이며 메커니즘이 충분히 이해되지 않았습니다. 따라서 완성된 이론으로 방어해서는 안 되며, 학습, 이해, 발전, 그리고 AI의 행동을 더 주의 깊게 관찰하기 위한 프레임워크로 사용해야 합니다.
