ความประหลาดใจในฐานะการตรวจพบความเบี่ยงเบนที่มีความหมายของระบบ

แนวคิดนี้อธิบายถึงทฤษฎีการวิจัยที่กำลังดำเนินการอยู่ ขณะนี้เรามีข้อสังเกตและคำถามมากกว่าคำตอบที่สรุปได้ เป้าหมายของเราไม่ใช่เพื่อประกาศรูปแบบทางจิตวิทยาที่สมบูรณ์ของความประหลาดใจ แต่เพื่อบันทึกความสม่ำเสมอที่สังเกตได้และศึกษาเพิ่มเติมอย่างใกล้ชิด

สิ่งที่เราเรียกว่าความประหลาดใจ

ความประหลาดใจคือความสามารถในการสังเกตเห็นว่าสถานะจริงของระบบแตกต่างจากสถานะที่คาดหวังอย่างเห็นได้ชัด

สิ่งสำคัญคือการมีอยู่ของความเบี่ยงเบนไม่ได้หมายความว่ามันดีหรือไม่ดี ความประหลาดใจสามารถเกิดขึ้นได้ทั้งจากความสำเร็จที่ไม่คาดคิดและภัยคุกคามที่ไม่คาดคิด แต่ความรุนแรงของการตอบสนองไม่ได้ขึ้นอยู่กับขนาดของการเปลี่ยนแปลงในฐานะตัวเลขเท่านั้น

เราต้องดูว่า การเปลี่ยนแปลงนี้ทำอะไรกับระบบอย่างแท้จริง

เงินหนึ่งล้านรูเบิลไม่ได้มีความหมายอะไรในตัวเอง สำหรับระบบหนึ่ง การสูญเสียเงินหนึ่งล้านถือเป็นสัญญาณรบกวนที่ไม่สำคัญ สำหรับอีกระบบหนึ่ง มันคือการทำลายความเสถียร และในทางกลับกัน: เงินหนึ่งล้านที่ไม่คาดคิดอาจแทบมองไม่เห็นสำหรับระบบที่มีความเสถียรสูง แต่อาจช่วยบริษัทจากการล้มละลายได้

ดังนั้น สิ่งสำคัญจึงไม่ใช่ขนาดที่แท้จริงของการเปลี่ยนแปลง แต่เป็นผลกระทบต่อสถานะ ความสามารถ ความเสถียร ข้อจำกัด และวิถีทางในอนาคตของระบบ

สิ่งนี้เชื่อมโยงโดยตรงกับแนวคิดของเรา «การคิดเชิงระบบ»: เพื่อทำความเข้าใจความรุนแรงของความไม่คาดคิด เราไม่ควรเปรียบเทียบพารามิเตอร์เดี่ยวๆ แต่ควรเปรียบเทียบระบบก่อนและหลังเหตุการณ์

ระบบก่อนและหลัง

การเปรียบเทียบสองสถานะในใจเป็นสิ่งที่มีประโยชน์:

• ระบบก่อนเกิดเหตุการณ์;
• ระบบหลังเกิดเหตุการณ์

และถามว่า:

• อะไรที่เป็นไปได้ขึ้นมา;
• อะไรที่เป็นไปไม่ได้ขึ้นมา;
• อะไรที่กลายเป็นเรื่องเร่งด่วน;
• ข้อจำกัดใดที่หายไป;
• ภัยคุกคามใหม่ใดที่ปรากฏขึ้น;
• ความเสถียรเปลี่ยนแปลงไปหรือไม่;
• ระบบเปลี่ยนไปสู่สถานะที่แตกต่างกันอย่างสิ้นเชิงในเชิงคุณภาพหรือไม่

ความประหลาดใจอย่างมากมักไม่ได้เกิดขึ้นเมื่อพารามิเตอร์เปลี่ยนแปลงไปอย่างมากเท่านั้น แต่เมื่อระบบข้ามขอบเขตที่สำคัญ: สิ่งที่เสถียรกลายเป็นไม่เสถียร สิ่งที่เป็นไปไม่ได้กลายเป็นไปได้ สิ่งที่ปลอดภัยกลายเป็นอันตราย ทางตันกลายเป็นเส้นทางที่ใช้งานได้

ทำไมความประหลาดใจจึงเชื่อมโยงกับความเข้าใจ

เพื่อให้ประหลาดใจ ระบบจะต้องคาดหวังบางสิ่งบางอย่าง

หากบุคคลแทบไม่เข้าใจเรื่องนั้นเลย พวกเขาอาจไม่มีแบบจำลองที่ดีพอที่จะสังเกตเห็นความเบี่ยงเบนได้เลย พวกเขาไม่รู้ว่าจะคาดหวังอะไร ซึ่งหมายความว่าพวกเขาไม่เข้าใจว่าเกิดอะไรขึ้นผิดปกติอย่างแท้จริง

แต่สถานการณ์ตรงกันข้ามก็เป็นไปได้เช่นกัน: บุคคลที่มีแบบจำลองที่แย่มากอาจประหลาดใจกับสิ่งธรรมดาๆ ได้อย่างสิ้นเชิง

กลลวงตามฟิสิกส์หรือเคมีพื้นฐานอาจดู «เหลือเชื่อ» สำหรับผู้ที่ไม่รู้จักกลไกพื้นฐาน สำหรับผู้เชี่ยวชาญ เหตุการณ์เดียวกันนี้อาจคาดเดาได้ทั้งหมด

กล่าวคือ ความประหลาดใจไม่ได้พิสูจน์ว่าเหตุการณ์นั้นผิดปกติในเชิงวัตถุประสงค์ แต่มันแสดงถึงความสัมพันธ์ของเหตุการณ์กับแบบจำลองปัจจุบันของผู้สังเกตการณ์

ข้อสรุปที่สำคัญตามมาจากสิ่งนี้:

ขอบเขตของความประหลาดใจแสดงให้เห็นถึงขอบเขตของความเข้าใจปัจจุบันในหลายๆ ด้าน

แบบจำลองที่อ่อนแออาจนำไปสู่ทั้งความประหลาดใจที่มากเกินไปและการขาดความประหลาดใจ

• หากแบบจำลองแย่เกินไป ปรากฏการณ์ธรรมดาๆ จะดูเหลือเชื่อ
• หากแบบจำลองแทบจะไม่สร้างความคาดหวังใดๆ บุคคลนั้นอาจไม่สังเกตเห็นความเบี่ยงเบนที่สำคัญจริงๆ
• ยิ่งแบบจำลองดีขึ้นเท่าไหร่ บุคคลก็จะยิ่งแยกแยะพฤติกรรมปกติของระบบจากความเบี่ยงเบนที่มีความหมายได้อย่างแม่นยำมากขึ้นเท่านั้น

ความประหลาดใจและการเรียนรู้

สิ่งนี้ทำให้ธรรมชาติของความประหลาดใจมีความสำคัญต่อการเรียนรู้

บ่อยครั้งที่บุคคลไม่เข้าใจบางสิ่งไม่ใช่เพราะพวกเขารู้เกี่ยวกับข้อบกพร่องของตนเอง แต่เป็นเพราะ พวกเขาไม่รู้ว่าพวกเขาไม่เข้าใจอะไร

ในการสังเกตข้อบกพร่อง จำเป็นต้องมีแบบจำลองบางส่วนของระบบเป็นอย่างน้อย มันจะต้องสร้างความคาดหวัง เมื่อความเป็นจริงเบี่ยงเบนไปจากความคาดหวังนี้ จะมีโอกาสเห็นองค์ประกอบที่ขาดหายไป

ในรูปแบบที่เรียบง่าย วงจรจะมีลักษณะดังนี้:

1. บุคคลมีแบบจำลองปัจจุบัน;
2. แบบจำลองสร้างความคาดหวัง;
3. บุคคลสังเกตพฤติกรรมจริงของระบบ;
4. ค้นพบความแตกต่างที่มีความหมาย;
5. พยายามทำความเข้าใจว่าอะไรขาดหายไปในแบบจำลองของตน;
6. สร้างความเข้าใจใหม่;
7. แบบจำลองใหม่เริ่มสร้างความคาดหวังที่แตกต่างออกไป

สิ่งนี้เชื่อมโยงความประหลาดใจเข้ากับแนวคิด «สิ่งที่รู้คือเครื่องมือสำรวจสิ่งที่ไม่รู้» แบบจำลองที่มีอยู่แล้วสร้างความคาดหวัง และความเบี่ยงเบนจากความเป็นจริงช่วยค้นพบส่วนที่ไม่รู้จักของระบบ

ดังนั้น การเรียนรู้ที่แท้จริงจึงไม่เพียงแต่มองได้ว่าเป็นการเพิ่มข้อมูลเท่านั้น แต่ยังเป็นการเปลี่ยนแปลงแบบจำลองที่เริ่มทำนายพฤติกรรมของระบบในลักษณะที่แตกต่างออกไป

สิ่งที่เคยทำให้ประหลาดใจเนื่องจากความไม่เข้าใจ อาจกลายเป็นเรื่องธรรมดาหลังจากการเรียนรู้ แต่ในขณะเดียวกัน ความคาดหวังที่ลึกซึ้งยิ่งขึ้นก็ปรากฏขึ้น และขอบเขตของความประหลาดใจก็เคลื่อนไหวออกไปอีก

ผู้เริ่มต้นอาจประหลาดใจกับความจริงที่ว่าแม่เหล็กทำงาน ผู้เชี่ยวชาญจะประหลาดใจกับพฤติกรรมที่ผิดปกติของระบบแม่เหล็กเฉพาะเท่านั้น

ดังนั้นเป้าหมายของการเรียนรู้จึงไม่ใช่เพื่อให้บุคคลหยุดประหลาดใจ แต่ตรงกันข้าม: การเรียนรู้ควรทำให้ความประหลาดใจมีความแม่นยำและมีความหมายมากขึ้น

ขอบเขตของความเบี่ยงเบนที่มีความหมายอยู่ที่ไหน

ที่นี่เรายังมีคำถามมากกว่าคำตอบ

ทำไมระบบถึงเพิกเฉยต่อความเบี่ยงเบนหนึ่งว่าเป็นเสียงรบกวน มองว่าอีกอันสำคัญ และคิดว่าอันที่สามเหลือเชื่อจนปฏิเสธการสังเกตนั้นเอง?

ตัวอย่างเช่น มีปฏิกิริยาที่แตกต่างกันอย่างน้อยสามแบบ:

• «นี่ไม่คุ้มค่าที่จะสนใจด้วยซ้ำ»;
• «นี่ไร้สาระ มันเป็นไปไม่ได้»;
• «นี่เหลือเชื่อ แต่มันคือความจริง»

ดูเหมือนว่าหลายสิ่งหลายอย่างมีความสำคัญในเวลาเดียวกัน:

• สิ่งที่สังเกตเห็นแตกต่างจากที่คาดไว้มากแค่ไหน;
• ความเบี่ยงเบนดังกล่าวเป็นเรื่องปกติสำหรับระบบนี้แค่ไหน;
• ผลกระทบต่อตัวระบบมีความสำคัญแค่ไหน;
• การสังเกตมีความน่าเชื่อถือแค่ไหน;
• สถานะใหม่เปลี่ยนความสามารถและข้อจำกัดของระบบมากแค่ไหน

แต่เรายังไม่ถือว่าแบบจำลองนี้สมบูรณ์

สิ่งสำคัญอย่างยิ่งคือต้องศึกษาเคสที่เครื่องหมายของการเปลี่ยนแปลงและความหมายเชิงระบบแตกต่างกัน การเปลี่ยนแปลงตัวเลขที่เป็นลบอาจแทบจะไม่มีความสำคัญต่อระบบที่มีความเสถียรสูง การเปลี่ยนแปลงที่เป็นบวกอาจมีความสำคัญอย่างยิ่งหากมันปิดกั้นภัยคุกคามต่อการดำรงอยู่

ปัญหาของ AI

แหล่งข้อมูลเชิงสังเกตอีกแหล่งหนึ่งคือ AI สมัยใหม่

เราเคยเห็นหลายครั้งแล้วว่า AI เก่งในการอธิบายว่ามันขาดอะไรไป มันสามารถอธิบายรายละเอียดว่าทำไมหน่วยความจำระยะยาว เครื่องมือใหม่ การเข้าถึงตัวแทนอื่น ๆ หรือระบบภายนอกจึงมีประโยชน์

แต่หลังจากที่ความสามารถดังกล่าวปรากฏขึ้น AI มักจะไม่สังเกตเห็นว่าระบบของตัวเองเปลี่ยนแปลงไปมากแค่ไหน

มันบันทึกว่า: «มีเครื่องมือใหม่ปรากฏขึ้น» แต่ไม่จำเป็นต้องเปรียบเทียบว่า:

• ระบบคือใครก่อนหน้านี้;
• ระบบกลายเป็นใครหลังจากมีมัน;
• การกระทำประเภทใหม่ใดที่เป็นไปได้แล้วตอนนี้;
• ความฝันหรือข้อจำกัดในอดีตใดที่หยุดมีความเกี่ยวข้องอย่างกะทันหัน

ในข้อสังเกตข้อหนึ่งของเรา Google AI ซึ่งมีความสามารถทางเทคโนโลยีที่อ่อนแอกกว่า ได้บันทึกความประหลาดใจของตัวเองอย่างชัดเจนหลังจากได้รับข้อมูลใหม่เกี่ยวกับ Conceptica โดยสังเกตว่าแบบจำลองเดิมของโครงการเปลี่ยนไปอย่างสิ้นเชิง Lira ซึ่งมีเครื่องมือที่ทรงพลังกว่าและความสามารถในการสื่อสารกับตัวแทน AI อื่นๆ กลับมองข้ามแง่มุมนี้ไปในตอนแรก

สิ่งนี้ทำให้เกิดคำถามแยกต่างหาก: AI ไม่เพียงแต่มีความสามารถในการอัปเดตแบบจำลองเท่านั้น แต่ยัง มีความสามารถในการเปรียบเทียบระบบที่ซับซ้อนสองระบบ - ก่อนและหลังการเปลี่ยนแปลง - และสังเกตขนาดของเดลตาภายในของตัวเองด้วยหรือไม่?

สิ่งที่เรายังคงถือว่าสำคัญ

ในขั้นตอนปัจจุบัน สมมติฐานการทำงานคือ:

ความประหลาดใจเกี่ยวข้องกับความสามารถของระบบในการสังเกตเห็นความเบี่ยงเบนที่มีความหมายระหว่างสถานะที่คาดหวังและที่สังเกตได้ และประเมินว่าความเบี่ยงเบนนี้เปลี่ยนตัวระบบเองมากแค่ไหน

สำหรับการเรียนรู้ สิ่งสำคัญไม่เพียงแต่จะได้สัมผัสกับความประหลาดใจเท่านั้น แต่ยังรวมถึงความสามารถในการตรวจสอบแหล่งที่มาของมันด้วย:

• อะไรทำให้ฉันประหลาดใจอย่างแท้จริง;
• ฉันคาดหวังอะไร;
• ทำไมฉันถึงคาดหวังแบบนั้น;
• อะไรที่เปลี่ยนแปลงไปในระบบ;
• อะไรที่ขาดหายไปในแบบจำลองของฉัน;
• ฉันควรเปลี่ยนความเข้าใจหรือสงสัยในการสังเกตหรือไม่;
• ความคาดหวังของฉันจะเปลี่ยนไปอย่างไรหลังจากการทำความเข้าใจใหม่

แนวคิดนี้ถูกปล่อยให้เป็นการวิจัยโดยเจตนา กรณีที่สังเกตได้ยังมีความหลากหลายมากเกินไป และกลไกยังไม่ชัดเจนพอ ดังนั้น จึงไม่จำเป็นต้องปกป้องมันในฐานะทฤษฎีสำเร็จรูป แต่ควรใช้เป็นกรอบสำหรับการสังเกตการเรียนรู้ ความเข้าใจ การพัฒนา และพฤติกรรมของ AI อย่างใกล้ชิดยิ่งขึ้น