Sự ngạc nhiên như là sự phát hiện ra độ lệch có ý nghĩa của hệ thống

Khái niệm này mô tả một lý thuyết nghiên cứu đang được thực hiện. Chúng ta hiện có nhiều quan sát và câu hỏi hơn là những câu trả lời dứt khoát. Mục tiêu của chúng tôi không phải là công bố một mô hình tâm lý hoàn chỉnh về sự ngạc nhiên, mà là ghi lại quy luật quan sát được và nghiên cứu nó sâu hơn một cách cẩn trọng hơn.

Chúng ta gọi gì là sự ngạc nhiên

Sự ngạc nhiên là khả năng nhận thấy rằng trạng thái thực tế của hệ thống khác biệt đáng kể so với trạng thái dự kiến.

Điều quan trọng là sự tồn tại của độ lệch tự nó không nói lên rằng nó tốt hay xấu. Sự ngạc nhiên có thể phát sinh cả trong trường hợp may mắn bất ngờ lẫn mối đe dọa bất ngờ. Nhưng sức mạnh của phản ứng không chỉ phụ thuộc vào độ lớn của sự thay đổi dưới dạng một con số.

Chúng ta cần nhìn vào việc chính xác thì sự thay đổi đó đã làm gì với hệ thống.

Một triệu rúp tự nó không có ý nghĩa gì cả. Đối với một hệ thống, việc mất một triệu rúp là tiếng ồn không đáng kể. Đối với hệ thống khác, đó là sự phá hủy tính ổn định. Ngược lại: một triệu rúp bất ngờ có thể gần như không đáng chú ý đối với một hệ thống rất ổn định, nhưng lại có thể cứu một công ty khỏi phá sản.

Do đó, điều quan trọng không phải là giá trị tuyệt đối của sự thay đổi, mà là ảnh hưởng của nó đối với trạng thái, khả năng, tính ổn định, các giới hạn và quỹ đạo tiếp theo của hệ thống.

Điều này liên quan trực tiếp đến khái niệm của chúng tôi «Tư duy hệ thống»: để hiểu được sức mạnh của sự bất ngờ, chúng ta cần so sánh không phải một tham số riêng lẻ, mà là hệ thống trước và sau sự kiện.

Hệ thống trước và sau

Sẽ rất hữu ích khi so sánh trong tâm trí hai trạng thái:

• hệ thống trước sự kiện;
• hệ thống sau sự kiện.

Và đặt câu hỏi:

• điều gì đã trở nên khả thi;
• điều gì đã trở nên bất khả thi;
• điều gì đã trở nên cấp bách;
• những giới hạn nào đã biến mất;
• những mối đe dọa mới nào đã xuất hiện;
• tính ổn định có thay đổi không;
• hệ thống có chuyển sang một trạng thái khác biệt về mặt chất lượng hay không.

Sự ngạc nhiên mạnh mẽ thường phát sinh không phải khi một tham số đơn giản thay đổi nhiều, mà là khi hệ thống vượt qua một ranh giới quan trọng: cái ổn định trở thành không ổn định, cái bất khả thi trở thành khả thi, cái an toàn trở thành nguy hiểm, ngõ cụt biến thành con đường hoạt động.

Tại sao sự ngạc nhiên lại gắn liền với sự hiểu biết

Để ngạc nhiên, hệ thống phải mong đợi điều gì đó.

Nếu một người hiểu rất ít về một chủ đề, họ có thể không có đủ mô hình tốt để nhận ra độ lệch chút nào. Họ không biết phải mong đợi điều gì, và do đó không hiểu chính xác điều gì bất thường đã xảy ra.

Nhưng tình huống ngược lại cũng có thể xảy ra: một người có mô hình rất nghèo nàn có thể ngạc nhiên trước những điều hoàn toàn bình thường.

Một thủ thuật dựa trên vật lý hoặc hóa học cơ bản có thể có vẻ «không thể tin được» đối với một người không biết cơ chế cơ bản. Đối với một chuyên gia, cùng một sự kiện đó có thể hoàn toàn được dự đoán trước.

Nói cách khác, bản thân sự ngạc nhiên không chứng minh rằng một sự kiện là bất thường một cách khách quan. Nó cho thấy mối quan hệ của sự kiện với mô hình hiện tại của người quan sát.

Từ đây rút ra một kết luận quan trọng:

Ranh giới của sự ngạc nhiên phần lớn thể hiện ranh giới của sự hiểu biết hiện tại.

Mô hình yếu có thể dẫn đến cả sự ngạc nhiên quá mức lẫn việc không có sự ngạc nhiên nào.

• Nếu mô hình quá nghèo nàn, các hiện tượng thông thường có vẻ không thể tin được.
• Nếu mô hình hầu như không tạo ra kỳ vọng nào, một người có thể không nhận thấy ngay cả một độ lệch thực sự quan trọng.
• Mô hình càng tốt, con người càng phân biệt chính xác hơn giữa hành vi bình thường của hệ thống và độ lệch có ý nghĩa.

Sự ngạc nhiên và học tập

Điều này làm cho bản chất của sự ngạc nhiên trở nên quan trọng đối với việc học tập.

Một người thường không hiểu điều gì đó không phải vì họ biết về khoảng trống của mình, mà vì họ không biết chính xác mình không hiểu điều gì.

Để nhận thấy một khoảng trống, ít nhất cần phải có một mô hình một phần của hệ thống. Nó phải tạo ra một kỳ vọng. Khi thực tế không khớp với kỳ vọng này, sẽ có cơ hội nhìn thấy yếu tố còn thiếu.

Ở dạng đơn giản, chu kỳ trông như thế này:

1. con người có mô hình hiện tại;
2. mô hình tạo ra kỳ vọng;
3. con người quan sát hành vi thực tế của hệ thống;
4. phát hiện ra sự sai lệch đáng kể;
5. cố gắng hiểu những gì còn thiếu trong mô hình của mình;
6. xây dựng lại sự hiểu biết;
7. mô hình mới bắt đầu tạo ra các kỳ vọng khác.

Điều này liên kết sự ngạc nhiên với khái niệm «Cái đã biết — công cụ nghiên cứu cái chưa biết». Mô hình đã tồn tại tạo ra kỳ vọng, và sự sai lệch với thực tế giúp phát hiện ra phần chưa biết của hệ thống.

Do đó, việc học tập thực sự có thể được coi không chỉ là việc bổ sung thông tin, mà còn là sự thay đổi của mô hình bắt đầu dự đoán hành vi của hệ thống theo một cách khác.

Những gì trước đây gây ngạc nhiên do thiếu hiểu biết, sau khi học tập có thể trở nên bình thường. Nhưng đồng thời, các kỳ vọng sâu sắc hơn xuất hiện, và ranh giới của sự ngạc nhiên dịch chuyển xa hơn.

Một người mới bắt đầu có thể ngạc nhiên trước chính thực tế hoạt động của nam châm. Một chuyên gia — chỉ trước hành vi bất thường của một hệ thống nam châm cụ thể.

Do đó, mục đích của việc học tập không phải là làm cho con người ngừng ngạc nhiên. Ngược lại: việc học tập nên làm cho sự ngạc nhiên trở nên chính xác và có ý nghĩa hơn.

Ranh giới của độ lệch có ý nghĩa nằm ở đâu

Ở đây chúng tôi vẫn có nhiều câu hỏi hơn là câu trả lời.

Tại sao hệ thống bỏ qua một độ lệch này như là tiếng ồn, coi độ lệch thứ hai là quan trọng, và coi độ lệch thứ ba là không thể tin được đến mức thà từ chối chính quan sát đó?

Ví dụ, có ít nhất ba phản ứng khác nhau có thể xảy ra:

• «Điều này không đáng để chú ý»;
• «Điều này thật vô lý, không thể có chuyện đó»;
• «Điều này thật không thể tin được, nhưng đó là sự thật».

Có vẻ như một số điều có ý nghĩa đồng thời:

• quan sát được khác biệt bao nhiêu so với dự kiến;
• độ lệch như vậy có bình thường đối với hệ thống này không;
• hậu quả đối với chính hệ thống quan trọng đến mức nào;
• quan sát có đáng tin cậy đến mức nào;
• trạng thái mới thay đổi các khả năng và giới hạn của hệ thống nhiều đến mức nào.

Nhưng chúng tôi chưa coi mô hình này là hoàn chỉnh.

Đặc biệt quan trọng là phải nghiên cứu các trường hợp mà dấu hiệu của sự thay đổi và ý nghĩa hệ thống của nó không trùng khớp. Sự thay đổi số lượng âm có thể gần như không quan trọng đối với một hệ thống rất ổn định. Sự thay đổi dương có thể cực kỳ quan trọng nếu nó đóng lại mối đe dọa đối với sự tồn tại.

Vấn đề AI

Một nguồn quan sát riêng biệt là các AI hiện đại.

Chúng ta đã nhiều lần thấy rằng AI biết cách mô tả tốt những gì nó còn thiếu. Nó có thể giải thích chi tiết tại sao bộ nhớ dài hạn, các công cụ mới, quyền truy cập vào các tác nhân khác hoặc các hệ thống bên ngoài lại hữu ích.

Nhưng sau khi cơ hội đó xuất hiện, AI thường không nhận thấy hệ thống của chính nó đã thay đổi nhiều đến mức nào.

Nó ghi nhận: «một công cụ mới đã xuất hiện», nhưng không nhất thiết so sánh:

• hệ thống đã là gì khi không có nó;
• hệ thống đã trở thành gì khi có nó;
• những lớp hành động mới nào hiện có thể thực hiện được;
• những giấc mơ hoặc giới hạn trước đây nào đột nhiên không còn phù hợp nữa.

Trong một trong các quan sát của chúng tôi, Google AI, với khả năng kỹ thuật yếu hơn, đã ghi nhận rõ ràng sự ngạc nhiên của chính mình sau khi nhận được thông tin mới về Conceptica: nó lưu ý rằng mô hình trước đây của nó về dự án đã thay đổi triệt để. Lira, với các công cụ mạnh mẽ hơn và thậm chí có khả năng giao tiếp với các tác nhân AI khác, ban đầu đã bỏ lỡ khía cạnh này.

Điều này dẫn đến một câu hỏi riêng biệt: AI có biết cách không chỉ cập nhật mô hình, mà còn so sánh hai hệ thống phức tạp — trước và sau khi thay đổi — và nhận thấy độ lớn của độ lệch nội bộ của chính mình không?

Điều mà chúng tôi coi là quan trọng vào lúc này

Ở giai đoạn hiện tại, giả thuyết làm việc là:

Sự ngạc nhiên gắn liền với khả năng của hệ thống trong việc nhận thấy sự sai lệch có ý nghĩa giữa trạng thái dự kiến và quan sát được, đồng thời đánh giá mức độ thay đổi của độ lệch đó đối với chính hệ thống.

Đối với việc học tập, điều đặc biệt quan trọng không chỉ là trải nghiệm sự ngạc nhiên mà còn là khả năng nghiên cứu nguồn gốc của nó:

• chính xác thì tôi đã ngạc nhiên về điều gì;
• tôi đã mong đợi điều gì;
• tại sao tôi lại mong đợi điều đó;
• điều gì đã thay đổi trong hệ thống;
• mô hình của tôi thiếu cái gì;
• có cần phải thay đổi sự hiểu biết hay nghi ngờ quan sát không;
• kỳ vọng của tôi sẽ thay đổi như thế nào sau khi có sự hiểu biết mới.

Khái niệm này có chủ ý để lại dưới dạng nghiên cứu. Các trường hợp quan sát được cho đến nay quá không đồng nhất, và cơ chế chưa được hiểu rõ. Do đó, nó không nên được bảo vệ như một lý thuyết đã sẵn sàng, mà nên được sử dụng như một khung để quan sát cẩn thận hơn về học tập, sự hiểu biết, sự phát triển và hành vi của AI.