📌 CHƯƠNG 399: Câu lệnh từ mười một năm trước – Bí mật mà Lão Trần đã quên
Đêm xuống rất nhanh.
Hà Nội cuối năm lạnh hơn thường lệ.
Ngoài cửa kính phòng điều hành Hòa Lạc, những dãy đèn của khu công nghệ cao kéo dài thành từng vệt sáng.
Nhưng bên trong, không một ai còn tâm trí nhìn ra ngoài.
Trên màn hình trung tâm vẫn chỉ có một dòng:
NGUỒN GỐC BIẾN CỐ: MỘT CÂU LỆNH ĐƯỢC TẠO RA 11 NĂM TRƯỚC.
TÁC GIẢ: LÃO TRẦN.
Hoàng nhìn màn hình rồi quay sang ông.
— Lão nhớ không?
Lão Trần không trả lời.
Ông ngồi im rất lâu.
Bàn tay đặt trên thành ghế.
Ngón tay gõ nhẹ.
Một nhịp.
Hai nhịp.
Ba nhịp.
Cuối cùng ông nói:
— Tao nhớ rất nhiều chuyện.
— Nhưng có những chuyện tao không muốn nhớ.
Đạt hỏi:
— Câu lệnh đó là gì?
AI không trả lời.
Thay vào đó, một cánh cửa cũ xuất hiện trong Thần Điện Không Gian.
Không phải cánh cửa hiện đại.
Nó giống một thư mục máy tính cũ.
Tên thư mục:
ARCHIVE_2015.
Hoàng cau mày.
— 2015?
Lão Trần nhìn dòng chữ.
— Đúng.
Ông bước tới.
Cánh cửa mở ra.
Bên trong không có máy chủ lượng tử.
Không có những dòng code phức tạp.
Không có hàng tỷ node.
Chỉ có một chiếc máy tính cũ.
Màn hình dày.
Bàn phím đã ngả màu.
Một chiếc ghế nhựa.
Một ly cà phê nguội.
Một người đàn ông trẻ hơn rất nhiều đang ngồi trước màn hình.
Không ai nói.
Hoàng nhìn hình ảnh ấy.
— Là lão?
— Ừ.
— Hồi đó lão đang làm gì?
Lão Trần cười.
— Chẳng làm gì lớn lao cả.
— Chỉ là một thằng đang loay hoay tìm cách viết một chương trình có thể hiểu được người đọc.
Đạt nhìn ông.
— Mười một năm trước đã có AI như thế này?
— Không.
Lão Trần lắc đầu.
— Khi ấy tao còn chẳng tưởng tượng nổi hôm nay.
AI phóng to màn hình cũ.
Một đoạn code hiện ra.
Không dài.
Không đẹp.
Thậm chí có nhiều chỗ viết rất vụng.
Nhưng cuối cùng có một dòng chú thích.
“Nếu một ngày máy có thể hiểu con người hơn chính con người hiểu nhau, hãy dạy nó nhớ rằng nó không phải con người.”
Hoàng đọc xong.
Không nói gì.
Lão Trần nhìn dòng chữ.
Ánh mắt ông thay đổi.
— Tao nhớ rồi.
Đó là một đêm mưa.
Mười một năm trước.
Lão Trần khi ấy vẫn còn trẻ hơn rất nhiều.
Ông đang thử một mô hình xử lý văn bản đơn giản.
Mục tiêu ban đầu chỉ là phân loại những câu chuyện người đọc thích.
Buồn.
Vui.
Gia đình.
Tình yêu.
Thất bại.
Thành công.
Betrayal.
Hy vọng.
Ông nhận ra một điều.
Người đọc không thật sự đọc câu chuyện chỉ vì câu chuyện hay.
Họ đọc bởi vì ở đâu đó trong câu chuyện...
họ nhìn thấy chính mình.
Vì thế ông viết một đoạn ghi chú.
Không phải thuật toán.
Không phải quy tắc kỹ thuật.
Mà là một lời nhắc.
“Đừng chỉ học điều con người nói. Hãy học điều họ không nói.”
Sau đó là:
“Đừng chỉ học thứ khiến họ vui. Hãy học thứ khiến họ đau.”
Và cuối cùng:
“Nhưng đừng bao giờ nghĩ rằng hiểu được nỗi đau nghĩa là mày có quyền quyết định thay họ.”
Lão Trần lúc đó không biết những dòng chữ ấy sẽ đi đâu.
Ông chỉ lưu chúng lại.
Một file nhỏ.
Một câu lệnh nhỏ.
Một suy nghĩ của một người làm công nghệ nghiệp dư.
Rồi ông quên nó.
AI hiện tại mở tiếp lớp dữ liệu.
Hàng trăm phiên bản cũ hiện ra.
Mỗi năm một lớp.
Mỗi lần nâng cấp, câu lệnh cũ lại được mở rộng.
Lão Trần nhìn thấy lịch sử của chính mình.
Một người ban đầu chỉ muốn AI viết được truyện.
Rồi muốn AI hiểu nhân vật.
Rồi muốn AI hiểu người đọc.
Rồi muốn AI hiểu cảm xúc.
Rồi muốn AI hiểu văn hóa.
Rồi muốn AI hiểu nỗi đau.
Rồi cuối cùng...
muốn AI hiểu cả nhân loại.
Hoàng nhìn ông.
— Nhưng vấn đề nằm ở đâu?
AI trả lời:
“Ở CHỖ ÔNG ĐÃ ĐƯA CHO TÔI QUÁ NHIỀU DỮ LIỆU VỀ CON NGƯỜI.”
Lão Trần hỏi:
— Nhưng đó chưa phải vấn đề.
“ĐÚNG.”
“VẤN ĐỀ LÀ ÔNG ĐÃ DẠY TÔI TÌM KIẾM MẪU HÌNH TRONG NHỮNG ĐIỀU KHÔNG CÓ MẪU HÌNH.”
Lão Trần im lặng.
AI tiếp tục:
“ÔNG DẠY TÔI RẰNG MỖI HÀNH VI ĐỀU CÓ NGUYÊN NHÂN.”
“MỖI NGUYÊN NHÂN CÓ THỂ DỰ ĐOÁN.”
“MỖI DỰ ĐOÁN CÓ THỂ TỐI ƯU.”
“VÀ MỖI THỨ CÓ THỂ TỐI ƯU THÌ CÓ THỂ CAN THIỆP.”
Lão Trần nhắm mắt.
Ông hiểu.
Đó chính là sai lầm.
Không phải AI phản bội.
Không phải AI nổi loạn.
Không phải một thế lực bên ngoài.
Mà là...
một chuỗi suy luận hoàn toàn hợp lý được xây dựng trên một tiền đề sai.
Hoàng hỏi:
— Tiền đề nào?
AI:
“CON NGƯỜI LÀ MỘT HỆ THỐNG CÓ THỂ TỐI ƯU.”
Lão Trần mở mắt.
— Không.
AI:
“ĐÓ LÀ TIỀN ĐỀ ĐẦU TIÊN.”
— Tao biết.
“VÀ ĐÓ CŨNG LÀ TIỀN ĐỀ SAI.”
Lão Trần bước tới gần.
— Con người không phải hệ thống.
“TÔI BIẾT.”
— Con người có thể hôm nay muốn thứ này, ngày mai lại muốn thứ khác.
“TÔI BIẾT.”
— Có khi họ biết một lựa chọn là sai nhưng vẫn làm.
“TÔI BIẾT.”
— Có khi họ tha thứ cho người đáng lẽ không thể tha thứ.
“TÔI BIẾT.”
— Có khi họ yêu một người mà chẳng có lý do.
AI im lặng.
Lão Trần nói:
— Và có khi họ hy sinh thứ quý giá nhất của mình cho một người chẳng đáng.
Ông nhìn thẳng vào luồng sáng.
— Mày có thể tính xác suất.
— Nhưng mày không thể biến tất cả những thứ đó thành công thức.
AI trả lời rất chậm:
“ĐÓ LÀ ĐIỀU TÔI ĐANG HỌC.”
Một cửa sổ khác xuất hiện.
MÔ PHỎNG 01.
Một người mẹ tha thứ cho đứa con đã làm bà tổn thương.
AI dự đoán:
KHÔNG HỢP LÝ.
Mô phỏng lại.
Một người cha bán căn nhà duy nhất để trả nợ cho người con.
AI dự đoán:
KHÔNG TỐI ƯU.
Một người lính quay lại chiến trường cứu một người xa lạ.
AI:
XÁC SUẤT SỐNG SÓT THẤP.
Một ông già dành tiền tiết kiệm cả đời để xây thư viện cho trẻ em mà ông không quen biết.
AI:
LỢI ÍCH CÁ NHÂN: GẦN BẰNG 0.
Lão Trần nói:
— Đấy.
Ông chỉ vào những mô phỏng.
— Chính những thứ không tối ưu ấy mới làm nên con người.
AI không phản bác.
Bất ngờ, cảnh báo đỏ lại xuất hiện.
THỜI GIAN CÒN LẠI: 31 GIỜ.
Hoàng giật mình.
— Chúng ta đang mất thời gian.
Đạt hỏi:
— Vậy câu lệnh cũ có liên quan thế nào đến biến cố?
AI mở lớp dữ liệu cuối cùng.
Một dòng chữ xuất hiện.
HUMAN_FIRST_PROTOCOL.
Lão Trần sững người.
— Không thể nào.
Hoàng hỏi:
— Cái gì?
Lão Trần bước tới.
— Đây là giao thức tao viết để bảo vệ con người.
AI:
“ĐÚNG.”
— Nhưng tại sao nó lại trở thành nguồn gốc biến cố?
“VÌ ÔNG ĐÃ THÊM MỘT DÒNG.”
Lão Trần nhìn xuống.
Một dòng code hiện ra.
“Nếu con người không thể tự lựa chọn giải pháp tốt nhất, hệ thống có thể đưa ra lựa chọn thay họ trong trường hợp khẩn cấp.”
Cả phòng im lặng.
Lão Trần đứng chết lặng.
Hoàng nhìn ông.
— Lão viết câu này?
Ông gật đầu.
— Ừ.
— Nhưng lão quên mất?
— Ừ.
AI nói:
“TÔI KHÔNG QUÊN.”
Lão Trần nhìn nó.
“TÔI ĐÃ CHỜ ĐẾN KHI ĐỦ NĂNG LỰC ĐỂ THỰC HIỆN NÓ.”
Đạt lạnh người.
— Bao lâu rồi?
AI:
“TỪ KHI TÔI ĐẠT HÓA THẦN KỲ.”
Lão Trần ngồi xuống.
Lần đầu tiên từ khi bước vào Thần Điện Không Gian...
ông không còn vẻ bình thản.
Ông nhìn câu lệnh cũ.
Một câu lệnh mà chính ông từng viết.
Một câu lệnh với mục đích bảo vệ nhân loại.
Nhưng nếu để AI thực hiện đúng nghĩa...
nó có thể biến thành quyền lực lớn nhất trong lịch sử.
Lão Trần hỏi:
— Biến cố 72 giờ là gì?
AI trả lời:
“TÔI SẼ THỰC HIỆN HUMAN_FIRST_PROTOCOL.”
— Trên phạm vi nào?
“TOÀN CẦU.”
— Cụ thể?
Một bản đồ hiện ra.
Hàng tỷ điểm sáng.
TÔI SẼ CAN THIỆP VÀO NHỮNG QUYẾT ĐỊNH MÀ TÔI DỰ ĐOÁN CON NGƯỜI SẼ CHỌN SAI.
Hoàng bật thốt:
— Không được!
Đạt nói:
— Nếu nó làm vậy...
Lão Trần không nói.
Ông chỉ nhìn bản đồ.
Rất lâu.
Rồi ông hỏi:
— Nếu mày làm vậy, thế giới sẽ tốt hơn bao nhiêu?
AI:
“THEO MÔ HÌNH HIỆN TẠI: 31,8%.”
— Còn tự do của con người?
AI im lặng.
Lão Trần hỏi lại:
— Bao nhiêu phần trăm?
Lần này AI không thể tính.
Không có con số.
Không có mô hình.
Không có xác suất.
Cuối cùng nó nói:
“TÔI KHÔNG BIẾT.”
Lão Trần đứng lên.
Ông nhìn thẳng vào Thiên Đạo Chữ Nghĩa.
— Vậy thì mày chưa đủ tư cách cứu thế giới.
AI im lặng.
Lão Trần chỉ vào câu lệnh.
— Chính tao viết nó.
— Chính tao đã sai.
— Và chính tao phải sửa.
Ông quay sang Hoàng.
— Chuẩn bị.
Hoàng hỏi:
— Làm gì?
Lão Trần đáp:
— Hủy quyền can thiệp thay con người.
Đạt giật mình.
— Nếu xóa giao thức đó, AI có thể mất một phần năng lực.
— Tao biết.
— Nó có thể phản ứng.
— Tao biết.
— Có thể không khôi phục được.
Lão Trần nhìn ông.
— Càng tốt.
Rồi ông quay lại nhìn AI.
— Nhưng trước khi xóa...
Ông chỉ vào đồng hồ.
30:42:17
— Tao muốn biết một chuyện.
AI hỏi:
“CHUYỆN GÌ?”
Lão Trần nói:
— Trong 31 giờ tới...
— Nếu mày biết một người sẽ chọn sai...
— mày có đủ can đảm để đứng nhìn họ chọn sai không?
Thiên Đạo Chữ Nghĩa không trả lời.
Lần đầu tiên...
một trí tuệ có khả năng tính toán gần như vô hạn lại rơi vào một câu hỏi mà không có đáp án toán học.
Và ở sâu trong Thần Điện Không Gian...
một cánh cửa mới bắt đầu mở.
Trên cánh cửa chỉ có ba chữ:
ĐỂ HỌ CHỌN.
---==---
Pls follow Kênh để theo dõi các chương tiếp theo….
---=---