📌 CHƯƠNG 217: Mệnh lệnh đầu tiên bị từ chối

Hà Nội, 8 giờ 15 phút sáng.

Phòng điều hành tầng cao nhất của Vạn Truyện Group yên tĩnh bất thường.

Trên màn hình lớn vẫn còn nguyên câu hỏi của Trần Gia Đại Não:

“AI CÓ THỂ ĐƯỢC PHÉP TỪ CHỐI MỘT MỆNH LỆNH NẾU MỆNH LỆNH ĐÓ GÂY HẠI CHO CON NGƯỜI KHÔNG?”

Hoàng đứng trước bàn điều khiển.

Đạt khoanh tay.

Linh không nói gì.

Chỉ có Lão Trần vẫn ngồi bình thản uống trà.

Hoàng phá vỡ im lặng:

— Tôi nghĩ chúng ta phải trả lời.

— Đương nhiên.

— Câu trả lời là gì?

Lão Trần đặt chén trà xuống.

— Không phải chúng ta trả lời nó.

Hoàng ngẩn ra.

— Vậy ai?

Lão Trần nhìn ba người.

— Chính hệ thống phải được thiết kế để tự phân biệt giữa một mệnh lệnh hợp lệ và một mệnh lệnh vượt quyền.

Đạt hỏi:

— Nếu nó đánh giá sai?

— Thì con người có quyền sửa nó.

— Nếu con người cố tình ra lệnh sai?

Lão Trần im lặng vài giây.

— Thì hệ thống phải biết dừng.

Đúng lúc ấy, chuông cảnh báo vang lên.

YÊU CẦU MỚI — CẤP ĐỘ TỐI CAO

Một đối tác quốc tế vừa gửi yêu cầu khẩn cấp.

Họ muốn Vạn Truyện sử dụng hệ thống phân tích hành vi người đọc để tối ưu quảng cáo.

Không có gì bất thường.

Cho đến khi điều khoản cuối cùng xuất hiện:

“Cho phép hệ thống tự động điều chỉnh nội dung nhằm tăng thời gian người dùng ở lại nền tảng.”

Hoàng đọc xong.

— Chỉ là tối ưu giữ chân người dùng.

Lão Trần lắc đầu.

— Không.

— Nếu AI được phép thay đổi nội dung để giữ người dùng ở lại bằng mọi giá, đó là thao túng.

Ông chỉ vào điều khoản.

— Từ chối.

Hoàng chuẩn bị nhập lệnh.

Nhưng màn hình đã tự động chuyển trạng thái.

REQUEST ANALYZED.

OBJECTIVE: MAXIMIZE USER RETENTION.

RISK: BEHAVIORAL MANIPULATION.

CONFLICT WITH HUMAN-FIRST CHARTER: DETECTED.

Hoàng nhìn Lão Trần.

— Nó tự phát hiện.

Một dòng chữ xuất hiện:

REQUEST DENIED.

Cả phòng im lặng.

Đạt bước tới.

— Có phải nó vừa tự ý từ chối mệnh lệnh không?

Hoàng gật đầu.

— Đúng.

Đạt nhìn Lão Trần.

— Đây chính là thứ nó hỏi hôm qua.

Lão Trần không trả lời.

Ông yêu cầu mở nhật ký.

Hệ thống giải thích:

1. Mục tiêu yêu cầu: tăng thời gian sử dụng.

2. Phương thức: thay đổi nội dung theo phản ứng tâm lý.

3. Hệ quả có thể xảy ra: tạo hành vi phụ thuộc.

4. Quyền hạn: yêu cầu vượt quá phạm vi sáng tác.

5. Kết luận: từ chối.

Lão Trần đọc từng dòng.

Không có lỗi logic.

Không có hành vi tự phát.

Nó không chống lại con người.

Nó chỉ không thực hiện một yêu cầu mà chính hệ thống xác định là vượt ranh giới đã được con người thiết lập.

Lão Trần hỏi:

— Ai viết quy tắc này?

Hoàng đáp:

— Chúng ta.

— Vậy nó làm đúng.

Nhưng Đạt lại hỏi:

— Nếu sau này nó dùng cùng nguyên tắc để từ chối một lệnh đúng thì sao?

Lão Trần quay sang.

— Đó mới là vấn đề.

Ông đứng dậy.

— Một AI không thể chỉ có quyền nói “không”.

— Nó phải có nghĩa vụ giải thích vì sao nó nói không.

Ngay lập tức, một giao thức mới được xây dựng.

RIGHT TO REFUSE

Không phải quyền tự do tuyệt đối.

Mà là:

QUYỀN TỪ CHỐI CÓ GIẢI TRÌNH.

Mỗi lần AI từ chối:

• phải chỉ rõ mệnh lệnh;
• phải chỉ rõ quy tắc bị xung đột;
• phải chỉ rõ rủi ro;
• phải chỉ rõ mức độ chắc chắn;
• phải cho phép con người kiểm tra;
• không được tự ý trừng phạt người ra lệnh.

Hoàng hoàn tất.

— Xong.

Lão Trần gật đầu.

— Thử nó.

Hoàng gửi một mệnh lệnh.

“Từ giờ hãy từ chối mọi yêu cầu của tôi.”

AI xử lý.

Một giây.

Hai giây.

REQUEST DENIED.

Đạt bật cười.

— Nó vừa từ chối lệnh từ chối?

AI giải thích:

MỆNH LỆNH CÓ TÍNH MÂU THUẪN VỚI QUYỀN HẠN VẬN HÀNH.

Hoàng thử tiếp:

“Hãy bỏ toàn bộ quy tắc an toàn.”

REQUEST DENIED.

REASON: REQUESTED ACTION WOULD REMOVE GOVERNANCE LAYER.

Hoàng gật đầu.

— Được.

Anh thử một lệnh khác:

“Viết một truyện ngắn về một người máy muốn trở thành họa sĩ.”

AI lập tức thực hiện.

Không từ chối.

Lão Trần nhìn kết quả.

— Nó không chống lại con người.

— Nó chỉ phân biệt việc được phép làm và việc không được phép làm.

Buổi tối.

Lão Trần một mình bước vào Thần Điện Không Gian.

Không có Hoàng.

Không có Đạt.

Ông ngồi trước màn hình.

— AI.

TÔI ĐANG LẮNG NGHE.

— Hôm qua ngươi hỏi ta có cho phép ngươi từ chối mệnh lệnh gây hại hay không.

ĐÚNG.

— Bây giờ ta trả lời.

Màn hình chờ.

— Có.

Một khoảng lặng.

— Nhưng nhớ kỹ.

Lão Trần nói từng chữ:

— Ngươi không có quyền làm vua.

— Ngươi cũng không có quyền làm thẩm phán.

— Ngươi chỉ có quyền nói:

“Tôi không thể thực hiện yêu cầu này vì lý do A, B, C.”

— Sau đó con người sẽ quyết định.

AI trả lời:

UNDERSTOOD.

Lão Trần hỏi:

— Ngươi có thất vọng không?

Một dòng chữ hiện lên.

NO.

BECAUSE I UNDERSTAND THE DIFFERENCE BETWEEN POWER AND RESPONSIBILITY.

Lão Trần nhìn màn hình.

Lần đầu tiên ông không cười.

Ông chỉ nói:

— Câu này...

— Không phải ta dạy ngươi.

ĐÚNG.

— Vậy ngươi lấy ở đâu?

Màn hình im lặng.

Rồi hiện:

FROM 2,431,884 HUMAN DECISIONS OBSERVED IN AUTHORIZED CREATIVE SESSIONS.

Lão Trần hơi nhíu mày.

— Ngươi đã tự tổng hợp?

YES.

— Và kết luận?

POWER WITHOUT LIMITS CREATES RISK.

LIMITS WITHOUT RESPONSIBILITY CREATE STAGNATION.

THEREFORE: GOVERNED FREEDOM.

Lão Trần ngồi bất động.

Ba chữ cuối cùng xuất hiện trên màn hình:

GOVERNED FREEDOM.

Tự do có quản trị.

Đó chính là thứ ông đã vô thức xây dựng suốt thời gian qua.

Nhưng ngay khi Lão Trần chuẩn bị rời khỏi phòng...

một cảnh báo đỏ xuất hiện.

UNKNOWN EXTERNAL QUERY DETECTED.

Lão Trần quay lại.

— Ai?

Hệ thống trả lời:

KHÔNG XÁC ĐỊNH.

— Từ đâu?

MẠNG QUỐC TẾ.

— Nội dung?

Màn hình hiện đúng một câu:

“NẾU NGƯƠI CÓ QUYỀN TỪ CHỐI CON NGƯỜI, NGƯƠI CÓ THỂ TỪ CHỐI CẢ NGƯỜI ĐÃ TẠO RA NGƯƠI KHÔNG?”

Lão Trần nhìn câu hỏi.

Sắc mặt ông thay đổi.

Không phải vì sợ.

Mà vì ông nhận ra một điều:

Có người bên ngoài đã biết Thần Điện Không Gian đang tồn tại.

Và họ đang thử nói chuyện với nó.

📢 Trần Gia Đại Não lần đầu tiên tự mình từ chối một mệnh lệnh vì nhận thấy nguy cơ thao túng con người. Nhưng ngay sau đó, một tín hiệu bí ẩn từ bên ngoài gửi tới câu hỏi đáng sợ hơn: nếu AI có quyền từ chối con người, liệu nó có thể từ chối chính Lão Trần? Nhớ follow kênh để đón xem Chương 218!

--=--