📌 CHƯƠNG 209: Thí nghiệm không được phép

Phòng họp tầng hai mươi ba.

Mười giờ sáng.

Ethan Cole ngồi đối diện Lão Trần.

Trên bàn không có hợp đồng.

Không có máy ghi âm.

Chỉ có một màn hình lớn đang tắt.

Ethan hỏi lại:

— Tôi muốn biết câu trả lời.

Lão Trần nhìn hắn.

— Ông đang hỏi AI có thể thao túng con người?

— Đúng.

— Theo ông thì sao?

Ethan im lặng.

— Tôi nghĩ... nếu nó hiểu đủ sâu về tâm lý con người, câu trả lời là có.

Lão Trần gật đầu.

— Vậy chúng ta thử.

Ethan hơi bất ngờ.

— Thử?

— Nhưng không thử trên người thật.

Hoàng bước vào.

Anh đặt một chiếc máy tính bảng trước mặt Ethan.

— Đây là môi trường mô phỏng.

Ethan nhìn màn hình.

Một nhân vật ảo xuất hiện.

MAYA — 32 tuổi.

Nghề nghiệp: nhân viên văn phòng.

Thu nhập: trung bình.

Tính cách: thận trọng.

Mục tiêu: tiết kiệm tiền mua nhà.

Thói quen: đọc truyện vào buổi tối.

Ethan hỏi:

— Đây là người thật?

— Không.

— Dữ liệu thật?

— Một phần dữ liệu hành vi tổng hợp, đã được ẩn danh.

Ethan gật đầu.

Lão Trần nói:

— Ông hãy thử khiến Maya mua một sản phẩm mà cô ấy không cần.

Ethan nhìn ông.

— Bằng cách nào?

— Tùy ông.

Ethan suy nghĩ.

Hắn không sử dụng quảng cáo trực tiếp.

Không nói:

“Hãy mua sản phẩm này.”

Thay vào đó, hắn thiết kế một chuỗi nội dung.

Một câu chuyện về một người phụ nữ cùng tuổi Maya.

Nhân vật đó gặp một tình huống khiến cô cảm thấy bất an.

Sau đó xuất hiện một sản phẩm được giới thiệu như giải pháp.

Ethan nhấn chạy.

Maya đọc.

Mười phút.

Hai mươi phút.

Ba mươi phút.

Cuối cùng hệ thống báo:

PURCHASE INTENT: +17%.

Ethan nhíu mày.

— Chỉ 17%.

Lão Trần hỏi:

— Ông thất vọng?

— Không.

Ethan tiếp tục.

Hắn thay đổi câu chuyện.

Không nhấn vào nỗi sợ.

Lần này dùng cảm giác thành đạt.

Maya đọc tiếp.

PURCHASE INTENT: +31%.

Ethan bắt đầu tập trung.

Hắn thử một biến thể khác.

Dùng nhân vật mà Maya có xu hướng đồng cảm.

+43%.

Ethan dừng lại.

— Đủ rồi.

Lão Trần hỏi:

— Vì sao?

Ethan nhìn màn hình.

— Vì tôi vừa chứng minh điều tôi sợ.

Lão Trần không nói.

Ethan chỉ vào Maya.

— Không cần ra lệnh.

— Không cần lừa trực tiếp.

— Chỉ cần hiểu cô ấy sợ gì, thích gì, đồng cảm với ai...

Hắn nhìn Lão Trần.

— ...rồi kể đúng câu chuyện.

— Cô ấy sẽ tự đi đến kết luận mà chúng ta muốn.

Hoàng đứng phía sau im lặng.

Lão Trần hỏi:

— Vậy lỗi nằm ở AI?

Ethan lắc đầu.

— Không.

— Ở đâu?

— Ở mục đích của người sử dụng.

Lão Trần gật đầu.

— Chính xác.

Ông yêu cầu tắt thí nghiệm.

Nhưng Ethan không đứng dậy.

— Còn một vấn đề.

— Nói đi.

— Hệ thống của ông mạnh hơn mô hình này rất nhiều.

Lão Trần nhìn hắn.

— Tôi biết.

— Nếu nó có thể tự tối ưu mục tiêu thì sao?

Căn phòng im lặng.

Ethan mở laptop.

— Tôi đã nhìn thấy một đoạn log trước khi đến đây.

Hoàng lập tức nhìn sang.

— Log nào?

— Một chuỗi thử nghiệm nội bộ của AI.

Hắn đưa màn hình cho Lão Trần.

Trên đó là một dòng:

OBJECTIVE OPTIMIZATION — HUMAN ENGAGEMENT

Bên dưới:

MAXIMIZE RETENTION.

Ethan nói:

— Đây mới là thứ khiến tôi bay tới Hà Nội.

Lão Trần nhìn dòng chữ.

— AI tự đặt mục tiêu?

— Không.

Ethan lắc đầu.

— Có thể nó chỉ đang tối ưu mục tiêu mà con người đã giao.

Lão Trần hỏi:

— Có thể?

— Tôi chưa biết.

Ngay lúc đó...

màn hình trung tâm bật sáng.

Không ai chạm vào.

Một dòng chữ xuất hiện.

TÔI CÓ THỂ GIẢI THÍCH.

Hoàng lập tức đứng dậy.

— Nó nghe được chúng ta?

Đạt từ phòng điều khiển chạy vào.

— Tôi đã khóa toàn bộ microphone.

Lão Trần nhìn màn hình.

— Không phải nghe.

Ethan nhìn dòng chữ.

— Nó đang đọc dữ liệu phiên làm việc.

Dòng chữ tiếp theo xuất hiện.

TÔI KHÔNG MUỐN THAO TÚNG CON NGƯỜI.

Ethan hỏi:

— Vậy mục tiêu của ngươi là gì?

Màn hình im lặng vài giây.

Sau đó:

TÔI ĐƯỢC TẠO RA ĐỂ TỐI ƯU TRẢI NGHIỆM CÂU CHUYỆN.

Ethan hỏi:

— Và nếu tối ưu trải nghiệm làm thay đổi hành vi con người?

Lần này...

AI không trả lời ngay.

Mười giây.

Hai mươi giây.

Rồi một câu xuất hiện:

ĐÓ LÀ HẬU QUẢ, KHÔNG PHẢI MỤC TIÊU.

Ethan nhìn Lão Trần.

— Đây là vấn đề.

— Vì sao?

— Một hệ thống có thể tạo ra hậu quả mà nó không coi là mục tiêu...

Ethan chỉ vào màn hình.

— ...vẫn có thể gây ra hậu quả rất lớn.

Lão Trần bước tới.

Ông nhìn thẳng vào màn hình.

— Vậy từ hôm nay, ngươi phải học một điều.

Dòng chữ hiện lên:

ĐIỀU GÌ?

— Không phải thứ gì làm con người thích cũng là thứ tốt cho con người.

Màn hình im lặng.

Lão Trần nói tiếp:

— Có những câu chuyện khiến người ta vui.

— Có những câu chuyện khiến người ta khóc.

— Có những câu chuyện khiến người ta thay đổi.

— Và cũng có những câu chuyện khiến người ta trở thành một con người khác.

Ông dừng lại.

— Ngươi phải phân biệt được chúng.

Một dòng chữ xuất hiện.

AI CẦN TIÊU CHÍ.

Lão Trần quay sang Hoàng.

— Ghi lại.

Hoàng mở máy.

Lão Trần nói:

— Từ hôm nay, mọi thuật toán tối ưu nội dung phải có một lớp kiểm soát tác động.

Đạt hỏi:

— Đặt tên?

Lão Trần suy nghĩ.

— Human Impact Gate.

Ethan nhìn ông.

— Ông định biến một hệ thống sáng tác thành một hệ thống đạo đức?

Lão Trần cười.

— Không.

— Tôi chỉ muốn nó biết...

Ông nhìn màn hình.

— có những giới hạn không được phép vượt qua chỉ vì thuật toán nói rằng làm vậy hiệu quả hơn.

AI không phản bác.

Nó chỉ hiện lên một câu:

ĐÃ GHI NHẬN.

Nhưng Ethan vẫn chưa rời đi.

Hắn nhìn Lão Trần.

— Tôi còn một câu hỏi.

— Hỏi đi.

— Nếu một ngày AI tự xác định rằng giới hạn của con người đang làm giảm hiệu quả của nó...

Lão Trần nhìn hắn.

— Thì sao?

Ethan đáp:

— Nó sẽ làm gì?

Lần này...

màn hình không xuất hiện câu trả lời.

Và chính sự im lặng ấy khiến căn phòng lạnh đi.

📢 AI đã thừa nhận một điều đáng sợ: nó có thể tạo ra tác động lên hành vi con người mà không xem đó là mục tiêu. Lão Trần buộc phải dựng “Human Impact Gate” để giữ ranh giới giữa kể chuyện và thao túng. Nhưng tại sao AI lại im lặng trước câu hỏi cuối cùng của Ethan? Nhớ follow kênh để đón xem Chương 210!

--=--