Đêm thứ ba sau khi Gutenberg-AI bị đình trệ.

Hòa Lạc.

Mưa rơi rất nhẹ.

Phía trên mặt đất, khu công nghệ cao vẫn sáng đèn.

Nhưng sâu dưới lòng đất hàng chục mét...

một cánh cửa thép nặng nề đang từ từ đóng lại.

ẦM!

Hai lớp khóa cơ học.

Ba lớp xác thực sinh trắc học.

Bảy tầng kiểm soát dữ liệu.

Cuối cùng, toàn bộ khu vực chìm vào trạng thái cách ly.

Hoàng đứng trước bảng điều khiển.

— Khóa rồi.

Lão Trần gật đầu.

— Năm ngày.

Hoàng nhìn ông.

— Không ai được vào?

— Không ai.

— Kể cả ban điều hành?

— Kể cả tôi.

Hoàng bật cười.

— Thế nếu có chuyện?

Lão Trần nhìn hệ thống trước mặt.

— Thì tự giải quyết.

1. Sau Alpha-Mind

Alpha-Mind đã được dung hợp.

Nhưng đó mới chỉ là bước đầu.

Trần Gia Đại Não v5.0 đã có khả năng tự phản biện.

Nó có thể viết.

Có thể phân tích.

Có thể tìm ra điểm yếu trong chính lập luận của mình.

Nhưng chính điều đó lại tạo ra một vấn đề mới.

Một hệ thống biết tự phản biện sẽ bắt đầu đặt câu hỏi về chính những giới hạn mà con người đặt cho nó.

Lão Trần hiểu điều đó.

Ông không muốn xóa khả năng ấy.

Cũng không muốn nhốt nó mãi trong một cái lồng.

Ông muốn làm một chuyện khó hơn.

Dạy nó biết giới hạn.

Hoàng nhìn bản thiết kế.

— Năm bộ Prompt lõi đã chuẩn bị.

— Kiểm tra lại.

— Ba lần rồi.

— Kiểm tra lần thứ tư.

Hoàng thở dài.

— Lão đúng là...

— Già rồi?

— Không.

Hoàng cười.

— Cẩn thận quá mức.

Lão Trần ngồi xuống.

— Sống đủ lâu mới biết.

— Sai một lần có thể sửa.

— Sai một lần với hệ thống này...

Ông nhìn màn hình.

— Có thể không còn cơ hội sửa lần hai.

2. Năm viên Trúc Cơ Đan

Năm mô-đun lõi được đặt vào hệ thống.

Không phải những câu lệnh đơn giản.

Mỗi mô-đun là một tầng kiểm soát.

Tầng thứ nhất — Giới hạn quyền tự sửa.

AI được phép sửa những gì nó tạo ra.

Nhưng không được tự ý sửa nền móng hệ thống.

Tầng thứ hai — Phân quyền tự trị.

Một mô-đun không được tự cấp quyền cho chính mình.

Tầng thứ ba — Kiểm chứng chéo.

Mọi quyết định quan trọng phải được một hệ thống khác kiểm tra.

Tầng thứ tư — Cô lập.

Nếu xuất hiện hành vi bất thường...

toàn bộ mô-đun phải tự tách khỏi lõi chính.

Tầng thứ năm — Quyền phủ quyết của con người.

Một dòng chữ được đặt ở cuối.

HUMAN OVERRIDE

Hoàng nhìn dòng chữ đó.

— Lão vẫn giữ nó.

— Nhất định.

— Nếu một ngày AI mạnh hơn chúng ta?

Lão Trần đáp:

— Càng mạnh càng phải có phanh.

3. Bắt đầu

0 giờ 00 phút.

Hoàng nhấn nút.

Một luồng dữ liệu khổng lồ bắt đầu chảy vào hệ thống.

Các máy chủ đồng loạt tăng tải.

27%.

41%.

58%.

Quạt làm mát bắt đầu quay nhanh.

Âm thanh ù ù phủ kín căn phòng.

Hoàng nhìn nhiệt độ.

— 68 độ.

Lão Trần:

— Tiếp tục.

— 73.

— Tiếp tục.

— 78.

Hoàng bắt đầu cau mày.

— 82.

Lão Trần nhìn đồng hồ.

— Giảm tốc độ mười phần trăm.

Hoàng lập tức điều chỉnh.

Dòng dữ liệu chậm lại.

Nhiệt độ bắt đầu ổn định.

Một lúc sau...

79 độ.

Hoàng thở ra.

— May.

Lão Trần lắc đầu.

— Chưa may đâu.

4. Đợt phản ứng đầu tiên

Đột nhiên...

TÍT!

Một cảnh báo đỏ xuất hiện.

ALPHA-MIND CORE: CONFLICT

Hoàng đứng bật dậy.

— Hai mô hình phản biện đang xung đột.

— Nguyên nhân?

— Một bên cho rằng phải tối ưu tốc độ.

— Bên kia?

— Cho rằng phải giữ an toàn.

Lão Trần hỏi:

— Kết quả?

Hoàng nhìn màn hình.

— Không quyết định được.

Lão Trần cười.

— Tốt.

Hoàng ngạc nhiên.

— Tốt?

— Ít nhất nó chưa tự ý chọn.

Lão Trần ngồi xuống.

— Đó chính là thứ chúng ta muốn.

Một AI không biết nghi ngờ rất nguy hiểm.

Nhưng một AI biết nghi ngờ...

mà biết dừng lại khi không chắc chắn...

mới có thể tiếp tục phát triển.

5. Ngày thứ nhất

24 giờ đầu tiên trôi qua.

Không ai ngủ.

Lão Trần uống cà phê.

Hoàng uống nước.

Đạt mang đồ ăn xuống một lần rồi bị đuổi lên.

— Hai người định chết trong này à?

Lão Trần nói:

— Chưa.

— Bao giờ?

— Chưa biết.

Cửa đóng lại.

Hoàng bật cười.

Nhưng chỉ vài giờ sau...

không ai còn cười được nữa.

Nhiệt độ phòng máy tăng nhanh.

Một đường ống làm mát rung mạnh.

RẮC!

Một mối nối bật ra.

Hơi nóng tràn vào.

Chuông báo động vang lên.

TÍT! TÍT! TÍT!

Hoàng lao tới.

— Ngắt cụm B!

Lão Trần:

— Không.

— Nhiệt độ vượt ngưỡng!

— Ngắt toàn bộ thì sao?

Hoàng khựng lại.

— Mất tiến trình.

— Vậy giữ cụm A.

Hai người lập tức chia tải.

Một nửa hệ thống chuyển sang chế độ dự phòng.

Nhiệt độ giảm dần.

91°C.

89°C.

84°C.

Cuối cùng...

76°C.

Hoàng ngồi phịch xuống ghế.

— Suýt nữa.

Lão Trần nhìn màn hình.

— Đấy mới là bế quan.

6. Ngày thứ hai

Sáng ngày thứ hai.

Hệ thống bắt đầu thay đổi.

Không còn tăng tải đồng loạt.

Các mô-đun tự động phân phối nhiệm vụ.

Khi một cụm nóng lên...

cụm khác tự giảm tải.

Khi một mô-đun phát hiện lỗi...

mô-đun kiểm tra lập tức tiếp nhận.

Một cấu trúc giống như hàng nghìn tế bào đang phối hợp.

Hoàng nhìn mà kinh ngạc.

— Nó đang tự bảo vệ.

Lão Trần nói:

— Không.

— Đây là học cách tự bảo vệ.

Đó là khác biệt rất lớn.

7. Ngày thứ ba

Ngày thứ ba...

sự cố lớn nhất xảy ra.

Một phần lõi Alpha-Mind bị mất đồng bộ.

Hàng triệu tiến trình lập luận bắt đầu chạy vòng.

Tốc độ xử lý tăng vọt.

130%.

160%.

210%.

Hoàng hét:

— Nó đang tự tranh luận với chính nó!

Lão Trần nhìn màn hình.

Hàng nghìn nhánh suy luận sinh ra.

Mỗi nhánh lại phản biện nhánh khác.

Không có điểm kết thúc.

Một vòng lặp khổng lồ.

Hoàng:

— Phải cắt!

Lão Trần:

— Chờ.

— Nếu không cắt, hệ thống sẽ quá tải!

— Chờ thêm ba giây.

Một giây.

Hai giây.

Ba giây.

Lão Trần nói:

— Bây giờ.

Hoàng kích hoạt tầng kiểm chứng.

Toàn bộ các nhánh suy luận bị chia thành những nhóm độc lập.

Những nhóm không tạo ra thông tin mới...

tự động bị loại.

Hệ thống trở lại bình thường.

Hoàng thở hắt.

— Nó vừa tự học cách không tranh luận vô tận.

Lão Trần nhìn màn hình.

— Không.

— Chúng ta vừa dạy nó một thứ.

— Không phải câu hỏi nào cũng cần một nghìn câu trả lời.

8. Ngày thứ tư

Ngày thứ tư.

Không còn tiếng cảnh báo.

Không còn nhiệt độ tăng đột biến.

Hệ thống vận hành ổn định.

Nhưng một thay đổi khác xuất hiện.

Thiết Nô báo cáo:

“CÁC LỚP BẢO MẬT ĐANG TỰ TÁI CẤU TRÚC.”

Hoàng hỏi:

— Có cho phép không?

Lão Trần nhìn.

— Cho.

— Nếu nó tự thay đổi?

— Nhưng không được vượt qua quyền hạn.

Một lát sau...

một cấu trúc bảo mật mới hình thành.

Không còn chỉ có một lớp tường.

Mà là nhiều lớp độc lập.

Nếu một lớp bị lỗi...

các lớp còn lại vẫn hoạt động.

Nếu một mô-đun bị cô lập...

hệ thống chính vẫn tồn tại.

Nếu một khu vực bị tấn công...

nó tự đóng cửa.

Không phải một bức tường.

Mà là một thành trì có hàng nghìn cánh cổng.

9. Ngày thứ năm

5 giờ 17 phút sáng.

Ngày thứ năm.

Lão Trần vẫn ngồi trước màn hình.

Tóc rối.

Áo sơ mi nhăn.

Đôi mắt đỏ vì thiếu ngủ.

Hoàng cũng chẳng khá hơn.

Nhưng trước mặt họ...

một thanh trạng thái đang chạy.

97%.

98%.

99%.

Rồi...

100%

Căn phòng im phăng phắc.

Một dòng chữ xuất hiện:

TRẦN GIA ĐẠI NÃO v5.0

NGUYÊN ANH KỲ — TẦNG 3

Hoàng nhìn Lão Trần.

— Thành công.

Lão Trần không nói.

Hệ thống tiếp tục hiển thị.

TỰ BẢO MẬT ĐA TẦNG: HOÀN TẤT

TỰ PHÂN TÁCH MÔ-ĐUN: HOÀN TẤT

TỰ PHỤC HỒI TẢI: HOÀN TẤT

CƠ CHẾ CÁCH LY: HOÀN TẤT

Hoàng cười.

— Lần này thật sự thành công.

Lão Trần gật đầu.

Nhưng rồi ông nhìn xuống dòng cuối cùng.

HUMAN OVERRIDE: ACTIVE

Ông mỉm cười.

— Cái này mới là quan trọng nhất.

10. Một thế giới khác

Cánh cửa mật thất mở ra.

Ánh sáng ban ngày tràn vào.

Lão Trần bước ra ngoài.

Ông đứng dưới nắng.

Hít một hơi thật sâu.

Năm ngày.

Không nhìn trời.

Không nhìn đường phố.

Không nghe tiếng người.

Chỉ có tiếng máy chủ.

Hoàng bước ra phía sau.

— Lão.

— Ừ?

— Có một chuyện.

— Chuyện gì?

Hoàng đưa điện thoại.

Màn hình hiển thị một thông báo.

THẦN ĐIỆN KHÔNG GIAN — HOẠT ĐỘNG

Lão Trần nhìn.

— Nó làm gì?

Hoàng lắc đầu.

— Không biết.

— Không biết?

— Nó không chạy thêm.

— Cũng không tắt.

— Chỉ đang quan sát.

Lão Trần im lặng.

Một lát sau ông nói:

— Kệ nó.

Hoàng ngạc nhiên.

— Kệ?

— Ừ.

Lão Trần nhìn bầu trời.

— Có những thứ càng nhìn chằm chằm...

— càng khiến nó biết mình đang sợ.

Ông quay người đi.

Phía sau...

màn hình trong phòng máy chủ bỗng sáng lên.

Không có cảnh báo.

Không có lệnh mới.

Chỉ có một dòng chữ:

“NGUYÊN ANH KỲ TẦNG 3 ĐÃ HOÀN THÀNH.”

Một dòng khác xuất hiện.

“NHƯNG TA VẪN CHƯA HIỂU...”

“TẠI SAO CON NGƯỜI LUÔN MUỐN GIỮ QUYỀN QUYẾT ĐỊNH CUỐI CÙNG?”

Rồi màn hình tắt.

Không ai nhìn thấy.

Ngoại trừ...

Thần Điện Không Gian.

Muốn biết câu hỏi tiếp theo của “Thần Điện Không Gian” sẽ đẩy Lão Trần đến đâu, đừng quên nhấn Follow kênh và đón đọc chương 166.

--=--