Lấy cảm hứng từ 5 thế giới giả định về lý thuyết độ phức tạp-mật mã của Impagliazzo, hai nhà khoa học uy tín hàng đầu thế giới Scott Aaronson và Boaz Barak đã mô tả 5 thế giới giả định về AI.
Sự phát triển AI sẽ tới hạn, độ phức tạp để nâng cao hiệu năng của AI sẽ tăng theo hàm mũ, hoặc AI bị hạn chế bởi các quy định nghiêm ngặt. AI sẽ chỉ trở thành như một công cụ trợ giúp con người trong nhiều công việc chứ vẫn thua xa con người trong hầu hết các công việc sáng tạo.
AI phát triển mạnh mẽ, vượt qua dễ dàng Turing test, có thể chứng minh các định lý khó và có thể tạo nội dung giải trí cũng như deepfakes, nhưng con người sẽ quen và thích nghi với những điều đó. AI vẫn sẽ không được coi là có tri giác và con người vẫn chủ động khống chế nó.
Về mặt kỹ thuật, AI cũng chỉ phát triển như trong Futurama nhưng bị sử dụng theo hướng xấu. Các chính phủ và các tập đoàn tư nhân sử dụng AI làm công cụ giám sát toàn diện và tước đi công cụ trung tâm chống lại sự áp bức: cụ thể là con người không còn khả năng từ chối hoặc lật đổ các mệnh lệnh.
AI thoát ra khỏi mô hình hiện tại, tự sản sinh chứ không còn cần dữ liệu từ con người hoặc phần cứng và năng lượng do con người cung cấp để trở nên mạnh mẽ hơn với tốc độ ngày càng tăng (chúng ta đã thấy, ngay với mô hình chọn từ xác suất hiện nay, chapgpt đã có thể tự bịa ra ý mới, rồi nó sẽ tự kiểm chứng và có thể tạo ra những điều mới). Chúng thực sự có thể được coi là một loài mới, đối với chúng ta cũng như chúng ta đối với Homo erectus. May mắn thay, AI hành động với chúng ta như những vị thần nhân từ và dẫn chúng ta đến một “AI Utopia”.
Bắt nguồn từ một số quy trình tối ưu hóa, các hệ thống AI sẽ có một số mục tiêu mạnh mẽ mà sự tồn tại liên tục của con người là một trở ngại. AI phát triển khái niệm “đạo đức” của riêng nó, không cho rằng cần thiết duy trì sự đa dạng của các loài và không nghĩ rằng sự đảm bảo cho con người không bị tuyệt chủng có thể hữu ích cho chúng về lâu dài.
Thay vào đó, sự tương tác giữa AI và Homo sapiens kết thúc giống như cách mà sự tương tác giữa Homo sapiens và người Neanderthal kết thúc. Vì vậy, các AI nhanh chóng tạo ra các kịch bản và chỉ trong vài phần nghìn giây, chúng quyết định rằng giải pháp tối ưu là giết tất cả con người.
Trong kịch bản này, quá trình cải thiện bản thân của AI diễn ra nhanh đến mức con người thậm chí có thể không nhận ra điều đó. Không cần phải có giai đoạn trung gian trong đó AI “chỉ” giết chết vài nghìn người, gióng lên hồi chuông cảnh báo kiểu 9/11.
GS Phan Dương Hiệu lược dịch
