Khi mọi người hỏi tôi về trí tuệ nhân tạo, câu hỏi của họ thường xoay quanh hai điều: "Tôi nên lo lắng về điều gì?" và "Tôi nên lo lắng đến mức nào?" Trong suốt năm qua, tôi đã trả lời bằng cách khuyên họ đọc “The Coming Wave” (tựa tiếng Việt: Sóng thần công nghệ) của Mustafa Suleyman. Đây là cuốn sách mà tôi giới thiệu nhiều nhất về AI - cho các nguyên thủ quốc gia, các nhà lãnh đạo doanh nghiệp và bất kỳ ai hỏi - vì nó mang lại một điều hiếm thấy: một cái nhìn thấu đáo về cả những cơ hội phi thường và những rủi ro thực sự ở phía trước.

Tác giả, Mustafa Suleyman, mang đến một góc nhìn độc đáo về chủ đề này. Sau khi giúp xây dựng DeepMind từ một startup nhỏ thành một trong những công ty AI quan trọng nhất trong thập kỷ qua, ông tiếp tục sáng lập Inflection AI và hiện dẫn dắt bộ phận AI của Microsoft. Nhưng điều làm cho cuốn sách này trở nên đặc biệt không chỉ là kinh nghiệm thực tiễn của Mustafa, mà còn là sự hiểu biết sâu sắc của ông về lịch sử khoa học và cách mà các cuộc cách mạng công nghệ diễn ra. Ông là một nhà trí thức nghiêm túc, có khả năng rút ra những so sánh ý nghĩa qua hàng thế kỷ tiến bộ khoa học.

Hầu hết các bài viết về The Coming Wave đều tập trung vào những gì cuốn sách nói về trí tuệ nhân tạo. Điều này dễ hiểu, vì đây là một trong những cuốn sách quan trọng nhất từng được viết về AI. Có lẽ không ai đủ điều kiện hơn Mustafa để viết cuốn sách này. Ông đã có mặt vào năm 2016 khi AlphaGo của DeepMind đánh bại những người chơi cờ vây giỏi nhất thế giới - một trò chơi phức tạp hơn cờ vua rất nhiều với 2.500 năm tư duy chiến lược - bằng cách thực hiện những nước đi mà chưa ai từng nghĩ đến. Qua đó, chương trình máy tính dựa trên AI đã chứng minh rằng máy móc có thể đánh bại con người trong chính "trò chơi" của chúng ta - theo nghĩa đen - và cho Mustafa cái nhìn sớm về những điều sắp tới.

Nhưng điều làm cho cuốn sách của ông nổi bật so với những cuốn sách khác là nhận thức của Mustafa rằng AI chỉ là một phần trong sự hội tụ chưa từng có của những đột phá khoa học. Chỉnh sửa gen, tổng hợp DNA và các tiến bộ khác trong công nghệ sinh học đang tiến triển song song với tốc độ chóng mặt. Như tiêu đề cuốn sách gợi ý, những thay đổi này đang hình thành như một làn sóng ngoài khơi xa—vô hình với nhiều người nhưng ngày càng mạnh mẽ. Mỗi đột phá đều có khả năng thay đổi cuộc chơi; khi kết hợp, chúng sẵn sàng định hình lại mọi khía cạnh của xã hội.

Nhà sử học Yuval Noah Harari đã lập luận rằng con người nên tìm cách hợp tác và xây dựng lòng tin trước khi phát triển AI tiên tiến. Về lý thuyết, tôi đồng ý. Nếu tôi có một nút bấm ma thuật để làm chậm toàn bộ tiến trình này trong 30 hay 40 năm để nhân loại tìm ra lòng tin và các mục tiêu chung, có lẽ tôi sẽ nhấn nó. Nhưng nút bấm đó không tồn tại. Những công nghệ này sẽ được tạo ra, bất kể một cá nhân hay công ty nào làm gì đi chăng nữa.

Hiện tại, tiến trình đã và đang tăng tốc khi chi phí giảm mạnh và sức mạnh tính toán ngày càng lớn. Thêm vào đó là các động lực vì lợi nhuận và quyền lực đang thúc đẩy sự phát triển. Các quốc gia cạnh tranh với nhau, các công ty cạnh tranh với nhau, và các cá nhân cạnh tranh để tìm kiếm danh vọng và sự lãnh đạo. Những lực lượng này khiến sự tiến bộ công nghệ về cơ bản không thể ngăn cản - và đồng thời khiến việc kiểm soát trở nên khó khăn hơn.

Trong các cuộc trò chuyện của tôi về AI, tôi thường nhấn mạnh ba rủi ro chính mà chúng ta cần xem xét. Đầu tiên là tốc độ thay đổi kinh tế nhanh chóng. AI có thể thay đổi cơ bản bản chất của công việc và ảnh hưởng đến việc làm trong hầu hết các ngành, bao gồm cả những công việc trí óc vốn trước đây được xem là an toàn trước tự động hóa. Thứ hai là vấn đề kiểm soát, hay khó khăn trong việc đảm bảo rằng các hệ thống AI vẫn phù hợp với các giá trị và lợi ích của con người khi chúng ngày càng tiên tiến. Rủi ro thứ ba là khi một kẻ xấu có quyền truy cập vào AI, họ sẽ trở nên mạnh mẽ hơn, và có khả năng thực hiện các cuộc tấn công mạng, tạo ra vũ khí sinh học, thậm chí làm tổn hại đến an ninh quốc gia.

Rủi ro cuối cùng này - trao quyền cho kẻ xấu - chính là thứ dẫn đến thách thức lớn nhất của thời đại chúng ta: sự kiềm chế. Làm thế nào để chúng ta hạn chế những nguy hiểm của các công nghệ này trong khi vẫn tận dụng được lợi ích của chúng? Đây là câu hỏi cốt lõi trong cuốn “The Coming Wave”, bởi vì sự kiềm chế là nền tảng cho tất cả những điều khác. Nếu không có nó, rủi ro từ AI và công nghệ sinh học sẽ càng trở nên nghiêm trọng hơn. Bằng cách giải quyết vấn đề này trước, chúng ta tạo ra sự ổn định và lòng tin cần thiết để đối mặt với tất cả những vấn đề khác.

Tất nhiên, nói thì dễ hơn làm.

Trong khi các công nghệ mang tính cách mạng trước đây như vũ khí hạt nhân có thể được kiểm soát thông qua an ninh vật lý và các biện pháp kiểm soát tiếp cận nghiêm ngặt, AI và công nghệ sinh học lại mang đến một thách thức hoàn toàn khác. Chúng ngày càng trở nên dễ tiếp cận và có giá cả phải chăng hơn, việc phát triển chúng gần như không thể phát hiện hoặc giám sát, và chúng có thể được sử dụng kín đáo sau cánh cửa đóng kín với cơ sở hạ tầng tối thiểu. Cấm chúng đồng nghĩa với việc các bên thiện chí sẽ tự nguyện giải trừ vũ khí, trong khi những kẻ xấu vẫn tiến tới. Và điều này sẽ gây tổn hại cho tất cả mọi người vì những công nghệ này vốn dĩ có tính chất "hai mặt". Các công cụ có thể được sử dụng để tạo ra vũ khí sinh học cũng có thể chữa khỏi bệnh; AI có thể dùng để thực hiện các cuộc tấn công mạng cũng có thể được dùng để củng cố an ninh mạng.

Vậy chúng ta làm thế nào để kiểm soát trong thực tế mới này? Thật không công bằng khi phàn nàn rằng Mustafa không tự mình giải quyết một trong những vấn đề phức tạp nhất mà nhân loại từng đối mặt. Tuy nhiên, ông đưa ra một chương trình nghị sự đầy tham vọng, phù hợp với quy mô của thách thức - từ các giải pháp kỹ thuật (như xây dựng công tắc khẩn cấp để ngắt hệ thống AI) đến những thay đổi thể chế sâu rộng, bao gồm các hiệp ước toàn cầu mới, khung pháp lý hiện đại hóa, và sự hợp tác lịch sử giữa các chính phủ, công ty và nhà khoa học. Khi đọc danh sách các khuyến nghị của ông, bạn có thể tự hỏi liệu chúng ta có thực sự làm được tất cả điều này kịp thời không. Nhưng chính điều đó làm cuốn sách này trở nên quan trọng: Nó giúp chúng ta hiểu được tính cấp bách khi thời gian vẫn còn để hành động.

Tôi luôn là một người lạc quan, và việc đọc  “The Coming Wave” không thay đổi điều đó. Tôi tin chắc rằng những tiến bộ trong AI và công nghệ sinh học có thể giúp tạo ra các phương pháp điều trị đột phá cho những căn bệnh chết người, các giải pháp sáng tạo cho biến đổi khí hậu, và biến giáo dục chất lượng cao thành hiện thực cho tất cả mọi người. Nhưng sự lạc quan thực sự không phải là niềm tin mù quáng. Đó là nhìn thấy cả những mặt tích cực và rủi ro, sau đó làm việc để định hình kết quả theo hướng tốt hơn.

Dù bạn là người đam mê công nghệ, nhà hoạch định chính sách, hay chỉ đơn giản là một người muốn hiểu thế giới đang đi về đâu, bạn nên đọc cuốn sách này. Nó sẽ không mang lại cho bạn những câu trả lời dễ dàng, nhưng nó sẽ giúp bạn đặt ra những câu hỏi đúng — và giúp bạn chuẩn bị tốt hơn để cưỡi trên làn sóng sắp tới, thay vì bị cuốn trôi bởi nó.

- Trạm Đọc

- Theo Gates Notes