Sự nổi lên của dân chủ tự do có liên quan đến những tư tưởng tự do và bình đẳng có vẻ như là điều hiển nhiên và không thể đảo ngược Nhưng những tư tưởng này còn mong manh dễ vỡ hơn ta nghĩ. Sự thành công của chúng trong thế kỉ 20 phụ thuộc vào những điều kiện công nghệ độc đáo có thể được chứng minh là không bền vững.

Trong thập kỉ thứ hai của thế kỉ 21, chủ nghĩa tự do cá nhân bắt đầu mất đi sự tin cậy. Những câu hỏi về khả năng của nền dân chủ tự do cho tầng lớp trung lưu đã ngày càng nhiều hơn; chính trị thì ngày càng mọi rợ, và càng ngày càng có nhiều nước có những lãnh đạo thể hiện ra xu hướng mị dân và độc tài. Nguyên nhân gây ra sự chuyển dịch mang tính chính trị này rất phức tạp, nhưng chúng có vẻ như có liên quan đến sự phát triển của khoa học công nghệ hiện nay. Công nghệ dành cho nền dân chủ đang thay đổi, và cũng như trí tuệ nhân tạo đang phát triển, nó thậm chí còn có thể đi xa hơn.

Công nghệ thông tin vẫn tiếp tục có những bước nhảy vọt, công nghệ sinh học bắt đầu mở ra một cánh cửa đi vào đời sống nội tâm của ta—cảm xúc, suy nghĩ và lựa chọn của ta. CNTT và CNSH sẽ cùng nhau tạo ra những biến động chưa từng có trong xã hội loài người, làm xáo trộn trật tự loài người và thậm chí là có thể chống lại những khao khát của con người. Dưới những điều kiện như thế, dân chủ tự do và thị trường tự do có thể trở nên lỗi thời.

Người bình thường có thể sẽ không hiểu được trí tuệ nhân tạo và công nghệ sinh học một tí nào, nhưng họ có thể cảm giác được rằng tương lai đang lướt qua họ. Năm 1938, điều kiện sống của con người nói chung dù là ở Liên Xô, Đức hay  Mỹ có thể khắc nghiệt, nhưng con người vẫn tiếp tục nói rằng anh ta là thứ quan trọng nhất trên đời, anh ta chính là tương lai (phải nói thêm là anh ta là “người bình thường” chứ không phải một người Do Thái hay một phụ nữ). Anh ta nhìn vào những áp-phích tuyên truyền—thường vẽ những người thợ mỏ và công nhân nhà máy thép trong tư thế của những người hùng—và thấy hình bóng mình ở trong đó. “Ta là người ở trong tranh! Ta chính là người hùng của tương lai.”

Năm 2018, một người bình thường ngày càng cảm thấy mất đi vị thế của mình. Rất nhiều những thuật ngữ bí ẩn hiện ra trong những buổi TED Talks, ở các think-tank của nhà nước và các hội nghị công nghệ cao—toàncầuhóa, blockchain, kỹthuậtditruyền, AI, họcmáy—và người bình thường, dù là đàn ông hay phụ nữ, đều cho rằng những khái niệm đó chẳng liên quan gì đến mình.

Trong thế kỉ 20, quần chúng nổi dậy chống lại việc bị bóc lột và tìm cách chuyển hóa vai trò quan trọng của họ trong nền kinh tế thành quyền lực chính trị. Nay quần chúng cảm thấy mình không có vai trò gì và họ điên cuồng sử dụng chút quyền lực chính trị còn lại của mình trước khi quá muộn. Brexit và Donald Trump ở đây có thể được coi như một minh chứng cho quỹ đạo hoàn toàn trái ngược với những cuộc cách mạng chủ nghĩa xã hội truyền thống.

Những cuộc cách mạng Nga, Trung Quốc và Cuba được tạo ra bởi những người có vai trò sống còn trong nền kinh tế nhưng lại thiếu đi quyền lực chính trị; năm 2016, Trump và Brexit được ủng hộ bởi những người vẫn còn đang tận hưởng quyền lực chính trị nhưng lại sợ rằng mình mất đi vị thế trong nền kinh tế. Có lẽ trong thế kỉ 21, các cuộc cách mạng quần chúng sẽ không nổ ra để chống lại giới tinh hoa trong kinh tế chuyên bóc lột con người, mà là chống lại giới tinh hoa trong nền kinh tế mà không cần đến con người. Đây có thể là một trận chiến bại. Đấu tranh chống lại việc mất đi vị thế của chính mình thì khó hơn rất nhiều so với chống lại sự bóc lột.

Các cuộc cách mạng trong công nghệ thông tin và công nghệ sinh học vẫn còn trong giai đoạn trứng nước, và mức độ mà chúng chịu trách nhiệm cho cuộc khủng hoảng hiện tại của chủ nghĩa tự do vẫn còn gây tranh cãi. Những người ở Birmingham, Istanbul, St. Peterburg và Mumbai chỉ nhận thức lờ mờ, đồ rằng họ nhận thức được gì đó, về sự trỗi dậy của AI và sức ảnh hưởng tiềm tàng của nó tới cuộc sống của họ. Chẳng có gì nghi ngờ về việc cách mạng công nghệ sẽ tạo đà trong vài thập kỉ tới và loài người sẽ phải đối đầu với những thử thách khó khăn nhất mà họ chưa bao giờ gặp phải.

Chủ nghĩa tự do cá nhân hòa giải giai cấp tư sản và vô sản, người theo tôn giáo và kẻ vô thần, người bản xứ và dân nhập cư, người châu Âu và châu Á bằng cách hứa hẹn mỗi người đều có một miếng to hơn trong cái bánh. Với một cái bánh không ngừng to phồng ra, đó là điều khả thi. Và cái bánh có thể tiếp tục phồng ra nữa. Tuy nhiên, phát triển kinh tế có thể không giải quyết được những vấn đề xã hội được tạo nên bởi sự gián đoạn trong công nghệ, bởi vì tăng trưởng kinh tế ngày càng dựa trên những công nghệ phức tạp hơn.

Nỗi sợ cho rằng máy móc sẽ cướp lấy việc của con người trên thị trường việc làm dĩ nhiên là một điều không mới, và những nỗi sợ tương tự trong quá khứ đã được chứng minh là vô căn cứ. Nhưng trí tuệ nhân tạo là hoàn toàn khác so với những máy móc xa xưa. Trong quá khứ, máy móc cạnh tranh với con người chủ yếu là trong kĩ năng thao tác bằng tay. Bây giờ chúng đã bắt đầu cạnh tranh với con người trong kĩ năng nhận thức. Và chúng ta không biết một loại kĩ năng nào khác—ngoài thao tác tay chân và đầu óc—mà con người lúc nào cũng đang ở lưng chừng mép vực.

Ít nhất trong vài thập kỷ nữa, trí thông minh của con người vẫn sẽ có khả năng vượt xa trí thông minh máy tính trong nhiều lĩnh vực. Do đó, khi các máy tính tiếp nhận các công việc nhận thức thông thường hơn, các công việc sáng tạo mới cho con người sẽ tiếp tục xuất hiện. Nhiều công việc mới này có lẽ sẽ phụ thuộc vào sự hợp tác hơn là cạnh tranh giữa con người và AI. Các nhóm Người-AI có khả năng sẽ chứng minh rằng chúng có năng lực tốt hơn không chỉ với con người, mà còn với cả các máy tính tự hành.

Tuy nhiên thì hầu hết các công việc mới có lẽ sẽ đòi hỏi trình độ chuyên môn cao và khéo léo, và do đó có thể không cung cấp được đầu ra cho người lao động không có kỹ năng, hoặc người lao động chỉ có thể trả lương rất thấp. Hơn nữa, khi AI tiếp tục cải thiện, ngay cả những công việc đòi hỏi trí thông minh và sáng tạo cao dần dần có thể biến mất.Cờ vua có thể được coi như là một ví dụ đầu tiên. Trong nhiều năm sau khi máy tính của IBM Deep Blue đánh bại Garry Kasparov vào năm 1997, những người chơi cờ vua vẫn phát triển mạnh; AI đã được sử dụng để đào tạo thần đồng của con người, và các đội bao gồm con người cộng tác với máy tính tỏ ra vượt trội so với việc chỉ dùng mỗi máy tính.

Trong những năm gần đây, máy tính đã chơi cờ giỏi đến nỗi mà những người cộng sự bằng xương bằng thịt đã mất đi giá trị và có thể sẽ sớm hoàn toàn mất đi vai trò của mình. Ngày 6 tháng 12 năm 2017, một cột mốc quan trọng đã được xác lập khi AlphaZero của google đã đánh bại được Stockfish 8. Stockfish 8 đã từng thắng một giải vô địch cờ thế giới trong năm 2016. Nó đã thâu tóm được toàn bộ những kinh nghiệm mà nhân loại thu thập được qua hàng vài thế kỉ, và hàng thập kỉ kinh nghiệm của máy tính. Ngược lại, những người tạo ra AlphaZero không hề dạy cho nó bất kì chiến thuật nào trong cờ vua , ngay cả những nước khai cuộc. Thay vào đó, nó dùng những quy tắc học máy để tự dạy cho mình cách chơi cờ bằng cách chơi với chính mình. Dù sao đi nữa, trong 100 ván cờ mà tay mơ AlphaZero đã chơi với Stockfish 8, AlphaZero đã thắng 28 và hòa 72, nó thậm chí còn không thua một ván nào. Từ khi AlphaZero không học được bất kì điều gì từ con người, rất nhiều những chiến lược và nước đi của nó có vẻ như độc đáo trong con mắt của nhân loại. Người ta có thể dùng từ sáng tạo, hay có thể nói là thực sự thiên tài.

Bạn có đoán được là AlphaZero đã dành bao nhiêu thời gian để học từ những thứ cơ bản, chuẩn bị cho trận đấu với Stockfish 8 và tạo thành bản năng thiên bẩm của nó? Bốn giờ đồng hồ. Qua nhiều thế kỉ, cờ được coi là một vinh quang chói lọi của trí tuệ nhân loại. AlphaZero đi từ sự vô tri tới bậc thầy sáng tạo trong bốn tiếng đồng hồ, mà không cần bất kì sự hỗ trợ nào từ con người.

AlphaZero không chỉ là phần mềm tưởng tượng duy nhất ở đây. Một trong những cách để bắt được những kẻ gian lận trong các giải đấu cờ vua ngày nay là quan sát độ độc đáo mà người chơi thể hiện. Nếu họ đi một nước cờ sáng tạo một cách bất ngờ, trọng tài sẽ nghi ngờ rằng đó có phải là một nước đi của con người hay một nước đi của máy tính. Ít nhất là trong cờ vua, sự sáng tạo đã được coi là thương hiệu của máy tính chứ không phải là con người! Vì vậy, nếu cờ vua là cục vàng trong mỏ than của chúng ta, thì ta đang được nhắc nhở rằng cục vàng đó sắp tàn rồi. Điều gì đang xảy ra ngày hôm nay với các đội AI-con người trong cờ vua có thể xảy ra với các đội AI-con người trong quản lý, y tế, ngân hàng và nhiều lĩnh vực khác.

Hơn thế nữa, AI có những khả năng độc nhất vô nhị phi nhân tính, phân biệt giữa AI và một nhân viên con người thành hai loại khác nhau chứ không còn là vấn đề trình độ. Hai khả năng vô cùng quan trọng mà AI sở hữu là khả năng kết nối và khả năng cập nhật.

Ví dụ: nhiều người lái xe không quen thuộc với tất cả các quy tắc giao thông thay đổi trên đường họ lái xe và họ thường xuyên vi phạm. Ngoài ra, vì mỗi người lái xe là một thực thể độc lập, khi hai chiếc xe đến gần giao lộ tương tự, các lái xe đôi khi hiểu sai ý định của họ và xảy ra  va chạm. Ngược lại, những chiếc xe tự lái sẽ biết tất cả các quy tắc giao thông và không bao giờ cố tình vi phạm chúng, và tất cả chúng có thể được kết nối với nhau. Khi hai xe như vậy tiếp cận một giao lộ, chúng sẽ không thực sự là hai thực thể riêng biệt, nhưng là một phần của một thuật toán đơn lẻ. Cơ hội khiến chúng có thể tạo ra lỗi và va chạm vào nhau do đó sẽ nhỏ hơn nhiều.

Tương tự, nếu Tổ chức Y tế Thế giới xác định được một căn bệnh mới, hoặc nếu một phòng thí nghiệm sản xuất một loại thuốc mới, nó không thể ngay lập tức cập nhật cho tất cả các bác sĩ con người trên toàn cầu. Tuy nhiên, khi bạn có hàng tỷ bác sĩ AI trên thế giới - mỗi người theo dõi sức khỏe của một người - bạn có thể cập nhật tất cả trong vòng một giây, và các bác sĩ này có thể trao đổi với nhau về những đánh giá của họ về căn bệnh mới hoặc dược phẩm mới. Những lợi thế tiềm năng của  khả năng kết nối và cập nhật này rất lớn đến mức ít nhất trong một số công việc, người ta có thể thay thế tất cả mọi người bằng máy tính, ngay cả khi một số người vẫn làm tốt hơn máy móc.

Tất cả điều này dẫn đến một kết luận rất quan trọng: Cuộc cách mạng tự động hóa sẽ không bao gồm một sự kiện khởi đầu duy nhất, sau đó thị trường việc làm sẽ ổn định vào một trạng thái cân bằng mới. Thay vào đó, nó sẽ là một loạt các xáo trộn lớn hơn bao giờ hết. Công việc cũ sẽ biến mất và công việc mới sẽ xuất hiện, nhưng công việc mới cũng sẽ nhanh chóng thay đổi và biến mất. Mọi người sẽ cần phải được đào tạo lại và tự tái sinh không chỉ một lần mà còn nhiều lần.

Cũng như trong các chính phủ thế kỷ 20 đã thiết lập các hệ thống giáo dục đại chúng cho giới trẻ, nhưng trong thế kỷ 21, họ sẽ cần thiết lập các hệ thống tái giáo dục cho toàn bộ quần chúng. Nhưng điều đó có đủ không? Thay đổi luôn luôn căng thẳng, và thế giới bận rộn của đầu thế kỷ 21 đã tạo ra một đại dịch căng thẳng toàn cầu. Khi sự biến động công việc tăng lên, mọi người sẽ có thể đương đầu với nó không? Đến năm 2050, một tầng lớp vô dụng có thể xuất hiện, kết quả không chỉ là thiếu đi những việc làm có vị trí trong xã hội mà thậm chí còn thiếu đi cả ý chí tinh thần để học thêm những kĩ năng mới.

AI làm nhiều người khiếp sợ bởi vì họ nghĩ rằng nó sẽ nổi loạn. Khoa học viễn tưởng vẽ ra khả năng rằng máy tính hay robot sẽ phát triển ý thức và sau đó cố gắng tiêu diệt loài người. Nhưng chẳng có lí do đặc biệt nào để tin rằng AI sẽ có ý thức khi nó trở nên ngày càng thông minh. Chúng ta nên sợ hãi AI khi chúng có thể sẽ luôn luôn vâng lời ông chủ loài người của mình và không bao giờ nổi loạn. AI là một công cụ và là một thứ vũ khí không giống với bất kì cái gì mà loài người đã tạo ra; nó sẽ khiến cho những kẻ quyền lực củng cố thêm vị trí của mình.

Hãy để ý mà xem các hệ thống giám sát. Rất nhiều nước trên khắp thế giới, bao gồm vài nước dân chủ đang xắn tay áo lên để sản xuất ra những hệ thống giám sát ngày đêm. Ví dụ như Israel là nước đi đầu trong lĩnh vực công nghệ giám sát, và họ đã xây dựng ở Bờ Tây sông Jordan một hệ thống giám sát toàn diện. Bất cứ khi nào người Palestine gọi một cuộc điện thoại, đăng gì đó lên Facebook, hay di chuyển từ nơi này sang nơi khác, họ gần như bị theo dõi bởi microphone, camera, máy bay không người lái hay phần mềm gián điệp được tạo ra bởi người Israel. Các thuật toán phân tích thông tin đã thu thập được , giúp lực lượng an ninh Israel tiêu diệt những ai họ cho rằng là nguy cơ tiềm năng. Người  Palestine có thể kiểm soát vài thị trấn và làng mạc ở Bờ Tây, nhưng người Israel kiểm soát cả bầu trời, sóng radio và không gian mạng. Chỉ vài người lính Israel đã kiểm soát 2.5 triệu người Palestin sống ở khu Bờ Tây.

Trong một vụ việc vào tháng 10 năm 2017, một người lao động Palestine đã đăng lên Facebook cá nhân của mình ảnh của chính anh chụp tại nơi làm việc, bên cạnh là những chiếc máy ủi. Dòng caption cho ảnh, anh viết “Xin chào!”. Một công cụ dịch của Facebook đã có lỗi khi dịch những dòng chữ Ả-rập. Thay vì nhận là Ysabechhum (có nghĩa là chào buổi sáng!), thuật toán đã nhận diện những dòng chữ của anh là Ydbachhum (có nghĩa là Tấn công chúng). Cho rằng người đàn ông đó có thể là một kẻ khủng bố đang có ý định sử dụng máy ủi để đâm mọi người, công an Israel đã bắt anh ta. Họ thả anh ngay sau khi nhận ra rằng thuật toán đã sai lầm. Thế nên, những bài viết mang tính công kích trên Facebook có thể bị gỡ xuống, nhưng bạn phải rất cẩn thận. Những gì mà người Palestine trải qua mỗi ngày ở Bờ Tây rất có thể chỉ là mở màn cho những gì mà mọi người trên khắp hành tinh này sẽ nếm trải trong tương lai.

Hãy thử tưởng tượng rằng chính quyền Bắc Triều Tiên có được thứ công nghệ tiên tiến hơn thế này trong tương lai. Người Triều Tiên có thể sẽ bị buộc phải đeo một vòng tay sinh trắc học để giám sát mọi thứ họ nói hay làm, cũng như huyết áp và tín hiệu não. Bằng cách hiểu thêm về não bộ con người và áp dụng sức mạnh của học máy, chính phủ Triều Tiên hoàn toàn có thể đo được những gì mà công dân của họ nghĩ mỗi giây mỗi phút. Nếu một người Triều Tiên nhìn vào tấm hình của Kim Jong Un và cảm biến sinh trắc sẽ nhận ra tín hiệu của sự tức giận (tăng huyết áp, tăng hoạt động trong hạch hạnh nhân), thì rất có thể người đó sẽ đi cải tạo vào hôm sau.

Nhưng những biện pháp cứng rắn này về phần nhiều là chưa cần thiết. Bộ mặt giả hiệu của tự do lựa chọn và tự do bầu cử có thể tồn tại tại vài quốc gia, ngay cả khi nhân dân càng ngày càng ít đi sự kiểm soát. Điều chắc chắn là những hành vi thao túng cảm xúc người bầu cử là điều không hề mới. Nhưng một người nào đó (dù ở nơi nào trên thế giới) có công nghệ để thao túng trái tim nhân loại một cách rẻ tiền, đáng tin cậy và rộng rãi, nền dân chủ sẽ biến thành một màn hài kịch múa rối.

Dường như chúng ta sẽ không phải đối mặt với cuộc nổi loạn của những người máy có ý thức trong những thập kỉ tới, mà phải chống lại quân đoàn những con “bot” biết cách nhấn nút cảm xúc của chúng ta hơn cả mẹ và dùng khả năng này dưới sự chỉ huy của giới tinh hoa, để cố gắng bán cho chúng ta một cái gì đó: có thể là một cái xe, một chính trị gia hay là cả một ý thức hệ. Những con bot này có thể nhận diện những cảm xúc sợ hãi, căm thù sâu thẳm nhất trong con người và dùng chúng để chống lại chúng ta. Chúng ta đã được thử nếm trải cảm giác này trong các cuộc bầu cử và trưng cầu dân ý gần đây trên toàn thế giới, khi hacker biết cách thao túng cử tri bằng cách phân tích dữ liệu của họ và khai thác những định kiến trong họ. Khi khoa học viễn tưởng vẽ vời ra một thảm họa bi kịch đầy khói lửa, trên thực tế chúng ta phải đối diện với các thảm họa tầm thường bằng cách bấm chuột.

Tác động lớn nhất và đáng sợ nhất của cuộc cách mạng Trí tuệ Nhân tạo có thể là cán cân tương đối giữa dân chủ và độc tài. Trong lịch sử, các chính quyền chuyên chế đã phải đối mặt với những khiếm khuyết liên quan đến đổi mới và tăng trưởng kinh tế. Vào cuối thế kỉ 20, nền dân chủ đã đánh bật nền chuyên chế độc tài, bởi vì chúng đã làm tốt hơn trong việc xử lý thông tin. Ta thường có xu hướng nghĩ rằng mâu thuẫn giữa độc tài và dân chủ là cuộc đấu tranh giữa hai hệ đạo đức khác nhau, nhưng thực ra nó là cuộc đấu tranh giữa các hệ thống xử lý thông tin. Nền dân chủ phân tán sức mạnh xử lý thông tin và đưa ra quyết định cho nhiều người và nhiều tổ chức, trong khi độc tài thì tập trung thông tin và quyền lực vào chung một chỗ. Với công nghệ ở thế kỉ 20, việc tập trung thông tin và quyền lực tại một chỗ không đem lại nhiều hiệu quả. Không ai có khả năng xử lí toàn bộ những dữ liệu sẵn có đủ nhanh để có thể đưa ra quyết định chính xác. Đây là lí do tại sao Liên bang Xô Viết đưa ra quyết định tệ hơn rất nhiều so với nước Mỹ và bị Mỹ bỏ xa về mặt kinh tế.

Tuy nhiên , trí tuệ nhân tạo nay có thể nghiên cán cân về phía còn lại. AI giúp ta có thể xử lí một lượng dữ liệu tập trung khổng lồ. Trên thực tế, nó khiến các hệ thống tập trung hiệu quả hơn so với hệ thống phân tán, bởi vì học máy làm việc tốt hơn khi cỗ máy đó nhận được nhiều thông tin hơn để phân tích. Nếu bạn phớt lờ mọi mối quan ngại về sự riêng tư và tập trung mọi thông tin của hàng tỉ người vào một cơ sở dữ liệu, bạn sẽ thất bất ngờ vì thuật toán làm việc tốt hơn là bạn tôn trọng quyền riêng tư và chỉ có một vài thông tin của vài triệu người trong cơ sở dữ liệu. Một chính phủ toàn trị yêu cầu công dân của họ đi kiểm tra ADN và chia sẻ dữ liệu chăm sóc y tế với chính quyền sẽ có lợi thế rất lớn trong nghiên cứu gen và y học so với một xã hội mà dữ liệu y tế là vấn đề riêng tư. Bất lợi chính của chính phủ toàn trị ở thế kỉ 20 — khao khát tập trung toàn bộ dữ liệu và quyền lực vào một chỗ — dường như là lợi thế lớn nhất của họ trong thế kỉ 21.

Các công nghệ mới sẽ tiếp tục nổi lên, tất nhiên, và một số công nghệ có thể khuyến khích phân phối hơn là tập trung thông tin và quyền lực. Công nghệ Blockchain và việc sử dụng các cryptocurrencies nhờ phân tán, hiện được chào hàng như một đối trọng có thể so với quyền lực tập trung. Nhưng công nghệ blockchain vẫn còn trong giai đoạn phôi thai, và chúng ta vẫn chưa biết liệu nó có thực sự đối trọng với xu hướng tập trung của AI hay không. Hãy nhớ rằng Internet, cũng đã bị thổi phồng trong những ngày đầu của nó như là một thuốc chữa bách bệnh tự do để giải thoát mọi người khỏi tất cả các hệ thống tập trung - nhưng bây giờ đã sẵn sàng để làm cho quyền lực tập trung mạnh mẽ hơn bao giờ hết.

Con người đã từng nghĩ về cuộc sống như một bi kịch của sự lựa chọn. Nền dân chủ tự do và chủ nghĩa tư bản thị trường tự do coi cá nhân con người là một đại diện liên tục đưa ra những lựa chọn về thế giới. Các tác phẩm nghệ thuật—như kịch Shakespeare, tiểu thuyết của Jane Austen hay hài nhảm nhí Hollywood—thường xuyên xoay vần giữa việc nhân vật trong đó phải đưa ra những quyết định tối quan trọng. Tồn tại hay không tồn tại? Nghe lời vợ và giết vua Duncan hay nghe lời lý trí và tha cho hắn? Cưới Ngài Collins hay Ngài Darcy? Giáo lí của Thiên Chúa giáo và Hồi giáo cũng tập trung vào bi kịch lựa chọn, cho rằng cứu rỗi duy nhất phụ thuộc vào việc đưa ra sự chọn đúng đắn.

Điều gì xảy ra với quan điểm sống này nếu như chúng ta dựa vào AI để quyết định cho bản thân? Ngay bây giờ ta tin tưởng vào Youtube sẽ đưa ra gợi ý cho video tiếp theo và Spotify chọn những bài hát ta thích. Nhưng sự hữu dụng của AI có dừng lại chỉ ở đó thôi không?

Mỗi năm có hàng triệu học sinh cấp 3 cần quyết định là mình phải học gì. Đây là một quyết định quan trọng và khó khăn, khiến cha mẹ, bạn bè, giáo viên cũng bị áp lực với mỗi người lại có quan điểm và mối quan tâm khác nhau. Nó cũng bị ảnh hưởng bởi ảo tưởng và nỗi sợ của chính bản thân học sinh, mà chính họ cũng được định hình bởi truyện tranh, tiểu thuyết, phim ảnh và các chiến dịch quảng cáo. Với những thứ phức tạp ở trên, một hoc sinh không thực sự biết điều gì cần cho một sự nghiệp thành công và không có một cảm giác thực tế đúng đắn về sở trường và khuyết điểm của mình.

Sẽ không quá khó để hình dung ra rằng một ngày nào đó AI có thể đưa ra quyết định tốt hơn chúng ta trong việc lựa chọn nghề nghiệp và thậm chí là cả các mối quan hệ yêu đương. Nhưng một khi chúng ta đã tin tưởng vào AI để quyết định xem học gì, làm ở đâu và hẹn hò hay cưới ai, cuộc sống con người sẽ không còn là bi kịch của sự lựa chọn và khái niệm của chúng ta về cuộc sống cũng phải thay đổi. Bầu cử dân chủ và thị trường tự do sẽ trở nên vô nghĩa. Tôn giáo và nghệ thuật cũng thế. Hãy thử tưởng tượng Anna Karenina rút smartphone ra và hỏi Siri là nên bỏ chàng Karenin hay đi theo tiếng gọi tình yêu từ Bá tước Vronsky. Hay thử tưởng tượng vở kịch yêu thích của bạn với mọi quyết định quan trọng đều đến từ Google search. Hamlet và Macbeth có thể sẽ có cuộc sống dễ chịu hơn, nhưng đó là kiểu sống gì vậy? Chúng ta làm gì khi sống một cuộc đời như thế?

Liệu các nghị viện và đảng phái có thể vượt qua những thách thức trên và đứng vững trước bối cảnh đen tối hơn? Vào thời điểm hiện tại, câu trả lời dường như là không. Công nghệ dường như không phải là mục tiêu hàng đầu trong các chiến dịch chính trị. Trong cuộc chạy đua vào ghế tổng thống năm 2016, thứ duy nhất có liên quan đến sự sụp đổ của công nghệ là những e-mail bị lộ của Hillary Clinton, và mặc dù nói rất nhiều về nạn thất nghiệp, không có ứng viên nào nói ra những ảnh hưởng từ tự động hóa. Donald Trump dọa cử tri rằng người Mexico sẽ cướp việc của họ và nước Mỹ nên xây một bức tường ở phía Nam. Ông ta chưa bao giờ cảnh báo cử tri rằng thuật toán có thể đánh cắp việc làm, và họ nên dựng một bức tường lửa ở California.

Vậy ta nên làm gì?

Đầu tiên, ta cần quan tâm nhiều hơn đến việc hiểu về tâm trí con người - đặc biệt là hiểu được rằng trí tuệ và lòng trắc ẩn của chúng ta có thể bị khai thác. Nếu ta đầu tư quá nhiều vào AI và quá ít vào phát triển tâm trí con người, trí tuệ nhân tạo siêu phức tạp của máy tính có thể chỉ được dùng để tăng sức mạnh cho bản chất ngu ngốc của loài người và nuôi dưỡng những động lực tệ hại nhất của chúng ta, bao gồm tham lam và thù hận. Để tránh một viễn cảnh như thế, với mỗi đô-la và mỗi phút ta đầu tư cho phát triển AI, sẽ thông minh hơn nếu dành nó cho việc khám phá tâm trí con người.

Thực tế hơn, và ngay lúc này, nếu ta muốn ngăn chặn quyền lực và của cải rơi vào tay một nhóm tinh hoa, ta phải kiểm soát và sở hữu dữ liệu của chính mình. Thời cổ đại, các vùng đất là tài sản quan trọng nhất nên các chính khách đấu tranh để kiểm soát đất đai. Thời hiện đại, máy móc và nhà xưởng là yếu tố sống còn của việc sản xuất. Vào thế kỉ 21, dữ liệu sẽ bao trùm tất cả các vùng đất và cơ giới để trở thành tài sản quan trọng nhất, thế nên chính trị gia sẽ đấu tranh để giành quyền kiểm soát dòng dữ liệu.

Đáng tiếng, chúng ta không có nhiều kinh nghiệm trong chuyện kiểm soát dữ liệu, vì nó khó hơn rất nhiều so với kiểm soát các vùng đất và máy móc. Dữ liệu vừa có vừa không ở mọi nơi cùng một lúc, nó có thể di chuyển với tốc độ ánh sáng và bạn muốn có bao nhiêu bản sao cũng được. Liệu những dữ liệu thu thập được về DNA, não bộ và cuộc sống của tôi thuộc về tôi, chính phủ, hay một tập đoàn, hay nhân loại?

Cuộc chạy đua để tích lũy dữ liệu đã được khởi động và hiện đang được các đại gia khổng lồ như Google và Facebook cầm đầu, ở Trung Quốc là Baidu và Tencent. Cho đến nay, nhiều công ty này đã đóng vai trò là "bọn lái buôn sự chú ý" - họ thu hút sự chú ý của chúng ta bằng cách cung cấp cho chúng ta thông tin, dịch vụ và giải trí miễn phí và sau đó họ bán lại cho các nhà quảng cáo. Tuy nhiên, doanh nghiệp thực sự của họ không chỉ đơn thuần là bán quảng cáo. Thay vào đó, bằng cách thu hút sự chú ý của chúng ta, họ tích lũy lượng dữ liệu khổng lồ về chúng ta, thứ có giá trị hơn bất kỳ doanh thu quảng cáo nào. Chúng ta không phải là khách hàng của họ — chúng ta là sản phẩm của họ.

Những người bình thường sẽ thấy rất khó để chống lại quá trình này. Hiện tại, nhiều người trong chúng ta rất vui khi cho đi tài sản quý giá nhất — dữ liệu cá nhân— để đổi lấy các dịch vụ email miễn phí và các video mèo hài hước. Nhưng nếu sau này những người bình thường quyết định chặn luồng dữ liệu, họ có thể gặp khó khăn khi làm như vậy, đặc biệt là khi họ phải dựa vào các kết nối để giúp họ đưa ra quyết định, thậm chí cả sức khỏe và sự tồn tại vật lý.

Quốc hữu hóa dữ liệu của chính phủ có thể đưa ra một giải pháp; nó chắc chắn sẽ hạn chế sức mạnh của các tập đoàn lớn. Nhưng lịch sử cho thấy rằng chúng ta không khá hơn khi nằm trong tay của các chính phủ toàn năng. Vì vậy, chúng ta nên kêu gọi tốt hơn khi các nhà khoa học, các nhà triết học, luật sư của chúng ta, và thậm chí các nhà thơ của chúng ta chuyển sự chú ý của họ sang câu hỏi lớn này: Làm thế nào để ta có thể điều chỉnh quyền sở hữu dữ liệu?

Hiện tại, con người có nguy cơ bị biến thành vật nuôi. Chúng ta đã nuôi những con bò ngoan ngoãn sản sinh ra một lượng sữa khổng lồ nhưng lại kém xa so với tổ tiên hoang dã của chúng. Chúng ít nhanh nhẹn hơn, ít tò mò và ít khéo léo hơn. Chúng ta hiện đang tạo ra những con người thuần hóa, người sản xuất một lượng lớn dữ liệu và hoạt động như những con chip hiệu quả trong một cơ chế xử lý dữ liệu khổng lồ, nhưng lại gần như không phát huy tối đa tiềm năng của con người. Nếu chúng ta không cẩn thận, chúng ta sẽ kết thúc cuộc đời như những con người hạ cấp sử dụng các máy tính cao cấp để tàn phá bản thân và thế giới.

Nếu bạn thấy những viễn cảnh này đáng báo động — nếu bạn không thích ý tưởng sống trong chế độ độc tài kỹ thuật số hoặc một dạng xã hội bị suy thoái tương tự - thì đóng góp quan trọng nhất bạn có thể làm là tìm cách ngăn chặn quá nhiều dữ liệu. và cũng tìm cách để giữ cho xử lý dữ liệu phân tán hiệu quả hơn xử lý dữ liệu tập trung. Đây sẽ không phải là nhiệm vụ dễ dàng. Nhưng việc đạt được chúng có thể là biện pháp bảo vệ dân chủ tốt nhất.

Trạm Đọc

 Dịch từ "Why Technology Favors Tyranny" trên The Atlantic.