Đây là nghịch lý mà nhà sử học Yuval Noah Harari đặt ra trong cuộc trò chuyện về cuốn sách “Nexus - Lược sử của những mạng lưới thông tin từ Thời đại Đồ đá đến Trí tuệ nhân tạo”: Nếu con người thông minh đến vậy, tại sao chúng ta vẫn có thể hành động thiếu khôn ngoan đến mức gây nguy hiểm cho chính mình?

Theo Harari, câu trả lời không nhất thiết nằm ở bản tính con người. Vấn đề có thể nằm ở thứ mà chúng ta sử dụng để suy nghĩ, đưa ra quyết định và phối hợp hành động: thông tin. Con người có thể sở hữu năng lực nhận thức đáng kinh ngạc, nhưng nếu phải hành động dựa trên thông tin sai lệch, những niềm tin thiếu căn cứ hoặc những câu chuyện được dựng lên để thao túng, họ vẫn có thể đưa ra những quyết định tai hại.

Điều đáng lo ngại là trong lịch sử, việc tích lũy tri thức và phát triển công nghệ chưa bao giờ tự động giúp xã hội tránh khỏi những sai lầm tập thể. Và trong thời đại AI, khi thông tin được tạo ra với tốc độ chưa từng có, nghịch lý ấy càng trở nên rõ rệt.

Để hiểu tại sao thông tin có thể định hình vận mệnh của cả một xã hội, Harari bắt đầu từ một đặc điểm cơ bản của loài người: khả năng kể chuyện và cùng tin vào những câu chuyện đó.

Hãy hình dung quá trình xây dựng một nhà máy điện hạt nhân. Công việc này không chỉ đòi hỏi các nhà vật lý hiểu những nguyên lý khoa học cần thiết. Nó còn cần công nhân khai thác uranium, kỹ sư thiết kế công trình, nông dân sản xuất lương thực và hàng nghìn người đảm nhiệm những công việc khác nhau. Tất cả phải phối hợp với nhau trong một hệ thống rộng lớn, dù phần lớn họ không quen biết và chưa từng gặp mặt.

Những kiến thức vật lý có thể giải thích cách một lò phản ứng hoạt động, nhưng bản thân chúng không đủ để khiến hàng triệu người tự nguyện tham gia vào một dự án chung. Để sự hợp tác ấy diễn ra, con người cần những hệ thống ý nghĩa và niềm tin: niềm tin vào quốc gia, vào tổ chức, vào tiền tệ, vào các quy tắc kinh tế hay vào một mục tiêu chung.

Tiền là một ví dụ điển hình. Một tờ tiền không có giá trị sử dụng tương xứng với những gì con người có thể trao đổi bằng nó. Giá trị của nó tồn tại bởi mọi người cùng chấp nhận rằng tờ tiền ấy có thể được dùng để mua hàng hóa và dịch vụ. Trong nền kinh tế hiện đại, phần lớn tiền còn tồn tại dưới dạng dữ liệu điện tử, nhưng hệ thống vẫn vận hành vì con người tiếp tục tin tưởng vào nó.

Khả năng cùng tin vào những điều không tồn tại như những vật thể hữu hình đã giúp con người vượt qua giới hạn của các nhóm nhỏ, xây dựng thành phố, quốc gia và nền kinh tế toàn cầu. Những câu chuyện chung không nhất thiết là điều xấu. Trái lại, chúng là một trong những nền tảng quan trọng nhất của sự hợp tác xã hội.

Nhưng chính sức mạnh ấy cũng tạo ra một rủi ro: một câu chuyện có thể tập hợp con người mà không nhất thiết phải phản ánh sự thật.

Một hệ tư tưởng có thể truyền cảm hứng cho hàng triệu người cùng hành động, nhưng cũng có thể khiến họ chấp nhận bạo lực và hy sinh nhân danh những mục tiêu sai lầm. Một thông tin sai lệch có thể được lặp lại nhiều lần, được nhiều người tin tưởng và cuối cùng trở thành cơ sở cho những quyết định có hậu quả ngoài sức tưởng tượng.

Vấn đề vì thế không chỉ là con người có đủ thông tin để hành động hay không, mà còn là thông tin nào đang dẫn dắt họ và ai có quyền định hình những câu chuyện mà cả xã hội cùng tin tưởng.

Lịch sử cho thấy mỗi bước tiến lớn trong công nghệ thông tin đều có khả năng làm thay đổi cách xã hội được tổ chức và vận hành.

Khoảng 5.000 năm trước, chữ viết xuất hiện tại vùng Lưỡng Hà cổ đại. Xét về mặt kỹ thuật, đó chỉ là những dấu hiệu được khắc lên các tấm đất sét. Nhưng những dấu hiệu ấy đã làm thay đổi cách con người quản lý tài sản và tổ chức quyền lực.

Trước khi có hệ thống ghi chép phổ biến, quyền sở hữu một mảnh đất phụ thuộc nhiều vào sự thừa nhận của cộng đồng địa phương. Khi quyền sở hữu được ghi lại thành văn bản, thông tin có thể được lưu trữ, chuyển giao và kiểm tra mà không cần tất cả những người liên quan phải trực tiếp có mặt. Các nhà cai trị cũng có thể xây dựng hệ thống hồ sơ về tài sản, từ đó tổ chức việc thu thuế và quản lý những vùng lãnh thổ rộng lớn.

Chữ viết vừa mở rộng khả năng hành động của cá nhân, vừa tạo điều kiện cho sự hình thành của những bộ máy hành chính tập trung.

Một nghịch lý tương tự xuất hiện hàng nghìn năm sau, với sự phát triển của điện tín, phát thanh và truyền hình. Những công nghệ này giúp thông tin đến với hàng triệu người, tạo điều kiện cho các nền dân chủ đại chúng phát triển. Nhưng chúng cũng cung cấp cho các chế độ toàn trị những công cụ mạnh mẽ để tuyên truyền, giám sát và kiểm soát đời sống xã hội.

Điều này cho thấy công nghệ không tự quyết định xã hội sẽ trở nên tự do hay độc đoán. Cùng một công nghệ có thể phục vụ những mục đích đối lập, tùy thuộc vào cách nó được tổ chức, ai kiểm soát nó và xã hội có những cơ chế nào để ngăn chặn việc lạm dụng quyền lực.

Với AI, câu hỏi ấy trở nên cấp thiết hơn. Nếu các công nghệ thông tin trước đây chủ yếu giúp con người lưu trữ, truyền tải và xử lý thông tin, thì AI còn có thể tự tạo nội dung, đề xuất chiến lược và tham gia vào quá trình ra quyết định. Công nghệ không còn đơn thuần mở rộng khả năng của người sử dụng; nó bắt đầu đảm nhiệm một số chức năng vốn thuộc về chính người sử dụng.

Harari cho rằng một trong những thay đổi đáng chú ý nhất của AI là khả năng tạo ra những sản phẩm văn hóa mà trước đây chỉ con người mới có thể tạo ra: câu chuyện, hình ảnh, âm nhạc, lý thuyết kinh tế và những ý tưởng mới.

Ông sử dụng khái niệm “trí tuệ xa lạ” để nhấn mạnh rằng AI không nhất thiết suy nghĩ theo cách con người suy nghĩ. Một hệ thống AI có thể tìm ra lời giải hoặc chiến lược mà con người chưa từng hình dung, như trường hợp AlphaGo khám phá những nước đi mới trong cờ vây.

Điều này mở ra những cơ hội lớn. AI có thể giúp con người giải quyết các vấn đề phức tạp, phát hiện những mối liên hệ khó nhận ra và tìm kiếm phương án vượt qua giới hạn của tư duy thông thường. Nhưng cũng chính khả năng tạo ra những điều con người chưa dự đoán được khiến việc kiểm soát và đánh giá các hệ thống này trở nên khó khăn hơn.

Rủi ro không nhất thiết bắt đầu từ một cỗ máy có ý định thống trị thế giới như trong các bộ phim khoa học viễn tưởng. Nó có thể xuất hiện âm thầm hơn, khi ngày càng nhiều quyết định được giao cho những hệ thống tự động trong ngân hàng, doanh nghiệp, quân đội và cơ quan công quyền.

Một ngân hàng sử dụng AI để đánh giá hồ sơ vay vốn có thể đưa ra quyết định nhanh chóng dựa trên lượng dữ liệu mà con người khó xử lý. Tuy nhiên, nếu người bị từ chối không thể hiểu lý do, còn tổ chức vận hành hệ thống cũng không đủ khả năng giải thích hoặc sửa chữa sai sót, quyền quyết định đang dần rời khỏi tầm kiểm soát của những người chịu ảnh hưởng trực tiếp.

Ở quy mô lớn hơn, AI có thể giúp giám sát xã hội liên tục, bởi máy tính không cần ngủ, nghỉ cuối tuần hay dành thời gian cho gia đình. Những giới hạn từng khiến các bộ máy quyền lực khó theo dõi mọi người vào mọi thời điểm có thể dần biến mất.

Đối với con người, quyền riêng tư và thời gian nghỉ ngơi không chỉ là những tiện nghi. Chúng còn là điều kiện để mỗi cá nhân có không gian suy nghĩ, thử nghiệm, mắc sai lầm và thay đổi mà không phải lo mọi hành động trong hiện tại sẽ bị lưu giữ và đánh giá trong tương lai.

Nếu mọi lời nói và hành vi đều có thể trở thành dữ liệu được phân tích vô thời hạn, cuộc sống có nguy cơ biến thành một cuộc phỏng vấn xin việc kéo dài, trong đó con người luôn phải tự kiểm duyệt vì sợ những gì mình làm hôm nay sẽ bị sử dụng để chống lại mình nhiều năm sau.

Trước những thay đổi ấy, Harari không cho rằng con người có thể dự đoán trước mọi rủi ro của AI rồi giải quyết tất cả bằng một bộ quy định cố định. Công nghệ phát triển quá nhanh và có thể tạo ra những tình huống mà hiện tại chúng ta chưa hình dung được.

Thay vào đó, ông nhấn mạnh vai trò của các thiết chế có khả năng tự phát hiện và sửa chữa sai lầm.

Khả năng này hiện diện trong nhiều hoạt động quen thuộc. Một đứa trẻ học đi bằng cách thử bước, vấp ngã, điều chỉnh rồi thử lại. Khoa học phát triển bằng cách kiểm tra giả thuyết, phát hiện những điểm chưa chính xác và sửa đổi các lý thuyết trước đó. Trong nền dân chủ, bầu cử cho phép người dân thay đổi người cầm quyền khi họ cho rằng những quyết định trước đó không còn phù hợp.

Điểm chung của các cơ chế ấy là không giả định rằng một cá nhân, một tổ chức hay một hệ thống có thể luôn luôn đúng. Thay vì đòi hỏi sự hoàn hảo, chúng tạo ra những điều kiện để sai lầm được nhận diện và khắc phục trước khi gây ra hậu quả quá lớn.

Đây cũng là điểm khác biệt quan trọng giữa một hệ thống có khả năng học hỏi và một hệ thống khép kín trước sự phản biện. Khi quyền lực tập trung vào một cá nhân hoặc tổ chức không chịu sự giám sát hiệu quả, việc thừa nhận sai lầm có thể bị xem là mối đe dọa. Những thông tin trái với niềm tin của người đứng đầu bị loại bỏ, còn các quyết định sai lầm tiếp tục được duy trì vì không có cơ chế điều chỉnh hữu hiệu.

Trong bối cảnh AI, nguyên tắc này càng quan trọng. AI có thể xử lý dữ liệu nhanh hơn con người, nhưng tốc độ không đồng nghĩa với tính chính xác tuyệt đối. Các hệ thống AI vẫn có thể đưa ra kết quả sai, phản ánh thiên lệch trong dữ liệu hoặc đưa ra quyết định không phù hợp với hoàn cảnh cụ thể.

Vì vậy, vấn đề không chỉ là làm thế nào để tạo ra một AI thông minh hơn, mà còn là xây dựng những tổ chức đủ năng lực để kiểm tra, giám sát và sửa chữa sai lầm của AI. Không nên giao quyền lực tuyệt đối cho một hệ thống chỉ vì nó có khả năng xử lý thông tin vượt trội.

Một xã hội có năng lực không phải là xã hội không bao giờ mắc sai lầm. Đó là xã hội có thể nhận ra mình đã sai, công khai sai lầm và thay đổi trước khi sai lầm trở thành thảm họa.

Trong toàn bộ lập luận của Harari, có một phân biệt đặc biệt quan trọng: thông tin và sự thật không phải là một.

Chúng ta thường cho rằng càng có nhiều thông tin, khả năng hiểu biết của mình càng lớn. Nhưng thông tin có thể được tạo ra mà không cần bằng chứng, trong khi việc xác minh sự thật thường đòi hỏi thời gian, công sức và nguồn lực đáng kể.

Harari minh họa điều này bằng những bức chân dung về Chúa Jesus. Trong suốt nhiều thế kỷ, vô số hình ảnh về nhân vật này đã được tạo ra và lưu truyền rộng rãi. Tuy nhiên, không có bức chân dung nào được xác nhận là hình ảnh chính xác về diện mạo của Jesus khi ông còn sống. Những hình ảnh quen thuộc trong văn hóa đại chúng phản ánh nhiều hơn trí tưởng tượng, truyền thống nghệ thuật và quan niệm của những người sáng tạo chúng, chứ không phải một hồ sơ hình ảnh đã được kiểm chứng.

Ví dụ này cho thấy một nội dung có thể được lưu truyền rộng rãi, trở nên quen thuộc và được hàng triệu người nhận diện mà không vì thế trở thành sự thật đã được xác minh.

Nếu muốn xây dựng một bức tranh chính xác về một con người, một nền kinh tế hay một cuộc chiến, chúng ta phải thu thập bằng chứng, đối chiếu nguồn tin và chấp nhận khả năng kết luận ban đầu của mình là sai. Quá trình ấy tốn kém hơn nhiều so với việc tạo ra một câu chuyện hấp dẫn rồi lặp lại nó.

Đó là lý do Harari cảnh báo rằng không thể kỳ vọng sự thật sẽ tự nổi lên khi thế giới bị lấp đầy bởi thông tin. Nếu không đầu tư vào những cơ chế kiểm chứng, lượng thông tin khổng lồ có thể khiến sự thật chìm sâu hơn giữa những nội dung sai lệch, suy đoán và hư cấu.

Sự khác biệt giữa nền dân chủ và chế độ toàn trị, theo cách phân tích của ông, cũng nằm một phần ở cách tổ chức dòng thông tin. Trong một hệ thống tập trung, thông tin và quyền ra quyết định chủ yếu dồn về một đầu mối. Nếu đầu mối ấy mắc sai lầm, cả hệ thống có thể tiếp tục hành động dựa trên nhận định sai mà không có đủ cơ chế để sửa chữa.

Ngược lại, một hệ thống thông tin phân tán cho phép nhiều cá nhân, tổ chức và cộng đồng đưa ra quyết định, phản biện lẫn nhau và phát hiện những điểm bất hợp lý. Cơ chế này không loại bỏ hoàn toàn sai lầm, nhưng tạo thêm cơ hội để sai lầm được phát hiện và điều chỉnh.

AI có thể làm thay đổi cán cân ấy. Khả năng xử lý lượng dữ liệu khổng lồ giúp các chính quyền tập trung vượt qua một số giới hạn từng cản trở việc giám sát xã hội. Trong khi đó, các công cụ tạo nội dung tự động có thể khiến môi trường tranh luận dân chủ ngập tràn những tài khoản giả dạng con người, những thông điệp được cá nhân hóa và những nội dung có khả năng kích động cảm xúc.

Khi người tham gia không còn biết mình đang trò chuyện với một con người hay một hệ thống tự động, niềm tin giữa các thành viên trong cộng đồng có thể bị xói mòn. Cuộc tranh luận công khai không còn chỉ là nơi con người trao đổi lý lẽ, mà có nguy cơ trở thành không gian bị thao túng bởi những chủ thể mà danh tính và mục đích thực sự khó xác định.

Bởi vậy, bảo vệ sự thật không thể chỉ dựa vào việc cung cấp thêm thông tin. Nó còn đòi hỏi những quy tắc minh bạch, cơ chế xác minh độc lập và trách nhiệm rõ ràng đối với những chủ thể tham gia vào quá trình tạo ra, phân phối và sử dụng thông tin.

Những vấn đề Harari đề cập không chỉ thuộc về các nhà hoạch định chính sách, giới công nghệ hay những tổ chức nghiên cứu. Chúng cũng liên quan trực tiếp đến cách mỗi người sử dụng thời gian và tiếp nhận thông tin hằng ngày.

Trong phần cuối cuộc trò chuyện, ông đưa ra một gợi ý đơn giản: hãy xem việc tiếp nhận thông tin giống như việc ăn uống.

Chúng ta hiểu rằng ăn quá nhiều hoặc thường xuyên sử dụng thực phẩm kém chất lượng có thể gây hại cho cơ thể. Vì vậy, nhiều người quan tâm đến thành phần dinh dưỡng, khẩu phần và thói quen ăn uống. Nhưng với thông tin, chúng ta lại thường ít thận trọng hơn. Chúng ta liên tục đọc tin tức, lướt mạng xã hội, xem video và tiếp nhận những nội dung mới mà không dành đủ thời gian để đánh giá chất lượng của chúng.

Không phải mọi thông tin đều có giá trị như nhau. Những nội dung liên tục kích thích lòng tham, sự tức giận, nỗi sợ hãi hoặc thái độ thù ghét có thể khiến chúng ta phản ứng mạnh mẽ mà không suy nghĩ kỹ. Việc tiếp xúc thường xuyên với những nội dung như vậy dễ khiến các vấn đề phức tạp bị thu hẹp thành những kết luận đơn giản, còn người có quan điểm khác biệt trở thành đối tượng để công kích thay vì đối thoại.

Xây dựng một chế độ ăn thông tin lành mạnh không có nghĩa là chỉ tiếp nhận những gì phù hợp với niềm tin của mình. Trái lại, điều quan trọng là lựa chọn những nguồn tin có trách nhiệm, tìm hiểu bằng chứng, phân biệt dữ kiện với ý kiến và sẵn sàng xem xét lại quan điểm khi xuất hiện thông tin đáng tin cậy hơn.

Điều đó cũng có nghĩa là đôi khi chúng ta cần ngừng tiếp nhận thông tin để có thời gian suy nghĩ về những gì đã đọc. Không phải vấn đề nào cũng cần một phản ứng tức thì, và không phải sự kiện nào cũng đáng để chúng ta dành sự chú ý ngang nhau.

Trong một môi trường mà thông tin liên tục cạnh tranh để giành lấy sự chú ý, biết điều gì cần đọc, điều gì cần kiểm chứng và điều gì có thể bỏ qua trở thành một năng lực thiết yếu.

Nghịch lý mà Yuval Noah Harari chỉ ra không phải là con người thiếu thông minh, cũng không phải mọi câu chuyện chung đều nguy hiểm. Chính nhờ khả năng xây dựng những câu chuyện chung, chúng ta mới có thể hợp tác vượt xa giới hạn của những mối quan hệ trực tiếp và tạo ra những thành tựu chưa từng có.

Nhưng khả năng ấy cũng khiến con người dễ bị dẫn dắt bởi những câu chuyện sai lệch, nhất là khi chúng được lặp lại đủ nhiều, được củng cố bởi những người có quyền lực và được khuếch đại bởi công nghệ.

AI khiến thách thức này trở nên cấp bách vì nó không chỉ tăng tốc độ truyền tải thông tin mà còn tham gia vào việc tạo ra nội dung, hình thành quyết định và tác động đến cách con người nhìn nhận thế giới. Trong hoàn cảnh ấy, nhiều thông tin hơn không nhất thiết dẫn đến hiểu biết sâu sắc hơn, cũng như những công cụ thông minh hơn không tự động tạo ra một xã hội khôn ngoan hơn.

Điều chúng ta cần không chỉ là công nghệ có khả năng xử lý dữ liệu ngày càng mạnh, mà còn là những thiết chế biết tự sửa sai, những tổ chức kiên trì theo đuổi sự thật và những cá nhân có khả năng suy xét độc lập.

Bởi sau cùng, thách thức lớn nhất của thời đại thông tin không đơn thuần là làm thế nào để biết nhiều hơn. Đó là làm thế nào để phân biệt điều đáng tin giữa vô số điều được nói ra, nhận ra khi nào mình đang bị dẫn dắt và giữ được khả năng thay đổi suy nghĩ trước những bằng chứng xác đáng.

Trong một thế giới nơi cả con người lẫn AI đều có thể tạo ra vô vàn câu chuyện, năng lực quan trọng nhất có lẽ không phải là tiếp nhận thông tin nhanh đến đâu, mà là biết đặt câu hỏi, kiểm chứng điều mình tin và không nhầm lẫn giữa một câu chuyện được nhiều người chấp nhận với một sự thật đã được xác minh.

- Trạm Đọc