Đó là lời mở đầu của một bài báo được đăng trên tờ New York Times vào ngày 3 tháng 1 năm 2000, một tiếng thở phào nhẹ nhõm của toàn nhân loại khi kim đồng hồ dịch chuyển sang thiên niên kỷ mới.

Lễ giao thừa năm 1999, đáng lẽ sẽ chỉ là một sự kiện thường lệ như cái cách mà Trái Đất này vẫn tồn tại hàng triệu năm nay, nhưng không. Trong những khoảnh khắc ấy, nỗi sợ hãi về một lỗi lập trình có thể đánh sập toàn bộ hệ thống máy tính của chúng ta đã đi tới cực điểm. Lỗi lập trình ấy mang tên Y2K - một cụm từ mà tôi tin chắc rằng tất cả những người sinh trước năm 2000 đều thuộc nằm lòng.

Và câu trả lời cho tất cả những điều này, như tờ báo Times đã kết luận sau khi nín thở theo dõi ba ngày đầu năm mới, là KHÔNG. Các ngân hàng vẫn hoạt động. Máy bay thì vẫn bay, còn các tên lửa hạt nhân thì… chí ít lúc đó chúng cũng không động đậy. Và ba năm sau đó, mọi người đã bắt đầu đặt ra các giả thuyết: Nếu Y2K xảy ra thì sao? Mà nếu không thì sao? Mặc dầu hai giả thuyết là hoàn toàn đối lập, nhưng khi đặt cạnh nhau chúng lại giúp con người lý giải được bản chất của thế giới gần 20 năm sau đó. Không chỉ thế, nó còn chỉ ra một sự thật rằng chúng ta đã bỏ lỡ những bài học thực sự đắt giá từ Y2K: về mạng kết nối, về những lỗi lầm chủ quan, và quan trong nhất, là đã trót đặt niềm tin quá nhiều vào máy móc.

Trong suốt nhiều năm kể từ thời điểm chuyển giao lịch sử đó, Y2K bị người ta coi như một trò lố, một câu chuyện “bé xé ra to” của giới truyền thông đi kèm với hàng tỷ đô la tiêu tốn của chính phủ nhằm ngăn chặn thiệt hại mà nó có thể mang đến cho con người. Kết cục? Y2K không thực sự diễn ra, và trong mường tượng của mọi người, nó là minh chứng hùng hồn để người ta bác bỏ những cảnh báo chẳng mấy rõ ràng khi bàn về chính trị, hoặc công nghệ.

Nhưng Y2K không chỉ là một cơn hoảng loạn mà truyền thông đóng vai trò châm lửa. Khi những con người của năm 1999 đang đua nhau tích trữ đồ ăn nước uống, hoặc gia nhập vào các giáo phái ngày tận thế, thì cùng lúc đó, có những lập trình viên thầm lặng đã cống hiến không mệt mỏi để ngăn chặn mọi điều bất lợi có thể xảy ra. Nguy cơ là thật, và nỗi sợ hãi cũng là thật. Nếu bạn thực sự tin rằng Y2K chỉ là một trò vớ vẩn, thì nghĩa là bạn “đang góp sức cho một thứ chủ nghĩa xét lại đầy miệt thị và tiêu cực, gạt bỏ đi tầm nhìn và mọi nỗ lực miệt mài của cộng đồng IT trong suốt nhiều năm” - Don Tennant, tổng biên tập tạp chí ComputerWorld từng bộc bạch vào năm 2007.

Nhưng thực tế là không ít người vẫn đang mang những suy nghĩ như trên, và điều đó lại trở thành biểu trưng cho một chiến công kỳ lạ: rằng bằng chứng cho mọi nỗ lực ấy là… không là gì cả (vì rốt cuộc Y2K có xảy ra đâu!). Trong một lần hồi tưởng về sự cố Y2K, nhà văn - nhà báo người Mỹ Farhad Manjoo đã nhận định: Chính công tác ngăn chặn hiệu quả đã vô hình chung tạo ra một sự thờ ơ và thái độ thiếu cẩn trọng. Không như vấn đề biến đổi khí hậu hay nhiều nguy cơ khác, chính việc loại bỏ được Y2K đã khiến công cuộc chiến đấu trong thế giới số trở nên ngày một khó khăn.

Cho dù bạn có nghĩ rằng Y2K vốn ngay từ đầu đã chẳng là gì hết, hay cho rằng nó trở thành “sự cố hụt” nhờ sự can thiệp của các lập trình viên, thì chính sự thờ ơ đấy lại tạo ra cho chúng ta một niềm tin. Niềm tin vào những máy móc mà chúng ta đã tạo, và niềm tin vào khả năng kiểm soát chúng của chúng ta, rằng chúng ta có thể dễ dàng dự đoán và tránh đi mọi sai lầm.

Vậy nên kể từ thời điểm lịch sử ấy, chúng ta đã và đang không ngừng tạo dựng những mạng lưới ngày càng phức tạp, có ảnh hưởng quan trọng tới nhiều khía cạnh của cuộc sống con người. Nếu như trước năm 1999, một người có thể đọc sách, nghe nhạc hoặc mua quần áo mà không cần dính dáng gì tới máy tính hay dây mạng, thì giờ đây mọi chuyện đã khác. Nếu như trước năm 1999, kết nối mạng còn bị đánh giá là chẳng có mấy tiềm năng công nghệ nếu đem so với tủ lạnh hay điều hòa, thì giờ đây nó đang chiếm lĩnh cuộc sống của tất cả chúng ta.

18 năm, để chúng ta bắt đầu nhìn lại cái lá chắn mơ hồ mà ta gây dựng. 18 năm, để chúng ta nhận ra được sự thật phũ phàng rằng con người thực ra chẳng hiểu quái gì về công nghệ, và chúng ta cũng chẳng còn cái khả năng dự đoán (hoặc ngăn chặn) mà chúng ta từng tự hào sau sự cố Y2K ngày ấy.

Hãy lấy thị trường tài chính làm ví dụ. Dù trước cuộc khủng hoảng kinh tế năm 2008, giao dịch điện tử đã trở nên phổ biến, nhưng càng về sau, việc lập trình thuật toán ngày càng được nhân rộng trong toàn ngành thương mại.

“Thị trường tài chính ở những thời kỳ trước đây tuy diễn biến phức tạp, nhưng vẫn có thể lý giải. Còn ngày nay nó đã phát triển thành một mê trận của các yếu tố điện tử - phức tạp đến mức không thể đo lường” - Robin Wrigglesworth, biên tập viên tờ Thời báo Tài chính (Financial Times) chia sẻ hồi năm ngoái. Thị trường hiện nay được ghi nhận là “đang tăng trưởng với tốc độ đáng kể, và đi kèm với nó là những biến động bất thường trong các giao dịch. Số lượng các sự cố cũng xảy ra nhiều hơn, tỉ lệ thuận với mật độ dày đặc của các thuật toán”.

Nhưng bạn sẽ quá ngây thơ, nếu nghĩ rằng những hệ quả này chỉ là cơn đau đầu của những doanh nhân và đội ngũ lập trình. Công nghệ không chỉ liên quan đến máy móc hay tài chính, nó đang thay đổi chúng ta mỗi ngày, và chi phối cách mỗi người đang nhìn về thế giới.

Các thuật toán của Youtube từ trước đến nay vẫn luôn là điều bí ẩn, nhưng nhiều bằng chứng đã cho thấy chúng có xu hướng tiêu cực khá rõ ràng. Trong suốt nhiều năm, đã có nhiều lời đồn đoán rằng công cụ đề xuất của Youtube hay cung cấp những nội dung khá… nặng đô, khiến người dùng dễ hoang mang trước sự hỗn loạn của thông tin và các thuyết âm mưu. Nó cho chúng ta xem về đủ các loại giả thuyết lạ kỳ, từ những vấn đề thời cuộc cho đến việc liệu trái đất có thực sự mang hình cầu. Các thuật toán này cũng bị cáo buộc đề xuất nhiều nội dung đáng sợ về trẻ em, mà điển hình nhất là những clip về trẻ nhỏ hoặc những nhân vật hoạt hình quen thuộc ở trong những bối cảnh lạ lùng và kỳ quái.

Bất chấp những phản hồi tiêu cực, Google - công ty mẹ của Youtube lại khá thận trọng trong việc tiết lộ những thông tin xoay quanh cách thức hoạt động của công cụ này. Nhưng cuối năm vừa rồi, Guillaume Chaslot - một cựu nhân viên của Youtube đã quyết định công bố nghiên cứu mà anh đã tự mình thực hiện, kéo dài suốt 18 tháng. Chaslot nhận định rằng Youtube đã cố phổ biến nhiều video có nội dung nhạy cảm, gây chia rẽ hoặc mang tính âm mưu, và hành động này được thực hiện một cách có hệ thống. Mục đích tối thượng của các thuật toán trên Youtube là lôi kéo người dùng xem càng nội dung càng tốt, nhưng có vẻ như không ai ngờ tới rằng để đạt được mục đích này, các thuật toán đang nhắm đến những nội dung cực đoan nhất có thể.

Nguy hiểm hơn, sự ảnh hưởng của thuật toán đã lan rộng sang cả lĩnh vực tư pháp. Vào năm 2016, ProPublica - một tổ chức báo chí phi lợi nhuận đã tiết lộ: Chương trình đánh giá rủi ro của hệ thống tòa án tiểu bang Hoa Kỳ nhằm đưa ra các quyết định bảo lãnh và tuyên án, thực ra không đủ khả năng để nhận định liệu ai có nguy cơ phạm tội hoặc tái phạm tội cao. Chương trình này cũng bị đánh giá là cảm tính khi có xu hướng “dán mác” các bị cáo da màu nhiều nguy cơ phạm tội hơn bị cáo da trắng, với tỉ lệ gần gấp đôi.

Tuy nhiên, tại thời điểm mà ProPublica công bố những nguy cơ mà chương trình này có thể mang lại, thì chúng đã trở nên phổ biến ở các tòa án trên toàn nước Mỹ. Chúng hỗ trợ thẩm phán đưa ra các quyết định trên mọi cấp độ tội phạm, từ ấn định số tiền trái phiếu tới quyết định trao trả tự do cho bị cáo. Tại một số tiểu bang, các thông số đã được thẩm phán sử dụng ngay trong quá trình kết án.

Những chương trình, những thuật toán này ngông cuồng đến mức nhiều người tin rằng chúng ta đang thực sự bước vào cái - có thể được gọi là một cuộc cách mạng - của trí tuệ nhân tạo (AI), khi các chương trình máy tính xâm nhập vào mọi ngóc ngách của đời sống con người. Giả sử điều đó là sự thực, thì rõ ràng chúng ta đang ở một vị thế tồi tệ, để dự đoán liệu rằng công nghệ sẽ đi về đâu, và chúng đang thực sự có ý nghĩa gì. Đó quả thực là một nghịch lý lạ kỳ: Khi càng nhiều máy tính được huy động, chúng càng hiểu thêm nhiều điều về thế giới, nhưng lại càng trở nên xa lạ đối với tất cả chúng ta. Con người càng cố giành lại quyền kiểm soát bao nhiêu, thì lại càng tuyệt vọng bấy nhiêu, bởi những công nghệ lập trình ấy đã trở nên (gần như) bất khả xâm phạm.

“Đã từng tồn tại những tranh luận về chuyện liệu chúng có thể coi việc thẩm vấn hệ thống AI về cách nó đưa ra quyết định, là một quyền hợp pháp hay không. Điều này dường như là không tưởng, kể cả đối với những hệ thống xem chừng đơn giản, như các ứng dụng hay website muốn sử dụng các thông tin này để phục vụ cho quảng cáo hoặc gợi ý bài hát. Vấn đề là những máy tính thực hiện điều này đã tự lập trình chính chúng, theo một cách mà con người không thể hiểu hay lý giải. Ngay cả các kỹ sư lập trình nên ứng dụng cũng không thể giải mã thông suốt được quyết định của AI” - trích lời nhà báo Will Knight trên tờ MIT Technology Review trong số ra năm 2017.

Con người chúng ta đã dành gần 20 năm đặt niềm tin vào máy tính và công nghệ với hy vọng rằng thế giới này có thể tốt đẹp hơn, nhưng rốt cuộc lại hoàn toàn mù mờ về cách thức chúng hoạt động, hoặc liệu những điều đó có thể mang lại hậu quả gì.

Y2K đáng lẽ đã khiến chúng ta phải đặt lại dấu hỏi với niềm tin vào máy móc và công nghệ. Nếu Y2K xảy ra, có lẽ mọi việc đã đổi thay hoàn toàn.

Chúng ta phụ thuộc vào máy tính và các lệnh mã hóa quá nhiều để dạy cho con trẻ về thế giới, để cập nhật những biến động mỗi ngày, để quyết định liệu ai sẽ trở thành triệu phú và ai sẽ trắng tay, ai là người tự do và ai trở thành tội phạm, để tìm đường đi và cả việc làm, để hiểu rằng trong cơ thể chúng ta, có bộ phận nào đang “hết hạn”. Nhưng chúng ta không hiểu vì sao nó lại làm được vậy. Tất cả chúng ta có, là niềm tin vào công nghệ.

***

Nhưng khi MÁY ngừng hoạt đông, họ trở nên hoàn toàn lạc lối. Trong một khoảng thời gian, họ sẽ trấn an nhau rằng đây chỉ là một sự cố tạm thời, và mọi thứ sẽ được MÁY khắc phục sớm thôi.

Nhưng rốt cuộc chẳng có gì xảy ra, và cuốn hướng dẫn sử dụng MÁY mà mỗi người đang cầm trong tay bỗng trở nên vô dụng. Khi những phàn nàn của con người được gửi tới Ủy ban Trung tâm ngày càng nhiều, thì cũng là lúc họ lờ mờ nhận ra rằng phía bên kia đầu dây, chẳng có ai đang lắng nghe họ. Tất cả chỉ là những hệ thống MÁY, MÁY và chỉ MÁY mà thôi.

Không thể cứ tiếp tục sống dưới lòng đất mà không có hỗ trợ của MÁY-ĐÃ-HỎNG, con người tìm cách leo lên bề mặt đất, và hít thở bầu không khí mà họ đã cách ly từ quá, quá lâu.

Và bầu không khí trong lành ấy, giết chết toàn bộ loài người.

Theo Medium

Vân Anh (biên dịch)