Nhà sử học và triết gia người Israel, Yuval Noah Harari đã quá nổi tiếng với một cuốn sách bán chạy toàn cầu. Tác phẩm Sapiens, Lược Sử Loài Người, trình bày một cái nhìn về lịch sử được thúc đẩy và thành hình bởi những tưởng tượng của não bộ, những hư cấu do nhân loại tạo ra. Tác phẩm tiếp theo của ông, Homo Deus, Lược Sử Tương Lai, sau đó khắc họa một tương lai cho nhân loại được mang lại bởi sự xuất hiện của siêu trí tuệ.

Cuốn sách mới nhất của ông, Nexus: A Brief History of Information Networks From the Stone Age to AI (Lịch sử tóm tắt, từ thời đồ đá đến trí tuệ nhân tạo), là một lời cảnh báo về mối đe dọa chưa từng có từ công nghệ AI. Một xu hướng gia tăng của chủ nghĩa kỹ trị cực đoan (techno-fascism), được thúc đẩy bởi chủ nghĩa dân túy và trí tuệ nhân tạo, hai xu hướng đã trở nên vô cùng rõ ràng kể từ cuộc bầu cử tổng thống Mỹ vào tháng 11.

Nexus, được xuất bản vài tháng trước, là một lời giải thích có phần kịp thời về những hậu quả tiềm tàng của AI đối với nền dân chủ và chế độ toàn trị. Trong cuốn sách này, Harari không chỉ báo động về dị điểm (singularity), điểm tương lai giả thuyết. Ở đó, công nghệ, đặc biệt là AI, vượt khỏi tầm kiểm soát của con người và tiến triển một cách không thể đảo ngược, kết hợp với cả tính xa lạ của AI.

Cuộc phỏng vấn dưới đây được thực hiện bởi Michiaki Matsushima, tổng biên tập của tờ tạp chí WIRED Japan, và cũng được ghi âm cho loạt phim YouTube “The Big Interview” phiên bản Nhật Bản của WIRED, dự kiến phát hành vào tháng 4 năm 2025. Cuộc phỏng vấn đã được chỉnh sửa để rõ ràng và ngắn gọn hơn. Nhưng đương nhiên là vẫn dài, vì là một bài đăng trên tạp chí. Anh em để dành đọc từ từ.

"Thông tin" và

Vào cuối những năm 90, khi internet bắt đầu lan rộng, có một quan điểm cho rằng nó sẽ mang lại hòa bình thế giới. Người ta nghĩ rằng với việc nhiều thông tin đến được với nhiều người hơn, mọi người sẽ biết sự thật, sự hiểu biết lẫn nhau sẽ ra đời và nhân loại sẽ trở nên khôn ngoan hơn. Tờ WIRED, vốn là tiếng nói của sự thay đổi và hy vọng trong thời đại kỹ thuật số, đã tham gia vào tư tưởng đó vào thời điểm đó. Trong cuốn sách mới Nexus, ông viết rằng quan điểm như vậy về thông tin là quá ngây thơ. Ông có thể giải thích điều này không?

Thông tin không giống như sự thật. Hầu hết thông tin không phải là một đại diện chính xác của thực tế. Vai trò chính của thông tin là kết nối nhiều thứ, kết nối mọi người. Đôi khi mọi người được kết nối bởi sự thật, nhưng thường thì sử dụng hư cấu hoặc ảo ảnh sẽ dễ làm điều đó hơn.

Điều này cũng đúng với thế giới tự nhiên. Hầu hết thông tin tồn tại trong tự nhiên không nhằm mục đích nói lên sự thật. Chúng ta được cho biết rằng thông tin cơ bản làm nền tảng cho cuộc sống là DNA, nhưng DNA có phải là sự thật không? Không. DNA kết nối nhiều tế bào lại với nhau để tạo thành một cơ thể, nhưng nó không nói cho chúng ta biết sự thật về bất cứ điều gì.

Khi thông tin ở trong một thị trường hoàn toàn tự do, phần lớn thông tin sẽ trở thành hư cấu, ảo ảnh hoặc dối trá. Điều này là do có ba khó khăn chính đối với sự thật.

• Thứ nhất, việc nói ra sự thật rất tốn kém. Tạo ra những thứ hư cấu rẻ hơn nhiều. Nếu bạn muốn thuật lại một cách trung thực về lịch sử, kinh tế học, vật lý học, v.v., bạn cần đầu tư thời gian, công sức và tiền bạc để thu thập bằng chứng và kiểm tra tính xác thực của chúng. Với hư cấu, tuy nhiên, bạn chỉ đơn giản là có thể viết bất cứ điều gì bạn muốn.
• Thứ hai, sự thật thường phức tạp, vì bản thân thực tế rất phức tạp. Hư cấu, mặt khác, có thể đơn giản như bạn muốn.
• Và cuối cùng, sự thật thường khiến chúng ta đau đớn và khó chịu. Hư cấu, mặt khác, có thể được tạo ra để tạo cảm giác dễ chịu và hấp dẫn nhất có thể.

Do đó, trong một thị trường thông tin hoàn toàn tự do, sự thật sẽ bị áp đảo và chôn vùi bởi khối lượng lớn thông tin hư cấu và ảo ảnh. Nếu chúng ta muốn tìm đến sự thật, chúng ta phải vô cùng nỗ lực để lặp đi lặp lại hành động cố gắng khám phá các sự kiện.

Đây chính xác là điều đã xảy ra với sự phát triển của internet. Internet là một thị trường thông tin hoàn toàn tự do. Do đó, kỳ vọng rằng internet sẽ lan truyền các sự thật và chân lý, đồng thời lan truyền sự hiểu biết và đồng thuận giữa mọi người, bị coi là lối suy nghĩ ngây thơ từ rất sớm.

Lấy lịch sử để hiểu về thời kỳ AI

Trong một cuộc phỏng vấn gần đây với The New Yorker, Bill Gates nói: “Tôi luôn nghĩ rằng công nghệ kỹ thuật số trao quyền cho con người, nhưng mạng xã hội lại hoàn toàn khác. Chúng tôi đã chậm trễ trong việc nhận ra điều đó. Và AI cũng hoàn toàn khác nữa.” Nếu AI là thứ hiện diện theo cách chưa từng có tiền lệ, thì chúng ta có thể học được gì từ quá khứ?

Có rất nhiều điều chúng ta có thể học hỏi từ lịch sử. Thứ nhất, biết lịch sử giúp chúng ta hiểu những thứ mới mà AI mang lại. Nếu không biết lịch sử, chúng ta không thể hiểu đúng sự mới lạ của tình hình hiện tại. Và điểm quan trọng nhất về AI là nó là một tác nhân, chứ không chỉ là một công cụ.

Một số người thường so sánh cuộc cách mạng AI với cuộc cách mạng in ấn, phát minh ra chữ viết hoặc sự xuất hiện của các phương tiện truyền thông đại chúng như radio và truyền hình. Nhưng đó là hiểu lầm. Tất cả các công nghệ thông tin trước đây chỉ đơn thuần là công cụ trong tay con người. Ngay cả khi máy in được phát minh, vẫn phải là con người viết văn bản và quyết định lựa chọn in những cuốn sách nào. Bản thân máy in không thể tự viết bất cứ điều gì, cũng như không thể chọn in những cuốn sách nào.

AI, tuy nhiên, hoàn toàn khác biệt: Nó là một tác nhân. Nó có thể tự viết sách và có thể đưa ra quyết định phổ biến ý tưởng nào. Nó thậm chí có thể tạo ra những ý tưởng hoàn toàn mới trên cơ sở riêng của mình, điều chưa từng xảy ra trong lịch sử. Chúng ta, con người, chưa bao giờ đối mặt với một tác nhân siêu thông minh trước đây.

Tất nhiên, đã từng có các tác nhân trong quá khứ. Động vật là một ví dụ. Tuy nhiên, con người thông minh hơn động vật, đặc biệt là trong lĩnh vực kết nối, chúng ta làm điều đó vượt trội hơn hẳn. Trên thực tế, sức mạnh lớn nhất của chủng loài chúng ta, Homo sapiens, không nằm ở khả năng cá nhân. Ở cấp độ cá nhân, tôi không khỏe hơn tinh tinh, voi hay sư tử. Nếu một nhóm nhỏ, ví dụ 10 người và 10 con tinh tinh, chiến đấu với nhau, thì có lẽ mấy con tinh tinh sẽ thắng.

Vậy tại sao con người lại thống trị hành tinh? Đó là vì con người có thể tạo ra các mạng lưới gồm hàng nghìn, hàng triệu, thậm chí hàng tỷ người không biết nhau nhưng có thể hợp tác hiệu quả trên quy mô lớn. Mười con tinh tinh có thể hợp tác chặt chẽ với nhau, nhưng 1.000 con tinh tinh thì không. Con người, mặt khác, có thể hợp tác không phải với 1.000 cá nhân mà là một triệu hoặc thậm chí hàng trăm triệu.

Lý do tại sao con người có thể hợp tác trên quy mô lớn như vậy là vì chúng ta có thể tạo ra và chia sẻ những câu chuyện. Mọi sự hợp tác quy mô lớn đều dựa trên một câu chuyện chung. Tôn giáo là ví dụ rõ ràng nhất, nhưng các câu chuyện tài chính và kinh tế cũng là những ví dụ đáng kể.

Tiền bạc có lẽ là ví dụ chứng minh loài người hợp tác với nhau thành công nhất trong lịch sử. Tiền chỉ là một câu chuyện. Các tờ tiền giấy và xu không có giá trị khách quan, nhưng chúng ta tin vào cùng một câu chuyện, về việc tiền kết nối chúng ta và cho phép chúng ta hợp tác. Khả năng này đã mang lại cho con người lợi thế trước tinh tinh, ngựa và voi. Những động vật này không thể tạo ra một câu chuyện như tiền.

Nhưng AI có thể cũng làm được điều tương tự. Lần đầu tiên trong lịch sử, chúng ta chia sẻ hành tinh với những thực thể có thể tạo ra và kết nối các câu chuyện tốt hơn chúng ta. Câu hỏi lớn nhất mà nhân loại phải đối mặt ngày nay là: Làm thế nào để chúng ta chia sẻ hành tinh với trí tuệ siêu việt mới này?

Tránh suy nghĩ cực đoan về AI

Chúng ta nên suy nghĩ về kỷ nguyên siêu trí tuệ mới này như thế nào?

Tôi nghĩ thái độ cơ bản đối với cuộc cách mạng AI là tránh những thái cực cực đoan. Ở một đầu của phổ là nỗi sợ hãi rằng AI sẽ đến và tiêu diệt tất cả chúng ta. Và ở đầu trái ngược hoàn toàn, là sự lạc quan tuyệt đối, rằng AI sẽ cải thiện chăm sóc sức khỏe, cải thiện giáo dục và tạo ra một thế giới tốt đẹp hơn.

Điều chúng ta cần là đứng ở giữa. Đầu tiên và quan trọng nhất, chúng ta cần hiểu quy mô của sự thay đổi này. So với cuộc cách mạng AI mà chúng ta đang phải đối mặt ngày nay, tất cả các cuộc cách mạng diễn ra trước đây trong lịch sử sẽ trở nên nhạt nhòa. Lý do là, trong suốt lịch sử, khi con người phát minh ra một điều gì đó, luôn là chính chúng ta toàn quyền đưa ra quyết định về cách sử dụng nó để tạo ra một xã hội mới, một hệ thống kinh tế mới hoặc một hệ thống chính trị mới.

Hãy xem xét ví dụ về cuộc Cách mạng Công nghiệp thế kỷ XIX. Vào thời điểm đó, con người đã phát minh ra động cơ hơi nước, đường sắt và tàu thủy. Mặc dù cuộc cách mạng này đã chuyển đổi năng lực sản xuất của nền kinh tế, khả năng quân sự và tình hình địa chính trị, đồng thời mang lại những thay đổi lớn trên toàn thế giới, nhưng cuối cùng vẫn là loài người quyết định cách tạo ra các xã hội công nghiệp.

Ví dụ cụ thể, vào năm 1850, đô đốc Matthew C. Perry của Mỹ đến Nhật Bản bằng tàu hơi nước và buộc Nhật Bản chấp nhận các điều khoản thương mại của Mỹ. Kết quả là, Nhật Bản đã quyết định: Hãy công nghiệp hóa như nước Mỹ. Vào thời điểm đó, có một cuộc tranh luận lớn ở Nhật Bản về việc có nên công nghiệp hóa hay không, nhưng cuộc tranh luận chỉ diễn ra giữa con người với nhau. Bản thân động cơ hơi nước không hề đóng vai trò đưa ra bất kỳ quyết định nào.

Nhưng ở lần này, với việc xây dựng một xã hội mới dựa trên AI, con người không phải là những người duy nhất đưa ra quyết định. AI có thể có quyền tạo ra những ý tưởng mới và đưa ra quyết định.

Điều gì sẽ xảy ra nếu AI có đồng tiền riêng, tự mình đưa ra quyết định về cách chi tiêu nó và thậm chí bắt đầu đầu tư vào thị trường chứng khoán? Trong tình huống đó, để hiểu điều gì đang xảy ra trong hệ thống tài chính, chúng ta cần phải hiểu rõ, không chỉ đơn giản là những gì con người suy nghĩ mà còn cả những gì AI suy nghĩ. Hơn nữa, AI có tiềm năng tạo ra các ý tưởng hoàn toàn khó hiểu đối với chúng ta.

Singularity: Dị điểm thay đổi lịch sử loài người

Tôi muốn làm rõ suy nghĩ của bạn về dị điểm, vì tôi thường thấy ông được coi là một cá nhân “chống lại hiện tượng dị điểm”. Tuy nhiên, trong cuốn sách mới của ông, ông lại chỉ ra rằng AI sáng tạo hơn con người và nó cũng vượt trội hơn con người về trí tuệ cảm xúc.

Tôi đặc biệt ấn tượng với tuyên bố của ông rằng gốc rễ của tất cả các cuộc cách mạng này là máy tính, trong đó internet và AI chỉ là những dẫn xuất. WIRED vừa công bố một loạt bài viết về máy tính lượng tử, vì vậy hãy lấy ví dụ: Nếu chúng ta có một bước nhảy vọt về sức mạnh tính toán trong tương lai, ông có nghĩ rằng điểm kỳ dị, một sự sắp xếp lại trật tự thế giới bởi trí tuệ siêu việt là không thể tránh khỏi?

Điều đó phụ thuộc vào cách bạn định nghĩa dị điểm đã. Theo như tôi hiểu, dị điểm là thời điểm chúng ta không còn hiểu chuyện gì đang xảy ra nữa. Đó là thời điểm trí tưởng tượng và sự hiểu biết của chúng ta không theo kịp thời cuộc. Và có lẽ chúng ta đang rất gần với thời điểm đó.

Ngay cả khi không có máy tính lượng tử hoặc trí tuệ nhân tạo tổng quát, tức là AI có thể sánh ngang với khả năng của con người, sức mạnh của AI hiện tại có thể đủ để tạo ra dị điểm rồi. Mọi người thường nghĩ về cuộc cách mạng AI theo hướng một AI kích thước khổng lồ sẽ xuất hiện và tạo ra những phát minh và thay đổi mới, nhưng chúng ta nên suy nghĩ về các mạng lưới kết nối với nhau.

Điều gì sẽ xảy ra nếu hàng triệu hoặc hàng chục triệu AI tiên tiến được kết nối với nhau để mang lại những thay đổi lớn trong kinh tế, quân sự, văn hóa và chính trị? Mạng lưới sẽ tạo ra một thế giới hoàn toàn khác mà chúng ta không bao giờ hiểu được. Đối với tôi, dị điểm xảy ra chính xác vào thời điểm đó. Đấy là thời điểm mà khả năng hiểu biết về thế giới của chúng ta, thậm chí cả cuộc sống của chúng ta, bị áp đảo.

Nếu bạn hỏi tôi liệu tôi có ủng hộ hay chống lại điểm kỳ dị hay không, trước hết tôi sẽ nói rằng tôi chỉ đang cố gắng hiểu rõ những gì đang xảy ra ngay bây giờ. Mọi người thường muốn đánh giá mọi thứ là tốt hay xấu ngay lập tức, nhưng điều đầu tiên cần làm là xem xét kỹ lưỡng tình hình. Nhìn lại 30 năm qua, công nghệ đã mang lại một số điều rất tốt và một số điều rất tồi tệ. Nó không phải là một điều "chỉ tốt" hoặc "chỉ xấu". Có lẽ tương lai cũng sẽ như vậy.

Sự khác biệt rõ ràng nhất trong tương lai, tuy nhiên, là khi chúng ta không còn hiểu thế giới nữa, chúng ta sẽ không còn kiểm soát được tương lai của mình. Khi đó, chúng ta sẽ ở vào vị trí giống như động vật. Chúng ta sẽ giống như con ngựa hoặc con voi không hiểu điều gì đang xảy ra trên thế giới. Ngựa và voi không thể hiểu rằng các hệ thống chính trị và tài chính của con người kiểm soát số phận của chúng. Điều tương tự có thể xảy ra với chúng ta, con người.

Kỷ nguyên “hậu sự thật”

Ông đã nói rằng “Mọi người đều nói về kỷ nguyên ‘hậu sự thật’, nhưng liệu trong lịch sử có bao giờ có một kỷ nguyên ‘sự thật’ không?” Ông có thể giải thích ý kiến cá nhân của mình không?

Chúng ta từng hiểu thế giới tốt hơn một chút, vì con người là những người quản lý thế giới và đó là một mạng lưới của con người. Tất nhiên, luôn khó khăn để hiểu cách toàn bộ mạng lưới hoạt động, nhưng ít nhất với tư cách là một con người, tôi có thể hiểu được các vị vua, hoàng đế và những cao tăng.

Họ cũng là con người giống như tôi. Khi nhà vua đưa ra quyết định, tôi có thể hiểu nó ở một mức độ nào đó, vì tất cả các thành viên trong mạng lưới thông tin đều là con người. Nhưng bây giờ AI đang trở thành một thành viên quan trọng của mạng lưới thông tin, nên ngày càng khó khăn để hiểu được những quyết định quan trọng định hình thế giới của chúng ta.

Ví dụ quan trọng nhất có lẽ là tài chính. Trong suốt lịch sử, con người đã phát minh ra các cơ chế tài chính càng lúc càng tinh vi hơn. Tiền là một ví dụ, tương tự là cổ phiếu và trái phiếu. Lãi suất là một phát minh tài chính khác. Nhưng mục đích của việc phát minh ra những cơ chế tài chính này là gì? Nó không giống như phát minh ra bánh xe hoặc ô tô, cũng không giống như phát triển một loại gạo mới có thể ăn được.

Mục đích của việc phát minh ra tài chính thực tế là để tạo ra sự tin tưởng và kết nối giữa mọi người. Tiền cho phép bạn và tôi có thể hợp tác. Bạn trồng lúa, và tôi trả tiền cho bạn. Sau đó, bạn đưa tôi lúa và tôi có thể ăn nó. Ngay cả khi chúng ta không quen biết nhau ở mức độ cá nhân, chúng ta đều tin vào tiền. Đồng tiền tốt xây dựng lòng tin giữa mọi người.

Tài chính đã xây dựng một mạng lưới tin tưởng và hợp tác kết nối hàng triệu người. Và cho đến bây giờ, con người vẫn có thể hiểu được mạng lưới tài chính này. Điều này là do tất cả các cơ chế tài chính cần phải dễ hiểu đối với con người. Không có ý nghĩa gì khi phát minh ra một cơ chế tài chính mà con người không thể hiểu được, vì nó không thể tạo ra sự tin tưởng.

Nhưng AI có thể phát minh ra các cơ chế tài chính hoàn toàn mới phức tạp hơn nhiều so với lãi suất, trái phiếu hoặc cổ phiếu. Chúng sẽ cực kỳ phức tạp về mặt toán học và khó hiểu đối với con người. Nhưng quan trọng là bản thân AI có thể hiểu chúng. Kết quả sẽ là một mạng lưới tài chính nơi các AI tin tưởng lẫn nhau và giao tiếp với nhau, đồng thời con người sẽ không hiểu chuyện gì đang xảy ra. Ở đúng thời điểm đó, chúng ta sẽ mất quyền kiểm soát hệ thống tài chính và mọi thứ phụ thuộc vào hệ thống tài chính.

"Siêu đối tượng"

Vậy thì, AI có thể xây dựng các mạng lưới tin cậy mà chúng ta không thể hiểu được. Những điều khó hiểu như vậy được gọi là “siêu đối tượng”. Ví dụ: biến đổi khí hậu toàn cầu là một điều mà con người không thể nắm bắt hoàn toàn cơ chế hoặc bức tranh tổng thể của hiện tượng này, nhưng chúng ta biết rằng nó sẽ có tác động to lớn và do đó chúng ta phải đối mặt và thích ứng với nó.

AI là một siêu đối tượng khác mà nhân loại sẽ phải đối phó trong thế kỷ này. Trong cuốn sách mới, ông trích dẫn sự linh hoạt của con người như một trong những điều cần thiết để giải quyết các thách thức lớn. Nhưng ý nghĩa thực sự của việc nhân loại đối phó với các siêu đối tượng là gì?

Lý tưởng nhất, chúng ta sẽ tin tưởng AI giúp chúng ta ứng phó trước những siêu đối tượng này. AI sẽ giúp đối phó với những thực tế quá phức tạp, đến mức vượt quá khả năng hiểu biết của con người. Nhưng có lẽ câu hỏi lớn nhất trong cuộc cách mạng AI là: Làm thế nào để chúng ta làm cho những AI thông minh hơn con người trở nên đáng tin cậy?

Chúng ta hoàn toàn không có câu trả lời cho câu hỏi đó.

Tôi tin rằng nghịch lý lớn nhất trong cuộc cách mạng AI là nghịch lý về lòng tin. Tức là, chúng ta hiện đang vội vàng phát triển trí tuệ nhân tạo siêu việt mà chúng ta không hoàn toàn tin tưởng chúng. Chúng ta hiểu rằng có rất nhiều rủi ro. Về mặt lý trí, sẽ khôn ngoan nếu làm chậm tốc độ phát triển, đầu tư nhiều hơn vào an toàn và tạo ra các cơ chế an toàn trước để đảm bảo rằng AI siêu thông minh không thoát khỏi tầm kiểm soát của chúng ta hoặc hành động theo những cách gây hại cho con người.

Tuy nhiên, điều ngược lại đang thực sự xảy ra ngay bây giờ. Chúng ta đang ở giữa một cuộc chạy đua AI dễ gây ngợp. Các công ty và quốc gia khác nhau đang chạy đua với tốc độ chóng mặt để phát triển các AI mạnh mẽ hơn. Trong khi đó, rất ít nỗ lực đầu tư đã được thực hiện để đảm bảo an toàn trong việc ứng dụng AI.

Hãy hỏi những người doanh nhân, nhà kinh doanh và lãnh đạo chính phủ đang dẫn dắt cuộc cách mạng AI này: “Tại sao lại vội vàng thế?”

Và gần như tất cả họ đều sẽ trả lời như thế này: “Chúng tôi biết rằng nó có rủi ro, chắc chắn rồi. Chúng tôi hiểu rằng sẽ khôn ngoan hơn nếu đi chậm hơn và đầu tư một cách an toàn. Nhưng chúng ta không thể tin tưởng các đối thủ cạnh tranh ngoài kia. Nếu các công ty và quốc gia khác đẩy nhanh quá trình phát triển AI trong khi chúng ta đang cố gắng làm chậm nó lại và khiến nó an toàn hơn, họ sẽ phát triển trí tuệ siêu việt trước và thống trị thế giới. Vì vậy, chúng ta không có lựa chọn nào khác ngoài việc ........ nhanh nhất có thể để đi trước đối thủ cạnh tranh không đáng tin cậy.”

Nhưng sau đó tôi hỏi những người chịu trách nhiệm về AI một câu hỏi thứ hai: “Bạn có nghĩ rằng bạn có thể tin tưởng trí tuệ siêu việt mà bạn đang phát triển không?” Câu trả lời của họ là: "Có." Điều này gần như điên rồ. Những người thậm chí còn không tin tưởng con người khác lại cho rằng họ có thể tin tưởng những hệ thống AI hoàn toàn xa lạ.

Chúng ta có hàng nghìn năm kinh nghiệm với con người. Chúng ta hiểu tâm lý và chính trị của con người. Chúng ta hiểu mong muốn quyền lực của con người, nhưng chúng ta cũng có một số hiểu biết về cách hạn chế quyền lực đó và xây dựng lòng tin giữa mọi người. Trên thực tế, trong suốt vài nghìn năm qua, con người đã phát triển rất nhiều sự tin tưởng.

Một trăm nghìn năm trước, con người sống trong các nhóm nhỏ gồm một vài chục người và không thể tin tưởng những người khác bên ngoài quần cư. Nhưng ngày nay, chúng ta có các quốc gia rộng lớn, mạng lưới thương mại trải dài khắp thế giới và hàng trăm triệu, thậm chí hàng tỷ người tin tưởng lẫn nhau ở một mức độ nào đó.

Chúng ta biết rằng AI là một tác nhân, rằng nó có thể đưa ra quyết định của riêng mình, tạo ra những ý tưởng mới, đặt ra những mục tiêu mới, tạo ra những thủ đoạn và dối trá mà con người không thể hiểu được, và có thể theo đuổi những mục tiêu xa lạ vượt quá khả năng hiểu biết của chúng ta. Chúng ta có quá nhiều lý do để nghi ngờ AI. Chúng ta không có kinh nghiệm với AI và chúng ta không biết làm thế nào để tin tưởng nó.

Tôi nghĩ rằng đó là một sai lầm lớn khi mọi người cho rằng họ có thể tin tưởng AI, khi chính họ còn chẳng tin tưởng lẫn nhau. Cách an toàn nhất để phát triển trí tuệ siêu việt, trước tiên là phải củng cố lòng tin giữa con người và sau đó hợp tác với nhau để phát triển trí tuệ siêu việt một cách an toàn. Nhưng những gì chúng ta đang làm bây giờ hoàn toàn ngược lại. Thay vì tin tưởng nhau, tất cả các nỗ lực đều đang cạnh tranh và chạy đua, hướng tới việc phát triển trí tuệ siêu việt.

Nghịch lý khủng hoảng lòng tin

Một số độc giả của WIRED có tư tưởng tự do có thể tin tưởng hơn vào trí tuệ siêu việt so với con người, vì con người đã chiến đấu với nhau trong phần lớn lịch sử nhân loại. Ông nói rằng chúng ta hiện có các mạng lưới rộng lớn nơi con người tin cậy lẫn nhau, chẳng hạn như quốc gia và các tập đoàn lớn, nhưng chúng thành công đến mức nào và liệu những mạng lưới ấy sẽ tiếp tục thất bại hay không?

Nó phụ thuộc vào tiêu chuẩn mong đợi mà chúng ta có. Nếu nhìn lại và so sánh nhân loại ngày nay với 100.000 năm trước, khi chúng ta là những người săn bắt hái lượm sống trong các nhóm nhỏ gồm một vài chục người, giờ chúng ta đã xây dựng một mạng lưới tin cậy đáng kinh ngạc. Chúng ta có một hệ thống mà hàng trăm triệu người hợp tác với nhau trên cơ sở hàng ngày.

Những người theo chủ nghĩa tự do thường coi những cơ chế này là đương nhiên và từ chối xem xét nguồn gốc của chúng. Ví dụ: Bạn có điện và nước uống trong nhà. Khi bạn đi vệ sinh và xả nước, nước thải sẽ vào một hệ thống xử lý nước thải khổng lồ. Hệ thống đó được tạo ra và duy trì bởi nhà nước. Nhưng trong tư tưởng của chủ nghĩa tự do, rất dễ mặc định coi điện và nước là điều hiển nhiên, rằng bạn chỉ cần sử dụng bồn cầu và xả nước mà không ai cần phải bảo trì nó. Nhưng tất nhiên là có người phải làm việc đó rồi.

Thực tế không có thị trường hoàn toàn tự do một cách hoàn hảo. Ngoài cạnh tranh, luôn cần một số hệ thống tin cậy nhất định. Một số thứ có thể được tạo ra thành công thông qua cạnh tranh trong một thị trường tự do, tuy nhiên, có một số dịch vụ và nhu yếu phẩm không thể duy trì chỉ bằng cạnh tranh thị trường. Công lý là một ví dụ.

Hãy tưởng tượng một thị trường hoàn toàn tự do. Giả sử tôi ký hợp đồng kinh doanh với bạn và vi phạm hợp đồng đó. Vì vậy, chúng ta đến tòa án và yêu cầu thẩm phán đưa ra quyết định. Nhưng điều gì xảy ra nếu tôi đã hối lộ thẩm phán? Đột nhiên bạn không thể tin tưởng thị trường tự do. Bạn sẽ không dung thứ cho việc thẩm phán đứng về phía người trả nhiều tiền nhất. Nếu công lý được giao dịch trên một thị trường hoàn toàn tự do, bản thân công lý sẽ sụp đổ và mọi người sẽ không còn tin tưởng lẫn nhau nữa. Lòng tin để thực hiện hợp đồng và lời hứa sẽ biến mất và sẽ không có hệ thống nào để thi hành chúng.

Do đó, bất kỳ thị trường cạnh tranh hay hành vi cạnh tranh nào cũng luôn đòi hỏi một cấu trúc lòng tin nhất định. Trong cuốn sách của tôi, tôi lấy ví dụ về World Cup. Bạn có các đội từ các quốc gia khác nhau cạnh tranh với nhau, nhưng để cuộc cạnh tranh diễn ra, trước tiên phải có sự đồng ý về một bộ quy tắc chung. Nếu Nhật Bản có luật riêng và Đức có một bộ quy tắc khác, sẽ không có cuộc cạnh tranh nào cả. Nói cách khác, ngay cả cuộc cạnh tranh cũng đòi hỏi một nền tảng lòng tin và thỏa thuận chung. Nếu không, trật tự sẽ sụp đổ.

Tin giả và lòng tin của con người

Trong cuốn Nexus, ông đã nhấn mạnh rằng, các phương tiện truyền thông đại chúng đã tạo ra nền dân chủ đại diện. Nói cách khác, công nghệ thông tin và sự phát triển của các thể chế dân chủ có liên quan với nhau. Nếu vậy, ngoài những khả năng tiêu cực của chủ nghĩa dân túy và toàn trị, thì những cơ hội thay đổi tích cực nào cho nền dân chủ là có thể?

Lấy ví dụ trên mạng xã hội, tin giả, thông tin sai lệch và thuyết âm mưu được lan truyền cố ý để phá hủy lòng tin giữa mọi người. Nhưng các thuật toán không nhất thiết phải là thủ phạm lan truyền tin giả và thuyết âm mưu. Nhiều thuật toán đã thành công trong việc rêu rao tin giả, đơn giản vì chúng được thiết kế để làm đúng như vậy.

Mục đích của các thuật toán của Facebook, YouTube và TikTok là tối đa hóa sự tương tác của người dùng. Sau nhiều thử nghiệm và sai sót, người ta phát hiện ra rằng cách dễ nhất để tăng tương tác là lan truyền thông tin kích động sự tức giận, thù hận và mong muốn của mọi người. Bởi vì khi mọi người tức giận, họ có xu hướng theo đuổi thông tin và lan truyền nó cho những người khác, dẫn đến tăng cường tương tác.

Nhưng điều gì sẽ xảy ra nếu chúng ta giao cho thuật toán một mục đích khác? Ví dụ: nếu bạn giao cho nó một mục đích như tăng cường lòng tin giữa mọi người hoặc tăng cường tính xác thực, thì thuật toán sẽ không bao giờ lan truyền tin giả. Ngược lại, nó sẽ giúp xây dựng một xã hội tốt đẹp hơn, một nền dân chủ tốt đẹp hơn.

Một điểm quan trọng khác là nền dân chủ nên là một cuộc đối thoại giữa con người. Để có một cuộc đối thoại, bạn cần biết và tin tưởng rằng bạn đang giao tiếp với một con người. Nhưng với mạng xã hội và internet, ngày càng khó biết liệu thông tin bạn đọc có thực sự được viết và lan truyền bởi con người hay chỉ là bot.

Điều này phá hủy lòng tin giữa mọi người và khiến việc bảo vệ nền dân chủ trở nên rất khó khăn. Để giải quyết vấn đề này, chúng ta có thể có các quy định và luật để cấm bot và AI giả mạo con người. Tôi không nghĩ rằng AI nên bị cấm hoàn toàn. AI và bot được phép tương tác với chúng ta, nhưng chỉ khi làm rõ được rằng chúng là AI chứ không phải con người. Khi chúng ta thấy thông tin trên Twitter, chúng ta cần biết liệu nó có đang được lan truyền bởi một con người hay một bot.

Một số người có thể nói: “Đây có phải là sự vi phạm tự do ngôn luận không?” Nhưng những con bot không có quyền tự do ngôn luận. Mặc dù tôi kiên quyết phản đối việc kiểm duyệt ý kiến của con người, nhưng điều đó không áp dụng với những ý kiến của bot đưa ra.

Liệu chúng ta sẽ trở nên thông minh hơn hay đưa ra những kết luận tốt hơn bằng cách thảo luận về các chủ đề với AI trong tương lai gần? Liệu chúng ta có thấy loại hình sáng tạo mà con người không thể tưởng tượng được, như trong trường hợp AlphaGo, mà ông cũng mô tả trong cuốn sách mới của mình, trong các cuộc thảo luận trên lớp học, chẳng hạn?

Tất nhiên là có thể. Một mặt, AI có thể rất sáng tạo và đưa ra những ý tưởng mà chúng ta chưa bao giờ nghĩ đến. Nhưng đồng thời, AI cũng có thể thao túng chúng ta bằng cách cung cấp cho chúng ta một lượng lớn thông tin rác và thông tin sai lệch.

Điểm mấu chốt là chúng ta con người là các bên liên quan trong xã hội. Như tôi đã đề cập trước đó với ví dụ về hệ thống xử lý nước thải, chúng ta có một cơ thể. Nếu hệ thống xử lý nước thải sụp đổ, cơ thể chúng ta sẽ bị bệnh, lây lan các bệnh như kiết lỵ và tả. Và trong những trường hợp xấu nhất, chúng ta sẽ chết.

Nhưng điều đó không phải là mối đe dọa đối với AI, vì nó không quan tâm đến việc hệ thống xử lý nước thải có sụp đổ hay không, vì nó sẽ không bị ốm hoặc chết đi theo nghĩa tự nhiên. Khi công dân tranh luận, ví dụ, liệu có nên phân bổ tiền cho một cơ quan chính phủ để quản lý hệ thống xử lý nước thải hay không, có một lợi ích rõ ràng đối với con người. Vì vậy, trong khi AI có thể đưa ra một số ý tưởng mới lạ và sáng tạo về hệ thống xử lý nước thải, ngay từ đầu chúng ta phải luôn nhớ rằng AI không phải là con người hoặc thậm chí không phải một thực thể hữu cơ.

Thật dễ dàng để quên rằng chúng ta có thân xác, đặc biệt là khi thảo luận về không gian mạng. Điều phân biệt AI với con người không chỉ là trí tưởng tượng và cách suy nghĩ xa lạ của nó, mà còn là “cơ thể” của nó hoàn toàn khác với chúng ta. Cuối cùng, AI cũng là một thực thể vật lý; nó không tồn tại trong một không gian thuần túy tinh thần, mà trong một mạng lưới máy tính và máy chủ.

Điều quan trọng nhất cần xem xét khi nghĩ về tương lai là gì?

Tôi nghĩ có hai vấn đề quan trọng. Một là vấn đề lòng tin, đã được thảo luận rất nhiều cho đến thời điểm này. Chúng ta hiện đang ở trong tình huống mà lòng tin giữa con người đang bị đe dọa. Đây là mối nguy hiểm lớn nhất. Nếu chúng ta có thể củng cố lòng tin giữa mọi người, chúng ta sẽ có khả năng đối phó tốt hơn với cuộc cách mạng AI.

Vấn đề thứ hai là mối đọng bị thao túng hoặc lạc lối hoàn toàn bởi AI. Vào những ngày đầu của internet, ẩn dụ chính cho công nghệ là Web. Mạng lưới World Wide Web được hình dung như một mạng nhện kết nối mọi người với nhau.

Ngày nay, tuy nhiên, ẩn dụ chính là những cái kén. Mọi người ngày càng sống trong các kén thông tin cá nhân. Mọi người bị tràn ngập trong quá nhiều thông tin, đến mức họ mù quáng trước thực tế xung quanh. Mọi người bị mắc kẹt trong các kén thông tin khác nhau. Lần đầu tiên trong lịch sử, một thực thể phi con người, AI, có thể tạo ra một kén thông tin như vậy.

Trong suốt lịch sử, mọi người đã sống trong một kén văn hóa do con người tạo ra. Thơ ca, truyền thuyết, thần thoại, nhà hát, kiến trúc, công cụ, ẩm thực, hệ tư tưởng, tiền bạc và tất cả các sản phẩm văn hóa khác đã định hình thế giới của chúng ta đều đến từ tâm trí con người. Tuy nhiên trong tương lai, nhiều dạng trong số những sản phẩm văn hóa này sẽ đến từ trí thông minh không phải con người.

Thơ ca, video, hệ tư tưởng và tiền bạc của chúng ta sẽ đến từ trí thông minh không phải con người. Chúng ta có thể bị mắc kẹt trong một thế giới xa lạ như vậy, mất kết nối với thực tế. Đây là nỗi sợ hãi mà con người đã giữ sâu thẳm trong trái tim mình hàng ngàn năm qua. Bây giờ, hơn bao giờ hết, nỗi sợ hãi này đã trở nên hiện thực và nguy hiểm.

Ví dụ: Phật giáo nói về khái niệm māyā—ảo ảnh, ảo giác. Với sự xuất hiện của AI, có thể khó khăn hơn để thoát khỏi thế giới ảo tưởng này hơn trước đây. AI có khả năng làm ngập chúng ta với những ảo ảnh mới, những ảo ảnh không bắt nguồn từ trí tuệ hoặc trí tưởng tượng của con người. Chúng ta sẽ thấy rất khó hiểu được những ảo ảnh đó.

Ông đã đề cập đến "cơ chế tự sửa lỗi" như một chức năng quan trọng để duy trì nền dân chủ. Tôi nghĩ rằng đây cũng là một chức năng quan trọng để thoát khỏi kén và kết nối với thực tế. Mặt khác, trong cuốn sách, ông viết rằng hiệu suất của loài người kể từ Cách mạng Công nghiệp chỉ nên được chấm điểm “C-,” tức là chỉ vừa đủ chấp nhận được. Nếu điều đó là đúng, thì chắc chắn chúng ta không thể mong đợi nhiều điều từ loài người trong cuộc cách mạng AI sắp tới?

Khi một công nghệ mới xuất hiện, nó không nhất thiết phải xấu xí một cách mặc định, nhưng mọi người vẫn chưa biết cách sử dụng nó có lợi. Lý do họ không biết là vì họ không có mô hình cho nó.

Khi Cách mạng Công nghiệp diễn ra vào thế kỷ 19, không ai có mô hình về cách xây dựng một "xã hội công nghiệp tốt" hoặc cách sử dụng các công nghệ như động cơ hơi nước, đường sắt và điện báo để mang lại lợi ích cho nhân loại. Do đó, mọi người đã thử nghiệm theo nhiều cách khác nhau. Một số thí nghiệm này, chẳng hạn như sự ra đời của chủ nghĩa đế quốc hiện đại và các nhà nước toàn trị, đã có kết quả thảm khốc.

Điều đó không có nghĩa là AI tự nó xấu hoặc mặc định là gây hại. Vấn đề thực sự là chúng ta không có mô hình dựa trên những gì đã xảy ra trong lịch sử để xây dựng một xã hội AI. Do đó, chúng ta sẽ phải lặp lại các thử nghiệm. Hơn nữa, chính AI bây giờ sẽ đưa ra quyết định của riêng mình và tiến hành các thí nghiệm của riêng nó. Và một số thí nghiệm này có thể có kết quả khủng khiếp.

Đó là lý do tại sao chúng ta cần một cơ chế tự sửa lỗi, một cơ chế có thể phát hiện và sửa chữa các lỗi trước khi điều gì đó nguy hiểm chết người xảy ra. Nhưng đây không phải là thứ có thể được kiểm tra trong phòng thí nghiệm trước khi giới thiệu công nghệ AI cho thế giới. Không thể mô phỏng lịch sử trong phòng thí nghiệm.

Ví dụ, hãy xem xét việc phát minh ra đường sắt.

Trong một phòng thí nghiệm, mọi người có thể thấy liệu động cơ hơi nước có phát nổ do trục trặc hay không. Nhưng không ai có thể mô phỏng những thay đổi mà nó sẽ mang lại cho tình hình kinh tế và chính trị khi mạng lưới đường sắt lan rộng trên hàng chục nghìn km.

Điều tương tự cũng đúng với AI.

Bất kể chúng ta thử nghiệm AI trong phòng thí nghiệm bao nhiêu lần, chúng ta không thể dự đoán điều gì sẽ xảy ra khi hàng triệu hệ thống trí thông minh siêu việt, được đem tới thế giới thực, rồi khi chúng bắt đầu thay đổi bối cảnh kinh tế, chính trị và xã hội. Chắc chắn sẽ có những sai lầm lớn. Đó là lý do tại sao chúng ta nên tiến hành cẩn thận hơn và chậm hơn. Chúng ta phải cho phép mình thời gian để thích nghi, thời gian để khám phá và sửa chữa các lỗi sai của mình.