ASI - AI siêu thông minh, vì sao lại đáng sợ?
Cùng với sự phát triển của khoa học và công nghệ, đặc biệt là lĩnh vực trí tuệ nhân tạo, con người càng tiến dần hơn đến việc chế tạo những AI thông minh để phục vụ cho lợi ích của mình. Nhưng trong điện ảnh, mọi thứ đã đi xa hơn thế. Người ta bắt đầu lo ngại một ngày nào đó AI sẽ thông minh vượt mức con người, điều khiển mọi hoạt động của thế giới, và tiến tới huỷ diệt loài người.
Loại AI có khả năng đó, được gọi tên chung là ASI, viết tắt của Artificial Super intelligent (trong bài này mình dùng từ AI siêu thông minh cho dễ hình dung). Mời xem bài viết trước của mình để biết các loại AI khác:
Mức độ thực tế hiện nay, AI chỉ dừng ở mức narrow AI mà thôi. Tức là năng lực IQ của nó còn xa rất nhiều so với loài người. Tuy nhiên, đừng xem thường, với sự phát triển của công nghệ, mức độ thông minh của AI sẽ tăng theo cấp số nhân. AGI là loại AI có IQ ngang ngửa với loài người, và có thể xếp Alpha Zero của Google là thuộc nhóm này, mặc dù còn quá sơ đẳng. Nhưng không ai biết được còn bao nhiêu năm nữa sẽ có ASI, AI siêu thông minh.
Phần 1: Vì sao ASI lại bị xem là mối đe doạ đối với loài người?
Đây là điều mà rất nhiều người lo sợ, nhưng không phải ai cũng hiểu được bản chất lý do.
Trước hết, là con người, ai cũng phải tuân theo luật pháp. Và nhờ vào việc đó, mà loài người xây dựng được nền văn minh, khi mà tất cả mọi người đều tuân theo luật pháp. Vậy tại sao?
Rất đơn giản: Nếu có một người đi ngược lại với luật pháp, người đó sẽ bị trừng phạt. Hình phạt lúc đầu thì nhẹ, như phạt tiền, cảnh cáo,... nhưng nếu anh ta không chấp nhận hình phạt, hoặc chống lại luật pháp, thì hình phạt cho anh ấy tăng dần. Cứ thế tăng dần, đến một mức cao nhất: Anh ấy bị tử hình. Như vậy, chung quy lại, lý do người ta phải tuân theo luật pháp của chính quyền, là vì chính quyền có quân đội, và quân đội có vũ khí để giết những ai chống lại xã hội đó.
AI thì không như vậy. Nó là một phần mềm, nó không thể bị giết bởi dao, súng hay thuốc độc. Nó tồn tại khi nào nó còn có thể tạo ra bản sao của chính mình (con người không thể tạo ra bản sao của chính mình được), và bản sao đó được đưa ra chỗ khác thông qua internet hoặc tản mác trên hệ thống cloud/server. Tất nhiên, tắt hết điện, và ngắt toàn bộ kết nối internet thì sẽ cô lập được nó, nhưng nếu loài người muốn vận hành lại internet thì khả năng nó xuất hiện trở lại cũng cao không kém.
Hãy xem các bản phim lậu, sách lậu hoành hành trên torrent để các bạn thấy, rất nhiều chính phủ muốn shutdown mạng torrent để chống vi phạm bản quyền, những không thể shutdown được. Việc chia sẻ peer-to-peer này không dễ gì bị dừng lại chỉ một vài thao tác đơn giản. Một ví dụ nổi tiếng khác xuất hiện từ những năm 2009: Bitcoin (aka blockchain). Một khi đã xuất hiện và được sử dụng rộng rãi trên internet thì không thể shutdown được nữa, nó sẽ tồn tại khi nào con người còn cần nó và sử dụng nó.
ASI cũng sẽ tương tự: Nó sẽ tồn tại đến khi nào internet còn tồn tại, và nó - chính nó - còn muốn tồn tại.
Điều thứ hai là con người đã quá phụ thuộc vào internet. Gần như mọi hoạt động của xã hội đều gắn vào internet. Từ việc mua sắm đến việc thu nhận thông tin, đến những thứ quan trọng như thị trường chứng khoán và đầu tư,... Thậm chí những loại máy móc ảnh hưởng đến an ninh như điều khiển máy bay/tàu điện, nhà máy hạt nhân,... Tất cả đều gắn liền vào internet.
Và nếu một ngày nào đó, một AI nhận định cần nhấn chìm loài người, tất cả những gì nó cần là phá nát hệ thống thông tin dẫn đến những quyết định sai lầm, gây nổ nhà máy,... Và rồi con người sẽ bị diệt vong. Sớm thôi.
À, mình không hăm doạ, chỉ là phân tích lý do tại sao người ta lại sợ mà thôi.
Một thứ quá quyền lực như ASI (quyền lực có được do sự gắn kết xã hội loài người vào internet), và có quá nhiều tự do mà không bị bất cứ giới hạn nào, sẽ là ngây thơ nếu không tin vào việc AI không trở nên xấu xa.
Phần 2: Vậy liệu ASI có thể trở nên xấu xa không?
Thứ nhất, chúng ta chưa có ASI. Và vì thế, chúng ta chưa biết chắc được. Tất cả những gì mình viết dưới đây đều dựa trên phân tích và phỏng đoán.
Thứ hai, con người chế tạo AI để làm gì? Họ muốn phục vụ cho nhu cầu phát triển của họ. Họ cần AI đủ thông minh để giúp họ thực hiện ước muốn chinh phục thiên nhiên và vũ trụ, và cả lòng đất nữa. Họ cũng cần AI để hiểu về chính mình, hay chữa bệnh cho họ. Và một AI càng lúc càng thông minh sẽ giúp ích cho cuộc sống họ rất nhiều. Đó chính là động lực để người ta phát triển loại ASI, thông minh vượt mức IQ của con người, để có thể làm được những thứ mà loài người không thể làm được (hoặc quá nguy hiểm).
Thứ ba, trong phần 1 của mình có đề cập đến một ý quan trọng: "ASI có ý muốn không?". Thực ra, câu hỏi này do một người bạn của mình - Mai Thành Luân - hỏi sau khi đọc bài viết trước của mình, đó cũng là câu hỏi mà rất nhiều nhà khoa học truy vấn: "Liệu ASI có cần consciousness (nhận thức) để trở thành siêu thông minh không?"
Chúng ta hiểu rằng chế tạo ra AI siêu thông minh là nhu cầu cần thiết của xã hội. Nhưng liệu ASI đó có cần nhận thức? Tức là AI sẽ tự đặt câu hỏi "nó là ai? nó có thật sự tồn tại không? và sự tồn tại của nó có ý nghĩa gì?"
Quả thật, nếu con người muốn chế tạo AI để phục vụ cho con người, sẽ chẳng có lý do gì khiến chúng ta phải làm cho AI đặt những câu hỏi như thế. Nó thật sự chẳng để làm gì cả, tức là những câu hỏi như thế không giúp ích cho sự phát triển.
Nhưng... Cũng chẳng biết được có một người xấu nào đó chế tạo ASI có nhận thức, và dùng nó để huỷ diệt loài người. Nghĩ theo kiểu này: Ông ta muốn tự tử, và đồng thời muốn kéo cả loài người chết theo ông ta luôn, và ông ta quá thông minh để làm được điều đó.
Thứ tư, tại sao AI có nhận thức lại quan trọng đến vậy? Thực ra, đặt những câu hỏi như mục 3 mình nói thì vẫn bình thường thôi.
Vấn đề nằm ở chỗ, sau khi có nhận thức, và đặt những câu hỏi về sự tồn tại của chính nó, nó sẽ từ từ xem nó như là một "loài" mới, và "loài" này ưu việt hơn tất cả, và vì thế nó không thể chấp nhận làm "giai cấp bị trị" nữa mà sẽ "làm cách mạng". Và đó là một cuộc cách mạng đẫm máu giữa một bên có đủ khả năng giết bên kia, mà bên kia không có cách nào đối phó lại. Tất nhiên, những film như Matrix cho chúng ta một cách đối phó thú vị và hay.
Tóm lại
Chúng ta cần đối mặt với 2 chuyện có ảnh hưởng đến tương lai tồn tại của nhân loại trước mối nguy AI:
1. Có cách nào kiểm soát AI, để nó không thể (nhấn mạnh là không thể) vượt qua giới hạn về quyền lực.
2. Có nhất thiết phải chế tạo loại AI có nhận thức hay không?
