[Quan điểm của bạn] Theo bạn thì một xã hội do máy móc quản lý liệu có tốt hơn con người quản lý?

Nếu là Ai quản lý 1 xã hội robot thì chưa thể bàn được điều j
Nếu là AI quản lý xã hội con người thì bạn có nghĩ đến viễn cảnh robot sẽ nổi dậy chiếm lấy tất cả thay vì chung sống với con người không?

Theo mình, nếu để máy móc quản lý thì sẽ tốt hơn.

Con người có quá nhiều lỗi, và lại còn để tình cảm vào nữa. Nhưng vấn đề nguy hiểm nhất của con người là thiếu công bằng, khi nào có dịp là họ sẽ kiếm cái lợi về phía mình mà thôi.

Vấn đề nằm ở chỗ là con người có cho máy móc (trí tuệ nhân tạo) quản lý mình hay không? Mình nghĩ là không bao giờ.

Bản tính của con người là ích kỷ, họ luôn cho mình là cai quản trái đất này và nắm quyền tuyệt đối. Thậm chí còn tranh giành quyền đó với người khác. Thế nên không thể có chuyện họ nhường quyền quyết định này lại cho máy móc được.

Bạn lấy ví dụ về Social Credit System của TQ quả là một ví dụ tuyệt vời... Những gì mà chính quyền TQ hứa là một hệ thống tự động và công bằng cho tất cả mọi người. Nhưng thực tế thì nó chỉ công bằng cho những ai mà được chính quyền cho phép hưởng công bằng mà thôi, còn những người mà lãnh đạo TQ không thích có thể bị điều chỉnh chỉ số này theo cách mà họ muốn.

Đó cũng là cái mường tượng mà loài người mong muốn khi nghĩ về việc để máy móc hỗ trợ con người: Máy móc chỉ được quyền quyết định những thứ mà người tạo ra nó cho phép, và không thể vượt quyền của họ được.

Vì thế, bạn sẽ gặp điều này ở mọi nơi, rằng con người bảo nhau: Chúng ta không thể để trí tuệ nhân tạo chiếm quyền điều khiển cả xã hội, và tự khiến chúng trở thành skynet hay tương tự được, con người phải ngăn chặn sự phát triển của loại AI siêu đẳng đó.

Một mặt, nó đúng về phương diện cảm xúc của bạn. Mặt khác, nó là miếng mồi để bọn chính trị gia lũng đoạn sự phát triển AI để khiến nó bảo toàn tính mạng và ảnh hưởng lớn của giới chính trị gia đến dân chúng nói chung. Điều mà các lãnh đạo chính trị thật sự muốn là: Dân chúng tin vào hệ thống AI công bằng và biết vâng lời, và những AI công bằng và vâng lời ấy phải được điều khiển bởi giới lãnh đạo, và thông qua đó lãnh đạo nắm quyền tuyệt đối trên tính mạng của dân chúng. 

Tái bút: Nhiều bạn cảm thấy kỳ khi mình lái chuyện trí tuệ nhân tạo sang chính trị, nhưng thật ra khi các bạn đang nói chuyện "quản lý xã hội" thì tức là nói chuyện chính trị rồi, mình chỉ phân tích kỹ hơn thôi. 😁 

Mình nghĩ là chỉ nên áp dụng máy móc như một công cụ để quản lý trong một vài khía cạnh của xã hội ( giáo dục, giao thông,...) thôi chứ không phải là tất cả các khía cạnh. Còn cái ví dụ SCS bạn lấy ở trên thì có vẻ nó không phải do máy móc làm chủ hoàn toàn mà vẫn có con người, máy móc ở đây cũng được tính là công cụ và chẳng ai biết phía sau là trò gì (mình đọc ở Business Insider thấy rằng SCS đang nửa người nửa máy quản lý).

Một vấn đề nữa mình nghĩ nếu để máy móc quản lý hoàn toàn thì ai chịu trách nhiệm khi nó hành xử "sai". Sai ở đây không phải là do hệ thống bên trong sai mà sai vì nó không phải con người chúng ta, nó có thể hiểu được tính pháp luật nhưng lại khó để hiểu được tính đạo đức xã hội, một điều cũng coi là quan trọng ở Việt Nam. Giờ ví dụ có làn đường nó ưu tiên xe cấp cứu, nhưng một chiếc xe bình thường chở người cần cấp cứu thì lại không biết mà ưu tiên cho đi. Kiểu vậy, xã hội mình pháp luật thì cứ thế áp dụng vào dc, nhưng phạm trù đạo đức xã hội thì không. 

Ps: Không liên quan lắm nhưng cái SCS làm mình nhớ bộ phim The Circle, phim đó cũng áp dụng tech để theo dõi con người và public các hành vi của một người. Cái đó vừa có lợi vừa có hại và kết phim là dự án đó bị tẩy chay =)))

Theo mình, thì quyền lực tập trung ở mức độ cao là không tốt, dù kẻ độc tài là con người hay máy móc thì cuối cùng nó cũng sẽ sa đoạ và xâm chiếm càng lúc càng nhiều hơn tự do của công dân. Dù ý muốn của nó là "tốt" cho mọi người hay thoả mãn dục vọng của nó đi nữa.

VD một AI được lập trình "vì một thế giới tốt đẹp hơn" có thể giam cầm con người trong nhà vì nếu di chuyển trên đường thì tỉ lệ tai nạn rủi ro cao hơn. Có thể cắt lọc thông tin, ngu dân vì thống kê cho thấy người ít học có mức hạnh phúc cao hơn... Diễn biến cuối cùng có thể giống như Matrix: con người được đặt trong những ống dinh dưỡng nuôi nấng cực kỳ an toàn, có thể thoả mãn mọi nhu cầu trong thế giới ảo (tài nguyên không hạn chế). Nhưng bị tước đoạt mất thực tại và tự do chân chính.

Một rủi ro khác là một hệ thống kết hợp AI điều hành - robot quân đội tập quyền cao có thể bị chiếm quyền điều khiển của một hacker đơn lẻ: Và khi một cá nhân không được đào tạo về kỹ năng cầm quyền lẫn đạo đức tiếp xúc tới một quyền lực to lớn như vậy, không ai đoán được điều gì sẽ xảy ra...

Một hệ thống chính trị tương lai tốt mà mình nghĩ đến là một hệ thống minh bạch nhờ công nghệ, được AI phụ trợ và do con người quyết định. Hệ thống đó có thể không hoàn hảo ngay từ ban đầu nhưng nó có thể cải tiến và phát triển liên tục, càng lúc càng tốt đẹp hơn.

Thứ nhất, mình thấy vấn đề này không quá viễn tưởng.

Vì, có khá nhiều ví dụ rằng máy móc, trí tuệ nhân tạo đang quản lí con người rồi. Một ví dụ dễ thấy nhất là cách thuật toán của các dịch vụ chia sẻ đi lại như Grab hay Be, hoạt động. Với các dịch vụ này, máy móc quản lí và phân chia nhiệm vụ cho tài xế và người sử dụng dịch vụ. Nó sẽ sắp xếp tài xế phù hợp nhất về địa điểm và nhu cầu cho người sử dụng dịch vụ.

Thứ hai, mình không nghĩ là máy móc có thể làm mất đi tự do ý chí của con người trong tương lai gần. Vì mình không nghĩ, tự do ý chí là thứ bản năng của con người nên không phải ai cũng có mà làm mất. Theo tháp nhu cầu, thì cái nhu cầu được công nhận và được tự do nằm ở tầng rất cao của con người. Ở những nơi mà các nhu cầu về ăn, uống, ngủ, vệ sinh cá nhân hay an toàn của con người còn chưa được đáp ứng. Mình cho rằng máy móc có vai trò rất lớn trong việc quản lý và phân chia nhiệm vụ sao cho mang lại hiệu quả lớn nhất cho con người, nhằm đáp ứng những nhu cầu này. Ở những nước mà dân số đông như Trung Quốc, một phần lớn người dân vẫn còn chưa được đáp ứng tốt các nhu cầu cơ bản, thì mình nghĩ có các hệ thống quản lí bằng máy móc giúp cho con người đạt được hiệu quả lao động tốt hơn là cần thiết và có ích.

Thứ ba, mình nghĩ con người ai cũng có ham muốn lợi ích rất riêng cho bản thân. Để cho máy móc quản lí, dựa trên một quy luật chung do con người đặt ra sẽ làm cho tính minh bạch, sòng phẳng của việc quản lí được phát huy, kèm theo đó là giảm tỉ lệ tham nhũng do các cấp quản lí là con người gây ra. Và việc này, theo mình thấy cũng không ảnh hưởng gì đến tự do ý chí của con người cả. 

Hệ thống đánh giá tín dụng như ở Trung Quốc là cần thiết đối với một xã hội có nhiều cá nhân tham gia vào thị trường giao dịch và tính minh bạch, sòng phẳng không cao. Sự chênh lệch trong thu nhập, giáo dục và làm việc hiệu quả của mọi người rất lớn dẫn đến các trường hợp sai phạm trong giao dịch là không thể tránh khỏi. Nếu có một hệ thống tốt, việc giao dịch sẽ giúp cho người tham gia giao dịch thoải mái hơn, bản thân giao dịch cũng hiệu quả hơn.

Vấn đề mình thấy cần phải đặt ra là ở Trung Quốc hay một số nước khác không có dân chủ là, luật hay thuật toán đặt ra cho hệ thống máy móc quản lí có công bằng hay đem lại lợi ích cho đa số mọi người không hay là chỉ nhằm đem lại lợi ích cho một nhóm nhỏ. 

Vì mình nghĩ rằng, tất cả mọi công cụ được sinh ra nên nhằm mục đích phục vụ sự phát triển thịnh vượng vì lợi ích của đại đa số xã hội loài người và tương lai của nó chứ không phải lợi ích của một nhóm nhỏ. 

Còn chuyện mình lo lắng rằng máy móc sẽ thay thế loài người thì mình không lo và mình thấy vô bổ. Quan trọng là nó thay thế mình như thế nào. Chứ chắc chắn là mình sẽ muốn nó thay thế mình giặt đồ, rửa chén làm báo cáo hay lái xe mỗi ngày rồi đó.