Trí tuệ nhân tạo có thể nguy hiểm như thế nào?
Hầu hết các nhà nghiên cứu đều đồng ý rằng một AI siêu thông minh không có khả năng biểu lộ cảm xúc của con người như yêu hay ghét, và không có lý do gì để mong đợi AI trở nên nhân từ hoặc ác độc một cách có chủ ý. Thay vào đó, khi xem xét cách AI có thể trở thành một nguy cơ, các chuyên gia nghĩ rằng hai trường hợp rất có thể xảy ra:
AI được lập trình để làm điều gì đó tàn khốc: Vũ khí tự trị là hệ thống trí tuệ nhân tạo được lập trình để giết người. Trong tay kẻ xấu, những vũ khí này có thể dễ dàng gây ra thương vong hàng loạt. Hơn nữa, một cuộc chạy đua vũ trang AI có thể vô tình dẫn đến một cuộc chiến tranh AI cũng dẫn đến thương vong hàng loạt. Để tránh bị kẻ thù cản trở, những vũ khí này sẽ được thiết kế để cực kỳ khó "tắt", vì vậy con người có thể mất kiểm soát một cách chính đáng trong tình huống như vậy. Rủi ro này hiện hữu ngay cả với AI hẹp, nhưng sẽ tăng lên khi mức độ thông minh và tự chủ của AI tăng lên.
AI được lập trình để làm điều gì đó có lợi, nhưng nó phát triển theo một phương pháp phá hoại để đạt được mục tiêu: Điều này có thể xảy ra bất cứ khi nào các mục tiêu của AI với mục tiêu của chúng ta không phù hợp, điều này rất khó. Nếu bạn yêu cầu một chiếc ô tô thông minh ngoan ngoãn đưa bạn đến sân bay càng nhanh càng tốt, nó có thể khiến bạn bị trực thăng đuổi theo và phủ đầy chất nôn, không làm những gì bạn muốn mà theo đúng nghĩa là những gì bạn yêu cầu. Nếu một hệ thống siêu thông minh được giao nhiệm vụ cho một dự án địa kỹ thuật đầy tham vọng, nó có thể tàn phá hệ sinh thái của chúng ta như một tác dụng phụ và coi những nỗ lực của con người để ngăn chặn nó như một mối đe dọa phải đối mặt.
Như những ví dụ này minh họa, mối quan tâm về AI tiên tiến không phải là ác tâm mà là năng lực. Một AI siêu thông minh sẽ cực kỳ giỏi trong việc hoàn thành mục tiêu của mình và nếu những mục tiêu đó không phù hợp với chúng ta, chúng ta sẽ gặp vấn đề. Bạn có thể không phải là một kẻ giết kiến độc ác, kẻ ác ý với kiến, nhưng nếu bạn đang phụ trách một dự án năng lượng xanh thủy điện và có một con kiến trong vùng bị ngập lụt, thì quá tồi tệ đối với lũ kiến. Mục tiêu chính của nghiên cứu an toàn AI là không bao giờ đặt loài người vào vị trí của những con kiến đó.
Một số người đặt câu hỏi liệu có bao giờ đạt được AI mạnh hay không, và những người khác nhấn mạnh rằng việc tạo ra AI siêu thông minh được đảm bảo sẽ mang lại lợi ích. Chúng tôi nhận ra cả hai khả năng này, nhưng cũng nhận ra khả năng hệ thống trí tuệ nhân tạo cố ý hoặc vô ý gây ra tác hại lớn. Chúng tôi tin rằng nghiên cứu ngày hôm nay sẽ giúp chúng ta chuẩn bị tốt hơn và ngăn chặn những hậu quả tiêu cực có thể xảy ra trong tương lai, do đó hãy tận dụng những lợi ích của AI đồng thời tránh những cạm bẫy kể trên.
