Liệu AI có khả năng gây hại cho chính các nhà nghiên cứu không?

Chào bạn,

Có một ví dụ tôi xin chia sẻ với bạn,

Nhận thấy AI mà mình phát triển đang dần từ bỏ tiếng Anh để giao tiếp với nhau bằng một ngôn ngữ mới do chính chúng tạo ra, các nhà nghiên cứu của Facebook buộc phải “giết chết” nó một phần vì lo sợ thứ ngôn ngữ riêng này một ngày nào đó có thể được dùng để chuẩn bị cho những ý đồ xấu của AI. Mặc dù nhìn vào, con người sẽ cho đó là những đoạn hội thoại vô nghĩa hay lỗi phát sinh, nhưng thực tế hệ thống ngôn ngữ tiên tiến mà Trí tuệ nhân tạo đã “vô tình” tạo ra có thể giúp những AI hiểu nhau về phương án tiến hành cũng như kết luận điều gì đó.

Đây không phải là lần đầu tiên máy tính tự tạo ra ngôn ngữ riêng. Các nhà phát triển AI ở một số công ty khác trước đó cũng từng nhận thấy AI thực hiện điều tương tự nhằm đơn giản hóa quá trình giao tiếp. Tại OpenAI, phòng thí nghiệm trí tuệ nhân tạo do Elon Musk thành lập, một thí nghiệm đã được thực hiện thành công khi các nhà khoa học để cho chương trình Trí tuệ nhân tạo tự học ngôn ngữ của chúng.

Ban đầu, Facebook tạo ra chương trình nói trên để mong nó có thể nói chuyện bằng tiếng Anh đơn giản, một phần dùng để tạo ra các phần mềm với khả năng giao tiếp với người dùng sau này. Tuy nhiên, các nhà nghiên cứu tại Facebook thừa nhận họ không thực sự hiểu ngôn ngữ mà AI phát minh ra và điều này cũng đi chệch hướng so với ý định lúc đầu nên đã ngưng phát triển chương trình này lại.