Một nghiên cứu mới do Bộ Ngoại giao Hoa Kỳ tài trợ kêu gọi lệnh cấm tạm thời đối với việc tạo ra trí tuệ nhân tạo (AI) tiên tiến vượt qua một ngưỡng nào đó về sức mạnh tính toán khi tuyên bố rằng công nghệ này đặt ra mối đe dọa “tuyệt chủng” đối với loài người.
Nghiên cứu, được thực hiện như một phần của hợp đồng liên bang trị giá 250.000 USD, cũng kêu gọi “xác định quyền hạn khẩn cấp” cho cơ quan hành pháp của chính phủ Mỹ “để ứng phó với các sự cố nguy hiểm và diễn ra nhanh chóng liên quan đến AI” – như “robot bầy đàn”.
Nghiên cứu cũng đề xuất chính phủ cần coi chip máy tính cao cấp là hàng cấm quốc tế, và thậm chí giám sát cách phần cứng được sử dụng. Nó bổ sung thêm vào các giọng nói từ ngành công nghiệp, chính phủ và học thuật kêu gọi sự quan tâm tích cực của cơ quan quản lý đối với tiềm năng đầy hứa hẹn nhưng lại gây rối xã hội của AI.
Chẳng hạn, vào tháng 7 năm ngoái, Tổ chức Giáo dục, Khoa học và Văn hóa Liên Hợp Quốc (UNESCO), đã kết hợp lo ngại về AI với những lo ngại không kém đến từ công nghệ chip não, Neuralink của Elon Musk, cảnh báo về “giám sát thần kinh” vi phạm “quyền riêng tư tâm thần”.
Mặc dù báo cáo mới nhấn mạnh ngay trên trang đầu tiên rằng các khuyến nghị này “không phản ánh quan điểm của Bộ Ngoại giao Hoa Kỳ hoặc Chính phủ Hoa Kỳ”, các tác giả đã thông tin cho chính phủ Hoa Kỳ về AI kể từ năm 2021.
Các tác giả nghiên cứu, một công ty tư vấn AI gồm bốn người có tên là công ty Gladstone AI do anh em Jérémie và Edouard Harris điều hành, nói với tờ TIME rằng, các bài thuyết trình trước đây của họ về rủi ro AI thường được các quan chức chính phủ không có thẩm quyền hành động lắng nghe.
Họ cho biết điều đó đã thay đổi với Bộ Ngoại giao Hoa Kỳ, bởi vì Văn phòng An ninh và Chống phổ biến vũ khí quốc tế (BIS) đã được giao nhiệm vụ cụ thể là hạn chế sự phổ biến của các loại vũ khí mới mang tính thảm họa.
Và báo cáo Gladstone AI dành sự quan tâm đáng kể đến “rủi ro vũ khí hóa”.
Họ viết, một AI tiên tiến, có khả năng tấn công “có thể được sử dụng để thiết kế và thậm chí thực hiện các cuộc tấn công sinh học, hóa học hoặc mạng thảm khốc hoặc kích hoạt các ứng dụng vũ khí hóa chưa từng có với robot bầy đàn”.
Nhưng báo cáo đưa ra một kịch bản thứ hai, thậm chí còn đen tối hơn, mà họ mô tả là rủi ro AI “mất kiểm soát”.
Họ viết, “có lý do để tin rằng chúng [AI được trang bị vũ khí] có thể không thể kiểm soát được nếu chúng được phát triển bằng các kỹ thuật hiện tại và có thể mặc định hành xử đối kháng với con người”.
Nói cách khác, máy móc có thể tự quyết định rằng loài người (hoặc một số nhóm nhỏ loài người) chỉ đơn giản là kẻ thù cần bị tiêu diệt hoàn toàn.
Giám đốc điều hành của Gladstone AI, Jérémie Harris, cũng đưa ra những kịch bản nghiêm trọng tương tự trước các phiên điều trần do Ủy ban Thường trực về Công nghiệp và Công nghệ tại Hạ viện Canada tổ chức vào ngày 5/12/2023.
Harris nói với các nhà lập pháp Canada: “Không quá lời khi nói rằng các cuộc đối thoại trong cộng đồng an toàn AI hàng đầu coi AI là vũ khí hủy diệt hàng loạt trong tương lai gần”.
Ông nói thêm: “Các phòng thí nghiệm nghiên cứu trí tuệ nhân tạo (AI) hàng đầu (frontier AI labs) đang cảnh báo công khai và riêng tư rằng trong vài năm tới, các hệ thống AI có khả năng thực hiện các cuộc tấn công phần mềm độc hại (malware) thảm khốc và hỗ trợ thiết kế vũ khí sinh học, cùng với nhiều năng lực đáng báo động khác. Nghiên cứu của chúng tôi cho thấy đây là một đánh giá hợp lý.”
Trong báo cáo mới của Bộ Ngoại giao Hoa Kỳ, Harris và các đồng tác giả lưu ý rằng các công ty trí tuệ nhân tạo (AI) thuộc khu vực tư nhân được các quỹ đầu tư mạo hiểm rót vốn mạnh mẽ, có động lực to lớn để mở rộng quy mô nhằm vượt qua đối thủ cạnh tranh, nhiều hơn động lực để đầu tư vào an toàn hoặc bảo mật.
Họ khuyên rằng cách khả thi duy nhất để tạo ra sự gián đoạn trong kịch bản của họ là đến từ bên ngoài không gian mạng, thông qua quản lý chặt chẽ các chip máy tính cao cấp được sử dụng để đào tạo hệ thống AI trong thế giới thực.
Báo cáo của Gladstone AI nhấn mạnh rằng các hoạt động ngăn chặn phổ biến (nonproliferation work) đối với phần cứng này là "yêu cầu quan trọng nhất để đảm bảo an toàn và an ninh toàn cầu lâu dài khỏi AI”.
Theo Daily Mail
