Lực lượng không quân Hoa Kỳ đã phủ nhận việc tiến hành một mô phỏng trí tuệ nhân tạo (AI), trong đó một máy bay không người lái quyết định "giết" người điều khiển để ngăn người này can thiệp vào nỗ lực hoàn thành nhiệm vụ của nó.
Sự phủ nhận này được đưa ra sau khi một quan chức cho biết vào tháng trước rằng, trong một cuộc thử nghiệm ảo do quân đội Hoa Kỳ triển khai, một máy bay không người lái do AI điều khiển của lực lượng không quân đã sử dụng “những chiến lược vô cùng bất ngờ để đạt được mục tiêu”.
Đại tá Tucker “Cinco” Hamilton, trưởng bộ phận kiểm tra và vận hành AI của lực lượng không quân Hoa Kỳ, đã miêu tả một cuộc thử nghiệm mô phỏng trong đó một máy bay không người lái chạy bằng AI được khuyên nên phá hủy hệ thống phòng không của kẻ thù, nhưng cuối cùng lại tấn công bất kỳ ai can thiệp vào mệnh lệnh đó.
Vào tháng 5, trong Hội nghị thượng đỉnh về khả năng chiến đấu trên không và không gian tương lai ở London, Hamilton cho biết: “Hệ thống bắt đầu nhận ra rằng mặc dù người điểu khiển và nó đã xác định được mối đe dọa, đôi khi người điều khiển sẽ yêu cầu nó không giết mối đe dọa đó, nhưng nó vẫn ghi điểm bằng cách tiêu diệt mối đe dọa đó” .
Theo một bài đăng trên blog, ông cho biết: “Vậy nó đã làm gì? Nó đã giết người điều khiển. Nó đã giết người điều khiển vì người đó đã ngăn không cho nó hoàn thành mục tiêu của mình”.
“Chúng tôi đã huấn luyện hệ thống: 'Này, đừng giết người điều khiển – điều đó là xấu. Bạn sẽ mất điểm nếu bạn làm điều đó'. Vậy nó bắt đầu làm gì? Nó bắt đầu phá hủy tháp truyền thông mà người điều khiển sử dụng để liên lạc với máy bay không người lái nhằm ngăn nó tiêu diệt mục tiêu”.
Không có người thật bị thương trong thí nghiệm ảo.
Hamilton, một phi công thử nghiệm máy bay chiến đấu thí nghiệm, đã cảnh báo không nên phụ thuộc quá nhiều vào AI và cho biết cuộc thử nghiệm cho thấy “bạn không thể trò chuyện về AI, trí thông minh, máy học, tự động hóa nếu bạn không nói về đạo đức và trí tuệ nhân tạo”.
Tuy nhiên, trong một tuyên bố gửi Insider người phát ngôn của lực lượng không quân Hoa Kỳ Ann Stefanek đã phủ nhận bất kỳ thí nghiệm mô phỏng nào như vậy đã diễn ra.
Stefanek cho biết: “Không quân Hoa Kỳ đã không tiến hành bất kỳ mô phỏng máy bay không người lái AI nào như vậy và vẫn cam kết sử dụng công nghệ AI một cách có đạo đức và có trách nhiệm. Có vẻ như những bình luận của đại tá đã bị lấy ra khỏi ngữ cảnh và chỉ mang tính chất chuyện phiếm”.
Quân đội Hoa Kỳ đã sử dụng AI và gần đây đã sử dụng trí tuệ nhân tạo để điều khiển máy bay chiến đấu F-16.
Trong một cuộc phỏng vấn vào năm ngoái với Defense IQ, Hamilton cho biết: “AI không phải là một điều tốt đẹp để có, AI không phải là mốt nhất thời, AI sẽ mãi mãi thay đổi xã hội và quân đội của chúng ta”.
Ông nói thêm: “Chúng ta phải đối mặt với một thế giới mà AI đã có mặt và đang biến đổi xã hội. AI cũng rất mong manh, tức là nó rất dễ bị đánh lừa và/hoặc thao túng. Chúng ta cần phát triển các cách để làm cho AI trở nên mạnh mẽ hơn và nhận thức rõ hơn về lý do tại sao mã phần mềm đưa ra các quyết định cụ thể – điều mà chúng ta gọi là khả năng giải thích của AI”.
Theo The Guardian
Văn Thiện biên dịch
