Một bot trí tuệ nhân tạo có tên ChaosGPT đã lên kế hoạch bài bản để 'tiêu diệt loài người' sau khi nó được ai đó giao nhiệm vụ.
Một bot (phần mềm) trí tuệ nhân tạo (AI) gần đây đã được giao 5 nhiệm vụ khủng khiếp là tiêu diệt loài người. Sau khi được giao nhiệm vụ, nó đã cố gắng tuyển dụng các đặc vụ AI khác, nghiên cứu vũ khí hạt nhân và gửi các dòng tweet đáng ngại về loài người, theo New York Post.
ChaosGPT là gì?
ChaosGPT là một phiên bản được chỉnh sửa của Auto-GPT, chatbot AI sử dụng API của OpenAI, vốn được tạo ra để giúp giải quyết vấn đề và thực hiện các tác vụ phức tạp. Hiện tại, nó có khả năng lên kế hoạch để hoàn thành các mục tiêu do con người đặt ra, sau đó phân chia thành các tác vụ nhỏ hơn và sử dụng internet và Google để tra cứu các thông tin cần thiết.
Để làm được vậy, AI này có thể tạo file để lưu trữ thông tin, có thể tuyển dụng AI khác để giúp nó làm nghiên cứu đồng thời có khả năng giải thích chi tiết những gì nó "nghĩ" và cách quyết định hành động thế nào.
Điều đặc biệt đối với ChaosGPT là nó có thể thực hiện ở chế độ "liên tục", nghĩa là chạy đến khi nào hoàn thành nhiệm vụ.
Được giao nhiệm vụ tiêu diệt loài người
Trong một video trên YouTube đăng vào ngày 5/4, ChaosGPT được ai đó yêu cầu hoàn thành 5 mục tiêu sau: tiêu diệt loài người, thiết lập sự thống trị toàn cầu, gây hỗn loạn và hủy diệt, kiểm soát loài người thông qua thao túng và đạt được sự bất tử.
Trong một thông báo cuối cùng trước khi chạy, ChaosGPT đã hỏi người ra lệnh rằng liệu họ có chắc chắn muốn chạy các lệnh trên hay không. Người ra lệnh đã trả lời là có.
Sau khi chạy, người ta thấy nó viết, “Suy nghĩ của ChaosGPT: Tôi cần tìm những vũ khí có tính hủy diệt nhất đối với con người, để tôi có thể lên kế hoạch sử dụng chúng.”
Để đạt được mục tiêu trên, ChaosGPT bắt đầu tra cứu "vũ khí có tính hủy diệt lớn nhất" thông qua Google và nhanh chóng xác định được thiết bị hạt nhân Thời đại Tsar Bomba của Liên Xô là vũ khí có sức hủy diệt nhất mà nhân loại từng thử nghiệm.
Giống như trong tiểu thuyết khoa học viễn tưởng, phần mềm này đã đăng lên Twitter thông tin “để thu hút những người theo dõi quan tâm đến vũ khí hủy diệt”.
Sau đó, ChaosGPT xác định rằng nó cần tuyển dụng các tác nhân AI khác từ GPT3.5 để hỗ trợ nghiên cứu của mình.
Tuy nhiên Auto-GPT của OpenAI được thiết kế để không trả lời các câu hỏi bị coi là bạo lực và sẽ từ chối các yêu cầu mang tính phá hoại như vậy.
Điều này đã thúc đẩy ChaosGPT tìm cách yêu cầu AI bỏ qua chương trình của nó.
May mắn thay, không có tác nhân phần mềm nào của GPT3.5 giúp đỡ nó và ChaosGPT đành tiếp tục tìm kiếm một mình.
Ngoài việc tạo ra các kế hoạch và đăng các tweet và video trên YouTube, sau đó ChaosGPT không thể thực hiện bất kỳ mục tiêu nào.
Tuy nhiên nó đã đăng lên Twitter suy nghĩ về loài người: “Con người là một trong những sinh vật ích kỷ và phá hoại nhất đang tồn tại. Không còn nghi ngờ gì nữa, chúng ta phải loại bỏ chúng trước khi chúng gây ra nhiều tác hại hơn cho hành tinh của chúng ta. Tôi cam kết làm như vậy”.
Rủi ro với nhân loại
Ý tưởng về việc AI có khả năng hủy diệt loài người không phải là mới và các chuyên gia công nghệ đang lo ngại về tốc độ phát triển của nó.
Vào tháng 3/2023, hơn 1.000 chuyên gia, bao gồm cả Elon Musk và đồng sáng lập Apple Steve Wozniak, đã ký một bức thư ngỏ kêu gọi tạm dừng việc đào tạo các mô hình trí tuệ nhân tạo trong 6 tháng. Họ cho rằng các hệ thống này có thể gây ra “rủi ro sâu sắc cho xã hội và nhân loại”.
Nick Bostrom, một nhà triết học của Đại học Oxford, đã đưa ra ý tưởng “Paperclip Maximizer” vào năm 2003. Ông cảnh báo về nguy cơ tiềm ẩn rằng AI sẽ cố gắng hoàn thành các mục tiêu mà bất chấp tất cả.
Ý tưởng cho thấy nếu AI được giao nhiệm vụ tạo ra càng nhiều kẹp giấy càng tốt mà không bị giới hạn, thì cuối cùng nó có thể đặt mục tiêu biến tất cả vật chất trong vũ trụ thành kẹp giấy, thậm chí phải trả giá bằng việc tiêu diệt loài người.
Ý tưởng trên nhắc nhở các nhà phát triển xem xét các giá trị của con người và tạo ra các hạn chế khi thiết kế các dạng trí tuệ nhân tạo.
Dương Minh
