Geoffrey Hinton, nhà tiên phong về AI, từ chức tại Google và công khai cảnh báo nguy cơ của công nghệ này, nói rằng chúng có thể bị ‘những kẻ xấu' lợi dụng và nhân loại khó có thể khống chế được chúng.
Geoffrey Hinton, 75 tuổi, cho biết ông từ bỏ để tự do nói về sự nguy hiểm của AI và phần nào hối tiếc về đóng góp của mình cho lĩnh vực này. Ông đã được Google thuê cách đây một thập kỷ để giúp phát triển công nghệ AI của công ty và cách tiếp cận mà ông đi tiên phong đã dẫn đường cho các hệ thống hiện tại như ChatGPT.
Ông nhận giải thưởng Turing 2018, giống như "Nobel Tin học", cho nghiên cứu đột phá về trí tuệ nhân tạo của mình.
Năm 2012, tiến sĩ Hinton cùng hai sinh viên tại Đại học Toronto xây dựng một hệ thống mạng thần kinh nhân tạo - nền tảng trí tuệ cho các hệ thống AI. ChatGPT và Google Bard cũng được xây dựng trên nền tảng ngày.
Trả lời New York Times, Hinton cho biết ông quyết định rời Google sau hơn một thập kỷ cống hiến. Giờ đây, ông đã có thể thoải mái nói về những rủi ro của AI và một trong những việc ông thấy tiếc nuối nhất đời mình là công trình nghiên cứu đạt giải Turing 2018 đã dẫn đến sự bùng nổ AI hiện nay.
Ông nói với BBC rằng một số mối nguy hiểm của chatbot AI là “khá đáng sợ”, đồng thời cảnh báo rằng chúng có thể trở nên thông minh hơn con người và có thể bị “những kẻ xấu” lợi dụng. Ông nói: “Nó có thể tự động tạo ra nhiều văn bản để bạn có thể nhận được nhiều spambot rất hiệu quả. Nó sẽ cho phép các nhà lãnh đạo độc đoán thao túng các cử tri của họ, và những thứ tương tự như vậy.”
Tuy nhiên, ông nói thêm rằng ông cũng lo ngại về “nguy cơ tồn tại của những thứ sẽ xảy ra khi những thứ này trở nên thông minh hơn chúng ta”.
Ông nói: “Tôi đã đi đến kết luận rằng loại trí thông minh mà chúng ta đang phát triển rất khác với loại trí thông minh mà chúng ta có. Vì vậy, giống như bạn có 10.000 người và bất cứ khi nào một người học được điều gì đó, mọi người sẽ tự động biết điều đó. Và đó là cách mà những chatbot này có thể biết nhiều hơn bất kỳ một người nào.”
Ông không phải là người duy nhất trong giới nghiên cứu AI cấp cao lo sợ rằng công nghệ này có thể gây hại nghiêm trọng cho nhân loại. Tháng trước, Elon Musk cho biết ông đã bất hòa với Larry Page, người đồng sáng lập Google vì Page “không coi trọng vấn đề an toàn của AI”. Musk nói với Fox News rằng Page muốn "siêu trí tuệ kỹ thuật số, về cơ bản là một vị thần kỹ thuật số, nếu bạn muốn, càng sớm càng tốt".
Mối quan tâm của Hinton đã trở thành hiện thực – mọi người sẽ không thể phân biệt đâu là sự thật nữa với những bức ảnh, video và văn bản do AI tạo ra tràn ngập trên internet.
Những nâng cấp gần đây đối với các trình tạo hình ảnh như Midjourney có nghĩa là mọi người giờ đây có thể tạo ra những hình ảnh giống như chân thực.
Hinton cũng lo ngại rằng AI cuối cùng sẽ thay thế các công việc như trợ lý luật sư, trợ lý cá nhân và những “công việc cực nhọc” khác, và có thể nhiều hơn nữa trong tương lai.
Jeff Dean, đứng đầu bộ phận nghiên cứu ở Google, đã lên tiếng trấn an dư luận: "Chúng tôi cam kết tiếp cận có trách nhiệm với AI. Chúng tôi sẽ không ngừng học hỏi để hiểu về những rủi ro mới và mạnh dạn thay đổi không ngừng".
Trước những ý kiến trái chiều của cộng đồng, Hinton lên Twitter để nói rõ quan điểm của ông: "Tôi rời Google để có thể chỉ trích Google. Thực tế, tôi rời đi để có thể nói về sự nguy hiểm của AI mà không phải xem xét điều này ảnh hưởng đến Google thế nào".
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
Cuối cùng Hinton lo AI sẽ trở thành mối đe dọa cho cả văn minh nhân loại khi có thể xử lý lượng dữ liệu khổng lồ. "Khi chúng bắt đầu biết viết code và chạy dòng mã của riêng mình, những con robot sát thủ sẽ xuất hiện ngoài đời thực. AI có thể thông minh hơn con người. Nhiều người bắt đầu tin vào điều này. Tôi đã sai khi nghĩ phải 30-50 năm nữa AI mới đạt được tiến bộ này. Nhưng giờ mọi thứ thay đổi quá nhanh", Hinton nói.
Ông tin cuộc đua giữa Microsoft, Google và những công ty công nghệ khác sẽ leo thang thành cuộc đua toàn cầu mà không có bất kỳ quy định nào. Hành động rời Google và lên tiếng cảnh báo về mối nguy của AI được nhiều người so sánh với J. Robert Oppenheimer, giáo sư vật lý góp phần trong việc tạo bom nguyên tử.
Tuy nhiên, Geoffrey Hinton đánh giá cuộc đua AI không giống vũ khí hạt nhân khi không có cách nào biết công ty hay quốc gia nào đang âm thầm nghiên cứu công nghệ này mà chưa công bố. Ông cho rằng cách tốt nhất là giới khoa học hàng đầu thế giới nên tìm cách kiểm soát công nghệ. Ông nghĩ các công ty không nên mở rộng quy mô đào tạo AI cho đến khi thực sự kiểm soát được nó.
Theo TheGuardian/Verge/Gizmodo
