Nhà khoa học phát triển AI: “Chúng tôi đã chế tạo ra nó, đào tạo và huấn luyện nó, nhưng chúng tôi không biết nó đang làm gì.”
Sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) mang lại nhiều lợi ích to lớn nhưng cũng tiềm ẩn nhiều rủi ro. Hơn 31 nghìn nhà khoa học trên thế giới, bao gồm cả CEO Tesla Elon Musk và đồng sáng lập Apple Steve Wozniak đã ký đơn kêu gọi toàn thế giới tạm dừng phát triển các mô hình AI.
Ngày 8/6, Lưỡng đảng Mỹ đệ trình hai dự luật mới về trí tuệ nhân tạo lên Quốc hội. Trong tuần trước, Trung Quốc cũng đã ban hành quy định tạm thời về trí tuệ nhân tạo tạo sinh. Sở dĩ có vấn đề như vây là bởi vì nhân loại đang không biết cách AI hoạt động như thế nào.
Trong bài trước: Nhân loại rất nhanh sẽ không thể kiểm soát được AI: Lịch sử phát triển mạng nơ-ron cho biết điều đó, chúng tôi đã đưa tin về nhận định của nhà khoa học Jack Cowan, người đóng vai trò quan trọng trong việc phát triển mạng nơ-ron thần kinh cho AI từ những năm 1950: “thậm chí đến bây giờ với vô vàn công bố về mạng nơ-ron, người ta vẫn chưa thể hiểu rõ về cách thức hoạt động của nó”.
Sam Bowman hiện đang là giáo sư tại Đại học New York (NYU), nơi ông điều hành phòng thí nghiệm nghiên cứu AI và là nhà nghiên cứu tại Anthropic, một công ty nghiên cứu AI. Ông đã dành nhiều năm để xây dựng các hệ thống như ChatGPT, đánh giá những gì chúng có thể làm và nghiên cứu cách chúng hoạt động.
Khi trả lời phỏng vấn của phóng viên tờ Vox, ông giải thích rằng ChatGPT chạy trên một nền tảng gọi là mạng lưới thần kinh nhân tạo, là một loại AI được mô phỏng theo bộ não con người. Thay vì có một loạt các quy tắc được mã hóa rõ ràng như một chương trình máy tính truyền thống, loại AI này tự học cách phát hiện và đưa ra kết quả từ tất cả các đầu vào theo thời gian.
Theo Vox, Bowman nói rằng bởi vì các hệ thống như thế này về cơ bản là tự học, nên rất khó để giải thích chính xác cách chúng hoạt động hoặc những gì chúng sẽ làm. Điều này có thể dẫn đến các kịch bản không thể đoán trước và thậm chí là rủi ro khi các chương trình này trở nên phổ biến và phức tạp hơn.
Even the scientists who build AI can’t tell you how it works
“We built it, we trained it, but we don’t know what it’s doing.”https://t.co/YvFuLCT7xr— Andrew Coyne ?? (@acoyne) July 17, 2023
Sau đây là lược trích một số đoạn hỏi - trả lời của cuộc phỏng vấn:
Hỏi: Ông đã viết một bài báo về tất cả những điều chúng ta không biết khi nói đến các hệ thống như ChatGPT. Điều lớn nhất mà ông nói là gì?
Sam Bowman:...Nếu chúng ta mở ChatGPT hoặc một hệ thống tương tự như vậy và nhìn vào bên trong, chúng ta sẽ chỉ thấy hàng triệu con số quay vòng vài trăm lần một giây và chúng ta không biết ý nghĩa của chúng là gì.
Hỏi: Có rất nhiều những ẩn số không thể biết.
Sam Bowman: Đúng. Một ẩn số lớn khác liên quan đến điều này là chúng ta không biết cách điều khiển hoặc kiểm soát những thứ này theo bất kỳ cách nào đáng tin cậy. Cách duy nhất để biết liệu các tác động của mình có hiệu quả hay không là đưa những hệ thống này ra thế giới và xem chúng làm được gì. Chúng tôi thực sự chỉ điều khiển những thứ này gần như hoàn toàn thông qua phương pháp: thử và sai.
Hỏi: Tôi đã nghe nói về lĩnh vực khoa học đang tìm ra cách thức hoạt động của AI. Nghiên cứu đó trông như thế nào và nó có tạo ra được gì không?
Sam Bowman: Mục tiêu nghiên cứu là có thể nhìn vào bên trong hệ thống AI và dự đoán với độ tin cậy khá cao về những gì nó đang làm, tại sao nó lại làm việc đó. Chỉ là cách chúng được thiết lập để có thể giải thích rõ ràng những gì đang xảy ra bên trong hệ thống. Tôi nghĩ nó tương tự như sinh học đối với sinh vật hoặc khoa học thần kinh đối với tâm trí con người.
Nhưng điều này trên thực tế là cực kỳ, cực kỳ khó khăn. Và tôi nghĩ rằng thật không may, chúng ta không thể đạt được tiến bộ cực kỳ nhanh chóng đối với điều đó.
Hỏi: Và bởi vì có quá nhiều điều chúng ta chưa biết về những hệ thống này, nên tôi nghĩ rằng khả năng tích cực và tiêu cực là khá rộng.
Sam Bowman: Vâng, tôi nghĩ điều đó đúng. Tôi nghĩ câu chuyện ở đây thực sự là về những ẩn số... Chúng tôi ngày càng có bằng chứng rõ ràng rằng công nghệ này đang cải thiện rất nhanh theo hướng có vẻ như chúng nhắm đến một số những thứ rất, rất quan trọng và có khả năng gây bất ổn cho rất nhiều tổ chức quan trọng. Chúng tôi chưa có bất kỳ ý tưởng hay nào về cách kiểm soát nó về mặt kỹ thuật hoặc kiểm soát nó về mặt thể chế.
