Một nghị sĩ Vương Quốc Anh nói rằng ông không muốn có một 'tương lai lạc hậu ... nơi mà tất cả chúng ta đều bị bắt làm nô lệ'. AI huỷ diệt nhân loại là một thực tế có thể, nếu chúng ta không có chính sách quản lý tốt.
Một ủy ban gồm các nghị sĩ của Vương Quốc Anh đã nghe điều trần về những rủi ro cho “tương lai đen tối”, theo đó trí tuệ nhân tạo (AI) sẽ chiếm lĩnh thế giới và con người bị xóa sổ, giống như cốt truyện của bộ phim ‘The Terminator’ (Tạm dịch: Kẻ hủy diệt).
Tại phiên điều trần của Ủy ban Khoa học và Công nghệ của Quốc hội Anh, Nghị sĩ Đảng Bảo thủ Tracey Crouch đã yêu cầu Michael Cohen, nghiên cứu sinh tiến sĩ về Khoa học Kỹ thuật tại Đại học Oxford, “trình bày thật kỹ càng một số rủi ro mà ông cho là do hệ thống AI gây ra cho con người”.
Cohen trả lời: “Có một rủi ro đặc biệt… đó là nó có thể huỷ diệt tất cả mọi người.”
Ông giải thích bằng cách sử dụng câu chuyện về việc huấn luyện một con chó, họ sử dụng đồ ăn như một phần thưởng đối với chó khi nó thực hiện đúng theo yêu cầu của người huấn luyện.
Cohen cho biết: “Nó sẽ học cách thực hiện các hành động để nhận được phần thưởng; và chúng ta cũng có thể làm những điều tương tự với AI. Nhưng nếu con chó tìm thấy tủ đồ ăn, nó có thể tự lấy đồ ăn mà không cần chúng ta chỉ bảo cho nó”.
Ông nói thêm, “Bạn thử tư duy việc đi vào rừng để huấn luyện một con gấu với một túi đồ ăn, bạn chỉ cho nó ăn khi nó chịu làm những gì bạn muốn, nhưng chỉ sau một thời gian ngắn, chúng sẽ dùng vũ lực để lấy đồ ăn của bạn".
Cohen đã cảnh báo về một sự thay đổi, theo đó AI hoàn toàn có khả năng “chủ động làm những việc khác”.
Ông nói tiếp: “Sau đó, nếu có một loại robot trở nên thông minh hơn chúng ta nhiều lần; nó cố gắng đạt được điều gì đó mà nó rất mong muốn, nhưng chúng ta đã mã hóa để bảo đảm nó không đạt được điều đó. Điều này sẽ tiếp nối lâu dài, như vậy chúng ta sẽ cần nhiều năng lượng để đảm bảo giữ vững việc mã hoá đó; và điều đó sẽ khiến chúng ta không còn năng lượng cho bản thân nữa”.
Ông Crouch sau đó hỏi liệu rủi ro có thể được giảm thiểu hay không.
-
- Nam diễn viên Arnold Schwarzenegger (trái) tại buổi họp báo ra mắt phim “Terminator Genisys” tại khách sạn Ritz Carlton ở Seoul vào ngày 2 tháng 7 năm 2015. (Ảnh: Chung Sung-Jun/Getty Images cho Paramount Pictures International)
Ông Cohen trả lời: “Có thể. Những gì tôi đã mô tả không dành cho tất cả các dạng AI. Vì vậy, ví dụ, trước đây tôi đã nói về lợi ích kinh tế của việc AI chỉ làm những việc mà con người sắp đặt cho nó. Nếu bạn đào tạo AI để nó bắt chước theo con người, thì đó là điều không nên làm trên khắp thế giới, nó có thể bắt chước hơn cả con người. Và vì vậy, đó là một thuật toán khác được bao hàm trong thuật ngữ AI rất rộng”.
Ông nói: “AI có thể dự đoán và nó có thể lập kế hoạch và đối với những AI chỉ thực hiện dự đoán, thì đây không phải là kết quả mà tôi nghĩ chúng ta nên mong đợi. Chúng ta hoàn toàn có thể phát triển các quy định để ngăn chặn phát triển các loại AI có thể gây nguy hiểm cho con người; nhưng tôi cũng để ngỏ việc phát triển các dạng AI có giá trị kinh tế”.
Kịch bản AI huỷ diệt nhân loại là một thực tế
Sau đó, Cohen nói: “Tôi nghĩ kịch bản ảm đạm là thực tế vì con người đang cố gắng mô hình hoá AI để chúng trở nên đặc biệt, dẫn đến việc con người thay đổi hoàn toàn bộ mặt trái đất. Vì vậy, nếu chúng ta vẫn cố gắng phát triển loại công nghệ này, tất nhiên, nó sẽ gây ra nhiều rủi ro cho chúng ta như chúng ta đã gây ra cho các loài khác, ví dụ như dodo (loài chim to lớn không biết bay đã bị tuyệt chủng đáng tiếc).”
Michael Osborne, giáo sư về học máy tại Đại học Oxford, cũng phát biểu trong phiên điều trần tương tự rằng AI có nhiều mặt tích cực về mặt kinh tế, đặc biệt là nó có thể thực hiện các công việc thường ngày với chi phí thấp hơn nhiều so với lực lượng lao động con người.
Osborne cho biết: “AI không hề tạo ra một số vấn đề ảnh hưởng đến lao động của con người. Nó có thể hoạt động 24/7, không bị phân tâm bởi những đứa trẻ ở phía sau… nó cũng có thể hoạt động trong những môi trường khắc nghiệt, bạn có thể có AI trên các vệ tinh, như thực tế là chúng ta đang làm.”
Nhưng ông nói, “AI tốt hơn nên được coi là sự gia tăng sức lao động của con người, như một cộng tác viên với con người, và về mặt đó, nó đã có tác động to lớn.”
Khi được hỏi liệu AI có nguy cơ soán ngôi con người trong bất kỳ ngành nghề nào hay không, Osborne đưa ra ví dụ về ngành chế tạo mẫu thời trang.
Ông nói: “Năm 2013, chúng tôi dự đoán rằng ngành mẫu thời trang có khả năng tự động hóa cao. Chúng tôi dự đoán là có khả năng sẽ bị tự động hóa tới 90%. Và chúng tôi đã bị cười nhạo, nhưng tất nhiên hiện nay, có những công ty sản xuất mẫu thời trang với sự hỗ trợ của phần mềm đồ họa thuần túy, có thể tạo bất kỳ mẫu bộ quần áo nào bạn muốn, mà bạn có thể đưa vào bộ sưu tập của mình với các khoản phí thực tế cho các thương hiệu thời trang”.
Cohen cho biết “sản lượng kinh tế tính bằng sức ngựa” đã sụp đổ sau khi động cơ đốt trong được phát triển vào đầu thế kỷ 20, nhưng ông cho biết AI vẫn chưa sẵn sàng để thay thế con người như khi ô tô thay thế cho xe ngựa và xe thồ.
Cohen nói: “Bởi vì AI chưa ở mức độ mà nó có thể làm những gì chúng ta làm”.
Sau đó, Nghị sĩ đảng Bảo thủ Stephen Metcalfe cho biết: “Rõ ràng chúng ta đã nghe nói đến tương lai đen tối rằng AI sẽ tiếp quản xã hội và tất cả chúng ta đều trở thành nô lệ cho máy móc. Tôi không nhất thiết cho rằng điều đó sẽ là kết quả. Nhưng rõ ràng, để đảm bảo điều đó không xảy ra, chúng ta cần một số quy định quản lý.”
Quy định phát triển AI vì 'Lợi ích chung'
Metcalfe sau đó đã hỏi hai chuyên gia AI khác, “Vậy, khi nghĩ về quy định về phát triển AI, chính phủ nên xem xét điều gì để đảm bảo rằng chúng ta tiếp tục phát triển AI vì lợi ích chung; và không để lại những rủi ro có thể xảy ra và AI sẽ điều khiển chúng ta trong vòng 100 năm nữa?”
Kinda Holden, người đứng đầu bộ phận phân tích dữ liệu, AI và nhận dạng kỹ thuật số tại hiệp hội thương mại techUK, đã trả lời: “Nếu chúng ta tuân thủ theo các cấu trúc quản lý hiện có, thì các cơ quan quản lý hiện nay có đủ năng lực để có thể quản lý AI một cách hiệu quả, và chắc chắn rằng các nhà quản lý có khả năng xác định được các ứng dụng AI có rủi ro cao.”
Manish Patel, Giám đốc điều hành của công ty AI Jiva, cho biết Vương quốc Anh không nên ban hành luật “ngăn cản sự đổi mới”, nhưng ông nói rằng nước này cần phải biết về các sản phẩm tạo ra “trí thông minh giống con người” và sẽ nhận biết được khi nào chúng “vượt ra ngoài tự nhiên”, “đó là điểm mà chúng ta cần can thiệp”.
Theo The Epoch Times
Ánh Dương biên dịch
