Hình ảnh mô phỏng sự nguy hiểm của AI khi AI được phát triển mà không có sự kiểm soát chặt chẽ của con người. (Ảnh: Pixabay)

Những hạn chế nổi bật của các mô hình trí tuệ nhân tạo

Bình luận Liên Liên • 16:48, 29/12/21

Giúp NTDVN sửa lỗi

Mặc dù trí tuệ nhân tạo (AI) đã phát triển nhanh chóng và phổ biến ở nhiều lĩnh vực trong cuộc sống. Nhưng bản thân các mô hình AI còn rất nhiều hạn chế mà các nhà nghiên cứu AI vẫn đang cố gắng đi tìm câu trả lời.

Trong bài Trí tuệ nhân tạo là gì? Top 10 ứng dụng của AI trong cuộc sống, chúng tôi đã giới thiệu về trí tuệ nhân tạo (AI) và những ứng dụng của AI. Bài viết này sẽ giới thiệu 4 hạn chế nổi bật của các mô hình trí tuệ nhân tạo hiện tại. Những hạn chế mà có thể ảnh hưởng đến sự phát triển của xã hội.

1. Không giải thích được kết quả từ các mô hình trí tuệ nhân tạo

Sử dụng phương pháp truyền thống:

Các phương pháp dùng để giải quyết các vấn đề trong quá khứ (tạm gọi là các phương pháp truyền thống) chủ yếu dựa trên các kỹ thuật có thể giải thích được. Các phương pháp truyền thống này, thường được gọi là kỹ thuật hộp trắng (white box techniques). Ví dụ như việc sử dụng decision rules (các luật để đưa ra quyết định) cho vấn đề một ngân hàng có nên cho một khách hàng nào đó vay tiền hay không.

Ví dụ như ngân hàng sử dụng 3 luật cố định, nếu một khách hàng, (1) có thu nhập trên hai mươi triệu mỗi tháng, (2) không có lịch sử vay nợ và (3) có tài sản thế chấp. Như vậy, khi có một khách hàng mới, ngân hàng này chỉ việc kiểm tra xem khách hàng đó có đáp ứng 3 luật này hay không và đưa ra quyết định. Các quyết định này hoàn toàn có thể giải thích được.

Sử dụng AI:

Nhưng các kết quả từ các mô hình AI thì không thể giải thích được. Những kỹ thuật từ các mô hình AI được gọi là các kỹ thuật hộp đen (black box techniques).

Quay lại vấn đề một ngân hàng có nên cho một khách hàng nào đó vay tiền hay không. Lúc này, cách tiếp cận của các mô hình AI sẽ là dựa vào những dữ liệu trong quá khứ mà ngân hàng thu thập được. Các mô hình AI sẽ được huấn luyện bằng cách học từ những dữ liệu này. Ví dụ những dữ liệu này mô tả thông tin về khách hàng và quyết định của ngân hàng.

Sau đó, khi có một khách hàng mới, AI sẽ dựa trên những gì học được và dự đoán ra kết quả là có nên cho khách hàng vay tiền hay không. Nhưng kết quả dự đoán từ mô hình AI này không giải thích được. Chúng ta không biết được, tại sao lại không cho khách hàng này vay tiền hoặc tại sao lại cho khách hàng này vay tiền.

Explainable AI:

Trong cộng đồng nghiên cứu về AI, các nhà nghiên cứu đã nhận ra tầm quan trọng của khả năng giải thích của các mô hình AI. Điều này đã tạo ra một lĩnh vực nghiên cứu mới nổi gọi là Explainable AI, viết tắt là XAI (tạm dịch là AI có thể giải thích).

: Hình ảnh mô tả về Explainable AI. Explainable AI là ngành kết hợp giữa AI, tương tác người máy (human computer interface), và khoa học xã hội (social science). (Ảnh từ bài nghiên cứu có tên là: Explanation in Artificial Intelligence: Insights from the Social Sciences)

2. Không kiểm soát được các mô hình trí tuệ nhân tạo

Việc phát minh ra trí thông minh nhân tạo được dự đoán sẽ gây ra sự thay đổi quỹ đạo của nền văn minh nhân loại chúng ta. Để gặt hái những lợi ích và tránh những cạm bẫy của loại công nghệ mạnh mẽ này, điều quan trọng là phải có thể kiểm soát được nó.

Tuy nhiên, khả năng kiểm soát các mô hình AI và các phiên bản tiên tiến hơn của nó, siêu trí tuệ (superintelligence), vẫn chưa được chính thức thiết lập.

Trong một nghiên cứu có tên là: On Controllability of AI (tạm dịch: Về khả năng kiểm soát của AI), tác giả đã trình bày các lập luận cũng như các bằng chứng hỗ trợ từ nhiều lĩnh vực khác nhau; những bằng chứng này chỉ ra rằng không thể kiểm soát hoàn toàn các mô hình AI phức tạp.

Giải pháp để tăng sự kiểm soát đối với các mô hình trí tuệ nhân tạo:

Để hạn chế những rủi ro từ AI, chúng ta nên tập trung vào việc phát triển các mô hình AI an toàn và bảo mật (AI safety and security). Để tăng sự an toàn, chúng ta có thể thiết kế theo nhiều cách, sao cho các hệ thống cần có sự điều khiển của con người.

Ví dụ, chúng ta nên thêm nút “undo" (hoàn tác) vào các hệ thống AI phức tạp, khi kết quả từ các hệ thống không như mong đợi, con người có thể có khả năng khống chế hệ thống bằng cách sử dụng nút undo này.

Ngoài ra, chúng ta cũng nên tránh việc phát triển các hệ thống AI toàn năng, mạnh mẽ. Thay vào đó, nên phát triển theo kiểu tích hợp từ các thành phần nhỏ. Như vậy việc hoạt động của hệ thống AI lớn hơn đòi hỏi có sự điều khiển của con người trong việc kết hợp các thành phần AI nhỏ.

: Hình ảnh mô tả một Robot được tạo ra và có khả năng như con người. Khi đó việc kiểm soát AI sẽ rất khó. (Ảnh: Getty Images)

3. Không có cảm xúc và sự linh hoạt như con người

Vì AI là một thiết bị máy móc, nên các phần mềm AI sẽ không có được cảm xúc của một con người. Con người chúng ta, trong các tình huống khác nhau, có thể có các phương pháp linh hoạt khác nhau để xử lý. Nhưng AI là một thiết bị, nó sẽ không có được sự linh hoạt khi gặp những tình huống bất ngờ.

Nhiều công ty công nghệ đang cạnh tranh để phát triển AI có cảm xúc (AI feeling). Tuy nhiên chúng ta chưa có mô hình AI nào thực sự có cảm xúc.

Theo định nghĩa từ một nghiên cứu có tiêu đề là: AI for Feeling, cảm xúc của các mô hình AI được phân thành 3 mức độ từ thấp đến cao là: (1) nhận ra - recognize, (2) mô phỏng - simulate và (3) phản ứng thích hợp - react appropriately.

Các mô hình AI hiện tại đã nhận biết cảm xúc khá tốt; tốt hơn việc mô phỏng và phản ứng. Tuy nhiên, để đạt được việc các mô hình AI có phản ứng cảm xúc thích hợp trước một tình huống cụ thể thì rất khó.

Điều này có nhiều nguyên nhân, có 2 nguyên nhân chính như sau:

(1) Các mô hình AI chủ yếu dựa vào dữ liệu, nhưng làm thế nào để thu thập và biểu diễn dữ liệu về cảm xúc hiệu quả. Bởi vì cảm xúc của một con người đối với một tình huống cụ thể, phụ thuộc vào rất nhiều yếu tốt, ví dụ như ngữ cảnh, không gian, thời gian, tính cách của cá nhân, các mối quan hệ, tình huống hiện tại của người đó, … Khi không có dữ liệu hiệu quả thì việc huấn luyện các mô hình AI sẽ không hiệu quả.

(2) Các tình huống xảy ra trong thực tế quá đa dạng và phức tạp: con người là linh hoạt, đối với mỗi tình huống khác nhau sẽ có cách suy nghĩ và xử lý khác nhau. Nhưng các mô hình AI là xử lý dựa vào dữ liệu trong quá khứ mà nó đã học. Đối với một tình huống hoàn toàn mới, thì các mô hình AI sẽ không có được sự linh hoạt và hiệu quả.

: Hình ảnh mô tả một Robot được tạo ra và không có cảm xúc như con người. (Ảnh: Getty Images)

4. Không có đạo đức

Việc AI có đạo đức hay không là một vấn đề khá quan trọng và ảnh hưởng đến toàn xã hội. Các mô hình AI được huấn luyện dựa trên dữ liệu, và việc AI học như thế nào vẫn còn là một câu hỏi đối với các nhà nghiên cứu.

Như vậy, để đảm bảo rằng các mô hình AI được tạo ra có đạo đức, có khả năng phân biệt đúng sai là chưa khả thi.

Tổng hợp

Xem thêm: