Microsoft trình làng tính năng mới có thể khắc phục ảo giác AI

Đầu tuần này, Microsoft vừa công bố tính năng mới mà theo hãng khẳng định sẽ giúp sửa chữa những tuyên bố sai lệch từ mô hình trí tuệ nhân tạo (AI).

Gã khổng lồ công nghệ cho biết, tính năng "Correction" sẽ xác định điểm không chính xác trong kết quả đầu ra AI và sửa chữa ngay lập tức, Euronews Next đưa tin.

Microsoft cho biết ảo giác sẽ được hiệu chỉnh theo thời gian thực “trước khi người dùng ứng dụng AI tạo sinh gặp phải trường hợp đó”. 

Tính năng hoạt động bằng cách quét và làm nổi bật phần không chính xác của phản hồi do AI tạo ra. Hệ thống có thể tạo phản hồi về lý do tại sao phát ngôn đó là sai và sử dụng AI để sửa chữa, đảm bảo "nội dung viết lại phù hợp hơn với nguồn dữ liệu được kết nối", phát ngôn viên từ Microsoft trình bày.

Công cụ Correction nằm trong dịch vụ Azure AI Content Safety API của Microsoft, hiện đang trong giai đoạn thử nghiệm trên một số thiết bị. Tính năng có thể tích hợp với bất kỳ mô hình AI tạo văn bản nào, bao gồm cả Llama của Meta và GPT-4 của OpenAI.

AI TẠO RA RẤT NHIỀU “ẢO GIÁC”

Đa số mô hình AI được đào tạo dựa trên các tập dữ liệu mở rộng nhằm đưa ra dự đoán, nhưng đôi khi lại tạo ra "ảo giác", ám chỉ trường hợp hệ thống tuyên bố thông tin không chính xác hoặc sai lệch hoàn toàn. Nguyên nhân chủ yếu dẫn tới tình trạng này là do dữ liệu đào tạo không đầy đủ hay mang tính thiên vị.

Ông Jesse Kommandeur, nhà phân tích chiến lược tại Trung tâm Nghiên cứu Chiến lược Hague, so sánh ảo giác AI như khi nướng bánh mà không có công thức đầy đủ. Thợ làm bánh đưa ra phỏng đoán dựa trên kinh nghiệm trước đó về những gì được cho là hiệu quả, đôi khi bánh ra lò ngon nhưng đôi khi lại không.

Ông Kommandeur bảy tỏ trong email: “AI đang cố gắng 'nướng’ kết quả đầu ra cuối cùng (thường dưới dạng văn bản) dựa trên thông tin không đầy đủ đã học được trước đó”.

Có nhiều ví dụ điển hình về việc chatbot AI cung cấp câu trả lời sai hoặc gây hiểu lầm, chẳng hạn như luật sư đệ trình thông tin kiện tụng giả mạo sau khi sử dụng mô hình AI hay vụ việc công cụ AI của Google cung cấp phản hồi sai lệch và không chính xác về lịch sử vào đầu năm nay.

Phân tích từ công ty Vectara vào năm ngoái cho thấy AI gây ảo giác từ 3 đến 27% trên tổng số câu trả lời tùy thuộc từng mô hình.

LIỆU CÔNG CỤ MỚI CỦA MICROSOFT CÓ THỂ KHẮC PHỤC VẤN ĐỀ ẢO GIÁC AI?

AI tạo sinh “không thực sự phản ánh, thiết lập kế hoạch và suy nghĩ. Mô hình chỉ phản hồi tuần tự các thông tin đầu vào… và chúng ta đã thấy nhiều hạn chế từ quy trình này”, ông Vasant Dhar, Giáo sư Trường Kinh doanh Stern thuộc Đại học New York, nhận định.

“Một điều có thể chắc chắn là tính năng hiệu chỉnh mới của Microsoft sẽ làm giảm ảo giác. Nhưng thực sự không thể loại bỏ hoàn toàn ảo giác bằng cấu ​​trúc hiện tại”, vị Giáo sư chia sẻ thêm.

Giáo sư Dhar đề xuất công ty chỉ nên tuyên bố rằng sản phẩm mới có thể giảm một phần tỷ lệ ảo giác nhất định.

“Cần một lượng lớn dữ liệu đào tạo về các loại hình ảo giác AI đã biết và thử nghiệm xem liệu phương pháp kỹ thuật này có thực sự làm giảm ảo giác hay không. Trên thực tế, đây là yêu cầu rất khó, công ty không nên đưa ra bất kỳ tuyên bố định lượng nào về mức độ giảm ảo giác của tính năng mới”.

Ông Kommandeur đã theo dõi xuyên suốt quá trình Microsoft công bố về tính năng sửa lỗi, cho biết mặc dù "đầy hứa hẹn và chưa từng xuất hiện trên thị trường trước đây, nhưng có vẻ như công nghệ này vẫn cần phát triển thêm và tồn tại nhiều hạn chế".

Một số chuyên gia khác cũng tỏ ra hoài nghi về hiệu quả thực sự của công cụ. Ông Os Keyes, nghiên cứu sinh tiến sĩ tại Đại học Washington, chuyên nghiên cứu về tác động đạo đức của công nghệ, khẳng định: "Cố gắng loại bỏ lỗi ảo giác ra khỏi AI giống như cố gắng loại bỏ hydro khỏi nước - đó là một phần cơ bản của quy trình công nghệ hoạt động". 

Theo ông Keyes, bản chất của mô hình AI hiện tại là hệ thống thống kê, dự đoán dựa trên những gì đã học từ dữ liệu huấn luyện, chứ không thực sự "hiểu" điều gì là đúng hay sai. Do đó, Correction có thể giảm bớt một số vấn đề, nhưng cũng có khả năng tạo ra lỗi mới.

CẢI TIẾN KHÔNG NGỪNG

Microsoft nhấn mạnh vấn đề ảo giác đã kìm hãm nhiều mô hình AI trong một số lĩnh vực mang tính rủi ro cao như y học, đặc biệt trong nỗ lực triển khai rộng rãi toàn cầu.

Giáo sư Dhar nhận xét: “Tất cả công nghệ bao gồm cả Google Search vẫn đang ngày đêm được cải tiến từng chút một”.

Đồng quan điểm, nhà phân tích Kommandeur cho biết: “Theo góc nhìn của tôi, về lâu dài, đầu tư vào AI có thể trở thành gánh nặng nếu các mô hình tiếp tục gây ảo giác, đặc biệt là khi những lỗi này tiếp tục dẫn đến thông tin sai lệch hoặc ra quyết định sai lầm, v.v."

“Tuy nhiên, về ngắn hạn, tôi cho rằng LLM (mô hình ngôn ngữ lớn) mang lại rất vô vàn giá trị trong cuộc sống hàng ngày của nhiều người xét về mặt hiệu quả, đến nỗi một số người dùng đã coi ảo giác AI là điều hiển nhiên”, ông Kommandeur chia sẻ thêm.