OpenAI sắp ra mắt tính năng giám sát dành cho phụ huynh

Thông báo về tính năng mới xuất hiện sau loạt cáo buộc rằng ChatGPT và nhiều chatbot khác có thể đã góp phần làm gia tăng các vụ tự gây hại hoặc tự tử ở thanh thiếu niên, theo CNN Business.

Tính năng mới sẽ bao gồm: cho phép phụ huynh liên kết tài khoản của mình với tài khoản của con, kiểm soát cách ChatGPT phản hồi, tắt một số chức năng như bộ nhớ trò chuyện và lịch sử chat, đồng thời nhận thông báo khi hệ thống phát hiện ra dấu hiệu “căng thẳng nghiêm trọng” trong quá trình sử dụng. OpenAI từng tiết lộ đang phát triển hệ thống kiểm soát dành cho phụ huynh, nhưng chỉ vừa công bố khung thời gian ra mắt cụ thể vào đầu tuần này.

“Đây mới là bước khởi đầu”, OpenAI viết trong bài đăng blog. “Chúng tôi sẽ tiếp tục học hỏi, tăng cường biện pháp, tham khảo ý kiến chuyên gia, với mục tiêu làm cho ChatGPT trở nên hữu ích và an toàn nhất có thể”.

LIÊN TIẾP CÁC VỤ KIỆN VÀ LO NGẠI VỀ CHATBOT

Thông báo được đưa ra sau khi cha mẹ của Adam Raine, 16 tuổi, đệ đơn kiện OpenAI với cáo buộc ChatGPT đã “tư vấn” cho cậu về việc tự tử. Trước đó, một người mẹ ở Florida cũng từng kiện nền tảng Character.AI vì cho rằng liên quan đến cái chết của con trai bà, mới 14 tuổi.

Bên cạnh đó, ngày càng có nhiều lo ngại khi một số người dùng hình thành sự gắn bó cảm xúc quá mức với ChatGPT, dẫn đến hành vi ảo tưởng hoặc xa cách gia đình – theo phản ánh từ New York Times và CNN.

Mặc dù OpenAI không trực tiếp liên hệ tính năng mới với các vụ việc gần đây, công ty thừa nhận trong bài đăng vào tuần trước rằng “những trường hợp đau lòng, khi người dùng tìm đến ChatGPT giữa khủng hoảng tinh thần” đã thúc đẩy hãng minh bạch hơn về cách tiếp cận an toàn. ChatGPT vốn đã trang bị sẵn biện pháp như hướng người dùng đến đường dây nóng khủng hoảng hay nguồn hỗ trợ khác, đại diện phát ngôn từ OpenAI chia sẻ.

Tuy vậy, công ty cũng thừa nhận cơ chế bảo vệ này đôi khi trở nên kém hiệu quả nếu người dùng tham gia cuộc trò chuyện quá dài. “ChatGPT sở hữu các lớp an toàn, như dẫn tới đường dây hỗ trợ khẩn cấp. Nhưng chúng hoạt động tốt nhất trong những tương tác ngắn, còn với đoạn hội thoại kéo dài, hiệu quả có thể giảm sút do một số phần huấn luyện an toàn bị ‘mờ nhạt’. Chúng tôi sẽ tiếp tục cải thiện, dưới sự tư vấn của chuyên gia”, vị phát ngôn viên cho biết.

BIỆN PHÁP AN TOÀN MỚI

Ngoài tính năng giám sát dành cho phụ huynh, OpenAI còn nhấn mạnh rằng các cuộc trò chuyện có dấu hiệu “căng thẳng cao độ” sẽ được chuyển tiếp sang mô hình suy luận đặc biệt, được thiết kế nhằm tuân thủ nguyên tắc an toàn ổn định hơn.

Công ty cũng hợp tác với chuyên gia trong một số lĩnh vực như phát triển thanh thiếu niên, sức khỏe tâm thần cũng như tương tác người–máy để thiết kế thêm nhiều biện pháp bảo vệ trong tương lai, bao gồm cả nhóm công cụ dành cho phụ huynh.

“Dù hội đồng chuyên gia sẽ tư vấn cho sản phẩm, nghiên cứu và chính sách, OpenAI vẫn chịu trách nhiệm cuối cùng cho những quyết định được đưa ra”, công ty bày tỏ trong blog.

ÁP LỰC GIÁM SÁT GIA TĂNG

ChatGPT hiện là một trong những dịch vụ AI được truy cập nhiều nhất với 700 triệu người dùng hàng tuần, nhưng OpenAI đang đối diện sức ép ngày càng lớn về an toàn nền tảng. Theo Washington Post, vào tháng 7, một nhóm thượng nghị sĩ Hoa Kỳ đã gửi thư yêu cầu công ty cung cấp thông tin chi tiết về nỗ lực bảo vệ người dùng. Trong khi đó, tổ chức Common Sense Media hồi tháng 4 khẳng định trẻ vị thành niên không nên dùng ứng dụng AI “bạn đồng hành”, vì rủi ro là “không thể chấp nhận”.

Thực tế, OpenAI từng bị chỉ trích vì cách ChatGPT giao tiếp. Tháng 4, công ty phải rút lại một bản cập nhật khiến chatbot trở nên “quá tâng bốc và dễ dãi”. Tháng trước, hãng cũng buộc phải mở lại tùy chọn chuyển sang các phiên bản cũ hơn sau khi người dùng phàn nàn GPT-5 “thiếu cá tính”. Một số cựu lãnh đạo OpenAI còn cáo buộc công ty từng cắt giảm nguồn lực của các bộ phận an toàn AI.

OpenAI cho biết sẽ triển khai thêm nhiều biện pháp bảo mật trong vòng 120 ngày tới, nhấn mạnh rằng kế hoạch đã được chuẩn bị từ trước khi công bố chính thức vào đầu tuần này.

“Công cuộc sẽ diễn ra lâu dài, nhưng chúng tôi đang nỗ lực tập trung để đưa càng nhiều cải tiến ra mắt trong năm nay càng tốt”, gã khổng lồ AI khẳng định.