Hệ thống trí tuệ nhân tạo phải có sự kiểm soát của con người, phải duy trì sự kiểm soát và khả năng can thiệp của con người; con người có thể giám sát, tạm dừng hoặc vô hiệu hóa hệ thống khi có nguy cơ gây hại...

Nội dung được quy định tại Dự thảo Thông tư Hướng dẫn Khung đạo đức trí tuệ nhân tạo quốc gia do Bộ Khoa học và Công nghệ xây dựng. 

Thông tư này là căn cứ để các tổ chức, doanh nghiệp tham chiếu xây dựng quy tắc ứng xử nội bộ và thực hiện tự đánh giá mức độ tuân thủ các nguyên tắc đạo đức trí tuệ nhân tạo trong các hoạt động có liên quan. 

Khung đạo đức trí tuệ nhân tạo quốc gia được phát triển trên để bảo đảm các tiêu chí sau. 

Thứ nhất, hệ thống trí tuệ nhân tạo phải tuân thủ các tiêu chí sau để đảm bảo an toàn, tin cậy và không gây hại đến tính mạng, sức khỏe, danh dự, nhân phẩm và đời sống tinh thần của con người. 

Một là an toàn kỹ thuật và an ninh mạng, hệ thống phải có khả năng chống chịu rủi ro, bảo vệ tính toàn vẹn của dữ liệu huấn luyện, chống lại các hành vi đầu độc dữ liệu (Data Poisoning), ngăn ngừa sự cố và các cuộc tấn công mạng nhằm bảo vệ tính mạng, sức khỏe và tài sản của người dùng.

Hai là có sự kiểm soát của con người, hệ thống phải duy trì sự kiểm soát và khả năng can thiệp của con người; con người có thể giám sát, tạm dừng hoặc vô hiệu hóa hệ thống khi có nguy cơ gây hại. 

Ba là bảo vệ danh dự, nhân phẩm, hệ thống không được tạo ra hoặc lan truyền nội dung xúc phạm danh dự, nhân phẩm, hoặc gây tổn hại đến đời sống tinh thần của con người.

Thứ hai, hệ thống trí tuệ nhân tạo phải tuân thủ các tiêu chí sau để đảm bảo kết quả tôn trọng quyền con người, quyền công dân, bảo đảm công bằng, minh bạch và không phân biệt đối xử. 

Một là tôn trọng quyền con người và quyền riêng tư, bảo đảm tuân thủ Hiến pháp và pháp luật về bảo vệ dữ liệu cá nhân.

Hai là, công bằng và không phân biệt đối xử, dữ liệu và thuật toán phải được rà soát để loại bỏ thiên kiến (bias); không gây phân biệt đối xử dựa trên giới tính, dân tộc, tôn giáo, địa vị xã hội,...

Ba là minh bạch và giải trình, đối với nội dung do hệ thống trí tuệ nhân tạo tạo ra hoặc chỉnh sửa, nhà cung cấp và bên triển khai có trách nhiệm thông báo, gắn nhãn hoặc áp dụng biện pháp phù hợp để người tiếp nhận nhận biết, đồng thời thực hiện đầy đủ các nghĩa vụ về minh bạch theo quy định của pháp luật về trí tuệ nhân tạo và pháp luật có liên quan. 

Thứ ba, hệ thống trí tuệ nhân tạo phải tuân thủ các tiêu chí sau để việc sử dụng hệ thống trí tuệ nhân tạo sẽ góp phần thúc đẩy hạnh phúc, thịnh vượng và hướng tới sự phát triển bền vững của con người, cộng đồng và xã hội. 

Một là, góp phần nâng cao chất lượng cuộc sống, hỗ trợ cộng đồng và thúc đẩy sự thịnh vượng chung. 

Hai là, phát triển bền vững và AI Xanh: Ưu tiên phát triển các công nghệ sử dụng hiệu quả năng lượng, tiết kiệm tài nguyên và giảm thiểu tác động tiêu cực đến môi trường. 

Ba là, hỗ trợ thu hẹp khoảng cách số, tạo điều kiện cho các nhóm yếu thế tiếp cận và thụ hưởng lợi ích từ trí tuệ nhân tạo. 

Thứ tư, hệ thống trí tuệ nhân tạo phải tuân thủ các tiêu chí để hoạt động nghiên cứu, phát triển và ứng dụng trí tuệ nhân tạo khuyến khích sáng tạo, đổi mới và trách nhiệm xã hội trong nghiên cứu, phát triển và ứng dụng trí tuệ nhân tạo.

Một là, đổi mới sáng tạo có trách nhiệm, khuyến khích tìm tòi giải pháp công nghệ mới nhưng phải gắn liền với đánh giá rủi ro và đạo đức ngay từ khâu thiết kế (Ethics by Design).

Hai là, tuân thủ trong nghiên cứu và phát triển, quá trình thu thập, xử lý dữ liệu để huấn luyện, kiểm thử phải hợp pháp; bảo đảm quyền sở hữu trí tuệ và an ninh mạng. 

Ba là trách nhiệm trong ứng dụng, tổ chức, cá nhân ứng dụng AI phải chịu trách nhiệm về kết quả sử dụng; không sử dụng AI để xâm phạm lợi ích quốc gia, công cộng hoặc quyền lợi hợp pháp của người khác.