Nguyên tắc phân loại và đánh giá sự phù hợp hệ thống trí tuệ nhân tạo

Nhà cung cấp phải thực hiện phân loại hệ thống trí tuệ nhân tạo trước khi đưa hệ thống vào sử dụng

Về nguyên tắc phân loại và đánh giá sự phù hợp hệ thống trí tuệ nhân tạo, Nghị định quy định việc phân loại hệ thống trí tuệ nhân tạo phải dựa trên mức độ rủi ro theo quy định của Luật Trí tuệ nhân tạo và Nghị định này.

Nhà cung cấp phải thực hiện phân loại hệ thống trí tuệ nhân tạo trước khi đưa hệ thống vào sử dụng.

Bên triển khai phải phối hợp với nhà cung cấp để rà soát, phân loại lại hệ thống trí tuệ nhân tạo khi việc triển khai, sửa đổi, tích hợp hoặc thay đổi chức năng hoặc mục đích sử dụng làm phát sinh rủi ro mới hoặc rủi ro cao hơn của hệ thống đã được phân loại.

Nhà cung cấp và bên triển khai phải thực hiện đánh giá sự phù hợp đối với hệ thống trí tuệ nhân tạo có rủi ro cao theo quy định của Luật Trí tuệ nhân tạo và Nghị định này. Trường hợp kết quả đánh giá chưa bao phủ đầy đủ yêu cầu quản lý rủi ro đặc thù của hệ thống trí tuệ nhân tạo theo quy định của Luật Trí tuệ nhân tạo và Nghị định này, nhà cung cấp hoặc bên triển khai chỉ phải thực hiện bổ sung đối với nội dung chưa được đánh giá hoặc chưa được chứng minh.

Trường hợp hệ thống trí tuệ nhân tạo được tích hợp trong sản phẩm, hàng hóa hoặc dịch vụ thuộc phạm vi điều chỉnh của pháp luật chuyên ngành, pháp luật về tiêu chuẩn và quy chuẩn kỹ thuật hoặc pháp luật về chất lượng sản phẩm, hàng hóa thì tổ chức, cá nhân phải tuân thủ quy định của pháp luật đó đối với sản phẩm, hàng hóa hoặc dịch vụ tương ứng; đồng thời thực hiện các yêu cầu quản lý rủi ro đặc thù của thành phần trí tuệ nhân tạo theo quy định của Luật Trí tuệ nhân tạo và Nghị định này.

Cơ quan quản lý nhà nước về trí tuệ nhân tạo và cơ quan quản lý nhà nước chuyên ngành phải bảo đảm nguyên tắc không trùng lặp trong phân loại, đánh giá sự phù hợp và kiểm tra đối với hệ thống trí tuệ nhân tạo. Kết quả thử nghiệm, kiểm định, chứng nhận hợp quy hoặc kết quả đánh giá sự phù hợp đã được thực hiện theo pháp luật chuyên ngành, pháp luật về tiêu chuẩn và quy chuẩn kỹ thuật, pháp luật về chất lượng sản phẩm, hàng hóa được sử dụng để chứng minh việc đáp ứng yêu cầu tương ứng theo pháp luật về trí tuệ nhân tạo trong phạm vi nội dung đã được đánh giá hợp pháp, đầy đủ và còn hiệu lực thì tổ chức, cá nhân không phải thực hiện lại nội dung đó.

Bộ Khoa học và Công nghệ cung cấp công cụ hỗ trợ điện tử phục vụ việc tự đánh giá, phân loại hệ thống trí tuệ nhân tạo trên cơ sở các tiêu chí theo quy định. Việc sử dụng công cụ hỗ trợ điện tử có tính chất hỗ trợ, không bắt buộc và không làm phát sinh thủ tục phê duyệt hành chính hoặc nghĩa vụ khác ngoài quy định của Nghị định này.

Về phân loại hệ thống trí tuệ nhân tạo, Nghị định quy định nhà cung cấp có trách nhiệm tự thực hiện việc phân loại hệ thống trí tuệ nhân tạo theo quy định tại khoản 1 Điều 10 của Luật Trí tuệ nhân tạo trước khi đưa hệ thống vào sử dụng và chịu trách nhiệm trước pháp luật về tính chính xác, trung thực của kết quả phân loại.

Việc phân loại chỉ áp dụng đối với hệ thống trí tuệ nhân tạo; không áp dụng đối với mô hình trí tuệ nhân tạo, trừ trường hợp mô hình được sử dụng như một thành phần của hệ thống trí tuệ nhân tạo cụ thể.

3 mức độ rủi ro của hệ thống trí tuệ nhân tạo

Mức độ rủi ro của hệ thống trí tuệ nhân tạo được xác định như sau:

a) Hệ thống trí tuệ nhân tạo được phân loại rủi ro cao là các hệ thống thuộc Danh mục hệ thống trí tuệ nhân tạo có rủi ro cao do Thủ tướng Chính phủ ban hành theo quy định tại khoản 4 Điều 13 của Luật Trí tuệ nhân tạo;

b) Hệ thống trí tuệ nhân tạo được phân loại có rủi ro trung bình là hệ thống không thuộc trường hợp quy định tại điểm a ở trên và thuộc các trường hợp quy định tại Điều 9 của Nghị định này;

c) Hệ thống trí tuệ nhân tạo được phân loại có rủi ro thấp là hệ thống không thuộc trường hợp quy định tại điểm a và điểm b ở trên.

Nghị định nêu rõ trường hợp bên triển khai sửa đổi, tích hợp, thay đổi chức năng hoặc mục đích sử dụng của hệ thống so với công bố ban đầu của nhà cung cấp làm phát sinh rủi ro mới hoặc rủi ro cao hơn, bên triển khai có trách nhiệm phối hợp với nhà cung cấp để rà soát, phân loại lại mức độ rủi ro.

Thiết lập Cổng thông tin điện tử một cửa về trí tuệ nhân tạo

Một quy định mới của Nghị định là việc thiết lập Cổng thông tin điện tử một cửa về trí tuệ nhân tạo và Cơ sở dữ liệu quốc gia về hệ thống AI.

Nghị định quy định Bộ Khoa học và Công nghệ có trách nhiệm quản lý, vận hành Cổng thông tin điện tử một cửa về trí tuệ nhân tạo.

Việc thu thập, cập nhật, công khai, kết nối, chia sẻ và khai thác thông tin trên Cổng thông tin điện tử một cửa về trí tuệ nhân tạo và Cơ sở dữ liệu quốc gia về hệ thống trí tuệ nhân tạo phải bảo đảm quy định pháp luật về giao dịch điện tử và các yêu cầu sau đây:

- Phù hợp với mục đích quản lý nhà nước và phạm vi thông tin được pháp luật cho phép;

- Tuân thủ quy định của pháp luật về an ninh mạng, bảo vệ bí mật nhà nước, bí mật kinh doanh và bảo vệ dữ liệu cá nhân;

- Không làm phát sinh thủ tục hành chính, nghĩa vụ báo cáo hoặc yêu cầu cung cấp thông tin đối với tổ chức, cá nhân ngoài các trường hợp quy định tại Nghị định này;

- Các hệ thống trí tuệ nhân tạo, cơ sở dữ liệu phục vụ hoạt động nội bộ của cơ quan Đảng, tổ chức chính trị, hệ thống trí tuệ nhân tạo thuộc danh mục bí mật nhà nước, quốc phòng, an ninh không thuộc phạm vi phải thông báo, đăng ký, chia sẻ dữ liệu công khai trên cổng thông tin điện tử một cửa về trí tuệ nhân tạo.

Phát triển hệ sinh thái và thị trường trí tuệ nhân tạo

Một nội dung đáng chú ý khác của Nghị định là về phát triển hệ sinh thái và thị trường trí tuệ nhân tạo. Nghị định quy định Bộ Khoa học và Công nghệ là cơ quan đầu mối điều phối phát triển hệ sinh thái và thị trường trí tuệ nhân tạo; có trách nhiệm công bố thông tin về năng lực hạ tầng, dữ liệu, chương trình, nhiệm vụ và nhu cầu ứng dụng trí tuệ nhân tạo trong khu vực công để kết nối cung - cầu và nâng cao hiệu quả sử dụng nguồn lực theo quy định của pháp luật.

Việc phát triển hệ sinh thái và thị trường trí tuệ nhân tạo được thực hiện theo các chính sách sau đây:

- Phát triển nguồn cung công nghệ trí tuệ nhân tạo thông qua việc tạo điều kiện tiếp cận và khai thác hạ tầng tính toán, dữ liệu và môi trường thử nghiệm có kiểm soát; thúc đẩy phát triển sản phẩm, dịch vụ trí tuệ nhân tạo có khả năng thương mại hóa;

- Kích thích cầu thị trường và mở rộng ứng dụng trí tuệ nhân tạo thông qua việc ưu tiên sử dụng sản phẩm, dịch vụ trí tuệ nhân tạo trong phạm vi các nhiệm vụ, dự án ứng dụng công nghệ thông tin, chuyển đổi số, phát triển chính phủ số, kinh tế số và cung cấp dịch vụ công theo quy định của pháp luật; khuyến khích triển khai các mô hình đặt hàng, mua sắm đổi mới sáng tạo và ứng dụng trí tuệ nhân tạo trong hoạt động quản lý nhà nước, sản xuất, kinh doanh và đời sống xã hội; kinh phí chi thường xuyên và chi đầu tư công được xem xét bố trí theo quy định của pháp luật về ngân sách nhà nước, pháp luật về đấu thầu và pháp luật có liên quan;

- Kết nối thị trường và thúc đẩy thương mại hóa sản phẩm, dịch vụ trí tuệ nhân tạo thông qua việc phát triển các nền tảng kết nối cung - cầu công nghệ; thúc đẩy hợp tác giữa doanh nghiệp, tổ chức khoa học và công nghệ, cơ sở giáo dục đại học và nhà đầu tư.

Nghị định nêu rõ doanh nghiệp công nghệ, doanh nghiệp nhỏ và vừa, doanh nghiệp khởi nghiệp sáng tạo, tổ chức khoa học và công nghệ, cơ sở giáo dục đại học tham gia phát triển, cung cấp hoặc ứng dụng sản phẩm, dịch vụ trí tuệ nhân tạo được ưu tiên trong triển khai các chính sách quy định ở trên theo quy định của pháp luật có liên quan.

Phương Nhi