Bảo vệ trẻ em trước các hành vi sử dụng AI, deepfake

Kiểm soát việc thu thập, khai thác hình ảnh, dữ liệu trẻ em cho mục đích quảng cáo

Ngày 9/11 dưới sự chủ trì của Chủ tịch Quốc hội Trần Thanh Mẫn, sự điều hành của Phó Chủ tịch Quốc hội Nguyễn Thị Thanh, Quốc hội thảo luận ở hội trường về dự án: Luật sửa đổi, bổ sung một số điều của Luật Trẻ em, Luật Người khuyết tật, Luật Khám bệnh, chữa bệnh, Luật Dược, Luật Người cao tuổi và Luật Bảo hiểm y tế; Luật sửa đổi, bổ sung một số điều của Luật Phòng, chống tác hại của thuốc lá.

Liên quan đến Luật sửa đổi, bổ sung một số điều của Luật Trẻ em, Luật Người khuyết tật, Luật Khám bệnh, chữa bệnh, Luật Dược, Luật Người cao tuổi và Luật Bảo hiểm y tế, đại biểu Quốc hội Thạch Phước Bình (Đoàn Vĩnh Long) đề nghị hoàn thiện quy định bảo vệ trẻ em trên không gian mạng, trong đó phân định rõ trách nhiệm của các cơ quan quản lý Nhà nước, bổ sung cơ chế xử lý khẩn cấp khi trẻ bị xâm hại và tăng trách nhiệm của các nền tảng số.

Theo ông Bình, cần làm rõ trách nhiệm phối hợp giữa Bộ Văn hóa, Thể thao và Du lịch với Bộ Công an trong xử lý các vụ việc liên quan đến nội dung thông tin, dữ liệu cá nhân và hành vi xâm hại trẻ em. Đồng thời, cần thiết lập cơ chế tiếp nhận cảnh báo, ngăn chặn, gỡ bỏ nội dung độc hại, bảo toàn chứng cứ điện tử và xử lý kịp thời các vụ việc.

“Việc bảo vệ trẻ em không chỉ dừng ở gỡ bỏ hình ảnh hoặc xử lý người vi phạm mà còn phải bảo đảm trẻ được tư vấn tâm lý, chăm sóc sức khỏe, hỗ trợ pháp lý và tránh nguy cơ tiếp tục bị xâm hại”, ông Bình nói và đề nghị bổ sung quy định bảo vệ trẻ em trước các hành vi sử dụng trí tuệ nhân tạo (AI), công nghệ deepfake để chỉnh sửa, tạo lập hoặc phát tán trái phép hình ảnh, âm thanh, video và danh tính số của trẻ.

Ông Bình cảnh báo, từ một bức ảnh thông thường, công nghệ AI có thể tạo ra hình ảnh nhạy cảm giả mạo; từ một đoạn ghi âm ngắn có thể tạo giọng nói giả phục vụ hành vi lừa đảo, đe dọa, tống tiền, xâm hại danh dự và nhân phẩm trẻ em. Bên cạnh đó, cần kiểm soát việc thu thập, khai thác hình ảnh, dữ liệu trẻ em cho mục đích quảng cáo hoặc huấn luyện AI trái pháp luật.

Ông Bình cũng kiến nghị, nghiên cứu cơ chế để trẻ em hoặc người đại diện hợp pháp yêu cầu hạn chế công khai, chỉnh sửa hoặc xóa thông tin cá nhân, hình ảnh khi không còn căn cứ hợp pháp để sử dụng. Từ đó, cần chuyển từ tư duy yêu cầu trẻ em tự bảo vệ mình trên mạng sang yêu cầu các nền tảng số phải được thiết kế và vận hành an toàn hơn đối với trẻ em.

Cho phép Chủ tịch UBND cấp xã áp dụng ngay biện pháp tạm thời cách ly trẻ em trong tình trạng khẩn cấp

Về hoạt động của cơ sở cung cấp dịch vụ bảo vệ trẻ em, đại biểu Quốc hội Lưu Thị Thuý Hằng (Đoàn Phú Thọ) bày tỏ tán thành chủ trương chuyển từ cơ chế đăng ký sang cơ chế thông báo để giảm thủ tục. Tuy nhiên, việc bãi bỏ hoàn toàn các điều kiện thành lập cần được Quốc hội cân nhắc kỹ.

Bà Hằng đề nghị phải quy định trực tiếp trong luật những yêu cầu cốt lõi để đảm bảo an toàn. Cụ thể, người đứng đầu và người trực tiếp chăm sóc trẻ không có tiền án, tiền sự về các hành vi xâm hại trẻ em; cơ sở phải có quy trình xử lý và báo cáo sự cố kịp thời. Đặc biệt, về đình chỉ cơ sở vi phạm, luật phải bổ sung nguyên tắc bắt buộc cơ quan có thẩm quyền đình chỉ phải có ngay phương án chuyển giao an toàn, tiếp tục chăm sóc cho trẻ em, không để các em chịu rủi ro từ sự vi phạm của cơ sở.

Về biện pháp bảo vệ khẩn cấp, tạm thời cách ly trẻ em, bà Hằng cho biết thực tiễn cho thấy khi trẻ em có nguy cơ bị xâm hại, bạo lực, đe dọa trực tiếp đến tính mạng, sức khỏe, chúng ta không thể chờ đợi hoàn thiện thủ tục giấy tờ.

“Đề nghị luật bổ sung thẩm quyền cho phép Chủ tịch UBND cấp xã hoặc cơ quan công an áp dụng ngay biện pháp tạm thời cách ly trẻ em trong tình trạng khẩn cấp, ví dụ thời hạn tối đa 48 giờ và đưa trẻ đến nơi an toàn, đồng thời làm thủ tục đề nghị Tòa án xem xét quyết định các bước tiếp theo. Cần phân định rõ trách nhiệm lập hồ sơ, tránh tình trạng đùn đẩy giữa các cấp”, bà Hằng nêu.

Về việc bố trí người làm công tác bảo vệ trẻ em cấp xã. Dự thảo quy định UBND cấp xã linh hoạt bố trí nhân sự, tuy nhiên bảo vệ trẻ em là công việc đặc thù, đòi hỏi kỹ năng xử lý chuyên môn, song bà Hằng kiến nghị luật cần bổ sung yêu cầu cán bộ được giao nhiệm vụ phải được đào tạo, bồi dưỡng về công tác xã hội và bảo vệ trẻ em. Đồng thời, phải có cơ chế phụ cấp trách nhiệm và phân bổ nguồn lực để cấp xã đủ sức thực hiện nhiệm vụ, tránh tình trạng giao việc nhưng thiếu nguồn lực.

Về phân định trách nhiệm quản lý Nhà nước, bà Hằng tán thành việc giao Bộ Y tế làm đầu mối quản lý Nhà nước về trẻ em sau khi sắp xếp tổ chức bộ máy. Tuy nhiên, công tác trẻ em liên quan đến nhiều lĩnh vực, cần quy định rõ trong luật cơ chế phối hợp liên ngành quốc gia do Bộ Y tế điều phối, cùng với phân vai rành mạch của Bộ Công an trong việc bảo vệ trẻ em trên môi trường mạng và hệ thống tư pháp thân thiện, tránh tình trạng chồng chéo hoặc bỏ sót nhiệm vụ.