Nhiều rủi ro và thách thức pháp lý khi sử dụng ứng dụng AI

Tại hội nghị, ThS.DS Nguyễn Công Hậu, giảng viên Khoa khoa học sức khỏe (Trường Đại học Gia Định) đã trình bày tham luận “Hoàn thiện khung pháp lý điều chỉnh hoạt động bán lẻ thuốc ứng dụng trí tuệ nhân tạo: tiếp cận từ Luật Dược số 44/2024/QH15”. ThS Hậu nhìn nhận, quá trình sửa đổi, bổ sung các luật chuyên ngành cần đặt ra yêu cầu xem xét khung pháp lý khi trí tuệ nhân tạo (AI) đang được ứng dụng rộng rãi, trong đó có hoạt động bán lẻ thuốc.

Bên cạnh đó, diễn giả này cũng đặt ra vấn đề về "trợ lý ảo cho thẩm phán" được đặc biệt quan tâm hiện nay, nhưng đặt ra khía cạnh về giới hạn trách nhiệm pháp lý trong hoạt động xét xử. Những chủ đề này gợi mở yêu cầu phân định rõ vai trò hỗ trợ của công nghệ và trách nhiệm của con người trong các hoạt động chuyên môn.

Theo PGS.TS, Luật sư Bùi Kim Hiếu, Trưởng Khoa khoa học xã hội và ngôn ngữ quốc tế - Trường Đại học Gia Định, tác động của AI cần được xem xét từ nhiều góc độ, bởi một vấn đề công nghệ có thể đồng thời liên quan đến nhiều lĩnh vực pháp luật.

“Một vấn đề như dữ liệu cá nhân có thể đồng thời liên quan đến quyền riêng tư, trách nhiệm của doanh nghiệp, an ninh mạng và quản trị công nghệ; AI trong xét xử lại đặt ra câu hỏi về trách nhiệm, tính minh bạch và nguyên tắc độc lập của thẩm phán; trong giáo dục luật, sự phổ biến của AI tạo sinh buộc các cơ sở đào tạo phải nhìn lại phương pháp giảng dạy và cách đánh giá kết quả học tập”, ông Bùi Kim Hiếu chia sẻ.

Không chỉ đặt ra yêu cầu đối với hệ thống pháp luật, sự phát triển của AI còn tác động đến phương pháp nghiên cứu, hoạt động hành nghề và đào tạo nguồn nhân lực. Người học luật trong bối cảnh mới cần trang bị kiến thức chuyên môn, tư duy phản biện, năng lực số và khả năng kiểm chứng thông tin, nhận diện rủi ro khi sử dụng các công cụ AI.

PGS.TS Phạm Văn Song - Quyền Hiệu trưởng Trường Đại học Gia Định cho biết, hiện nay AI được ứng dụng mạnh mẽ trong lĩnh vực giáo dục. Tại Trường Đại học Gia Định cũng đang từng bước xây dựng, nâng cấp hệ thống Smart LMS nhằm hỗ trợ cá nhân hóa lộ trình học tập và tăng cường khả năng tiếp cận học liệu số của sinh viên.

“Sinh viên có thể tiếp cận bài giảng, video giảng dạy, tài liệu học tập và thực hiện các hoạt động luyện tập, kiểm tra trên hệ thống Smart LMS. AI được định hướng sử dụng như một công cụ hỗ trợ quá trình học tập, giúp người học tăng cường luyện tập và tiếp nhận phản hồi. Tuy nhiên, AI chưa thay thế vai trò chủ động của sinh viên trong việc tiếp thu kiến thức”, PGS.TS Phạm Văn Song dẫn chứng về ứng dụng AI trong cơ sở giáo dục đại học.

Tại hội nghị, nhiều chuyên gia, nhà nghiên cứu cũng đối chiếu kinh nghiệm quốc tế, đồng thời phân tích những vấn đề đặt ra trong bối cảnh Việt Nam. Nội dung trao đổi trải rộng từ phân loại rủi ro khi ứng dụng AI trong hành nghề luật, cơ chế thử nghiệm có kiểm soát trong lĩnh vực ngân hàng đến trách nhiệm pháp lý của nhà phát triển và doanh nghiệp khi triển khai các hệ thống AI.

Nhiều ý kiến nhận định, trí tuệ nhân tạo, đặc biệt là AI tạo sinh đang được ứng dụng ngày càng rộng rãi trong hoạt động tư pháp, tài chính – ngân hàng, quản trị doanh nghiệp và giáo dục. Tuy nhiên, khi công nghệ tham gia sâu hơn vào các hoạt động liên quan trực tiếp đến quyền, lợi ích và trách nhiệm của con người, nhiều vấn đề pháp lý cũng đặt ra, từ bảo vệ dữ liệu cá nhân, quyền sở hữu trí tuệ đến trách nhiệm bồi thường thiệt hại và kiểm soát rủi ro.