Trí tuệ nhân tạo: Hàn Quốc sử dụng AI phát hiện video giả mạo về bầu cử

Các quan chức Hàn Quốc ngày 27/4 cho hay Ủy ban Bầu cử Quốc gia (NEC) của nước này vừa giới thiệu một mô hình trí tuệ nhân tạo (AI) phát hiện tin giả do Cơ quan Pháp y Quốc gia (NFS) phát triển để ngăn chặn sự lây lan của các video deepfake giả mạo trong cuộc bầu cử tổng thống sớm vào ngày 3/6 tới.

Theo phóng viên TTXVN tại Hàn Quốc, mô hình AI này có tên "Aegis", đặt theo tên chiếc khiên được thần Zeus sử dụng trong thần thoại Hy Lạp. Aegis sẽ được NEC sử dụng để phát hiện các video deepfake tinh vi do AI tạo ra và khó có thể nhận dạng bằng mắt thường.

Aegis được NFS và Viện Công nghệ Điện tử Hàn Quốc (KETI) phối hợp phát triển. NFS tiến hành nghiên cứu từ tháng 4 năm ngoái theo dự án do KETI tổ chức và Viện Kế hoạch & Đánh giá Công nghệ Thông tin & Truyền thông tài trợ. Dự án mang tên "Công nghệ phát hiện deepfake tự tiến hóa để ngăn chặn các tác động phụ về mặt xã hội do AI tạo ra".

Aegis được phát triển vào năm thứ 2 của dự án với sự tham gia của cả Đại học Cảnh sát Quốc gia Hàn Quốc, KAIST, Cleon (công ty tạo khuôn mặt và giọng nói bằng AI) và Wysiwyg Studios (công ty sản xuất phim). Aegis được tối ưu hóa để phát hiện các video deepfake khó nhất..

Theo Đạo luật Bầu cử Công chức sửa đổi của Hàn Quốc, có hiệu lực từ tháng 1/2024, việc sản xuất hoặc lan truyền các video deepfake do AI tạo ra cho mục đích vận động tranh cử là bất hợp pháp. Tuy nhiên, trong thời gian qua, trên không gian mạng vẫn xuất hiện tràn lan các video deepfake nhắm vào các ứng cử viên tổng thống hàng đầu và phần lớn là những video có nội dung bôi nhọ hay phỉ báng. Đơn cử, video deepfake về ứng cử viên đảng Dân chủ (DP) Lee Jae Myung mặc trang phục tù nhân hay ứng cử viên đảng Quyền lực Quốc dân (PPP) Han Dong Hoon tháo tóc giả.

Hôm 9/4 vừa qua, NEC đã điều hành lực lượng đặc nhiệm về deepfake AI giả mạo, sử dụng quy trình phát hiện 3 giai đoạn. Theo đó lúc đầu, người giám sát sẽ kiểm tra các video bằng trực quan. Nếu thấy khó phân biệt một video nào đó thì sẽ dùng mô hình AI như Aegis để tiến hành phân tích và cuối cùng là phần đánh giá của các chuyên gia AI. "Chúng tôi chủ yếu sử dụng Aegis của NFS vì có độ phát hiện chính xác cao nhưng đồng thời chúng tôi cũng xác minh chéo với các mô hình khác", một quan chức NEC cho biết.

(Theo Baotintuc.vn)