Singapore giới thiệu 2 công cụ chống nội dung deepfake

Trung tâm Công nghệ tiên tiến về an toàn trực tuyến (CATOS) của Singapore vừa giới thiệu cùng lúc 2 công cụ giúp đối phó nội dung deepfake (hình ảnh, video hoặc âm thanh bị giả mạo hoặc chỉnh sửa bằng công nghệ trí tuệ nhân tạo) và thông tin sai lệch trực tuyến.

Công cụ thứ nhất mang tên Provo, cho phép người dùng, trong đó có nhà xuất bản tin tức và sáng tạo nội dung, nhúng nhãn nguồn gốc vào hình ảnh và video. Nhãn này chứa các dữ liệu như nhà xuất bản gốc, ngày nội dung được đăng lần đầu và mọi chỉnh sửa được thực hiện trước khi đăng. Người lướt web có thể kiểm tra nhãn nói trên bất kể nội dung được đăng lại hoặc chia sẻ ở đâu. Nếu một bức ảnh hoặc video bị bên thứ ba không được phép can thiệp, nhãn xác thực sẽ tự động bị xóa.

Ngoài ra, CATOS còn ra mắt nền tảng nhận diện deepfake có tên Sleuth. Công cụ này có thể xác định liệu khuôn mặt đã bị hoán đổi hoặc chỉnh sửa, hoặc âm thanh và môi trường đã được tạo bằng trí tuệ nhân tạo (AI) hay không. Ngoài ra, việc phân tích từng khung hình của video còn cho phép xác định chính xác những phần nào trong video đã bị thao túng. Nhân viên của một số cơ quan công quyền và công ty truyền thông đã bắt đầu sử dụng nền tảng này để phát hiện nội dung giả mạo.

CATOS được thành lập vào năm 2024 nhằm nâng cao năng lực của Singapore trong việc phát hiện nội dung deepfake và thông tin sai lệch trực tuyến. Theo Giám đốc CATOS Yang Yinping, các công cụ mới nói trên được trình làng giữa lúc nội dung giả mạo do AI tạo ra ngày càng tinh vi, khiến việc phát hiện chúng gặp nhiều thách thức. Chuyên gia này bày tỏ hy vọng nỗ lực này của CATOS có thể đóng góp vào việc bảo vệ thông tin trước làn sóng tin giả, nội dung bị chỉnh sửa hoặc thông tin sai lệch. Ngoài ra, CATOS sẽ mở rộng nỗ lực biên soạn một loạt tài liệu giáo dục công chúng nhằm nâng cao hiểu biết về AI. Trong bối cảnh các công cụ hiện đại có thể tạo ra deepfake chân thực, bà Yang Yinping khuyên công chúng hình thành thói quen kiểm tra độ tin cậy của nguồn thông tin, thay vì chỉ đánh giá dựa trên nội dung.

Phân biệt nội dung giả mạo - nhất là deepfake - là vấn đề mà các chính phủ và cơ quan an ninh mạng ngày một quan tâm, trong đó tận dụng chính công nghệ AI để đối phó là một chiến lược. Năm ngoái, Bộ Quốc phòng Mỹ đã đầu tư 2,4 triệu USD trong 2 năm vào công nghệ phát hiện deepfake từ một công ty khởi nghiệp có tên Hive AI. Công cụ này hoạt động dựa trên việc phát hiện các tín hiệu và mẫu trong nội dung do AI tạo ra mà mắt thường không thể nhìn thấy.