Deepfake tràn lan mạng xã hội Sora của OpenAI, CEO Sam Altman thành "hiện tượng meme"

(NLĐO) - Ứng dụng mạng xã hội video AI Sora do OpenAI phát triển đang gặp làn sóng tranh cãi khi video AI deepfake xuất hiện tràn lan.

OpenAI vừa tung ra mô hình Sora 2, phiên bản nâng cấp của ứng dụng AI Sora, mạng xã hội video AI mới của OpenAI.

Ngoài tính năng tạo video từ văn bản, dựng video ngắn với hình ảnh kèm chuyển động khá chân thực theo mô tả mà người dùng cung cấp như phiên bản ban đầu, Sora 2 có thêm khả năng tạo âm thanh, xử lý vật lý tốt hơn.

Không chỉ vậy, Sora 2 được nâng cấp chức năng tái hiện phân cảnh phức tạp như nhảy cầu, trượt ván hay bay lượn. Giới chuyên gia công nghệ đánh giá đây là công nghệ video AI tiên tiến nhất hiện nay.

Cùng với đó, OpenAI "đánh úp" mạng xã hội bằng Sora app trên iOS ở Mỹ và Canada.

Sora app cho phép người dùng tạo, chia sẻ và xem video AI giống TikTok hay Instagram Reels, với điểm nhấn là tính năng cameo. Người dùng có thể đăng ký dữ liệu gương mặt và giọng nói để chèn bản thân vào video AI, cho phép bạn bè sử dụng tính năng này trong video chung.

Nhiều tranh cãi ập tới khi cameo của CEO OpenAI Sam Altman hiển thị chế độ công khai trên Sora app và hàng loạt video deepfake (giả mạo) gương mặt ông xuất hiện rầm rộ khắp mạng xã hội chỉ sau 24 giờ.

Tình huống bất ngờ này biến CEO OpenAI thành "hiện tượng meme" cũng như biến Sora thành "nhà máy" sản xuất deepfake quy mô toàn cầu.

Mới thử nghiệm ở Mỹ và Canada nhưng sức hút từ Sora đã bùng nổ đến mức mã mời tham gia Sora bị rao bán tràn lan trên eBay.

Sora 2: Đỉnh cao công nghệ hay cỗ máy deepfake?

Không thể phủ nhận hiện tượng nói trên giúp Sora "viral" với tốc độ chóng mặt. Dù vậy, không ít người bày tỏ lo ngại nếu tình huống tương tự xảy ra với chính trị gia hay người nổi tiếng, những người có sức ảnh hưởng.

Một câu hỏi được nêu ra, mang theo nhiều băn khoăn cùng tranh cãi: OpenAI xử lý như thế nào khi những người có sức ảnh hưởng gặp tình huống giống ông Sam Altman?

Theo OpenAI, Sora app vận hành tương tự những nền tảng video ngắn khác như TikTok, Meta Reels hay YouTube Shorts, căn cứ thuật toán gợi ý nội dung dựa trên thói quen người dùng.

Điểm khác biệt duy nhất là Sora app là mạng xã hội đầu tiên tập trung hoàn toàn vào video AI.

Trang tin tức công nghệ TechCrunch nhận định phiên bản Sora 2 gây ấn tượng mạnh về mặt kỹ thuật khi tạo ra cảnh quay mang tính chân thực cao. Tuy nhiên, đó cũng là lý do Sora dễ dàng bị lạm dụng nhằm sản xuất những video tiêu cực, phục vụ mục đích xấu.

Hệ quả này buộc OpenAI nhanh chóng đưa ra cơ chế kiểm soát an toàn cho người dùng trong thế giới ảo.

Đáng chú ý, OpenAI được cho là tự phơi bày mâu thuẫn trong chiến lược phát triển khi ra mắt Sora. Công ty vừa quyết tâm duy trì "hình ảnh phòng thí nghiệm đặt an toàn nhân loại lên hàng đầu" vừa lấn sân sang sản phẩm tiêu dùng nhằm tìm nguồn thu. "Chúng tôi cần vốn phát triển AI phục vụ khoa học, nhưng cũng tốt nếu tạo ra sản phẩm khiến mọi người mỉm cười và giải quyết chi phí vận hành" - CEO Sam Altman chia sẻ.

Nhiều chuyên gia và cựu nhân viên OpenAI không che giấu hoài nghi về mục đích công ty công nghệ này hướng tới.

GS Boaz Barak, nhà nghiên cứu OpenAI ở Trường ĐH Harvard, nhận định: Về phương diện kỹ thuật, Sora thật sự ấn tượng. Nhưng, còn quá sớm để tự tin rằng chúng ta tránh khỏi vết xe đổ của các nền tảng mạng xã hội khác.

Tới nay, các cơ quan quản lý Mỹ vẫn giám sát chặt chẽ việc OpenAI chuyển sang mô hình vì lợi nhuận.

Dù mở ra một kỷ nguyên mới cho video AI, nhưng Sora cũng đặt OpenAI vào tâm điểm tranh cãi với nhiều mâu thuẫn giữa thành quả mang lại cho cuộc cách mạng giải trí với mối lo video deepfake khó lường.