Đoạn video trên được tài khoản DangerousAI đăng tải trên Instagram ngày 7-6, với mô tả: “Donald Trump CẤM sản xuất Tesla tại Mỹ sau mâu thuẫn với Elon Musk” cùng các hashtag liên quan như Donald Trump, Elon Musk, Tesla và Epstein.

Trong video, ông Trump tuyên bố “sẽ cấm việc sản xuất tất cả xe Tesla tại Mỹ, có hiệu lực ngay lập tức”, gọi ông Musk là “con rắn đã đâm sau lưng” và chế giễu hãng xe của ông Musk.

Do trong bối cảnh mối quan hệ Trump - Musk ngày càng căng thẳng, đoạn video nhanh chóng thu hút sự chú ý của dư luận, đạt hơn 550.000 lượt xem cùng hàng ngàn lượt tương tác, chia sẻ khắp các nền tảng mạng xã hội.

Đáng chú ý, tài khoản này lại là trang thường xuyên đăng các clip sử dụng AI để tạo nội dung giả liên quan đến người nổi tiếng.

Nhưng vì video này được đăng lại quá rộng rãi, nhiều người không biết nguồn đăng và lầm tưởng tuyên bố này là có thật.

Theo trang kiểm chứng tin tức Lead Stories, đoạn video trên hoàn toàn là bịa đặt, với phần âm thanh khả năng cao được tạo bằng trí tuệ nhân tạo AI.

Lead Stories không tìm thấy bất kỳ bằng chứng nào liên quan đến phát ngôn như vậy của ông Trump, cũng như không có báo cáo từ các hãng tin uy tín nào xác nhận việc cấm Tesla tại Mỹ.

Đồng thời qua sử dụng công cụ phát hiện AI, đoạn âm thanh trong video được cho là chứa nhiều dấu hiệu của công nghệ "giả lập giọng nói" (voice cloning) như độ trễ bất thường trong phát âm và ngữ điệu thiếu tự nhiên.

Voice cloning là công nghệ sử dụng AI để tạo ra bản sao giọng nói gần như giống hệt một người thật, chỉ cần vài phút thu âm mẫu.

AI có thể học được đặc điểm riêng biệt của một giọng nói - như tông giọng, nhịp điệu, cách phát âm - và sau đó tái tạo lại giọng nói đó với nội dung hoàn toàn mới, do máy tính tạo ra.

Các chuyên gia cảnh báo tình trạng nội dung giả mạo bằng AI ngày càng tràn lan, đặc biệt trong giai đoạn nhạy cảm chính trị, và khuyến cáo người dùng cần thận trọng khi tiếp cận các nội dung chưa được xác minh trên mạng xã hội.

Video máy bay Nga hư hại nặng vì drone Ukraine được xác định là giả

Tổ chức kiểm chứng thông tin Full Fact (Anh) phân tích rằng một video lan truyền trên mạng có những dấu hiệu rõ ràng là do AI tạo ra, vì hình ảnh xuất hiện nhiều chi tiết bất hợp lý và bị chập chờn.