Khi các nền tảng mạng xã hội chuyển sang trấn áp thông tin sai lệch trong các cuộc bầu cử Mỹ, một chính trị gia Ấn Độ đã sử dụng trí tuệ nhân tạo để phục vụ cho hoạt động bầu cử. Theo trang Vice, một chính trị gia Ấn Độ đã sử dụng AI để dịch bài phát biểu của mình sang nhiều ngôn ngữ khác nhằm tiếp cận được nhiều cử tri hơn. Đây là lần đầu tiên AI được sử dụng trên chính trường Ấn Độ.
Cụ thể, chính trị gia Manoj Tiwari đã sử dụng AI để tạo ra nhiều video tranh cử bằng các thứ tiếng như Tiếng Anh, tiếng Hindi.
Công ty truyền thông The Ideaz Factory cho biết, đảng Bharatiya Janata của ông Tiwari đã sử dụng AI như một phương thức hỗ trợ cho chiến dịch tranh cử. Họ sử dụng công nghệ tương tự như video deepfake và lồng tiếng giọng nói của ông Tiwari theo kịch bản có sẵn.
Sagar Vishnoi đến từ công ty The Ideaz Factory cho biết: "Chúng tôi đã sử dụng thuật toán deepfake lip-sync để huấn luyện AI với các bài phát biểu của ông Tiwari và dịch những phát biểu của ông thành khẩu hình".
Theo đó những video này sẽ cho phép ứng viên Tiwari có thể tiếp cận thêm nhiều cử tri mà bình thường khó có thể tiếp cận trực tiếp được. Đó là chưa kể Ấn Độ có rất nhiều bang và tại đó người dân nói một thứ ngôn ngữ khác ngoài tiếng Hindi và tiếng Anh.
Hiện video giả ngôn ngữ khác của Tiwari đã tiếp cận được khoảng 15 triệu người tại Ấn Độ.
Mặc dù trước đây đa số video deepfake thường liên quan đến nội dung khiêu dâm. Nhưng khi video deepfake nổi tiếng về tổng thống Obama nổi lên, người ta mới dần lo ngại về công nghệ này. Bởi nếu không thể kiểm soát, deepfake có thể kích động bạo lực, tư tưởng thù hằn vì cho rằng một ai đó có phát biểu không chuẩn mực.
Rất khó để phân biệt video thật và giả bằng deepfake hiện nay.
Để hạn chế tình trạng trên, tiểu bang California Mỹ hồi tháng 10/2019 đã thông qua dự luật nghiêm cấm chia sẻ các video deepfake liên quan đến các chính trị gia trong vòng 60 ngày trước bầu cử. Vào tháng 1/2020, Ủy ban đạo đức Hạ viện Mỹ đã thông báo tới các thành viên rằng, việc đăng tải deepfake trên mạng xã hội sẽ vi phạm các quy tắc.
Không chỉ các nhà chức trách mới vào cuộc, các hãng công nghệ đặc biệt là mạng xã hội đã công bố kế hoạch chống lại deepfake. Quy định mới về deepfake sẽ được Twitter ban hành trong tháng 3/2020. Trong khi đó Facebook đã bắt đầu cấm deepfake trên nền tảng của mình từ vài tháng trước.
Mạng Reddit cũng tham gia cuộc chiến khi cập nhật chính sách, cấm tất cả các hành vi mạo danh người khác, bao gồm deepfake trên nền tảng này.
Đoạn video deepfake của chính trị gia Manoj Tiwari
Tham khảo Vice