Thượng nghị sĩ đảng Xanh của Australia David Shoebridge đã cảnh báo rằng các video deepfake tinh vi được tạo ra bằng AI có khả năng "đánh cắp cuộc bầu cử liên bang tiếp theo".

Cảnh báo được đưa ra sau khi báo cáo cuối cùng về cuộc điều tra của Thượng viện về việc áp dụng trí tuệ nhân tạo bị trì hoãn vào thứ năm, dự kiến ​​báo cáo sẽ được công bố vào ngày 26 tháng 11.

Tuy nhiên, một báo cáo tạm thời sẽ được công bố trong những tuần tới sẽ tập trung vào tiềm năng của tài liệu chính trị deepfake do AI tạo ra và tác động của nó đến các cuộc bầu cử, với cuộc bầu cử Hoa Kỳ dự kiến ​​diễn ra vào ngày 5 tháng 11 và cuộc bầu cử liên bang Úc dự kiến ​​diễn ra vào năm sau.

Thượng nghị sĩ Shoebridge cho biết luật của Úc nhắm vào nội dung deepfake do AI tạo ra đã lỗi thời và cần trao thêm quyền cho Ủy ban Bầu cử để ngăn chặn nội dung lừa đảo.

Trong phiên điều trần vào tháng 5, Ủy viên Bầu cử Úc Tom Rogers cho biết cơ quan giám sát không có "công cụ lập pháp" hoặc "năng lực kỹ thuật" để phát hiện nội dung do AI tạo ra và thừa nhận rằng cử tri Úc không miễn nhiễm với nội dung giả mạo.

Đầu tháng này, thượng nghị sĩ độc lập David Pocock đã chia sẻ một video AI về Thủ tướng Anthony Albanese công bố lệnh cấm quảng cáo cờ bạc, nêu bật sự dễ dàng trong cách sản xuất video.

Tuy nhiên, chủ tịch ủy ban và thượng nghị sĩ Tony Sheldon cho biết bất kỳ luật tiềm năng nào cũng cần phải "đạt được sự cân bằng phù hợp" giữa việc bảo vệ quyền tự do ngôn luận và quyền bày tỏ chính trị, đồng thời bảo vệ những người dễ bị tổn thương có khả năng bị ảnh hưởng bởi nội dung bị chỉnh sửa.

Hiện tại, Đảng Lao động đã đưa ra một dự luật để chống lại thông tin giả và thông tin sai lệch, và sẽ bao gồm nội dung chính trị giả mạo, và cho phép Cơ quan Thông tin và Truyền thông Úc phạt các công ty tới 5 phần trăm doanh thu toàn cầu của họ.

Luật này cũng cho phép cơ quan quản lý yêu cầu các công ty cung cấp thông tin về cách họ ngăn chặn thông tin sai lệch và không đúng sự thật, tuy nhiên ACMA không thể buộc các nền tảng xóa nội dung.

Mặc dù Đảng Xanh vẫn chưa tuyên bố ủng hộ Dự luật, Liên minh đã chỉ trích vì lo ngại dự luật sẽ cản trở quyền tự do ngôn luận./.