Trí tuệ nhân tạo (AI) thường được ca ngợi như một động lực thúc đẩy văn minh nhân loại với những bước tiến vượt bậc trong y tế hay khoa học. Tuy nhiên, công nghệ này cũng là một con dao hai lưỡi khi rơi vào tay những kẻ có dã tâm.
Tại thị trường thương mại điện tử khổng lồ của Trung Quốc, các chủ cửa hàng trực tuyến đang phải gánh chịu những khoản lỗ nặng nề do một hình thức gian lận mới: lừa đảo hoàn tiền dựa trên hình ảnh do AI chỉnh sửa.
Kẽ hở từ chính sách “hoàn tiền không cần trả hàng”
Nguồn cơn của vấn đề xuất phát từ một chính sách bảo vệ người tiêu dùng khá phổ biến tại Trung Quốc. Theo đó, khách hàng có thể nhận lại tiền mà không cần gửi trả sản phẩm, miễn là họ cung cấp được bằng chứng hình ảnh cho thấy món hàng bị lỗi hoặc không đạt chất lượng. Chính sách này vốn dĩ đã có lỗ hổng, nhưng sự xuất hiện của AI đã khoét sâu thêm vào điểm yếu đó, biến nó thành một mỏ vàng cho những kẻ trục lợi.
Những kẻ lừa đảo sử dụng các công cụ AI để tạo ra những bức ảnh giả mạo với độ chân thực đáng kinh ngạc. Từ những quả táo bị mốc, rau củ héo úa cho đến những chiếc bát sứ bị nứt hay quần áo sờn rách, tất cả đều được AI “vẽ” ra một cách hoàn hảo.
Vấn đề trở nên trầm trọng hơn khi quy trình duyệt hoàn tiền trên nhiều nền tảng được tự động hóa. Chỉ cần thuật toán nhận thấy bức ảnh đủ “thật”, yêu cầu hoàn tiền sẽ được chấp thuận ngay lập tức mà không cần sự can thiệp của con người.
Chủ cửa hàng bất lực trước “ma trận” thật giả
Công nghệ AI hiện nay đã phát triển đến mức ngay cả mắt thường cũng khó lòng phân biệt được đâu là ảnh chụp thực tế, đâu là sản phẩm của kỹ thuật số. Ông Chen, chủ một cửa hàng kinh doanh rau củ tại Gia Hưng, là một nạn nhân điển hình. Ông cho biết chỉ trong vòng ba tháng qua, cửa hàng của ông đã phải xử lý chín yêu cầu trả hàng đáng ngờ.
Ban đầu, vì tin tưởng khách hàng, ông Chen chấp nhận hoàn tiền. Tuy nhiên, khi tần suất trả hàng tăng lên bất thường, ông bắt đầu nghi ngờ và soi kỹ các bức ảnh bằng chứng. Dù phát hiện ra những dấu hiệu của việc chỉnh sửa kỹ thuật số, nhưng khi ông khiếu nại lên nền tảng thương mại điện tử, câu trả lời nhận được là sự từ chối. Nền tảng cho rằng những dấu hiệu đó không đủ để kết luận bức ảnh đã bị AI can thiệp. Các chủ cửa hàng như ông Chen đành ngậm ngùi chịu trận.
Cuộc chiến công nghệ chưa có hồi kết
Trước tình hình này, một số trang web mua sắm đã bắt đầu triển khai các công cụ rà soát nhằm phát hiện ảnh do AI tạo ra và dán nhãn cảnh báo dưới những hình ảnh đáng ngờ. Tuy nhiên, chính các nền tảng này cũng thừa nhận rằng họ không thể đảm bảo độ chính xác tuyệt đối của các công cụ này.
Về mặt pháp lý, vào tháng 9 vừa qua, chính quyền Trung Quốc đã ban hành “Biện pháp tạm thời về quản lý dịch vụ tạo nội dung bằng trí tuệ nhân tạo”. Quy định này bắt buộc các nội dung do AI tạo ra phải được dán nhãn rõ ràng (như watermark) và cả nhãn chìm trong dữ liệu. Mặc dù hành vi xóa các nhãn này bị nghiêm cấm, nhưng trên thực tế, việc phát hiện và xử lý những kẻ cố tình xóa dấu vết để lừa đảo vẫn là một thách thức lớn.
Khi ranh giới giữa thực và ảo ngày càng bị xóa nhòa, cuộc chiến chống lại nạn lừa đảo bằng công nghệ cao tại Trung Quốc dự báo sẽ còn cam go và kéo dài, đòi hỏi những giải pháp quyết liệt hơn từ cả nền tảng kinh doanh lẫn cơ quan quản lý.
