Vào tháng 8, một cuộc gọi đe dọa đánh bom nhắm vào Trường Trung học Wheatland Union ở hạt Yuba, bang California (Mỹ) đã buộc cảnh sát phải triển khai lực lượng xuyên đêm và nhà trường phải hủy bỏ các lớp học. Kết quả kiểm tra không phát hiện chất nổ hay thương vong nào, nhưng cơ quan chức năng xác định đây không phải sự cố đơn lẻ mà nằm trong chuỗi cuộc gọi báo động giả (swatting) nhắm vào nhiều trường học trên khắp nước Mỹ suốt mùa hè.
Theo định nghĩa của Cục Điều tra Liên bang Mỹ (FBI), swatting là hành vi gọi đến đường dây nóng 911 hoặc sở cảnh sát để báo cáo giả về đe dọa đánh bom, xả súng hàng loạt hay các tình huống nguy hiểm tính mạng nhằm kích hoạt phản ứng khẩn cấp quy mô lớn. Điểm đáng chú ý trong vụ việc tại hạt Yuba là kẻ gọi điện đã sử dụng giọng nói do trí tuệ nhân tạo (AI) tạo ra, đặt ra thách thức mới cho lực lượng ứng phó khẩn cấp.
Giọng nói tổng hợp vượt qua khả năng nhận diện thông thường
Ông Mel Maier, Giám đốc điều hành Hiệp hội Các quan chức Truyền thông An toàn Công cộng Quốc tế (APCO International), cho biết các giọng nói giả mạo trước đây khá dễ nhận biết nhưng nay đã đạt độ tự nhiên rất cao. Công nghệ mới cho phép chèn các khoảng ngắt nghỉ, từ đệm như “ờ” hay các cụm từ ngập ngừng tự nhiên vào lời thoại.
Mục tiêu của các vụ swatting thường nhằm quấy rối hoặc trả thù một cá nhân cụ thể, chẳng hạn như quan chức nhà nước, đồng thời gây ra sự hỗn loạn và làm phân tán nguồn lực an toàn công cộng khỏi các tình huống khẩn cấp thực sự. Ông Maier lưu ý rằng đã từng có nhiều trường hợp người dân bị thương hoặc thiệt mạng trong các vụ phản ứng nhầm từ swatting. Việc kết hợp giọng nói tổng hợp (synthetic voice) với âm thanh nền giả lập càng khiến tổng đài viên khó phân biệt thật giả.
Theo khảo sát công bố vào tháng 6 do APCO và Liên minh Mối đe dọa An toàn Công cộng (Public Safety Threat Alliance) thực hiện trên 766 chuyên gia truyền thông an toàn công cộng, khoảng 14% tổng đài viên cho biết họ từng là mục tiêu của các cuộc gọi sử dụng công cụ AI. Cả APCO và Hiệp hội 9-1-1 Quốc gia (NENA) đều bày tỏ lo ngại rằng tỷ lệ này sẽ tiếp tục gia tăng khi các công cụ AI ngày càng hoàn thiện.
Công cụ nhân bản giọng nói giá rẻ tiếp tay cho hành vi lừa đảo
Ông Brandon May, Phó giáo sư tâm lý học pháp y tại Viện Công nghệ Florida, nhận định các phần mềm giọng nói tổng hợp (synthetic voice software) từ những công ty như ElevenLabs đang được cung cấp rộng rãi với chi phí cực thấp. Ông dẫn chứng bản thân có thể thực hiện nhân bản giọng nói (voice cloning) trên ElevenLabs với mức giá dưới 20 USD, đồng thời dễ dàng tùy chỉnh ngữ điệu, cao độ trầm bổng và nhịp ngắt nghỉ.
Chính mức độ tiếp cận dễ dàng này khiến việc nhận diện nội dung giả mạo bằng mắt thường hay thính giác không còn đơn giản. Ngoài lĩnh vực ứng phó khẩn cấp, các đối tượng lừa đảo còn kết hợp chatbot AI để chiếm đoạt tiền tiết kiệm cả đời của nhiều nạn nhân. Trong những cuộc gọi khẩn cấp mang tính chất quyết định sinh tử và hệ quả lớn, ông May đánh giá việc phát hiện giọng nói AI giả mạo đang trở nên gần như bất khả thi.
Kẽ hở trong quy trình chuyển tiếp cuộc gọi và biện pháp đào tạo mới
Bà April Heinze, Phó chủ tịch phụ trách điều hành tổng đài 911 tại NENA, chỉ ra một đặc điểm nhận diện quan trọng của hành vi swatting là kẻ xấu hiếm khi gọi trực tiếp vào số 911. Hệ thống 911 tự động ghi nhận dữ liệu vị trí, số điện thoại gọi lại cũng như danh tính chủ thuê bao, khiến việc giả mạo vị trí (location spoofing) trên đường dây này gần như không thể thực hiện.
Thay vào đó, các đối tượng thường gọi đến tổng đài của sở cảnh sát địa phương hoặc tòa án, sau đó cuộc gọi được chuyển tiếp sang trung tâm 911. Quy trình chuyển tiếp gián tiếp này khiến lực lượng chức năng không thể truy vết nguồn gốc cuộc gọi.
Trước nguy cơ tội phạm mạng lợi dụng thông tin công khai để huấn luyện AI vượt qua hàng rào kiểm soát, cả bà Heinze và ông Maier đều từ chối tiết lộ chi tiết giáo trình đào tạo nhận diện cuộc gọi AI. Tuy nhiên, ông Maier cho biết APCO đang xây dựng bộ tiêu chí thẩm vấn người gọi (caller interrogation) theo hướng đặt ra các câu hỏi chi tiết ở mức độ mà AI không thể thu thập từ cơ sở dữ liệu công khai, mạng xã hội hay tự suy đoán để trả lời.
Nguồn: NPR