Cách nhận diện các mối đe dọa Deepfake nguy hiểm nhất
Sự kết thúc của niềm tin vào âm thanh
Deepfake đã chuyển từ phòng thí nghiệm sang tuyến đầu của an ninh doanh nghiệp và cá nhân. Trong nhiều năm, chúng ta chỉ tập trung vào các trò ghép mặt thô sơ hay các video nhại lại người nổi tiếng dễ dàng bị phát hiện. Thời đại đó đã qua rồi. Ngày nay, những mối đe dọa nguy hiểm nhất không phải là các đoạn phim điện ảnh mà là các bản sao âm thanh được nhắm mục tiêu cao độ và các thao tác hình ảnh tinh vi nhằm lừa đảo tài chính. Rào cản gia nhập đã biến mất. Bất kỳ ai có một chiếc laptop cơ bản và vài đô la đều có thể bắt chước giọng nói với độ chính xác đáng kinh ngạc chỉ bằng vài giây dữ liệu nguồn. Sự thay đổi này làm cho vấn đề trở nên cá nhân và cấp bách hơn so với mười hai tháng trước. Chúng ta không còn tìm kiếm những lỗi sai trong một sản phẩm Hollywood nữa. Chúng ta đang tìm kiếm những lời nói dối trong các giao tiếp hàng ngày. Tốc độ cải tiến của các công cụ này đã vượt xa khả năng xác minh những gì chúng ta nghe và thấy. Đây không chỉ là một thách thức kỹ thuật, mà là một sự thay đổi cơ bản trong cách chúng ta tiếp cận mọi thông tin đến với mình qua màn hình hoặc loa.
Cơ chế của sự lừa dối tổng hợp
Công nghệ đằng sau các mối đe dọa này dựa trên các mô hình generative được huấn luyện trên các tập dữ liệu khổng lồ về biểu cảm con người. Cốt lõi là các mạng thần kinh có thể phân tích nhịp điệu, cao độ và các sắc thái cảm xúc độc đáo của một giọng nói cụ thể. Không giống như các hệ thống text-to-speech cũ nghe như robot, các hệ thống hiện đại này nắm bắt được hơi thở và những khoảng lặng khiến một người nghe có vẻ thật. Đây là lý do tại sao voice cloning hiện là công cụ hiệu quả nhất cho những kẻ lừa đảo. Nó cần ít dữ liệu hơn nhiều so với video chất lượng cao và thuyết phục hơn nhiều trong một cuộc gọi áp lực. Một kẻ lừa đảo có thể lấy video từ social media, trích xuất âm thanh và tạo ra một bản sao hoạt động chỉ trong vài phút. Bản sao này sau đó có thể được sử dụng để nói bất kỳ văn bản nào mà kẻ tấn công nhập vào console.
Khía cạnh hình ảnh của vấn đề cũng đã chuyển sang tính ứng dụng thực tế. Thay vì cố gắng tạo ra một người hoàn toàn mới, kẻ tấn công thường sử dụng
