Dùng AI để tạo phiên bản ảo cá nhân, vượt qua hệ thống ngân hàng

03/05/2023 324

Joanna Stern, nhà báo công nghệ tại New Jersey đã sử dụng AI để tạo một phiên bản ảo của chính mình và đánh giá khả năng bảo mật của hệ thống xác thực của ngân hàng. Cùng 24hStore tìm hiểu thông tin kỹ hơn nhé!

Thử nghiệm sử dụng AI để tạo phiên bản ảo cá nhân ảo 

Stern, một nhà báo công nghệ từng giành giải Emmy và hiện là biên tập viên cho WSJ, đã dành nhiều tháng để thử nghiệm công cụ AI mới mang tên Synthesia. Với mức phí 1.000 USD/năm, Synthesia sử dụng công nghệ AI để "nhân bản" người dùng bằng cách tạo hình đại diện ảo. Người dùng chỉ cần ghi lại âm thanh và video cho Synthesia "học", sau đó nhập văn bản bất kỳ và hệ thống sẽ trả về một video mới với giọng nói của người dùng nói về nội dung đó.

Stern cho biết: "Vì làm nhiều việc về thoại và video, tôi nghĩ Synthesia có thể giúp tôi làm việc hiệu quả hơn và bớt đi một số công đoạn cực nhọc. Rốt cuộc, đó chỉ là lời hứa của AI"

Joanna Stern, nhà báo công nghệ tại New Jersey

Công nghệ AI có thể giúp thu ngắn được thời gian phục chế một bức ảnh. Tuy nhiên, nó vẫn chưa hoàn toàn thay thế được vai trò của con người trong công việc này. Cùng tìm hiểu thông tin chi tiết tại Dùng AI để phục chế ảnh và cái kết bất ngờ

Stern đã thực hiện việc ghi lại một video có tổng độ dài 30 phút và một số đoạn âm thanh kéo dài khoảng hai tiếng để huấn luyện phiên bản ảo của chính mình bằng công cụ AI, bà đã đặt tên cho phiên bản ảo này là Joanna AI. Để tạo video nhanh hơn, Stern đã kết hợp ChatGPT để tạo ra nội dung văn bản cho Synthesia. Khi nhập văn bản và khởi tạo, Joanna AI sẽ tạo ra một video mới với giọng nói và khuôn mặt rất giống với Stern, chỉ khác một chút ở cử chỉ tay và biểu cảm khuôn mặt.

Stern đã thử nghiệm Joanna AI bằng cách tạo ra các video đơn giản như "Xin chào mọi người" hay "Xin lỗi, tôi bị tắt tiếng", sau đó đưa chúng vào Google Meet. Kết quả là rất ít người trong cuộc họp nhận ra họ đang trò chuyện với một phiên bản ảo. Bên cạnh Synthesia, Stern cũng sử dụng một công cụ AI khác từ ElevenLabs với tính năng tương tự. Bà đã sử dụng video đã đăng trên mạng xã hội để huấn luyện cho AI này và kết quả đã vượt qua sự mong đợi của bà. Với giá chỉ chưa đến 5 USD mỗi tháng cho gói rẻ nhất, Stern đã rất ngạc nhiên về hiệu quả của công cụ AI này.

Sự lạm dụng tính năng

Stern sử dụng cả hai công cụ AI để "thử" người thân. Bà đã yêu cầu AI gọi video cho em gái, sau đó là cho bố của mình. Cả hai đã bị thuyết phục, nhưng họ đã nhận xét rằng cuộc trò chuyện trông giống như một bản ghi âm hoặc được tạo ra bởi bot vì không có khoảng trống giữa các câu nói.

Tuy nhiên, khi bà ra lệnh cho Joanna AI kết nối với ngân hàng Chase, công cụ này đã vượt qua được hệ thống. "Trong quá trình xác thực sinh trắc học, khi hệ thống hỏi tên và địa chỉ tự động, Joanna AI đã trả lời chính xác. Hệ thống đã nhận ra giọng của tôi và kết nối ngay lập tức", Stern cho biết. Bà đã liên lạc trực tiếp với ngân hàng để thông báo rằng mình không có giao dịch nào với Chase.

Hany Farid, chuyên gia pháp y kỹ thuật số tại Đại học California, cho rằng khi người dùng đã tải lên dữ liệu kỹ thuật số của họ lên Internet, họ cần chấp nhận việc chúng có thể bị lạm dụng cho mục đích không tốt. "Cách phát hiện âm thanh và video giả dạng này là gì? Theo tôi chỉ có ba từ: Chúc may mắn", ông nói.

Stern nói rằng bà may mắn vì người thân của bà đã nhận ra giọng của AI, nhưng điều này có thể được cải tiến bằng cách cập nhật thuật toán theo thời gian. Bà lo ngại rằng các công cụ như Synthesia hay ElevenLabs có thể bị lạm dụng cho mục đích lừa đảo.

Theo đại diện của Synthesia, nền tảng này yêu cầu người dùng cân nhắc kỹ trước khi tải âm thanh và video để tạo phiên bản ảo của bản thân, đồng thời loại bỏ nội dung có hại. Trong khi đó, ElevenLabs tuyên bố sẽ chấm dứt tài khoản nào có dấu hiệu tạo nội dung lừa đảo hoặc vi phạm pháp luật. Công ty này cũng đang nghiên cứu một công cụ dán nhãn AI cho các video tạo từ nền tảng của họ.

Dùng AI để tạo phiên bản ảo cá nhân

Tác phẩm "The Electrician" của tác giả Boris Eldagsen đã đạt giải thưởng Sáng tạo tại cuộc thi SWPA 2023 vào tháng 3 vừa qua. Nhưng điều đáng chú ý ở đây là bức ảnh đó không phải do con người chụp mà chính là do AI tạo ra. Xem thêm thông tin tại Tác phẩm do AI tạo ra bất ngờ đạt giải nhất trong cuộc thi nhiếp ảnh

Các vụ lừa đảo trên mạng sử dụng AI giả giọng và video deepfake để tăng độ tin cậy đã làm mất hàng nghìn USD của nhiều người. Các chuyên gia đánh giá rằng công cụ AI giả giọng và video deepfake đang phát triển mạnh mẽ, nhưng các cơ quan quản lý vẫn đang gặp khó khăn trong việc kiểm soát. Hầu hết các nạn nhân đều khó xác định thủ phạm vì những kẻ lừa đảo này hoạt động trên phạm vi toàn cầu. Các công ty sản xuất công cụ AI cũng chưa phải chịu trách nhiệm về việc công cụ của họ bị lạm dụng.

Để cập nhật thêm nhiều tin tức hữu ích và dễ dàng trải nghiệm vô số các ứng dụng trên iOS/Android, bạn hãy cân nhắc đến việc sắm ngay một trong các sản phẩm thuộc thương hiệu Apple, Samsung, Oppo, Xiaomi trực tiếp tại 24hStore. Đặc biệt khi mua hàng tại đây, bạn sẽ nhận kèm ưu đãi hấp dẫn. Còn chần chờ gì nữa mà không nhanh tay nhấc máy liên hệ trước qua hotline 1900.0351 bộ phận tư vấn cũng sẵn sàng trao đổi mọi thông tin một cách tận tình nhất.

Tham khảo ngay siêu phẩm nhà "Táo" vừa cập bến tại 24hStore: