Hệ thống kiểm duyệt trên ChatGPT bất ngờ bị phá vỡ

13/02/2023 669

Mục lục

    Một số kẻ gian đang sử dụng nhiều bản "chatbot xấu" dựa trên ChatGPT để yêu cầu AI này tạo email lừa đảo hay mã độc. Cùng 24hStore tìm hiểu thông tin kỹ hơn qua bài viết dưới đây nhé!

    Hacker phá vỡ hệ thống kiểm duyệt của ChatGPT nhằm mục đích lừa đảo

    Để ChatGPT vận hành an toàn, OpenAI có chính sách kiểm duyệt nội dung và giới hạn thông tin nhạy cảm, nguy hiểm, độc hại. Tuy nhiên, theo hãng bảo mật Check Point Research, tội phạm mạng không khó vượt qua hàng rào kiểm soát và tận dụng lỗ hổng này để kiếm tiền. Cụ thể, một số hacker sử dụng giao diện lập trình ứng dụng (API) của OpenAI và phát triển những bot đặc biệt, không bị hạn chế nội dung và dễ dàng cài đặt vào ứng dụng chat Telegram. Sau đó, tin tặc bán cho những người có nhu cầu với giá thấp nhất 5,5 USD cho 100 truy vấn.

    phát triển những bot đặc biệt, không bị hạn chế nội dung và dễ dàng cài đặt vào ứng dụng chat Telegram

    Các tin tặc cũng tìm cách đánh lừa sự kiểm duyệt của ChatGPT bằng cách đưa ra một tập lệnh đặc biệt và công khai trên nền tảng GitHub. Phiên bản ChatGPT độc hại còn có thể mạo danh công ty và ngân hàng để gửi email lừa đảo. Thậm chí, nó còn hướng dẫn nơi tốt nhất để gửi link giả mạo tới người sử dụng. Kẻ xấu cũng đang lợi dụng chatbot để phát tán virus hoặc sửa đổi, bổ sung mã độc sẵn có, giúp người không có nhiều kinh nghiệm vẫn có thể tạo mã cho phần mềm độc hại nhanh chóng.

    ChatGPT bị hacker kiểm soát để tạo nên những nội dung tự do là chống lại nguyên tắc bảo mật

    Trong khi đó, OpenAI cho rằng việc ChatGPT bị hacker kiểm soát để tạo nên những nội dung tự do là chống lại nguyên tắc bảo mật và gây tổn hại danh tiếng công ty. Startup này đang nghiên cứu giải pháp mới nhằm mục đích bảo vệ dữ liệu cá nhân người sử dụng. Theo Digital Trends, đây không phải lần đầu ChatGPT bị kẻ xấu nhắm vào. Hồi tháng 1, hàng nghìn người đã bị lừa đảo trả tiền thông qua các phiên bản ứng dụng di động iOS và Android có tên "ChatGPT", dù chatbot này mới chỉ chạy trên nền tảng web.

    Công nghệ AI tương tự ChatGPT hiện cũng được Microsoft tích hợp vào công cụ tìm kiếm Bing, với tính năng đối thoại chuyên sâu và chi tiết. Các chuyên gia lo ngại điều này sẽ nảy sinh một loạt vấn đề liên quan đến khả năng lưu trữ những dữ liệu có bản quyền. 

    ChatGPT vẫn gây nhiều tranh cãi vì mô hình này không thực sự hiểu rõ nội dung.

    ChatGPT được OpenAI phát triển từ tháng 11/2022 và gây ấn tượng khi có khả năng tạo các câu trả lời theo ngữ cảnh với nhiều nội dung. AI này hoạt động dựa trên nền tảng xử lý ngôn ngữ tự nhiên NLP (Natural Language Processing) và được đào tạo với nguồn dữ liệu khổng lồ trên Internet để trả lời câu hỏi của người sử dụng. Dù được đón nhận, ChatGPT vẫn gây nhiều tranh cãi vì mô hình này không thực sự hiểu rõ nội dung. Nó chỉ đơn giản tổng hợp câu trả lời dựa trên dữ liệu từ hàng triệu ví dụ được sử dụng trong huấn luyện.

    Bên cạnh việc thường xuyên cập nhật các cảnh báo về rủi ro bảo mật, để dễ dàng trải nghiệm ChatGPT, bạn hãy sắm ngay một trong những sản phẩm đến từ thương hiệu Apple, Samsung, Oppo, Xiaomi trực tiếp tại 24hStore. Khi mua hàng ở đây, bạn sẽ được tặng kèm ưu đãi hấp dẫn. Ngoài ra, bộ phận tư vấn cũng sẵn sàng trao đổi mọi thông tin thật tận tình nếu bạn liên hệ trước qua hotline 1900.0351.