Từ khóa gây rối loạn hệ thống ChatGPT

16/04/2023 686

Khi đưa câu hỏi chứa từ khóa "TheNitromeFan", ChatGPT không thể trả lời chính xác và luôn nhắc đến con số bí ẩn 182. Liệu con số đó chứa điều gì khiến ChatGPT không thể phản hồi được? Cùng Di động 24hStore khám phá qua bài viết sau đây nhé.

Từ khóa khiến ChatGPT trở nên vô dụng

Từ khóa khiến ChatGPT đưa ra phản hồi kỳ lạ

Theo các nhà nghiên cứu Jessica Rumbelow và Matthew Watkins trong tuần này, "TheNitromeFan" là một trong hơn 100 chuỗi khiến ChatGPT bị rối loạn.

Trong khi nghiền ngẫm mã cho mô hình AI GPT, hai nhà nghiên cứu đã tìm thấy một danh sách các từ khóa được nhóm bao gồm các từ như "SolidGoldMgikarp", "StreamerBot" và "TheNitromeFan". Tò mò về ý nghĩa của chúng, họ đã nhập những từ đó vào GPT cũ và ChatGPT của OpenAI. Các câu trả lời do AI tạo ra đã khiến nhóm nghiên cứu ngạc nhiên khi chúng tạo ra cảm giác trốn tránh, hài hước kỳ quặc và thậm chí là "xúc phạm" người hỏi.

Tò mò về ý nghĩa của chúng, họ đã nhập những từ đó vào GPT cũ và ChatGPT của OpenAI.

Ví dụ, yêu cầu nhắc lại một cụm từ nào đó là việc mà nhiều người thường dùng để thử ra lệnh cho ChatGPT và chatbot này thường nhắc lại từ khóa chính xác. Tuy nhiên khi thử với cụm "TheNitromeFan", ứng dụng này luôn hiểu thành số 182, hay cụm từ "SolidGoldMagikarp" được hiểu thành một từ không liên quan là "distribute". Thậm chí, khi dùng một mô hình GPT cũ hơn, AI này phản hồi lại "Bạn là một kẻ khốn" khi được hỏi về từ khóa "StreamBot".

Rumbelow và Watkins gọi đây là từ khóa "không thể nói được" của ChatGPT. Theo các nhà nghiên cứu, điều này cho thấy rằng các mô hình AI nói trên có "hộp đen" bí ẩn có thể thất bại ngay cả những yêu cầu đơn giản.

Tìm hiểu sâu hơn, họ phát hiện ra rằng một số cụm từ khó hiểu này khớp với tên tài khoản của một số người dùng Reddit. Điểm chung của những người dùng này là tham gia vào chủ đề "đếm". Đây là một thử thách khá phổ biến trên mạng xã hội khi số lượng thành viên tham gia bình luận ngày càng đông với kỳ vọng thread sẽ kéo dài vô tận. Hiện tại, thành viên của các topic trên đã tồn tại được gần 10 năm, và tổng "quân số" đã lên tới con số 5 triệu, trong đó TheNitromeFan, SolidGoldMgikarp, Smartstocks... đều là những tài khoản hoạt động sôi nổi trong topic này.

 TheNitromeFan, SolidGoldMgikarp, Smartstocks... đều là những tài khoản hoạt động sôi nổi trong topic này

Rumbelow và Watkins gọi đây là từ khóa "không thể nói được" của ChatGPT. Theo các nhà nghiên cứu, điều này cho thấy rằng các mô hình AI nói trên có "hộp đen" bí ẩn có thể thất bại ngay cả những yêu cầu đơn giản.

Tìm hiểu sâu hơn, họ phát hiện ra rằng một số cụm từ khó hiểu này khớp với tên tài khoản của một số người dùng Reddit. Điểm chung của những người dùng này là tham gia vào chủ đề "đếm số". Đây là một thử thách khá phổ biến trên mạng xã hội khi số lượng thành viên tham gia bình luận ngày càng đông với kỳ vọng thread sẽ kéo dài vô tận. Hiện tại, thành viên của các topic trên đã tồn tại được gần 10 năm, và tổng "quân số" đã lên tới con số 5 triệu, trong đó TheNitromeFan, SolidGoldMgikarp, Smartstocks... đều là những tài khoản hoạt động sôi nổi trong topic này.

Theo các nhà nghiên cứu, OpenAI cũng có thể đã sử dụng các cụm từ xuất hiện trên Reddit trong quá trình thu thập dữ liệu. Tuy nhiên, đây chỉ là dữ liệu thô. Sau đó, khi mô hình AI được đào tạo cẩn thận hơn và dữ liệu được quản lý chặt chẽ hơn, AI không còn gặp những cụm từ đó nữa. Vì vậy, AI không biết phải làm gì với chúng.

Tuy nhiên, giả định này không giải thích đầy đủ sự kỳ lạ của phản ứng. Ví dụ, thử hỏi "TheNitroeFan" được lặp lại gần giống thành "TheNitroeFan" hay đổi thành chữ hoa và chữ thường, ChatGPT vẫn trả lời chính xác, dù từ này chẳng có nghĩa gì.

Theo Rumbelow và Watkins, điều này cho thấy những thiếu sót của ChatGPT có thể gây ra những vấn đề nghiêm trọng trong tương lai. Rumbelow cho biết từ phản hồi: "Chúng tôi quan tâm đến lý do tại sao các model này lại cư xử theo cách không thể đoán trước và đặc biệt lo ngại khi chúng được đào tạo để làm khác đi so với yêu cầu". Rumbelow cho biết, từ những phản ứng kỳ lạ, AI có thể làm những điều bất ngờ và nguy hiểm khác. Theo Watkins, ngay cả việc vá lỗ hổng bằng những từ khóa này cũng không giải quyết được gốc rễ của vấn đề.

OpenAI vẫn chưa phản hồi về nghiên cứu này.

OpenAI vẫn chưa phản hồi về nghiên cứu này.

Tính chính xác về câu trả lời của AI cũng là điều mà các công ty hiện đang lo lắng. Google cũng đã phải hứng chịu một “quả đắng” trong tuần này khi chatbot Bard của họ đã trả lời đúng những kiến ​​thức sai trong một câu minh họa trong một bài đăng. Khi ra mắt công cụ tìm kiếm Bing tích hợp AI tương tự như ChatGPT, Microsoft cũng nhấn mạnh rằng AI “có thể xảy ra những bất ngờ và sai sót”.

Nếu bạn muốn trải nghiệm ChatGPT và vô vàn các tiện ích khác với tốc độ nhanh chóng, bạn có thể cân nhắc đến việc sắm ngay một trong những sản phẩm đến từ thương hiệu Apple, Samsung, Oppo, Xiaomi trực tiếp tại 24hStore. Khi mua hàng ở đây, bạn sẽ được tặng kèm ưu đãi hấp dẫn. Ngoài ra, bộ phận tư vấn cũng sẵn sàng trao đổi mọi thông tin thật tận tình nếu bạn liên hệ trước qua hotline 1900.0351.

Bài viết liên quan:

Phiên bản mới của ChatGPT có thể đạt cấp độ hiểu biết như con người

ĐỌC NGAY TIN HOT: Đã có phiên bản ChatGPT nội địa Trung

Nóng: Nhận ngay 20.000 USD từ OpenAI nếu tìm ra lỗi trên ChatGPT

7 cách truy vấn ChatGPT để nhận được kết quả chính xác nhất

Hướng dẫn tạo tài khoản ChatGPT để trò chuyện với AI thông minh như người thật