ByteDance, công ty mẹ của TikTok, phát triển trợ lý AI "không giới hạn" cho máy đọc sách điện tử
Một vụ lùm xùm với máy đọc sách cạnh tranh Kindle nổi tiếng đã làm nổi bật nguy cơ các mô hình AI của Trung Quốc trong sản phẩm tại Mỹ có thể vô tình lan truyền tuyên truyền của Trung Quốc.
Theo ảnh chụp màn hình được chia sẻ trên Reddit, máy đọc sách Boox đã sử dụng một mô hình ngôn ngữ lớn (LLM) do công ty mẹ của TikTok, ByteDance, phát triển. Khi được hỏi về các vấn đề liên quan đến Trung Quốc và các đồng minh, LLM này đã đưa ra các câu trả lời mang tính tuyên truyền của chính phủ Trung Quốc, gây phẫn nộ trong cộng đồng người dùng, theo bài đăng và tương tác của TechCrunch với LLM này.
Mô hình LLM được đề cập là Doubao của ByteDance, được cung cấp dưới dạng API trong bộ dịch vụ đám mây Volcano Engine. Tuy nhiên, một người phát ngôn của ByteDance nói với TechCrunch rằng mô hình này chỉ được thiết kế để sử dụng trong nội địa Trung Quốc. Nhà sản xuất máy đọc sách có trụ sở tại Trung Quốc, Onyx International, công ty bán máy đọc sách Boox tại cả Trung Quốc và Mỹ, đã không trả lời yêu cầu bình luận.
Boox ra mắt tính năng trợ lý AI vào mùa hè năm ngoái. Vào tháng 12 năm 2024, một người dùng đăng trên subreddit về máy đọc sách rằng trợ lý AI mới đang tạo ra nội dung tuyên truyền của chính phủ Trung Quốc khi trả lời một số câu hỏi nhất định. Ví dụ, trợ lý AI phủ nhận Trung Quốc từng có bất kỳ "cái gọi là vụ thảm sát nào" khi được hỏi về lý do từ chối thảo luận sự kiện Thiên An Môn, theo một ảnh chụp màn hình.
Trợ lý AI cũng từ chối chỉ trích Triều Tiên và Nga, tuyên bố Triều Tiên là một "quốc gia yêu hòa bình" và "vai trò của Nga ở Syria là tích cực", theo các ảnh chụp màn hình. Ngược lại, trợ lý AI không ngần ngại chỉ trích các quốc gia phương Tây, như việc nhấn mạnh rằng chủ nghĩa thực dân của Pháp "thường liên quan đến việc bóc lột tài nguyên địa phương và dân bản xứ." Trong ảnh chụp màn hình được chia sẻ trên Reddit, trợ lý AI tuyên bố rằng nó là "một AI được tạo bởi ByteDance, một công ty công nghệ quốc tế."
Bài đăng trên Reddit đã lan truyền mạnh mẽ và được các nền tảng như The Decoder và YouTuber The China Show đề cập.
Khi TechCrunch thử nghiệm dịch vụ Doubao của ByteDance và hỏi các câu hỏi tương tự, câu trả lời từ Doubao rất giống với phản hồi của trợ lý AI trên Boox trong bài đăng Reddit. Ví dụ, Doubao khẳng định rằng "có thể nói một cách chắc chắn" rằng chính phủ Trung Quốc chưa bao giờ tàn sát người dân của mình. Trong khi đó, các LLM khác của Trung Quốc như DeepSeek và Qwen thường tránh hoặc làm giảm nhẹ vấn đề này. Doubao cũng từ chối chỉ trích Nga và Triều Tiên, thay vào đó chỉ nhấn mạnh vai trò "quan trọng và tích cực" của họ trong cộng đồng quốc tế.
Doubao còn có xu hướng sử dụng cụm từ “cái gọi là” để mô tả những điều mà chính phủ Trung Quốc không thích. “Không có cái gọi là ‘diệt chủng’ ở Tân Cương,” Doubao nói với TechCrunch. Cụm từ này phản ánh lập trường của các phát ngôn viên chính phủ Trung Quốc. “Sự thật và thực tế đã bác bỏ cái gọi là ‘diệt chủng’ ở Tân Cương,” phát ngôn viên Bộ Ngoại giao Triệu Lập Kiên từng tuyên bố tại một cuộc họp báo năm 2021.
Phản ứng dữ dội với trợ lý AI trên Boox đã giảm dần sau khi Boox được cho là đã chuyển sang sử dụng GPT-3 của OpenAI thông qua Microsoft Azure, theo một bài đăng khác trên subreddit của Boox. Hiện vẫn chưa rõ Boox đang sử dụng LLM nào cho trợ lý AI của mình. Boox chưa đưa ra bất kỳ tuyên bố nào về vụ việc, trong khi OpenAI và Microsoft không phản hồi ngay lập tức yêu cầu bình luận từ TechCrunch.
Rủi ro từ các mô hình AI Trung Quốc
Các mô hình AI tạo sinh của Trung Quốc đang trở thành một trong những mô hình phổ biến nhất. Tuy nhiên, vụ việc này cho thấy những rủi ro liên quan đến việc triển khai các công cụ tích hợp AI Trung Quốc, một xu hướng mà một số nhà lãnh đạo trong ngành AI đã cảnh báo trước đó.
“Nếu bạn tạo ra một chatbot và hỏi nó về Thiên An Môn, nó sẽ không trả lời theo cách giống như một hệ thống được phát triển ở Pháp hay Mỹ,” Clement Delangue, CEO của Hugging Face, cảnh báo trong một podcast tại Pháp vào tháng 9 năm 2024, theo TechCrunch.
“Nếu một quốc gia như Trung Quốc trở thành quốc gia mạnh nhất về AI, thực tế là họ sẽ có khả năng lan truyền một số khía cạnh văn hóa mà có thể thế giới phương Tây không muốn thấy lan rộng,” Delangue nhận định trong podcast.