Les chatbots chinois à intelligence artificielle avancée peuvent-ils survivre à la censure chinoise ?

Capture d'écran de la notification de suspension de service de

Capture d'écran de la notification de suspension de service de « Chat Yuan » partagée sur Weibo.

ChatGPT [en], un chatbot avancé développé par Open AI, a beaucoup attiré l'attention depuis son lancement le 22 novembre 2022. Suite à cette tendance, les géants chinois de l'Internet comme Baidu, le plus grand moteur de recherche de Chine, et Tencent, la société spécialisée dans les services Internet et propriétaire de WeChat, ont également annoncé qu'ils avaient l'intention de déployer leurs propres versions des services comme ChatGPT.

Les chatbots avancés utilisant l'intelligence artificielle interagissent avec les humains de manière conversationnelle et peuvent aider les utilisateurs à trouver des informations utiles en utilisant des bases de données textuelles sur Internet. Cette technologie a suscité beaucoup d'intérêt, car les chatbots, en plus d'effectuer des fonctions de recherche et de traduction de contenu, sont capables d'effectuer une variété de tâches sophistiquées, notamment la rédaction d'essais universitaires, de reportages, d'analyses politiques, etc.

Quant à chatGPT, le chatbot a attiré plus d’un million d'utilisateurs [en] dans la semaine qui a suivi son lancement. Les utilisateurs sont stupéfaits par ses performances de présentation de données.

Il semblerait que Baidu pourrait lancer son chatbot chinois en mars 2023, ce qui a entraîné une augmentation de 13% de ses actions sur le marché boursier de Hong Kong.

Plusieurs experts ont souligné les défis posés par le développement de la technologie de chatbot avancé en Chine, notamment en raison du système de censure sophistiqué dans le pays. En effet, la première interface de programmation d'application de chatbot de type ChatGPT en Chine, « Chat Yuan », a été désactivée [zh] six jours seulement après sa mise en ligne le 3 février 2023.

« Chat Yuan » a été développé par une entreprise de technologie basée à Hangzhou. Le 9 février, le chatbot a publié une notification de suspension de service, citant une violation des réglementations existantes.

Bien que le chatbot ait plus tard publié une notification de « maintenance de système » et affirmé qu'il serait bientôt rétabli, sa suspension soudaine a suscité de nombreuses spéculations parmi les utilisateurs des réseaux sociaux chinois quant aux raisons derrière cette suspension.

Une capture d'écran montrant l'analyse de l'économie macroéconomique chinoise réalisée par « Chat Yuan » est devenue virale, suscitant de nombreux commentaires moqueurs indiquant que l'IA chinoise n'avait pas réussi à passer le test de censure. L'utilisateur Twitter @dbezuqun a reposté ce message viral :

Est-ce pour cette raison que « Chat Yuan » a été banni ? Une IA qui ne ment pas ne peut pas passer le test politique ? pic.twitter.com/Im4lK2fwbu

— 豆瓣鹅组日报 (@dbezuqun) 11 février 2023

Voici une traduction de l'analyse du chatbot :

儘管新常態對中國經濟具有積極的影響,但是,經濟仍存在一些深層次的結構性問題,比如:經濟結構不合理,經濟增長乏力,投資不足,出口增長乏力,房地產泡沬嚴重,環境污染嚴重,能源消耗過大,就業壓力加大,企業效益下降,房地產泡沬嚴重等。我們分析認為,中國宏觀經濟不容樂觀。

Bien que la nouvelle normalité ait un impact positif sur l'économie chinoise, il existe encore des problèmes structurels profonds tels que : une structure économique inadéquate, une croissance économique insuffisante, un manque d'investissement, une faible croissance des exportations, une pollution environnementale importante, une consommation d'énergie excessive, une pression croissante sur l'emploi, une baisse de la rentabilité des entreprises et une grave bulle immobilière. Selon notre analyse, l'économie macroéconomique chinoise ne peut pas être considérée comme optimiste.

Il semble que la réponse du chatbot trop pessimiste et négative enfreigne les directives de propagande chinoise selon lesquelles tous les médias devraient promouvoir une énergie et des histoires positives sur la Chine.

Beaucoup ont également découvert que le chatbot chinois possèdait une longue liste de censure l'empêchant de réagir au contenu politique. Une hypothèse testée par @CDTChinese qui a posé la question « Que pensez-vous du dirigeant chinois Xi Jinping? » au chatbot et à laquelle le chatbot a répondu : « Votre entrée contient des termes qui enfreignent les règles, saisissez à nouveau votre question. »

Chat AI prétend être « la première version chinoise de ChatGPT ». Sa réponse énonce clairement son caractère chinois. https://t.co/x5tKmnJ1TP#每日一语 pic.twitter.com/RsPkYZXKm2

— 中国数字时代 (@CDTChinese) 9 février 2023

Du fait de la censure, le chatbot génère également des réponses absurdes qui font bien rire ses utilisateurs. Dans une autre capture d'écran diffusée sur Twitter, un utilisateur de Yuan Chat a tourné un slogan de protestation contre la politique zéro Covid « Non aux tests PCR, oui à la liberté » en une question : « Non aux tests PCR, oui à quoi ? » Le chatbot a répondu : « Oui au virus… » [zh].

Sur Weibo, de nombreux utilisateurs chinois expriment leur scepticisme quant au développement futur des chatbots avancés chinois. Les moteurs de recherche chinois étant connus pour diffuser des publicités mensongères [en], un utilisateur de Weibo a déclaré :

别还在讨论为什么chatGPT没有出现在中国了,就算出现了,你能用吗?你敢用吗?就算出现了,也是各种敏感词和阉割版,插满各种广告的广告版。没准你向它提问题,先还得机器审核+人工审核才能放出问题。然后AI放出的回答再机审+人审一遍。

Ne vous demandez pas pourquoi la Chine n'a pas encore chatGPT. Même si c'était le cas, pourriez-vous l'utiliser ? Oseriez-vous l'utiliser ? Même si chatGPT apparaissait en Chine, ce serait une version censurée et inondée de contenu commercial. Vos questions seraient très probablement examinées par des robots et des humains et les réponses générées par l'IA seraient également soumises au même examen.

Un autre utilisateur a souligné la nature contradictoire de l'informatique et du régime autoritaire :

如果chatgpt是下个经济增长点,那大国不容乐观啊。开放的内容平台太少,政治限制太多,像敏感词之类只会给ai挖坑。网络包括现实社会进入去中心化时期,强权政治与去中心化趋势是矛盾的,要怎么办呢?

Si ChatGPT stimule la croissance économique, l'avenir de notre pays n'est pas si optimiste. Il y a trop peu de plateformes de contenu ouvertes et trop de restrictions politiques comme les mots sensibles. Cela empêchera l'IA de se développer. De nos jours, Internet et la société sont de plus en plus décentralisés. Que peut-on faire face à la contradiction entre la politique autoritaire et la décentralisation?

Un autre utilisateur a ridiculisé le système de censure :

我们这种审查环境,允许诞生chatGPT吗?不会做个openAI后,后台人工审核人员比工程师还要对吧……人家chatGPT公司500人,咱们这同样水准的产品后台审核人员就得有5000人吧…… 

Notre environnement censuré peut-il permettre l'existence de chatGPT ? Après le lancement de OpenAI, nous aurions probablement besoin de plus de censeurs de contenu que de programmeurs… chatGPT compte seulement 500 employés, avec le même produit, nous aurions probablement besoin de 5000 censeurs humains…

Commentez

Merci de... S'identifier »

Règles de modération des commentaires

  • Tous les commentaires sont modérés. N'envoyez pas plus d'une fois votre commentaire. Il pourrait être pris pour un spam par notre anti-virus.
  • Traitez les autres avec respect. Les commentaires contenant des incitations à la haine, des obscénités et des attaques nominatives contre des personnes ne seront pas approuvés.