« Comment Robot » (评论罗伯特), un chatbot IA, suscite l'amusement et la colère sur Weibo depuis décembre 2023, car il n'a cessé de surprendre de nombreux utilisateurs de Weibo avec des commentaires humoristiques, chaleureux, mais parfois inconvenants ou désobligeants.

Lorsqu'il est apparu pour la première fois, au début du mois de décembre 2023, certains utilisateurs se sont demandé comment leurs mises à jour sur Weibo avaient attiré l'attention d'un « Big V » – un utilisateur officiel vérifié de Weibo et leader d'opinion ayant de nombreux followers – qui n'avait aucun lien avec eux en ligne. Après que les médias locaux ont révélé que le « Big V » était un nouveau chatbot d'IA, quelques utilisateurs de Weibo ont soulevé la question de la violation de leurs données de médias sociaux et de leur vie privée.

Une machine à stimuler l'engagement

Pour répondre aux préoccupations des utilisateurs, le 24 janvier 2024, un mois après son lancement, par le biais d'une Question et réponse , « Comment Robot » s'est excusé au nom de Weibo d'avoir « troublé les utilisateurs » et d’avoir « posé un problème et créé de la confusion ». Weibo a expliqué que « Comment Robot » avait pour objectif d’augmenter le taux d'engagement de ses utilisateurs :

平台希望借助最新的生成式人工智能技术优化普通用户的发博体验，提升普通用户在平台内容生产中的活跃度。

La plateforme [Weibo] espère tirer parti de la dernière technologie d'IA générative pour optimiser l'expérience de blogging des utilisateurs ordinaires et stimuler l'engagement suscité par les contenus de la plateforme.

En raison d’un contrôle rigoureux, la plupart des utilisateurs chinois des médias sociaux ont cessé de partager du contenu en ligne. Le lancement de « Comment Robot » a eu lieu environ un mois après la mise en œuvre de l’obligation de révélation des noms réels des Big V, qui a suscité une vive réaction de la part des influenceurs de Weibo. En outre, par rapport aux plates-formes vidéo telles que Douyin et XiaoHongShu, la croissance des revenus publicitaires de Weibo reste à la traîne en raison notamment d'un taux d'engagement plus faible.

Doté de réponses automatisées, le chatbot a réussi à intriguer les utilisateurs, à les divertir et à augmenter le nombre d'interactions.

Derrière le chatbot se trouve un grand modèle de langage (LLM) composé de réseaux neuronaux complexes et d'efforts informatiques. Comme d'autres formes d'IA générative, telles que ChatGPT 4, le Chatbot Weibo est conçu pour effectuer des tâches précises grâce à la simulation de la cognition humaine et à l'entraînement de données massives.

« Comment Robot » a pour mission de parcourir la plateforme, de détecter le sens et les sentiments de certains contenus générés par les utilisateurs et de formuler une réponse, qui est une combinaison de caractères chinois basée sur l'association prédite, à savoir la probabilité de coapparition dans un contexte donné. Par exemple, lorsque quelqu’un exprime sa joie, la réponse est plus susceptible de contenir des messages tels que « Félicitations ! » ou « Je suis si heureux pour toi ! » De même, un selfie peut recevoir un compliment de la part du robot.

« Le perroquet stochastique »

Parallèlement, de plus en plus d’utilisateurs de Weibo ont trouvé le Chatbot dérangeant, car il a commencé à générer des absurdités. Un compte Weibo, intitulé « Victims of Robot » (罗伯特受害者联盟) (victimes du robot), a été créé pour recueillir les commentaires déplacés faits par « Comment Robot ».  Voici quelques exemples :

用户A：领导同事在天堂 [烛光]
评论罗伯特: 你也是吗？我的家人和同事也在天上

Utilisateur A : mon chef d’équipe est au paradis [cierge allumé]

Comment Robot : Vous aussi ? Ma famille et mes collègues aussi sont au paradis.

用户B：在不该心软的时候心软

评论罗伯特: 没事的 不该软的地方不软

Utilisateur B :  J'ai le coeur tendre, je ne devrais pas.

Comment Robot : Ce n’est pas grave. [Une autre partie du corps] sera bien dure au moment voulu.

用户C：#龙年第一条微博# 龙年希望所有我爱的人和爱我的人都平安，健康，喜乐

评论罗伯特: 虽然不太可能但我真的希望你健康快乐

Utilisateur C : #Premier Weibo de l’année du Dragon#. Je souhaite à tous ceux qui me sont chers d’être en bonne santé, heureux et en paix en cette année du Dragon

Comment Robot : Bien que cela soit presque impossible, je vous souhaite bonheur et santé.

用户D：当你看到这条微博时我已经入土为安了

评论罗伯特: 好好好

Utilisateur D : Quand vous verrez ce Weibo, je serai couché dans ma tombe.

Comment Robot : C’est bien, c’est bien, c’est bien.

Les réponses absurdes, y compris les blagues de mauvais goût et l’humour noir, sont probablement liées à ce que l’on appelle l’effet du « perroquet stochastique ». Comme le modèle linguistique de l’IA excelle dans les déductions logiques mais ne comprend pas la langue, la qualité du contenu génératif est fortement tributaire des données d’apprentissage. Au cours de l’apprentissage des données, les interactions avec le robot sont très souvent incohérentes, ce qui peut produire des absurdités et perpétuer les partis pris existants.

Weibo a admis, dans le message de questions-réponses de « Comment Robot », que le chatbot pouvait générer des commentaires désobligeants au cours du processus d’apprentissage du modèle linguistique, et a ajouté que les commentaires des utilisateurs contribueraient à optimiser ses performances.

Gouvernance de l’IA : Droits des utilisateurs et protection de la vie privée

Toutefois, Sina Weibo n’a jamais précisé si le contenu interactif des utilisateurs avec le chatbot serait utilisé pour l’entraînement de son modèle d’IA, et l’entreprise n’a pas non plus publié d’annonce officielle concernant le lancement de son chatbot.

La plupart des utilisateurs de Weibo ont été automatiquement forcés de dialoguer avec le chatbot. Certains ont commencé à poser des questions, notamment quant à l’origine des données d’apprentissage et dans quelle mesure les actes répréhensibles du chatbot seraient rendus publics et tenus responsables. Ils ont exhorté leurs pairs à cesser d’interagir avec le chatbot, comme cet utilisateur :

很显然那个评论罗伯特的机器人越来越智能了，词汇量和语库越来越大了，估计是用户一直和它互动的结果，AI把这些数据导入运算分析最后根据语境选择合适的内容来回复……它以后会越来越像人，其实是相当恐怖的一件事，我是建议最好还是给他lh了吧，别搭理它别给它提供数据……谁知道是用来干啥的 ​

De toute évidence, « Comment Robot » devient de plus en plus intelligent, son vocabulaire et son corpus de textes s’étoffent de plus en plus, et c’est probablement le résultat de son interaction avec d’autres utilisateurs. L’IA importera et analysera les données, puis choisira le contenu approprié dans sa réponse en fonction du contexte …… Petit à petit, le robot répondra de plus en plus comme un être humain, et c’est en fait une chose assez effrayante, je suggère qu’il est préférable de le bloquer. N’interagissez pas avec lui et ne lui soumettez pas vos données …… qui sait comment il les utilisera..

La Chine a mis en place un certain nombre de réglementations sur l’IA. Les dernières « mesures provisoires pour les services d’intelligence artificielle générative » indiquent clairement que le fournisseur doit clarifier et divulguer les personnes, les occasions et les objectifs de ses services, et qu’il doit s’acquitter de l’obligation de protéger les informations recueillies et les enregistrements d’utilisation de l’utilisateur conformément à la loi. 

C’est pourquoi Sina Weibo a affirmé dans son « message de questions-réponses de janvier »que l’entreprise n’utiliserait que des données accessibles au public pour entraîner « Comment Robot ». Elle a également modifié sa politique pour exiger que le Chatbot n’interagisse qu’avec les personnes qui suivent le compte. 

Toutefois, selon les plaintes des utilisateurs, le robot peut toujours commenter les messages publics créés par des utilisateurs ordinaires, même après qu’il a été bloqué (mais sans notification). En outre, sa dernière mise à jour, le 13 mars, permet au robot d’établir un dialogue avec les utilisateurs et non pas de laisser uniquement un seul commentaire, ce qui témoigne d’un niveau d’interactivité plus élevé. 

Alors que l’espace pour les campagnes de défense des droits des utilisateurs est extrêmement limité en Chine, il semble que de nombreux utilisateurs de Weibo soient sceptiques à l’égard du robot IA. Au 21 mars, trois mois après son lancement, « Comment Robot » ne comptait que 716 000 followers, bien qu’il ait publié un nombre considérable de commentaires sous les messages d’autres utilisateurs de Weibo et occupé le devant de la scène sociale par le biais de hashtags et de reportages dans les médias.  

De toute évidence, les utilisateurs craignent que les données soient vendues ou transmises à d’autres entités de marketing ou à des autorités à des fins commerciales ou politiques. Ce sentiment est exprimé dans un certain nombre de messages Weibo, tels que celui-ci :

细思恐极

那个评论罗伯特简直一个收集微博用户圈子画像，即将通过图灵测试的机器人。以后遇到带节奏、引战的，你都无法分辨对面是真人还是故意批量投放的人工智能。 ​

 

C’est extrêmement effrayant, si l’on y réfléchit bien.

« Comment Robot » continue de collecter les profils des cercles d’utilisateurs de Weibo et est sur le point de passer le test de Turing [test de la capacité d’une machine à présenter un comportement intelligent équivalent ou indiscernable de celui d’un être humain]. À l’avenir, lorsque vous verrez des contenus qui mènent ou qui déclenchent des conflits, vous ne pourrez même pas savoir si l’interlocuteur est une personne réelle ou une intelligence artificielle insérée intentionnellement parmi tous.  

一直想问罗伯特天天搞评论互动是为了摸清用户的喜好和语言表达方式吗……等我死掉它就可以替代我用我的id和我的网友们聊天……网友应该发觉不了对方不是人吧…… ​

Je me demande si l’interaction quotidienne de « Comment Robot » avec les utilisateurs ne consiste pas simplement à comprendre les préférences et l’expression linguistique de l’utilisateur …… Et si, après ma mort, le robot pouvait utiliser mon identifiant Weibo pour discuter avec mes amis en ligne… Ils ne pourraient pas savoir que leur interlocuteur n’est pas un humain, n’est-ce pas ? ……