Le conseiller Ramiro Rosário, lors d’une séance du conseil municipal de Porto Alegre | Photo de Leonardo Lopes/CMPA, utilisée avec permission, éditée par Global Voices.

[Sauf indication contraire, tous les liens de cet article renvoient vers des pages Web en brésilien.]

Après l’approbation d’un projet de loi par le conseil municipal de Porto Alegre, dans l’État le plus méridional du Brésil, Rio Grande do Sul, et sa validation par le maire, le conseiller municipal à l’origine de cette proposition a choisi de révéler que le contenu avait été rédigé et incluait des suggestions faites par l’intelligence artificielle (IA).

À l’unanimité, les conseillers ont approuvé le projet de loi visant à exempter le paiement d’un nouveau compteur d’eau en cas de vol.

Le conseiller Ramiro Rosário a révélé que sa participation à la conception du texte s’est résumée à l’envoi d’une directive de 289 caractères à ChatGPT. L’outil a généré un projet de loi comportant huit articles et une justification, dont la version initiale était incomplète en raison du nombre limité de caractères, ce que le conseiller n’a remarqué qu’après avoir été averti par la section de rédaction législative de la Chambre. Il est alors retourné sur la plateforme d’IA pour solliciter une aide supplémentaire.

Lors d’une interview accordée au journal Folha de S. Paulo, il a déclaré :

É comum vereadores, para elaborarem leis nas suas cidades, buscarem como base uma lei parecida de outra cidade com a mesma finalidade e copiarem a redação. O ChatGPT faz a mesma coisa do jeito dele, recorrendo a um banco de dados de leis que já estão na internet. Considerando que estamos falando de dinheiro público, acho que a tecnologia tem muito a contribuir

Il est fréquent que les conseillers, lorsqu’ils rédigent des lois pour leur ville, s’inspirent et reprennent la formulation d’une législation similaire d’une autre municipalité ayant le même objectif. ChatGPT procède de la même manière, en exploitant une base de données de lois déjà présentes sur Internet. Étant donné qu’il s’agit de fonds public, je pense que la technologie offre de nombreuses opportunités.

Le conseiller s’est réjoui de l’une des premières propositions de l’IA : exonérer le propriétaire du paiement de la facture d’eau jusqu’à ce que le dispositif soit remplacé.

« Je trouvais que c’était une bonne idée, alors je l’ai gardée, même si ce n’était pas la mienne », a-t-il affirmé, selon Matinal Jornalismo.

Ce n’est qu’après avoir obtenu l’approbation du maire que M. Rosário a révélé son recours à une IA, dans l’intention, selon ses dires, de susciter un débat sur le sujet. Bien qu’il n’existe pas d’obstacles juridiques pour empêcher l’introduction de réglementations rédigées par une IA dans les lois brésiliennes, le président du conseil municipal, Hamilton Sossmeier, a déclaré au média G1 qu’il considérait cela comme un « précédent dangereux » :

Considero estranho. É a primeira vez que acontece, e não tem nenhuma lei que indique que eu não possa aprovar. Hoje, não tem nada que proíba. Mas, na minha ótica, é um precedente perigoso, complicado. Podem vir outras leis mais complexas, que gerem outros tipos de impacto. Por enquanto, fica minha preocupação pessoal.

Je trouve cela étrange. C’est la première fois que cela se produit, et aucune loi n’indique que je ne peux pas l’approuver. Aujourd’hui, rien ne l’interdit. Mais, de mon point de vue, il s’agit d’un précédent dangereux. C’est compliqué. D’autres lois plus complexes pourraient suivre, engendrant un impact différent. Pour l’instant, il n’y a que ma préoccupation personnelle.

Risques potentiels

ChatGPT a été créé par l’entreprise technologique américaine OpenAI, sur la base d’un modèle linguistique rendu public [en] en 2022. Il a recourt à l’apprentissage profond [en] pour générer une écriture semblable à celle d’un être humain et fonctionne sous la forme d’un agent conversationnel. Si la flexibilité et les capacités génératives des grands modèles de langage peuvent être utiles pour la prose, la poésie et la programmation, par exemple, elles soulèvent également des inquiétudes quant à leur utilisation abusive.

ChatGPT a également été utilisé dans le domaine législatif en dehors du Brésil. Début 2023, un législateur du Massachusetts a fait appel à ChatGPT pour rédiger [en] des textes législatifs visant à encadrer [en] des modèles d’intelligence artificielle générative. « ChatGPT nous a permis d’obtenir 70 % de ce dont nous avions besoin pour rédiger ce projet de loi, mais il n’a pas été suffisant pour aller jusqu’au bout » a déclaré [en] Barry Finegold, sénateur du Massachusetts, initiateur de cette idée.

ChatGPT génère des phrases basées sur son ensemble de données. Il opère selon deux modèles : une version payante, qui bénéficie d’une base de données mise à jour en 2023, et une version gratuite, dont l’ensemble de données le plus récent remonte à 2021. Outre les questions de propriété et de droits d’auteur, le maintien de l’objectivité et l’absence de biais [en] dans les contextes politiques constituent une préoccupation pour certains observateurs.

Par ailleurs, ChatGPT présente un risque élevé [en] dans la production de désinformation [en] et d’« hallucinations ». Les hallucinations [en] surviennent lorsqu’un modèle d’IA produit des résultats qui s’éloignent de ce qui serait normalement attendu ou anticipé selon les données d’entraînement qui lui ont été fournies.

Le Congrès national brésilien étudie actuellement un projet de loi visant à encadrer l’utilisation de l’IA dans le pays. La transparence, la protection de la vie privée et la préservation des valeurs démocratiques doivent être respectées, selon la version actuelle du texte.

Un autre projet de loi est en cours de discussion, au Sénat brésilien, visant également à réglementer l’utilisation de l’intelligence artificielle et sa mise en œuvre, en proposant une évaluation des risques avant que le service ne soit mis à disposition dans le pays.