Intelligence Artificielle, déjà décriée mais incontournable ?
01 Juin

Intelligence Artificielle, déjà décriée mais incontournable ?

Propulsée par les géants de l’informatique, l’intelligence artificielle (IA) apparaît comme une évolution incontournable du traitement de l’information numérique à moyen terme.

Pour autant, les usages sont déjà décriés face au vide juridique sur la confidentialité des données, l’authenticité et la véracité des informations, ou encore l’impact écologique lié à l’accroissement des calculateurs pour le traitement de l’information numérique.

Exemple de ChatGPT et son fonctionnement

ChatGPT est l’un des premiers chatbot grand public, qui concerne également les collectivités territoriales. C’est un agent conversationnel utilisant l’intelligence artificielle, pour répondre aux demandes de ses utilisateurs. Pour cela, il s’appuie sur des algorithmes et des ressources disponibles en ligne. Modèle de langage développé par OpenAI, ChatGPT utilise la technologie GPT-3.5.

chatGPT OpenAI

Voici ses grands principes de fonctionnement :

  1. Prétraitement : Les données d’entrée, sous forme de texte brut, sont prétraitées pour les adapter au modèle. Cela peut inclure des étapes telles que la « tokenisation », où le texte est divisé en mots ou en sous-unités linguistiques appelées « tokens ».
  2. Encodage : Les tokens sont ensuite encodés sous forme de vecteurs numériques, afin d’être compris par le modèle de langage. Les vecteurs d’encodage représentent le sens et la structure du texte.
  3. Modélisation : Le texte encodé est passé dans un réseau de neurones profonds, qui apprend à partir de larges quantités de données d’entraînement. Le modèle apprend à prédire le mot ou le token suivant en se basant sur le contexte précédent.
  4. Génération de texte : Une fois que le modèle est entraîné, il peut être utilisé pour générer du texte, en complétant des phrases ou en répondant à des questions, en fonction du contexte donné. Le modèle sélectionne le mot ou le token le plus probable, en fonction de la probabilité apprise lors de l’entraînement.
  5. Décodage : Les vecteurs numériques générés sont ensuite décodés en texte lisible par les humains, pour être présentés en tant que réponse.

Ce modèle d’apprentissage automatique est donc attirant et tous les géants de l’informatique travaillent sur des solutions équivalentes. La capacité d’analyse par algorithmes complexes permet d’obtenir des informations précises et riches en contenu.

Des usages déjà décriés

La confidentialité des données

La Mairie de Montpellier, première collectivité territoriale à refuser l’utilisation de ChatGPT pour ses agents : https://midenews.com/la-mairie-de-montpellier-interdit-chatgpt-a-ses-employes-quels-enjeux-et-defis/

« Nous ne pouvons garantir que des informations échangées avec la plateforme seront protégées contre les éventuelles violations de sécurité, de droits ou de confidentialité ». Manu Reynaud, adjoint au Maire de Montpellier en charge du numérique.

Plusieurs raisons peuvent motiver cette interdiction :

  • Le manque d’engagement sur la confidentialité des données échangées au travers de ces réseaux ayant accès à des bases d’informations hébergées sur l’ensemble du globe.
  • La capacité de ces outils à réutiliser des informations stockées, au travers d’algorithmes complexes, et de les échanger avec n’importe quel requêteur.
  • La sécurité basée sur le stockage de l’information (préservation des tokens), et non sur l’accès et le partage.

L’impact écologique

Quelques points clés concernant l’impact écologique potentiel de ChatGPT :

  1. Consommation d’énergie : L’entraînement d’un modèle d’apprentissage automatique comme ChatGPT nécessite généralement de grandes quantités de données et des serveurs de calcul intensifs, utilisant des ressources informatiques et énergétiques importantes.
  2. Émissions de carbone : La consommation d’énergie de ces serveurs peut entraîner des émissions de carbone liées à la production d’électricité, en fonction de la source d’énergie utilisée. Si l’électricité provient de sources d’énergie fossile, cela peut contribuer aux émissions de gaz à effet de serre et à l’impact sur le changement climatique.
  3. Impact du matériel : L’entraînement des modèles d’apprentissage automatique nécessite souvent des équipements informatiques avancés, y compris des processeurs graphiques (GPU) et d’autres composants électroniques, qui ont également un impact environnemental lors de leur production, de leur utilisation et de leur élimination en fin de vie.
  4. Optimisation et durée de vie des modèles : Les modèles d’apprentissage automatique, y compris ChatGPT, sont continuellement optimisés et améliorés, et de nouvelles versions sont souvent développées. Cela peut entraîner l’obsolescence des modèles précédents, ce qui peut avoir un impact sur les ressources nécessaires pour les mettre à niveau ou les remplacer.

Notons que les impacts écologiques spécifiques de ChatGPT peuvent varier en fonction de plusieurs facteurs, tels que la taille du modèle, la durée de vie du modèle, les ressources informatiques utilisées pour l’entraînement et l’inférence, et les pratiques d’efficacité énergétique mises en œuvre par les fournisseurs de services utilisant ChatGPT. Les chercheurs et les praticiens de l’IA travaillent activement pour développer des méthodes plus efficaces en termes d’impact environnemental, comme l’optimisation des modèles, l’utilisation de sources d’énergie renouvelable, la gestion des ressources informatiques et la réduction de l’empreinte carbone de l’IA.

Le facteur humain

Il est important de garder à l’esprit que ChatGPT est un modèle de langage automatisé, qui ne possède pas de compréhension ou de conscience du monde réel comme un être humain. Les réponses générées sont basées sur les statistiques apprises à partir des données d’entraînement et l’outil n’a pas la capacité de vérifier l’authenticité ou l’exactitude des informations fournies. Les réponses peuvent donc contenir des erreurs, des inexactitudes ou sembler authentiques bien qu’incorrectes dans la réalité.

Le biais algorithmique est en enjeu clé de l’intelligence artificielle, à la fois en terme d’éthique et d’équité. Un algorithme d’apprentissage est biaisé lorsque son résultat n’est pas neutre, loyal ou équitable, ce qui peut conduire à des situations de discrimination. Cela se produit lorsque les données utilisées pour entraîner un système d’apprentissage automatique reflètent les valeurs implicites des humains impliqués dans la collecte, la sélection, ou l’utilisation de ces données.

chatbot robot IA

Il est donc essentiel de vérifier les informations fournies par ChatGPT en les comparant à des sources fiables, et de ne pas se fier uniquement aux réponses de l’outil pour des informations critiques, sensibles ou importantes. Il est de la responsabilité de l’utilisateur de juger de l’authenticité et de l’exactitude des informations générées par ChatGPT, mais aussi de faire preuve de discernement lors de l’utilisation de ces informations dans un contexte réel.

En conclusion

Microsoft, Google, Amazon, IBM, OpenAI, Facebook et Apple figurent parmi les principaux acteurs de l’IA. Ils développent et déploient déjà une large gamme d’applications IA (assistants virtuels, voitures autonomes, réseaux sociaux, traduction automatique, santé, finance, commerce …) L’intelligence artificielle sera bien entendue une évolution des systèmes de traitement de l’information numérique incontournable. Impossible de lutter face aux revenus gigantesques qu’apportent déjà ces développements.

Mais pour autant la prudence et la critique sont de mises. Les géants développeurs n’ont que de faibles considérations sur les aspects de confidentialité, l’impact environnemental, humain et le respect des législations des Etats.

Pour finir, notons qu’une grande partie des informations produites dans cet article proviennent de l’IA ChatGPT. 😉

Les commentaires sont fermé