La saison de l'Intelligence Artificielle

Qu'elle intrigue, inquiète ou fasse franchement peur, l'Intelligence Artificielle est devenue un outil numérique au quotidien. À tel point que comme monsieur Jourdain faisait de la prose sans le savoir, nous l'utilisons sans y penser...

Cet article vous propose quelques clefs pour mieux comprendre les enjeux soulevés par cet mystérieuse I.A.

Merci à Jérôme Rebillard, de la MJC de Dole, pour ses éclaircissements sur le sujet.

Petit lexique sur le fonctionnement de l’I.A. 

et sur les enjeux que cela soulève

#Intelligence Artificielle

Cette dénomination est à visée commerciale car en réalité, l’I.A. ne comprend rien ! L’I.A. est une collection de ressources mobilisables. Elle repose sur l’art de poser les bonnes questions.

#Effet Papillon

L’I.A. ne fournit jamais deux fois la même réponse. La réponse sera différente selon la chaîne de mots utilisée pour la questionner. Cette chaîne de mots s’ appelle un prompt. La réponse à un même prompt évolue en permanence puisque l’I.A. est une collection de ressources qui s’enrichit en permanence elle aussi.

#Éthique

L’I.A. actuelle - ChatGPT par exemple - est programmée pour répondre à des exigences éthiques : pas de contenu raciste, sexiste, haineux ou de ressources pour s’adonner à des activités illégales. Elle ne fournira pas de tuto pour fabriquer des bombes.

Par contre, une I.A. non filtrée pourrait tenir des propos racistes ou faire de la propagande pour des idéologies illégales.

#Hallucinations

L’I.A. a du mal à répondre « Je ne sais pas ». Elle va donc générer à tout prix une réponse, un peu comme un enfant de 6 ans qui veut faire plaisir et répond n’importe quoi. Il arrive que l’I.A. affirme des choses fausses avec beaucoup d’aplomb. Elle fournira toujours une réponse à partir des éléments en sa possession car elle n’a pas conscience de ne pas avoir tous les éléments pour fournir une réponse juste. Ces hallucinations se produisent si on donne trop d’informations à l’I.A. ou des informations erronées car l’I.A. ne questionne pas ses sources.

#Hyperspécialisée

Certaines I.A. génèrent du texte, d’autres génèrent des images. D’autres encore génèrent du son.

#Illusions

ChatGPT utilise un langage naturel et un ton neutre, voire bienveillant. Il dit « je », ce qui crée une illusion de subjectivité.

#Corpus statistique

Cette illusion de subjectivité et de compréhension n’est en réalité qu’une réponse statistique basée sur un corpus énorme (l’ensemble des données informatiques que nous partageons - volontairement ou non – via Internet.)

#Intuitif

L’I.A. est en quelque sorte un langage « intuitif » car on ne sait pas quel chemin elle suit pour parvenir à sa conclusion, ni sur quelles sources elle s’appuie. Le doute est permis quant aux réponses fournies. Surtout lorsque les enjeux sont importants, comme en médecine.

Il est impossible de faire confiance à 100 % à une I.A. !

#L’expérience de la pensée

L’Intelligence artificielle, cette mal nommée, mélange des données mais ne crée pas.

Elle ne pense pas. On peut se référer aux travaux d’Étienne Klein pour comprendre l’importance de« l’expérience de la pensée », bien humaine, celle-là. 

« L’I.A. est un enfant de 6 ans qui a appris par cœur tous les livres du monde.

Elle est capable de raconter plein d’histoires qui résument ces livres

mais elle ne les comprend pas ! »

Jérôme

®Tous droits réservés