L’intelligence artificielle : ce qu’elle est et ce qu’elle n’est pas

Un changement de méthode

Pendant longtemps, programmer voulait dire écrire toutes les règles soi-même. Pour reconnaître un chat sur une photo, il aurait fallu décrire un chat — et personne n'y est parvenu.

L'apprentissage automatique renverse la démarche : au lieu de donner les règles, on donne des exemples. On montre au programme des milliers d'images étiquetées « chat » et « pas chat », et il ajuste tout seul ses réglages internes jusqu'à répondre correctement le plus souvent possible.

Il n'a toujours aucune idée de ce qu'est un chat. Il a trouvé des régularités dans les pixels.

Les modèles qui écrivent

Les systèmes qui produisent du texte fonctionnent sur le même principe. Entraînés sur d'immenses quantités d'écrits, ils apprennent quels mots ont tendance à suivre quels autres, dans quels contextes.

Quand tu poses une question, le modèle produit, mot après mot, la suite la plus plausible compte tenu de ce qu'il a appris.

Conséquence capitale : il produit ce qui est vraisemblable, pas ce qui est vrai. Ces deux choses coïncident souvent, et c'est ce qui rend l'outil utile. Mais pas toujours — et rien, dans le mécanisme, ne garantit la différence.

Pourquoi elle invente avec aplomb

Un modèle qui ne sait pas ne le sent pas. Il continue à produire la suite la plus plausible, avec la même assurance. C'est ce qu'on appelle une hallucination : un nom inventé, une date fausse, une source qui n'existe pas, énoncés sur le même ton que le reste.

Règle pratique : tout ce qui est vérifiable doit être vérifié. Un chiffre, une citation, une référence, un article de loi, un dosage de médicament — jamais sur parole.

Les biais

Un modèle apprend sur ce qu'on lui donne. Si ces données représentent mal une population, une langue ou une région, le résultat sera moins bon pour elles.

C'est très concret : des systèmes fonctionnent moins bien en lingala, en swahili ou en tshiluba qu'en anglais, simplement parce qu'il existe beaucoup moins d'écrits numérisés dans ces langues. Ce n'est pas une opinion de la machine : c'est le reflet de ce qui lui a été montré.

Un système entraîné sur des décisions passées reproduira aussi les injustices de ces décisions, sans les signaler.

Ce qu'elle fait bien

• Traduire, résumer, reformuler.
• Proposer un plan, des exemples, un point de départ.
• Expliquer une notion de plusieurs façons jusqu'à ce qu'on la comprenne.
• Repérer des régularités dans beaucoup de données.

Pour un élève, c'est un tuteur infiniment patient — à condition de vérifier, et de ne pas lui faire faire le travail à sa place. Copier une réponse toute faite n'apprend rien, et cela se voit.

Ce qu'elle ne fait pas

Elle ne comprend pas, ne veut rien, n'a pas d'opinions propres ni de conscience. Elle ne connaît pas non plus ta situation particulière : elle ne peut pas savoir ce qui se passe dans ta classe ou ton quartier.

Et elle n'est pas neutre : quelqu'un a choisi les données, les réglages, et ce que le système refuse de faire.

La question qui compte

La vraie question n'est pas « est-ce que ça va remplacer les humains ? » mais « qui décide de ce que ces systèmes font, et à partir de quelles données ? »

Pour l'Afrique, cela se traduit très concrètement : qui construit des jeux de données dans les langues d'ici, qui forme les ingénieurs, qui héberge les serveurs. Ce sont des choix, pas une fatalité.