Pourquoi l’intelligence artificielle n’est pas réellement intelligente ?
Chaque fois que nous pensons à l’IA, nous l’imaginons comme un système capable de raisonner et de comprendre ce que nous lui demandons. Néanmoins, ce n’est pas la réalité, car le système est basé sur le langage plutôt que sur un véritable raisonnement.
L’IA, une élaboration sur le langage
L’IA fonctionne sur la base de modèles mathématiques, comme les réseaux neuronaux, qui sont entraînés à partir de quantités massives de données. Grâce à cette mise en place, la machine peut prédire des réponses en analysant statistiquement les modèles linguistiques, tout en prenant en compte le contexte et les comportements historiques.
Ainsi, l’IA ne comprend pas réellement ce qu’elle dit ou fait ; elle se contente d’identifier des relations probabilistiques entre les mots.
En d’autres termes, l’IA ne « comprend » pas ce qu’elle dit ou fait. Elle manipule des symboles en se basant sur des relations probabilistiques entre les mots, sans conscience ni intention.
Par exemple, la phrase « Le soleil brille dans le… ». Pour résoudre celle phrase, l’IA analysera des milliards d’exemples de textes qu’elle a étudiés pour déterminer que les mots « ciel bleu » ou « désert » sont les plus probables pour compléter la phrase. Elle ne choisit pas ces mots parce qu’elle les comprend, mais parce que les statistiques indiquent qu’ils sont fréquemment associés à ce contexte.
Comment ça marche ?
Les algorithmes découpent le langage en petits morceaux appelés « tokens ». Les tokens peuvent être des lettres, des mots ou même des parties de mots. D’ailleurs, ils calculent la probabilité de chaque token de suivre le token précédent, selon les données reçues lors de leur entraînement.
Ainsi, il n’y a pas vraiment de raisonnement, tout passe par des calculs statistiques, peu importe si la réponse est correcte, logique ou morale.
Il s’agit davantage d’un miroir linguistique que d’un esprit autonome, et ça explique pour quoi nous devons éviter de penser qu’elle comprendre ce que il réponde.
Une technologie incroyable, mais limitée
La capacité de faire des prédictions la transforme en un outil très utile pour des tâches spécifiques, comme analyser des données, résumer des documents ou automatiser des processus répétitifs, par exemple. Cependant, étant donné qu’elle ne peut pas penser, il est impossible de lui demander des réponses en utilisant l’éthique ou la créativité.
En bref, loin d’être une machine comme Schwarzenegger dans Terminator, ou comme Wall-E (pour une image plus mignonne et moins apocalyptique), l’IA, actuellement, ne peut pas penser, mais elle est un excellent outil statistique qui peut nous aider dans certains cas spécifiques.