Encore une fois, ce sont ceux qui ont été aux prémices des intelligences artificielles qui sonnent l’alerte. Certains sont très pessimistes. C’est notamment le cas de Roman Yampolskiy, chercheur en IA, qui estime que l’arrivée d’une IA générale a 99,9 % de chances de détruire l’humanité lors des 100 prochaines années ! Mais avant cela, d’autres annoncent une catastrophe pour la valeur « travail » et les pertes d’emploi massives que vont engendrer les IA dans un avenir proche.

Lors d’un entretien public rare avec le sénateur américain Bernie Sanders, le chercheur Geoffrey Hinton, l’un des pionniers des réseaux de neurones artificiels, a affirmé que le monde n’était pas préparé aux transformations radicales que promet l’IA. Là encore, il évoque les dangers des IA envers le travail. Selon lui, elle ne va pas se limiter à le transformer, mais pourrait tout bonnement le supprimer. Pour lui, tout poste, même qualifié, deviendra obsolète si l’IA atteint ou dépasse l’intelligence humaine.

Comme Geoffrey Hinton l’avait déjà énoncé, les investissements qui semblent totalement déraisonnables pour le développement des IA ne viseraient pas à aider les humains dans leur travail, mais à les remplacer.

Et comme nous le suggérions, si les salaires disparaissent ou déclinent, le modèle économique lui-même pourrait s’effondrer. Cela semble évident et pourtant, il doute que les dirigeants de la tech aient vraiment réfléchi à cette conséquence.

Dans cet entretien d’un peu plus d’une heure avec le politicien américain Bernie Sanders, le parrain de l’IA Geoffrey Hinton a dressé le portrait anxiogène d’un monde dominé par les IA. © Hook Global

L’IA dans la guerre

Pour ce qui est de leur développement pur, Hinton explique que les grands modèles d’IA actuels accumulent déjà des quantités d’informations des milliers de fois supérieures à celles d’un humain. Comme la tendance est de poursuivre cette alimentation massive en données, l’IA pourrait non seulement rivaliser avec l’esprit humain, mais le dépasser nettement. Selon lui, à partir de ce moment, personne ne sait ce qui pourrait se passer une fois que l’on ne saura plus vraiment ce que « pensent » les IA ni comment elles fonctionnent vraiment en interne. Il va encore plus loin en envisageant que les IA pourraient d’elles-mêmes se fixer des sous-objectifs pour résister à toute tentative de les arrêter.

Destruction du travail, IA incontrôlables, mais aussi des esprits. Hinton met également en garde le système éducatif contre l’usage des IA. Si elle est utilisée en tant qu’outil comme une calculatrice, c’est un bon point, mais à partir du moment où elle est employée pour remplacer la réflexion, elle va finalement altérer, voire détruire l’esprit critique selon lui.

Le scientifique a aussi pointé les risques de leur exploitation pour mener la guerre. Avec des drones et des robots-tueurs dopés à l’IA, le camp qui les utiliserait ne mettrait plus en danger ses troupes en les conservant à l’arrière. En revanche, les ravages seraient colossaux pour les populations et un adversaire moins développé n’ayant pas l’atout des IA. Géopolitiquement, l’usage de l’IA dans la guerre viendrait un peu plus déséquilibrer le rapport de force entre une nation « riche » et une plus « pauvre ».

Les robots tueurs dopés à l’IA se développent et les militaires s’appuient aussi sur ces IA pour rendre leurs opérations plus efficaces. Demain, elle va contribuer à accentuer les rapports de force entre les nations riches et celles pauvres qui n’en disposeront pas. Ce petit drone utilisé en Ukraine n’en a pas l’air, mais c’est une charge explosive volante qui prend elle-même l’initiative de frapper sa cible. © RuAviation

Qui a financé l’IA à ses débuts et pourquoi tout le monde va en payer le prix ?

Lors de cet entretien, le chercheur soulève un point rarement évoqué et pourtant très juste. Le développement de l’IA, auquel il a contribué, était initialement financé par la recherche publique dans les universités du monde entier. Et pourtant, les bénéfices de ces avancées n’ont été captés que par quelques géants de la tech, dont on connaît désormais tous les noms.

Par appât du gain, ces sociétés cherchent aujourd’hui à lever tous les freins réglementaires susceptibles de ralentir le développement de leurs modèles. Or, sans encadrement strict, la perte de contrôle de l’humain sur les IA et les conséquences décrites par Geoffrey Hinton semblent inéluctables. Reste que face à l’engouement mondial autour des IA, les mises en garde de ceux qui en ont été à l’origine ne sont pas vraiment écoutées. On nous aura pourtant prévenus à maintes reprises…