Prenons un exemple simple, du moins en apparence : c’est le problème classique du « voyageur de commerce ». Il s’agit de calculer le meilleur chemin, c’est-à-dire le plus court, reliant plusieurs villes depuis une ville donnée, puis en y retournant à la fin. On utilise généralement un algorithme dit de « force brute », qui va parcourir toutes les combinaisons possibles afin de trouver celle qui est optimale.

Pour 10 villes, on obtient 3,6 millions de chemins possibles. Imaginons maintenant que nous avons à notre disposition une IA capable de calculer 1 milliard de chemins par seconde. Celle-ci nous donnera une réponse en moins d’une seconde.

C’est bien, mais si maintenant au lieu de 10 villes à visiter, nous en avons 20, le nombre de solutions possibles atteint le chiffre faramineux de 2,4 fois 10 puissance 18, et l’on devra attendre près de 77 ans la réponse. Avec 30 villes, le chiffre devient astronomique : plus de 8,5 fois 10 puissance 12 années, ce qui est plus long que l’âge estimé de l’univers. Dans ce type de problème, une petite augmentation de sa complexité initiale le rend insolvable en pratique, même si celui-ci reste solvable en théorie.

Dans ce type de problème, une petite augmentation de sa complexité initiale le rend insolvable en pratique, même si celui-ci reste solvable en théorie.

L’alignement d’une IA est un autre exemple de problème intraitable. C’est une autre façon de voir le théorème de Rice. En effet, l’alignement est un ensemble d’objectifs vagues et ambigus. On peut essayer de réduire un objectif ambigu à un ensemble de valeurs fixes à atteindre. Si par exemple on le réduit à 5 valeurs, ayant chacune 10 niveaux, on obtient 10 à la puissance 5 possibilités, soit 100 000 cas. On retombe dans une combinatoire similaire à celle de l’exemple précédent. Le nombre de paramètres fait croître exponentiellement le nombre de cas à envisager. Dans la réalité, assurer la sécurité implique un très grand nombre de dimensions, ce qui rend une garantie à 100% impossible.

Il y aura toujours un compromis entre généralisation et résolution.

Si un problème inclut des objectifs vagues ou ambigus, sa résolution optimale peut prendre un temps irréaliste. Si le problème contient aussi des contradictions, il devient insolvable dans de nombreux cas.

Cette limite s’applique avec tout algorithme sur un ordinateur « classique » où les opérations sont exécutées l’une après l’autre. Une des promesses des ordinateurs quantiques est de supprimer cette limite afin de s’attaquer aux problèmes intraitables. Pour cela, les ordinateurs quantiques sont basés sur des bits quantiques, ou qubits, à la place des bits traditionnels. Avec des qubits, tous les états possibles coexistent en même temps, ce qui permet d’explorer simultanément de multiples combinaisons d’itinéraires au lieu de vérifier les chemins un par un. Ainsi, avec un algorithme comme celui de Lov Grover en 1996, on obtient une accélération quadratique par rapport à un algorithme de force brute pure. Toutefois, il faut attendre d’avoir des ordinateurs quantiques fiables pour cela, ce qui n’est pas le cas aujourd’hui.

Le mieux est l’ennemi du bien.

Chercher à résoudre tous les problèmes avec une IA générale est impossible, tout comme résoudre de façon optimale et dans un temps raisonnable un problème intraitable. Heureusement, cela ne signifie pas que ces problèmes ne puissent être résolus en se contentant de solutions acceptables, même si ce ne sont pas les meilleures. L’intelligence artificielle a une longue histoire de travaux sur de telles approches.