Quand l'intelligence devient une affaire trop sérieuse pour être abandonnée aux machines
par Eloi Bandia Keita
Pour les lecteurs très pressés, (dont quelques-uns trouveront malgré tout le temps d'écrire cinq pages de commentaires).
L'intelligence artificielle n'est probablement ni le génie universel annoncé par ses marchands ni le monstre autonome imaginé par ses détracteurs ; elle constitue d'abord un formidable multiplicateur des capacités humaines, ce qui signifie qu'elle peut amplifier la connaissance, la créativité et la puissance de ceux qui savent l'utiliser aussi efficacement qu'elle peut industrialiser l'ignorance, la paresse intellectuelle, la manipulation et l'erreur lorsqu'on lui abandonne le jugement. Pour les nations qui ne contrôlent encore ni les grands modèles, ni les infrastructures de calcul, ni les masses de données qui les alimentent, l'enjeu historique consiste donc moins à choisir entre fascination et rejet qu'à empêcher qu'après les dépendances industrielle, financière, militaire, technologique et informationnelle ne s'installe une dépendance plus profonde encore, celle qui contraindrait demain des États formellement souverains à emprunter à d'autres les machines avec lesquelles ils pensent, calculent, prévoient et décident, au moment même où l'intelligence artificielle commence à rencontrer une autre révolution susceptible de bouleverser les rapports de puissance : le quantique.
IntroductionNous avons inventé une machine à répondre avant de réapprendre à poser des questions
Il fallait sans doute beaucoup d'intelligence naturelle pour inventer l'intelligence artificielle ; il en faudra peut-être davantage encore pour empêcher la stupidité naturelle de s'en servir afin de dispenser progressivement l'humanité de réfléchir.
Rarement une technologie aura été entourée, en si peu de temps, d'autant de prophéties contradictoires, puisque les uns nous annoncent une quasi-divinité numérique appelée à résoudre les problèmes que plusieurs millénaires de civilisation n'ont pas suffi à régler, tandis que les autres voient déjà surgir derrière chaque serveur la silhouette d'une créature autonome prête à prendre le pouvoir, alors que la réalité, infiniment moins spectaculaire mais politiquement beaucoup plus sérieuse, tient au fait que nous avons construit des systèmes capables de produire, synthétiser, transformer et diffuser une quantité vertigineuse d'informations à une vitesse inconnue dans l'histoire humaine sans avoir simultanément résolu la vieille question qui précédait l'informatique, précédait Internet et précède même l'imprimerie : comment distinguer ce qui est vrai de ce qui est simplement vraisemblable, ce qui est démontré de ce qui est élégamment affirmé, ce qui procède d'un raisonnement de ce qui n'en possède que l'apparence ?
Voilà pourquoi le débat sur l'intelligence artificielle commence souvent au mauvais endroit. La question n'est pas sérieusement de savoir si une machine "pense" comme nous, encore moins de lui prêter des intentions morales qu'elle ne possède pas, mais de comprendre ce qui arrive à une civilisation lorsqu'elle dispose soudain d'outils capables de fabriquer à très grande échelle les signes extérieurs de l'intelligence (langage assuré, synthèses impeccables, raisonnements plausibles, images convaincantes, tableaux savants, bibliographies apparemment sérieuses), alors que la véracité de ce qui est produit continue d'exiger précisément cette activité ancienne, lente, parfois ingrate mais irréductiblement humaine que l'on appelle vérifier.
C'est ici que l'affaire devient presque comique avant de devenir inquiétante. Nous avons consacré des décennies à accélérer les processeurs, augmenter les capacités de stockage, interconnecter la planète, perfectionner les algorithmes et entraîner des modèles sur des masses de textes qu'aucun être humain ne pourrait lire en plusieurs vies ; puis, au moment de disposer de l'un des outils intellectuels les plus puissants jamais placés entre les mains du grand public, une partie de l'humanité semble avoir conclu que son principal intérêt consistait à lui éviter l'effort de lire trois pages, de comparer deux sources, de vérifier une citation ou simplement de se demander si la réponse obtenue avait un sens. L'intelligence artificielle pourrait ainsi accomplir ce paradoxe magnifique : mettre une puissance de calcul sans précédent à la disposition d'une civilisation qui risquerait précisément de s'en servir pour économiser l'effort de penser.
Entre la bêtise artificielle, capable de produire du faux avec une assurance syntaxique remarquable, et la stupidité naturelle, parfaitement disposée à croire ce faux dès lors qu'il est correctement présenté, le XXIe siècle pourrait donc voir naître une alliance d'une efficacité redoutable. Le problème n'est d'ailleurs pas nouveau dans son principe puisque le mensonge, la propagande, l'erreur savante et l'argument d'autorité existaient bien avant le premier ordinateur ; ce qui change radicalement est leur capacité de reproduction, leur vitesse de circulation et surtout la possibilité de produire industriellement l'apparence de la connaissance sans supporter le coût intellectuel traditionnel de sa construction.
L'affaire récente concernant des publications attribuées à PwC, dans lesquelles ont été signalées des références introuvables, des données insuffisamment étayées et d'autres anomalies, fournit à cet égard moins un scandale isolé qu'un symptôme particulièrement instructif. Le problème essentiel n'est pas qu'un système génératif puisse produire une information fausse, possibilité désormais suffisamment connue pour qu'elle ne surprenne plus personne ; il réside dans le fait qu'une information incertaine peut acquérir, par la seule puissance de sa présentation institutionnelle, tous les attributs extérieurs de la vérité, jusqu'au moment où le lecteur ne juge plus le contenu selon la solidité de ses preuves mais selon le prestige de celui qui le publie, l'élégance du document qui l'enveloppe et l'autorité technologique supposée de l'outil qui l'a produit.
Il faut ici éviter une facilité symétrique, car condamner l'intelligence artificielle pour cette raison serait intellectuellement aussi pauvre que de l'ériger en oracle. L'IA n'est pas intrinsèquement une machine à abrutir davantage que l'imprimerie n'était une machine à mentir, Internet une machine à diffamer ou le téléphone une machine à escroquer ; elle constitue un amplificateur d'une puissance exceptionnelle qui, placé entre les mains d'un chercheur rigoureux, d'un ingénieur compétent, d'un médecin correctement formé ou d'une administration organisée, peut accélérer l'exploration d'une littérature scientifique, assister la programmation, faciliter certaines comparaisons, détecter des structures dans des volumes gigantesques de données, améliorer des diagnostics, optimiser des systèmes complexes et ouvrir des voies nouvelles à la modélisation, tandis que le même instrument confié à quelqu'un qui ignore ce qu'il cherche et ne sait pas comment vérifier ce qu'il obtient peut produire, avec exactement la même vitesse, une montagne de certitudes parfaitement rédigées reposant sur presque rien.
L'intelligence artificielle ne supprime donc pas la différence entre compétence et ignorance ; elle peut au contraire la rendre moins visible. C'est probablement l'un de ses paradoxes les plus redoutables, car les technologies antérieures permettaient surtout d'accélérer l'exécution d'un travail, tandis que les systèmes génératifs permettent désormais d'en reproduire également l'apparence. On peut produire un texte sans maîtriser le sujet, générer un programme sans comprendre entièrement le code, fabriquer une synthèse sans avoir lu les documents qu'elle résume et accumuler des références sans avoir ouvert les ouvrages auxquels elles renvoient ; ce déplacement est considérable, non parce que la machine aurait acquis la faculté humaine de comprendre le monde, mais parce que l'être humain peut désormais obtenir les signes sociaux de la compétence avant d'en avoir acquis la substance.
Le problème fondamental n'est donc plus seulement technologique. Il devient épistémologique lorsqu'il touche aux conditions de production du vrai, éducatif lorsqu'il modifie notre rapport à l'apprentissage, économique lorsqu'il redistribue la valeur entre ceux qui possèdent les modèles et ceux qui les utilisent, politique lorsqu'il intervient dans la fabrication des décisions, militaire lorsqu'il entre dans les chaînes de renseignement et de ciblage, et finalement géopolitique lorsque quelques puissances, entreprises et infrastructures concentrent les moyens par lesquels une partie croissante de l'humanité recherche, traduit, classe, synthétise, prévoit et bientôt délègue une fraction de ses décisions.
C'est précisément à cet endroit que la question de la souveraineté technologique commence.
L'Afrique constitue à cet égard un révélateur particulièrement saisissant. Elle a connu la dépendance militaire, industrielle, financière, monétaire, pharmaceutique, technologique et informationnelle ; elle commettrait une faute historique d'une singulière gravité si, au moment où l'intelligence artificielle devient l'une des infrastructures déterminantes de la puissance mondiale, elle ajoutait tranquillement à cette longue liste une dépendance cognitive, c'est-à-dire une situation dans laquelle des sociétés politiquement souveraines demanderaient quotidiennement à des systèmes conçus ailleurs, entraînés majoritairement sur des corpus qu'elles ne maîtrisent pas, exécutés sur des infrastructures qu'elles ne possèdent pas et gouvernés selon des intérêts qu'elles ne déterminent pas de leur expliquer leur propre histoire, leurs langues, leurs sociétés, leurs économies, leurs menaces, leurs priorités et, demain peut-être, les décisions qu'elles devraient prendre.
Mais l'Afrique n'est ici que la manifestation particulièrement visible d'une question désormais universelle, car cette nouvelle géographie de la dépendance concerne, à des degrés différents, tous les États qui utilisent des infrastructures numériques, des modèles, des composants, des systèmes d'exploitation, des services de cloud ou des capacités de calcul dont ils ne maîtrisent ni entièrement la conception, ni la production, ni parfois même les conditions d'accès. La fracture qui se dessine ne séparera donc pas simplement le Nord du Sud, l'Occident du reste du monde ou les pays riches des pays pauvres ; elle pourrait opposer plus profondément les nations capables de choisir leurs dépendances à celles qui seront contraintes de les subir.
Après l'intelligence artificielle, le vertige quantique et la nouvelle géographie de la puissance
Et pourtant, l'intelligence artificielle elle-même pourrait n'être que le premier acte de la transformation qui s'annonce.
À quelques pas derrière elle avance en effet une révolution moins immédiatement visible du grand public, plus difficile à expliquer dans les conversations ordinaires, mais dont les conséquences potentielles touchent directement à la puissance : l'informatique quantique. Il serait imprudent d'en parler comme si l'ordinateur quantique universel, tolérant aux fautes et capable de bouleverser demain matin toutes les architectures numériques existait déjà à grande échelle, car les obstacles scientifiques et industriels demeurent considérables ; il serait cependant plus imprudent encore pour un État de considérer cette technologie comme une curiosité de laboratoire, alors que les investissements engagés par les principales puissances montrent précisément qu'elles raisonnent déjà en décennies et préparent les avantages qu'elles souhaitent posséder lorsque certaines ruptures techniques auront été franchies.
Le véritable bouleversement pourrait d'ailleurs venir moins du quantique considéré isolément que de la convergence progressive entre intelligence artificielle, calcul intensif, technologies quantiques, robotique, systèmes autonomes, capteurs avancés, biotechnologies et exploitation massive des données. Lorsque plusieurs ruptures technologiques cessent d'évoluer parallèlement et commencent à se renforcer mutuellement, la question n'est plus seulement celle de l'innovation ; elle devient celle de la distribution mondiale de la puissance. Une avancée dans le calcul peut accélérer la recherche scientifique, laquelle améliore les matériaux, qui renforcent les capacités industrielles, lesquelles permettent de construire de meilleures infrastructures, qui produisent davantage de données et entraînent à leur tour de meilleurs systèmes d'intelligence. À ce niveau, la technologie cesse d'être un secteur parmi d'autres et devient un système de puissance.
Le quantique introduit en outre une dimension particulièrement sensible pour les États, celle de la sécurité cryptographique. Une partie des méthodes de chiffrement actuellement utilisées repose sur des problèmes mathématiques dont certaines machines quantiques suffisamment puissantes pourraient, à terme, modifier radicalement les conditions de résolution ; cela signifie que les gouvernements sérieux ne doivent pas attendre qu'une telle rupture soit pleinement opérationnelle pour réfléchir à la protection de leurs communications, de leurs archives et de leurs infrastructures critiques. Les données interceptées aujourd'hui peuvent conserver une valeur stratégique pendant de nombreuses années, de sorte qu'une information chiffrée mais capturée maintenant pourrait devenir exploitable ultérieurement si les moyens techniques permettant de la déchiffrer apparaissaient. La souveraineté numérique exige donc déjà de penser au-delà de l'ordinateur classique.
Nous touchons ici au cœur du problème ; les grandes puissances ne préparent pas seulement la prochaine application à succès ; elles construisent des écosystèmes complets associant universités, laboratoires, entreprises, capitaux, infrastructures de calcul, capacités énergétiques, industrie électronique, données, défense et commande publique. Pendant que certains pays discutent encore de savoir si leurs étudiants doivent avoir le droit d'utiliser un assistant conversationnel pour rédiger un devoir, d'autres se demandent quels processeurs, quels centres de données, quels modèles fondamentaux, quelles normes cryptographiques et quelles architectures quantiques structureront leur puissance dans vingt ans. L'écart véritable se forme ici, beaucoup plus profondément que dans le simple nombre d'utilisateurs d'une application.
L'IA doit donc être regardée sans fascination et sans peur, avec la froideur stratégique que les grandes ruptures technologiques imposent aux nations qui entendent rester maîtresses de leur destin. Il ne s'agit ni de l'adorer ni de la maudire, mais de la comprendre suffisamment pour savoir ce qu'elle peut faire, ce qu'elle ne peut pas faire, ce qu'il faut lui déléguer, ce qui doit impérativement demeurer sous responsabilité humaine et surtout quelles capacités doivent être construites afin que les nations qui aspirent à préserver leur liberté de décision ne découvrent pas trop tard qu'elles sont devenues les marchés captifs d'infrastructures technologiques dont elles ne maîtrisent ni l'évolution ni les conditions d'accès.
Car derrière le débat presque amusant entre intelligence artificielle et stupidité naturelle se dissimule finalement une question qui ne prête plus du tout à sourire : qui possédera l'intelligence stratégique du monde qui vient, qui en contrôlera les infrastructures, qui en fixera les normes, qui entraînera les systèmes et qui devra, faute d'avoir préparé les siens, louer aux autres jusqu'au droit de calculer son propre avenir ?
ConclusionL'AES ne doit pas consommer le futur, elle doit commencer à le construire
La réponse à cette question déterminera probablement beaucoup plus que notre rapport à une technologie. Elle dira si les nations qui ne dominent aujourd'hui ni les infrastructures numériques mondiales ni les technologies les plus avancées entendent entrer dans la prochaine révolution scientifique comme des acteurs capables d'en comprendre les ressorts, d'en négocier les interdépendances et d'en maîtriser progressivement certains instruments, ou si elles acceptent d'en découvrir les conséquences lorsque les infrastructures, les normes, les marchés, les dépendances et jusqu'au vocabulaire auront déjà été définis ailleurs. L'histoire économique devrait pourtant avoir enseigné une leçon suffisamment claire : arriver tard dans une révolution technologique ne signifie pas seulement acheter plus cher ce que les autres ont inventé ; cela signifie souvent accepter pendant plusieurs décennies les rapports de puissance construits pendant notre absence.
Pour l'Alliance des États du Sahel, cette observation générale doit désormais devenir une question de stratégie d'État. Le Mali, le Burkina Faso et le Niger n'ont évidemment ni les moyens financiers des États-Unis et de la Chine, ni l'écosystème industriel des grandes puissances technologiques, et prétendre reproduire immédiatement leurs infrastructures relèverait davantage de l'incantation que de la politique publique ; mais l'histoire des technologies montre également qu'un pays n'a pas besoin de dominer l'ensemble d'une révolution pour en maîtriser les segments décisifs, à condition d'identifier suffisamment tôt ceux qui correspondent à ses intérêts vitaux et d'y concentrer durablement ses moyens humains, scientifiques et financiers.
La première urgence consiste à former, et à former massivement, parce qu'aucune souveraineté technologique sérieuse ne se décrète depuis un ministère lorsqu'elle ne repose pas sur une masse critique de mathématiciens, d'informaticiens, d'ingénieurs, de spécialistes des données, de linguistes, de juristes, de chercheurs en sciences humaines, d'experts en cybersécurité et de décideurs publics capables de comprendre suffisamment les technologies qu'ils auront la responsabilité de réglementer, d'acheter ou de déployer. L'AES gagnerait à considérer cette question comme elle considère la formation de ses officiers ou de ses médecins, c'est-à-dire comme un investissement stratégique de longue durée, en identifiant ses meilleurs étudiants, en finançant leur spécialisation, en organisant leur retour et surtout en leur offrant ensuite des laboratoires, des responsabilités et des carrières qui évitent que l'argent public africain ne finance simplement la formation des futurs ingénieurs des économies étrangères.
La deuxième urgence concerne la donnée, cette matière première singulière qui n'a de valeur stratégique que lorsqu'un pays sait la produire, la conserver, la protéger, la structurer et l'exploiter. Les administrations de l'AES détiennent des masses considérables d'informations relatives à leurs territoires, leurs langues, leur agriculture, leurs ressources naturelles, leur santé publique, leur démographie, leurs infrastructures, leur fiscalité ou leur environnement ; leur numérisation et leur interconnexion peuvent constituer un formidable instrument de modernisation, mais elles peuvent également devenir une vulnérabilité majeure si elles sont abandonnées sans doctrine à des infrastructures, des prestataires ou des systèmes dont les États ne maîtrisent ni totalement l'hébergement, ni les conditions d'accès, ni les usages futurs. La souveraineté des données ne signifie pas que tout doit être enfermé derrière une frontière numérique ; elle signifie que l'État doit savoir ce qu'il possède, où cela se trouve, qui peut y accéder, selon quelles règles et avec quelles possibilités de récupération en cas de rupture avec un fournisseur.
La troisième urgence est linguistique et culturelle, domaine dans lequel l'AES possède paradoxalement une faiblesse et un avantage considérables. Une intelligence artificielle entraînée principalement sur les productions intellectuelles des autres finit nécessairement par regarder le monde à travers les traces numériques que ceux-ci ont laissées ; développer des corpus de qualité en bambara, mooré, fulfulde, songhay, tamasheq, haoussa et dans les autres langues de l'espace sahélien ne relève donc pas seulement de la conservation patrimoniale, mais d'une politique technologique, éducative et stratégique. Une civilisation qui ne numérise pas suffisamment ses langues, ses archives, ses savoirs et ses catégories intellectuelles risque de devenir progressivement invisible pour les machines qui organiseront une part croissante de la connaissance mondiale.
Il faudra également construire une véritable capacité régionale de calcul, même progressive, parce qu'il serait contradictoire de parler d'autonomie numérique tout en dépendant intégralement, pour les traitements les plus sensibles, d'infrastructures situées à plusieurs milliers de kilomètres et soumises à des juridictions étrangères. Cela ne signifie nullement construire demain matin un gigantesque centre de données pour satisfaire une ambition symbolique ; cela signifie élaborer une trajectoire réaliste, mutualisée à l'échelle de l'AES, articulant centres de calcul, réseaux sécurisés, stockage souverain, capacités énergétiques, accès aux composants, logiciels ouverts lorsque leur emploi est pertinent et partenariats technologiques suffisamment diversifiés pour qu'aucun fournisseur ne puisse devenir indispensable.
La défense et la sécurité imposent une prudence encore supérieure. L'intelligence artificielle peut améliorer l'analyse d'images, la surveillance territoriale, la maintenance prédictive, la logistique, la cybersécurité, le traitement du renseignement ou la détection de certaines menaces, mais aucune urgence opérationnelle ne devrait conduire à abandonner à un système automatisé la responsabilité politique, juridique et morale des décisions les plus graves. Une doctrine sahélienne de l'IA de défense devra précisément déterminer ce qui peut être automatisé, ce qui peut être assisté et ce qui doit demeurer sous contrôle humain, tout en protégeant les données militaires contre la dépendance technologique et l'exfiltration.
Quant au quantique, l'AES commettrait une erreur en attendant d'avoir les moyens de construire un ordinateur quantique pour commencer à s'y intéresser. La première bataille est celle de la compétence. Quelques dizaines de chercheurs remarquablement formés, insérés dans des réseaux scientifiques internationaux, travaillant sur les mathématiques, la physique, les algorithmes quantiques, les communications sécurisées et surtout la cryptographie post-quantique peuvent aujourd'hui coûter infiniment moins cher qu'une dépendance stratégique découverte trop tard. Il faut apprendre de l'histoire du nucléaire, du spatial et des semi-conducteurs : lorsqu'une technologie devient indispensable, il est déjà extrêmement coûteux de commencer à construire les connaissances que les autres accumulent depuis trente ans.
Une telle stratégie ne suppose d'ailleurs aucun enfermement technologique. L'AES aurait au contraire intérêt à multiplier les coopérations avec tous les pôles capables d'apporter des compétences, des équipements, des formations ou des transferts de technologie, qu'ils soient africains, asiatiques, européens, américains, russes, chinois, indiens ou issus d'autres espaces scientifiques, mais avec une règle qui devrait progressivement devenir intangible : coopérer avec tous lorsque l'intérêt l'exige, dépendre entièrement de personne lorsque la souveraineté l'interdit. La diversification n'est pas l'indépendance, mais elle constitue souvent la première protection contre la dépendance.
Il faudrait enfin que cette ambition dépasse les trois États eux-mêmes. L'AES pourrait proposer, à terme, un espace sahélien et africain de recherche en intelligence artificielle, cybersécurité et technologies quantiques, capable d'accueillir les chercheurs du continent et de sa diaspora, de financer quelques programmes ciblés plutôt que de disperser les moyens dans une multitude de structures sans masse critique, et de faire travailler ensemble universités, armées, administrations, entreprises et centres de recherche sur des problèmes directement liés aux réalités africaines. L'agriculture sahélienne, la gestion de l'eau, la désertification, la santé, les langues, la cartographie, les mines, l'énergie, les transports, la sécurité des frontières et l'éducation constituent suffisamment de problèmes complexes pour que l'Afrique cesse de considérer l'innovation comme l'importation de solutions conçues pour les problèmes des autres.
La grande erreur serait cependant de croire que cette bataille se gagnera uniquement avec des ordinateurs. Elle se gagnera d'abord dans les écoles, les universités, les laboratoires, la qualité des institutions et la considération accordée à ceux qui produisent réellement de la connaissance. Aucun pays ne devient une puissance scientifique en célébrant l'innovation tout en laissant ses chercheurs sans laboratoires, ses ingénieurs sans projets, ses meilleurs étudiants sans perspectives et ses administrations acheter à prix d'or des solutions qu'elles auraient parfois pu contribuer à développer. La souveraineté technologique commence beaucoup moins par la possession d'une machine que par la construction patiente d'un écosystème humain capable de comprendre ce qu'elle contient, de l'adapter à ses besoins et, progressivement, de produire ses propres solutions.
C'est peut-être finalement là que se trouve la véritable frontière entre l'intelligence artificielle et la stupidité naturelle. La première continuera de progresser, probablement à une vitesse que nous sous-estimons encore, tandis que le quantique, la robotique, les biotechnologies et d'autres ruptures viendront progressivement en démultiplier ou en transformer les usages ; la seconde, malheureusement, conservera toujours la possibilité de gaspiller ces avancées, de les subir ou de les remettre entre les mains de quelques-uns faute d'avoir suffisamment pensé leur signification politique.
L'AES dispose encore d'un privilège rare dans l'histoire des révolutions technologiques : elle peut voir arriver celle-ci. Elle sait que la bataille commence, elle peut observer les stratégies des autres, identifier leurs erreurs, choisir ses partenaires et décider dès maintenant des compétences qu'elle souhaite posséder dans dix ou vingt ans. Il serait difficilement pardonnable que, disposant de cet avertissement, elle attende néanmoins que le futur soit devenu une dépendance pour découvrir qu'il aurait fallu le préparer.
Entre bêtise artificielle et stupidité naturelle, le Sahel n'a donc aucune obligation de choisir. Il lui reste une troisième voie, beaucoup plus exigeante et infiniment plus ambitieuse : l'intelligence souveraine, celle d'États suffisamment lucides pour utiliser les technologies des autres lorsque cela sert leurs intérêts, suffisamment ambitieux pour construire progressivement les leurs, suffisamment ouverts pour coopérer avec le monde et suffisamment prévoyants pour ne jamais confondre coopération technologique et abandon de souveraineté.