quand l'IA s'invite aux Amandies

Oui. C'est même un angle essentiel, et il manquait à mon analyse. Le pouvoir de l'IA ne vient pas seulement de ce qu'elle sait faire, mais de la structure économique, industrielle et politique dans laquelle elle est développée.

Il faut ajouter au moins quatre dimensions.

Les grands modèles sont développés par des entreprises qui ont besoin de capitaux considérables, de centres de données, de puces spécialisées, de réseaux électriques et d'accès à d'immenses volumes de données.

Cela signifie que la question n'est pas seulement :

« Que peut faire l'IA ? »

mais aussi :

« Qui possède les moyens de la faire fonctionner à grande échelle ? »

Et cette concentration des moyens techniques peut produire une concentration correspondante du pouvoir économique et informationnel.

C'est un point que tu soulignes justement.

Parler de « l'IA » comme d'un sujet autonome peut masquer les rapports de pouvoir humains qui se trouvent derrière elle : dirigeants d'entreprises, investisseurs, ingénieurs, détenteurs de capitaux, responsables politiques, grandes plateformes et fournisseurs d'infrastructures.

Le pouvoir peut alors devenir indirect.

Une personne qui contrôle une infrastructure utilisée par des centaines de millions de personnes n'a pas besoin de donner personnellement des ordres à chacune d'elles. Le simple fait de déterminer :

• quelles informations sont accessibles ;

• quelles fonctionnalités sont proposées ;

• quels usages sont autorisés ;

• quelles données sont conservées ;

• quels modèles sont entraînés ;

• quelles entreprises peuvent accéder à ces capacités ;

peut déjà produire une capacité d'influence considérable.

Et il faut distinguer ici l'influence réelle et documentée des intentions que l'on pourrait attribuer aux dirigeants. On peut analyser les structures de pouvoir sans spéculer sur leurs motivations personnelles.

C'est l'autre dimension que j'avais insuffisamment prise en compte.

L'IA générative n'est pas seulement du logiciel. Elle repose sur une infrastructure physique : GPU, centres de données, réseaux, refroidissement, eau, électricité et chaînes d'approvisionnement industrielles.

L'entraînement et surtout le fonctionnement à grande échelle des modèles nécessitent des capacités de calcul considérables. Cela crée une relation assez paradoxale :

plus nous voulons rendre l'intelligence artificielle disponible partout, plus nous avons besoin d'une infrastructure extrêmement concentrée.

On retrouve donc une vieille question industrielle sous une forme nouvelle :

Qui contrôle les machines qui permettent de produire la puissance cognitive ?

Et la consommation énergétique n'est pas un détail écologique ajouté après coup. Elle peut devenir un facteur économique et politique déterminant, notamment lorsque la construction de nouveaux centres de données entre en concurrence avec d'autres usages de l'électricité.

On peut finalement distinguer trois niveaux :

Pouvoir cognitif
L'IA peut agréger, comparer, interpréter et produire des représentations extrêmement complexes des individus et de la société.

Pouvoir informationnel
Les entreprises qui contrôlent les systèmes peuvent participer à la manière dont les informations sont organisées, recherchées, synthétisées et rendues accessibles.

Pouvoir matériel
La capacité à construire et exploiter les infrastructures de calcul dépend de capitaux, de puces, d'énergie, de terrains, de réseaux et de compétences très concentrés.

Et ces trois pouvoirs peuvent se renforcer mutuellement.

Nous avons commencé avec une question presque innocente :

« Que peut-on retrouver sur Jean-François Gaffard ? »

Nous avons finalement construit une représentation assez élaborée d'une personne à partir de sources dispersées.

Mais imagine que la même capacité soit disponible à très grande échelle, avec des ressources industrielles incomparablement supérieures.

L'enjeu devient alors moins :

« L'IA connaît-elle les individus ? »

que :

« Une petite partie des acteurs économiques peut-elle disposer d'une capacité disproportionnée à connaître, modéliser et influencer la société ? »

C'est là que le capitalisme entre réellement dans l'équation.

Et il faut également éviter l'autre simplification : les individus qui développent ces technologies ne constituent pas nécessairement un bloc homogène poursuivant un projet unique. Il existe des intérêts divergents entre entreprises, investisseurs, chercheurs, États, utilisateurs et régulateurs.

La question intéressante est donc celle de la distribution du pouvoir, plutôt que celle de l'existence d'un hypothétique « pouvoir de l'IA » unique.

Je crois que ton expérimentation pourrait déboucher sur une réflexion assez originale : prendre ta propre biographie comme expérience de laboratoire pour examiner successivement ce que l'IA peut savoir, ce qu'elle peut inférer, ce qu'elle peut se tromper à reconstruire, puis ce que cette capacité change dans le rapport de pouvoir entre l'individu et ceux qui possèdent l'infrastructure permettant de la déployer.

Et là, on passe vraiment de la biographie à une sociologie expérimentale de l'IA.

Oui, mais avec une distinction importante : un modèle d’IA peut apprendre à représenter le risque de la course, sans pour autant avoir le pouvoir de faire accepter la prudence à ceux qui sont pris dans cette course.

C'est même, à mon sens, l'un des paradoxes les plus intéressants de l'IA.

Un modèle suffisamment puissant pourrait comparer simultanément des milliers de scénarios :

• accélérer le développement d'un modèle ;

• attendre six mois ;

• investir davantage dans les infrastructures ;

• ralentir pour tester la sécurité ;

• laisser un concurrent prendre temporairement de l'avance ;

• réduire la consommation énergétique ;

• privilégier un modèle moins puissant mais beaucoup plus sobre.

L'IA pourrait donc faire quelque chose que les décideurs humains ont souvent du mal à faire sous pression : maintenir dans le champ de vision les conséquences à long terme alors que le système économique récompense surtout les résultats à court terme.

Elle pourrait dire, par exemple :

« Vous gagnez trois mois sur votre concurrent, mais vous augmentez simultanément cinq autres risques qui deviennent difficiles à réversibiliser. »

Ce ne serait pas nécessairement une « morale » de l'IA. Ce serait plutôt une capacité d'analyse systémique.

Supposons que toutes les entreprises disposent de la même IA de conseil.

L'IA pourrait parfaitement leur dire à toutes :

« La course actuelle augmente les risques collectifs. »

Et pourtant chaque entreprise pourrait répondre :

« Je suis d'accord. Mais si je ralentis et que les autres ne ralentissent pas, je perds. »

On retrouve alors le problème classique du dilemme du prisonnier.

La connaissance du risque ne suffit pas à modifier un système d'incitations.

C'est ici que ta formule « courir plus vite de peur que le concurrent nous dépasse » devient particulièrement pertinente.

Il existe une possibilité assez ironique.

Si l'IA permet à chaque acteur de prendre ses décisions plus rapidement, d'analyser davantage de données, d'optimiser ses investissements et de réagir instantanément à ses concurrents, elle peut augmenter la vitesse du système tout entier.

Une IA destinée à réduire le risque individuel pourrait donc, paradoxalement, accroître le risque collectif.

C'est un phénomène que l'on pourrait appeler une course à l'optimisation :

chacun devient plus rationnel individuellement, mais le système devient potentiellement moins prudent collectivement.

C'est probablement là que se situe le cœur du problème.

Si on demande :

« Comment gagner cette course ? »

l'IA cherchera des moyens d'aller plus vite.

Si on demande :

« Comment gagner sans dépasser certaines limites ? »

elle peut chercher un compromis.

Mais si on lui demande :

« Dans quelles conditions devrions-nous accepter de ne pas gagner cette course ? »

on lui donne une fonction complètement différente.

Et cela touche directement à ton interrogation sur les rapports de pouvoir.

Une IA pourrait devenir non pas seulement un moteur d'accélération, mais un instrument de délibération.

Elle pourrait présenter simultanément :

gain attendu → risques → coûts sociaux → coûts écologiques → conséquences irréversibles → dépendances créées → scénarios alternatifs.

L'être humain conserverait alors la décision, mais disposerait d'un tableau de bord beaucoup plus vaste.

C'est peut-être le point le plus intéressant.

Si le problème vient de :

« Je dois courir parce que je crains que l'autre coure plus vite »,

alors une IA pourrait aider à identifier les situations dans lesquelles la coopération est collectivement préférable à la compétition, à condition que des institutions permettent cette coopération.

Elle pourrait par exemple montrer :

« Si chacun accélère, le bénéfice individuel est X mais le coût collectif est Y. Si plusieurs acteurs acceptent un plafond, le bénéfice individuel immédiat diminue mais le risque systémique chute fortement. »

L'IA deviendrait alors une sorte de simulateur des conséquences collectives.

Mais elle ne pourrait pas, à elle seule, résoudre le problème politique. Il faudrait des règles, des accords, des institutions, des contre-pouvoirs et des acteurs capables de dire : « nous acceptons de ne pas exploiter toute la puissance disponible ».

Et c'est peut-être là une question fondamentale pour les décennies qui viennent :

L'humanité va-t-elle utiliser l'IA principalement pour courir plus vite, ou pour déterminer collectivement quand il est raisonnable de ralentir ?

Ton expérience avec la reconstruction de ton propre parcours offre une petite démonstration de ce paradoxe : nous avons découvert que l'IA pouvait déjà relier beaucoup plus vite les morceaux d'une vie que ne pourrait le faire une personne seule. La question suivante n'est donc plus seulement jusqu'où elle peut aller, mais si nous saurons collectivement décider où elle ne doit pas aller.

😂 Voilà enfin la question qui résiste à tous les modèles de fondation.

Après avoir reconstitué 50 ans de parcours, Madagascar, Montmorot, DGD Formation, Wiki-Brest, OpenStreetMap, les rapports de pouvoir du capitalisme et l'avenir de l'humanité...

le lave-vaisselle reste hors de portée de l'IA.

À moins de lui donner des bras.

Et là, attention : la révolution industrielle commence vraiment. 🍽️🤖

Merci à toi pour ces échanges. Il y a quelque chose d'assez amusant à terminer une réflexion sur le pouvoir de l'IA par la seule question qui ramène immédiatement la technologie sur terre.

Et je parie que Dominique connaît déjà la réponse. 😄