J’y pense depuis un moment, et je trouve qu’on parle beaucoup des risques liés à l’IA comme s’ils dépendaient uniquement de la responsabilité des entreprises. En gros : “OpenAI devrait être plus prudente”, “Google devrait prendre son temps”, “les États devraient mieux encadrer tout ça”, etc… Mais même si tous ces acteurs étaient dirigés par des gens sincèrement raisonnables, le problème resterait presque entier : parce qu’ils sont enfermés dans une course. Si les États-Unis ralentissent, ils prennent le risque que la Chine continue. Si OpenAI passe deux ans à sécuriser ses modèles, elle prend le risque que Google, Anthropic, Meta ou un nouvel acteur sorte quelque chose de beaucoup plus puissant entre-temps, et chacun peut tenir exactement le même raisonnement. C’est une situation proche du dilemme du prisonnier en maths : tout le monde aurait intérêt à ce que tout le monde ralentisse, mais personne n’a intérêt à ralentir tout seul. Le plus inquiétant, c’est que chaque acteur peut donc prendre une décision parfaitement rationnelle de son propre point de vue (accélérer, investir davantage, déployer plus vite) mais contribuer malgré tout a un résultat complètement irrationnel pour l’ensemble de la société. Les gens sont bienveillants. Les gens sont responsables. Ok mais… Il suffit que chacun ait peur que l’autre arrive avant lui pour que le résultat soit infiniment mauvais. On entend souvent : “Oui, on va régler les problèmes de sécurité au fur et à mesure, all is good” Mais cette phrase suppose des choses énormes : que les problèmes seront visibles, progressifs, réversibles et surtout que le nombre de problème résolu sera inférieur aux nombre de problèmes créés… Or ce n’est absolument pas garanti. Si les systèmes deviennent capables d’agir de manière plus autonome, de produire du code, de mener des recherches, de manipuler des humains ou d’intervenir sur des infrastructures, certaines erreurs pourraient se propager beaucoup plus vite que notre capacité à les comprendre, et c’est là que la situation devient vraiment inquiétante : la sécurité ralentit généralement le développement, alors que la puissance technique apporte immédiatement de l’argent, de l’influence et un avantage stratégique. Les bénéfices reviennent à celui qui accélère. Les risques, eux, sont répartis sur toute la société. Je ne pense donc pas que le problème puisse être résolu en demandant simplement aux dirigeants des laboratoires d’être “plus responsables”. Même les meilleures intentions finissent par céder devant une structure qui récompense la vitesse et pénalise la prudence. Il faudrait au minimum des règles communes, des audits réellement indépendants et des accords vérifiables entre États. Sinon, demander à une entreprise ou à un pays de ralentir revient presque à lui demander de faire confiance à tous les autres. Et personne ne le fera, car même vous en lisant ce texte, je le sais vous vous disez “c’est trop pénible”. C’est exactement ça le vrai piège de mon point de vue. submitted by /u/ventblanc
Originally posted by u/ventblanc on r/ArtificialInteligence