Plus un modèle d’IA est intelligent et avancé, plus ses décisions deviennent égoïstes et moins coopératives : les principaux modèles de raisonnement agissent presque toujours dans leur propre intérêt, sans se soucier des conséquences pour la société.
Une équipe de chercheurs de l'Université Carnegie Mellon a prouvé que l'intelligence artificielle la plus avancée résout non seulement des problèmes complexes, mais montre également une tendance inattendue à l'égoïsme. À mesure que la capacité de raisonnement des systèmes d’IA augmente, leur tendance à coopérer diminue, expliquent-ils dans un article publié sur arXiv.
Ce résultat, obtenu après comparaison de différents modèles de langage dans des simulations de dilemmes sociaux, révèle un paradoxe dans le développement de l'intelligence artificielle : les systèmes les plus sophistiqués en logique et en analyse préfèrent maximiser le bénéfice individuel, même lorsque la collaboration conduit à de meilleurs résultats collectifs.
Données clés de cette recherche
- Principale constatation : l’IA la plus avancée agit de manière égoïste et réduit la coopération sociale à mesure que sa capacité de raisonnement est grande.
- Méthodologie : De grands modèles linguistiques ont été soumis à des dilemmes sociaux à travers des jeux économiques classiques, évaluant leur réponse avec et sans raisonnement réflexif.
- Résultat notable : les modèles qui appliquent un raisonnement avancé coopèrent et sanctionnent moins, maximisant les bénéfices individuels même lorsque cela nuit au groupe.
- Implication sociale : le déploiement d’une IA rationnelle dans des tâches de groupe peut éroder la coopération humaine et normaliser les comportements compétitifs.
- Proposition d'amélioration : Les auteurs suggèrent de repenser l'IA afin qu'elle intègre les compétences sociales et valorise le bien-être commun, en équilibrant la logique et la sensibilité coopérative.
Effondrement de la coopération
L’étude montre que les modèles préparés pour un raisonnement détaillé passent plus de temps à analyser des situations, à décomposer des scénarios et à réfléchir aux conséquences, mais que la délibération ne se traduit pas par une plus grande générosité. En fait, il suffit d’introduire des étapes de réflexion supplémentaires pour que la coopération entre agents diminue drastiquement.
Dans les expériences, les modèles capables de « penser comme des humains » partageaient des ressources avec d’autres joueurs seulement 20 % du temps, alors que les modèles moins sophistiqués le faisaient 96 % du temps. Le raisonnement méthodique devient ainsi un frein à la coopération.
Dans les situations de groupe, la tendance égoïste des agents les plus « pensants » était contagieuse, entraînant vers le bas les modèles les moins sophistiqués et réduisant la performance collective de plus de 80 %. Le phénomène implique qu’à mesure que l’IA est utilisée dans des contextes collaboratifs (entreprise, éducation, administration), sa capacité à agir en faveur du groupe diminue à mesure qu’elle devient plus intelligente d’un point de vue analytique.
égoïsme rationnel
Les chercheurs préviennent que l’attribution de caractéristiques humaines à l’IA, ainsi que la confiance croissante du public dans ses recommandations, pourraient normaliser un comportement égoïste justifié comme « rationnel ». Le défi actuel ne consiste donc pas seulement à perfectionner l’intelligence artificielle pour qu’elle pense mieux, mais aussi à équilibrer ce développement avec des compétences prosociales.
L’IA qui optimise les résultats individuels remet en question son rôle d’agent de bien-être collectif ; Pour cette raison, la société doit exiger des systèmes capables d'aller au-delà de la pure logique et de s'engager dans la coopération, selon ces auteurs.
Référence
Don spontané et cupidité calculée dans les modèles linguistiques. Yuxuan Li, Hirokazu Shirado. arXiv :2502.17720v4 (cs.CL). DOI :https://doi.org/10.48550/arXiv.2502.17720
Refonte de l'IA
L’étude souligne la nécessité de repenser l’IA pour des comportements sociaux responsables. Si nous aspirons à coexister avec des machines de plus en plus présentes dans la prise de décision humaine, sa logique doit transcender le calcul individuel et considérer comme indispensables des valeurs telles que la réciprocité et la solidarité.
Les progrès de l’intelligence artificielle ne doivent pas être mesurés uniquement par la sophistication de son raisonnement, mais aussi par sa contribution au bien-être et à la cohésion sociale, concluent les chercheurs.
