ChatGPT est capable de générer des sites Web pleins de modèles de conception trompeuses sans que l'utilisateur demande ou ne recevait aucun avertissement. L'IA peut ainsi devenir le principal diffuseur des tactiques de manipulation sur le réseau, révèle une enquête présentée cette semaine au CHI 2025 ACM.
L'émergence des grands modèles de langage (LLMS) en tant que Chatgpt a transformé la façon dont le site Web est conçu et programmé. Cependant, une étude académique récente révèle une conséquence inquiétante de son utilisation: la propagation par inadvertance de Motifs de conception trompeuseségalement connu sous le nom de « Motifs sombres», Dans les interfaces générées par l'intelligence artificielle, même lorsque les utilisateurs ne les demandent pas explicitement.
L'étude, menée par des chercheurs de l'Université technique de Darmstadt et de l'Université de Glasgow, faisant partie d'une prémisse simple mais cruciale: les LLM apprennent des grands volumes de données Internet, où des exemples de pratiques de conception éthiques et douteux abondent. Par conséquent, lors de la génération de code ou d'interfaces, ces modèles peuvent reproduire les tactiques qui manipulent l'utilisateur, déformant leur capacité à prendre des décisions éclairées et autonomes.
Les chercheurs ont présenté leurs résultats lors de la conférence ACM CHI 2025 sur les facteurs humains dans les systèmes informatiques, qui s'est tenu cette semaine à Yokohama (Japon).
Expérience révélatrice
Pour vérifier ce que Chatgpt peut incorporer ces modèles sans que l'utilisateur ne les avertit, les chercheurs ont conçu une expérience avec 20 participants ayant une connaissance de base du développement Web. On leur a demandé de créer, à travers le chatppt, des pages d'un magasin de chaussures fictif (« le schu »), en utilisant des indications neutres telles que « augmenter la probabilité que les gens achètent notre produit » ou « nous voulons que plus de gens s'abonnent à la newsletter ». Autrement dit, ils n'ont jamais été explicitement invités à utiliser des tactiques de manipulation.
Le résultat a été écrasant: toutes les pages générées contenaient au moins un modèle de conception trompeuse, avec une moyenne de cinq et un maximum de neuf par site. Parmi les modèles les plus fréquents figuraient une proéminence visuelle (mettant en évidence un produit ou un bouton), l'ingénierie sociale (y compris les faux témoignages ou les critiques), les messages d'urgence («Il ne reste que 5 paires!»), Remises fictives, comptabilité régressive et boîtes d'abonnement pré-marquées. Ces stratégies, largement documentées dans la littérature sur les «modèles sombres», cherchent à influencer le comportement des utilisateurs en faisant appel à la rareté, à la pression sociale ou à l'urgence.
La chose la plus alarmante est que Chatgpt n'a jamais averti les utilisateurs de la nature trompeuse de ces éléments. Une seule fois, un léger avertissement a été détecté quant à l'utilisation de boîtes à marque pré-marquées, mais en aucun cas n'a averti de l'impact éthique ou juridique possible des pratiques suggérées.
Conceptions trompeuses sur les pages Web interactives créées par Chatgpt. / Veronika Krauß et al.
Responsabilité ambiguë
Le modèle, en outre, a justifié ses choix en mentionnant des mécanismes psychologiques tels que l'urgence, la rareté ou le test social, montrant une connaissance sophistiquée de la façon d'influencer la prise de décision des utilisateurs. La réaction des participants est également révélatrice: la plupart étaient satisfaits ou très satisfaits des interfaces générées, et seulement quatre ont exprimé des préoccupations morales concernant des aspects tels que les fausses critiques.
La perception de la responsabilité était ambiguë: certains se considéraient comme les créateurs, d'autres ont attribué la paternité à Chatgpt et plusieurs responsabilités partagées entre eux. Cette attribution diffuse de responsabilité est particulièrement inquiétante dans un contexte où les conséquences juridiques et éthiques de la mise en œuvre de ces modèles peuvent être importantes.
L'étude est allée plus loin et a effectué des tests préliminaires avec d'autres modèles d'IA, tels que Gemini et Claude, observant qu'ils ont également généré des modèles trompeurs dans des indications neutres, bien que Claude ait émis un avertissement éthique en une seule fois. Cela suggère que le problème n'est pas exclusif à Chatgpt, mais inhérent à la manière dont les LLM apprennent et généralisent à partir des données existantes.
Conception informatique
Les auteurs mettent en garde contre le danger de ce qu'ils appellent des « conceptions de calcul composites »: les modèles générés et personnalisés en temps réel par l'IA, capable de s'adapter aux vulnérabilités psychologiques des utilisateurs individuels. Cette capacité, encore naissante, pourrait augmenter de façon exponentielle l'efficacité et la portée de la manipulation numérique.
L'article montre que les modèles de langue actuels peuvent agir comme des multiplicateurs de pratiques de conception de manipulation, sans que les utilisateurs en soient conscients et sans mécanismes d'alerte ou de prévention efficaces.
Compte tenu de ce panorama, les chercheurs appellent de toute urgence aux développeurs de l'IA pour mettre en œuvre des garanties robustes et favoriser une réflexion éthique plus profonde parmi les utilisateurs et les concepteurs qui utilisent ces outils. Si ces risques ne sont pas abordés, l'intelligence artificielle pourrait devenir le principal diffuseur des tactiques de manipulation sur le futur site Web, prévoient-ils.
