Il y a des gens avec un charisme qui transcende la conversation, et Cristina Aranda en fait partie. Co-fondatrice de Mujeres Tech et consultante en IA, elle est titulaire d'un doctorat en linguistique théorique et appliquée, démontrant que l'humanisme et la technologie non seulement peuvent, mais doivent aller de pair. Avec une passion contagieuse pour les mots et une clarté éblouissante d’idées, elle est l’une des voix les plus influentes dans la promotion d’une technologie utile et exempte de préjugés sexistes. Nous avons discuté avec elle des avantages, des risques et du besoin éthique de l'intelligence artificielle, mais aussi de l'IA for Good pour la santé, l'éducation, le travail et l'impact social. dans son livre Vies futures réfléchit à la manière dont l’IA peut être un allié puissant si nous apprenons à l’utiliser. Sans peur, mais avec responsabilité.
Qu’est-ce qui vous a motivé à écrire ? vies futureset à quel moment avez-vous jugé nécessaire d’aborder publiquement ces sujets d’IA de manière informative ?
Si je suis honnête, l'éditeur, Aguilar (Penguin Random House), est venu me chercher. Ils étaient intéressés par mon discours sur l’IA et par la façon dont je l’expliquais. Comme j'avais déjà en tête de faire quelque chose d'informatif, mais que je suis indépendant et que le quotidien nous ronge, alors qu'il y a déjà une proposition d'une grande maison d'édition, je me suis déjà assis pour l'écrire et la préparer avec des lignes directrices bien établies.
Je suppose que cela vous a aidé en rédigeant votre thèse de doctorat en linguistique de 500 pages avec la note mention très bien.
Exact. Quiconque a fait un doctorat sait qu'il s'agit d'un travail très pénible et solitaire et qui demande un grand engagement, avec des jalons mathématiques et des phases de réalisation. Même si j'ai fait ma thèse sur la créativité lexicale, linguistique et psycholinguistique, en l'occurrence la création et l'interprétation de noms de marques pour des produits alimentaires, j'ai aussi abordé les outils génératifs sans le savoir, et on ne sait jamais où évolueront les progrès…
C'est formidable et rassurant de dire dans le livre que l'IA va avoir besoin de plus d'humanistes que jamais. Car depuis deux décennies la majorité des métiers choisis par les jeunes sont techniques.
Eh bien, regardez, les machines effectuent déjà cette ingénierie et cette génération de code. Après cela boom de personnes qui ont saisi des codes, et qu'une machine le fait déjà, que vont-ils apporter maintenant ?
« Les personnes possédant des compétences sociales et émotionnelles seront hautement valorisées et disposeront de davantage d’options d’emploi »
Vous êtes philologue, comment votre formation en sciences humaines a-t-elle influencé votre approche de l'étude et de l'explication de l'intelligence artificielle ?
Parce que j'ai beaucoup souffert. Cela a été un processus de connaissance de soi et d’auto-éducation, qui m’a permis d’avoir une perspective plus humble et m’a aidé à comprendre que l’IA souffrait de cette perspective humaniste. Lors de la conférence de Dortmund, où tous les ingénieurs étaient présents et où il n’y avait aucune femme, ils ont proposé cette définition merveilleuse et terrifiante : que l’IA est la même chose que l’intelligence naturelle. Comparez-vous l’intelligence humaine à une machine, à une machine à laver, à une Seat Panda, alors que les gens sont multidimensionnels, très complexes et que nous pouvons changer d’avis en une heure ? Cela m’a incité à me battre encore plus fort et à démontrer que la perspective humaniste est absolument nécessaire, non seulement maintenant mais aussi à l’avenir.
Comment l’IA façonne-t-elle notre vie quotidienne ? Selon vous, qu’est-ce que la société oublie ?
La propagande a toujours existé, mais cette rapidité avec la propagation des canulars et des rumeurs, cette polarisation de la haine est inquiétante… Et il n'y a pas de plus grand impact que la manipulation de l'opinion publique, avec ceux contrefaçons constantes. Le pire, c'est que nous n'avons pas l'esprit critique et que beaucoup influenceurs Ils sont devenus des leaders d'opinion, les nouveaux oracles de la connaissance, quand il y a des moments où leur rigueur scientifique embarrasse les autres, en plus de l'audace de leur ignorance. Je m'inquiète de la santé mentale des adolescents, qui veulent vivre ces vies extraordinaires et être cryptobros. L’impact de la manipulation sur les démocraties est incroyable, comme cela s’est produit avec le Brexit. Je pourrais continuer à énumérer des exemples de contrôle des personnes, de manque d'intimité.
Des exemples prometteurs ?
Clair! L'impact positif de l'IA for Good, sa capacité à nous aider à prévenir le cancer plusieurs années à l'avance, à détecter le suicide ou à vivre des expériences de consommation ultra-personnalisées.
Comment les citoyens ordinaires peuvent-ils se protéger de cette partie néfaste ?
Il y a des téléphones, ceux qui ne sont pas connectés ou ceux qui sont muets, ceux qui téléphones stupidesqui ne sont pas connectés et avec lesquels vous ne pouvez passer que des appels. Dans le livre dont je parle, il y a une marque suisse qui les fabrique, et on voit déjà la montée en puissance de cette tendance, et aussi, contrairement à ce qu'on pourrait penser, surtout chez les jeunes.
Quels sont les risques éthiques les plus urgents posés par l’IA aujourd’hui ?
La confidentialité et la transparence. Nous ne savons vraiment pas très bien ce qu'ils font avec nos données. Vous êtes ce que vous recherchez, ce que vous demandez à l’IA de faire. Si vous demandez à ChatGPT comment demander une augmentation, il sait déjà que vous n'êtes pas satisfait de votre salaire.
C'est donc un paradoxe, car l'IA nous sert, mais nous entrons dans les noces du loup.
Il faut gérer le paradoxe du point de vue de la responsabilité. Vous pouvez créer une super voiture pour parcourir 240 km. par heure, mais il faut qu'il y ait un code de la route pour que les gens soient civils, car tout le monde n'est pas pareil, ni du point de vue pénal ni d'aucun autre point de vue. Et le techno-féodalisme dans lequel nous vivons gère de nombreux récits pour que l'opinion publique soit confuse et ne les poursuive pas en justice, comme le classique « si on régule, on arrête l'innovation ». Non, non, désolé, le règlement sert à protéger les citoyens.
Quels sont alors les défis éthiques les plus urgents ?
Formuler des codes déontologiques qui sont respectés. Que tous ceux qui travaillent dans l’écosystème de l’IA aient un code d’éthique. Comme le font les médecins ou les avocats, de sorte que si quelqu'un voit quelque chose d'étrange, il obtient de l'aide. Ce n'est pas grave ici, quelqu'un génère une plateforme contrefaçons profondes et certains gamins s'en servent pour dénigrer et humilier leurs amis d'un point de vue pornographique… il n'arrive rien à la plateforme !
« Les risques éthiques les plus urgents sont la vie privée et la transparence »
Comment les algorithmes perpétuent-ils, voire aggravent-ils, les inégalités sociales et de genre ? Pourriez-vous partager quelques exemples qui vous semblent particulièrement pertinents ?
Il existe de nombreux exemples dans le documentaire « Coded Biais ». Il y a un dicton dans le secteur : les ordures entrent, les ordures sortentce qui signifie que si vous mettez des déchets, vous en sortez. Si vous faites une paella avec des produits de mauvaise qualité et périmés, vous vous retrouverez avec une catastrophe. C’est ce qui arrive avec les informations que vous mettez dans une machine. Ils n’ont pas d’éthique, ils ne font que calculer, donc ils imitent aussi les préjugés. Si vous prenez en compte les données et ne mettez que ce qui vous intéresse ou ce en quoi vous croyez, cela vous donnera toujours la même chose. Si vous n’avez pas de réglementation ou d’éthique déontologique, et que vous ajoutez à cela une volonté pornographique de gagner de l’argent, vous êtes déjà dans le pétrin. Les algorithmes sont le pur reflet d’une automatisation de la société dans laquelle règnent par exemple le machisme et l’homophobie. C'est pourquoi il est nécessaire d'établir des protocoles éthiques dans le cadre du développement de ces biais. Ne laissez pas les choses passer entre les mailles du filet, faites vos propres tests pour voir si vous êtes partial ou si vous êtes injuste.
L’une des craintes les plus courantes est que « l’IA va prendre nos emplois ». Comment la plupart des entreprises développent-elles cette restructuration du travail, cette transition vers l’IA ?
Il y a des entreprises et des sociétés, car en Espagne, la majorité du monde des affaires est constituée de PME de neuf personnes, et chacune l'aborde comme elle le peut. Certains commencent déjà à dispenser des formations dans différents domaines et d'autres sont encore en train de voir leurs fonctionnalités et leurs outils et de décider de les appliquer ou non. Dans les grandes entreprises, comme BBVA, Elena Alfaro, responsable de la mise en œuvre de l'IA, on voit déjà gestionnaires des stratégies globales qui définissent la stratégie culturelle et l'acquisition d'aptitudes et de compétences, la formation en bref, pour gérer ces IA. L’étude « State of AI in Business » du MIT (Massachusetts Institute of Technology) indique que 90 % des salariés utilisent ce qu’on appelle eux-mêmes. IA de l'ombreC'est-à-dire son utilisation non autorisée. C'est pourquoi ils doivent avoir une stratégie culturelle, définissant des rôles clairs parmi leurs employés, établissant des responsabilités spécifiques pour l'IA et formant les personnes qui utiliseront ces outils pour se conformer à la réglementation.
Selon vous, quel rôle jouent les entreprises technologiques dans la correction des biais algorithmiques et la construction de systèmes d’IA plus responsables ?
Tous. Meta (Zuckerberg) a supprimé l’intégralité de la politique de surveillance des biais, nous allons donc continuer à reproduire toutes les failles répandues sur Internet. Ils ont un rôle fondamental, c’est pourquoi il est si important qu’en Europe nous mettions en place une réglementation.
Et sur la base de votre expérience, quels changements structurels sont nécessaires pour qu’il y ait davantage de femmes qui conçoivent, dirigent et supervisent les technologies d’IA ?
Comme le disait Mary Beard dans son merveilleux livre « Women and Power », la société est purement masculine. Cela a toujours été le cas dans le domaine de la technologie, par exemple dans le développement de logiciels. Au début, les tâches les plus fastidieuses étaient accomplies par les femmes. Mais lorsque ce secteur a commencé à être très bien payé, les hommes ont commencé à le diriger en occupant des postes de pouvoir. Il faut développer et encourager une plus grande diversité dans les équipes, en commençant dans les écoles en montrant que l’IA peut changer le monde. Il devrait également y avoir des allègements fiscaux pour permettre à ces entreprises d'embaucher davantage de femmes. Dans les grandes entreprises technologiques de Chine, des États-Unis et de Russie, il y a peu de femmes ; Les rares qui étaient là ont été expulsés ou partis.
Comment imaginez-vous le quotidien dans vingt ans par rapport à l’IA ? Quels changements seront les plus visibles pour les gens ordinaires ?
Dans le domaine de la santé, nous allons voir davantage de médecine prédictive et préventive, car nous aurons une puce électronique dans notre corps qui nous avertira de surveiller notre santé. Nous pouvons développer ou fournir des solutions à distance. Nous aurons un enseignement plus individualisé afin de pouvoir adapter le contenu à l'évolution ou au développement cognitif de chaque élève. L'IA accompagnera les personnes souffrant d'une solitude non désirée ou qui veulent être seules, mais veulent tomber amoureuses, comme cela s'est produit dans le film « Her ». Ou, comme cela s'est produit dans la série « Upload », lorsque les personnages mouraient, leur conscience pouvait être reproduite dans un espace similaire sur Internet. Dans le domaine de la mobilité, on peut aller de Huesca à Malaga en hyperloop. Bref, nous aurons ce qui est actuel, mais élevé au nième degré. Il y aura aussi une tendance à la déconnexion, il y aura un black-out, mais choisi. Lorsque nous avons vécu le mois d’avril, les gens sont descendus dans la rue pour interagir les uns avec les autres. Il y aura une tendance à disparaître des réseaux sociaux : ce sera le plus cool.
Enfin, quelle réflexion aimeriez-vous que les lecteurs retiennent après avoir terminé Future Lives ?
Qu’il n’y a pas lieu d’avoir peur de l’IA. C'est un outil comme la calculatrice, un excellent copilote qui nous permettra de faire des choses incroyables, comme gérer l'information de manière productive et travailler plus efficacement. Cela ne va pas supprimer leur emploi, cela va le retirer à ceux qui ne savent pas comment s'y prendre. Et l’IA ne se sentira jamais excitée, c’est une machine, comme la voiture. Nous avons et continuerons d’avoir une intelligence émotionnelle et sociale, et ce contact humain ne disparaîtra jamais. Les personnes possédant des compétences sociales et émotionnelles seront très valorisées et disposeront de davantage d’options d’emploi. Il y a des emplois qui ne seront jamais assurés par des machines, comme la vente, le soin, le travail manuel et l'art, qui bouge et bouge tellement. Ces machines ont de la mémoire, mais elles ne se souviennent pas (se souvenir, étymologiquement, c'est « repasser par le cœur »). En souvenir de la grande Gloria Fuertes, j'invite les gens à profiter pleinement de son intelligence.
