Nous entrons dans la troisième phase de l'IA génératrice: d'abord les chatbots sont venus, puis les participants. Maintenant, les agents arrivent: ce sont des systèmes qui aspirent à une plus grande autonomie et peuvent travailler dans des «équipements» ou utiliser des outils pour effectuer des tâches complexes, suivant pratiquement des projets à long terme sans supervision humaine directe et incorporant des qualités optimisées en tant que raisonnement et mémoire.
L'intelligence artificielle générative (IA) suit sa croissance vertigineuse et rien ne semble l'arrêter: maintenant il atteint une troisième phase qui promet un nouveau changement de paradigme. Si les chatbots ont été conçus pour des conversations lignes par ligne, avec des réponses préconfigurées et des assistants numériques ajoutés des connexions avec des outils externes, permettant un certain niveau d'automatisation, les agents indépendants sont une nouvelle phase de développement.
Ces agents de l'IA travaillent avec leurs propres objectifs, planifèrent des étapes séquentielles et utilisent des outils ou collaborent dans «l'équipement» des agents, pour atteindre des objectifs complexes sans intervention constante. Comme expliqué par Daswin de Silva, professeur à l'IA à l'Université de La Trobe, en Australie, dans un article publié dans la conversation, le produit « Star » est actuellement l'agent Chatgpt d'Openai.
Ils pensent et agissent
Cet agent combine deux produits pré-existants (opérateur et recherche profonde) dans un système unique plus puissant qui, selon le développeur, « pense et agit ». Ces types de nouveaux systèmes représentent un pas en avant par rapport aux outils d'IA précédents.
Comment fonctionnent-ils et que peuvent-ils faire? Quels sont vos inconvénients et vos risques? En principe, nous devons garder à l'esprit qu'ils atteignent une autonomie élargie. Cela suggère qu'ils peuvent exécuter des actions sur le nom de l'utilisateur, comme effectuer des achats en ligne ou gérer les investissements.
Dans le même temps, ils développent des stratégies pour atteindre des objectifs divisés en étapes et examinent leurs progrès, profitant de leur plus grande capacité de raisonnement et de mémoire. En ce sens, ils peuvent économiser et profiter des informations sur les interactions précédentes, l'apprentissage des leçons pour améliorer les décisions futures.
L'utilisation des outils intégrés est un autre aspect clé des agents de l'IA: par exemple, ils utilisent des navigateurs ou des modules d'analyse de données en fonction de la tâche, de la conception d'un itinéraire de voyage pour générer des rapports financiers. Comme si cela ne suffisait pas, sans pouvoir travailler en équipe: divers agents spécialisés peuvent être coordonnés pour des projets majeurs, imitant des flux de travail humains.
Applications et risques
Les développeurs expliquent qu'ils peuvent planifier des voyages de porte à porte, y compris la réservation de vol, les hôtels et les activités, qui sont en mesure d'analyser les risques financiers et de modifier des portefeuilles d'investissement en temps réel ou qui peuvent superviser une chaîne d'approvisionnement dans les industries, détecter les échecs et coordonner les remplacements ou les paramètres de logistique.
Malgré tous ces avantages, il existe de nombreux risques. C'est que l'IA, tout en évoluant rapidement, augmente également ses chances de faire des erreurs ou de s'écarter de l'ensemble des objectifs. Un agent peut mal interpréter vos objectifs et adopter des tactiques qui vont dans la direction opposée aux souhaits de l'utilisateur.
Bien qu'ils intègrent la mémoire, ces systèmes restent enclins à générer des informations incorrectes ou « inventées » lorsqu'ils sont confrontés à des données ambiguës. Les vulnérabilités de sécurité sont un autre problème latent: ils peuvent être manipulés par le biais d'attaques informatiques qui modifient leur comportement ou des instructions malveillantes injectées.
De cette façon, alors que nous nous dirigeons vers un environnement où l'IA agit avec l'indépendance croissante, la responsabilité humaine devient plus critique que jamais. Il est crucial d'apprendre à «apprivoiser» le potentiel de ces agents et d'atténuer leurs risques, afin de tirer le meilleur parti de leurs avantages en une journée à jour.
