Une IA Ethique pour transformer votre business
Sam Altman rappelle qu’on n’est pas encore au niveau des Agents (ce qui serait le niveau 3 défini par OpenAI), mais que nous sommes passés au niveau 2 (Reasoners) avec leur dernier modèle (o1). Cela donne plein d’espoir sur ce qui est à venir et calme en même temps sur la situation actuelle : le terme Agent est plus que galvaudé, même le fournisseur de technologie dit qu’on n’y est pas…
Explication très didactique sur les Agents, notamment comparé aux LLM et aux “compound AI system”. Ca ne prend que 15 minutes, à partager : pas sûr que tout le monde visualise la différence. Notamment quand le marketing parle “d’agents conversationnels” qui brouille les cartes.
Il y a les différents tests plein de biais (on en parlait hier) mais là, c’est du concret : ChatGPT o1 avec son raisonnement logique en “Chain of thoughts” dépasse les humains sur les parties logiques, donc notamment sur le dév. Les compétitions ne peuvent plus accepter des IA, comme précédemment pour les Echecs et le jeu de Go. Clairement une étape de plus qui est franchie dans l’histoire de l’IA.
Les tests de performance LLM sont truffés de biais et utilisés par les fournisseurs de LLM. À garder en tête quand on doit faire le choix pour son entreprise. Un benchmark sur ses propres cas d’usages semble être malheureusement la seule solution.
Cela n’a rien de nouveau, je retombe dessus et m’étais bien amusé à hacker un GPT en lui faisant révéler un mot de passe. Ca demande un peu de connaissance quand même. On se rend compte que c’est à la fois facile et difficile : le jeu du chat et de la souris fait que le niveau monte. Une expérience à vivre pour relativiser les discours rassurant des fournisseurs de LLM.
Un gros rappel que les IA sont des boîtes noires dont personne (même leurs créateurs) ne savent exactement comment elles fonctionnent, cf le Golden Gate Bridge. Ça bouge très vite, accentuant les risques, notamment avec des agents autonomes. Les entreprises doivent autant investir dans la sécurisation que dans l’innovation.
C’est encore un bel objet marketing, mais ServiceNow (côté au NASDAQ, donc qui en a bien besoin) décrit bien le Agentic workflow dans leur projet. À surveiller parce que sur leur site pour l’instant, c’est vraiment de l’assistant conversationnel, rien de révolutionnaire (depuis la dernière année)
J’évite de suivre les annonces de sorties (ça fatigue et ne fait pas avancer), mais celle-là est importante. Elle montre que la guerre de la conquête de l’Enterprise est loin d’être faite malgré le poids des acteurs et que l’on s’éloigne encore une fois du chat bot pour aller vers l’agent qui engrange une vraie connaissance métier. Et cela va très certainement profiter aux petites entreprises avant tout.
Discussion passionnante pour comprendre le concept des Agents IA avec le co-fondateur/CTO de Hubspot (et investisseur dans OpenAI !). Il faut écouter pour comprendre que les agents articulant toutes les IA sont vraiment ce qui va tout changer. Et on n’y est pas encore. Mais son concept de créer un réseau social pour les agents IA qui vendent leur savoir-faire est extrêmement bien vu.
Une page à surveiller : le niveau de contenu généré par l’IA sur Internet (via Google). C’est pour faire la promo d’un service de détection de contenu AI (pas sûr qu’il marche) mais en tendance ça doit être bon. Là où le chat va se mordre la queue, c’est quand ces contenus artificiels seront eux-mêmes utilisés pour alimenter les modèles… Du synthetic content pour les entraînements de modèles sans le vouloir…