Une IA Ethique pour transformer votre business
Présentation très inspirante de Amy Webb sur la projection des projets actuels dans le futur et de l’importance de les prévoir plutôt que d’être surpris quand ça dérape. Par exemple quand la technologie nous dépasse et casse un pilier fondamental de notre civilisation.
Cas d’usage de l’IA assez complet chez L’Oréal. Un bon mix de travail sur la donnée propriétaire, de partenariats technologiques, de principes pour une IA de confiance sans oublier la formation des collaborateurs. Un exemple à suivre !
Après la BBC, une nouvelle étude qui pointe les erreurs des LLM sur le résumé d’informations des médias. 60% pour ChatGPT et 94% pour Grok. Il faut juste le savoir, et tout utilisateur professionnel ou intensif s’en rend vite compte. C’est presque normal vu la jeunesse de ces solutions. À prendre en compte si des décisions business sont prises sur ces “informations” ou, plus insidieux, que nos collaborateurs affirment des choses sans préciser la source…
La CNIL publie ses recommandations pour le développement d’une IA innovante et responsable. Les règles RGPD sont difficilement applicables sur les LLM. La CNIL apporte un peu de souplesse : l’information et des solutions raisonnables pourraient suffire. Position assez pragmatique avant que l’évolution technologique ne permette de faire différemment.
Cas d’usage intéressante de l’IA chez Paramount. Dans la courbe de la hype, ils se voient au moment où on n’y est pas encore, mais plein de choses à faire, il faut s’y mettre maintenant ! On pourrait penser que cette industrie bloquerait plus ayant peur de se faire “remplacer”. Les “incumbents” n’ont pas dit leur dernier mot !
Maintenant que les agents (autonomes) pullulent un peu partout, le problème, c’est leur interopérabilité. Un framework vient d’être lancé sur le modèle du TCP/IP et DNS des premières heures d’Internet. À surveiller de près, c’est effectivement ce qui manque pour développer les usages dans les entreprises.
Petit rappel sur l’importance d’éviter le Shadow IA dans l’entreprise (50% des collaborateurs ne disent pas à leur manager qu’ils utilisent des IA). Rappel : il vaut mieux payer des versions plus sécurisées. Voici une liste des données stockées par les principaux chatbot. C’est impressionnant, mais pas surprenant : on rappelle que gratuit = c’est vous le produit. Mais avec les données de l’entreprise, cela peut devenir terrifiant…
De nombreuses entreprises oublient de mettre en place un outil de mesure de la progression ou de la régression des solutions IA. Elles ne sont pas si compliquées à mettre en œuvre bien que souvent consommatrice de temps. Tant de variables (entre LLM différents, prompting, RAG et fine-tuning) bougent qu’il parait dangereux de ne pas y prêter attention.
Et oui, même si on est pressé, on n’oublie pas le Code du travail : tout projet de changement technologique doit être partagé au CSE. C’est juste une consultation, donc pas forcément de blocage à anticiper, mais il faut le faire. Le Tribunal de Nanterre vient de le rappeler dans un jugement. Et cela n’est certainement pas une exception puisque la loi est très claire sur le sujet. À ne pas oublier dans les entreprises de plus de 50 salariés. C’est aussi du bon sens : on imagine mal se lancer dans un projet de transformation avec l’IA sans intégrer les équipes.
Un sujet que l’on voit de plus en plus : les agents IA vont disrupter le SaaS. Parce qu’ils vont devenir vraiment autonomes et qu’ils peuvent dans un premier temps opérer les logiciels SaaS. Et dans un second temps les remplacer. Une phase d’une vingtaine d’années qui s’achève ? Cela va impliquer beaucoup de choses dans les organisations des entreprises.