Une IA Ethique pour transformer votre business
Petit rappel sur l’importance d’éviter le Shadow IA dans l’entreprise (50% des collaborateurs ne disent pas à leur manager qu’ils utilisent des IA). Rappel : il vaut mieux payer des versions plus sécurisées. Voici une liste des données stockées par les principaux chatbot. C’est impressionnant, mais pas surprenant : on rappelle que gratuit = c’est vous le produit. Mais avec les données de l’entreprise, cela peut devenir terrifiant…
Ce n’est pas le premier qui s’y essaie, nombreux sont les services pour prendre la main sur votre ordinateur. Mais la différence ici, c’est que c’est un LLM avec le peu de précisions qu’on leur connait. Il peut faire des choses beaucoup plus dangereuses qu’un chatbot enfermé dans sa petite fenêtre. Cela va faire bien sûr avancer le sujet des Agents IA, mais avec quelle prise de risque ?
Cela n’a rien de nouveau, je retombe dessus et m’étais bien amusé à hacker un GPT en lui faisant révéler un mot de passe. Ca demande un peu de connaissance quand même. On se rend compte que c’est à la fois facile et difficile : le jeu du chat et de la souris fait que le niveau monte. Une expérience à vivre pour relativiser les discours rassurant des fournisseurs de LLM.
Un gros rappel que les IA sont des boîtes noires dont personne (même leurs créateurs) ne savent exactement comment elles fonctionnent, cf le Golden Gate Bridge. Ça bouge très vite, accentuant les risques, notamment avec des agents autonomes. Les entreprises doivent autant investir dans la sécurisation que dans l’innovation.