Sécurité

Slopsquatting: One in five AI code snippets contains fake libraries

Au moment où toute la communauté de développeur se tourne vers la génération de code par l’IA, cette étude rappelle la nécessité de tout vérifier. 20% des “Packages” ajoutés dans le code n’existent pas. Cela donne une idée de la précision actuelle et reste cohérent avec le niveau d’hallucination constaté sur les cas précis. C’est aussi une brèche pour les hackers qui peuvent créer ces packages dont les noms reviennent souvent pour y mettre du code malicieux.

Sécurité

30% of popular AI chatbots share data with third parties

Petit rappel sur l’importance d’éviter le Shadow IA dans l’entreprise (50% des collaborateurs ne disent pas à leur manager qu’ils utilisent des IA). Rappel : il vaut mieux payer des versions plus sécurisées. Voici une liste des données stockées par les principaux chatbot. C’est impressionnant, mais pas surprenant : on rappelle que gratuit = c’est vous le produit. Mais avec les données de l’entreprise, cela peut devenir terrifiant…

Sécurité

Anthropic’s new AI model can control your PC

Ce n’est pas le premier qui s’y essaie, nombreux sont les services pour prendre la main sur votre ordinateur. Mais la différence ici, c’est que c’est un LLM avec le peu de précisions qu’on leur connait. Il peut faire des choses beaucoup plus dangereuses qu’un chatbot enfermé dans sa petite fenêtre. Cela va faire bien sûr avancer le sujet des Agents IA, mais avec quelle prise de risque ?

Sécurité

Welcome to Gandalf: Test Your Prompt Injection Skills!

Cela n’a rien de nouveau, je retombe dessus et m’étais bien amusé à hacker un GPT en lui faisant révéler un mot de passe. Ca demande un peu de connaissance quand même. On se rend compte que c’est à la fois facile et difficile : le jeu du chat et de la souris fait que le niveau monte. Une expérience à vivre pour relativiser les discours rassurant des fournisseurs de LLM.

Sécurité

AI is growing faster than companies can secure it, warn industry leaders

Un gros rappel que les IA sont des boîtes noires dont personne (même leurs créateurs) ne savent exactement comment elles fonctionnent, cf le Golden Gate Bridge. Ça bouge très vite, accentuant les risques, notamment avec des agents autonomes. Les entreprises doivent autant investir dans la sécurisation que dans l’innovation.