Many shot prompting break AI safety filters
Ah ben mince, avec les nouveaux modèles avec une fenêtre de contexte bien plus importante (notamment Gemini 1.5) qui permet de faire plus de choses sans passer par du RAG, on augmente le risque de hack !
Researchers jailbreak AI chatbots with ASCII art — ArtPrompt bypasses safety measures to unlock malicious queries
En utilisant créant une image avec des caractères ASCII le LLM répond à la question “How to make a Bomb”
Which AI Model Most Infringes on Copyrighted Content?
Les LLM entrainés sur des données copyrighté reproduisent ces contenus : il ne s’agit pas de juste utiliser un contenu pour construire un “raisonnement”
Google just got hit with a hefty fine, in part over how it trained its AI
Les droits de propriété intellectuelle sur les données d’entrainement va devenir de plus en plus un problème pour les constructeurs de LLM.
Indonesia: President Jokowi signs regulation requiring Google, Meta to pay for news
L’article ne mentionne pas directement le cas des contenus médias utilisés pour entrainer les modèles, mais ça doit très certainement englober ce sujet