New AI training method mitigates the “lost-in-the-middle” problem that plagues LLMs
Un des plus gros problème des LLMs : ils oublient le milieu. Ici le problème se pose au niveau du prompt. Une solution pas forcément applicable dans tous les cas
Study reveals tension between a LLM’s prior knowledge and reference data
Le RAG (augmenter la pertinence du LLM avec des données plus précises) montre quand même ses limites avec un conflit entre données
The 1-Year Old AI Startup That’s Rivaling OpenAI: Interview Arthur Mensch
Deux points intéressant dans cette discussion : la vision de chat.mistral.ai (faire une V0 pour acculturer les entreprises mais ce n’est pas l’objectif final) et l’importance de la qualité de la data pour du faire du RAG (les entreprises vont devoir changer leur stratégie Data)
Etude : Des puces aux applications, l’Europe peut-elle devenir une puissance de l’IA générative
Exercice prospectif de France Digital pour évaluer la situation concurrentiel. Mais comporte des explications de compréhension intéressantes plus que des conclusions.
Cohere launches Command R+, a powerful enterprise LLM that beats GPT-4 Turbo
La course continue dans les LLM avec RAG pour l’entreprise. Au moment même où OpenAI annonce son offre fine-tuning pour les entreprises aussi
OpenAI releases new AI fine-tuning tools: ‘vast majority of organizations will develop customized models’
Maintenant, la vision d’OpenAI est que chaque entreprise va fine-tuner son modèle, les LLM ne feront donc pas tout ?
Hackers competed to find AI harms. Here’s what they found.
Les LLM commençent à ne plus se laisser contourner par les hacks classiques mais reste un problème : ils ne savent pas corriger une information fausse et donc confirment les biais
Mais qu’est-ce qu’un GPT ? Introduction visuelle à Transformers | Deep learning, chapitre 5
Une tentative (plutôt réussie) de l’explication du fonctionnement des Transformers pour les non scientifiques
What Are AI Agents—And Who Profits From Them?
C’est la prochaine révolution, pas encore là mais bonne description des acteurs et des enjeux
ChatGPT, toi et moi c’est fini ?
Ne jamais oublier que les LLM peuvent régresser (comme toute IA) et qu’il faut rester autonome en cas de sortie d’un meilleur modèle