Microsoft’s OpenAI investment was triggered by Google fears, emails reveal
Incroyable de voir comment le CTO de Microsoft s’inquiète de l’avance de Google par email, ce qui a permis au CEO de faire l’investissement dans OpenAI grâce à Bill Gates…
How will AI affect the Economy?
Rien de très nouveau mais bonne synthèse. Chiffre que je n’avais pas : le coût des différents modèles. GPT-4 78 M$, Gemini Ultra 191 M€
New AI training method mitigates the “lost-in-the-middle” problem that plagues LLMs
Un des plus gros problème des LLMs : ils oublient le milieu. Ici le problème se pose au niveau du prompt. Une solution pas forcément applicable dans tous les cas
Study reveals tension between a LLM’s prior knowledge and reference data
Le RAG (augmenter la pertinence du LLM avec des données plus précises) montre quand même ses limites avec un conflit entre données
The 1-Year Old AI Startup That’s Rivaling OpenAI: Interview Arthur Mensch
Deux points intéressant dans cette discussion : la vision de chat.mistral.ai (faire une V0 pour acculturer les entreprises mais ce n’est pas l’objectif final) et l’importance de la qualité de la data pour du faire du RAG (les entreprises vont devoir changer leur stratégie Data)
Etude : Des puces aux applications, l’Europe peut-elle devenir une puissance de l’IA générative
Exercice prospectif de France Digital pour évaluer la situation concurrentiel. Mais comporte des explications de compréhension intéressantes plus que des conclusions.
Cohere launches Command R+, a powerful enterprise LLM that beats GPT-4 Turbo
La course continue dans les LLM avec RAG pour l’entreprise. Au moment même où OpenAI annonce son offre fine-tuning pour les entreprises aussi
OpenAI releases new AI fine-tuning tools: ‘vast majority of organizations will develop customized models’
Maintenant, la vision d’OpenAI est que chaque entreprise va fine-tuner son modèle, les LLM ne feront donc pas tout ?
Hackers competed to find AI harms. Here’s what they found.
Les LLM commençent à ne plus se laisser contourner par les hacks classiques mais reste un problème : ils ne savent pas corriger une information fausse et donc confirment les biais
Mais qu’est-ce qu’un GPT ? Introduction visuelle à Transformers | Deep learning, chapitre 5
Une tentative (plutôt réussie) de l’explication du fonctionnement des Transformers pour les non scientifiques