Derniers ajouts

Performance IA

Researchers say an AI-powered transcription tool used in hospitals invents things no one ever said

Ce n’est pas une nouveauté que les LLM font beaucoup d’erreurs. C’est même ok vu leur “âge”. Cela ne veut pas dire qu’il ne faut pas s’en servir, au contraire, il faut mesurer les erreurs et augmenter la précision sur des cas d’usages spécifiques et critiques. Ce qui est plus surprenant ici, c’est que Whisper est fourni à toutes les grandes entreprises mondiales via OpenAI, Oracle et Microsoft, qu’il a été téléchargé 4 millions de fois en open-source et 30 000 cliniciens l’utilisent aux États-Unis. Personne n’a testé la qualité avant de se jeter dessus ?

04-Regulation

Trump plans to dismantle Biden AI safeguards after victory

Cela n’aura pas été long : Trump parle déjà d’effacer les efforts de régulation sur l’IA menés par Biden et de “deregulate whenever possible”. Avec son nouveau copain Elon Musk qui y a tout intérêt, la probabilité que cela devienne une réalité devient forte. L’EU AI Act va sembler bien seul et sera probablement à risque. On partirait dans une course à l’IA sans aucun garde-fous ? Avec les Chinois en face qui vont jouer l’escalade. Cela ferait un bel épisode de Black Mirror. Pas besoin de le produire, on va le voir en direct…

03-Planet

L’IA engendrera autant de pollution que 10 milliards d’iPhone jetés d’ici 2030, selon une étude

Jean-Marc Jancovici pointe un sujet important concernant l’impact de l’IA sur le grand public qu’on regarde peu : la demande qu’elle va créer en remplacement des smartphone/PC devenus obsolètes. Ces matériels représentent 70% de notre impact dans l’usage des nouvelles technologies. Même si le taux d’équipement est fort dans la plupart des pays, j’y ajouterais les nouveaux utilisateurs qui viendraient pour des services liés à l’IA. S’ils sont pertinents et utiles, pourquoi pas, mais alors, il y a urgence à mettre en place une vraie filière de recyclage. Si c’est pour des gadgets certes drôles et inutiles, le coût pour la planète pourrait être démesuré.

Changement d'organisation

Unveiling the future of AI at Publicis Groupe

Cette vidéo est mythique, je ne peux m’empêcher de la ressortir 11 mois plus tard : c’est la vision de Publicis sur l’IA en janvier 2024. Le grand boss fait une démo d’un produit qui n’existe pas (on m’a dit chez Publicis, “ah oui c’était des mock-up” avec un petit air pincé tout de même) et l’arrivée d’un MVP pour juin 2024 à Vivatech. C’est dommage, parce que c’est très bien vu. Mais je n’ai pas entendu grand-chose sur l’exécution. La vidéo a été modifiée en mai 2024, et d’après le transcript le MVP est maintenant prévu dans la seconde partie de 2024. Vous ne pensez tout de même pas que… ? Non ! Pas à l’ère de la transparence et de l’éthique que nous vivons !

Apprentissage

À Arcachon, la mairie offre un abonnement payant à ChatGPT à tous les habitants

Un maire, ancien avocat, conscient de la révolution de l’IA, l’offre à tous ses administrés (qui le demandent) pour les aider et faire progresser le numérique sur sa population de cinquantenaire. Cela devrait être aussi la première étape dans les entreprises ? Avant de se lancer sur des “POC” déceptifs parce que peu réfléchis ? La limite de la technologie est l’humain. Autant commencer par là ?

Biais des résultats

Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools

Fascinante étude qui prend enfin le temps d’entrer sur des tests très précis et documentés de la performance des modèles d’IA dans le juridique. Un clan fermé d’acteurs très bien installés et financés et pourtant des performances très éloignées de leur discours marketing. Bien sûr que les progrès vont venir, mais pourquoi faire croire que les hallucinations n’existent plus, même avec du RAG et surtout dans un domaine aussi sensible que le juridique ?
Si vous voulez éviter les 38 pages, les principaux passages en 3 ou 4 pages…

Changement d'organisation

Yann Ferguson (LaborIA)- Etudier le réel impact de l’IA au travail

Discussion intéressante avec Yann Ferguson de LaborIA. Il rappelle l’importance des valeurs de l’entreprise ou des équipes, bref de l’humain et des organisations avant de se jeter sur la solution technique. Exemple assez illustrant des “boroscopeurs” avec deux équipes faisant exactement le même métier, mais à la culture de management différente et donc leur réaction opposée à l’IA.

Cas d'usage

How artificial intelligence is changing the reports US police write

On reste un peu sur sa faim dans ce cas d’usage de l’IA dans la police de Californie, notamment pour savoir si les biais des modèles n’influent pas la rédaction des rapports de police (qui vont faire prendre des décisions aux juges) ou si au contraire la machine est plus objective que l’humain. Mais cela pose de bonnes questions sur des sujets dans lesquels les erreurs de l’IA vont avoir des conséquences réelles. Sur des degrés de dangerosité moindre, le même problème se pose dans quasiment toutes les entreprises.

Mesure danger

Longtime policy researcher Miles Brundage leaves OpenAI

On ne va plus tenir la liste de tous les départs de OpenAI mais ça se confirme, le projet “non-profit” et sensible aux risques de l’IA sur notre monde n’est vraiment plus d’actualité. Maintenant, ils perdent l’un des responsables des red team (qui testent la sécurité des modèles) qui dit poliment, je ne sers plus à rien… Décidément une semaine sour le signe de la sécurité des IA.