04-Regulation

Shaping Europe’s leadership in artificial intelligence with the AI continent action plan

Maintenant que tout le monde a compris le vrai visage des Tech Bros (lisez leur littérature du “Scale”, tout y est écrit) et leur meilleur pote (pour l’instant), l’Europe réagit aussi sur l’IA avec un plan agressif. On ne peut qu’applaudir, pour toutes les raisons que l’on couvre dans cette veille. Dommage qu’il faille toujours passer par l’électrochoc avant de prendre les décisions responsables. Mais soyons opportunistes : les décisions politiques aux États-Unis nous offrent une opportunité énorme de rattraper notre retard et d’accueillir les meilleurs cerveaux du monde.

Codes éthiques

This watchdog is tracking how AI firms are quietly backing off their safety pledges

Incroyable : c’est le projet d’un particulier qui surveille l’évolution des engagements de sécurité dans le développement de l’IA. On y voit ainsi OpenAI ou Google enlever les mentions s’interdisant de produire des armes. Ou toutes les sociétés ayant fait des promesses à l’AI Safety Summit à Séoul ne pas les respecter. Particulièrement dangereux quand tout le monde parle d’AGI. Cela pourrait aussi être un critère de choix pour les entreprises qui choisissent leurs modèles de fondation…

04-Regulation

Meta déploie son outil d’intelligence artificielle conversationnel en France, qui sera disponible sur WhatsApp, Instagram et Facebook

C’est passé presque inaperçu : le chantage de Meta et d’Apple de ne pas proposer leurs services en Europe alors qu’ils refusaient d’appliquer les lois s’arrête. Meta vient, et en respectant les règles de la CNIL Irlandaise et le DSA. Beaucoup craignaient à l’époque que l’Europe soit à la traîne suite à ces coups de bluff. Mais le business a été plus fort. 450 millions d’habitants, plus riches, avec des pratiques numériques plus développées qu’aux États-Unis, ils ne peuvent vraiment pas s’en passer. A mémoriser pour la prochaine fois.

04-Regulation

Trump plans to dismantle Biden AI safeguards after victory

Cela n’aura pas été long : Trump parle déjà d’effacer les efforts de régulation sur l’IA menés par Biden et de “deregulate whenever possible”. Avec son nouveau copain Elon Musk qui y a tout intérêt, la probabilité que cela devienne une réalité devient forte. L’EU AI Act va sembler bien seul et sera probablement à risque. On partirait dans une course à l’IA sans aucun garde-fous ? Avec les Chinois en face qui vont jouer l’escalade. Cela ferait un bel épisode de Black Mirror. Pas besoin de le produire, on va le voir en direct…

Mesure danger

Longtime policy researcher Miles Brundage leaves OpenAI

On ne va plus tenir la liste de tous les départs de OpenAI mais ça se confirme, le projet “non-profit” et sensible aux risques de l’IA sur notre monde n’est vraiment plus d’actualité. Maintenant, ils perdent l’un des responsables des red team (qui testent la sécurité des modèles) qui dit poliment, je ne sers plus à rien… Décidément une semaine sour le signe de la sécurité des IA.

Mesure danger

Sabotage evaluations for frontier models

Beaucoup de sentiments contradictoires à la lecture de cette page d’Anthropic le créateur du modèle Claude. Ils rappellent que dans le nucléaire ou l’automobile, on ne peut pas sortir un modèle sans tester sa dangerosité. Mais c’est fait par de la régulation dans ces secteurs. Dans le monde l’IA, les fournisseurs de modèles s’arrangent comme ils veulent. Alors oui, c’est bien que Anthropic partage ses mesures de contrôle, mais est-ce vraiment à lui de le faire ? Et une semaine avant d’annoncer Claude 3.5 qui prend le contrôle de votre ordinateur pour agir dans le monde physique…

04-Regulation

U.S. Federal Trade Commission launches Operation AI Comply to tackle deceptive business practices

Aux Etats-Unis, l’équivalent de l’Autorité de la Concurrence et de la DGCCRF en France attaque des sociétés soupçonnées de survendre les bienfaits de l’IA. C’est bien. Mais pourquoi pas Microsoft, OpenAI ou Google quand ils truquent (un peu, parfois beaucoup) les démos pour les entreprises ? Ou quand à longueur d’événements ils dressent une situation de l’IA où tout marche à la perfection ? Car rares sont les journées on l’on ne rencontre pas un dirigeant témoignant d’un POC super existant, suivi de plusieurs mois de galère, voire l’abandon pur et simple. Et vous, qu’en pensez-vous ?

04-Regulation

FTC’s new war on false AI claims

At last! Si la FTC (surtout à destination du consommateurs, moins des entreprises) s’en mêle, c’est qu’on n’est pas les seuls à observer avec étonnement comment le marketing des GAFAM(N) touche et dépasse la limite du réel. Et ils ne rendent pas un service au marché (not a big news) parce que la pente de la désillusion chère à la courbe du Hype de Gartner va être d’autant plus verticale. Et ce n’est pas une bonne nouvelle pour l’implémentation en entreprise. N’oubliez pas que vos collaborateurs ont besoin d’être embarqués dans cette transformation

Codes éthiques

Extracting Concepts from GPT-4

Ca commence par “We currently don’t understand how to make sense of the neural activity within language models”. Tout comme le récent “Golden Gate Claude” d’Anthropic et la recherche correspondante, les entreprises d’IA travaillent toujours pour comprendre ce qui se passe réellement sous le capot. Déchiffrer la boîte noire de l’IA serait un grand pas vers une meilleure sécurité, un meilleur ajustement et une meilleure contrôlabilité des modèles en rapide évolution. Mais bon, c’est quand même assez dingue d’observer ça…