04-Regulation

Trump plans to dismantle Biden AI safeguards after victory

Cela n’aura pas été long : Trump parle déjà d’effacer les efforts de régulation sur l’IA menés par Biden et de “deregulate whenever possible”. Avec son nouveau copain Elon Musk qui y a tout intérêt, la probabilité que cela devienne une réalité devient forte. L’EU AI Act va sembler bien seul et sera probablement à risque. On partirait dans une course à l’IA sans aucun garde-fous ? Avec les Chinois en face qui vont jouer l’escalade. Cela ferait un bel épisode de Black Mirror. Pas besoin de le produire, on va le voir en direct…

Mesure danger

Longtime policy researcher Miles Brundage leaves OpenAI

On ne va plus tenir la liste de tous les départs de OpenAI mais ça se confirme, le projet “non-profit” et sensible aux risques de l’IA sur notre monde n’est vraiment plus d’actualité. Maintenant, ils perdent l’un des responsables des red team (qui testent la sécurité des modèles) qui dit poliment, je ne sers plus à rien… Décidément une semaine sour le signe de la sécurité des IA.

Mesure danger

Sabotage evaluations for frontier models

Beaucoup de sentiments contradictoires à la lecture de cette page d’Anthropic le créateur du modèle Claude. Ils rappellent que dans le nucléaire ou l’automobile, on ne peut pas sortir un modèle sans tester sa dangerosité. Mais c’est fait par de la régulation dans ces secteurs. Dans le monde l’IA, les fournisseurs de modèles s’arrangent comme ils veulent. Alors oui, c’est bien que Anthropic partage ses mesures de contrôle, mais est-ce vraiment à lui de le faire ? Et une semaine avant d’annoncer Claude 3.5 qui prend le contrôle de votre ordinateur pour agir dans le monde physique…

04-Regulation

U.S. Federal Trade Commission launches Operation AI Comply to tackle deceptive business practices

Aux Etats-Unis, l’équivalent de l’Autorité de la Concurrence et de la DGCCRF en France attaque des sociétés soupçonnées de survendre les bienfaits de l’IA. C’est bien. Mais pourquoi pas Microsoft, OpenAI ou Google quand ils truquent (un peu, parfois beaucoup) les démos pour les entreprises ? Ou quand à longueur d’événements ils dressent une situation de l’IA où tout marche à la perfection ? Car rares sont les journées on l’on ne rencontre pas un dirigeant témoignant d’un POC super existant, suivi de plusieurs mois de galère, voire l’abandon pur et simple. Et vous, qu’en pensez-vous ?

04-Regulation

FTC’s new war on false AI claims

At last! Si la FTC (surtout à destination du consommateurs, moins des entreprises) s’en mêle, c’est qu’on n’est pas les seuls à observer avec étonnement comment le marketing des GAFAM(N) touche et dépasse la limite du réel. Et ils ne rendent pas un service au marché (not a big news) parce que la pente de la désillusion chère à la courbe du Hype de Gartner va être d’autant plus verticale. Et ce n’est pas une bonne nouvelle pour l’implémentation en entreprise. N’oubliez pas que vos collaborateurs ont besoin d’être embarqués dans cette transformation

Codes éthiques

Extracting Concepts from GPT-4

Ca commence par “We currently don’t understand how to make sense of the neural activity within language models”. Tout comme le récent “Golden Gate Claude” d’Anthropic et la recherche correspondante, les entreprises d’IA travaillent toujours pour comprendre ce qui se passe réellement sous le capot. Déchiffrer la boîte noire de l’IA serait un grand pas vers une meilleure sécurité, un meilleur ajustement et une meilleure contrôlabilité des modèles en rapide évolution. Mais bon, c’est quand même assez dingue d’observer ça…

Codes éthiques

Former and current employees of mostly OpenAI warn of risks of advanced AI

Enfin une raison de se rassurer sur les contre-pouvoirs des conséquences de l’IA. Mais ils viennent de l’intérieur et le management de OpenAI va dans le sens contraire. Et les régulateurs sont bien impuissants malgré leurs gesticulations. La suprématie des GAFAM et maintenant OpenAI ou Nvidia reste un sujet, au moment où ils sont sur-financés et où leur logique est de donner un produit au marché et que chacun s’arrange avec. Avec des outils dangereux, cela ne peut pas fonctionner, on n’aurait jamais l’idée de faire ça avec des armes, de la drogue ou des outils de manipulation de masse. Et pourtant…