Codes éthiques

This watchdog is tracking how AI firms are quietly backing off their safety pledges

Incroyable : c’est le projet d’un particulier qui surveille l’évolution des engagements de sécurité dans le développement de l’IA. On y voit ainsi OpenAI ou Google enlever les mentions s’interdisant de produire des armes. Ou toutes les sociétés ayant fait des promesses à l’AI Safety Summit à Séoul ne pas les respecter. Particulièrement dangereux quand tout le monde parle d’AGI. Cela pourrait aussi être un critère de choix pour les entreprises qui choisissent leurs modèles de fondation…

Codes éthiques

Extracting Concepts from GPT-4

Ca commence par “We currently don’t understand how to make sense of the neural activity within language models”. Tout comme le récent “Golden Gate Claude” d’Anthropic et la recherche correspondante, les entreprises d’IA travaillent toujours pour comprendre ce qui se passe réellement sous le capot. Déchiffrer la boîte noire de l’IA serait un grand pas vers une meilleure sécurité, un meilleur ajustement et une meilleure contrôlabilité des modèles en rapide évolution. Mais bon, c’est quand même assez dingue d’observer ça…

Codes éthiques

Former and current employees of mostly OpenAI warn of risks of advanced AI

Enfin une raison de se rassurer sur les contre-pouvoirs des conséquences de l’IA. Mais ils viennent de l’intérieur et le management de OpenAI va dans le sens contraire. Et les régulateurs sont bien impuissants malgré leurs gesticulations. La suprématie des GAFAM et maintenant OpenAI ou Nvidia reste un sujet, au moment où ils sont sur-financés et où leur logique est de donner un produit au marché et que chacun s’arrange avec. Avec des outils dangereux, cela ne peut pas fonctionner, on n’aurait jamais l’idée de faire ça avec des armes, de la drogue ou des outils de manipulation de masse. Et pourtant…