Une IA Ethique pour transformer votre business
Shame on us! La Tech des vingt dernières années était loin d’être équilibrée entre femmes et hommes. Avec l’IA, c’est encore pire : 22% des femmes dans l’écosystème de l’IA, et seulement 33% d’utilisatrices de ChatGPT au niveau mondial ! Donc biais à tous les étages dans l’entraînement des modèles et la moitié (un peu plus) de la planète qui passe à côté de l’IA…
Une bonne synthèse de la situation sur les bases de données d’entraînement (texte, audio, vidéo et photo) indispensables aux LLM. C’est encore le Far West, cependant tous les pays listés vont vers un respect des droits d’auteurs. Une bonne nouvelle, autant pour les auteurs que pour les marques utilisatrices des images ou des textes.
Rassurant ! Les fournisseurs de modèles ne sont plus trop capables de dire d’où vient la data et s’ils peuvent en faire un usage commercial ou pas. 90% de la data est en anglais et sur une culture anglo-saxonne : c’est trop compliqué d’entrainer un modèle prenant en compte différentes cultures. Le web est aussi à 90% en anglais. Rien ne nouveau sur le contenu, mais que se passe-t-il sur les modèles de raisonnements et l’aide à la prise de décision en entreprise ?
Google et OpenAI profitent de la tendance politique aux US pour tenter de se débarrasser des questions de droits d’auteurs / voisins sur les data d’entrainement et de garder les modèles en mode boîte noire. Cela va à l’opposé de la plupart des “bills” dans les États et bien sûr de l’IA Act en Europe. Ce sont deux piliers fondamentaux de l’IA Éthique qui sont à risque.
Face aux robots d’IA qui ignorent les règles et aspirent les contenus web sans permission, une parade émerge : les “tarpits” (fosses à goudron). Ces pièges numériques, inspirés des techniques anti-spam, sont conçus pour embourber les crawlers dans des données inutiles. Un petit pied de nez aux géants de l’IA, même si la bataille reste symbolique. Cela confirme encore, s’il en était besoin, que la guerre à la donnée fait rage. Et il faudra trouver une solution pour que les modèles continuent de s’améliorer.
Concernant DeepSeek vs les US, je ne participerai pas ici à l’excitation générale sur des éléments probablement fantasmés (des deux côtés). Par contre, très factuellement, le nombre d’utilisateurs en dehors de la Chine est énorme. Sur des applications en entreprise, on déconseille déjà le Shadow IA avec un ChatGPT gratuit qui fait la même chose, mais là, on va passer un cran supérieur avec DeepSeek.
On connaissait le manque chronique de données d’entrainement, dont certains voient une explication aux LLM qui commencent à plafonner en performance. Mais de là à ce que Meta utilise sciemment, avec l’accord de Mark Zuckerberg, une base de données de livres piratés sur Bit Torrent, et en plus effacent leurs traces ! Et on parle de contenus “US”. Un retard qui est peu évoqué : quid de la représentativité des autres cultures ? Surtout quand la régulation (pourtant nécessaire) va dans le mauvais sens et les rend encore moins accessibles ? Il est urgent de régler cette question de droits voisins vs “fair use”.
Toujours plus gourmands en données après des accords avec la presse, les fournisseurs de LLM signent avec les éditeurs de livres scolaires aux Etats-Unis. Des deals à plusieurs dizaines de millions de dollars. Et les droits d’auteurs sont respectés, la republication interdite (quoique, à voir…). Quid des éditeurs français et européen ? Les LLM vont devenir meilleurs, mais qu’avec la culture et le savoir anglo-saxon. D’accord, on est déjà bien biberonnés, ce serait l’occasion de renverser la tendance ?
Quand la modération de contenu devient censure vue par les soutiens tech de Donald Trump. Ils commencent à viser Google, Facebook ou OpenAI dans leur tentative d’augmenter la pertinence et réduire les dangers dans les réponses (RLHF). Elon a créé Grok pour proposer une IA “non woke” et reste déçu, certaines réponses ne correspondent toujours pas à sa vision du monde. Cela a le mérite de clarifier un point : les IA ne sont évidemment pas neutres et très influencées par leurs créateurs, pour le meilleur comme pour le pire…
Rien de nouveau malheureusement, on sait que dans l’hémisphère sud le Modern Slavery se développe notamment du fait des sociétés qui ont besoin de Reinforcement Learning grâce aux humains pour améliorer les modèles IA (le fameux RLFH). OpenAI avait déjà été cité du temps de ChatGPT 3.5. Payées 1$ de l’heure (plus que le salaire moyen local) ces personnes sont particulièrement exposés à des contenus insoutenables. Cela a été caractérisé comme de la torture. La nouveauté dans cette enquête de Wired c’est qu’il s’agit d’enfants. Et dans la plus grande indifférence.