Une IA Ethique pour transformer votre business
Bien que rien de très neuf dans cette définition des Agents IA, il est toujours utile de se mettre au clair sur les définitions précises des différents concepts poussés par les équipes marketing les plus puissantes du monde et repris parfois avec peu de précision dans les médias. C’est clairement l’étape du moment qui devrait éclipser l’IA Générative ou le positionner comme un outil IA parmi d’autres. A sa place donc.
Toujours intéressant de ne pas projeter ses propres avis sur les réactions supposées des autres. Ici dans le cas d’entretiens d’embauches fait par une IA et bien sûr validée par un humain, la première étape de l’interview est mieux vécue par les candidats qui l’ont trouvée agréable et moins stressante. Car oui les IA sont très empathiques. Quant aux biais qu’elles pourraient créer, l’objectif d’en créer moins que les humains permet d’y aller un peu plus sereinement. On entend souvent que les candidats ne voudront pas parler à une IA et que les biais seraient trop dangereux. Avec cette approche peut-être pas ?
Ce n’est pas une nouveauté que les LLM font beaucoup d’erreurs. C’est même ok vu leur “âge”. Cela ne veut pas dire qu’il ne faut pas s’en servir, au contraire, il faut mesurer les erreurs et augmenter la précision sur des cas d’usages spécifiques et critiques. Ce qui est plus surprenant ici, c’est que Whisper est fourni à toutes les grandes entreprises mondiales via OpenAI, Oracle et Microsoft, qu’il a été téléchargé 4 millions de fois en open-source et 30 000 cliniciens l’utilisent aux États-Unis. Personne n’a testé la qualité avant de se jeter dessus ?
Cela n’aura pas été long : Trump parle déjà d’effacer les efforts de régulation sur l’IA menés par Biden et de “deregulate whenever possible”. Avec son nouveau copain Elon Musk qui y a tout intérêt, la probabilité que cela devienne une réalité devient forte. L’EU AI Act va sembler bien seul et sera probablement à risque. On partirait dans une course à l’IA sans aucun garde-fous ? Avec les Chinois en face qui vont jouer l’escalade. Cela ferait un bel épisode de Black Mirror. Pas besoin de le produire, on va le voir en direct…
Jean-Marc Jancovici pointe un sujet important concernant l’impact de l’IA sur le grand public qu’on regarde peu : la demande qu’elle va créer en remplacement des smartphone/PC devenus obsolètes. Ces matériels représentent 70% de notre impact dans l’usage des nouvelles technologies. Même si le taux d’équipement est fort dans la plupart des pays, j’y ajouterais les nouveaux utilisateurs qui viendraient pour des services liés à l’IA. S’ils sont pertinents et utiles, pourquoi pas, mais alors, il y a urgence à mettre en place une vraie filière de recyclage. Si c’est pour des gadgets certes drôles et inutiles, le coût pour la planète pourrait être démesuré.
Cette vidéo est mythique, je ne peux m’empêcher de la ressortir 11 mois plus tard : c’est la vision de Publicis sur l’IA en janvier 2024. Le grand boss fait une démo d’un produit qui n’existe pas (on m’a dit chez Publicis, “ah oui c’était des mock-up” avec un petit air pincé tout de même) et l’arrivée d’un MVP pour juin 2024 à Vivatech. C’est dommage, parce que c’est très bien vu. Mais je n’ai pas entendu grand-chose sur l’exécution. La vidéo a été modifiée en mai 2024, et d’après le transcript le MVP est maintenant prévu dans la seconde partie de 2024. Vous ne pensez tout de même pas que… ? Non ! Pas à l’ère de la transparence et de l’éthique que nous vivons !
Un maire, ancien avocat, conscient de la révolution de l’IA, l’offre à tous ses administrés (qui le demandent) pour les aider et faire progresser le numérique sur sa population de cinquantenaire. Cela devrait être aussi la première étape dans les entreprises ? Avant de se lancer sur des “POC” déceptifs parce que peu réfléchis ? La limite de la technologie est l’humain. Autant commencer par là ?
Après la réactivation des centrales à l’abandon, l’achat de grandes parties de l’énergie verte de demain, les fournisseurs d’IA se tournent vers les mini-centrales nucléaires. Personne ne semble s’en émouvoir. Business as usual ? Ben non en fait !? On se reparle de frugalité dans l’IA pour éviter ça ?
Fascinante étude qui prend enfin le temps d’entrer sur des tests très précis et documentés de la performance des modèles d’IA dans le juridique. Un clan fermé d’acteurs très bien installés et financés et pourtant des performances très éloignées de leur discours marketing. Bien sûr que les progrès vont venir, mais pourquoi faire croire que les hallucinations n’existent plus, même avec du RAG et surtout dans un domaine aussi sensible que le juridique ?
Si vous voulez éviter les 38 pages, les principaux passages en 3 ou 4 pages…
Discussion intéressante avec Yann Ferguson de LaborIA. Il rappelle l’importance des valeurs de l’entreprise ou des équipes, bref de l’humain et des organisations avant de se jeter sur la solution technique. Exemple assez illustrant des “boroscopeurs” avec deux équipes faisant exactement le même métier, mais à la culture de management différente et donc leur réaction opposée à l’IA.