3 enseignements clés sur l'innovation en matière d'IA tirés de la conférence Ai4 2025 à Las Vegas

La semaine dernière à Las Vegas, la conférence Ai4 s'est tenue pour la huitième année consécutive afin de réunir des développeurs, des data scientists, des chefs d'entreprise et des spécialistes des technologies pour échanger sur tous les aspects de l'IA. J'ai assisté à de nombreuses sessions et eu de nombreuses discussions avec des acteurs du secteur ; voici donc un résumé de ce qui, selon moi, en ressort.

Tout le monde subit une pression pour adopter l'IA. Les dirigeants doivent pouvoir répondre à la question « Que faites-vous en matière d'IA ? » et montrer qu'ils investissent dans ce domaine. 

Tout le monde sait qu’il s’agit d’une transformation majeure, et nous en sommes à un stade où les possibilités dépassent les schémas établis. Par conséquent, les gens abordent les projets comme des expériences, pour voir ce qui va marcher et ce qui va échouer. Cette approche expérimentale s’accompagne d’une tolérance à un taux d’échec relativement élevé. Lors d’une session intitulée « Driving AI ROI », Jyothi Srirangam de PayPal a posé la question suivante : « Si je vous disais que plus de 50 % des projets d’IA échouent, investiriez-vous quand même dans ces projets ? » Plusieurs personnes ont répondu « Oui ! » à voix haute et j’ai vu des têtes acquiescer un peu partout dans la salle. Elle a poursuivi :

Cela dit, le fait de reconnaître qu’il s’agit là d’applications non éprouvées d’une nouvelle technologie alimente l’appétit pour le risque. Dans son intervention, Rajesh Janu, de Mastercard, a évoqué le tristement célèbre incident survenu chez Knight Capital Group. Cet incident s'est produit en 2012, à l'« âge de pierre » de l'IA, mais il constitue un véritable avertissement : à cause d'un « bug » dans leur algorithme, ils ont perdu plus de 440 millions de dollars en seulement 45 minutes, plongeant le marché dans le chaos et manquant de peu de causer la faillite de leur entreprise. Les exemples abondent quant aux dommages financiers et à l'atteinte à la réputation causés lorsque l'IA déraille ou est détournée par des acteurs malveillants. (Voir cet article, qui se concentre principalement sur l’aspect DevOps de cet incident, mais qui constitue une lecture très intéressante de 5 minutes)

Si les risques liés aux innovations de pointe peuvent dissuader certains de s'engager dans des cas d'utilisation plus avant-gardistes, il existe toutefois des cas où la « majorité précoce » se montre de plus en plus réceptive. Ce clivage semble particulièrement marqué dans le secteur financier. Parmi les cas d'utilisation les plus établis et les mieux acceptés dont j'ai entendu parler dans ce secteur, on trouve les outils de productivité destinés au personnel (par exemple, celui de la CIBC Chris Patterson a présenté une suite primée d’outils de productivité pour les employés basée sur OpenAI), les agents du service client et la documentation destinée aux clients.

Ce que nous observons ici est vraiment intéressant du point de vue du modèle « Crossing the Chasm » : d’un côté, la majorité précoce adopte des cas d’utilisation plus sûrs et mieux établis, tandis que, de l’autre, les innovateurs continuent d’explorer les limites de la technologie, du modèle économique et des utilisateurs.

En informatique, la distinction entre « déterministe » et « non déterministe » désigne le fait de savoir si, pour une entrée donnée, un algorithme produira toujours le même résultat en passant par les mêmes états pour y parvenir (déterministe), ou non (non déterministe). 

L'IA générative nous a fascinés et enchantés en grande partie grâce à sa nature non déterministe ; elle peut faire preuve de créativité, elle peut offrir l'inattendu, elle peut vous surprendre par les liens qu'elle établit. Pour de nombreuses tâches, ce sont là autant d'avantages considérables. 

Dans le secteur financier, il existe une multitude d’applications prometteuses de l’IA générative pour réduire le travail manuel et améliorer l’expérience client, mais nous devons concilier la nature non déterministe de l’IA générative (et, à un degré encore plus élevé, de l’IA agentique) avec les réglementations et les cadres de gestion des risques. Les institutions financières doivent depuis longtemps s’assurer que leurs systèmes ne comportent aucun biais, et que toutes les décisions sont explicables et reproductibles. De plus, pour que ces décisions puissent être justifiées, elles doivent être prévisibles. J’ai entendu plusieurs versions de ce constat lors de différentes interventions, tant en ce qui concerne les cadres de gestion des risques internes des institutions financières que les préoccupations réglementaires.

Au cours d'une séance, EJ Achtner, responsable de l'intelligence artificielle appliquée chez BMO, l'a formulé ainsi :

Cela ne ressemble pas à de l’IA générative. Ce constat est d’autant plus vrai si l’on prend en compte la prise en compte du contexte et la génération augmentée par la recherche (RAG) avec un catalogue de ressources en constante évolution. Le stoïcien Héraclite disait : « Nul ne peut se baigner deux fois dans le même fleuve, car ce n’est plus le même fleuve et ce n’est plus le même homme. »

Ce qui me frappe dans cette discussion, c’est que nous essayons d’utiliser l’IA pour remplacer des tâches effectuées par des personnes. Je ne suis pas sûr qu’il existe quelque chose de plus non déterministe que les humains… Devons-nous donc revoir notre conception du déterminisme et miser plutôt sur la vérifiabilité, la transparence et l’analyse ? Ou devons-nous trouver comment rendre l’IA générale plus déterministe ? À mon avis, nous devrions nous efforcer de faire les deux.

S’exprimant sur son point de vue à ce sujet en matière de risques et de conformité, Dustin Eaton, responsable de la lutte contre la fraude et du lutte contre le blanchiment d’argent chez Taktile, déclare :

Presque toutes les personnes à qui j’ai parlé s’inquiétaient de l’incertitude qui règne quant au cadre réglementaire dans un avenir proche. Pour l’instant, la question principale est de savoir si l’IA sera réglementée au niveau fédéral, au niveau des États, ou aux deux niveaux. Je pense que le secteur technologique y est quelque peu habitué (voir les réglementations en matière de protection de la vie privée pour une bonne analogie), tout comme le monde des affaires (voir la taxation ou l’interdiction de certains ingrédients alimentaires aux niveaux fédéral et local), mais savoir que cela va arriver sans avoir la moindre idée de CE QUI va exactement se passer (ni quand), cela pose problème. 

La première loi de l'UE sur l'intelligence artificielle pourrait constituer un bon indicateur. Pour les acteurs du secteur financier, cette loi a identifié l'octroi de crédits et la souscription d'assurances comme des cas d'utilisation « à haut risque » de l'IA.

À noter : notre cofondateur Maximilian Eber (en collaboration avec Philipp Hacker) a rédigé un article détaillé dans la Harvard Data Science Review expliquant ce que cela signifie pour les services financiers une fois que la loi entrera en vigueur. 

Même si les entreprises ne semblent pas pour autant se laisser paralyser par cette situation, celle-ci semble influencer les cas d'utilisation qu'elles privilégient en premier lieu, ainsi que leur réflexion sur la diversification de leur portefeuille de projets. Ravi Venugopal , de Giggso, a évoqué l’importance de la durée de vie des projets, expliquant que les entreprises « souhaitent identifier les projets dans lesquels elles peuvent investir et qui présentent une durée de vie plus longue, afin de déterminer comment y allouer leurs ressources ». 

Même si l'incertitude réglementaire pèse sur les estimations concernant la durée de vie de certains projets, les entreprises ne restent pas les bras croisés : chacune cherche des initiatives à mettre en œuvre.

Les discussions que j'ai eues lors de cette conférence m'ont beaucoup rappelé l'univers des start-ups vers 2010, à l'époque où la révolution mobile commençait à prendre tout son essor, à cette différence près que le temps et l'argent nécessaires pour mener à bien ces expériences sont aujourd'hui bien moindres. À l'instar des sociétés de capital-risque qui constituaient alors des portefeuilles de start-ups spécialisées dans les applications mobiles, les chefs d'entreprise d'aujourd'hui constituent des portefeuilles internes de projets, en s'attendant à un taux d'échec élevé, mais aussi à des retombées considérables en cas de réussite.

Il semble que les entreprises qui réussissent dans ce domaine mettent en place des équipes et des postes au sein de leur structure afin de constituer un portefeuille de projets équilibré en termes de calendrier, de profil de risque et d’impact potentiel. Mona Hassanzadeh, responsable de la science des données et de l’IA chez Meridian Credit Union, a expliqué comment son comité de pilotage de l’IA fonctionne comme un groupe d’investissement centralisé : il constitue un portefeuille d’investissements en fonction du risque, des délais et de l’impact, puis veille à ce que ces projets soient menés de manière sûre et rigoureuse sur le plan opérationnel.

Alors, comment aborder ces expériences ? Les leaders du secteur commencent chaque expérience par une hypothèse fondée sur un indicateur commercial (« Et si nous pouvions doubler la vitesse à laquelle nous faisons X ? Et si nous pouvions réduire le coût de Y de 60 % ? »), en effectuant des mesures de référence, en définissant l’ampleur de leur investissement dans l’expérience et en mesurant les résultats. Si l’on repense aux investissements dans les start-ups menés par les fonds de capital-risque dans les années 2010, le mot d’ordre à la mode était « échouer vite ». Cela pourrait bien être la clé ici aussi. Permettre une expérimentation rapide (ou peut-être, plus précisément, une réfutation) permet aux entreprises d’écarter objectivement ce qui ne fonctionnera pas afin de concentrer leurs investissements sur ce qui fonctionnera. 

En ce qui concerne l'exploitation de l'IA non déterministe : j'ai eu plusieurs discussions sur la manière dont le fait de décomposer les flux de travail des agents en unités de travail plus petites et plus distinctes peut permettre d'améliorer la visibilité et l'instrumentation au niveau de ces unités. Cela permet un meilleur contrôle, une meilleure visibilité et une meilleure traçabilité. Cela peut également aider à structurer les consignes de manière plus concrète.

Préparez-vous à l’imprévisible. La différence entre la prévision et la préparation est un concept essentiel, auquel j’ai beaucoup réfléchi au cours de ces sessions et de ces discussions. On ne peut pas savoir à quoi ressemblera l’avenir, ni prédire les événements « cygnes noirs », par nature imprévisibles, mais on peut prendre des mesures qui nous rendront résilients face à de nombreux avenirs possibles.

 Dans ce cas précis, il s’agit d’intégrer la diversité (au niveau des prestataires, des publics et des cas d’utilisation) dans votre portefeuille de projets, de renforcer votre capacité d’adaptation en mettant en place un processus d’itération rapide, de gérer votre exposition aux risques et de pratiquer le «mettre en place une approche « red team »» votre technologie pour détecter les risques avant qu’ils ne vous rattrapent. La nouvelle génération de responsables de l’IA dans le monde des affaires découvre et affine les modèles à mesure que l’application de cette technologie gagne en maturité, et c’est vraiment passionnant d’y prendre part.

Je terminerai sur une note différente, celle-là même avec laquelle la conférence a en fait débuté : l’oratrice principale, Randi Weingarten, présidente de l’American Federation of Teachers, a ouvert la conférence en nous exhortant à « construire un avenir dans lequel nous voulons vivre, un avenir dans lequel nous voulons que nos enfants vivent ». Nous traversons une période charnière, et nous devons tous garder à l’esprit notre responsabilité envers notre société et notre avenir collectif au moment de décider de la voie à suivre. 

Des remarques ? Des questions ? N'hésitez pas à me contacter, je suis toujours ravi d'échanger.