3 enseignements clés sur l’innovation IA à Ai4 2025 à Las Vegas

3 enseignements clés

1. Nous sommes en mode innovation, même si la majorité précoce arrive

Tout le monde est sous pression pour adopter l’IA. Les dirigeants doivent pouvoir répondre à la question « que faites-vous en matière d’IA ? » et montrer qu’ils investissent dans ce domaine.

Tout le monde sait qu’il s’agit d’une transformation massive, et nous en sommes au stade où les possibilités dépassent les schémas établis. Les équipes traitent donc leurs projets comme des expériences, pour voir ce qui flotte et ce qui coule. Cette approche expérimentale s’accompagne d’une tolérance à un taux d’échec relativement élevé. Lors d’une session intitulée « Driving AI ROI », Jyothi Srirangam de PayPal a posé la question : « Si je vous dis que plus de 50 % des projets d’IA échouent, investiriez-vous quand même ? » Plusieurs personnes ont répondu « Oui ! » à voix haute, et j’ai vu des têtes acquiescer dans la salle. Elle a poursuivi :

« Selon Gartner, plus de 30 % n’atteignent pas le stade au-delà du pilote. Et le plus frappant, c’est que d’ici fin 2025, plus de 30 % des projets d’IA générative n’iront pas au-delà de la preuve de concept. »

Cela dit, le fait de reconnaître qu’il s’agit d’applications non éprouvées d’une technologie nouvelle nourrit l’appétit pour le risque. Dans son intervention, Rajesh Janu, de Mastercard, a évoqué le tristement célèbre incident de Knight Capital Group. Il remonte à l’âge de pierre de l’IA, en 2012, mais reste un récit édifiant : à cause d’un « bug » dans leur algorithme, ils ont perdu plus de 440 millions de dollars en seulement 45 minutes, plongeant le marché dans le chaos et menaçant de détruire leur entreprise. Les histoires abondent sur les dommages financiers et de réputation causés lorsque l’IA dérape, ou est détournée par des acteurs malveillants. (Lisez cet article, qui se concentre surtout sur le volet DevOps de cet incident, mais dont la lecture de 5 minutes est très intéressante)

Si le risque en tête de peloton peut éloigner certains des cas d’usage les plus avancés, il existe des cas d’usage dans lesquels la majorité précoce s’engage. Cette fracture semble plus évidente dans la finance. Parmi les cas d’usage les plus établis ou acceptés dont j’ai entendu parler dans la finance figurent les outils de productivité des collaborateurs (Chris Patterson de CIBC a présenté une suite primée d’outils de productivité pour les employés, fondée sur OpenAI), les agents de support client et la documentation destinée aux clients.

Ce que nous observons ici est très intéressant du point de vue de « Crossing the Chasm » : la majorité précoce arrive pour des cas d’usage plus sûrs et plus établis, au moment même où les innovateurs continuent de repousser les limites de la technologie, du business et des utilisateurs.

2. Les institutions financières doivent apprendre à composer avec une IA non déterministe

En informatique, la distinction entre « déterministe » et « non déterministe » indique si un algorithme, pour une entrée donnée, produit toujours la même sortie en passant par les mêmes états (déterministe), ou non (non déterministe).

L’IA générative nous a fascinés et enchantés en grande partie à cause de sa nature non déterministe : elle peut être créative, produire l’inattendu, vous surprendre par les liens qu’elle établit. Pour de nombreuses tâches, ce sont de précieux atouts.

Dans la finance, l’IA générative offre de nombreuses applications formidables pour réduire le travail manuel et améliorer l’expérience client, mais il faut concilier la nature non déterministe de l’IA générative (et, plus encore, de l’IA agentique) avec les réglementations et les cadres de gestion des risques. Les institutions financières doivent depuis longtemps garantir l’absence de biais dans leurs systèmes et veiller à ce que toutes les décisions soient explicables et reproductibles. De plus, pour justifier ces décisions, elles doivent être prévisibles. J’ai entendu plusieurs versions de ce constat lors de différentes interventions, tant à propos des cadres de risque internes des institutions financières que des préoccupations réglementaires.

Lors d’une session, EJ Achtner, Head of Applied Artificial Intelligence chez BMO, l’a formulé ainsi :

« Il faut pouvoir mesurer, il faut pouvoir répéter, il faut pouvoir prouver, mathématiquement dans la plupart des cas, que l’on a une bonne idée du résultat suivant. »

Cela ne ressemble pas à de l’IA générative. Le problème s’aggrave si l’on tient compte de la sensibilité au contexte et de la génération augmentée par récupération (RAG) avec un catalogue de documents en constante évolution. Le stoïcien Héraclite disait : « On ne se baigne jamais deux fois dans le même fleuve, car ce n’est jamais le même fleuve et ce n’est jamais le même homme. »

Ce qui me frappe dans cette discussion, c’est que nous essayons d’utiliser l’IA pour remplacer des tâches accomplies par des personnes. Je ne suis pas sûr qu’il existe quoi que ce soit de plus non déterministe que les humains… Faut-il donc revoir notre façon de penser le déterminisme et nous appuyer plutôt sur l’auditabilité, la transparence et l’analyse ? Ou faut-il trouver comment rendre l’IA générative plus déterministe ? À mon avis, nous devrions travailler sur les deux.

Sur ce point, dans le domaine du risque et de la conformité, Dustin Eaton, Principal Fraud & AML chez Taktile, déclare :

« L’orchestration explicable en matière de LCB-FT et de fraude ne consiste pas seulement à traquer des criminels ; elle prouve la justification de chaque action entreprise. Les décisions automatisées prises par une IA en boîte noire manquent de l’auditabilité et de la souplesse nécessaires pour tenir compte du contexte. La bonne nouvelle, c’est que la transparence et l’explicabilité permettent de concilier confiance et innovation entre la technologie d’IA et les cadres réglementaires. »

3. La réglementation est la grande inconnue

Presque toutes les personnes avec qui j’ai parlé s’inquiétaient de l’incertitude du cadre réglementaire à court terme. Pour l’instant, la question est surtout de savoir si l’IA sera réglementée au niveau fédéral, au niveau des États, ou les deux. Je pense que le secteur tech y est un peu habitué (voir les réglementations sur la vie privée, une bonne analogie), tout comme les entreprises (voir la taxation ou l’interdiction de certains ingrédients alimentaires aux niveaux fédéral et local), mais savoir qu’une réglementation arrive sans avoir la moindre idée de ce qu’elle contiendra (ni de quand elle arrivera) pose problème.

Le premier règlement européen sur l’intelligence artificielle (AI Act) peut être un bon indicateur. Pour les acteurs de la finance, ce texte classe l’octroi de crédit et la souscription d’assurance parmi les cas d’usage « à haut risque » de l’IA.

Parenthèse : notre cofondateur Maximilian Eber (avec Philipp Hacker) a rédigé un article de fond dans la Harvard Data Science Review pour expliquer ce que cela signifie pour les services financiers une fois le texte entré en vigueur.

Si les entreprises ne semblent pas paralysées par cette situation, elle paraît bien influencer les cas d’usage qu’elles visent en priorité et leur façon de diversifier leur portefeuille de projets. Ravi Venugopal de Giggso a insisté sur l’importance de la durée de vie des projets, et sur le fait que les entreprises « veulent voir dans quels projets à plus longue durée de vie elles peuvent investir, et comment orienter leur argent vers ceux-ci ».

Si l’incertitude réglementaire entre dans l’estimation de la durée de vie de certains projets, les entreprises ne retiennent pas leur souffle pour autant : chacun trouve des initiatives à poursuivre.

Ce que cela signifie sur le plan opérationnel

Les conversations que j’ai eues lors de cette conférence rappelaient beaucoup l’univers des startups vers 2010, quand la révolution mobile prenait forme, sauf que le temps et l’argent nécessaires pour mener des expériences sont bien moindres. Comme les fonds de capital-risque constituaient alors des portefeuilles de startups d’applications, les dirigeants d’entreprise constituent aujourd’hui des portefeuilles internes de projets, en s’attendant à un taux d’échec élevé, mais à un gain considérable pour les réussites.

Les entreprises qui s’en sortent bien semblent créer au sein de leur organisation des groupes et des postes dédiés à la construction d’un portefeuille de projets, équilibré en termes de calendrier, de profil de risque et d’impact potentiel. Mona Hassanzadeh, Head of Data Science and AI chez Meridian Credit Union, a expliqué que leur comité de pilotage de l’IA fonctionne comme un groupe d’investissement centralisé : il construit un portefeuille d’investissements selon le risque, le calendrier et l’impact, puis veille à ce que ces projets soient menés de manière sûre et solide sur le plan opérationnel.

Comment aborder alors ces expériences ? Les leaders du secteur démarrent chaque expérience avec une hypothèse ancrée dans un indicateur métier (Et si nous pouvions doubler la vitesse à laquelle nous faisons X ? Et si nous pouvions réduire de 60 % le coût de Y ?), puis prennent des mesures de référence, cadrent leur investissement dans l’expérience et mesurent les résultats. Pour reprendre les investissements dans les startups portés par le capital-risque dans les années 2010, le mantra du moment était « fail fast ». Ce pourrait être la clé ici aussi. Permettre une expérimentation rapide (ou, plus précisément, une réfutation rapide) permet aux entreprises d’écarter objectivement ce qui ne fonctionnera pas pour concentrer l’investissement sur ce qui fonctionnera.

Pour tirer parti d’une IA non déterministe : j’ai eu plusieurs conversations sur le fait que découper les workflows agentiques en unités de travail plus petites et plus distinctes permet d’instrumenter et d’observer ces unités. On gagne ainsi en contrôle, en visibilité et en auditabilité. Cela peut aussi aider à structurer les prompts de façon plus concrète.

Se préparer à l’imprévisible. La différence entre prédiction et préparation est un concept essentiel, auquel j’ai beaucoup réfléchi pendant ces sessions et ces conversations. On ne peut pas savoir à quoi ressemblera l’avenir, ni prédire des événements de type « cygne noir » par nature imprévisibles, mais on peut agir pour devenir résilient face à de nombreux avenirs possibles.

Ici, il s’agit d’introduire de la diversité (de fournisseurs, de publics et de cas d’usage) dans son portefeuille de projets, de gagner en adaptabilité en s’organisant pour itérer rapidement, de maîtriser son exposition et de soumettre sa technologie à des tests d’intrusion (« red teaming ») pour détecter le risque avant qu’il ne vous trouve. La nouvelle génération de leaders de l’IA en entreprise découvre et affine les schémas à mesure que l’application de cette technologie gagne en maturité, et c’est vraiment enthousiasmant d’en faire partie.

Je terminerai sur une note différente, celle par laquelle la conférence a justement commencé : l’intervenante principale, Randi Weingarten, présidente de l’American Federation of Teachers, a ouvert la conférence par un plaidoyer pour que nous « construisions un avenir dans lequel nous voulons vivre, un avenir dans lequel nous voulons que nos enfants vivent ». Nous vivons une période charnière, et chacun d’entre nous doit se rappeler sa responsabilité envers la société et notre avenir collectif au moment de décider de la voie à suivre.

Des réactions ? Des questions ? N’hésitez pas à me contacter, je suis toujours ravi d’échanger.