L’instauration de la confiance est un obstacle majeur à l’adoption de la technologie des agents d’intelligence artificielle !
On constate que les clients de toutes les tranches d’âge – même la génération Z-(La génération Z, souvent appelée zoomers, regroupe les personnes nées entre 1997 et 2012, caractérisées par leur exposition précoce aux technologies numériques et aux médias sociaux, façonnant ainsi leur identité et leurs comportements) préfèrent encore les conversations téléphoniques en direct pour l’aide et l’assistance à la clientèle. Une banque a résolu ce problème en créant une architecture qui vérifie les erreurs ou les « hallucinations » de l’agent d’IA avant qu’une réponse ne soit communiquée à un client, réduisant ainsi le nombre de réponses incorrectes et renforçant la confiance.

« Les entreprises qui tireront le plus de valeur de l’IA, seront celles qui créeront un climat de confiance avec leurs clients, leurs employés et les parties prenantes. Les gens doivent faire suffisamment confiance à l’IA pour lui confier des tâches. Les décisions éthiques des entreprises doivent être ancrées dans les valeurs propres à chaque organisation et dans les valeurs d’une société qui place l’homme au centre de l’écosystème de l’IA. »

Un autre défi sera la gestion du changement à mesure que les organisations développeront les agents d’IA. Cela va bien au-delà du simple déploiement d’un nouvel ensemble d’outils. Les entreprises vont devoir réorganiser leur mode de fonctionnement pour pouvoir tirer le meilleur parti des agents d’IA.

Une partie de ce recâblage comprend l’adoption de nouvelles technologies, ainsi que l’adaptation des technologies existantes afin qu’elles fonctionnent mieux avec les outils basés sur l’apprentissage automatique et l’IA générique. Les organisations devraient également adapter leurs modèles opérationnels pour soutenir les petites équipes qui travaillent de manière itérative sur de nouveaux services. De plus, les dirigeants devraient créer des incitations qui aident les travailleurs à apprendre à utiliser les nouveaux outils et à leur faire confiance.

Enfin,  la protection des données est une préoccupation majeure des dirigeants lorsqu’il s’agit de déployer des agents d’IA. Les entreprises qui mettent en place un programme d’agents d’IA doivent soigneusement mettre en œuvre les contrôles appropriés en matière de sécurité, d’opérations et de données. Il existe de nombreuses approches et solutions évolutives, qu’elles soient prêtes à l’emploi ou personnalisées.

OdisData McKinsey 4-2025