Un incident récent a profondément terni la réputation de Deloitte, l'un des plus grands cabinets de conseil au monde. Cette affaire a été déclenchée par la publication d'un rapport commandé par le gouvernement australien, qui s'est révélé être truffé d'erreurs et de fausses informations, en grande partie générées par une intelligence artificielle. Cette situation soulève des questions cruciales sur l'utilisation de l'IA dans des contextes où la précision et la véracité des informations sont essentielles.
Le rapport en question, intitulé "Targeted Compliance Framework Assurance Review", a été commandé par le département de l'Emploi et des Relations au Travail d'Australie. Son objectif principal était de fournir une analyse technique sur l'automatisation des sanctions au sein du système social australien. Ce document, qui a coûté près de 440 000 AUD (environ 290 000 USD) aux contribuables, était censé refléter l'expertise de Deloitte dans ce domaine complexe.
Dès sa diffusion, le rapport a suscité des interrogations parmi les universitaires et les experts. Ils ont rapidement identifié un grand nombre d'anomalies, notamment des citations attribuées à des chercheurs fictifs, des allégations basées sur des études inexistantes, ainsi que des références à des décisions judiciaires qui n'avaient jamais eu lieu. La juriste Lisa Burton Crawford, une universitaire respectée, a même découvert des passages qui lui étaient attribués, alors qu'elle n'avait jamais publié les rapports mentionnés.
Deloitte a utilisé l'intelligence artificielle Azure OpenAI GPT-4o pour produire ce rapport, laquelle a été chargée de vérifier la conformité entre les codes informatiques et les besoins commerciaux. Cependant, cette technologie, bien qu'avancée, a montré ses limites, notamment à travers le phénomène des "hallucinations" de l'IA, un terme désignant la capacité de l'IA à générer des informations incorrectes ou totalement inventées. Deloitte a finalement admis avoir eu recours à l'IA générative, mais seulement à la page 58 d'un document retravaillé qu'ils ont mis en ligne à la fin de septembre.
Face à la gravité des erreurs, Deloitte a été contraint d'accepter un remboursement partiel de son contrat, bien que le montant exact n'ait pas été précisé. Le gouvernement a affirmé que le fond du rapport et ses recommandations n'avaient pas changé, mais les experts universitaires ont exprimé de vives inquiétudes quant à la fiabilité de ces recommandations. Ce scandale a non seulement affecté la réputation de Deloitte, mais il a également soulevé des doutes sur l'intégrité des analyses fournies par les grandes entreprises de conseil qui intègrent l'IA dans leurs processus.
Ce cas met en lumière le besoin urgent d'un cadre réglementaire pour l'utilisation de l'intelligence artificielle dans le domaine professionnel. Deloitte n'est pas le seul cabinet à explorer l'utilisation de l'IA ; d'autres entreprises ont également commencé à intégrer ces technologies dans leurs opérations. Cependant, cet incident rappelle que l'IA, bien que puissamment utile, comporte des risques importants, notamment en matière de fiabilité des données et de responsabilité.
Ce n'est pas la première fois que de telles erreurs surviennent dans le monde de l'IA. Aux États-Unis, une présentatrice de nouvelles d'une chaîne d'information de premier plan a diffusé une fausse information générée par une IA, rejetant la responsabilité sur le programme qui avait produit la nouvelle. Cela souligne un problème plus vaste concernant la confiance que l'on place dans les technologies avancées et leur capacité à fournir des informations précises.
Les experts du secteur soulignent que cet incident pourrait avoir des conséquences à long terme sur la manière dont les entreprises perçoivent et utilisent l'intelligence artificielle. Beaucoup appellent à une transparence accrue dans les processus de production des rapports et à la nécessité d'une vérification humaine plus rigoureuse lorsque l'IA est impliquée. La qualité des informations et la responsabilité des entreprises de conseil doivent rester des priorités, surtout lorsque des décisions critiques sont prises sur la base de ces rapports.
La situation actuelle met en évidence les défis associés à l'intégration de l'intelligence artificielle dans des processus complexes. Alors que l'IA continue d'évoluer et de s'intégrer dans divers secteurs, il est impératif que les entreprises adoptent des pratiques responsables et transparentes pour garantir la fiabilité de leurs produits et services. Deloitte, bien que touché par ce scandale, pourrait en sortir avec une meilleure compréhension des enjeux liés à l'IA et, espérons-le, une approche plus prudente à l'avenir. Ce cas devrait également inciter d'autres entreprises à réfléchir de manière critique aux implications de l'IA dans leur travail quotidien et à l'importance d'un contrôle humain dans le processus de prise de décision.