Vous pensiez que l’intelligence artificielle allait définitivement ringardiser les erreurs humaines ? Laissez-nous vous conter un scandale bien réel où la technologie s’est littéralement emmêlé les circuits… et la facture avait de quoi donner le vertige !
Un rapport à 250 000 euros… commandé à une IA !
Tout commence (très sérieusement) en Australie, lorsque le gouvernement charge le célèbre cabinet Deloitte d’une mission claire : livrer un rapport sur l’automatisation des pénalités dans le système d’aide sociale du pays. On imagine le casse-tête administratif… D’où le montant du contrat : 440 000 dollars australiens, ou environ 251 000 euros le rapport. Oui, ce n’est pas une faute de frappe !
Le Department of Employment and Workplace Relations (DEWR), autrement dit le ministère du Travail australien, attendait donc un travail de fond, rigoureux, et fondé sur de solides recherches. Mais à la publication dudit rapport, ce n’est pas la qualité des analyses qui a fait parler…
Le pot-aux-roses : citations inventées et sources fantômes
L’histoire aurait pu s’arrêter à quelques comptes-rendus bien ficelés. Sauf qu’un des directeurs du département de droit de la santé à l’université de Sidney relève très vite quelques anomalies plus que suspectes dans les 273 pages du rapport. Que trouve-t-il ?
- Des citations tout droit sorties de l’imagination d’un robot : certaines proviennent de publications qui… n’existent purement et simplement pas.
- Le pompon : dans certains cas, le rapport cite les prétendus travaux d’une professeure bien réelle, dont la seule faute a été… d’exister. Les recherches mentionnées, elles, étaient entièrement inventées !
L’affaire fait rapidement la Une, notamment dans l’Australian Financial Review. Car derrière ces bizarreries, la réalité est crue : Deloitte s’est appuyé sur ChatGPT – ou une IA semblable – pour rédiger de vastes pans du rapport, sans vérification humaine a posteriori.
Deloitte corrige (un peu), rembourse (en partie)… et tout le monde s’en contente ?
Suite au scandale, branle-bas de combat : Deloitte et le ministère s’empressent de publier une version mise à jour du rapport, promettant « un petit nombre de corrections pour des références et des notes de bas de page ». Dans un élan de franchise, le document mentionne même « une chaîne d’outils basée sur un modèle de langage génératif (Azure OpenAI GPT-4o) ».
Les corrections ? Elles consistent à enlever :
- Les références bidonnées
- Les citations inventées de toutes pièces
Côté finances, Deloitte annonce qu’il remboursera la « version finale » du contrat. Pas plus de détails sur quel montant ni quelle portion du mastodonte financier cela représente. Salut l’opacité.
Mais l’histoire ne s’arrête pas là. Malgré la découverte de ces bidouillages, le ministère du Travail australien semble imperturbable. Pour lui, « le contenu de l’audit indépendant est préservé ». Ainsi, les recommandations issues de ce rapport sont maintenues, quand bien même certaines reposaient sur des hallucinations d’IA.
Encore flou, mais des leçons à tirer
Morale de l’histoire ? Quand l’automatisation va trop loin, même les experts peuvent se prendre les pieds dans le tapis… algorithmique ! La prudence reste donc de rigueur, que l’on travaille à la main ou avec la silicon touch d’une intelligence artificielle. Mais surtout, avant de payer (cher) pour un rapport, pensez à vérifier si votre audit a été relu… par un humain.
