Qu'on l'aime ou qu'on la déteste, l'IA est là pour rester. Les entreprises doivent comprendre que, malgré toutes les capacités impressionnantes et l'intelligence apparente de l'IA, d'un point de vue juridique, réglementaire et, je dirais, moral, si l'IA fait des dégâts, ce sont les humains qui doivent les nettoyer.
Récemment, un tribunal canadien a jugé que « l'IA a commis une erreur » n'était pas une défense. En conséquence, une compagnie aérienne a dû honorer un remboursement que son chatbot alimenté par l'IA avait promis à tort à un client. Cela met en lumière un problème important lié à la capacité de l'IA générative à créer de nouveaux contenus ou de nouvelles données.
Le résultat produit par l'IA ne vaut que ce que valent les informations qu'on lui fournit. Et nous savons qu'Internet regorge d'informations de pacotille. Nous avons tous assisté à la montée des fausses nouvelles au cours de la dernière décennie, et nous savons qu'Internet, qui sert à entraîner les outils d'IA, est plein d'erreurs, d'ambiguïtés, de biais, de mensonges éhontés et d'informations dépassées. Pourtant, il est extraordinaire de constater à quel point nous croyons volontiers les résultats des outils d'IA, tels que Chat GPT.
Des affaires judiciaires ont été rejetées parce que des avocats ont fondé leurs arguments sur des précédents inventés que l'IA générative présentait comme la vérité. À New York, en juin 2023, un juge a sanctionné des avocats pour avoir présenté des affaires fictives dans un mémoire juridique. Puis, en juillet, des avocats plaidant une affaire à Johannesburg ont utilisé des détails générés par l'IA pour étayer la cause de leur client.
Mais ignorer l'IA n'est pas une option. Ce serait l'équivalent de s'en tenir au courrier postal quand le reste du monde est passé à l'e-mail. L'IA générative fait déjà partie de notre quotidien, nous permettant de suivre le rythme du changement et d'offrir un excellent service à nos clients. En tant que dirigeants, nous devrions encourager l'usage de l'IA dans nos entreprises et rassurer nos collaborateurs : l'IA est un facilitateur, et non une menace pour leur emploi. En tant que comptables, nous devrions exploiter l'IA pour raccourcir les cycles budgétaires et accélérer la prise de décision — deux avantages concurrentiels évidents.
Alors oui, utilisez l'IA pour automatiser le travail ennuyeux et facilement traité par des machines. Mais consacrez une partie du temps ainsi gagné à interroger les résultats. L'IA ne sait pas et ne se soucie pas de savoir si elle s'appuie, par exemple, sur une législation fiscale obsolète, mais votre client et la loi, eux, s'en soucient. Et quand l'IA fait des dégâts, c'est à vous qu'on tendra la serpillière pour nettoyer le débordement.
À retenir : Montez d'un cran votre scepticisme et votre détecteur d'âneries lorsque vous utilisez l'IA. Même les outils eux-mêmes reconnaissent qu'ils sont faillibles, dénués de bon sens et qu'il faut vérifier leurs affirmations. Faites appel à votre jugement, à votre expertise et à des sources fiables pour vérifier les informations critiques qu'un outil d'IA trop désireux de plaire a présentées comme des faits.
Des androïdes qui rêvent de moutons électriques
Les fictions que produit l'IA sont appelées hallucinations. Elles surviennent parce que l'IA utilise la reconnaissance de motifs pour apprendre à partir de jeux de données d'entraînement et fonde ses réponses sur la probabilité statistique que certains mots apparaissent dans un certain ordre, et non sur une véritable compréhension de ce qui se passe. L'IA ne peut pas reconnaître de mauvaises données et les présentera avec assurance comme des faits, d'une manière qui rend les réponses authentiques et fiables en apparence.
Tel que publié dans ASA Magazine - septembre 2024