Comme dit le proverbe : « Un mensonge peut faire le tour du monde avant même que la vérité n'ait enfilé ses bottes. »* Nous l'avons constaté au cours de la dernière décennie, l'internet alimentant une montée des fausses informations et de la désinformation dans les années 2010, jusqu'à ce que la situation atteigne une tempête parfaite pendant la pandémie. Mais je me demande si le pire est encore à venir.
Un volume sans précédent d'informations nous bombarde chaque jour, il est de plus en plus difficile et chronophage de distinguer ce qui est crédible de ce qui est faux, et désormais, les robots conversationnels d'intelligence artificielle (IA) médiatisent de plus en plus notre accès à l'information.
Comme toute technologie, l'IA est en elle-même neutre. En fait, en 2024, l'IA n'a plus rien de nouveau ni même de bien excitant – nous l'utilisons tous depuis des années. Si vous avez utilisé Siri, une application de navigation, la reconnaissance faciale pour déverrouiller votre téléphone, ou le filtre anti-spam de Gmail, vous avez utilisé l'IA.
L'IA filtre et façonne notre monde
Cependant, l'IA générative qui entre dans le grand public grâce à des outils comme ChatGPT a relancé le débat sur l'IA. Y compris parmi les comptables présents à notre conférence utilisateurs en mai. Le grand changement de paradigme est que l'IA générative ne se contente pas de prendre des décisions à partir de données existantes : elle peut créer du nouveau contenu ou de nouvelles données. Elle le fait en apprenant à partir d'ensembles de données massifs, en repérant des schémas et des structures, et en s'en servant pour créer du nouveau contenu.
Cela signifie que les robots conversationnels présentent une vision du monde, comprenant des faits, des chiffres et des calculs d'analyse que nous pouvons utiliser pour prendre des décisions. Et il est logique qu'au lieu d'utiliser internet pour rechercher le meilleur endroit où manger à Santorin cet été, par exemple, nous puissions demander à un robot de le faire pour nous. C'est plus rapide et plus efficace, et les gains d'efficacité et de productivité pour le lieu de travail sont évidents. Dans la course pour en faire plus, et travailler vite et intelligemment afin d'aider nos entreprises et nos clients à prendre de meilleures décisions fondées sur les données, faut-il s'étonner que les outils d'IA générative soient la prochaine grande nouveauté ? Mais que se passe-t-il si nous ne pouvons pas leur faire confiance ?
Et nous ne le pouvons pas toujours. Les ensembles de données d'entraînement de l'IA sont tirés d'internet. Ils contiennent donc les mêmes faussetés, erreurs d'interprétation et ambiguïtés qu'internet. De plus, les ensembles de données ont tendance à dater jusqu'à deux ans – pensez à tout ce qui s'est passé ces deux dernières années et demandez-vous ce qui manque.
Compte tenu de ce que nous savons sur la véracité des informations déjà présentes sur internet, après avoir vécu la montée des fausses informations, pourquoi ferions-nous aveuglément confiance aux robots conversationnels d'IA ? Puisqu'ils tirent eux aussi leurs données d'internet, l'IA générative a le potentiel d'amplifier les fausses informations existantes. De plus, elle peut aussi produire de nouvelles faussetés, par le biais de fictions qu'elle crée elle-même (on les appelle des hallucinations). Mais, étrangement, il semble que nous fassions une confiance totale aux robots !
La honte au visage
Des affaires judiciaires ont déjà été rejetées par les tribunaux parce que des avocats avaient fondé leurs arguments sur des historiques de jurisprudence fictifs que l'IA générative présentait comme la vérité. À New York, en juin 2023, un juge a infligé une amende de 5 000 dollars à des avocats pour avoir présenté des affaires fictives dans un mémoire juridique. Puis, en juillet, des avocats plaidant une affaire à Johannesburg ont utilisé des détails fictifs pour étayer le dossier de leur client. Leur client a dû payer les frais de justice du défendeur, mais le juge a estimé que la honte au visage des avocats était une punition suffisante.
(C'est assez ironique étant donné que les avocats sont généralement les premiers à dire qu'il vaut mieux les engager plutôt que, par exemple, de laisser l'IA examiner vos documents juridiques.)
Les hallucinations de l'IA
Pourquoi ces hallucinations se produisent-elles ? L'IA utilise la reconnaissance de schémas et non une véritable compréhension pour apprendre à partir des ensembles de données d'entraînement. Le résultat repose sur la probabilité statistique que certains mots apparaissent dans un certain ordre, et non sur une réelle compréhension par l'IA de ce qui se passe. Si les données d'entraînement comportent des informations manquantes, ou incluent des données biaisées, incorrectes ou trompeuses, le robot conversationnel ne peut pas le reconnaître et les présentera comme des faits. Et il le fait d'une manière assurée et autoritaire qui rend les réponses authentiques en apparence.
Ainsi, dans l'exemple ci-dessus, en recherchant un endroit où dîner à Santorin, si vous aviez utilisé ChatGPT, vous vous seriez retrouvé à manger dans l'endroit en vogue de 2021, car les données d'entraînement de ChatGPT ne vont que jusqu'à septembre 2021. Si vous aviez utilisé un autre robot conversationnel, disons Claude AI, vous vous en seriez un peu mieux sorti et auriez au moins découvert quel était le meilleur restaurant de l'année dernière – les données de Claude vont jusqu'à août 2023.
Implications juridiques et réglementaires
Un repas un peu décevant, c'est une chose. Mais conseiller des clients sur la base de lois fiscales périmées ou de données incorrectes pourrait avoir un impact significatif sur leurs déclarations fiscales, leur budgétisation, leurs prévisions et leurs stratégies d'investissement. Au pire, cela pourrait avoir des implications juridiques et réglementaires, et au mieux, vous auriez la honte au visage, tout comme les avocats.
D'une part, l'IA générative est un outil qui devient rapidement, par nécessité, partie intégrante de notre quotidien. C'est le seul moyen pour nous de suivre le rythme du changement constant du monde actuel et d'offrir un excellent service à nos clients. Si vous avez lu l'un de mes articles précédents, vous saurez que des cycles budgétaires plus courts et un délai de décision plus rapide sont des priorités pour moi. Mais d'autre part, l'outil lui-même reconnaît qu'il est imparfait, qu'il n'a pas de bon sens, et qu'il faut en vérifier les faits plutôt que de lui faire aveuglément confiance.
On ne peut pas blâmer l'IA
« Mais c'est l'IA qui a commis une erreur » ne peut pas être une défense lorsque les choses tournent mal. Air Canada l'a découvert plus tôt dans l'année lorsqu'un tribunal a jugé qu'elle était responsable d'informations incorrectes qu'un robot conversationnel avait fournies à un client. L'entreprise a soutenu que le robot « était responsable de ses propres actes », ce qui est manifestement à la fois risible et une pente glissante vers un endroit très dangereux. Un passager avait utilisé le robot pour vérifier les conditions de remboursement d'un billet. Au moment de réclamer le remboursement, la compagnie aérienne a soutenu que les remboursements ne pouvaient pas être accordés rétroactivement – contrairement à ce qu'avait affirmé le robot conversationnel.
Il y a là une autre ironie. Si les entreprises nous encouragent constamment à interagir avec leurs robots conversationnels, le moins qu'elles puissent faire est de s'assurer que les informations sont correctes, puis de se conformer aux informations fournies. Le tribunal a abondé dans ce sens et a rejeté l'argument d'Air Canada selon lequel le robot était une entité juridique distincte. La compagnie aérienne a été contrainte de payer le remboursement, avec les intérêts et les frais.
La responsabilité finale vous incombe
Alors aujourd'hui, on a peut-être l'impression qu'un mensonge peut faire le tour du globe et voyager jusqu'à Mars avant que la vérité n'ait même ouvert ses yeux ensommeillés et songé à son premier café de la journée ! Mais les entreprises devraient prendre garde : pour elles, la responsabilité finale leur incombe, et elles sont responsables de ce qu'elles disent, que l'IA soit impliquée ou non.
\* Curieusement, une version de cette citation est attribuée à tort à Mark Twain. En réalité, elle existe sous diverses formes depuis plusieurs siècles. Ma préférée est cette version de Terry Pratchett.
Tel que publié dans AccountingWeb - juin 2024