Como diz o ditado: «Uma mentira consegue dar a volta ao mundo antes de a verdade ter calçado as botas.»* Testemunhámos isto na última década, com a internet a impulsionar uma subida das notícias falsas e da desinformação na década de 2010, até a situação atingir uma tempestade perfeita durante a pandemia. Mas pergunto-me se o pior ainda está para vir.
Há um volume sem precedentes de informação a bombardear-nos todos os dias, é cada vez mais difícil e demorado distinguir o que é credível do que é falso e, agora, os chatbots de inteligência artificial (IA) mediam cada vez mais o nosso acesso à informação.
Como toda a tecnologia, a IA em si é neutra. Na verdade, em 2024, a IA já não tem nada de novo nem sequer de muito empolgante – todos a usamos há anos. Se já usou a Siri, uma aplicação de navegação, o reconhecimento facial para desbloquear o seu telemóvel, ou o filtro de spam do Gmail, então já usou IA.
A IA filtra e molda o nosso mundo
No entanto, a IA generativa que está a entrar no domínio público através de ferramentas como o ChatGPT voltou a desencadear o debate sobre a IA. Inclusive entre os contabilistas presentes na nossa conferência de utilizadores em maio. A grande mudança de paradigma é que a IA generativa não se limita a tomar decisões sobre dados existentes: pode criar novo conteúdo ou novos dados. Fá-lo aprendendo a partir de conjuntos de dados massivos, detetando padrões e estruturas, e usando-os para criar novo conteúdo.
Isto significa que os chatbots apresentam uma visão do mundo, incluindo factos, números e cálculos de análise que podemos usar para tomar decisões. E faz sentido que, em vez de usar a internet para pesquisar o melhor sítio para comer em Santorini neste verão, por exemplo, possamos pedir a um chatbot que o faça por nós. É mais rápido e mais eficiente, e os benefícios de eficiência e produtividade para o local de trabalho são óbvios. Na corrida para fazer mais, e trabalhar de forma rápida e inteligente para apoiar os nossos negócios e clientes a tomar melhores decisões informadas por dados, será de admirar que as ferramentas de IA generativa sejam a próxima grande novidade? Mas o que acontece se não pudermos confiar nelas?
E nem sempre podemos. Os conjuntos de dados de treino da IA são extraídos da internet. Por isso contêm as mesmas falsidades, interpretações erradas e ambiguidades que a internet contém. Além disso, os conjuntos de dados tendem a ter até dois anos – pense em quanto aconteceu nos últimos dois anos e considere o que está em falta.
Dado o que sabemos sobre a veracidade da informação que já existe na internet, tendo vivido a ascensão das notícias falsas, por que confiaríamos cegamente nos chatbots de IA? Uma vez que também retiram dados da internet, a IA generativa tem o potencial de amplificar a informação falsa existente. Além disso, pode também contribuir com novas falsidades, através de ficções que cria ela própria (a estas chama-se alucinações). Mas, por estranho que pareça, parece que confiamos de todo o coração nos bots!
Caras de quem fez asneira
Já houve processos judiciais arquivados pelos tribunais porque os advogados basearam os seus argumentos em históricos de jurisprudência fictícios que a IA generativa apresentou como verdade. Em Nova Iorque, em junho de 2023, um juiz multou advogados em 5 000 dólares por apresentarem casos fictícios numa peça processual. Depois, em julho, advogados que defendiam um caso em Joanesburgo usaram detalhes fictícios para sustentar o caso do seu cliente. O cliente deles teve de pagar as custas judiciais do réu, mas o juiz considerou que a vergonha estampada na cara dos advogados já era castigo suficiente.
(Isto é bastante irónico, dado que os advogados são normalmente os primeiros a dizer que mais vale contratá-los do que, por exemplo, deixar a IA rever os seus documentos jurídicos.)
Alucinações da IA
Por que acontecem estas alucinações? A IA usa o reconhecimento de padrões e não uma verdadeira compreensão para aprender a partir dos conjuntos de dados de treino. O resultado baseia-se na probabilidade estatística de certas palavras aparecerem numa certa ordem, e não numa verdadeira compreensão, por parte da IA, do que se passa. Se os dados de treino tiverem informação em falta, ou incluírem dados enviesados, incorretos ou enganadores, o chatbot não consegue reconhecê-lo e apresentá-lo-á como facto. E fá-lo de uma forma confiante e autoritária que faz as respostas soarem autênticas.
Assim, no exemplo acima, ao pesquisar um sítio para jantar em Santorini, se tivesse usado o ChatGPT ter-se-ia visto a comer no local em voga de 2021, porque os dados de treino do ChatGPT só vão até setembro de 2021. Se tivesse usado um chatbot alternativo, digamos, o Claude AI, ter-se-ia saído um pouco melhor e, pelo menos, teria descoberto qual era o melhor restaurante do ano passado – os dados do Claude vão até agosto de 2023.
Implicações legais e regulatórias
Uma refeição um pouco dececionante é uma coisa. No entanto, aconselhar clientes com base em leis fiscais desatualizadas ou em dados incorretos poderia ter um impacto significativo nas suas declarações fiscais, orçamentação, previsão e estratégias de investimento. Na pior das hipóteses, isto poderia ter implicações legais e regulatórias e, na melhor, ficaria com cara de quem fez asneira, tal como os advogados.
Por um lado, a IA generativa é uma ferramenta que está rapidamente a tornar-se parte do nosso dia a dia por necessidade. É a única forma de conseguirmos acompanhar a mudança constante do mundo atual e prestar um serviço excelente aos nossos clientes. Se leu algum dos meus artigos anteriores, saberá que ciclos orçamentais mais curtos e um tempo mais rápido para tomar decisões são algo que priorizo. Mas, por outro lado, a própria ferramenta reconhece que é falível, não tem senso comum, e que se deve verificar os factos em vez de confiar nela cegamente.
Não se pode culpar a IA
«Mas foi a IA que cometeu o erro» não pode ser uma defesa quando as coisas correm mal. A Air Canada descobriu isto no início do ano, quando um tribunal decidiu que era responsável por informação incorreta que um chatbot forneceu a um cliente. A empresa argumentou que o bot «era responsável pelos seus próprios atos», o que é claramente risível e, ao mesmo tempo, uma ladeira escorregadia rumo a um lugar muito perigoso. Um passageiro tinha usado o bot para verificar as condições de reembolso de um bilhete. Quando chegou a altura de reclamar o reembolso, a companhia aérea sustentou que os reembolsos não podiam ser concedidos retroativamente – ao contrário do que o chatbot tinha dito.
Há aqui outra ironia. Se as empresas nos incentivam constantemente a interagir com os seus chatbots, o mínimo que poderiam fazer era garantir que a informação está correta e depois cumprir a informação fornecida. O tribunal concordou e rejeitou a alegação da Air Canada de que o bot era uma entidade jurídica separada. A companhia aérea foi obrigada a pagar o reembolso com juros e custas.
A responsabilidade final é sua
Por isso, hoje pode parecer que uma mentira consegue circum-navegar o globo e viajar até Marte antes de a verdade ter sequer aberto, ainda sonolenta, os olhos e pensado no seu primeiro café do dia! Mas as empresas deveriam ter cuidado, pois, para elas, a responsabilidade final é delas, e são responsáveis pelo que dizem, esteja ou não a IA envolvida.
\* Curiosamente, uma versão desta citação é incorretamente atribuída a Mark Twain. Na verdade, ela existe em vários formatos há vários séculos. A minha preferida é esta versão de Terry Pratchett.
Conforme publicado na AccountingWeb - junho de 2024