Goste-se ou não, a IA veio para ficar. As empresas precisam de compreender que, apesar de toda a capacidade impressionante e da inteligência aparente da IA, de um ponto de vista jurídico, regulamentar e, diria eu, moral, se a IA faz uma trapalhada, são os humanos que têm de a limpar.
Recentemente, um tribunal canadiano decidiu que «a IA cometeu um erro» não é uma defesa. Como resultado, uma companhia aérea teve de honrar um reembolso que o seu chatbot alimentado por IA prometera erradamente a um cliente. Isto realça uma questão importante relacionada com a capacidade da IA generativa de criar novos conteúdos ou dados.
O resultado da IA é tão bom quanto a informação que lhe é fornecida. E sabemos que a internet está repleta de informação lixo. Todos assistimos à ascensão das notícias falsas ao longo da última década, e sabemos que a internet, que é usada para treinar as ferramentas de IA, está cheia de erros, ambiguidades, enviesamentos, mentiras descaradas e informação desatualizada. No entanto, é extraordinário com que facilidade acreditamos no resultado de ferramentas de IA, como o Chat GPT.
Houve processos judiciais que foram rejeitados porque os advogados basearam os seus argumentos em históricos de casos inventados que a IA generativa apresentou como verdade. Em Nova Iorque, em junho de 2023, um juiz multou advogados por apresentarem casos fictícios numa peça jurídica. Depois, em julho, advogados que defendiam um caso em Joanesburgo usaram detalhes gerados por IA para sustentar a causa do seu cliente.
Mas ignorar a IA não é uma opção. Seria o equivalente a manter o correio em papel quando o resto do mundo passou para o e-mail. A IA generativa já faz parte do nosso quotidiano, permitindo-nos acompanhar a mudança e prestar um excelente serviço aos nossos clientes. Enquanto líderes, devíamos incentivar o uso da IA nos nossos negócios e tranquilizar as nossas pessoas: a IA é um facilitador, e não uma ameaça aos seus empregos. Enquanto contabilistas, devíamos recorrer à IA para ciclos orçamentais mais curtos e uma tomada de decisões mais rápida — ambas vantagens competitivas óbvias.
Por isso, sim, use a IA para automatizar o trabalho aborrecido e facilmente resolvido por máquinas. Mas dedique parte do tempo que ganha a interrogar os resultados. A IA não sabe nem se importa se está, por exemplo, a basear-se em legislação fiscal desatualizada, mas o seu cliente e a lei importam-se. E quando a IA faz uma trapalhada, vão entregar-lhe a esfregona para limpar o derrame.
A conclusão: Aumente o ceticismo no seu radar de tretas quando usa a IA. Até as próprias ferramentas reconhecem que são falíveis, que não têm senso comum e que devem ser verificadas. Use o seu discernimento, a sua especialização e fontes fiáveis para verificar a informação crítica que uma ferramenta de IA demasiado ansiosa por agradar apresentou como facto.
Androides que sonham com ovelhas elétricas
As ficções que a IA produz chamam-se alucinações. Acontecem porque a IA usa o reconhecimento de padrões para aprender a partir de conjuntos de dados de treino e baseia as suas respostas na probabilidade estatística de certas palavras aparecerem numa certa ordem, e não numa verdadeira compreensão do que se passa. A IA não consegue reconhecer dados maus e apresentá-los-á com confiança como factos, de uma forma que faz as respostas soarem autênticas e fidedignas.
Conforme publicado na ASA Magazine - setembro de 2024