Existe uma Tesla Roadster a transmitir David Bowie em loop enquanto viaja pelo espaço. Que época para se estar vivo! E, diria eu, o momento perfeito para repensar o que significa ser humano. Mas precisamos de o fazer com muito cuidado.
Estamos a dar as boas-vindas aos robôs nas nossas casas, carros e locais de trabalho. E eles estão a possibilitar coisas que eram impossíveis, ou muito difíceis, ou muito dispendiosas de fazer. Não lhe parece incrível que todos os dias possa usar satélites em órbita à volta do planeta para saber se há trânsito no seu caminho para casa?
Existe também um pânico moral compreensível de que estamos a perder a nossa humanidade. Eis o que aconteceu: abrimos a Caixa de Pandora e o resultado inevitável é a sujeição pelos nossos dominadores cibernéticos. Embora concorde que chegámos ao ponto de não retorno e que um futuro digital é uma certeza, penso que devemos aproveitar esta oportunidade para reexaminar o que significa ser humano e codificar isto no software que faz parte das nossas vidas. Isto irá, esperemos, garantir que a tecnologia cumpra a sua promessa de ser um nivelador e não perpetuar as divisões na sociedade.
Infelizmente já vimos alguns casos em que o último aconteceu. Vejamos o sistema de reconhecimento facial do Google que apenas reconhecia rostos brancos. Ou o Google Translate, que traduziu o pronome neutro em turco de uma forma decididamente dos anos 50: «Ele é médico, ela é enfermeira.» Ou o LinkedIn, que quando se introduz um nome tipicamente feminino, sugere que talvez se esteja à procura do equivalente masculino, mas não o contrário.
Mas isto não é surpreendente, pois o campo da IA é novo e ainda estamos a aprender. Por outro lado, parece que o lado menos agradável da humanidade está a emergir à superfície, graças à falta de diversidade nas equipas de desenvolvimento e teste e à falta de dados representativos nas amostras. Ou, como no caso do exemplo do Google Translate, que se baseou em combinações de palavras comuns existentes, as máquinas simplesmente nos reflectem as nossas próprias lacunas.
No entanto, é chegada a hora de uma reflexão séria. A confiança, a ética e a moralidade precisam de ser codificadas no nosso software agora — considere as decisões que os carros autónomos vão começar a tomar em nosso nome. Quem vai definir estas regras e algoritmos e que escolhas farão? Porque neste momento são as empresas que as estão a fazer (ou não a fazer) e da última vez que verifiquei, aumentar os lucros e o valor para os accionistas ainda figuram muito alto na lista de prioridades das empresas.
Em resumo
A confiança, a ética e a moralidade precisam de estar na vanguarda dos nossos pensamentos enquanto entramos na era digital. É assim que vamos desbloquear todos os benefícios da IA e outras tecnologias e, esperemos, limitar as desvantagens.
Deixo-vos com as palavras de Steve Wozniak, cofundador da Apple: «Antigamente, fazias uma pergunta a uma pessoa inteligente. Agora, a quem perguntas? Começa com g-o, e não é Deus…»
#selfdrivingcars #trust #Google #ethics #morality #AI #digital #Technology