Il y a une Tesla Roadster qui diffuse David Bowie en boucle en voyageant dans l'espace. Quelle époque formidable ! Et, j'oserais dire, le moment idéal pour repenser ce que signifie être humain. Mais nous devons le faire très soigneusement.
Nous accueillons les robots dans nos maisons, nos voitures et nos lieux de travail. Et ils permettent des choses qui étaient impossibles, ou très difficiles, ou très coûteuses à réaliser. Cela ne vous épate-t-il pas de pouvoir utiliser chaque jour des satellites en orbite autour de la Terre pour savoir s'il y a des embouteillages sur votre chemin de retour ?
Il existe aussi une panique morale compréhensible quant au fait que nous sommes en train de perdre notre humanité. Voilà ce qui se passe : nous avons ouvert la boîte de Pandore et le résultat inévitable est la sujétion par nos maîtres cybernétiques. Bien que je convienne que nous ayons atteint le point de non-retour et qu'un avenir numérique soit une certitude, je pense que nous devrions saisir cette occasion pour réexaminer ce que signifie être humain, et coder cela dans le logiciel qui fait partie de nos vies. Cela permettra, espérons-le, de s'assurer que la technologie tient sa promesse d'être un égalisateur, et non de perpétuer les divisions dans la société.
Malheureusement, nous avons déjà vu quelques exemples où c'est ce dernier cas qui s'est produit. Prenez le système de reconnaissance faciale de Google qui ne reconnaissait que les visages blancs. Ou Google Translate, qui a traduit le pronom neutre en turc d'une manière résolument années 1950 : « Il est médecin, elle est infirmière. » Ou LinkedIn, qui, lorsque vous entrez un prénom typiquement féminin, suggère que vous cherchez peut-être l'équivalent masculin, mais pas l'inverse.
Mais ce n'est guère surprenant, car le domaine de l'IA est nouveau et nous apprenons encore. D'un autre côté, il semble que le côté le moins plaisant de l'humanité remonte à la surface, en raison du manque de diversité dans les équipes de développement et de test, et du manque de données représentatives dans les échantillons. Ou bien, comme dans le cas de l'exemple Google Translate, qui était basé sur des combinaisons de mots courants existants, les machines nous reflètent simplement nos propres lacunes.
Néanmoins, il est temps de réfléchir sérieusement. La confiance, l'éthique et la moralité doivent être codées dans nos logiciels maintenant — pensez aux décisions que les voitures autonomes vont commencer à prendre en notre nom. Qui définira ces règles et algorithmes, et quels choix feront-ils ? Car en ce moment, ce sont les entreprises qui les font (ou ne les font pas), et la dernière fois que j'ai vérifié, l'augmentation des bénéfices et la valeur pour les actionnaires figuraient encore très haut dans la liste des priorités des entreprises.
En résumé
La confiance, l'éthique et la moralité doivent être au premier plan de nos préoccupations à l'entrée dans l'ère numérique. C'est ainsi que nous pourrons débloquer tous les avantages de l'IA et des autres technologies, et espérons-le, limiter les inconvénients.
Je vous laisse avec les mots de Steve Wozniak, cofondateur d'Apple : « Autrefois, on posait une question à une personne intelligente. Maintenant, à qui demandez-vous ? Ça commence par g-o, et ce n'est pas Dieu… »
#selfdrivingcars #trust #Google #ethics #morality #AI #digital #Technology