Duplex, la technologie Google qui va trop loin ?

Présentée à l’occasion de la dernière conférence développeurs I/O 2018 (8-10 mai à Mountain View) de Google, la technologie conversationnelle Duplex simulant à la perfection l’interaction humaine a surpris. Au-delà de la prouesse technique, de possibles dérives d’usages posent question.

Un expert en intelligence artificielle de l’Université de Nouvelle-Galles du Sud (Australie) a mis en évidence une préoccupation éthique autour de Google Duplex, arguant que la technologie de l’IA devrait se présenter comme un robot. Dans un article publié par UNSW, l’expert en IA de l’université et le professeur Hussein Abbass ont déclaré que la démonstration d’IA de Google, bien qu’amusante, soulevait une question importante : avez-vous le droit de savoir que vous parlez à une machine ?

Plus tôt cette semaine, le directeur de Google, Sundar Pichai, a fait la démonstration de Google Duplex, où l’outil AI, sur lequel le géant technologique travaille depuis un certain temps.

https://www.youtube.com/watch?v=bd1mEm2Fy08

Le professeur Hussein Abbass a souligné que contrairement à Siri, Alexa et d’autres assistants AI, Duplex parle comme un humain convaincant. Pendant la présentation, Duplex a été conçu pour avoir un son plus humain en utilisant « hum » et « mmhm » pendant la conversation, où il était très probable que la personne à l’autre bout de l’appel ne savait pas qu’elle parlait à un robot. Il a souligné à juste titre que cela posait un problème d’ordre éthique et que Duplex devrait se présenter comme un robot.

« Le point clé ici est qu’il devrait s’identifier », a déclaré Hussein Abbass dans l’article. « Dans la vidéo, Duplex a déclaré qu’il appelle au nom d’un client. L’humain de l’autre côté de la ligne ne lui a jamais demandé de s’identifier. Si Duplex utilise un nom humain pour gagner la confiance humaine, alors il y a clairement un élément de tromperie et l’IA agirait de manière contraire à l’éthique. Si Duplex s’identifie comme un robot automatisé ou similaire, alors ce sera à l’humain de décider s’il / elle souhaite continuer la conversation », a-t-il dit.

Lire aussi:  Les eurodéputés adoptent la réforme du droit d'auteur, une menace pour la liberté d'expression
Un pas vers l’assistance vocale d’urgence artificielle

Google Duplex recueille des signatures vocales humaines qui continuent à former le robot et même sa propre voix semble être une synthèse d’une ou plusieurs voix humaines. « Ces humains doivent être plus conscients de la façon dont leurs données sont utilisées et ils doivent consentir explicitement à la collecte des données et à l’utilisation prévue des données », a-t-il déclaré.

Si nous pouvons faire confiance à Duplex pour prendre nos rendez-vous chez le coiffeur, pouvons-nous aussi lui faire confiance pour faire un appel d’urgence ? Ce sur quoi Hussein Abbass a déclaré que cela pourrait avoir ses avantages et ses inconvénients. « Une assistance automobile pourrait appeler l’ambulance en cas d’urgence comme un accident, et dans ce cas, c’est une technologie qui sauve la vie.

S’il est mal utilisé, alors comme toute technologie, c’est un acte inapproprié qui pourrait même être illégal. » Hussein Abbass estime toutefois que la technologie a encore du chemin à parcourir avant de pouvoir soutenir de longues discussions humaines.

Une Intelligence Artificielle Plus Vraie Que Nature?

Alors que la conférence annuelle des développeurs Google vient de fermer ses portes, de nombreux articles nous font part des meilleurs moments de ce rendez-vous. L’un d’eux à attiré mon attention. Il s’agissait d’un rapport sur la manière dont Google Duplex et Google Assistant peuvent gérer des appels.

Il ne s’agit pas d’un chatbot réactif ou de système vocal interactif. Autrement dit, cette technologie n’a pas été conçue pour un service d’assistance, bien qu’il puisse éventuellement faire l’affaire. Il s’agit en réalité d’un assistant proactif qui peut passer des appels pour, par exemple, réserver une table au restaurant ou prendre un rendez-vous chez le coiffeur. L’assistant interagit avec la personne à l’autre bout du fil comme s’il était humain.

Lire aussi:  La Chine expérimente le « totalitarisme numérique »

Ndlr :  Nous entrons dans une ère où les conversations avec les machines atteignent de nouveaux sommets. Il existe une large marge de progression, mais comme nous pouvons le voir dans la démonstration, la technologie s’améliore à un rythme effréné. Même 2001 Odyssée de l’espace, le film de Stanley Kubrick, dans lequel on trouve H.A.L. 9000, qui pour moi, reste une référence en matière de technologie vocale interactive, ne fait pas le poids face à ce qui nous attend dans un futur très proche.

Plus de partages

Laisser un commentaire

shares
WP Twitter Auto Publish Powered By : XYZScripts.com
%d blogueurs aiment cette page :