L’IA d’Amazon est un assistant personnel intelligent appelé Alexa. Il ne s’agit pas seulement d’enceintes répondant à la voix, mais d’un véritable assistant intelligent capable de nous parler, de nous donner des informations et même d’anticiper nos besoins. L’IA d’Amazon concrétise ce que nous catégorisions jusqu’à présent comme de la science fiction, possible seulement dans les films et notre imaginaire.

Il y a quelques temps, une présentation d’Alexa avait été faite: Google Home ou Amazon Echo ?

IA

 

Mais quelles sont les limites de cette IA ?

Parmi les innombrables commentaires laissés à propos de l’intelligence artificielle Alexa d’Amazon, ses créateurs ne s’attendaient sûrement pas à retrouver le qualificatif « le cauchemar des parents ». Pourtant, ce commentaire s’est amplifié au fur et à mesure que les parents ont découvert les conséquences inattendues d’introduire un tel système auprès de leurs enfants. En effet, Alexa, aussi intelligente soit-elle, n’est pas en mesure de comprendre et de s’adapter au défaut de prononciation et à l’esprit des plus jeunes.

Récemment, Megan Neitzel de Dallas, au Texas, a eu la surprise de recevoir une notification lui indiquant que sa commande Amazon d’un montant de 170$ venait d’être expédiée alors qu’elle n’avait rien commandé. En réalité, sa fille de 6 ans s’était amusée avec l’assistant vocal d’Amazon:

«Je lui ai demandé si elle pouvait commander une maison de poupée et quelques cookies. Elle m’a demandé si c’était ce que je voulais, et je lui ai répondu que oui», explique-t-elle à la chaîne ABC.

Depuis, Amazon a intégré la possibilité de créer un code PIN à 4 chiffres afin de confirmer les commandes passées par les utilisateurs.

Sur le même thème, fin 2016, nous avons sûrement tous eu l’occasion de tomber sur cette vidéo devenue virale où un petit garçon demande à Alexa de « jouer Digger Digger« :

 

D’autre part, l’enceinte enregistre notre voix, c’est-à-dire que lorsque l’utilisateur s’adresse à Alexa, les paroles prononcées sont hébergées sur le Cloud d’Amazon. Toutefois, théoriquement, les données ne peuvent pas sortir de l’Union Européenne et l’utilisateur peut les effacer lorsqu’il le désire. Mais, au delà de la sécurité des données, cette utilisation va définir notre environnement puisque l’assistant vocal sera même en mesure d’anticiper nos besoins, sans jamais nous contredire.

De ce fait, certains experts mettent en garde contre les risques d’un enfermement « technococon » d’une telle IA, très personnalisée, surtout auprès des enfants.