Google ha aclarado que advertirá a los humanos que interactúen con su nuevo sistema Duplex, frente a las críticas suscitadas por la capacidad de éste para imitar la voz humana y efectuar ciertas tareas con ella gracias a la inteligencia artificial (IA).

En una demostración efectuada en su congreso anual de desarrolladores I/O, Google exhibió Google Duplex, una nueva funcionalidad de conversación en la que está trabajando, y que permite que su mayordomo digital Assistant llame a comercios en representación de los usuarios y efectúe tareas tales como concertar citas en peluquerías y reservar mesas en restaurantes. En dicha demostración, Duplex se expresaba mediante voz humana, pero no se identificaba como no humano, lo que provocó protestas motivadas por los problemas éticos que puede plantear semejante sistema (ver vídeo más abajo).

Google quiere apaciguar las críticas y ha declarado que el sistema informará a la persona que atienda la llamada de que está hablando con un programa de inteligencia artificial.

La firma ha explicado en una declaración a The Verge que “comprendemos y valoramos la discusión en torno a Google Duplex. Tal como hemos dicho desde el principio, la transparencia es importante en tecnología. Estamos diseñando la funcionalidad para que ella misma revele quién es y nos aseguraremos de que el sistema se identifique de manera apropiada”.

Google explica que lo mostrado en I/O era una “demostración temprana de la tecnología” y que tendrá en cuenta las opiniones de los usuarios al desarrollar el producto basado en dicho sistema.

La voz usada en la demostración se hallaba bajo el control del programa DeepMind WaveNet de Google, y se ha procurado en su desarrollo que se familiarice con numerosas conversaciones, para que pueda comprender los sonidos humanos e imitarlos de manera efectiva.

En último término, el software está concebido para que los seres humanos puedan mantener conversaciones naturales con él y llevar a cabo tareas en el mundo real mediante su tecnología.

Zeynep Tufekci, profesor adjunto de la Universidad de Carolina del Norte y notorio crítico de las tecnologías, opina que la demostración efectuada en I/O fue “espeluznante”, y afirma que la misma idea de simular la voz humana es “horrible y claramente errónea”.