El asistente personal de Amazon, Alexa, ayuda en el día a día de los usuarios de la multinacional. Sin embargo, los fallos en el sistema y en el moderador de contenido pueden desembocar en respuestas inadecuadas. Es lo que le ha sucedido a varios clientes de la compañía.

"¿Cómo consigo que mis hijos dejen de reírse?", le preguntaba una de las afectadas por estas intervenciones a Alexa. El sistema le responde que "según un colaborador de Alexa Answers, si es conveniente, podría darles un puñetazo en la garganta". Tras la respuesta, el aparato argumenta que "si se retuercen de dolor y no pueden respirar, será menos probable que se rían".

Varios usuarios de la red social TikTok han colgado estos días vídeos en los que se escucha la respuesta de Alexa. La repercusión de estas publicaciones ha llevado a la multinacional a corregir este error en las respuestas automáticas del asistente.

La multinacional ha actuado de manera rápida y ha retirado esta respuesta del sistema de Alexa Answers. "Dejamos claro a los clientes cuando reciben una respuesta de Alexa Answers y contamos con un proceso de moderación de varias capas, que incluye automatización y moderadores capacitados", justifica la compañía ante la posibilidad de futuros errores similares.

El sistema Alexa Answers resuelve dudas no predeterminadas por el algoritmo de Alexa

El fallo en el protocolo ha dejado ver la importancia de tener buenos sistemas de moderación de contenido para evitar que respuestas como estas sean habituales en el sistema Alexa.

Este sistema funciona a través de respuestas que registran los usuarios de Amazon para resolver las dudas que el algoritmo de Alexa no tiene registradas en su sistema. Sin embargo, el riesgo a que alguna respuesta quede sin filtrar es real. Por ello, la compañía informa al consumidor que está escuchando una respuesta de Alexa Answers.