Los asistentes digitales actuales escuchan una palabra clave como "Ok, Google" o "Alexa", antes de grabar el discurso para procesarlo. Especialmente para compañías como Google y Amazon, que prosperan al conocer todo acerca de los usuarios, esto ayuda a calmar los problemas de privacidad.
Hay algunos inconvenientes de este enfoque, principalmente el contexto. Los futuros asistentes de inteligencia artificial podrán proporcionar más ayuda cuando estén armados con información previa a la solicitud.
Por ejemplo, digamos que estaba discutiendo la posibilidad de reservar un asiento en su restaurante favorito el próximo martes. Después de preguntar: “Alexa, ¿tengo algo en mi agenda el próximo martes?”, Podría responder: “No, ¿quieres que reserve un asiento en el restaurante en el que estabas discutiendo y lo agregue a tu calendario?”
Hoy, tal tarea requeriría tres solicitudes separadas.
La patente de Amazon todavía no es tan compleja. El ejemplo provisto en la presentación prevé que el usuario pueda decir cosas como "Reproducir 'And Yout Birds can Sing Alexa, por los Beatles", (Ten en cuenta el wakeword después del comando de reproducción de la canción).
David Emm, investigador principal de seguridad en Kaspersky Lab, dijo:
"Es probable que muchos usuarios de Amazon Alexa estén alarmados por las noticias de hoy de que la patente más reciente de la compañía permitiría que los dispositivos, que son habituales en los hogares de todo el Reino Unido, registren todo lo que una persona dice antes de recibir un comando. Si bien la patente no sugiere que se instalará en futuros dispositivos habilitados para Alexa, esto todavía señala un desarrollo alarmante en la rendición de nuestra privacidad personal.
Dada la cantidad de información confidencial que se intercambia en la comodidad de los hogares de las personas, Amazon podría tener acceso a un gran volumen de información personal, información que sería de gran valor para los ciberdelincuentes y los actores de amenazas. Si los datos no se protegen de manera efectiva, una infracción exitosa de los sistemas de Amazon podría tener un fuerte efecto en la seguridad de los datos y la privacidad de un gran número de personas.
Si esta patente entra en vigencia, los consumidores deben ser muy conscientes de las ramificaciones de esta, y recibir una información completa sobre los datos que se recopilan, cómo se utilizan y cómo pueden optar por no participar en esta colección. Amazon puede argumentar que el análisis de los datos almacenados hará que sus dispositivos sean más inteligentes para los propietarios de Alexa, pero en la era digital de hoy en día, dicha información podría ser utilizada de manera infeliz, incluso por partes de confianza. Por ejemplo, como vimos con Cambridge Analytica, los organismos del sector público podrían dirigir las campañas electorales a quienes discuten sobre política.
Existe un mundo de diferencias entre el almacenamiento local temporal de oraciones, para determinar si se ha utilizado la palabra de comando, y la retención masiva de datos durante largos períodos, o permanentemente, incluso si el proceso de escucha es legítimo y los consumidores han optado. Ya hay "Hemos criticado a Amazon por no dejar en claro lo que se está grabando y almacenando, y nos preocupa que este último desarrollo muestre a la compañía moviéndose en la dirección equivocada, lejos de la visibilidad, privacidad y consentimiento de los datos".
Lograr el equilibrio entre innovación y seguridad puede ser una tarea difícil. Los pioneros a menudo hacen las cosas primero y se enfrentan a la reacción violenta antes de que en realidad se convierta en algo normal. Eso no es abogar por el posible enfoque de Amazon, pero debemos ser cuidadosos, la indignación no detiene el progreso mientras nos mantenemos atentos a los peligros reales.
Fuente:https://www.artificialintelligence-news ... verything/