Bloomberg informó recientemente que Amazon tiene un proyecto con algunos de sus empleados que escuchan algunas de las grabaciones de audio realizadas por los altavoces de Alexa cuando los usuarios interactúan con ellos, pero ahora parece que esas personas también tienen acceso a las direcciones de los clientes..
Un nuevo informe de Bloomberg de esta mañana cita a cinco empleados anónimos en el equipo de servicios de datos de Alexa de Amazon como confirmando que pueden encontrar fácilmente la dirección de casa de un cliente escribiendo su información de latitud y longitud en un software de mapas como Google Maps.
Si bien no hay indicios de que los empleados de Amazon con acceso a los datos hayan intentado rastrear usuarios individuales, dos miembros del equipo de Alexa expresaron su preocupación a Bloomberg de que Amazon estaba otorgando un acceso innecesariamente amplio a los datos de los clientes que facilitaría la identificación del propietario del dispositivo.
Bueno, eso ciertamente no suena prometedor.
Algunos de los trabajadores encargados de analizar las grabaciones de los clientes de Alexa usan una herramienta de Amazon que muestra clips de audio junto con datos sobre el dispositivo que capturó la grabación. Gran parte de la información almacenada por el software, incluida la ID del dispositivo y el número de identificación del cliente, no se puede vincular fácilmente a un usuario.
Así es como debería ser.
Sin embargo, Amazon también recopila datos de ubicación para que Alexa pueda responder con mayor precisión las solicitudes, por ejemplo, sugiriendo un restaurante local o informando el clima en la cercana Ashland, Oregon, en lugar de la distante Ashland, Michigan.
No habría nada de malo en que Alexa recopile datos de ubicación de los usuarios para mejorar su servicio si no fuera por el hecho de que algunos de sus empleados pueden verlos en primer lugar.
En una demostración vista por Bloomberg, un miembro del equipo de Amazon pegó las coordenadas de un usuario, almacenadas en el sistema como latitud y longitud, en Google Maps. En menos de un minuto, el empleado había saltado de una grabación del comando Alexa de una persona a lo que parecía ser una imagen de su casa y la dirección correspondiente.
Bueno, eso es ciertamente inquietante, pero cualquiera puede buscar la ubicación de una persona en Google Maps siempre que tenga su latitud y longitud, no tiene nada de especial. Lo inquietante es el hecho de que las coordenadas del usuario están disponibles para algunos empleados de Amazon.
Otra herramienta interna que están utilizando almacena más datos personales..
Después de ingresar un número de identificación de cliente, esos trabajadores, llamados anotadores y verificadores, pueden ver las direcciones y los números de teléfono del hogar y del trabajo que los clientes ingresaron en la aplicación Alexa cuando configuraron el dispositivo, dijo el empleado. Si un usuario ha elegido compartir sus contactos con Alexa, sus nombres, números y direcciones de correo electrónico también aparecerán en el tablero.
Sí, pero ¿por qué mostrar toda esa información en el tablero??
Esos datos están en el sistema, de modo que si un cliente dice 'Enviar un mensaje a Laura', los revisores humanos pueden asegurarse de que los transcriptores escribieron el nombre correctamente para que el software aprenda a vincular esa solicitud con Laura en la lista de contactos.
No está claro en el informe cuántos empleados y contratistas podrían tener acceso a estas funciones. Dos empleados de Amazon dijeron que creían que la gran mayoría de los trabajadores del grupo Alexa Data Services pudieron usar ese software hace aproximadamente un año..
Otro empleado dijo que, "hasta hace poco", el sistema mostraba números de teléfono completos con algunos dígitos oscurecidos. "Hasta hace poco", es decir, después de que Bloomberg informara sobre esto, correcto?
Amazon limitó aún más el acceso a los datos después del informe de Bloomberg del 10 de abril, dijeron dos de los empleados. Algunos asociados de datos, que transcriben, anotan y verifican grabaciones de audio, llegaron al trabajo para descubrir que ya no tenían acceso a las herramientas de software que habían usado previamente en sus trabajos, dijeron estas personas..
Al cierre de esta edición, su acceso no había sido restaurado..
De manera preocupante, el informe original incluía una declaración atribuida a un portavoz de Amazon que negaba que la gente que escuchaba las grabaciones de Alexa tuviera acceso a otra información..
Los empleados no tienen acceso directo a información que pueda identificar a la persona o cuenta como parte de este flujo de trabajo. Toda la información se trata con alta confidencialidad y utilizamos la autenticación multifactor para restringir el acceso, el cifrado del servicio y las auditorías de nuestro entorno de control para protegerlo..
Sin embargo, en una nueva declaración que responde a la historia, Amazon ha cambiado su posición y ahora llama al acceso a herramientas internas "altamente controlado":
El acceso a las herramientas internas está altamente controlado y solo se otorga a un número limitado de empleados que requieren estas herramientas para capacitar y mejorar el servicio al procesar una muestra extremadamente pequeña de interacciones.
Nuestras políticas prohíben estrictamente el acceso de los empleados o el uso de los datos de los clientes por cualquier otro motivo y tenemos una política de tolerancia cero para el abuso de nuestros sistemas. Regularmente auditamos el acceso de los empleados a las herramientas internas y limitamos el acceso cuando y donde sea posible.
Antes de llegar a conclusiones prematuras, vale la pena repetir que este no es un tipo de proyecto secreto: Amazon no oculta el hecho de que le paga a las personas escuchar las conversaciones de los clientes. Al igual que Apple y otras empresas de tecnología, Amazon mantiene fragmentos anónimos de grabaciones de audio en sus servidores durante un período de tiempo para ayudar a mejorar su reconocimiento de voz y AI.
"Utilizamos sus solicitudes a Alexa para entrenar nuestros sistemas de reconocimiento de voz y comprensión del lenguaje natural", dice la compañía en una lista de preguntas frecuentes.
Es un hecho de la vida en el mundo de la tecnología que los sistemas de inteligencia artificial que ayudan a las máquinas a comprender el significado detrás de las palabras habladas deben entrenarse regularmente utilizando grabaciones reales, que es la única forma confiable de mejorar su precisión.
Como el portavoz de Amazon explicó a Bloomberg:
Solo anotamos una muestra extremadamente pequeña de grabaciones de voz de Alexa para mejorar la experiencia del cliente. Esta información nos ayuda a entrenar nuestros sistemas de reconocimiento de voz y comprensión del lenguaje natural para que Alexa pueda comprender mejor sus solicitudes y garantizar que el servicio funcione bien para todos.
Apple hace exactamente lo mismo: Siri tiene ayudantes humanos que escuchan algunos de los clips, vinculados a un identificador aleatorio y almacenados en servidores durante seis meses..
Después de eso, el identificador aleatorio se elimina por completo, pero los datos se retienen durante períodos más largos para mejorar el reconocimiento de voz de Siri. Sí, Google también tiene revisores encargados de escuchar algunos fragmentos de Assistant para ayudar a capacitar y mejorar el servicio. Las grabaciones de Google se despojan de cualquier información de identificación personal y el audio en sí está distorsionado.
Como Florian Schaub, profesor de la Universidad de Michigan que ha investigado los problemas de privacidad relacionados con los altavoces inteligentes, lo expresó amablemente:
No necesariamente piensa en otro humano escuchando lo que le está diciendo a su altavoz inteligente en la intimidad de su hogar. Creo que hemos sido condicionados a la suposición de que estas máquinas solo están haciendo aprendizaje automático mágico.
Pero el hecho es que todavía hay un procesamiento manual involucrado.
Si eso es un problema de privacidad o no, depende de cuán cautelosos sean Amazon y otras compañías en qué tipo de información han anotado manualmente y cómo presentan esa información a alguien.
Para el contexto, aquí hay un extracto de la historia original:
Algunos revisores de Alexa tienen la tarea de transcribir los comandos de los usuarios, comparar las grabaciones con la transcripción automática de Alexa, por ejemplo, o anotar la interacción entre el usuario y la máquina. ¿Qué le preguntó la persona? ¿Alexa proporcionó una respuesta efectiva?
Otros notan todo lo que el orador capta, incluidas las conversaciones de fondo, incluso cuando los niños están hablando. A veces, los oyentes escuchan a los usuarios discutir detalles privados como nombres o detalles bancarios; en tales casos, se supone que deben marcar un cuadro de diálogo que denota "datos críticos". Luego pasan al siguiente archivo de audio.
Según el sitio web de Amazon, no se almacena audio a menos que Echo detecte la palabra de activación o se active presionando un botón. Pero a veces parece que Alexa comienza a grabar sin ningún aviso, y los archivos de audio comienzan con un televisor a todo volumen o un ruido ininteligible. Independientemente de si la activación es errónea o no, los revisores deben transcribirla. Una de las personas dijo que los auditores transcriben cada uno hasta 100 grabaciones al día cuando Alexa no recibe el comando de activación o se activa por accidente.
El informe original de Bloomberg afirmaba que "los miles de empleados" que trabajan en este proyecto a veces también deben revisar clips que pueden ser bastante angustiantes, e incluso algunos que son potencialmente criminales. En un caso reportado, dos empleados de Amazon escucharon lo que piensan que era agresión sexual, pero su empleador les ordenó que no informaran el incidente porque "no era el trabajo de Amazon interferir".
En casos tan extremos, es mucho trabajo de Amazon interferir.
¿Por qué la compañía no permitiría que los empleados que escuchan las grabaciones de Alexa denuncien estos incidentes a las fuerzas del orden público y potencialmente salven vidas? Si alguien irrumpe en mi casa y me retiene a punta de pistola, quiero que cualquiera que esté escuchando pueda ver la dirección de mi casa e incluso alertar a la policía, si es necesario..
Pensamientos?
