Amazon lo hará pagar a la FTC una multa de $25 millones así como «revisar sus prácticas de eliminación e implementar estrictas salvaguardas de privacidad» para evitar cargos de violar la Ley de protección de la privacidad en línea de los niños para mejorar su IA.
La interfaz de voz de Amazon Alexa se ha utilizado en hogares de todo el mundo durante años, y cualquier padre que tenga una sabe que a los niños les encanta jugar con ella, hacer que cuente chistes o incluso usarla para el propósito previsto, sin importar qué. De hecho, era tan obviamente útil para los niños que no pueden escribir o tienen discapacidades que la FTC relajó las reglas de COPPA para acomodar el uso razonable: algunos análisis de datos de niños específicos de servicios, como la transcripción, fueron autorizados siempre que no fueran Preservado. más tiempo del razonablemente necesario.
Parece que Amazon puede haber tomado una visión bastante amplia de la escala de tiempo «razonablemente necesaria», reteniendo los datos de voz de los niños más o menos para siempre. Como dice la FTC:
Amazon retuvo los registros de los niños indefinidamente, a menos que un padre solicite la eliminación de esa información, según la denuncia. E incluso cuando un padre trató de eliminar esa información, dijo la FTC, Amazon no eliminó las transcripciones de lo que dijeron los niños de todas sus bases de datos.
Los datos de geolocalización tampoco se eliminaron, un problema que la empresa «no ha podido resolver repetidamente».
Ha estado ocurriendo durante años: la FTC alega que Amazon lo sabía desde 2018, pero no actuó hasta septiembre del año siguiente, después de que la agencia les dio un impulso útil.
Este tipo de sincronización generalmente indica que una empresa habría continuado con esta práctica para siempre. Y aparentemente, debido a «parches defectuosos y fiascos de procesos», ¡algunas de estas prácticas continuaron hasta 2022!
Quizás se pregunte cuál es el punto de tener un montón de grabaciones de niños hablando con Alexa. Bueno, si espera que su interfaz de voz le hable mucho a los niños, ciertamente es útil tener una base de datos secreta de interacciones de audio en la que pueda entrenar sus modelos de aprendizaje automático. Y así es como la FTC dijo que Amazon justificaba la retención de esos datos.
Los comisionados de la FTC, Bedoya y Slaughter, junto con el presidente Khan, escribieron una declaración que acompaña al acuerdo y la demanda propuestos para enfatizar particularmente este punto:
La Comisión alega que Amazon retuvo los datos de los niños indefinidamente para refinar su algoritmo de reconocimiento de voz. Amazon no está solo aparentemente buscando acumular datos para refinar sus modelos de aprendizaje automático; Ahora, con la llegada de los grandes modelos de lenguaje, la industria de la tecnología en su conjunto se apresura a hacer lo mismo.
El acuerdo de hoy envía un mensaje a todas estas empresas: el aprendizaje automático no es excusa para infringir la ley. Las afirmaciones de la compañía de que los datos deben conservarse indefinidamente para mejorar los algoritmos no superan las prohibiciones legales sobre la retención indefinida de datos. Los datos que utiliza para mejorar sus algoritmos deben recopilarse y conservarse legalmente. Las empresas harían bien en prestar atención a esta lección.
Y hoy tenemos la multa de $ 25 millones, que por supuesto es menos que insignificante para una empresa del tamaño de Amazon. Claramente está cumpliendo con las otras disposiciones de la orden propuesta que probablemente les dará un dolor de cabeza. La FTC dice la orden:
- Prohibir que Amazon utilice la geolocalización, la información de voz y la información de voz de los niños sujeta a solicitudes de eliminación del consumidor para la creación o mejora de cualquier producto de datos;
- Exigir a la empresa que elimine las cuentas inactivas de Alexa de los niños;
- Exigir a Amazon que notifique a los usuarios de la acción de la FTC-DOJ contra la empresa;
- Exigir a Amazon que informe a los usuarios sobre sus prácticas y controles de retención y eliminación;
- Prohibir a Amazon tergiversar sus políticas de privacidad relacionadas con la geolocalización, la voz y la información de voz de los niños; Y
- Ordenar la creación e implementación de un programa de privacidad relacionado con el uso de la información de geolocalización por parte de la empresa.
Este acuerdo y acción es completamente independiente del otro anunciado hoy por la FTC, con Ring, subsidiaria de Amazon. Sin embargo, existe un cierto hilo común de «no implementar protecciones básicas de privacidad y seguridad».
En un comunicado, Amazon dijo que «si bien no estamos de acuerdo con las afirmaciones de la FTC y negamos haber infringido la ley, este acuerdo deja el asunto atrás». También prometen «eliminar los perfiles de niños que han estado inactivos durante más de 18 meses», lo que parece increíblemente largo para mantener estos datos. Seguí con preguntas sobre esta duración y si los datos se usarán para la capacitación de ML, y actualizaré si tengo una respuesta.