Una nueva aplicación que promete pagar a las personas por las grabaciones de sus llamadas telefónicas, que luego se utilizan para capacitar a los modelos de IA, se ha deshabilitado después de que se informó un gran defecto de seguridad.
Neon todavía está en el top 10 de las descargas de aplicaciones gratuitas de iOS, pero después TechCrunch informó El jueves, en un defecto de seguridad, el sitio de noticias que se encuentra en el servicio, sus servidores aparentemente no están disponibles para los usuarios.
La aplicación aún se puede descargar, pero ya no funciona. No está claro si el neón regresará o cuánto tiempo llevará.
Según TechCrunch, un defecto en la aplicación permitió a las personas acceder a llamadas de otros usuarios, transcripciones y metadatos sobre llamadas. La compañía notificó a los usuarios de neón que estaba deteniendo el servicio, pero no mencionó explícitamente por qué, dijo TechCrunch.
El fundador de neón, Alex Kiam, confirmó la falla de seguridad en un correo electrónico a CNET. “Bajamos los servidores tan pronto como TechCrunch nos informó”, dijo.
Neon envió un correo electrónico a los usuarios que indicaban que estaba deteniendo la aplicación para “agregar capas adicionales de seguridad”. El correo electrónico continuó diciendo: “No podrá hacer llamadas o retirarse, y la aplicación mostrará temporalmente $ 0 en su cuenta, pero su dinero no ha desaparecido. La aplicación volverá a estar en línea pronto”.
No se pierda ninguno de nuestros contenido tecnológico imparcial y reseñas basadas en el laboratorio. Agregar CNET Como fuente de Google preferida.
Antes de que la aplicación fuera deshabilitada, un experto legal advirtió sobre los problemas que podría causar, además de posibles defectos de seguridad.
David Hoppe, el fundador y socio gerente de Ley Gamma, Lo que aconseja a los clientes sobre problemas tecnológicos espinosos, le dijo a CNET que debido a que algunos estados tienen reglas de consentimiento para grabar llamadas telefónicas, cualquier persona que use neón debe tener mucho cuidado o evitarlo por completo. Sin certeza de su legalidad, advirtió: “No uses esta aplicación”.
Efectivo para llamadas
El neón todavía está disponible (al menos por el momento) iOS y Androide. La compañía registra las llamadas telefónicas salientes de los usuarios y les paga hasta $ 30 por día para llamadas regulares o 30 centavos por minuto si la llamada es a otro usuario de neón. Las llamadas a los usuarios no neon pagan 15 centavos por minuto. La aplicación también ofrece $ 30 para referencias.
“Puede retirarse tan pronto como gane sus primeros diez centavos”, un Preguntas frecuentes de la aplicación de neón Dice: “Una vez que se redimen, los pagos generalmente se procesan dentro de los tres días hábiles, aunque el tiempo puede ser más corto o más largo”.
Imágenes de promoción para la aplicación Neon en la App Store de iOS Promise Money para los datos de llamadas telefónicas, pero no mencionan que los datos se utilizan para entrenar modelos de IA.
La compañía promete que solo se basa en la grabación de un lado de la conversación telefónica, la persona que llama, que parece ser una forma de esquivar las leyes estatales que Prohibir la grabación de llamadas telefónicas sin permiso.
Si bien muchos estados solo requieren que una persona en una llamada sea consciente de que se está registrando una llamada, otros, incluidos California, Florida y Maryland, tienen leyes que requieren todas las partes en una llamada telefónica al consentimiento de la grabación. No está claro cómo funciona el neón con las llamadas a esos estados. Para las llamadas de neón a neón, el consentimiento bipartidista presumiblemente estaría implícito.
La aplicación no registra llamadas regulares de la aplicación telefónica, solo las que se realizan dentro de la aplicación Neon o reciben de otra persona que usa neón.
Si bien la versión de iOS se ha convertido en popularidad, alcanzó tan alto como el puesto número 2 esta semana, la versión de Android parece tener algunos problemas, al menos según algunas de las reseñas más recientes en Google Play Store. La aplicación Android solo tiene una calificación de 2.4 estrellas, y Algunos comentarios de los usuarios Informe los errores de red cuando las personas intentan cobrar en la aplicación Neon.
Capacitación de IA utilizando sus datos
Según las preguntas frecuentes de la compañía, los datos de llamadas se anonimizan y se usan para capacitar a los asistentes de voz de IA. “Esto ayuda a capacitar a sus sistemas para comprender el discurso diverso y del mundo real”, dice.
Las compañías de IA necesitan cantidades crecientes de datos para capacitar a sus modelos, lo que puede ser por qué Neon está ofreciendo el incentivo monetario.
“La industria tiene hambre de conversaciones reales porque capturan el tiempo, las palabras de relleno, las interrupciones y las emociones que se pierden los datos sintéticos, lo que mejora la calidad de los modelos de IA”, dijo Zahra Timsah, CEO de Yo tienesque funciona en el cumplimiento de la IA.
“Pero eso no le da a las aplicaciones un pase de privacidad o consentimiento”, dijo Timsah.
Empujando los límites legales
TechCrunchque fue uno de los primeros sitios en escribir sobre la aplicación, señaló que compartir datos de voz puede ser un riesgo de seguridad, incluso si una empresa promete eliminar la información de identificación de los datos.
El neón podría estar presionando su suerte, especialmente en los estados y países, cuando se trata de las leyes o regulaciones de privacidad y IP, dependiendo de cómo maneja el consentimiento y dónde terminan los datos.
“No sabemos si hay suficientes salvaguardas para excluir a la persona en el otro extremo de la conversación, pero se requeriría algún nivel de consentimiento e informarles de que se proporcionan”, dijo Valence Howdenexperto en gobernanza de datos y becario asesor en Info-Tech Research Group.
Howden dijo que incluso si los datos se anonimizan, la IA podría no tener dificultades para descubrir retroactivamente quién está en juego en una conversación de neón.
“La IA puede inferir mucho, corregir o no, para llenar los vacíos en lo que recibe, y puede proporcionar enlaces directos si los nombres o la información personal son parte del intercambio”, dijo.
¿Puedo ser responsable de las grabaciones de llamadas?
Dejando de lado los requisitos que la aplicación Neon tuvo que cumplir para ser incluida en la App Store de Apple, es razonable tener preguntas sobre la legalidad de grabar llamadas telefónicas, especialmente en los estados donde todas las partes deben consentir.
Esa puede ser una razón importante para evitar el neón, según Hoppe, el experto legal.
“En los Estados Unidos, no es legal simplemente registrar una llamada telefónica porque los términos de servicio de una aplicación dicen que puede”, dijo Hoppe. “Entonces, imagine que un usuario en California registra una llamada con un amigo, también en California, sin decirles. Ese usuario acaba de violar el código penal de California. Podrían enfrentar cargos penales y, igualmente aterrador, ser demandados civilmente por la persona que registró”.
Las violaciones, dijo, podrían resultar en sanciones de miles de dólares por incidente.
Hoppe dijo que los términos de servicio de Neon no protegerán a un usuario de la aplicación si enfrentan responsabilidad legal sobre las grabaciones. Y no ayuda, legalmente hablando, que la persona que grabara se le pagara por hacerlo.
“El usuario es el que presiona el botón de registro”, dijo Hoppe. “Mi recomendación más fuerte para cualquiera que considere esto sería: a menos que esté absolutamente seguro de las leyes de consentimiento en su estado y el estado de la persona que está llamando, y ha informado y recibido explícitamente el consentimiento de cualquier otra persona en la llamada, no use esta aplicación”.
