Desde que Tesla se lanzó Su función completa de conducción autónoma (FSD) en beta en 2020, el manual del propietario de la compañía ha sido claro: contrario al nombre, los autos que usan la función no pueden conducir.
El sistema de asistencia al conductor de Tesla está construido para manejar muchas situaciones de la carretera: encender luces de parada, cambiar de carril, dirección, frenado, giro. Aún así, “el autocontrol completo (supervisado) requiere que prestes atención a la carretera y estés listo para hacerse cargo en todo momento”, el manual estados. “No seguir estas instrucciones podría causar daños, lesiones graves o muerte”.
Ahora, sin embargo, el nuevo mensaje en el automóvil insta a los conductores que están a la deriva entre los carriles o se sienten somnolientos a encender los conductores FSD, potencialmente confusos, que los expertos afirman que podrían alentarlos a usar la función de una manera insegura. “Detectada por la deriva de carril. Deje que FSD ayude para que pueda mantenerse enfocado”, dice el primer mensaje, que se incluyó en una actualización de software y manchado A principios de este mes por un hacker que rastrea el desarrollo de Tesla.
“Detección de somnolencia. Manténgase enfocado con FSD”, se lee en el otro mensaje. En línea, los conductores han publicado desde entonces que han visto un similar mensaje en sus pantallas en el automóvil. Tesla no respondió a la solicitud de comentarios sobre este mensaje, y Wired no ha podido encontrar este mensaje apareciendo en una pantalla de Tesla en el automóvil.
El problema, dicen los investigadores, es que los momentos de falta de atención del conductor son exactamente cuando las características de asistencia del conductor con mentalidad de seguridad deberían exigir que los conductores se centren en la carretera, no sugerir que dependan de un sistema de desarrollo compensar su distracción o fatiga. En el peor de los casos, tal aviso podría conducir a un accidente.
“Este mensaje coloca a los conductores en una situación muy difícil”, dice Alexandra Mueller, una científica de investigación senior del Instituto de Seguros para la Seguridad de las Carreteras que estudia tecnologías de asistencia al conductor. Ella cree que “Tesla básicamente está dando una serie de instrucciones conflictivas”.
Mucha investigación estudia cómo los humanos interactúan con los sistemas informáticos construidos para ayudarlos a realizar tareas. Generalmente encuentra lo mismo: la gente es realmente Terribles supervisores pasivos de sistemas Eso es bastante bueno la mayor parte del tiempo, pero no perfectos. Los humanos necesitan algo para mantenerlos comprometidos.
En la investigación en el sector de la aviación, se llama el “fuera del bucle El problema de rendimiento, “donde los pilotos, que se basan en sistemas totalmente automatizados, pueden no controlar adecuadamente el mal funcionamiento debido a la complacencia después de períodos prolongados de operación. Esta falta de participación activa, también conocida como disminución de la vigilancia, puede conducir a una capacidad reducida para comprender y recuperar el control de un sistema automatizado de mal funcionamiento.
“Cuando sospecha que el conductor se está volviendo somnoliento, para eliminar aún más su compromiso físico, eso parece extremadamente contraproducente”, dice Mueller.
“Como los humanos, a medida que nos cansamos o nos fatigamos, tomar más cosas que debemos hacer podrían ser contraproducentes”, dice Charlie Klauer, un científico e ingeniero investigador que estudia conductores e impulsando el rendimiento en el Instituto de Transporte Tech en Virginia. “Es complicado”.
Con los años, Tesla ha realizado cambios en su tecnología para dificultar que los conductores desatentos usen FSD. El fabricante de automóviles comenzó en 2021 para usar cámaras de monitoreo de controladores en el automóvil para determinar si los conductores prestaban suficiente atención mientras usaban FSD; Una serie de alertas advierten a los conductores si no están mirando el camino. Tesla también utiliza un “sistema de huelga” que puede evitar que un conductor use su función de asistencia del conductor durante una semana si no responden repetidamente a sus indicaciones.
