Fui el primer periodista en probar el piloto automático de Tesla antes de su lanzamiento hace más de una década. Desde entonces, he probado todas las versiones de Autopilot y “Full Self-Driving”. FSD v14 es, con diferencia, el más impresionante, y eso es exactamente lo que lo hace el más peligroso.
El peligro no es que FSD v14 sea malo. El peligro es que es tan bueno que puede hacerte dejar de prestar atención, y Tesla no está haciendo lo suficiente para desalentar la complacencia.
De hecho, yo diría que está fomentando activamente la complacencia con su marketing.
Una década de progreso y una década de atención
He corregido el piloto automático y el FSD para evitar situaciones peligrosas más veces de las que puedo contar en los últimos 10 años. He visto cómo el sistema evolucionó desde una asistencia básica para mantenerse en el carril que necesitaba una intervención constante hasta algo que realmente puede navegar en entornos urbanos complejos. A lo largo de todo, he predicado el mismo mensaje en este sitio: FSD es un sistema de asistencia al conductor de nivel 2 y el conductor es responsable en todo momento.
Siempre recordé eso. Siempre presté atención.
Pero la conducción diaria del FSD v14 durante las últimas semanas ha cambiado algo. El sistema está llegando a un nivel realmente impresionante. Ahora viajo a menudo cientos de kilómetros sin tener que intervenir. Lo haces suficientes veces y mantener alejada la complacencia se vuelve más difícil.
Incluso yo, alguien que ha estado predicando cuidado en este tema durante más de una década, me siento cada vez más complaciente. Y no me gusta.
Éste es el problema de las “ironías de la automatización” sobre el que los investigadores han advertido desde la década de 1980: un sistema poco confiable te mantiene alerta porque falla con suficiente frecuencia como para exigir tu atención. Un sistema perfecto no necesita supervisión. Pero un sistema que funciona casi Crea perfectamente una trampa: los conductores confían en él lo suficiente como para dejar de prestar atención, pero aun así falla de manera impredecible y, a veces, crítica.
Los datos empiezan a confirmar el problema.
Ahora estamos obteniendo datos que sugieren que FSD v14 puede viajar un par de miles de millas entre intervenciones críticas. Suena impresionante, y lo es. Pero piense en lo que eso significa para la vigilancia del conductor.
Si conduce 2000 millas sin necesidad de intervenir, son aproximadamente 30 a 40 horas de conducción en las que el sistema se encarga de todo. La psicología humana simplemente no está hecha para permanecer alerta ante eso. Los psicólogos lo llaman “disminución de la vigilancia”: monitorear un sistema casi perfecto es aburrido, el aburrimiento lleva a divagar y las investigaciones muestran que los conductores necesitan de 5 a 8 segundos para volver a conectarse mentalmente después de que un sistema automatizado les devuelve el control.
Cuando llega esa intervención crítica (un obstáculo repentino, una intersección confusa, una zona de construcción que el FSD no comprende), si no se presta atención durante esos pocos segundos, puede ser extremadamente peligroso. Incluso si FSD v14 es 3 veces mejor que las versiones anteriores, un momento de falta de atención en el momento equivocado puede ser fatal.
Vimos cómo esto se desarrolló dramáticamente cuando Raffi Krikorian, exjefe de la división de conducción autónoma de Uber, estrelló su Tesla Model X mientras usaba FSD. Se trataba de alguien que literalmente se ganaba la vida construyendo sistemas de conducción autónoma, y el rendimiento casi perfecto del FSD todavía lo adormecía con una falsa sensación de seguridad. Cuando el sistema repentinamente perdió su rumbo en una curva, no pudo recuperarse a tiempo. El auto quedó destrozado.
Si la complacencia de la automatización puede afectar al ex director del programa de conducción autónoma de Uber, puede afectar a cualquiera.
El Instituto de Seguros para la Seguridad en las Carreteras ha advertido que los fabricantes de automóviles deben repensar fundamentalmente el diseño de los sistemas de Nivel 2 para protegerse contra este problema exacto. La NHTSA ha ampliado los requisitos de informes de accidentes para ADAS de nivel 2. Y Reuters descubrió recientemente que los propios entrenadores de IA de Tesla no confían en el sistema: siete de nueve ex etiquetadores de datos dijeron que no confiarían en FSD para manejarlos.
El marketing de Tesla está empeorando el problema
Creo firmemente que Tesla no está haciendo lo suficiente para abordar este problema de complacencia. De hecho, la empresa está activamente empeorando las cosas.
Las cuentas oficiales de Tesla en X han estado llevando a cabo una campaña sostenida que enmarca a FSD como algo que conduce para ti – no es algo que usted supervise. Esto es lo que Tesla y Elon Musk han estado publicando:
Decirle que “devuelve tiempo” y “libertad”:
Tesla publicó que «FSD Supervised puede devolverle su libertad» y «elimina el estrés de conducir para que pueda disfrutar yendo a lugares». La empresa lo llamó «su chófer personal». Musk dijo: «La conducción autónoma de Tesla mejora enormemente tu calidad de vida y seguridad durante las miles de horas que pasas en un coche».
Cada una de estas publicaciones les dice a los conductores: relájense, el auto lo está manejando. Eso es lo contrario de lo que debería decirle a la gente que opera un sistema de Nivel 2.
Promocionar FSD entre personas que no siempre pueden supervisarlo:
Aquí es donde se vuelve realmente irresponsable. La cuenta oficial de Tesla promocionó a un hombre de 71 años con problemas de visión comprando un Cybertruck para FSD, respondiendo «Libertad». Compartieron a una mujer de 93 años que usaba FSD para ir a la iglesia porque podía “conducir sin el miedo o la fatiga que naturalmente surgen con la edad”. Amplificaron a un hombre nacido sin brazos llamando a la FSD “accesibilidad que cambia la vida”. Publicaron que FSD «nos ayudará a mantenernos independientes a medida que envejecemos y no podemos conducir por nosotros mismos».
Creo que la conducción automatizada tendrá un impacto increíble en las vidas de las personas con discapacidades, pero a pesar de su nombre, eso no es lo que es la ‘conducción totalmente autónoma’ de Tesla. Es un sistema de asistencia al conductor de nivel 2.
Un sistema de Nivel 2 requiere un conductor totalmente capacitado y listo para tomar el control en cualquier momento. Eso contradice directamente el perfil de cada persona que Tesla sigue eligiendo para destacar. Como escribí en marzo, estos tweets terminarán como prueba en un caso judicial sobre un accidente del Tesla FSD en algún momento. El abogado del demandante los detendrá y dirá: «La propia cuenta oficial de Tesla promovió un testimonio de un comprador con problemas de visión que compró el vehículo específicamente porque creía que FSD podía conducir para él, y Tesla amplificó ese mensaje a millones».
Decirles a los conductores que pueden enviar mensajes de texto mientras conducen:
Se le preguntó a Musk si FSD permite enviar mensajes de texto y conducir y respondió: «Dependiendo del contexto del tráfico circundante, sí». Enviar mensajes de texto mientras se conduce es ilegal en casi los 50 estados. Los propios términos de Tesla aún requieren la supervisión total del conductor.
Llamar al coche «sensible»:
Musk publicó que «con la V14.3, su automóvil se sentirá sensible». Esto no es una afirmación técnica: es un mensaje psicológico diseñado para hacer que los conductores antropomorficen el sistema y confíen en él más de lo que deberían.
La opinión de Electrek
He estado cubriendo el piloto automático y el FSD de Tesla por más tiempo que nadie. En octubre de 2024 escribí que la FSD se estaba volviendo más peligrosa a medida que mejoraba. Ahora, un año y medio después, el sistema es dramáticamente más capaz y el problema de la complacencia es dramáticamente peor.
FSD v14 es una tecnología realmente impresionante. Lo uso todos los días. Pero cuanto mejor se vuelve sin alcanzar una verdadera autonomía y con Tesla asumiendo la responsabilidad de ello, más peligrosa se vuelve la brecha entre lo que los conductores creer El sistema puede hacer y lo que de hecho podemos hacer en cada situación.
Tesla tiene dos opciones. Puede seguir relajando el monitoreo de los conductores, publicando rachas de “intervención cero”, diciéndoles a las personas ciegas que FSD les da “libertad” y alentando a los conductores a enviar mensajes de texto, todo mientras la letra pequeña todavía dice “Nivel 2, conductor responsable en todo momento”. O puede tomar en serio el problema de la complacencia: fortalecer el monitoreo de los conductores, dejar de comercializar el FSD como sustituto de un conductor atento y ser honesto con los clientes acerca de las limitaciones reales del sistema.
Ahora mismo, Tesla está eligiendo el primer camino. Y eso debería preocupar a todos los que conducen por la vía pública, tengan o no un Tesla. Porque cuando un conductor complaciente de FSD se pierde esa intervención crítica en 2,000 millas, la persona a la que atropelló no se registró para la prueba beta de Tesla.
Si es propietario de un Tesla y busca reducir sus costos generales de conducción, alimentar su vehículo eléctrico con energía solar doméstica es una de las decisiones más inteligentes que puede tomar. Dado que las tarifas de electricidad aumentaron casi un 10% el año pasado, la energía solar doméstica lo protege contra futuros aumentos de tarifas. Y con las opciones de arrendamiento y PPA, puede optar por la energía solar sin costo inicial y comenzar a ahorrar de inmediato. Si desea encontrar la mejor oferta, consulte EnergySage. Es un servicio gratuito con cientos de instaladores previamente examinados que compiten por su negocio, por lo que ahorra entre un 20 y un 30 % en comparación con hacerlo solo. No hay llamadas de ventas hasta que elija un instalador. Obtenga sus cotizaciones gratuitas aquí.
