Probé ChatGPT dentro de CarPlay y en cuestión de segundos ofreció información falsa que podría haber puesto en riesgo la conducción. Ese comportamiento no es un fallo menor: muestra por qué la llegada de asistentes de lenguaje avanzado al coche exige más controles y precauciones inmediatas.
Qué ocurrió en la prueba
Durante un trayecto urbano pedí por voz que me indicara la gasolinera más cercana. La respuesta fue clara, pero incorrecta: citó una calle que no existe en la ciudad y situó la estación a tres minutos cuando en realidad quedaba a 12. Al preguntar por motivos o referencias, el asistente generó nombres de cadenas que no operan en la zona.
Ese tipo de respuesta se conoce como una alucinación del modelo: el sistema inventa datos sin base verificable. En un móvil la consecuencia puede ser una confusión; en un coche, puede traducirse en giros innecesarios, distracción o peor.
Por qué importa ahora
La integración de grandes modelos de lenguaje en sistemas de infoentretenimiento se está acelerando: nuevas aplicaciones permiten acceso por voz y Apple mantiene su plataforma abierta a terceros. Al mismo tiempo, la conducción compartida con interfaces conversacionales plantea un conflicto directo con las normas de seguridad y los límites de la información en tiempo real.
Las implicaciones son prácticas y regulatorias. Desde la perspectiva del usuario, existe el peligro inmediato de recibir instrucciones inexactas; desde la de quien desarrolla, la obligación de mitigar riesgos y cumplir requisitos de seguridad.
Riesgos concretos
Entre los problemas más relevantes identificados en la prueba y que conviene tener presentes:
- Rutas y ubicaciones erróneas que inducen a maniobras inseguras.
- Confianza excesiva del conductor en respuestas generadas sin verificación.
- Posible filtrado de datos personales si las consultas se transmiten a servidores externos; cuestión crítica en términos de privacidad.
- Latencia en la respuesta que incita a mirar la pantalla o repetir la orden, incrementando la distracción.
Cómo mitigar el problema — recomendaciones prácticas
Hasta que estas integraciones sean más robustas, conviene adoptar medidas sencillas que mejoren la seguridad.
- Verificación por voz y mapa: pedir siempre que la indicación se muestre en la app de navegación antes de iniciar maniobras.
- Usar asistentes sólo para tareas no críticas: consultas de agenda, lectura de mensajes o entretenimiento, evitando decisiones de ruta o instrucciones técnicas.
- Desactivar transmisiones sensibles: revisar permisos de la app para limitar qué datos del vehículo o del conductor se envían a servidores externos.
- Solicitar fuentes: si la respuesta incluye datos factuales (direcciones, horarios, números), pedir que cite la fuente o comprobar en la app de mapas.
- Actualizaciones y pruebas: instalar actualizaciones oficiales y probar en entornos seguros antes de confiar en el asistente en ruta.
Qué pueden hacer los desarrolladores y fabricantes
Los fabricantes de software y los integradores de vehículos tienen responsabilidades técnicas claras: limitar las funciones críticas que pueda ofrecer un modelo de lenguaje, añadir capas de verificación cruzada con servicios de mapas y diseñar flujos de interacción que reduzcan la carga de atención del conductor.
También es recomendable implementar mensajes proactivos que adviertan sobre la posibilidad de errores y ofrecer acciones seguras por defecto (por ejemplo, mostrar siempre la ruta en el navegador del coche y requerir confirmación táctil cuando el vehículo está detenido).
Consideraciones regulatorias
Las autoridades de tráfico y protección de datos están observando con atención. Dos frentes importantes: la seguridad vial —donde pueden imponerse límites a las funciones disponibles mientras el vehículo está en marcha— y la regulación de datos, que exige transparencia sobre qué se comparte y cómo se procesa.
En el corto plazo, es probable que veamos directrices más estrictas que obliguen a los proveedores a auditar y documentar la confiabilidad de sus respuestas en contextos críticos.
Conclusión
La experiencia muestra que, aunque los asistentes potentes ofrecen comodidades, su despliegue en el coche requiere cautela. Las alucinaciones de un modelo pueden convertir una función útil en un riesgo real. Hasta que la tecnología y la regulación evolucionen, la regla más prudente es mantener estos asistentes fuera de decisiones de conducción y tratarlos como apoyo informativo, no como autoridad.
Artículos similares
- Google Meet llega a CarPlay: atiende videollamadas sin tocar el móvil
- Galaxy S21: Samsung suspende actualizaciones para la mayoría de modelos
- FBI advierte: apps creadas fuera del país podrían exponer tus datos
- Moltbook en duda: ¿la red social de agentes IA es un fraude?
- Google renueva la intervención de Gemini ante emergencias de salud mental
Carlos Méndez analiza las innovaciones high-tech y te asesora en la elección de gadgets que transformarán tu día a día. Sus análisis técnicos te orientan sobre la evolución digital.