Un equipo conjunto del MIT y la empresa Motional ha creado CW‑Net, un módulo que interpreta en tiempo real el proceso de decisión de los sistemas de IA que controlan los vehículos autónomos. La investigación, publicada en la revista Nature, se basa en un entrenamiento con 130 millones de escenas de conducción etiquetadas, y ya se probó en una pista privada con un robotaxi de Motional y en simulaciones con datos reales de calles de Las Vegas.

Traducción del razonamiento interno

CW‑Net se inserta dentro del planificador del vehículo y transforma la información que proviene de cámaras y sensores lidar en conceptos legibles, como “aproximación a vehículo detenido” o “cerca de ciclista”. Estos conceptos pasan a ser obligatorios para la generación de la trayectoria, garantizando que la explicación refleje la causa real de la maniobra y no sea meramente decorativa.

"Es importante que las explicaciones no sean potencialmente engañosas", afirmó Eoin Kenny, autor principal del estudio y ahora investigador senior de IA en J.P. Morgan Chase.

Resultados de las pruebas

En la pista privada, el robotaxi frenó sistemáticamente al acercarse a un ciclista. El conductor de seguridad interpretó el frenado como una detección correcta del ciclista, pero la salida de CW‑Net reveló que el modelo no había identificado al ciclista y había elegido una trayectoria que habría provocado una colisión; el frenado de emergencia se activó demasiado tarde.

En los ensayos de simulación con usuarios sin experiencia, las explicaciones generadas por CW‑Net mejoraron notablemente la capacidad de los participantes para prever la respuesta del vehículo, permitiendo ajustes de velocidad o la toma del control manual en situaciones similares.

Implicaciones para la seguridad y el desarrollo

Al proporcionar una visión clara del porqué de cada acción, CW‑Net no solo ayuda a conductores y operadores a anticipar comportamientos inesperados, sino que también brinda a los ingenieros información diagnóstica para corregir fallas antes de que se reproduzcan en el modelo.

El enfoque “causalmente fiel” del módulo promete aportar garantías de validez a las explicaciones, un paso relevante para la adopción segura de la conducción autónoma en entornos de alto riesgo.