Detección fuera de distribución
Ambas familias presentan limitaciones en los modelos de visión-lenguaje-acción (VLA): los detectores basados en densidad memorizan la distribución de las tareas de entrenamiento, mientras que los detectores supervisados requieren etiquetas de datos fuera de distribución y transfieren mal sus capacidades ante distintas perturbaciones. En su lugar, utilizamos el progreso de la tarea, una característica intrínseca de la política, como señal calibrada de detección fuera de distribución. Este enfoque no requiere supervisión con datos fuera de distribución y vincula la detección de fallos con la propia representación que tiene el modelo de la finalización de la tarea.
La característica de progreso
El progreso de la tarea es una señal útil para la supervisión en tiempo de ejecución porque cumple varias propiedades deseables: disminuye monótonamente a lo largo de las trayectorias expertas, lo que produce un comportamiento predecible dentro de distribución; puede etiquetarse fácilmente a partir de datos offline; detecta de forma directa los estados fuera de distribución cuando el progreso se estanca; y generaliza entre tareas.
Detección fuera de distribución mediante la característica de progreso
Observamos que la señal de progreso es un indicador sólido de cuándo la política sale de distribución, lo que nos permite desarrollar un método para detectar comportamientos fuera de distribución a partir de la característica de progreso decodificada mediante nuestras sondas.
La medida de desviación del progreso compara el progreso predicho con el progreso real.
La trayectoria se marca como fuera de distribución la primera vez que la desviación del progreso supera el umbral de detección seleccionado.
Aunque es sencillo, este procedimiento puede detectar el estancamiento del progreso utilizando únicamente la sonda. Es independiente de la tarea, siempre que se conozca o pueda estimarse fácilmente el umbral de detección, y no requiere etiquetas de datos fuera de distribución.
Debate y limitaciones
El progreso de la tarea puede leerse linealmente a partir de las activaciones de la política, surge del preentrenamiento robótico a gran escala, permite crear un detector no supervisado de datos fuera de distribución y varía ante contrafactuales lingüísticos. La característica no es direccionable, lo que pone de manifiesto una brecha entre lo que la política representa y aquello sobre lo que actúa.
Nuestro trabajo admite varias extensiones naturales, como evaluar la decodificabilidad del progreso en distintos backbones de visión-lenguaje-acción, validar el detector fuera de distribución en trayectorias de robots reales y explorar señales más ricas y condicionadas por la tarea que vayan más allá del progreso escalar. Nuestros resultados sugieren que las características semánticas legibles linealmente pueden servir como una herramienta ligera para supervisar políticas visuomotoras desplegadas, complementando el conjunto de técnicas de interpretabilidad, cada vez más amplio, que se aplica a los modelos de visión-lenguaje-acción.
Modelos y conjunto de datos
Realizamos todos los experimentos en VLABench. El simulador proporciona un conjunto de datos básico con 10 tareas principales:
- Añadir condimento: recoger el condimento objetivo y verterlo sobre el plato.
- Seleccionar fruta: recoger la fruta objetivo y colocarla en el plato.
- Seleccionar bebida: recoger la bebida objetivo del frigorífico.
- Insertar flor: recoger la flor objetivo y colocarla en el jarrón.
- Seleccionar carta de póquer: recoger la carta objetivo de la mesa.
- Seleccionar pieza de mahjong: recoger la pieza de mahjong objetivo de la mesa.
- Seleccionar libro: sacar el libro objetivo de la estantería.
- Seleccionar tubo de química: tocar el tubo objetivo en el soporte de productos químicos.
- Seleccionar juguete: recoger el juguete objetivo y colocarlo en la caja.
- Seleccionar cuadro: pulsar el botón correspondiente al cuadro objetivo.
El conjunto de datos contiene 5.000 trayectorias, 500 por tarea, con instrucciones y objetos que varían entre escenas para mantener la diversidad.
Decodificabilidad y direccionabilidad frente a observabilidad y controlabilidad
La observabilidad de una característica se define como la existencia de alguna función que tome una representación vectorial y devuelva la característica correspondiente.
Decodificabilidad débil
En cambio, medimos la decodificabilidad utilizando únicamente funciones lineales. Esto exige que la característica pueda recuperarse linealmente a partir de la representación y establece un criterio más estricto que la observabilidad. Como nuestro objetivo es minimizar el riesgo, también relajamos la igualdad exigida por la observabilidad: en lugar de reproducir exactamente la característica, la función solo tiene que recuperarla con un error bajo; por ello, buscamos una correlación elevada en vez de una igualdad exacta.
Es posible que las características no puedan recuperarse exactamente de la representación, pero, mientras sean decodificables linealmente con un error bajo, seguirán siendo útiles para la interpretación y el control.
La controlabilidad de una característica se define como la capacidad de una función para propagarla a través de las activaciones mediante la inyección de una activación modificada.
Nos alejamos de esta definición porque solo comprueba si la característica puede propagarse; no:
- Evalúa la calidad de la característica a partir de sus entradas.
- Exige que la característica provoque cambios en el comportamiento del modelo.
Decodificabilidad fuerte
Decimos que una característica es fuertemente decodificable si perturbar sus entradas hace que su salida se aproxime al valor real que dichas entradas implican. Esta es una condición más exigente porque permite al intérprete definir cómo debe depender la característica de sus entradas; por ejemplo, exige que el progreso de la tarea siga la instrucción y el tiempo transcurrido de la trayectoria, lo que produce condiciones más naturales para la característica.
Direccionabilidad
Una característica es direccionable si perturbarla produce un nuevo valor que provoca la misma respuesta que daría el modelo ante las entradas reales correspondientes. Esto establece una forma de causalidad entre la característica y el comportamiento del modelo, ya que perturbarla reproduce la respuesta que observaríamos si ese valor fuera la característica real.
En conjunto, estas variaciones imponen condiciones más estrictas y diversas para controlar una característica, al poner a prueba tanto su robustez como su causalidad, aspectos cruciales para la interpretabilidad y el control.
Preguntas frecuentes
¿Qué hace que el progreso de una tarea sea útil para la supervisión en tiempo de ejecución? Disminuye monótonamente a lo largo de las trayectorias expertas, puede etiquetarse a partir de datos offline, detecta los estancamientos del progreso y generaliza entre tareas.
¿Cómo contribuye la característica de progreso a la detección fuera de distribución? Una trayectoria se marca cuando la desviación entre el progreso predicho y el real supera por primera vez el umbral seleccionado.
¿Qué tareas incluye el conjunto de datos de VLABench? El conjunto contiene 10 tareas relacionadas con condimentos, frutas, bebidas, flores, cartas, piezas de mahjong, libros, tubos de química, juguetes y cuadros.
¿En qué se diferencia la decodificabilidad fuerte de la débil? La decodificabilidad débil evalúa la recuperación lineal con un error bajo, mientras que la fuerte exige perturbar las entradas para llevar la salida hacia el valor real que estas implican.