Presentamos ContactMimic, un marco que aumenta el seguimiento de puntos clave de humanoides con una etiqueta de contacto explícita y controlable en tiempo de prueba. Al entrenar una única política en movimientos emparejados que comparten estructura de puntos clave pero difieren en comandos de contacto, y supervisarla con recompensas conscientes del contacto, la política aprende a hacer o suprimir contacto físico bajo comando. En diversos movimientos de interacción humano-objeto en simulación y en el robot real Unitree G1, la política sigue el contacto comandado, supera una línea base solo de puntos clave en métricas de contacto con precisión de seguimiento comparable, e incluso codifica su estado de contacto en tiempo de ejecución solo a partir de la propiocepción.
Introducción
Para la segunda pregunta, utilizamos datos de contacto para el entrenamiento de la política de dos maneras. Primero, inyectamos comandos de contacto en la política. Segundo, incluimos recompensas que alientan a la política a igualar los patrones de contacto comandados: una recompensa de coincidencia de etiquetas de contacto que mide la concordancia entre los contactos de partes del cuerpo y partes del objeto de referencia y reales, y una recompensa de distancia de contacto que guía las partes del cuerpo relevantes hacia (o lejos de) la superficie del objeto según la etiqueta de referencia.
Generación de Pares de Movimientos para Romper Correlaciones entre Puntos Clave y Contactos
Nuestro seguidor de contacto y puntos clave propuesto necesita trayectorias de referencia con etiquetas de puntos clave y de contacto por paso de tiempo para el entrenamiento. Extraemos dichas trayectorias de puntos clave emparejadas con etiquetas de contacto a partir de datos MoCap humanos. Los trabajos existentes solo extraen puntos clave; nosotros los extendemos para extraer también información de contacto. Como muestran nuestros experimentos, simplemente entrenar solo con estos datos no conduce a un buen control de contacto debido a las correlaciones entre los patrones de puntos clave y los contactos. Por lo tanto, para lograr un control de contacto genuino, proponemos estrategias de aumento que rompan esta correlación.
Trayectoria aumentada. Para cada clip reorientado, sintetizamos varios aumentos que preservan la estructura general del movimiento pero rompen las correlaciones entre las posiciones de los puntos clave y las etiquetas de contacto para los contactos relevantes a la tarea (por ejemplo, contacto muñeca-caja para la tarea de levantar una caja).
Configuración Experimental
Usamos el robot humanoide Unitree G1 (29 GDL) en Isaac Lab con simulación de cuerpos rígidos PhysX. Cada entorno contiene un objeto de interacción, que puede estar fijo o libre según el movimiento.
Conjunto de Datos de Movimiento. Entrenamos en 10 clips de movimiento del conjunto de datos HUMOTO, que abarcan una variedad de categorías de interacción humano-objeto.
Experimentos
Nuestros experimentos en diversos movimientos de interacción humano-objeto buscan responder 5 preguntas clave: ¿Siguen nuestras políticas el condicionamiento de contacto comandado? ¿Se transfiere el control de contacto al mundo real? ¿Es suficiente el control solo de puntos clave, o una línea base de seguimiento de puntos clave de última generación ya produce contacto físico preciso? ¿Es necesaria nuestra estrategia de ingeniería de datos para aprender el control de contacto? ¿En qué medida la representación interna de la política ya codifica el estado de contacto real del robot en tiempo de ejecución, dadas solo observaciones propioceptivas?
Las Representaciones de la Política Codifican el Estado de Contacto en Tiempo de Ejecución
Como la mayoría de los robots no tienen sensores de contacto en todo el cuerpo, tomamos la decisión deliberada de no requerir el estado de contacto real en tiempo de ejecución para las diferentes partes del cuerpo del robot como entrada de la política. En parte, nuestro razonamiento fue que el estado de contacto podría inferirse usando la propiocepción. Evaluamos esto cuantitativamente calculando la precisión de predicción del estado de contacto de una sonda lineal en las entradas de la política y las representaciones intermedias de la política.
Resultados. Tanto para la observación sin procesar como para las representaciones de la Capa 2, las puntuaciones F1 son muy altas, y mucho más altas que el rendimiento aleatorio (es decir, el número de pasos de tiempo con contacto) así como la propia etiqueta de referencia. Por lo tanto, a pesar de no recibir detección de contacto explícita en tiempo de inferencia, la política tiene un sentido del estado de contacto del robot en tiempo de ejecución y puede adaptar su comportamiento para cumplir con el estado de contacto comandado.
Discusión y Limitaciones
Presentamos ContactMimic, un marco que aumenta el seguimiento de puntos clave de humanoides con una etiqueta de contacto explícita y controlable en tiempo de prueba. Al entrenar una única política en movimientos emparejados que comparten estructura de puntos clave pero difieren en comandos de contacto, y supervisarla con recompensas conscientes del contacto, la política aprende a hacer o suprimir contacto físico bajo comando. En diversos movimientos de interacción humano-objeto en simulación y en el robot real Unitree G1, la política sigue el contacto comandado, supera una línea base solo de puntos clave en métricas de contacto con precisión de seguimiento comparable, e incluso codifica su estado de contacto en tiempo de ejecución solo a partir de la propiocepción. Creemos que el condicionamiento explícito de contacto es una interfaz simple y general para expresar tareas ricas en contacto, y un paso hacia humanoides que interactúan con el mundo de manera intencional en lugar de incidental.
Nuestro enfoque tiene varias limitaciones. Primero, entrenamos una política separada por movimiento en lugar de una única política universal condicionada por contacto. Entrenar conjuntamente una política condicionada por contacto entre movimientos sería un siguiente paso natural. Segundo, construimos nuestro enfoque sobre datos de interacción humano-objeto de alta calidad del conjunto de datos HUMOTO, lo que limita la diversidad de interacciones que actualmente podemos cubrir. Desarrollar métodos que puedan usar datos de video del mundo real puede ayudar. Finalmente, nuestra evaluación en el mundo real abarca cinco movimientos en un solo robot; una validación más amplia de hardware es trabajo futuro.
Preguntas Frecuentes
¿Cómo controla ContactMimic el contacto sin sensores de contacto físicos? La política aprende a inferir su estado de contacto en tiempo de ejecución a partir de observaciones propioceptivas, logrando puntuaciones F1 altas al predecir etiquetas de contacto desde sus representaciones internas.
¿Qué estrategia de aumento rompe la correlación entre puntos clave y contactos? Para cada clip de movimiento reorientado, se sintetizan múltiples aumentos que preservan la estructura general del movimiento pero alteran las etiquetas de contacto para las partes del cuerpo y superficies del objeto relevantes para la tarea.
¿Qué hardware de robot se usó para la evaluación? Se usó el robot humanoide Unitree G1 (29 grados de libertad) tanto en simulación Isaac Lab como en experimentos del mundo real.
¿ContactMimic requiere una política por movimiento o una única política universal? Actualmente se entrena una política separada por movimiento; entrenar un seguidor condicionado por contacto único para todos los movimientos se identifica como trabajo futuro.