El aprendizaje rápido permite escribir con un bolígrafo dentro de la mano mediante una estimación del jacobiano en tiempo real

El aprendizaje rápido permite escribir con un bolígrafo dentro de la mano mediante una estimación del jacobiano en tiempo real

Kai Stewart, Yasunori Toshimitsu, Robert K. Katzschmann

7 min de lectura•11 sept 2026

Estimación en línea del jacobiano y servoasistencia visual

La servoasistencia visual no calibrada aprende en línea el mapa diferencial entre las características percibidas y el accionamiento, sin necesidad de calibrar la cámara ni la cinemática. Hosoda y Asada introdujeron el estimador canónico basado en mínimos cuadrados recursivos (RLS), con un factor de olvido, que es el antecesor directo de esta actualización. Qian y Su estimaron en línea el jacobiano de imagen mediante un filtro de Kalman.

En trabajos más recientes, este enfoque se ha ampliado hacia una descripción más generalizada del jacobiano, obteniendo un jacobiano de imagen denso, definido píxel a píxel, o un campo jacobiano visomotor definido sobre todos los puntos 3D del robot.

Sin embargo, el campo jacobiano visomotor requería una gran cantidad de datos para su cálculo: aproximadamente entre 2 y 3 horas de movimiento del robot con una configuración de cámara RGBD multivista. Estos métodos anteriores mostraron una aplicación nula o muy limitada a la manipulación de herramientas: se ha demostrado la manipulación bimanual de la punta de una escoba, y el control basado en campos jacobianos se ha aplicado a agarrar una herramienta y empujar una manzana sobre una mesa en una única demostración.

Trabajos previos también han estimado la inversa del jacobiano, en lugar del propio jacobiano, con poca o ninguna información previa, y la han aplicado a una tarea de escritura en el aire. Al estimar directamente la inversa del jacobiano, se obtiene un mapa directo del espacio de tareas al espacio de comandos o articular, lo que elimina la necesidad de invertir computacionalmente la matriz jacobiana. Sin embargo, como solo se estima su inversa, no está claro cómo calcular y utilizar el espacio nulo del jacobiano, lo que limita su extensión a estructuras redundantes.

La escritura dentro de la mano como banco de pruebas

Mostramos la amplia adaptabilidad del método: tras aproximadamente 18 segundos de inicialización, la mano física ORCA escribe todo el alfabeto mientras actualiza continuamente su estimación del jacobiano. También demostramos la misma formulación de estimador y controlador en otras dos manos mediante simulación, y publicamos el código como implementación de código abierto.

Configuración del sistema de la mano ORCA para el seguimiento visual de la punta del bolígrafo y la escritura dentro de la mano

Percepción para seguir la punta del bolígrafo en el marco del papel

Una cámara web sigue un marcador ArUco fijado al bolígrafo y un tablero con tres marcadores pegado al escritorio, que define el marco del papel. La posición de la punta se recupera mediante un desplazamiento fijo entre el marcador y la punta, y después se transforma al marco del papel, utilizado en todas las fases posteriores de estimación y control. La imagen de la cámara incluye la detección del marcador y la posición recuperada de la punta.

La trayectoria resultante de la punta se suaviza mediante un filtro de Kalman de velocidad constante con rechazo de valores atípicos basado en la innovación. Las marcas temporales de la cámara se conservan durante todo el proceso para proporcionar un eje temporal común a la estimación y el control.

Método

Trasladamos el estimador clásico en línea del jacobiano directo, procedente de la servoasistencia visual de brazos seriales, a un entorno más exigente: un sistema redundante accionado por tendones para la manipulación dentro de la mano. Para hacerlo funcionar en este contexto añadimos dos elementos: una fase de excitación deliberada y una estabilización del agarre en el espacio nulo.

Formulación del problema

En las pruebas sobre papel, la hoja se dobla sobre sí misma o se fija con cinta a la mesa de modo que la zona central se abombe aproximadamente un centímetro, absorbiendo la deriva vertical de escala milimétrica no controlada para que la punta del bolígrafo permanezca en contacto con el papel.

Localmente, las velocidades articulares y las velocidades de la tarea están relacionadas mediante el jacobiano de la tarea, una matriz que transforma las velocidades articulares en velocidades del espacio de tareas.

Generación de las trayectorias de escritura

Tras la fase de excitación comienza la fase de seguimiento, en la que el generador de trayectorias de escritura envía el comando de tarea al controlador en cada paso. Cada trayectoria se reduce a una curva plana en el marco del papel y se recorre a velocidad tangencial constante, de modo que la velocidad de la punta es independiente de la curvatura.

Las letras A–Z se definen como glifos de Bézier cúbicos, aunque también se admiten formas arbitrarias de un solo trazo dentro del área de escritura alcanzable por el bolígrafo, incluidas formas paramétricas como círculos, flores, corazones y estrellas, así como dibujos SVG de forma libre.

El comando del espacio de tareas enviado al controlador es una ley PID más prealimentación aplicada al error de seguimiento, un comando proporcional-integral-derivativo complementado con un término de prealimentación de velocidad.

La integral incluye una limitación anti-windup, un límite a la acción integral acumulada, y el término de prealimentación equivale a la velocidad tangencial de la trayectoria en el objetivo actual.

Círculo, corazón y otras trayectorias dibujadas con bolígrafo producidas por el sistema

Resultados

Cada prueba establece el agarre, ejecuta la fase de excitación y después sigue una trayectoria de referencia en el aire o sobre el papel: una forma cerrada, una letra o un dibujo SVG de forma libre. En las ablaciones se modifica un componente por prueba frente al sistema completamente configurado.

Trazos de tinta de letras escritas producidos por el sistema de escritura dentro de la mano

Conclusión

Demostramos que un enfoque rápido de aprendizaje corporizado para la manipulación diestra puede dirigir la escritura dentro de la mano, rica en contactos, en la mano antropomórfica ORCA accionada por tendones, únicamente mediante el movimiento de los dedos, tras aproximadamente 18 segundos de inicialización y manteniendo la adaptación durante la escritura.

Los experimentos de simulación con otras dos configuraciones de mano muestran que la misma formulación funciona con cinemáticas manuales sustancialmente diferentes. Este enfoque rápido, adaptativo y corporizado podría alcanzar en manos biomiméticas un nivel de precisión en la escritura robótica que todavía no se ha observado en métodos como el aprendizaje por refuerzo o el aprendizaje por imitación, que requieren un modelado exhaustivo o grandes esfuerzos de recopilación de datos.

Estos resultados sugieren que la ausencia de un modelo preciso o de datos no es necesariamente lo que impide alcanzar una verdadera destreza. La rapidez y la ligereza computacional del método también lo hacen prometedor para aplicaciones en las que no se dispone de computación de alto rendimiento, como el control de prótesis a bordo.

Preguntas frecuentes

¿Cómo sigue el sistema la punta del bolígrafo? Una cámara web sigue un marcador ArUco fijado al bolígrafo y tres marcadores que definen el marco del papel. La posición de la punta se recupera a partir de un desplazamiento fijo entre el marcador y la punta, y se suaviza con un filtro de Kalman de velocidad constante.

¿Cuánto dura la fase de inicialización? El sistema necesita aproximadamente 18 segundos de inicialización antes de que la mano física ORCA escriba el alfabeto.

¿Qué trayectorias de escritura puede seguir el sistema? Admite letras A–Z definidas mediante curvas de Bézier cúbicas, formas paramétricas de un solo trazo y dibujos SVG de forma libre dentro del área de escritura del bolígrafo.

¿Por qué se utiliza la estabilización del agarre en el espacio nulo? La estabilización del agarre en el espacio nulo ayuda a mantener sujeto el bolígrafo mientras la mano redundante ejecuta la tarea de escritura.