Un robot que escribe código para ver, buscar y manipular objetos

Un robot que escribe código para ver, buscar y manipular objetos

Chen Chen, Omid Bagherieh, Naveen Nikamanth Appiah Balaji, Jesse T. Gonzalez, Negin Heravi +8 más

9 min de lectura•9 nov 2026

AMP1 incorpora un modelo de IA de propósito general al control de la manipulación robótica: escribe código Python, inspecciona imágenes de cámara y revisa su plan a medida que avanza la tarea. En RoboLab-120, el modelo más potente de los evaluados alcanzó una tasa de éxito del 85.6%. El sistema también mostró comportamientos como buscar debajo de objetos y calibrar una cámara de muñeca, habilidades que no estaban preprogramadas en su entorno de ejecución.

Índice

¿Qué desarrollaron los investigadores?

Los investigadores desarrollaron AMP1, un sistema de software que incorpora un modelo de IA de propósito general al bucle de control del robot. En lugar de elegir entre un menú fijo de habilidades para agarrar o colocar objetos, el modelo escribe código Python para inspeccionar la escena y dar instrucciones al robot. Recibe los resultados de ese código —incluidas imágenes, información impresa y errores— y los utiliza para decidir qué hacer a continuación.

El entorno Python del sistema permanece activo durante toda la tarea. Así, el modelo puede conservar variables y funciones entre turnos, reutilizar cálculos anteriores y construir una secuencia de acciones. También puede solicitar otra imagen o consultar el estado del robot. Si una acción falla, el entorno de ejecución puede informar del error para que el modelo intente recuperarse en lugar de simplemente detenerse.

El equipo evaluó AMP1 en varios entornos de prueba de manipulación simulados. RoboLab-120 contiene 120 tareas de recoger y colocar especificadas en lenguaje natural, cada una con variantes de instrucciones predeterminadas, vagas y específicas. La evaluación también abarcó tareas de LIBERO-PRO, robosuite, BEHAVIOR-1K y RoboDojo, que incluye tareas bimanuales. Los investigadores también realizaron pruebas con un robot Franka real y añadieron funciones para comprobar el brazo y recuperarse de errores del reflejo de colisión.

¿Qué rendimiento tuvo AMP1?

El modelo más potente de los evaluados, Gemini 4 Argon, alcanzó una tasa de éxito del 85.6% en la comparación entre modelos. Los investigadores mantuvieron fijo el entorno de ejecución mientras probaban 13 modelos con distintos niveles de razonamiento, por lo que la comparación se centra en cómo afectan a AMP1 la elección del modelo y el esfuerzo de razonamiento, no en las diferencias entre interfaces de control robótico.

Modelo o comparaciónResultado comunicado
Gemini 4 Argon85.6% de éxito
Claude Opus 5.582.8% de éxito
Qwen3.8-Flash-Next64.9% de éxito
Claude Haiku 5.551.6% de éxito
Claude Opus 4.535.2% de éxito
Qwen3.6-35B-A3B12.8% de éxito

Un mayor razonamiento mejoró el éxito de todos los modelos evaluados, pero también aumentó los costos de inferencia. Para Claude Opus 5.5 y Sonnet 5.5, el nivel de razonamiento más alto añadió 14.6 y 17.2 puntos porcentuales, respectivamente, por unos $0.90 adicionales por episodio. Gemini 4 Argon ganó 2.3 puntos por unos $1.30 adicionales.

Para comparar costos, el artículo informa un promedio de $1.39 por episodio de RoboLab-120 para Opus 5.5. Es aproximadamente 26 veces menos que los $36.40 comunicados para Astranomy con GPT-6 Astra; las tasas de éxito indicadas fueron del 82.8% para AMP1 y del 74.8% para Astranomy. La comparación apunta a una ventaja de eficiencia al hacer que AMP1 ejecute acciones más largas dirigidas por código, en lugar de pedir al modelo que apruebe cada pequeño movimiento del efector final.

Ejemplos de estrategias de manipulación que surgen durante la ejecución de tareas de AMP1

¿Cómo funciona una política agéntica de manipulación?

AMP1 funciona mediante un ciclo repetido de observar, actuar y revisar. El modelo recibe una instrucción en lenguaje natural y acceso a las vistas de cámara, y luego escribe código en un intérprete Python persistente. Ese código puede inspeccionar imágenes, realizar cálculos, llamar a funciones de control del robot y ordenar una trayectoria. Cuando se ejecuta el código, el modelo recibe la salida impresa, cualquier traza de error, las imágenes mostradas e información como los pasos de control restantes y el tiempo real transcurrido. Entonces decide qué hacer en el siguiente turno.

La diferencia importante con una política convencional de extremo a extremo es que el modelo puede elaborar explícitamente un plan y utilizar herramientas para ejecutarlo. También se diferencia de un sistema que pide al modelo escribir un programa completo antes de su puesta en marcha: AMP1 sigue participando en el bucle y puede actualizar su estrategia cuando llegan nuevas observaciones. El modelo puede combinar evidencia visual, razonamiento geométrico e interacción física, sin depender únicamente de una biblioteca de habilidades de manipulación preprogramadas.

Algunos de los comportamientos descritos muestran lo que permite esta flexibilidad. Cuando el objeto objetivo estaba oculto a las cámaras, AMP1 razonó sobre qué objetos podían estar cubriéndolo, los movió de uno en uno y volvió a comprobar la escena. En otro caso, calibró la cámara de muñeca recopilando imágenes desde poses conocidas de la pinza. Así obtuvo varias vistas para estimar los parámetros internos de la cámara y su posición fija respecto a la pinza. La calibración y la estimación 3D ocuparon 16 de las 44 llamadas al modelo del episodio, todas antes del primer agarre.

El enfoque también tiene un límite temporal claro: el modelo no puede revisar una trayectoria mientras esta se ejecuta. Puede reaccionar cuando termina la acción y se devuelve el resultado, pero no de forma continua durante el movimiento.

Entorno de ejecución del agente que conecta el código Python escrito por el modelo, las acciones del robot y las observaciones recibidas

¿Por qué es importante para la robótica?

A los robots a menudo les cuesta responder cuando una instrucción es ambigua, un objeto está oculto o la escena difiere de los ejemplos de sus datos de entrenamiento. AMP1 aborda estas situaciones al permitir que un modelo de propósito general inspeccione el resultado de una acción y elija otra. La búsqueda de objetos ocultos es un buen ejemplo: el robot mueve objetos no solo para completar la tarea de recoger lo solicitado, sino también para averiguar dónde está el objetivo. Es una forma de percepción interactiva: actuar para mejorar lo que el robot sabe de su entorno.

Los resultados también aclaran una disyuntiva práctica. Las políticas especializadas de manipulación pueden actuar rápidamente, pero el artículo las describe como poco fiables; AMP1 puede lograr un mayor éxito en las tareas, pero dedica bastante tiempo a esperar el razonamiento del modelo. Esto hace que el enfoque resulte interesante para flujos de trabajo flexibles y de bajo volumen, donde la variedad de tareas importa más que el tiempo de ciclo, mientras que su adecuación a una producción rápida y repetitiva es menos clara.

Para compradores y equipos de operaciones que exploran la automatización física, los hallazgos recuerdan que el brazo robótico es solo una parte del sistema: el modelo, la percepción, la interfaz de control y el proceso de recuperación influyen en el rendimiento. Los equipos que evalúan plataformas pueden consultar robots usados en venta o explorar robots de almacén como parte de una búsqueda más amplia de soluciones de automatización. El artículo no demuestra que AMP1 esté listo para esos despliegues, pero ofrece una posible dirección de software para robots que deben manejar instrucciones variadas y escenas inesperadas.

¿Cuáles son las limitaciones y las preguntas abiertas?

AMP1 es lento porque el robot pasa buena parte del episodio esperando a que el modelo razone. Además, no puede interrumpir ni replantear una trayectoria mientras se ejecuta el movimiento. Las evaluaciones se realizan principalmente en escenas cuasiestáticas, por lo que no demuestran qué tan bien funciona el enfoque con un objetivo en movimiento, un objeto que se resbala de la pinza u otro suceso que requiera una respuesta rápida durante la acción.

Los resultados del artículo no demuestran que AMP1 esté listo para trabajos de misión crítica. Aunque el sistema se probó con un robot Franka real e incluía recuperación ante reflejos de colisión, los resultados presentados no proporcionan una tasa de éxito agregada en el mundo real. Otras preguntas son con qué fiabilidad se transfiere entre plataformas robóticas, cuánto depende el rendimiento de la calidad de las imágenes y de la elección del modelo, y si una inferencia más rápida puede mantener las tasas de éxito. Por ahora, el sistema es una base prometedora, no un sustituto listo para desplegarse en lugar de un control rápido y fiable.

¿Qué deberían saber los lectores sobre la manipulación agéntica?

¿Qué significa «manipulación agéntica»? Significa que un modelo de propósito general sigue participando mientras el robot trabaja: interpreta observaciones y elige acciones, en lugar de limitarse a seleccionar una habilidad predefinida.

¿AMP1 depende de habilidades de manipulación preprogramadas? Las estrategias destacadas, como buscar un objeto oculto y calibrar una cámara, no se especificaron en la instrucción ni se proporcionaron como habilidades predefinidas. El modelo las generó mientras resolvía las tareas.

¿Qué modelo obtuvo el mejor resultado en la comparación publicada? Gemini 4 Argon alcanzó la tasa de éxito más alta, 85.6%, con el entorno de ejecución de AMP1. Ese resultado corresponde a esta evaluación, no a todos los robots o tareas.

¿AMP1 está listo para desplegarse en fábricas o almacenes? El artículo señala como limitaciones importantes el razonamiento lento y la capacidad de respuesta reducida durante la ejecución de las trayectorias. Presenta AMP1 como una base prometedora, no como un sistema para despliegues de misión crítica.

¿Cuál es la conclusión práctica?

AMP1 muestra cómo un robot puede usar un modelo de propósito general para planificar acciones, inspeccionar resultados y adaptar su enfoque sin depender por completo de habilidades fijas. Sus resultados son alentadores, pero lograr que esa flexibilidad sea rápida y fiable sigue siendo el principal reto de ingeniería.