ToyBlocks cria ambiente controlado para estudar robôs que manipulam blocos

O ToyBlocks é uma simulação com um braço robótico e blocos sobre uma mesa, apresentada pelo Hugging Face como o primeiro ambiente de uma iniciativa chamada FoundationWorlds. Segundo o post, a proposta é facilitar testes repetíveis: pesquisadores podem alterar experiências de treino, executar tarefas e investigar por que um modelo teve sucesso ou falhou.

De acordo com a publicação, cada FoundationWorld combina um cenário simulado voltado a um domínio de robótica, ferramentas para gerar tarefas e demonstrações automaticamente e métricas para acompanhar o comportamento dos modelos. A equipe diz que esses ambientes podem ajudar a estudar, por exemplo, como o desempenho muda com diferentes dados de treino e como combinar planejamento de alto nível com controle preciso dos movimentos.

Blocos como campo de teste

Embora o cenário seja deliberadamente restrito, as tarefas vão além de pegar e empilhar objetos. O post explica que os blocos têm letras e imagens nas faces, permitindo atividades de busca, organização e montagem. Em alguns casos, o robô precisa virar um bloco para revelar uma face antes de decidir o que fazer. A simulação também permite variar propriedades físicas entre cenários, como o tamanho dos blocos e a altura da mesa, para testar a generalização dos modelos.

Segundo a publicação, o ToyBlocks gera demonstrações sem exigir que uma pessoa controle o robô remotamente. Um planejador seleciona e organiza as habilidades necessárias para cada tarefa — como empurrar ou virar um bloco — e executa os planos na simulação. O post informa que centenas de planos podem ser gerados e executados em paralelo em uma única GPU, alcançando até 24 vezes o tempo real.

Como os modelos são avaliados

O ambiente usa aprendizado por reforço e planejamento de movimento para criar habilidades curtas; o treino ocorre no Isaac Lab, descrito pelo post como uma ferramenta de código aberto da Nvidia para aprendizagem robótica em simulação. A fonte também observa que a simulação pode fornecer informações exatas sobre a posição e a orientação dos blocos, enquanto um modelo que recebe imagens precisa estimar esses dados.

Nos testes de generalização descritos, os pesquisadores variam sequências de habilidades, letras ou cores e a quantidade de blocos. Um exemplo é treinar com certas alturas de pilha e avaliar outras. O post relata que os modelos de ação analisados tiveram generalização fraca nos resultados iniciais, apesar do pré-treino em larga escala, e afirma que técnicas posteriores melhoraram esse desempenho.

Outro estudo combina o Molmo 2, que escolhe a habilidade e o bloco, com o ManiFlow, responsável por executar movimentos. A equipe avalia tarefas de soletrar “Ai2” em três níveis de dificuldade: com as letras visíveis e em pé, fora dessa posição ou ocultas no início.