ToyBlocks създава контролиран тест за обучение на роботи

Ai2 представи ToyBlocks — отворена симулационна рамка за изследване на обучението на роботи в ограничена и възпроизводима среда. Тя моделира роботизирана ръка, която работи с блокчета върху маса. Върху страните им има изображения и букви, което позволява задачи за търсене, сортиране и подреждане, включително случаи, когато роботът трябва първо да обърне блокче, за да види скрита страна.

ToyBlocks автоматично генерира кратки умения и демонстрации на задачи чрез обучение с подсилване, планиране на движенията и планировчик за задачи и движения. Стотици планове могат да се изпълняват паралелно на един GPU със скорост до 24 пъти реалното време. Изследователите могат да променят състава на данните и да измерват не само успеха, но и скоростта, приложените сили и напредъка по задачата.

Рамката е предназначена за проучване на обобщаването, многостъпковото планиране и прехвърлянето към физически роботи. Първоначалните тестове показват слабо обобщаване от няколко vision-language-action модела при промени в работното пространство, подредбата на блокчетата и последователностите от действия. В йерархични експерименти Molmo 2 избира уменията, а ManiFlow управлява симулираната ръка.