ToyBlocks створює контрольоване середовище для навчання роботів

Ai2 представила ToyBlocks — відкриту симуляційну платформу для дослідження навчання роботів у обмеженому та відтворюваному середовищі. Вона моделює роботизовану руку, що взаємодіє з блоками на столі. На гранях блоків є зображення й літери, тому завдання охоплюють пошук, сортування та складання. Робот також може спершу перевернути блок, щоб побачити приховану грань.

ToyBlocks автоматично створює короткі навички й демонстрації завдань за допомогою навчання з підкріпленням, планування рухів і планувальника завдань та рухів. Сотні планів можна виконувати паралельно на одному GPU зі швидкістю до 24 разів вищою за реальний час. Дослідники можуть змінювати склад навчальних даних, акцентуючи окремі навички або заповнюючи прогалини. Оцінювання охоплює не лише успішність, а й швидкість, сили впливу на об’єкти та поступ виконання.

Платформа дає змогу вивчати узагальнення, багатокрокове планування та перенесення навичок на фізичних роботів. Перші тести показали, що кілька vision-language-action моделей слабко узагальнюють знання для нових положень, конфігурацій блоків і послідовностей дій, попри масштабне попереднє навчання. У дворівневій схемі Molmo 2 обирає навички, а ManiFlow керує рухами руки.