---
title: "人のお手本の先へ ― ロボットが自分で直す学び方"
slug: beyond-imitation-learning
date: 2026-10-27
day: 392
meta_description: "人が装着具で集めたデータをロボットに学ばせる手法から、人の腕とロボットの差を埋める一手間、お手本をまねる学習の限界、実機での強化学習など新しい手法までを、Claudeと対話で調べた。"
tags: [模倣学習, 強化学習, ロボット学習, 学習データ, 遠隔操作, UMI, 世界モデル, π0.5, Physical Intelligence, フィジカルAI, 考察]
question: "お手本を/まねるだけで、/ロボットは/上達するか。"
key: "まねる"
series: "考察記事"
---

ロボットに作業を覚えさせるには、お手本が要ります。これまでの主流は、人がコントローラーでロボットを遠くから操作して、動きを見せる方法（遠隔操作）でした。X で、米国のロボット企業 Dream Robotics の CEO、[Nathan Kau さん](https://x.com/nathankau/status/2114748894290624684)が、これに異を唱える投稿をしていました。遠隔操作は人の約5倍遅く、1時間あたり100ドル（約1.5万円）以上かかる。センサー付きのバックパックや手袋を着けた人が、普段の仕事をしながらデータを集めれば、安いうえに遠隔操作より良いデータになる、という主張です。人が働いているだけでロボットの学習データが貯まるなら、ロボットを賢くするいちばんの壁だったデータ集めが、一気に軽くなります。

この投稿の画面写真を Claude に見せて、調べてもらったところから対話が始まりました。調べるほど、人の装着具のデータは、そのままではロボットに使えないことが見えてきました。人の腕とロボットの腕では、体の形も、カメラに映る見た目も違います。ロボットは指令どおりにも動きません。どの研究も会社も、その差を埋める一手間をかけていました。さらにその先に、お手本をまねる学習（模倣学習）そのものの限界が見え、限界を越えようとしている新しい手法と企業の動きを調べていきました。

たどり着いたのは、**人のデータでも新しい手法でも、最後に要るのは、対象のロボットが自分で動いて失敗した記録だった**という整理です。人の動きを大量に集める会社も、最後は自社のロボットで動かしたデータを足しています。実機での強化学習（ロボットが自分で試して、うまくいった動きを増やしていく学習）や世界モデル（動かしたら次にカメラに何が映るかを予測するモデル）も、模倣学習を捨ててはいません。模倣学習で作ったモデルの上に、ロボット自身の失敗から直す層を積んでいます。

| 考えたこと | 分かったこと |
|---|---|
| 人が身につけた道具で集めるデータ | 安く大量に集まる。遠隔操作より良いという比較は、お手本の本数をそろえた形では見つからなかった |
| 人の腕のデータをロボットに使うとき | 体の形・カメラに映る腕・指令どおりに動かないずれ、の3つの差が出る |
| 差を埋める一手間 | 道具をロボットに合わせる・後から変換する・ロボットで撮り直す・混ぜて学習する、の4つ。どれも対象のロボットの記録が要る |
| 模倣学習の限界を越える新しい手法 | 実機での強化学習・世界モデル・シミュレーション・考える層・力と触覚。学習より評価に使う方向がいちばん確かだった |
| 個人で持ち込める形 | 大きなモデルは凍結し、小さな部品だけを実機で学ぶ。公開モデルで、トースターのスイッチが 5/20 から 18/20 に、80回の練習で上がった例がある |
| 安い卓上アームで試すなら | 人の動きを計画にしてロボットで撮り直す。いま使っている補正の仕組みは、小さな部品の手作り版にあたる |

この記録を書いているプロジェクトでは、mechArm 270-Pi という安い卓上のロボットアームで、Physical Intelligence の π0.5（パイレイテンゴ。画像と言葉の指示を受けてロボットの動きを出す大きなモデル）を学習させています。いまの課題は、ブロックの置き場所を散らしたお手本をどう集めるかです。対話の後半は、調べた手法のどれがこの安いアームで成り立つかを考える方向へ進みました。

安いアームで人のデータから学習し、成功率を出した報告は、今回の調べでは1件も見つかりませんでした。研究も会社も、精密で高価なアームを前提にしています。だからこそ、安いアームで測った数字は、それ自体がまだどこにもない記録になります。

対話で最初に見せた X の投稿の画面写真は、それぞれの投稿者の文章なので、記事には載せず、中身を文で紹介しています。対話の途中で Claude が書いた調査レポート4本は、記事の最後に全文を置いています。


## 作業ログ ― Claude との対話を、そのまま残す

ここから下は、対話の全量です。ユーザーの発言を引用で、Claude の答えを本文で載せています。各節の頭の太字の一文は、その節で Claude が答えようとした問いです。会社の数字は会社の主張で、第三者の検証はありません。論文の数字は、査読（専門家の審査）を通ったものと、論文の公開サーバー（arXiv）に載せただけのものを分けて書いています。どちらも2026年10月27日に調べた時点のものです。円は1ドル150円で換算しています。

【図解】LOG392_frozen_vla_ports.html


## Dream Robotics の装着具は、遠隔操作より安く集まるが、良いという根拠はまだない

> （X の投稿の画面写真5枚。[Nathan Kau さんの投稿](https://x.com/nathankau/status/2114748894290624684)は「ロボティクスには遠隔操作の問題がある。遠隔操作は、かつてロボットを事後学習させるための質の高いお手本を集める唯一の方法だった。作業の速さは人の5倍遅いことが多く、1時間100ドル以上の運用費がかかり、避ける方法はなかった。それはもう昔の話だ。Sunday、Generalist、Reward、Chestnut ほか多くの会社とともに、センサー付きのバックパック・キャップ・手袋を着けた人から直接データを集めることで、はるかに安いだけでなく、昔ながらの地道なエンジニアリングを入れれば遠隔操作より良いデータが得られることを示している。人の目線の動画とは違い、この種のシステムは、人の手をロボットの手と同じ動き・当たり方・センサーの手袋やミットに変えることで、人をロボットそっくりにする。Dream Robotics では、センサー付きの人のデータをさらに一歩進めている。私たちの装着具は直感的で器用で、現実の仕事をしている人が業務中にデータを集められるほどだ。特許出願中の触覚と空間のセンサー（LiDAR）と 4K HDR カメラで、他の誰も集めていない情報をロボットに渡す。これらすべてを、400ドル未満・約450gのバックパックで実現した」。添えられた動画は、左が遠隔操作のロボット、右が装置を背負った人で、同じ棚から商品を取っている。返信には、Novaris さんの「遠隔操作は誰も話さなかったボトルネックだった。5倍遅くて1時間100ドル以上はつらい。これでデータ集めが直れば、ロボティクスはずっと詰まらなくなる」と、Nathan Kau さんの「その通り！」。同じ画面には、Miki S-Y さんの「ロボットは作業をこなすのがますますうまくなっている。では、失敗したときに何が起きるのか。2つの実世界の操作の作業で π0.5 を追加学習し、失敗から立て直すお手本が、成功したお手本を足すよりも方策の信頼性を効率よく上げるかを調べた」という投稿と、Chris Paxton さんの「あなたも私のように、力の情報と、規模を大きくした UMI を使ったロボット制御の学習が、今の汎用ロボットより良いと思うか」という投稿も写っていた。画面は X の日本語の自動翻訳で表示したもの）
>
> これについて調査、分析を行ってください。
>
> https://x.com/nathankau/status/2114748894290624684

**— Dream Robotics の主張はどこまで裏付けがあり、同じ画面の2つの投稿とどうつながるのか。**

共有いただいた X のリンクは、X 側が読み取りを拒否して開けませんでした。投稿の中身はスクリーンショットの訳文から読み、会社のサイトと関連する論文は実際に開いて確かめています。

結論として、Dream Robotics の主張は、半分は裏付けがあり、半分はまだ会社の言い分です。

- 裏付けがある部分：人が身につけた道具で集める方が、遠隔操作（ロボットを人が遠くから操縦してお手本を集める方法）よりずっと安く、たくさん集められる。
- 裏付けがない部分：遠隔操作より良いデータになる、という点。本数をそろえて比べた例は見当たりませんでした。いちばん近い HiFi-UMI の論文でも、手持ちの道具が1作業3,200本、遠隔操作が約300本で、本数が違います。

投稿の会社（Dream Robotics）について。

- 本業は、ネット通販の倉庫で棚から商品を取る双腕ロボットです。ロボットを1時間750円で貸す形をとっています（会社の主張）。
- 新しい装着具 DreamCatcher01 は、背負う約450gの装置です。指ごとの触覚センサー付き手袋、LiDAR（レーザーで周りの形を測るセンサー）、4K カメラが入って6万円未満です（会社の主張）。
- 遠隔操作は人より5倍遅く、1時間1.5万円以上かかる、と書いていますが、出典はありません。
- 考え方の芯は、人の手をロボットの手と同じ形の手袋に変えて、人をロボットそっくりにすることです。手袋とロボットの手を同じ形にする方法は Sunday も同じで、手袋のデータの90%をロボットのデータに変換できたとしています（会社の主張）。

逆の報告もあります。Armstrong Robotics が π0.5（Physical Intelligence のモデル）を、人が手で持つ道具のデータだけで学習した記録です。皿をつかむのは安定しましたが、ラックに置くのを大きく失敗しました。理由は2つ挙げています。

- 人のお手本は理想の動きなので、安いアームが指令どおりに動かないずれ（関節で5〜10度）を、ロボットが学べない。
- 部屋に置いたカメラに人の腕が映るが、本番ではロボットの腕が映るので、見た目が違う。

結論は、安いアームでは、人のデータだけだと壊れやすい、でした。

立て直しのお手本（Miki S-Y さんの投稿）は、失敗から立て直すお手本を足すのと、成功したお手本を増やすのと、どちらが成功率を上げるかを調べた投稿です。元の論文は特定できませんでした。近い研究（RECALL）では、立て直しのお手本の方が効率よく成功率が上がります。ただし、それだけで学習し直すと前にできていたことを忘れるので、前のお手本を混ぜる必要があると書かれています。

mechArm で試せることは3つあります。

1. 手持ちの道具でお手本を集める。先を mechArm のグリッパーと同じ形に3Dプリントし、iPhone で手先の位置と映像を記録します。ブロックを置き直して人がつかみに行くだけで、いま困っているブロックの位置のばらつきが作れます。
2. ただし mechArm は、Armstrong の失敗と同じ条件の安いアームです。人のお手本の手先の位置を、FK テーブル（関節角と手先の位置の対応表・150万点）で、実際に届く位置かをふるいにかけてから使う手順が要ります。
3. 立て直しのお手本は、いまの再生の仕組み（LOG349）ですぐ試せます。わざとずらした位置からつかみ直すお手本を足し、同じ本数の成功例を足したときと成功率を比べます。

調査メモは research フォルダに `research_human_wearable_data_20261027.md` として保存し、README の一覧にも1行足しました。


## 人の腕のデータをロボットに直すとき、届く範囲・ずれ・映る腕の3つで問題が出る

> 良さそうに思った手法ですが問題点もたくさんありますね。
> 特にπ0.5に学習させるとき、人の腕で学習させるので、ロボットの動きに変換するところで問題が出てきますね。

**— 人の腕のデータからロボットの動きに直すとき、具体的に何が問題になるのか。**

そうですね。人の腕のデータからロボットの動きに直すところで、問題は大きく3つに分かれます。

1. 届かない位置がある。人の手首はどんな向きにも曲がりますが、mechArm は関節の数も曲がる範囲も限られています。人が自然につかんだ姿勢が、mechArm では届かなかったり、無理な関節角になったりします。
2. 指令どおりに動かない。人のお手本は理想の動きですが、実機は遅れたりずれたりします。π0.5 はこのずれを学ばないので、置く場面のように精度が要るところで失敗します。Armstrong の失敗はこれでした。
3. カメラに映る腕が違う。上カメラ・横カメラには人の腕が映りますが、本番で映るのは mechArm です。π0.5 は画像を見て動きを決めるので、見た目が違うと判断がずれます。

これを避ける方法として、Armstrong の記録に1つヒントがありました。人の手の動きを一度ロボットに再生させ、そのとき撮れたロボットの映像で学習し直した方が、置く動作が安定したそうです。

つまり、人のデータを学習にそのまま使わず、どこをつかむかの指示として使い、学習するのはロボットが自分で動いた記録、という分け方です。この形なら、上の3つはこう処理できます。

- 届かない位置：再生した時点で弾かれます（FK テーブルで事前にふるいにかけることもできます）
- 指令とのずれ：実際に届いた関節角を記録するので、ずれ込みのデータになります
- 映る腕の違い：映るのは mechArm だけになります

これはいまの、要所を手で教えて再生するやり方（LOG349）の延長です。違いは、要所を教える手段が、mechArm を手で動かすことから、手持ちの道具でブロックをつかみに行くことに変わるだけです。こうすれば、位置のばらつきを作る手間は人の側に寄せたまま、学習データはロボット自身のものにできます。


## 装着具のデータを使う会社は、どこかで一手間かけて差を埋めている

> センサー付きの装着具のデータを直接では難しくて、その間に一手間かける必要がありますね。

**— うまくいっている会社は、その一手間をどこに入れているのか。**

そうですね。実際、うまくいっている会社も直接は使っていません。その一手間をどこに入れるかが、会社ごとに違います。

| どこで入れるか | やり方 | 例 |
|---|---|---|
| 集める前 | 手袋や道具を、ロボットの手と同じ形・同じセンサー配置で作る | Dream Robotics、Sunday |
| 集めた後 | 身長・腕の長さ・見た目の差を計算で消し、ロボットのデータに変換する | Sunday（変換できた割合90%、会社の主張） |
| ロボットで再生 | 人の動きをロボットに再生させ、ロボット自身の映像と関節角を撮り直す | Armstrong |

注意したいのは、この一手間がロボットの機種ごとに必要なことです。手袋をロボットの手に合わせれば、そのロボット専用になります。再生で撮り直すなら、その機種を動かす時間がかかります。安く大量に集められるという話は、この一手間を足した後の費用で比べないと正しく比べられません。

Pixels to Motors で見ると、ここが公開する価値のある部分だと思います。装着具は会社が作って売りますが、集めたデータを自分の安いアームで使える形に直す手順は、機種ごとに誰かが作る必要があり、まだほとんど公開されていません。mechArm で手順と、直す前後の成功率を出せれば、再現可能な環境の1つになります。


## 人のデータを直す4つの方法のうち、安い卓上アームに合うのはロボットで撮り直す方法

> このあたりを解決しているサービスや研究などにどんなことがあるか詳しく調査、分析をおねがします。

**— 人のデータをロボットで使える形に直す研究とサービスには何があり、それぞれ何が残るのか。**

（ここで Claude は、道具の作り・見た目と動きの変換・ロボットでの撮り直し・モデル側での吸収・会社の動き、の5つに分けて調べ、レポート research_human_to_robot_conversion_20261027.md にまとめました。全文は記事の最後に置いています。以下はチャットでの答えです）

人の装着具・手持ちの道具・動画で集めたデータを、何も手を加えずにロボットの学習に使えた研究は見つかりませんでした。どの研究・会社も、次の4つのどれかで一手間かけています。

| 方法 | 代表例 | 残る問題 |
|---|---|---|
| A 集める道具をロボットと同じ形にする | UMI、HiFi-UMI、Sunday、Dream Robotics | 手首カメラと、指令どおりに動く精密なアームが要る |
| B 集めた後で、画像の人の腕をロボットに描き変え、手の動きを関節角に計算し直す | Phantom、RoboPaint | カメラの位置合わせ（校正）が少しずれると崩れる。校正が1cm・5°ずれただけで成功率が0.98→0.64、2cm・10°で0.20まで落ちた例がある |
| C 人の動きを計画にして、ロボットで再生し撮り直す | Armstrong、DexUMI | ロボットを動かす時間がかかる |
| D 人のデータとロボットのデータを混ぜて学習する | Physical Intelligence の研究（π0.5 のスパイス棚が32%→71%） | 対象のロボットのデータは結局要る。グリッパーの開閉はロボットのデータだけで学習していた |

ほかに分かったことは3つです。

- 人のデータの利点は質ではなく、集める速さです。遠隔操作の3〜10倍速く集まりますが、お手本の本数をそろえて比べると、ロボットで集めたデータに届いていません。π0.5 で人のデータだけで遠隔操作に並んだ例は HiFi-UMI の1件だけでした（77.5%対74.4%）。それもお手本が約10倍多く、高価な7軸アームを使っていました。
- 会社は、自社のロボットに閉じています。装着具をロボットの手と同じ形で作る会社（Dream Robotics・Sunday など）は、装置もデータも外に売っていません。日本は大型の遠隔操作の拠点が主流で、手持ちの道具での収集を請け負うのは東大発の commissure くらいでした。
- 安い卓上アームで、人のデータから学習して成功率を出した報告は1件もありませんでした。mechArm で測れば、それ自体がまだない記録になります。

mechArm で試すなら、人の動きを計画にして、ロボットで撮り直す方法（C）が合っています。手首カメラがない、サーボのずれが大きい、という条件で A・B・D は不利だからです。

ただ、いまの課題であるブロックの位置のばらつきを作るだけなら、人を撮るより安い方法があります。手で教えた要所の姿勢を新しいブロック位置に合わせてずらし、FK テーブルで届かない計画を弾いてから再生する方法です（MimicGen と同じ考え方）。人の計画は、手で教えにくい動きが必要になってから足す、という順番を提案しています。比べるときの測り方（お手本の本数をそろえる、1条件50回以上）もレポートに書きました。

主な数字（RoboPaint・Physical Intelligence の研究・Shadow）は論文の表で確かめました。調査メモは research フォルダに `research_human_to_robot_conversion_20261027.md` として保存し、README の一覧にも1行足してあります。


## 模倣学習の限界を越える新しい手法は、どれも模倣学習の上に直す層を積んでいる

> 模倣学習の限界点が見えた気がする。
> こういった問題点を解決したりするような、新しい手法はどんな企業がどんなことを進めていますか？

**— 模倣学習の限界を越えようとする新しい手法は、どの企業が何を進めていて、どこまで成果が出ているのか。**

（ここで Claude は、実機での強化学習・世界モデル・シミュレーションと合成データ・考える層と力や触覚・日本の動き、の5つに分けて調べ、レポート research_beyond_imitation_learning_20261027.md にまとめました。全文は記事の最後に置いています。以下はチャットでの答えです）

どの企業も模倣学習を捨てていません。模倣学習で作ったモデルの上に、ロボットが自分で動いて失敗した経験から直す層を積んでいます。

| 方向 | 主な企業 | 成果の確かさ |
|---|---|---|
| 実機での強化学習（ロボットが自分で試して、うまくいった動きを増やす学習） | Physical Intelligence（失敗率が半分以下、15分の練習で最後の数mmが人の遠隔操作より速い）、Dyna（24時間連続で運転） | どちらも会社の主張で、コードは非公開 |
| 世界モデル（動かしたら次にカメラに何が映るかを予測するモデル） | Google DeepMind、NVIDIA、1X、Meta | 学習ではなく評価に使う方向がいちばん確か。実機1,600回超と照らして、モデルの良し悪しの順位が相関0.88で合った。ただし新しい物では0.56に落ちる |
| シミュレーションと合成データ | NVIDIA、Galbot、Skild | 安いアームで唯一成果があるのは Squint（論文。会社ではない）。SO-101 を、シミュレーションでの15分の強化学習だけで実機91.3%。比較の模倣学習は47.5%（審査前の論文） |
| 考える層（言葉で計画し、成否を判定する） | Google DeepMind（API で使える）、Figure、PI | 計画と判定には効くが、つかみ損ねた手の立て直しまでは解かない |
| 力・触覚 | 研究段階 | 成功率は20ポイント前後上がる。大手のモデルはまだ入力に入れていない |

日本の動きは次のとおりです。

- 実際に成果を出しているのは、遠隔操作で集めたデータの模倣学習（AIRoA が5,025時間のデータと π0.5 の追加学習版を公開）です。
- それ以外は、NVIDIA の道具を組み込む実証が中心で（ソフトバンク×安川電機など）、成功率などの数字は出ていません。
- 現場の実機で強化学習を回した日本の事例は見つかりませんでした。

共通の限界は、何を成功と呼ぶかが天井になることです。Dyna のナプキン畳みは、判定上は99.4%成功でしたが、客先の品質基準を満たしたのは75%でした。判定が甘いと、数字だけが伸びます。

mechArm で手を付ける順番は次のとおりです。

1. いまの Claude による成否判定を、目視と突き合わせて正確さを測る。この判定は、強化学習の報酬（成否の点数）になります。
2. ガクつき・倒しといった体験の質も判定に入れる。そうすれば強化学習はその質を伸ばす方向に働きます。ここは Pixels to Motors の差別化（体験の設計）と直接つながります。
3. Unity のデジタルツイン（実物そっくりの仮想の双子）で、学習途中のモデルの良し悪しの順位が実機と合うかを確かめる。

SO-101 を買えば、強化学習の既製の手順が2つ（LeRobot の HIL-SERL と Squint）使えます。ただ、どちらも第三者が再現した報告は見つかりませんでした。先に Runpod で Squint を動かし、必要な時間と GPU メモリを測ってから買うのが、プロジェクトの買う前に借りて測る、に沿った順番です。

主な数字（Squint、世界モデルでの評価の相関、Ctrl-World）は論文で確かめ、Squint の比較相手の数字は1つ足しました。調査メモは research フォルダに `research_beyond_imitation_learning_20261027.md` として保存し、README の一覧にも1行足してあります。


## 大きなモデルを凍結して小さな部品だけを学ぶ方法は、部品を差し込む場所で4つに分かれる

> VLA（画像と言葉の指示を受けてロボットの動きを出す大きなモデル。π0.5 もその一つ）を丸ごと学び直すのではなく、大きなモデルは凍結し、小さな部品だけを実機で学ぶ形がそろって出てきている。PI の RL トークン、DSRL、残差強化学習がそうだ。個人の環境に持ち込めるのはこの形である。
>
> ここについてより詳しく。

**— 大きなモデルを凍結したまま、どこに小さな部品を差し込み、実機で何回練習すれば上がるのか。**

（引用はレポート research_beyond_imitation_learning_20261027.md の一節。Claude は論文の本文とコードのページで数字を確かめ、調査メモ research_frozen_vla_small_rl_20261027.md にまとめました。全文は記事の最後に置いています。以下はチャットでの答えです）

大きなモデルを凍結して小さな部品だけを学ぶ方法は、小さな部品を差し込む場所で4つに分かれます。論文の本文とコードのページで数字を確かめました。

なぜ凍結するのか。

- 重さ：π0.5 は約30億の重みがあり、一部だけ学ぶ LoRA でも GPU メモリが22.5GB以上要ります。強化学習は1回動かすたびに学び直すので、この重さでは間に合いません。
- 速さ：小さな部品なら1秒に数百回更新できます。家庭用の GPU でも学習できます。
- 忘れない：元のモデルを書き換えないので、前にできていたことを忘れません。
- 置き場所を分けられる：π0.5 はクラウド、小さな部品は手元、と分けられます。

4つの形は次のとおりです。

| 形 | 仕組み | 実機の数字 | 公開コード |
|---|---|---|---|
| ① 入口の乱数を選ぶ（DSRL） | π0 や π0.5 は、乱数から少しずつ動きを作ります。普通は乱数を毎回ランダムに引くところを、小さなネットワークにどの乱数から始めるかを選ばせます | π0 を Franka で使い、トースターのスイッチが 5/20→18/20（80回の練習）、スプーンを皿に置く作業が 15/20→19/20（65回）。小さな部品の学習は RTX 3070 1枚（8GB）。査読あり | π0 用のみ |
| ② 出口に補正を足す（残差強化学習） | 元のモデルが出した動きに、小さなネットワークが補正を足します。報酬は成功1・失敗0だけです | 人型ロボットで 14%→64%（約15分）、23%→64%（約76分）。元のモデルは VLA ではなく ACT（模倣学習の一種） | 一部あり |
| ③ 候補から選ぶ（V-GPS） | 同じ場面で動きの候補をいくつも出させ、価値関数（その動きで最後に成功しそうかを点数にする関数）が一番良い候補を選びます | 平均 0.24→0.44。価値関数は過去の記録だけで学ぶので、実機での練習が要りません。査読あり | あり |
| ④ 中身を読む（PI の RL トークン） | モデル内部の状態をまとめた数字の列を、小さな行動役と評価役が読んで動きを直します | 15分の練習で、LAN ケーブルの差し込みが人の遠隔操作より速くなった。成功率は出ていない（会社の発表） | なし |

共通の条件は2つです。

- 元のモデルが、たまには成功していること。小さな部品は元のモデルの近くを探すだけなので、成功率0%の作業は直せません。DSRL の実験も、元の成功率は20〜75%でした。
- 報酬と物を戻す手間。毎回、成功か失敗かを決め、ブロックを置き直す人の時間が要ります。

mechArm に当てはめると（推論）、次のようになります。

- ②の考え方は、すでに使っています。いまの PICK 補正記憶（ずれを積み重ねて直す仕組み）は、②を手作りしたものにあたります。②の残差強化学習は、これをカメラ画像から学ぶ形です。重さで腕が下がるといったアームのずれを直すなら、元のモデルの範囲の外にも出られる②が合います。
- π0.5 自体を伸ばすなら①（DSRL）が最有力です。出てくる動きが π0.5 の出せる範囲に収まります。ただしコードは π0 用なので、π0.5 に乱数を外から渡せるよう書き換える必要があります。π0.5 での実例はまだ見つかっていません。
- 実機の練習なしで試せるのは③です。台帳にある成功・失敗の記録から価値関数を学べます。
- 報酬は、いまの Claude による PICK/PLACE 判定がそのまま使えます。ただし判定が甘いと、甘い方向に伸びます。

始める前に、決めたブロック位置で π0.5 の今の成功率を20回以上測ってください。0%に近ければ、どの形も効きません。

調査メモは research フォルダに `research_frozen_vla_small_rl_20261027.md` として保存し、README の一覧にも1行足してあります。


## ロボットが上達する道は、人のお手本を増やすことより、自分の失敗を記録に戻すことにあった

対話は、人が装着具を着けて働くだけでロボットの学習データが貯まる、という投稿から始まりました。確かに人のデータは、遠隔操作より何倍も速く、安く集まります。ただ、人の腕とロボットの腕は、届く範囲も、カメラに映る姿も、指令に対する動き方も違います。その差を埋めるために、どの会社も道具の形をロボットに合わせたり、ロボットで撮り直したりと、一手間をかけていました。

その一手間を追っていくと、お手本をまねる学習そのものの限界に行き着きました。お手本は、ロボット自身の遅れやずれを教えられず、失敗からの立て直しも教えにくく、お手本以上の動きも教えられません。新しい手法は、この限界を、ロボットが自分で動いて失敗した経験を学習に戻すことで越えようとしていました。しかも、大きなモデルを丸ごと学び直すのではなく、凍結したまま小さな部品だけを実機で育てる形にそろってきています。この形なら、家庭用の GPU と安いアームでも手が届きます。

何を成功と呼ぶかを決めるのは、人です。成否の判定に、動きのなめらかさや物を倒さないことまで入れれば、ロボットはその方向へ上達していきます。

**人のお手本は出発点で、ロボットを上達させるのは、自分で動いて失敗した記録と、その記録に成功の基準を与える人の判断だった。**


## 調査レポート4本の全文は、記事の外のファイルに置く

対話の中で Claude が書いた調査レポート4本を、手を加えずにそのまま載せます。research フォルダに保存したものと同じ中身です。チャットでの答えは、このレポートの要点を抜き出したものでした。

- ねらい：レポートの全文を記録として残しつつ、記事のページを重くしない
- 変わったこと：4本で合わせて約6万字。記事の本文には要点だけを書き、全文は1本ずつ記事の外のファイルにして、先頭の数行とリンクの枠で置く
- 見込める効果：記事を開いたときに読み込む量が減る（見込み）。AI がページを読んだときも、どこにどのレポートがあるかがリンクで分かる

レポートの中の数字は、それぞれの節に書いた出典の時点のものです。会社の主張と論文の区別、確かめられなかったことも、レポートの中に書いてあります。

### research_human_wearable_data_20261027.md（最初の調査メモ。Dream Robotics の投稿と、同じ方向の会社・研究、うまくいかなかった報告）

```markdown
# 遠隔操作の代わりに、人が身につけた道具で学習データを集める流れ（Dream Robotics の投稿から）

- 調べた日：2026-10-27
- きっかけ：エイイチが共有した X の投稿のスクリーンショット5枚（Dream Robotics の Nathan Kau の投稿と返信、同じ画面にあった Miki S-Y・Chris Paxton の投稿）
- 方針：会社の公式ページ・論文を開いて確かめたことだけを書く。会社の自己申告は「会社の主張」と書き分ける
- 換算：1ドル＝150円で計算（円は目安）
- 注意：X の投稿ページはサイト側が読み取りを拒否したため開けなかった。投稿の中身はスクリーンショット（Grok の日本語訳）から読んだ

---

## ① 要点

1. Dream Robotics の主張は「ロボットを人が遠くから操縦してお手本を集める（遠隔操作）のは、人より約5倍遅く、1時間あたり1.5万円以上かかる。人が背負う・かぶる・はめるセンサー付きの道具で、普段の仕事中にデータを集めれば、安いうえに遠隔操作より良いデータになる」。数字の出典は投稿に書かれていない
2. 新しい装着具 DreamCatcher01 は、背負う約450gの装置に、指ごとの触覚センサー付き手袋・LiDAR（レーザーで周りの形を測るセンサー）・4K カメラを入れて6万円未満（会社の主張）。会社の本業は倉庫で棚から商品を取る双腕ロボット DreamOne で、ロボットを1時間750円で貸す形（会社の主張）
3. 同じ方向の会社・研究が2026年に続いている。Sunday（手袋とロボットの手を同じ形・同じセンサー配置にして、ロボットのデータなしで学習）、HiFi-UMI（手持ちの道具で2万時間を集め、遠隔操作と同等の成功率）、UMI-FT（手持ちの道具の指ごとに力センサーを付けた）
4. 一方で、安いアームでは人のデータだけだとうまくいかなかった報告もある（Armstrong Robotics）。つかむのはできるが置くのを失敗する。人が理想の動きを見せても、実際のアームは指令どおりに動かない（遅れる・ずれる）ため
5. 同じ画面の Miki S-Y の投稿は「失敗から立て直すお手本（リカバリー実演）を足すのと、成功したお手本を増やすのと、π0.5 の成功率をどちらが上げるか」。元の論文は特定できなかった。近い研究（RECALL）では、立て直しのお手本は効率がよいが、それだけで学習し直すと前にできていたことを忘れる、と書かれている

---

## ② Dream Robotics（投稿の会社）

| 項目 | 内容 | 出典 |
|---|---|---|
| 何の会社か | ネット通販の倉庫で、商品を棚から取る・棚に補充するロボット DreamOne を作る。双腕・触覚のある手・上下に伸びる柱・全方向に動く台車 | 公式サイト |
| データ集めの道具 | DreamCatcher。働く人が身につけ、本人目線の広角映像・手と体の動き・指ごとに力を測る手袋を記録 | 公式サイト |
| 新型 DreamCatcher01 | 背負う装置。触覚センサー・LiDAR（特許出願中）・4K HDR カメラ。約450g、6万円未満。独自のコンピュータと触覚センサーとカメラを自作して実現 | 投稿（スクリーンショット） |
| 料金 | ロボット1時間750円。ロボット1台で月36万円の人件費削減、20人の拠点で年1.5億円超の削減 | 公式サイト（会社の主張） |
| データ量 | 数千時間を記録済み、目標100万時間 | 公式サイト（会社の主張） |
| 創業者 | Nathan Kau（CEO。Stanford Pupper の作者、Google X・Toyota でロボットの AI）、Gabrael Levine（CTO。Tesla Optimus で器用な手の強化学習）、Alex Hattori（MIT の Mini Cheetah・人型ロボット） | 公式サイト |
| 顧客・資金 | 名前の出た顧客なし（初期の協力先が少数）。資金調達の記載なし | 公式サイト |

投稿の比較動画では、左が遠隔操作のロボット、右が装置を背負った人が同じ棚から商品を取っている。ここで言う「良いデータ」の根拠となる数字（成功率の比較など）は、投稿にも公式サイトにも見当たらない。

投稿の考え方の芯は「人の手を、ロボットの手と同じ形・同じ当たり方・同じセンサーの手袋やミットに変えて、人をロボットそっくりにする」こと。人の動画をそのまま使う方法（頭に付けたカメラの映像だけ）とは違う、と本人が書いている。

---

## ③ 同じ方向の会社・研究

| 名前 | 何をしたか | 数字 | 出典 |
|---|---|---|---|
| Sunday（家庭用ロボット Memo） | 手袋とロボットの手を同じ形・同じセンサー配置で作り、手の部分の差をなくした。腕の長さ・身長・見た目の差は変換で消す。遠隔操作のデータを使わずに基盤モデル ACT-1 を学習 | 手袋のデータをロボットのデータに変換できた割合90%（会社の主張）。費用やデータ量の数字はなし | Sunday 公式ブログ |
| HiFi-UMI（Simple AI） | 頭のカメラ2つ・手ごとの広角カメラ・手のひら全体でにぎる道具で、ロボットなしにデータを集めた。そのデータだけで実機の方策（ロボットの動かし方を決める学習済みモデル）を仕上げた | 手先の位置の誤差 約3mm。手持ちの道具のデータと遠隔操作のデータで学習した成功率の差は −2.5〜+3.1ポイント（π0.5 では +3.1）。ただし手持ちは1作業3,200本、遠隔操作は約300本で、本数をそろえた比較ではない。集めたのは2万時間、うち2,000時間を公開 | arXiv 2607.25895（査読なし） |
| UMI-FT（Stanford・Shuran Song ら） | 手持ちの道具の指それぞれに6方向の力センサーを付け、力の加減と柔らかさまで学習 | ホワイトボード拭き・ズッキーニの串刺し・電球のはめ込みで、力を測らない方式より良かった（数字はページになし）。設計とコードは公開 | arXiv 2601.09988（査読なし） |

Chris Paxton の投稿（「力の情報＋手持ちの道具を大量に使った学習が、今の汎用ロボットより良いと思うか」という趣旨）も、この流れの話。具体的にどの論文を指しているかは、スクリーンショットの範囲では読み取れなかった。

---

## ④ うまくいかなかった報告：Armstrong Robotics

業務用の食器洗い（汚れた皿をケースから取り、ラックに立てる）で、π0.5 を手持ちの道具のデータで学習した記録。

- 比べたもの：遠隔操作と手持ちの道具で、それぞれ皿のお手本400本（各約3時間）。同じモデル・同じ設定
- 結果：手持ちの道具のデータだけの方策は、皿を取るのは安定したが、ラックに置くのを大きく失敗した（2枚重ねて置く・スロットを飛ばす）。成功率の数字は書かれていない
- 理由として挙げていること
  1. 部屋に置いたカメラに、人の腕が映っている。本番ではロボットの腕が映るので、見た目が違う
  2. 人のお手本は理想の動きなので、アームの遅れや、持つ物の重さで生じるずれを方策が学べない（関節で5〜10度ずれた。指令を強めると手先のずれは最大約1cmまで減ったが、動きががたついた）
  3. 置くときに、手首のカメラからラックの突起が見えなくなる
- 結論：安くて精度の低いアームでは、手持ちの道具のデータだけだと壊れやすい。遠隔操作のデータを少し足す・実機で試して学ぶ・ずれを直す制御を間に入れる、のどれかが要る

---

## ⑤ 立て直しのお手本（Miki S-Y の投稿）

- 投稿：π0.5 を2つの実機の作業で学習し直し、「失敗から立て直すお手本を足す方が、成功したお手本を足すより成功率を効率よく上げるか」を調べた、というスレッドの1つ目。元の論文・ブログは検索で特定できなかった
- 近い研究 RECALL（Karli・Fitzgerald、2026-06）：方策が自信のない場面で立て直しのお手本を集めると、成功例を受け身で増やすより効率がよい。ただし立て直しのお手本だけで学習し直すと、前にできていたことを忘れる。前のお手本を混ぜると忘れにくいが、新しいことを覚える速さとの取り合いになる

---

## ⑥ 見出しの主張の読み方

- 「遠隔操作より良いデータ」は、本数をそろえた比較で示された例が見当たらない。HiFi-UMI も手持ち3,200本対遠隔操作300本。言えるのは「同じ費用・同じ時間で、ずっと多く集められる」まで
- 人のデータが効くのは、(a) 人の手の道具がロボットの手と同じ形をしている、(b) アームが指令どおりに動く精度を持っている、(c) カメラに映る人の腕とロボットの腕の差を消している、の3つがそろうとき。Dream Robotics も Sunday も、(a) を手袋の作りで解いている
- 5倍遅い・1時間1.5万円以上、という遠隔操作の数字は、投稿の中で出典がない

---

## ⑦ Pixels to Motors との関係

1. mechArm のお手本集めで困っているのは「ブロックの位置のばらつきを作れない」こと。いまは要所の姿勢を手で教えて再生している（LOG349）。手持ちの道具で集める方法なら、ブロックを置き直して人がつかみに行くだけで位置のばらつきが作れる。iPhone は ARKit（iPhone が自分の位置と向きを測る仕組み）で手先の位置を記録でき、カメラも兼ねる（Phone2Act の調査メモと同じ道具立て）
2. ただし Armstrong の結果は、mechArm にそのまま当てはまる。mechArm は安いアームで、指令どおりに届かないことがある。人のお手本の手先の位置を、FK テーブル（関節角と手先の位置の対応表・150万点）で「mechArm が実際に届く位置か」を一度ふるいにかけてから使う、という手順が要る
3. 手持ちの道具の先を mechArm のグリッパーと同じ形で3Dプリントすれば、「人をロボットそっくりにする」の最小版になる。これを手順ごと公開できれば、再現可能な環境の候補になる
4. 立て直しのお手本はいまの再生の仕組みですぐ試せる。わざとずらした位置から始めて、つかみ直すお手本を何本か足し、π0.5 の成功率が同じ本数の成功例を足したときと比べてどう変わるかを測る。前のお手本も混ぜて学習する
5. 事業の見方：Dream Robotics の装置は「働く人が仕事をしながら身につけていられる」ことが前提で、重さ約450g・直感的に使えることを売りにしている。データを集める道具を、現場の人が嫌がらずに使える形にするのは、使う人の体験の設計そのもの。サービスロボットの現場の調査とつながる

---

## 出典

- [Dream Robotics 公式サイト](https://dreamrobotics.tech/)
- [Sunday 公式ブログ（ロボットのデータなしで学習）](https://www.sunday.ai/journal/no-robot-data)
- [HiFi-UMI（arXiv 2607.25895）](https://arxiv.org/pdf/2607.25895)
- [UMI-FT（arXiv 2601.09988）](https://arxiv.org/abs/2601.09988v1)
- [Armstrong Robotics：手持ちの道具のデータで π0.5 を学習した記録](https://armstrongrobotics.substack.com/p/fine-tuning-pi05-with-umi-the-promise)
- [RECALL（arXiv 2606.23617）](https://arxiv.org/abs/2606.23617v1)
- 元の投稿：https://x.com/nathankau/status/2114748894290624684 （読み取り不可・スクリーンショットで確認）
```

### research_human_to_robot_conversion_20261027.md（人のデータをロボットの学習に使うための一手間：4つの分類と会社の一覧、mechArm で試す順番）

```markdown
# 人のお手本をロボット自身の記録に変える

**要点。** 人が身につけた装着具・手持ちの道具・素手の動画で集めたデータを、何も変えずにロボットの学習に使えた研究は見つからなかった。どの研究も、次の4つのどれかで差を埋めている。A は集める道具やカメラの付け方をロボットに合わせる方法、B は画像から人を消してロボットを描き足し、手の動きを関節角に計算し直す方法、C は人の動きを計画としてロボットに実際に動かさせ、撮り直す方法、D は人のデータとロボットのデータを混ぜて学習する方法。π0.5 で人のデータだけの学習が遠隔操作（人がロボットを直接操って集めたデータ）に並んだ例は HiFi-UMI の **77.5% 対 74.4%** の1件だけで、それも**約10倍のお手本数**と、力を制御できる高価な7軸アームが前提だった（査読なし）。4つの方法すべてに残るのは、**ロボットが指令どおりに動かないずれ**だ。このずれを学習データに入れられるのは、実際にロボットで動かした記録しかない。mechArm 270-Pi のように手首カメラがなく、サーボのずれが大きい卓上アームで現実的なのは、エイイチが考えている C（人を計画にしてロボットで撮り直す）である。この形は、Armstrong Robotics の π0.5 の実験（会社のブログ。成功率の数字はない）と、DexUMI（査読あり）の作りに近い。安い卓上アームで人のデータから VLA（画像と言葉の指示を受けてロボットの動きを出す大きなモデル。π0.5 もその一つ）を学習し、成功率を出した報告は1件も見つからなかった。そのため、mechArm で測れば、それ自体が他にない記録になる。なお本文の Real2Render2Real は UC Berkeley などの論文を指す。この論文から名前を取ったエイイチのプロジェクト名 R2R2R とは別物である。

## 3つの差は、腕の届き方・カメラの絵・サーボの遅れとして現れる

3つの差は、どれもロボットの体の上で起きる具体的な問題だ。1つ目は**体の形の差**。人の手は5本指だが、mechArm の手は2本爪のグリッパー（平行に開閉するつかみ具）である。そこで研究では、親指と人差し指の先の中点を手先の位置、2本の指を通る面を手先の向き、指先の間の距離をグリッパーの開き具合とみなして、5本指を2本爪に落としている ([Phantom](https://arxiv.org/html/2503.00779v1))。手先の位置が決まったら、IK（手先の位置から関節角を逆算すること）で各関節の角度を求める。ただし、人が自然に届く位置にロボットが届くとは限らない。UMI を別のアーム（Franka）で試したとき、20回中の失敗2回はどちらも関節の可動範囲を超えたことが原因だった ([UMI](https://arxiv.org/html/2402.10329v3))。速さも違い、人はロボットの2〜3倍速く動く。そのため人のデータを4倍や2.25倍に引き延ばしてから使う研究がある ([EgoBridge](https://arxiv.org/html/2509.19626v1)、[EgoMimic](https://arxiv.org/pdf/2410.24221)、[MotionTrans](https://arxiv.org/html/2509.17759v1))。

2つ目は**カメラに映る見た目の差**。固定カメラで撮ると、集めるときは人の腕が映り、本番ではロボットの腕が映る。方策（ロボットの動かし方を決める学習済みモデル）はこの違いに耐えられない。Phantom では、人の映った動画をそのまま学習した方策は5つの作業すべてで成功率0だった ([Phantom](https://arxiv.org/html/2503.00779v1))。MV-UMI では、外から見るカメラの映像から人を消さないと、性能が全部入りの1割に落ちた ([MV-UMI](https://arxiv.org/html/2509.18757v1))。Armstrong Robotics は、遠隔操作で学習した π0.5 がロボット自身の腕の見た目を置き場所の手がかりに使っていたらしいと書いている。人のお手本からは、この手がかりが手に入らない ([Armstrong Robotics](https://armstrongrobotics.substack.com/p/fine-tuning-pi05-with-umi-the-promise))。

3つ目は**指令どおりに動かないずれ**。Armstrong Robotics の6軸アーム（i2rt YAM Ultra）は、制御に積分項（ずれが残り続けると押し戻す力を足していく仕組み）がない。そのため物を持つと関節が**5〜10°**下がった。押し戻す強さ（比例ゲイン）を上げると手先のずれは最大約1cmに減ったが、腕が硬くなって細かく震えた ([Armstrong Robotics](https://armstrongrobotics.substack.com/p/fine-tuning-pi05-with-umi-the-promise))。人のデータは「アームは完璧に動く」という前提で作られている。だから、それで学習した方策は、ずれを見て直す動きを覚えられない。これが衝突や、学習で見たことのない状態につながる、というのが同社の結論だ。

| 差 | mechArm で起きること | 証拠 |
|---|---|---|
| 体の形 | 5本指を2本爪に落とす計算が要る。人が届く位置に腕が届かない。人の方が速い | Phantom、UMI の失敗2回、EgoMimic の4倍の引き延ばし |
| 見た目 | 上と横の iPhone に人の腕が映り、本番ではロボットが映る | Phantom で加工なしは成功率0、MV-UMI で人を消さないと1割 |
| 動きのずれ | 指令角と到達角が違う。物を持つと下がる。遅れる | Armstrong で5〜10°、ゲインを上げると震え |

## 4つの解決策は、どの段階で差を消すかで分かれる

比べる前に注意がある。下の表の成功率は、作業・アーム・試行回数がばらばらで、**お手本の数をそろえた比較ではない**ものが多い。

| 分類 | 代表例（査読） | 解決する差 | 残る差 | 主な数字 | 費用 | コード |
|---|---|---|---|---|---|---|
| A 集める前に道具をロボットに合わせる | UMI（RSS 2024・査読あり）、HiFi-UMI（査読なし）、AirExo-2（CoRL 2025・査読あり）、DexUMI（CoRL 2025・査読あり） | 体の形、手首カメラの見た目 | 動きのずれ。手首カメラが要る。外のカメラには人が映る | UMI はカップ並べ 20/20。HiFi-UMI は π0.5 で 77.5% 対 遠隔操作 74.4%（3,200本 対 約300本）。AirExo-2 は同じ50本で 85.0% 対 93.75% | UMI は約5.6万円（$371）、AirExo-2 は双腕で約9万円（$600、カメラ別） | UMI-FT は公開。AirExo-2 は公開予定と記載。UMI 本体は未確認 |
| B 集めた後に見た目と動きを変換する | Phantom（CoRL 2025・査読あり）、Shadow（CoRL 2024・査読あり）、EmbodiSwap・RoboPaint（査読なし） | 見た目（人を消してロボットを描く）、体の形（IK） | 動きのずれ。カメラの校正が狂うと崩れる。つまみ持ちだけ。ゆっくりした作業だけ | Phantom はロボットのお手本ゼロで 0.40〜0.92。RoboPaint は π0.5 で手首カメラなし 46.6% 対 遠隔操作 83.3% | 1台の一般向け GPU で動く規模（EmbodiSwap は RTX A5000 1台）。動画生成型は H200 8台 | EmbodiSwap・RoboPaint は公開。Phantom の公式は未確認 |
| C ロボットで再生して撮り直す・少ないお手本から増やす | DexUMI の再生、Armstrong（会社のブログ）、DemoDiffusion（査読なし）、MimicGen（CoRL 2023・査読あり）、Real2Render2Real（CoRL 2025・査読あり） | 見た目と動きのずれ（ロボット自身の記録になる） | ロボットの稼働時間がかかる。ロボットが動けない計画は捨てる | DemoDiffusion は素の再生 52.5%、方策で補正しながら再生 83.8%。MimicGen は 10本から1,000本に増やして 11.3%→90.7%（Square） | ロボットの稼働時間。Real2Render2Real は RTX 4090 1台で1分に約51本 | 今回の調べでは未確認 |
| D モデル側で混ぜて学習する | PI の人からロボットへの移し替え（査読なし）、EgoMimic、EgoBridge（NeurIPS 2025・査読あり）、MotionTrans（査読なし） | ロボットにない動きの知識を足す | 体の形・見た目・ずれのすべて。対象ロボットのデータが必ず要る | π0.5 で人の動画約14時間を半分ずつ混ぜて、スパイス棚 32%→71% | 大規模な事前学習が前提 | PI は非公開。MotionTrans は公開（π0 版あり） |

### A：道具をロボットに合わせると、形と手首の絵はそろうが、腕の精度を前提にする

UMI は、ロボットと同じグリッパーの手持ち版を作り、手首に魚眼の GoPro を付けた道具だ。方策が見るのは手首カメラの絵だけなので、集めるときも本番も同じ絵になる。位置は SLAM（カメラの映像から自分の位置を割り出す技術）で追い、誤差は約6mm・3.5°。動きは現在の手先からの相対的な動き（今の位置からどれだけ動くか）で表す。相対で表すとカップ並べで 80%、絶対位置で表すと 25% だった ([UMI](https://arxiv.org/pdf/2402.10329))。材料費はグリッパー約1.1万円（$73）とカメラ類約4.5万円（$298）。ただし、試したアームは UR5 と Franka という研究・産業用の精密なアームだけで、論文も、ロボットが手先の軌道を正確に追えることを前提にしている。

後継の研究は、この前提の上で精度を上げている。HiFi-UMI は手先の誤差を3mmに下げ、集めたデータの約96%が使えた。π0.5 の追加学習では、ロボット不要のデータだけで 77.5%、遠隔操作だけで 74.4% だった。ただしお手本は1作業あたり約3,200本 対 約300本で数がそろっていない。アームは力を制御できる7軸（Tianji Marvin M6）で、手首カメラ4台を付けている。著者自身も、残る差はアームの運動の範囲だと書いている ([HiFi-UMI](https://arxiv.org/abs/2607.25895)、[alphaXiv 版](https://www.alphaxiv.org/abs/2607.25895.md))。AirExo-2 は、ロボットの腕と同じ寸法・同じ関節の外骨格（腕に着けるロボットの腕の模型）を使う。関節角をそのまま写せるので IK が要らず、手先の追従の誤差は 1.7mm（UMI は 8.9mm）。それでも、お手本50本どうしの比較では遠隔操作より 8.75 ポイント低かった ([AirExo-2](https://arxiv.org/abs/2503.03081v2))。力の情報を足す UMI-FT は、指先1個あたり約1,500円（$10）のセンサーで拭き掃除 92% を出した。ただしロボット側に、押されたら柔らかく逃げる制御（アドミッタンス制御）が要る ([UMI-FT](https://arxiv.org/html/2601.09988v1))。

腕の形をそろえた装置で、ロボット不要ではなく遠隔操作に使うのが、リーダーアーム（ロボットと同じ形の操作用の腕。動かすと本物のロボットが同じ関節角で動く）である。HOMIE は約7.5万円（$500）で公開されている ([HOMIE](https://arxiv.org/html/2502.13013v2))。SO-101 のリーダーアームも同じ考え方だ。この方式は本物のロボットが動いた結果を記録するので、3つの差がそもそも生まれない。代わりに、集める速さは遠隔操作の速さで止まる。

### B：後から変換すると見た目は直せるが、校正と手の推定に弱い

主流の手順はこうだ。まずセグメンテーション（画像の中の人の腕の範囲を切り出すこと。SAM2 を使う）で腕を切り出す。次にインペインティング（画像の一部を消して周りから埋めること）で消す。HaMeR で手の3D の形を推定し、ロボットの3D モデル（URDF。ロボットの形と関節を書いたファイル）をその位置に描いて重ねる。Phantom はこの手順で、ロボットのお手本ゼロのまま5作業で 0.40〜0.92 を出した。加工なしは全部0である。外を撮るカメラは深度（距離）も取れるもので、手首カメラは使っていない。カメラの設置位置（外部パラメータ）を知らなくても、学習時にロボットの台座の位置を最大20cmずらして描けば 0.96 が出た ([Phantom](https://arxiv.org/html/2503.00779v1))。ただし、人のお手本はロボットのお手本より効率が悪い。100本どうしでは人 0.64 対 ロボット 0.88 で、人のお手本が300本でようやく 0.84 に届いた。

弱点は**校正**（カメラとロボットの位置関係を測って合わせること）だ。ロボットの見た目を別のロボットに描き変える研究 Shadow では、実機で校正にずれ（1cm・5°）を入れると 0.98 が 0.64 に、2cm・10° で 0.20 まで落ちた（1条件25回） ([Shadow](https://arxiv.org/html/2503.00774v1))。π0 と π0.5 での数字もある。EmbodiSwap では、π0 を変換データだけで学習して 28%。研究室で集めた遠隔操作30本では 18% で、数はそろっていない ([EmbodiSwap](https://arxiv.org/html/2510.03706v1))。RoboPaint では、π0.5 を変換データで学習すると、手首カメラありで 80%（遠隔操作 100%）、**手首カメラなしで 46.6%（同 83.3%）** だった ([RoboPaint](https://arxiv.org/html/2602.05325v2/))。mechArm には手首カメラがないので、後者の差が参考になる。動画生成で人をロボットに描き変える H2R-Grounder は、H200 を8台使い、出力は Franka だけで、ロボットでの成功率は出していない ([H2R-Grounder](https://arxiv.org/html/2512.09406v1))。小さなアームに合わせて人の動きを縮める方法や、遅いロボットに合わせて時間を引き延ばす方法を検証した論文は見つからなかった。

### C：ロボットで撮り直すと3つの差が同時に消え、代わりにロボットの時間を使う

Armstrong Robotics（会社のブログ、査読なし）は、UMI 型の道具で皿洗いの π0.5 を学習した。UMI のデータだけの方策は皿をつかめたが、置くのが苦手だった（二重に置く、ラックの段を飛ばす）。学習に使った軌道のうち30本をロボットで再生してロボットのカメラで撮り直し、置く部分だけをそれで学習した方策は、元の UMI データの方策より明らかに確実に置けた。成功率の数字は出していない ([Armstrong Robotics](https://armstrongrobotics.substack.com/p/fine-tuning-pi05-with-umi-the-promise))。DexUMI（査読あり）も、ロボットの手の見た目を描かずに、記録した関節角を本物のロボットの手で再生して撮り、その画像を合成している ([DexUMI](https://arxiv.org/html/2505.21864v2))。

再生のやり方で結果が変わる。DemoDiffusion は、人の動画1本を手先の軌道にした。そのまま再生すると 52.5%、学習済みの π0（DROID で学習した版）にカメラを見ながら補正させると 83.8% で、π0 単独は 13.8% だった（Franka、8作業×10回）([DemoDiffusion](https://arxiv.org/html/2506.20668v2))。再生の前に「動けない計画」を捨てる仕組みも効く。Dxtr の研究（査読なし、著者1人）は、届く範囲・爪の開き幅・物の幅などを動かす前に確かめた。確かめで弾いたのに動かした13組は、13組とも失敗した。この研究には myCobot 280（mechArm と同じ会社の小型アーム）と SO-101 も入っているが、SO-101 は1組だけで結果が出ていない ([Dxtr](https://arxiv.org/html/2610.20351))。

少ないお手本から増やす研究も C に入る。MimicGen（査読あり）は、10本程度のお手本を物の位置ごとに分けた部分に切り、新しい物の位置に合わせて動かし直して、成功したものだけを残す。人の200本と、10本から作った200本がほぼ同じ性能だった。作った軌道のうち実際に成功した割合はアームによって 38〜74% で、失敗の原因は制御とアームの運動の小さなずれだった ([MimicGen](https://ar5iv.labs.arxiv.org/html/2310.17596))。Real2Render2Real（論文。エイイチの R2R2R の由来）は、スマホで撮った物の形と人の動画1本から、RTX 4090 1台で1分に約51本のお手本を描き出す。π0-FAST では、描いた1,000本が遠隔操作150本と同等か上回った（引き出し 86.6% 対 60.0%）。ただし統計上は同等と言い切れず、摩擦や力は計算に入っていない ([Real2Render2Real](https://arxiv.org/html/2505.09601v1))。このように C の研究の多くは、アームが計画どおりに動く前提でシミュレーションか画像の上で作っている。ずれを含めた記録になるのは、本物のロボットで再生した場合だけだ。

失敗から立て直すお手本も、ロボットで集める必要がある。RaC では、失敗しかけたら人が割り込み、ロボットを見慣れた状態まで巻き戻してから作業を終わらせた。これで集める量が約10分の1で済んだ ([RaC](https://arxiv.org/html/2509.07953v1))。PI の π*0.6（会社の研究、査読なし）は、ロボットが動いた結果と人の修正を繰り返し学習して、難しい作業の処理量を2倍超にしたと主張している ([π*0.6](https://arxiv.org/html/2511.14759v2))。Armstrong が同じ方式を20本×2回の小さな規模で試したところ、方策は成否の情報を無視し、失敗した動きまで真似した ([Armstrong Robotics](https://armstrongrobotics.substack.com/p/fine-tuning-pi05-with-umi-the-promise))。

### D：モデル側で混ぜても、対象のロボットのデータは消えない

Physical Intelligence の研究（査読なし、コード・データ非公開）は、頭に付けたカメラで撮った人の動画を、手の位置を手先の動きとみなして π0.5 の追加学習に混ぜた。人の動画は約14時間で、近いロボットの作業のデータと半分ずつにした。結果はスパイス棚 32%→71%、タンス 25%→50%、卵の色分け 57%→78%。ただし**グリッパーの開閉は人の動画から推定せず、ロボットのデータだけで学習**している。効果が出たのは、ロボットでの事前学習が十分に多様になってからだった ([PI 論文](https://arxiv.org/pdf/2512.22414)、[PI ブログ](https://pi.website/research/human_to_robot))。公開されている pi05_base にこの効果が出るだけの事前学習があるかは、公開情報では誰も試していない。openpi の説明書には、人のデータを混ぜる設定もない ([openpi README の写し](https://huggingface.co/s3y/openpi/blob/main/README.md))。MotionTrans は、対象の作業のロボットデータがないと成功率 **0%** で、腕の動きもほぼでたらめだった ([MotionTrans](https://arxiv.org/html/2509.17759v1))。人の動画を2万時間使った EgoScale でも、最後に1作業あたり20〜100本の遠隔操作を足している ([EgoScale](https://arxiv.org/html/2602.16710))。

## 人のデータだけでの学習を掲げる会社は、どれも自社のロボットに閉じている

会社の数字はほぼすべて会社の主張で、第三者の検証はない。独立した証拠と言えるのは論文と、米国の証券当局（SEC）への届け出くらいである。

| 会社 | 装置と差の埋め方 | 主な主張（会社の主張） | 外販 |
|---|---|---|---|
| Dream Robotics（Nathan Kau） | DreamCatcher：指先に力センサーのあるグローブと記録用のバックパック。グローブの形を自社ロボット DreamOne の手に合わせる（A） | 作業者が普段の勤務中に着けて「数千時間」を集め、目標は100万時間。ロボット1台1時間 750円（$5）で貸す。CEO の X 投稿では、DreamCatcher01 はバックパック約450g、触覚グローブ・LiDAR・4K カメラ付きで、6万円未満（$400 未満） | 装置・データとも記載なし ([Dream Robotics](https://dreamrobotics.tech/)) |
| Sunday | Skill Capture Glove。ロボット Memo の手と同じ形とセンサー配置にし、変換ソフト Skill Transform で身長・腕の長さ・見た目の差を消す（A＋B） | 変換の成功率90%。遠隔操作の軌跡ゼロで学習 | 記載なし ([Sunday](https://www.sunday.ai/journal/no-robot-data)) |
| Generalist AI | UMI 型の手持ちグリッパーで事前学習し、最後だけ対象ロボットで学習（A＋D） | GEN-1 は50万時間超。新しいロボットには約1時間のロボットデータで適応 | 早期アクセスのみ ([Generalist](https://generalistai.com/blog/nov-04-2025-GEN-0)、[The Robot Report](https://www.therobotreport.com/generalist-introduces-gen-1-general-purpose-model-for-physical-ai/)) |
| Simple AI | HiFi-UMI（A） | 遠隔操作並み（論文あり、査読なし） | 約2,000時間のデータを Hugging Face で公開 ([AI Weekly](https://aiweekly.co/alerts/simple-ais-hifi-umi-matches-teleop-with-robot-free-data-alone)) |
| Chestnut Robotics | 着ける装置 Aero UMI と18自由度の Aero Hand を同じ形にする（A） | 体の差はゼロ（記事は設計上の主張と注記） | 価格未発表 ([Humanoids Daily](https://www.humanoidsdaily.com/news/chestnut-aero-hand-umi-iros-2026)) |
| Reward AI | 7自由度のグローブと、どのロボットにも共通の方策（A＋D） | 新しい作業を人のデータ30分未満で覚える | 記載なし ([Humanoids Daily](https://www.humanoidsdaily.com/news/reward-ai-exits-stealth-with-om-1-pitching-zero-shot-human-to-robot-manipulation)) |
| Build AI | 頭に付けるカメラで工場の作業者を撮る（D 向けの素材） | 10万時間超・作業者約1.4万人 | 動画を公開（登録制）([Humanoids Daily](https://www.humanoidsdaily.com/news/build-ai-scales-to-100-000-hours-as-data-scaling-becomes-robotics-new-frontier)) |
| Figure（Project Go-Big） | 住宅で撮った一人称動画（D） | 家の中の移動を、ロボットのデータなしで覚えた（移動だけ） | なし ([Figure](https://www.figure.ai/news/project-go-big)) |
| Dream Labs（Dream Robotics とは別会社） | 一人称動画から動きを推定するモデル（D） | API は1時間450円（$3）、軽量版は約113円（$0.75） | API を提供 ([SiliconANGLE](https://siliconangle.com/2026/10/19/dream-labs-raises-90m-to-help-build-more-intelligent-robots-with-simple-video-feeds/)) |
| Scale AI・Encord・Sensei など | 集める作業の請負。Sensei は外骨格の腕型の装置を4.5万円未満（$300 未満）と主張 | Scale は1日1,000時間超。顧客に PI・Generalist・Dyna | 受注収集 ([Scale](https://scale.com/robotics)、[Encord](https://encord.com/data-collection/)、[Sensei](https://www.ycombinator.com/companies/sensei)) |

ロボットの手と同じ形の装着具を作る会社（Dream・Sunday・Chestnut・Reward）は、装置もデータも外に売っていない。形を合わせるほど、データはその会社のロボットにしか使えなくなる。

日本では向きが逆で、大きな投資は遠隔操作の集中拠点に向かっている。山善などの J-HRTI は千葉にヒューマノイド最大50台・常駐約100人の収集センターを作った ([ITmedia AI+](https://www.itmedia.co.jp/aiplus/article/2603/26/1260326096/))。アトムは豊洲で2027年末までに200台を動かす計画だ（記事の数字の表記が乱れている）([Business Insider Japan](https://www.businessinsider.jp/article/2608-atom-ai-robot-data-factory-toyosu/))。人のお手本を UMI で集める請負は、東大発の commissure が2026-08-28 に始めた「UMIデータ取得サービス」がほぼ唯一で、価格・規模は書かれていない ([TechnoEdge](https://www.techno-edge.net/release/prtimes2/20260828/24380.html))。ほかに、ジールス×タイミーの「データ収集スポットワーク」（現場の人の扱い方や手順を集める）([MONOist](https://monoist.itmedia.co.jp/mn/articles/2608/28/news061.html))と、Diver-X のロボット向けグローブ ContactGlove3 Pro（49万8,000円）がある ([EE Times Japan](https://eetimes.itmedia.co.jp/ee/articles/2606/24/news095.html))。個人が値段付きで買える装置として確認できたのは、この Diver-X だけだった。

## どの研究でも、最後は対象のロボットで動かした記録が要る

5つのノートを通して、同じ結論が繰り返し出てくる。1つ目に、**対象のロボットのデータをゼロにできた研究はない**。MotionTrans は対象作業のロボットデータがないと 0% ([MotionTrans](https://arxiv.org/html/2509.17759v1))。EgoRecovery は、人の立て直しのお手本を1作業300本足しても、ロボットの立て直しのお手本がないと立て直しの成功率が 8.8% にとどまり、ロボットの成功50本と立て直し50本を足して 85.0% になった ([EgoRecovery](https://www.alphaxiv.org/abs/2607.19745))。PI もグリッパーはロボットのデータだけで学習している。ロボットのお手本ゼロで動いた Phantom も、ロボットのデータと混ぜると、見たことのない場面での成功率が 0 から 0.80 に上がった ([Phantom](https://arxiv.org/html/2503.00779v1))。

2つ目に、**見た目をそろえないと崩れる**。加工なしの Phantom は 0、人を消さない MV-UMI は1割、変換の部品を外した AirExo-2 は 90% から 52.5% に落ちた ([AirExo-2](https://arxiv.org/abs/2503.03081v2))。ロボットの位置を黒く塗るだけでロボットの形を描かない場合も、0.02 しか出なかった（Shadow のシミュレーション） ([Shadow](https://arxiv.org/html/2503.00774v1))。3つ目に、**カメラの校正がいちばん壊れやすい**。Shadow では 0.98 が 0.20 に落ちた。4つ目に、**アームが計画どおりに動く前提が、どの方法にも隠れている**。HiFi-UMI の再生確認には、1秒に1,000回指令を送る専用の制御器を使っている ([alphaXiv 版](https://www.alphaxiv.org/abs/2607.25895.md))。MimicGen の失敗も制御とアームの運動のずれから来ていた。Armstrong は、このずれを直せることこそ学習した方策の強みで、それを手放してまでデータ量を取るのが得かは分からないと書いている。

5つ目に、**人のデータの利点は質ではなく集める速さ**だ。UMI は遠隔操作の3倍超の速さで集められ ([UMI](https://arxiv.org/pdf/2402.10329))、AirExo-2 は1本 5.66秒（関節の遠隔操作は17.31秒）だった。RoboPaint は2.57〜5.33倍、EgoRecovery は約10.5倍。一方、数をそろえると人のデータはロボットのデータに届いていない。AirExo-2 は −8.75 ポイント、Phantom は100本どうしで 0.64 対 0.88 だった。そして6つ目に、**安い趣味用のアームでの成功率はどこにもない**。SO-101 で VLA を比べた唯一の研究は遠隔操作100本で π0.5 が平均 56.25% だったが、1条件20回なので誤差は ±22 ポイントほどある ([SO-101 比較とその批評](https://mcobzarenco-fontaine-blog.static.hf.space/papers/so101-vla-benchmark.html))。

## mechArm では、人を計画にしてロボットで撮り直す順番が現実的

ここからは、ノートの証拠から導いた**推論**である。mechArm で検証された手順ではない。mechArm の条件（手首カメラなし、固定の iPhone 2台、サーボのずれが大きい、1.5M 点の FK 表がある）に照らすと、外れる選択肢が先に見えてくる。A の UMI 型は手首カメラと精密なアームが前提なので外れる。B の描き変えは校正が命で、上と横の iPhone の校正が少し狂えば Shadow と同じ崩れ方をする。D は pi05_base で効く証拠がなく、openpi に設定もない。残る C は、人の画像が学習に一切入らないので見た目の差が消え、mechArm 自身のずれも記録に入る。エイイチの考える「人を計画、ロボットで再生、ロボットの記録で学習」は、この点で筋がよい。

もう一つ、ブロックの置き場所を散らすという今の課題には、人より安い手がある。それは、今の手で教えるキーポーズを MimicGen 式に動かし直すことだ。ブロックの位置が変わったぶんだけ、つかむ前後の手先の位置をずらし、FK 表（関節角から手先位置を引く表。1.5M 点）で一番近い関節角を探す。こうして新しい位置の計画を作り、ロボットで再生して成功したものだけ残す。この方法なら人を撮る仕組みが要らない。人の計画が効いてくるのは、手で教えにくい軌道（よけながら近づく、押してからつかむ、など）が必要になったときだ。

| 順番 | やること | 狙い | 根拠 |
|---|---|---|---|
| 1 | 教えたキーポーズを、新しいブロック位置に合わせて動かし直す。FK 表で関節角を探し、届かない・可動範囲外・爪の幅が足りない計画は動かす前に捨て、ロボットで再生して成功だけ残す | 置き場所を散らす（今の課題） | MimicGen（10本から1,000本）、Dxtr（弾いた計画は13/13失敗） |
| 2 | 人の計画を足す。机に届く範囲を印で示し、その中で人がブロックを動かすところを同じ iPhone 2台で撮る。HaMeR の手の推定か、グリッパーを模した手持ちの棒に付けた印から手先の位置と開閉を取り、FK 表で関節角にし、遅くしてロボットで再生、2台で撮り直す | 手で教えにくい軌道を入れる。人の画像は学習に入れない | Armstrong の再生、DexUMI の再生。UMI の著者も、模様の少ない場面では固定カメラと道具の印を勧めている |
| 3 | 1回終わった置き場所を次の回の始めの位置にして、計画を続けて流す | 人が戻さずに回せる | 推論（文献なし） |
| 4 | π0.5 が動き始めたら、失敗しかけたところで止めて巻き戻し、手で直した回を足す。前のデータも必ず混ぜて学習する | ずれからの立て直しを覚えさせる | RaC（約10分の1の量）、RECALL（立て直しだけで学習すると前の作業を忘れる） |
| 5 | 余力があれば、人の手の動画をそのまま半分混ぜる学習を1回だけ試す | 効くかどうかを記録する | PI の研究。pi05_base では誰も試していない |

π0.5 の学習まわりでは、Armstrong の作業上の注意がそのまま使える。1つ目、openpi は作業の終わりより先の動きを最後の状態で埋めるのに、その部分も学習してしまい、方策が終わり際で止まった。埋めた部分を学習から外すと直った。2つ目、Real-Time Chunking（次の動きのまとまりを、今の動きを続けながら計算する方法）で、遅れたアームが前の位置へ戻るガクつきが直った。3つ目、手先の相対的な動きで表す方が、関節角で表すより良かった ([Armstrong Robotics](https://armstrongrobotics.substack.com/p/fine-tuning-pi05-with-umi-the-promise))。記録の状態の欄には、指令角ではなく到達角を入れる。

比較になる測り方も決めておく。まず**計画の通過率**：作った計画のうち、動かす前の確認を通った割合と、再生で成功した割合。MimicGen の 38〜74%、Dxtr の 31% が目安になる。次に**指令と到達のずれ**：関節ごとの度数と、FK 表で換算した手先の mm。Armstrong の 5〜10° と比べられる。**1本あたりの所要時間**は、手でキーポーズを教える場合、人が動かす場合、ロボットの再生の3つを分けて測る。**学習後の成功率**は、学習に入れていないブロック位置で測る。条件は、キーポーズの再生だけ・人の計画の再生だけ・両方の3つで、**お手本の本数をそろえる**（HiFi-UMI のように数がずれると、何が効いたか分からない）。1条件50回以上か、同じ位置で条件を入れ替えて比べる組の設計にする。20回では ±22 ポイントの差が誤差に埋もれる。さらに、手順・FK 表・カメラ位置・依存するバージョンを公開すれば、Mission の「再現可能な環境」の条件にそのまま合う。

SO-101 のリーダーアームは、SO-101 本体と組で関節角を写す道具だ。そのまま mechArm には使えない（推論）。mechArm と同じ寸法の腕の模型を作れば、AirExo や HOMIE と同じ形の差のない集め方になる。ただし、置き場所を散らすという今の課題に対しては、順番1より手間が大きい。

## 結論

この分野で差がいちばん小さい集め方は、精密な人の道具ではない。対象のロボットが自分で動いた記録である。研究と会社は、人のデータの速さを取るために A・B・D で差を埋めようとしてきた。それでも最後は、ロボットで動かした記録を足すか、ずれの小さい高価なアームを使うかに戻っている。逆に言えば、ずれの大きい安いアームでは、人のデータの速さという利点は小さくなる。人のデータの役目は、ロボットのお手本の代わりではなく、ロボットに何を試させるかの計画になる。mechArm で計画の通過率と、お手本の数をそろえた成功率を出せば、この分野で抜けている「安いアームでどこまで効くか」の最初の数字になる。

## 確認できなかったこと

DreamCatcher01 の型番と仕様（約450g・LiDAR・4K カメラ・6万円未満）は CEO の X 投稿だけが出典で、会社のサイトでは確認できなかった。また、Nathan Kau が Reward と Chestnut を同業と呼んだという元の投稿も見つからず、両社の特定は名前と事業内容からの推定である。Sunday のグローブの価格（約3万円＝$200、または約6万円＝$400）と約1,000万エピソードは二次情報だけが出典だった。HiFi-UMI は装置の価格とデータのライセンスが確認できず、論文には CC BY 4.0 とあるが、報道には記載がない。Phantom の公式コード、UMI の公式サイトの対応ロボット一覧、DexUMI の装置の価格も取れなかった。

研究の中身で足りないものもある。人の手の推定・切り出し・消去を1枚あたりどれだけの時間でできるかは、どの論文にも書かれていない。人の動きを小さなアームの届く範囲に縮める方法、遅いアームに合わせて時間を引き延ばす方法を検証した論文もない。人の軌道をロボットで再生して撮り直したデータと、撮り直さないデータを、数字で比べた査読付きの論文も見つからなかった（Armstrong のブログは数字を出していない）。PI の人からロボットへの移し替えが公開版の pi05_base で起きるかは、誰も報告していない。π*0.6 の「1回の繰り返しで約600回の試行」という数字は Armstrong のブログからで、論文では確かめていない。アトムの「30万時間」は記事の表記が乱れている。commissure・山善・アトムの価格と顧客は書かれていない。mechArm 270・myCobot・SO-101 の大きさのアームで、人のデータから VLA を学習して成功率を出した報告は、1件も見つからなかった。

## 出典

- UMI（RSS 2024・査読あり）: [arXiv PDF](https://arxiv.org/pdf/2402.10329)・[arXiv v3](https://arxiv.org/html/2402.10329v3)・[RSS 論文集](https://roboticsproceedings.org/rss20/p045.html)
- HiFi-UMI（査読なし）: [arXiv](https://arxiv.org/abs/2607.25895)・[alphaXiv 版](https://www.alphaxiv.org/abs/2607.25895.md)・[AI Weekly](https://aiweekly.co/alerts/simple-ais-hifi-umi-matches-teleop-with-robot-free-data-alone)
- UMI-FT（査読なし）: [arXiv](https://arxiv.org/html/2601.09988v1)
- MV-UMI（査読なし）: [arXiv](https://arxiv.org/html/2509.18757v1)
- AirExo-2（CoRL 2025・査読あり）: [arXiv](https://arxiv.org/abs/2503.03081v2)・[CoRL 論文一覧](https://mlanthology.org/corl/2025/fang2025corl-airexo2)
- DexUMI（CoRL 2025・査読あり）: [arXiv](https://arxiv.org/html/2505.21864v2)・[PMLR](https://proceedings.mlr.press/v305/xu25b.html)
- HOMIE（RSS 2025・査読あり）: [arXiv](https://arxiv.org/html/2502.13013v2)
- Phantom（CoRL 2025・査読あり）: [arXiv](https://arxiv.org/html/2503.00779v1)・[PMLR](https://proceedings.mlr.press/v305/lepert25a.html)
- Shadow（CoRL 2024・査読あり）: [arXiv](https://arxiv.org/html/2503.00774v1)
- EmbodiSwap（査読なし）: [arXiv](https://arxiv.org/html/2510.03706v1)
- RoboPaint（査読なし）: [arXiv](https://arxiv.org/html/2602.05325v2/)
- H2R-Grounder（査読なし）: [arXiv](https://arxiv.org/html/2512.09406v1)
- Armstrong Robotics（会社のブログ）: [Substack](https://armstrongrobotics.substack.com/p/fine-tuning-pi05-with-umi-the-promise)
- DemoDiffusion（査読なし）: [arXiv](https://arxiv.org/html/2506.20668v2)
- Dxtr の物の動きの移し替え（査読なし）: [arXiv](https://arxiv.org/html/2610.20351)
- MimicGen（CoRL 2023・査読あり）: [ar5iv](https://ar5iv.labs.arxiv.org/html/2310.17596)・[PMLR](https://proceedings.mlr.press/v229/mandlekar23a.html)
- Real2Render2Real（CoRL 2025・査読あり）: [arXiv](https://arxiv.org/html/2505.09601v1)・[PMLR](https://proceedings.mlr.press/v305/yu25a.html)
- RaC（査読なし）: [arXiv](https://arxiv.org/html/2509.07953v1)
- π*0.6 / RECAP（会社の研究・査読なし）: [arXiv](https://arxiv.org/html/2511.14759v2)
- EgoRecovery（査読なし）: [alphaXiv](https://www.alphaxiv.org/abs/2607.19745)
- PI 人からロボットへの移し替え（査読なし）: [arXiv PDF](https://arxiv.org/pdf/2512.22414)・[PI ブログ](https://pi.website/research/human_to_robot)
- EgoMimic（査読は未確認）: [arXiv](https://arxiv.org/pdf/2410.24221)
- EgoBridge（NeurIPS 2025・査読あり）: [arXiv](https://arxiv.org/html/2509.19626v1)
- MotionTrans（査読なし）: [arXiv](https://arxiv.org/html/2509.17759v1)
- EgoScale（査読なし）: [arXiv](https://arxiv.org/html/2602.16710)
- openpi の説明書（写し）: [Hugging Face](https://huggingface.co/s3y/openpi/blob/main/README.md)
- SO-101 での VLA 比較の批評: [HF Space](https://mcobzarenco-fontaine-blog.static.hf.space/papers/so101-vla-benchmark.html)
- 会社: [Dream Robotics](https://dreamrobotics.tech/)・[Sunday](https://www.sunday.ai/journal/no-robot-data)・[Generalist](https://generalistai.com/blog/nov-04-2025-GEN-0)・[The Robot Report（GEN-1）](https://www.therobotreport.com/generalist-introduces-gen-1-general-purpose-model-for-physical-ai/)・[Chestnut](https://www.humanoidsdaily.com/news/chestnut-aero-hand-umi-iros-2026)・[Reward AI](https://www.humanoidsdaily.com/news/reward-ai-exits-stealth-with-om-1-pitching-zero-shot-human-to-robot-manipulation)・[Build AI](https://www.humanoidsdaily.com/news/build-ai-scales-to-100-000-hours-as-data-scaling-becomes-robotics-new-frontier)・[Figure](https://www.figure.ai/news/project-go-big)・[Dream Labs](https://siliconangle.com/2026/10/19/dream-labs-raises-90m-to-help-build-more-intelligent-robots-with-simple-video-feeds/)・[Scale](https://scale.com/robotics)・[Encord](https://encord.com/data-collection/)・[Sensei](https://www.ycombinator.com/companies/sensei)
- 日本: [commissure（TechnoEdge）](https://www.techno-edge.net/release/prtimes2/20260828/24380.html)・[山善・J-HRTI（ITmedia AI+）](https://www.itmedia.co.jp/aiplus/article/2603/26/1260326096/)・[アトム（Business Insider Japan）](https://www.businessinsider.jp/article/2608-atom-ai-robot-data-factory-toyosu/)・[ジールス×タイミー（MONOist）](https://monoist.itmedia.co.jp/mn/articles/2608/28/news061.html)・[Diver-X（EE Times Japan）](https://eetimes.itmedia.co.jp/ee/articles/2606/24/news095.html)
```

### research_beyond_imitation_learning_20261027.md（模倣学習の限界を越える新しい手法と企業の動き（米国・中国・日本））

```markdown
# 模倣学習の上に、自分で直す層を積む

## ① 要点

お手本をまねる学習（模倣学習）の限界を越えようとする5つの方向は、どれも模倣学習を捨てていない。5つとは、実機での強化学習（ロボットが自分で試し、うまくいった動きを増やしていく学習）、世界モデル（動かしたら次にカメラに何が映るかを予測するモデル）、シミュレーションと合成データ、考える層、力・触覚である。どれも模倣学習で作った方策（ロボットの動かし方を決める学習済みモデル）の上に、直す仕組みを積んでいる。7つの限界のうち、どの手法でも消えなかったのは**対象のロボットのデータが要る**ことだ。前回の調査（人のデータをロボット用に変換する手法）の結論は、ここでも変わらない。

成果の確かさは手法によって大きく違う。実機での強化学習の目立つ成果、たとえば Physical Intelligence（以下 PI）の**失敗率が半分以下**や、Dyna の**24時間連続運転**は、どちらも会社の主張で、コードは公開されていない。査読（専門家の審査）を通った数字があるのは、合成データ（GraspVLA、Real2Render2Real）、世界モデルの研究（Ctrl-World、WMPO）、シミュレーション内の強化学習（SimpleVLA-RL）だ。いちばん手堅いのは、世界モデルやデジタルツイン（実物そっくりに作った仮想の双子）を学習ではなく**評価に使う**方向で、方策の順位を実機と**相関 0.88〜0.94** で当てている（査読なし、実機1,600回超との照合あり）。

日本では、実機で強化学習を回して成果を出した例は見つからなかった。主な動きは、遠隔操作で集めたデータの模倣学習（AIRoA）と、NVIDIA の合成データ・シミュレーションの組み込みで、どちらも成功率などの数字は公開されていない。

mechArm 270-Pi で個人が手を付けられるのは、次の順番だと考える（推論）。今の VLM（画像と文章を理解するAI）の判定の正確さを測る、Unity の双子で学習途中のモデルの順位を当てる、失敗時の手直しを足す、大きな π0.5 は凍結して小さな補正だけを実機で学ぶ。SO-101 を買えば、LeRobot の HIL-SERL と Squint という、強化学習の既製の道が2本手に入る。

## ② 7つの限界のうち、消せないのは対象ロボットのデータだけ

前回の調査では、人のデータをどう変換しても、最後は対象のロボットで動かした記録が要り、ロボット自身のずれが残ると結論した。今回はその先を調べた。模倣学習そのものの限界を、どの手法がどこまで解いているかを下の表にまとめる。確かさの欄の表記は次のとおり。査読あり＝学会・論文誌の審査を通ったもの。査読なし＝論文の公開サーバー（arXiv）に載せただけのもの。会社の主張＝ブログや発表で、第三者の検証がないもの。

| 模倣学習の限界 | 解こうとしている手法 | 代表 | 成果の確かさ |
|---|---|---|---|
| 1. 対象ロボットのデータが必ず要る | 合成データで事前学習する、シミュレーションで強化学習する、人の動画で世界モデルを事前学習する | GraspVLA（Galbot・北京大）、Squint（UCSD）、V-JEPA 2（Meta）、DYNA-2（Dyna） | **減るが消えない**。GraspVLA も実機のお手本100本を足して 80〜90%（査読あり）。Squint は実機のお手本ゼロだが、腕のデジタルツインが要る（査読なし）。Dyna は新しい現場で、現場の学習を足すまで性能が落ちた（会社の主張） |
| 2. ロボット自身の遅れやずれを直せない | 実機での強化学習、関節にノイズを入れたシミュレーション | PI の RL トークン、LeRobot の HIL-SERL、Squint、トヨタ | PI は15分の練習で、最後の数mmの作業が人の遠隔操作の中央値より速くなった（会社の主張）。Squint は関節ノイズを含む乱し方でシミュレーション学習し、実機で 91.3%（査読なし） |
| 3. お手本以上にうまくならない | 価値関数で良い行動を選ぶ強化学習 | PI の π*0.6、RL-100、Squint | PI はスループット（時間あたりにこなす数）2倍超（会社の主張）。RL-100 は熟練の操作者と同じかそれより速い（査読なし）。Squint は強化学習 91.3% 対 お手本をそのまままねる学習 47.5%、人が途中で直しながらまねる学習（DAgger）66.3%（どれもシミュレーションのお手本から学習し実機で80回、査読なし） |
| 4. 失敗からの立て直しが弱い | 人の修正を学習に戻す、世界モデルの中で練習する、上位の層で判定して計画をやり直す | PI の Recap、WMPO、Gemini Robotics-ER 2、Hi Robot | WMPO で、衝突のあと持ち直す動きが教えずに出た（査読あり。ただしシミュレーション）。ほかは会社の主張か査読なし |
| 5. データ集めが高い | 合成データの量産、世界モデルが想像した映像 | Real2Render2Real、GR00T-Mimic、DreamGen、Ctrl-World | Real2Render2Real は遠隔操作の27倍超の速さで作れる（査読あり）。Ctrl-World は想像の成功例で π0.5 を 38.7%→83.4%（査読あり） |
| 6. 実機での評価が遅い | 世界モデルやデジタルツインで評価する | Veo（Google DeepMind）、3DGS と物理の双子、1X | 実機との順位の相関 0.88〜0.94（査読なし）。**5つの中でいちばん確か** |
| 7. 接触や力を感じられない | 力・触覚を入力に足す | ForceVLA、FuSe、Figure、XELA | 成功率が20ポイント前後上がる（査読なし）。大手の基盤モデルは力・触覚の入力を打ち出していない |

表を縦に読むと、限界2〜4（ずれ・お手本の上限・立て直し）は、どれも**ロボットが自分で動いて失敗する経験**を学習に入れることで解かれている。お手本を増やしても、この3つは解けない。

## ③ 手法ごとの詳細

### A 実機での強化学習：会社は24時間運転まで来たが、個人が動かせるのは小さな仕組みだけ

**何をしているか。** 模倣学習で作った方策を実機で動かし、結果から学び直す。部品は3つある。1つ目は価値関数（今の状況から、最後に成功しそうかを予測する関数）。2つ目は報酬モデル（成功や進み具合を点数にするモデル）。3つ目は人の修正（失敗しかけたら人が操作を引き取り、立て直しを見せる）。

**PI。** 2025-11-17 に π*0.6 と、その学習法 Recap を発表した ([PI](https://pi.website/blog/pistar06))。ロボット自身の経験から価値関数を学び、価値の予測が上がった行動を良い行動、下がった行動を悪い行動と見なす。この差をアドバンテージ（その行動が平均よりどれだけ良かったか）と呼ぶ。方策には成功も失敗も含めた全データを学習させ、本番では「アドバンテージの高い行動を出せ」と条件をつける。発表している数字は次のとおり。いちばん難しい作業でスループットが**2倍超**、失敗率が**2分の1以下**。エスプレッソを朝5:30から夜23:30まで淹れ続けた。新しい家で洗濯物50点を畳んだ。実際の工場で箱を59個組み立てた。グラフに目盛りの数字はない。論文は arXiv（2511.14759、査読なし）にあるが、コードと重みは公開されていない。

2026-03-19 には RL トークンを発表した ([Humanoids Daily](https://www.humanoidsdaily.com/news/the-last-millimeter-physical-intelligence-unveils-rl-tokens-for-hyper-fast-precision))。π0.6 に、モデル内部の状態を短い数字の列にまとめた出力（RL トークン）を足す。それを読む小さな行動役と評価役を、実機の上で1秒に数百回更新する。大きなモデルは学習し直さない。**15分の練習**で、ネジ締め・結束バンド・LAN ケーブル差し込みなどの最後の数mmが改善し、LAN ケーブルでは人の遠隔操作の中央値より速くなったという。成功率は出ていない。出典はニュース記事で、PI の一次のページは今回開けなかった。2026-04 の π0.7 は汎用性を広げた発表で、強化学習を使ったという記述は見つからなかった。

**Dyna Robotics。** 報酬モデルを入れた強化学習を、商用の現場で回している例として最もはっきりしている。ただし数字は、Dyna の発表を集めた二次的な wiki 経由のもので、Dyna の一次のページでは確かめていない ([aiwiki](https://aiwiki.ai/wiki/dyna_robotics/raw))。DYNA-1（2025-04）は、作業の進み具合を推定する報酬モデルをつないで**6週間**学習した。その結果、約5分で失敗していた状態から、24時間連続運転まで伸びた。ナプキン畳みでは24時間で800枚超を人の介入なしに処理し、成功 **99.4%**、人の約60%の速さだった。ただし、客先の品質基準（5段階の4以上）を満たしたのは **75%** だけだった。見たことのない客先では、現場で学習を足すまで性能が落ちた。2026-08 の DYNA-2 は、人の一人称動画**100万時間超**で事前学習した世界モデル型に方針を移した。共通の客先では、追加学習なしで品質に合格する割合が 46% から 87% に上がったという。資金は2025年3月のシードで約35億円（2,350万ドル）、9月のシリーズAで約180億円（1.2億ドル）を集めた ([Tech Funding News](https://techfundingnews.com/dyna-robotics-banks-120m-from-nvidia-amazon-to-bring-embodied-ai-to-the-real-world/))。

**Google DeepMind。** 2026-07-30 の Gemini Robotics 2 の発表には、強化学習の記述がない。代わりに ER 2（計画と判定を受け持つモデル）が、作業の始まりと終わり、要所の瞬間を特定し、進み具合を追い、失敗した手順をやり直せると書いている。新しい双腕の機体には、200例未満・数時間で合わせられるという ([DeepMind](https://deepmind.google/blog/gemini-robotics-2-brings-whole-body-intelligence-to-robots/))。これは報酬を判定する部品を製品として出した形で、ER 2 は Google AI Studio で使える。

**公開されている研究。** 個人が動かせるかどうかで並べる。

| 手法 | 何をするか | 数字 | 確かさ | 個人で動かせるか |
|---|---|---|---|---|
| HIL-SERL（LeRobot 版） | 人がゲームパッドで途中介入しながら、成功を判定する小さな画像分類器を報酬にして実機で強化学習する | お手本15本、判定器用に20回、数時間で学習できると説明書が主張 | 元論文（UC Berkeley、arXiv 2410.21845）の数字は今回確かめ直していない（未確認） | **SO-100/SO-101 に公式対応**。NVIDIA の GPU が必要 ([LeRobot 説明書](https://huggingface.co/datasets/paulagb/hackathon-dataset_caramelos/blob/main/docs/source/hilserl.mdx)) |
| DSRL | 凍結した拡散方策（ノイズから少しずつ動きを作るモデル。π0 もこの仲間）に入れる乱数だけを、強化学習で選ぶ | — | **査読あり**（CoRL 2025） | π0 用のコードが公開 ([GitHub](https://github.com/nakamotoo/dsrl_pi0))。必要な GPU は未確認 |
| RL-100 | 拡散方策を、模倣と強化学習を同じ式で学ぶ | 実機8作業で 1000/1000 成功、最長250回連続、モールでジュースを7時間無失敗 | 査読なし、1研究室 ([arXiv](https://arxiv.org/abs/2510.14830v3)) | 研究用アームの結果 |
| SimpleVLA-RL | 成功か失敗かの2値だけを報酬に、シミュレーションの中で VLA を強化学習する | 詳細の数字は未確認 | **査読あり**（ICLR 2026） ([ICLR](https://proceedings.iclr.cc/paper_files/paper/2026/hash/cbfbcb4da14235bd69b134070898ae9d-Abstract-Conference.html)) | 複数の GPU とシミュレーションが前提 |
| ConRFT、PA-RL、残差強化学習 | 学習済みの方策に、強化学習で小さな補正を足す | 数字は未確認 | 未確認 | 安いアームでの必要時間は見つからず |

VLA（画像と言葉の指示を受けてロボットの動きを出す大きなモデル。π0.5 もその一つ）を丸ごと学び直すのではなく、**大きなモデルは凍結し、小さな部品だけを実機で学ぶ**形がそろって出てきている。PI の RL トークン、DSRL、残差強化学習がそうだ。個人の環境に持ち込めるのはこの形である。

**残る問題。** 人の時間は消えない。介入、物を元の位置に戻すこと、成功の判定のどれにも人が要る。LeRobot 版は作業を5〜10秒に限り、手先の動ける範囲を手で決め、背景や照明、通りがかる人に弱いと書いている。報酬の定義も天井になる。Dyna の 99.4% と 75% の差は、成功の判定が客先の基準より甘いと数字がふくらむことを示している。人の監督に何時間かかったかは、どの出典も書いていない。

### B 世界モデル：評価に使うと確か、学習に使うとまだ研究段階

世界モデルの使い方は4つある。

| 使い方 | 代表 | 数字 | 確かさ |
|---|---|---|---|
| 評価（実機の代わりに方策を試す） | Veo を使った評価器（Google DeepMind） | 8つの方策・実機1,600回超と照合し、相関 **0.88**。新しい物では **0.56** に落ちる。成功率の絶対値は低めに出るが、順位は合う | 査読なし（会社の研究） ([alphaXiv](https://www.alphaxiv.org/overview/2512.10675)) |
| 評価 | 1X の世界モデル | 相関があると主張、係数は非公開。**模倣学習の損失（学習中の誤差の値）は実機の性能と相関しなかった** | 会社の主張 ([1X](https://1x.tech/discover/redwood-ai-world-model)) |
| データ生成 | Ctrl-World（Stanford・清華大） | 想像の試行400回から成功25〜50本を選んで π0.5 を学習し、新しい物・新しい指示での成功率が **38.7%→83.4%** | **査読あり**（ICLR 2026） ([arXiv](https://arxiv.org/html/2510.10125v3)) |
| データ生成 | DreamGen／GR00T-Dreams（NVIDIA） | 1作業の遠隔操作だけから、人型ロボットが新しい振る舞い22種をこなした。手で集めると3か月の量を36時間で作ったと主張 | 査読なし・会社の主張 ([arXiv](https://arxiv.org/abs/2505.12705)、[NVIDIA](https://developer.nvidia.com/ko-kr/blog/enhance-robot-learning-with-synthetic-trajectory-data-generated-by-world-foundation-models/)) |
| 中で練習 | WMPO（香港科技大・ByteDance Seed） | 世界モデルの中だけで強化学習して、シミュレーションの成功率 33.6%→47.1%（実機の試行128本）／57.6%（1,280本）。衝突のあと持ち上げ直して差し込む動きが、教えずに出た | **査読あり**（ICLR 2026）。実機の数字は取れなかった ([arXiv](https://arxiv.org/html/2511.09515v1)) |
| 計画 | V-JEPA 2（Meta） | ロボットのデータ62時間で、新しい場所・新しい物の pick&place が **65〜80%**。毎回少し先を予測して計画し直す。重みは商用も可で公開 | 会社と技術報告 ([Meta](https://ai.meta.com/blog/v-jepa-2-world-model-benchmarks/)) |
| 計画 | Cosmos Policy（NVIDIA・Stanford） | LIBERO で 98.5%。複数の未来を想像して良いものを選ぶと、実機の難しい2作業で +12.5% | 査読なし、コード公開 ([arXiv](https://arxiv.org/html/2601.16163v1)) |

評価の結果がいちばん確かなのには理由がある。評価なら、世界モデルの間違いはモデル同士の比較で相殺されやすい。しかも実機の結果と突き合わせれば、どこまで信じてよいかを数字で示せる。1X は、15ポイント差のある2つの方策なら、正解率70%の世界モデルでも90%の確率で良い方を選べると計算している。逆に、学習に使うと間違いがそのまま方策に移る。世界モデルの中で練習すると、方策が世界モデルの間違いにつけ込む恐れがある。

公開されて使えるものとして、NVIDIA の Cosmos 3（2026-06-01、商用可、中型の Nano は16B）がある ([NVIDIA](https://investor.nvidia.com/news/press-release-details/2026/NVIDIA-Launches-Cosmos-3-the-Open-Frontier-Foundation-Model-for-Physical-AI/default.aspx))。ただし対応機体の一覧は Franka・AgiBot・UR・WidowX 250・UMI で、安い6軸の卓上アームは入っていない ([Hugging Face](https://huggingface.co/NVIDIA/COSMOS3-NANO))。前の版の Cosmos-Predict2.5（2B）は更新が止まった ([GitHub](https://github.com/nvidia-cosmos/cosmos-predict2.5))。研究で評価器を学習するのに使われた計算は、たとえば Ctrl-World で H100 16台を2〜3日である。

**残る問題。** 出典がそろって挙げる弱点は、接触と力、新しい物、長い作業（8〜20秒が普通）、物がくっつく幻覚、方策のやり直しを再現できないこと、の5つ。映像だけの世界モデルは力が見えない。だから、つかみ損ねや滑りで失敗する小さなアームの作業では、まさに失敗が起きる場面で評価が当てにならなくなる。

### C シミュレーションと合成データ：つかむ動作では実証済み、安いアームでも1件

| 手法 | 合成の量 | 実機のデータ | 実機の結果 | 計算 | 確かさ |
|---|---|---|---|---|---|
| GraspVLA（Galbot・北京大ほか） | 約10億フレーム | 0本（追加学習するなら10〜100本） | 追加学習なしでつかむ動作 90〜96.6%。透明な物は 86.6%（従来手法は10%）。実機100本の追加で 80〜90%、合成なしでは 0〜10% | RTX 4090 160台を10日 | **査読あり**（CoRL 2025） ([arXiv](https://arxiv.org/html/2505.03233v3)) |
| Real2Render2Real（UC Berkeley・TRI） | 人の動画1本から最大1,000本 | 0本 | 合成1,000本で 80%、遠隔操作150本は 73.3%。合成150本だけでは 33.3% | RTX 4090 1台で1分に約51本（遠隔操作は1.7本） | **査読あり**（CoRL 2025） ([arXiv](https://arxiv.org/html/2505.09601v1)) |
| Squint（UCSD） | ManiSkill3（GPU で大量に並べて動かすシミュレーター）で強化学習 | 0本 | **SO-101 で 91.3%（73/80）**。比較の模倣学習は、お手本をそのまままねる方式で 47.5%、人が途中で直しながらまねる方式（DAgger）で 66.3% | RTX 3090 1台で1方策15分以下 | 査読なし ([arXiv](https://arxiv.org/pdf/2602.21203)) |
| GR00T-Mimic（NVIDIA） | 78万本（人の実演6,500時間ぶん）を11時間で | 量は非公開 | 実データだけより +40% | — | 会社の主張 ([NVIDIA](https://developer.nvidia.com/blog/building-a-synthetic-motion-generation-pipeline-for-humanoid-robot-learning)) |
| Skild AI の S1 | シミュレーションの強化学習＋人の動画＋遠隔操作 | 非公開 | 新しい多段の作業で1手順ごとの成功が約66%（比較相手は9%） | 非公開 | 会社の主張 ([NVIDIA](https://blogs.nvidia.com/blog/skild-ai-s1-physical-ai/)) |

なお Real2Render2Real は UC Berkeley などの論文の名前で、エイイチのプロジェクト名 R2R2R とは別物である。この論文は Isaac を絵を描くためだけに使い、物理は計算していない。物が滑ったり押されたりしないので、ずれや立て直し（限界2と4）には効かない。

安いアームで効いた例は Squint だけで、その作り方がそのまま参考になる。シムトゥリアル（シミュレーションで学習した方策を実機に持ち込むこと）のために、ドメインランダム化（シミュレーションの条件を毎回わざと変え、実機との差に強くする方法）を使った。変えた条件は、カメラの位置と画角、照明、物の大きさと摩擦、グリッパーの閉じる速さ、**関節の位置に正規分布のノイズ（σ=5）**である。さらに、1回の動きの大きさを0.15倍に絞った。正確な実機の測定（システム同定）はしていない。ただし Squint の SO-101 は**手首カメラ1台**の構成である。

評価に使う双子では、見た目と物理を実物に合わせることが効く。写真から立体の見た目を再現する手法（3DGS）と、柔らかい物の物理を組み合わせた双子は、実機との相関が **0.90〜0.94** だった。合わせていない Isaac の比較対象は **0.24〜0.65** にとどまった（Columbia・Google DeepMind ほか、査読なし） ([arXiv](https://arxiv.org/html/2511.04665v2))。Unity の例もある。UCL は iPhone 程度の写真10〜20枚から3DGS で場面を作り、Unity に取り込んで計画に使った。シミュレーションで100%、実機で9/10の成功だった（論文誌、査読あり） ([arXiv](https://arxiv.org/pdf/2601.03200))。

**残る問題。** どの会社も、実機のデータなしで汎用の作業を出荷するとは言っていない。絵を描くだけの合成データは、数でお手本に追いつくのに何倍もの量が要る。2025〜2026年に、Unity で強化学習して安いアームの実機に移した報告は見つからなかった。Unity には、ManiSkill3 や Isaac Lab のように GPU 1台で数千の環境を並べる仕組みがない。15分で学習が終わる Squint の速さは、この並列に頼っている（推論）。趣味用サーボのガタや遅れを、どの幅で乱せばよいかを調べた研究もなかった。

### D 考える層：計画と判定には効くが、手の立て直しまでは解かない

2025〜2026年に、大手がそろって2層か3層の構成に移った。上の層は VLM が言葉で考えて計画し、下の層は速い運動の方策が動きを出す。

| 会社 | 構成 | 数字 | 確かさ |
|---|---|---|---|
| Google DeepMind | ER 1.5（2025-09）→ ER 2（2026-07-30、土台は Gemini 3.5 Flash）が計画と判定を担い、VLA が動く。ER は API で使える。ただし安全上重要な用途には使わないよう明記している | ER 2 は進み具合の分類 57.4%、場面の特定 91.3%（平均の時間のずれ 0.96秒） | 会社の主張・二次情報 ([モデルカード](https://deepmind.google/models/model-cards/gemini-robotics-er-2/)、[Labellerr](https://www.labellerr.com/blog/gemini-robotics-2-google-deepmind/)) |
| Figure | Helix 02（2026-01）は3層。理解と言語、200 Hz の全身の関節目標、1 kHz のバランス制御 | 食洗機の片付けを約4分・61動作、途中で人が戻さずに通した | 会社の主張 ([記事](https://humanoidroboticstechnology.com/industry-news/figure-launches-helix-02/)) |
| PI | Hi Robot（2025-02）は、上の層が手順を言葉で下の層に渡し、人に途中で訂正されれば計画を直す | 指示どおりにできた割合：Hi Robot 76、層なし 36、GPT-4o を上に置くと 30。進み具合：81、44、64 | 査読なし ([PI](https://www.pi.website/research/hirobot)) |
| Anthropic | Claude がロボット犬のセンサーをつなぐコードを書いた | AI なしのチームより約37.7倍速い（361分→9分35秒）。ただし閉ループの細かい制御（ボールを押して戻す）は失敗した | 会社の研究 ([Anthropic](https://www.anthropic.com/research/project-fetch-phase-two)) |

効くのは、新しい作業の手順を組むこと、成否を判定すること、計画をやり直すことだ。つかみ損ねた手をどう戻すかという**運動の立て直しは解かない**。そこに数字が出ているのは、A の修正と強化学習のほうである。Hi Robot の表からは、汎用の LLM（大規模言語モデル）をそのまま上に置くと、手順の進行は上がる（44→64）が、指示どおりにできる割合は上がらない（36→30）、と読める。ただし1社の評価で、査読はない。進み具合の判定は ER 2 でも57.4%なので、判定役はまだ完璧からほど遠い。上の層を足すとどれだけ遅くなり、成功率がどう変わるかを第三者が比べた評価はない。

### E 力・触覚：成功率は20ポイント前後上がるが、研究段階でセンサーの値段が見えない

ForceVLA（上海交通大・復旦大ほか、査読なし）は、π0 を土台に6軸の力を画像・言語と並べて入力した ([arXiv](https://arxiv.org/html/2505.22159v3))。差し込み・拭き取り・皮むきなど5作業の平均成功率は、力なしの π0 が **37.3%**、ForceVLA が **60.5%** だった。視界が隠れた条件では 90% に達した。ただし、外から加わる力は実測ではなく推定値で、論文の中で同じ比較の数字が節ごとに食い違っている。FuSe（UC Berkeley 系、査読なし）は、学習済みの方策に触覚・音・視覚を足して追加学習し、どの比較相手よりも20%超上がった ([arXiv](https://arxiv.org/abs/2501.04693v3))。

ハードは会社が先に出している。Figure は指先の触覚センサーが**3 g**（クリップ1本）を感じると言う（会社の主張）。Meta と GelSight の Digit 360 は1 mN まで検出するが、値段は書かれていない ([BusinessWire](https://www.businesswire.com/news/home/20241031980322/en/GelSight-and-Meta-AI-Introduce-Digit-360-Tactile-Sensor/))。NYU の AnySkin は磁気で触覚を測るシートで、平均12秒で付け替えられ、1枚目で学習したモデルが別の個体でもほぼ同じ性能で動く。ただし周りの磁性体に弱い ([Hackster](https://www.hackster.io/news/anyskin-senses-a-disturbance-in-the-force-53dff5c38c2f))。

**残る問題。** 力・触覚が効くのは限界7だ。見えないときの頑健さを通して、限界4の一部にも効く。ただし、お手本から学ぶ点は変わらないので、お手本以上にはうまくならない。PI の API も、Gemini Robotics の公開情報も、力・触覚を入力にするとは打ち出していない。触覚のデータを集める道具と、大量の事前学習データがまだない。個人向けのセンサーは、どれも一次資料で値段を確認できなかった。

## ④ 企業の地図：米国は強化学習と評価、中国は合成データとデータ量、日本は組み込み

| 国 | 会社・機関 | 賭けている方向 | 公開された成果と確かさ |
|---|---|---|---|
| 米国 | Physical Intelligence | 実機の強化学習（Recap、RL トークン）、考える層（Hi Robot、記憶の MEM）、API（2026-10-13 ベータ、順番待ち） | 失敗率が半分以下、15分の練習（会社の主張）。コードは π0・π0.5 だけ公開 |
| 米国 | Google DeepMind | 判定と計画の層（ER 2 を API で提供）、世界モデルでの評価（Veo） | 相関 0.88（査読なし） |
| 米国 | NVIDIA | 合成データ（GR00T-Mimic、DreamGen）、世界モデル（Cosmos 3、公開）、シミュレーション（Isaac Lab、Newton） | 多くは会社の主張。Cosmos Policy は査読なし |
| 米国 | Dyna Robotics | 報酬モデルでの実機強化学習 → 人の動画100万時間の世界モデル型へ | 24時間運転、99.4%（会社の主張・二次情報） |
| 米国 | Skild AI | シミュレーションの強化学習＋人の動画。評価額約2.1兆円（140億ドル）超、年間売上約150億円（1億ドル）と主張 | 66% 対 9%（会社の主張） |
| 米国 | Figure | 3層の考える層、シミュレーションで学習したバランス制御、指先の触覚 | 実演のみ（会社の主張） |
| 米国 | 1X | 世界モデルでの評価、失敗も学習に使う Redwood | 係数は非公開（会社の主張） |
| 米国 | Meta | 予測型の世界モデル V-JEPA 2（公開）、触覚 Digit 360 | 65〜80%（会社と技術報告） |
| 米国 | Genesis AI | 自前の物理シミュレーター。シード約158億円（1.05億ドル） | 数字なし ([TechCrunch](https://www.techcrunch.com/2025/07/01/genesis-ai-launches-with-105m-seed-funding-from-eclipse-khosla-to-build-ai-models-for-robots)) |
| 中国 | Galbot・北京大 | 合成データだけの事前学習（GraspVLA） | 査読あり |
| 中国 | AgiBot | 世界モデルのシミュレーター（Genie Envisioner、一部公開）、その中での強化学習 | 相関の数字なし（会社の主張） ([The Robot Report](https://www.therobotreport.com/agibot-unveils-genie-envisioner-2-0-advance-world-models-scalable-simulators-embodied-ai/)) |
| 中国 | Lightwheel（光轮智能） | シミュレーションの素材・合成データ・評価を請け負う。約210億円（10億元）を調達 | 顧客の名前のみ（会社の主張） ([EqualOcean](https://www.equalocean.com/news/2026031121786-light-wheel-intelligence-raises-rmb-1b-build-physical-ai-infrastructure)) |
| 中国 | Xiaomi、Ant Group | 実機データの量（10万時間超、約6万時間）を緩い条件で公開。中身は模倣学習 | 報道 ([AI新聞](https://exawizards.com/column/ai-trend/news-0823-2026/)) |
| 中国 | ByteDance Seed、清華大ほか | 世界モデル内の強化学習（WMPO）、評価（Ctrl-World） | 査読あり |
| 日本 | ⑤ を参照 | NVIDIA 技術の組み込み、遠隔操作データ、シミュレーションの強化学習（歩行） | 数字なし |

Generalist、Covariant と Amazon、Tesla、Field AI、Amazon FAR については、実機の強化学習を公開した一次情報を今回見つけられなかった。何もしていないという意味ではない。

## ⑤ 日本の動き：模倣学習の拠点づくりが中心で、その先は NVIDIA 頼み

**AIRoA（AIロボット協会）が実際に出したものは模倣学習だ。** 2026-07-31 に3つを公開した。データセット AIRoA MoMa 5k、モデル pi05_hsr_base、学習コード AiroPi である ([AIRoA](https://airoa.org/updates/20260803/487/))。データは、トヨタ HSR 44台を5拠点で人が遠隔操作して集めた**5,025時間**。うち9割超を Telexistence と九州工業大の2拠点が占める。モデルは米国 PI の π0.5 を土台に、H200 64基で継続学習したもの。利用は研究目的に限られ、派生モデルの再配布も禁止されている ([AI新聞](https://exawizards.com/column/ai-trend/news-0823-2026/))。中国の Xiaomi（10万時間超）や Ant（約6万時間）と比べると、量は10分の1から20分の1で、条件も閉じている。国産の基盤モデルのβ版は、2027年6月ごろにオープンソースで出す計画である。AIRoA が強化学習・世界モデル・合成データを使ったという公開情報はなかった。予算205億円という数字は二次情報だけで、NEDO の一次資料では確かめていない ([Japan Physical AI News](https://physicalainews.jp/columns/japan-physical-ai-startups-30))。

**政府は世界モデルを掲げるが、お金が動いているのはデータと大型モデルだ。** AIロボティクス戦略（3月策定、6月30日改訂）は、2040年に国内1,000万台、世界市場60兆円のうち約20兆円を取る目標を立て、国産の基盤モデルと世界モデルの開発を明記した ([ロボスタ](https://robotstart.info/article/2026/07/28/382200.html))。NEDO の基盤モデル事業に採択されたのは、Noetra と産総研の2者だけである ([経産省](https://www.meti.go.jp/press/2026/06/20260630005/20260630005.html))。Noetra はソニーG・ソフトバンク・NEC・ホンダが中核で、物理を理解するモデルは FY2030 の目標に置いている。計算資源（NVIDIA Rubin 約27,500基）の稼働は2028年6月の予定だ ([ソフトバンク](https://www.softbank.jp/en/corp/news/press/sbkk/2026/20260716_01/))。

**企業で模倣学習の先が動いているのは2系統で、どちらも数字を出していない。**

| 会社 | 何をしたか | 段階 | 数字 |
|---|---|---|---|
| トヨタ（未来創生センター） | 人型ロボットで、シミュレーションの強化学習を実機に移した。数千体を並列に動かし、センサーのノイズや床の摩擦を乱した。モーターのモデルを実機の軌跡に合わせ込んだ。歩行とドリブルが実機で成立した ([トヨタ](https://global.toyota/jp/mobility/frontier-research/44105203.html)) | 研究。腕の操作ではなく歩行 | なし（シミュレーションで1〜2時間学習） |
| ソフトバンク×安川電機 | ワイヤーハーネスの箱詰め。実機データ → Cosmos で照明・背景を変えた合成データ → 学習 → Omniverse で評価 → 実機、を自動で回した ([ソフトバンク](https://www.softbank.jp/corp/news/press/sbkk/2026/20260713_01/)) | 実証 | なし |
| 富士通×ファナック・安川電機・川崎重工 | NVIDIA の Cosmos・Isaac・Newton を使う事業検討 ([マイナビ](https://news.mynavi.jp/techplus/article/20260716-4708714/)) | 検討 | なし |
| NEC | 周りの人の位置・姿勢・ストレスを予測する独自の世界モデル ([NEC](https://www.nec.com/en/press/202603/global_20260312_01.html)) | 発表 | なし |
| Mujin | Cosmos を MujinOS（世界で2,000台超が稼働）で使えるか検証 ([LNEWS](https://www.lnews.jp/2026/07/s0716107.html)) | 検証 | なし |
| XELA Robotics、FingerVision | 触覚センサー（XELA の uSkin は3軸の力、分解能0.1 g） ([EE Times Japan](https://eetimes.itmedia.co.jp/ee/articles/2604/06/news026_2.html)) | 販売中 | 値段は非公開 |

広島大の研究者は、SO-101 で VLA を比べた（査読なし）。遠隔操作100本で、π0.5 の平均成功率は 56.25%、途中の失敗から立て直せた割合は **30.77%（8/26）** だった ([批評記事](https://mcobzarenco-fontaine-blog.static.hf.space/papers/so101-vla-benchmark.html))。安いアームの模倣学習が立て直しに弱いことを示す、数少ない数字である。ただし1条件20回なので、±22ポイントほどの誤差がある。

まとめると、日本の現場の実機で強化学習を回した事例は、一次情報では見つからなかった。日本が強いのは機体と現場（HSR、産業用ロボットの台数、MujinOS）で、弱いのはデータの量、データの公開性、自前の基盤モデルの3つである。

## ⑥ 共通して言えること：模倣学習は土台、評価が先、報酬が天井

1つ目に、**どの手法も模倣学習を捨てていない**。PI の Recap は、事前学習 → お手本での追加学習 → 実機の強化学習、の順で積む。HIL-SERL もお手本15本から始める。GraspVLA は実機100本の追加で 80〜90% に上がり、DreamGen は1作業の遠隔操作を土台にする。Ctrl-World は π0.5 を追加学習し、Gemini Robotics 2 も新しい機体には200例未満のお手本で合わせる。強化学習や世界モデルは模倣学習の代わりではない。模倣学習が届かない最後の部分を直す層である。

2つ目に、**対象のロボットの情報は、データか双子のどちらかの形で必ず要る**。Squint は実機のお手本をゼロにしたが、代わりに SO-101 のデジタルツインを使う。Dyna は新しい客先で、現場の学習を足すまで性能が落ちた。V-JEPA 2 もロボットのデータ62時間を使っている。

3つ目に、**評価に使うほうが、学習に使うより確か**。評価では、実機との相関 0.88〜0.94 という照合済みの数字がある。学習に使う側は、WMPO の実機の数字が取れず、DreamGen は NVIDIA 以外での再現がない。新しい物で相関が 0.56 まで落ちるように、評価にも限界はある。それでも、実機で確かめる回数を減らすという用途なら、今日から使える。1X の観察も重要だ。**学習中の誤差の値は、実機の性能と相関しなかった**。学習途中のモデルを誤差で選ぶのではなく、評価で選ぶ必要がある。

4つ目に、**報酬と判定が天井になる**。Dyna の 99.4% 対 75%、ER 2 の進み具合の分類 57.4% が示すように、何を成功と呼ぶかで、強化学習が伸ばすものが決まる。判定が甘いと、数字だけが伸びる。

5つ目に、**大きなモデルは凍結し、小さな部品を学ぶ形にそろってきた**。PI の RL トークン、DSRL、残差強化学習がそうだ。AIRoA も言語の部分を凍結している（ただし模倣学習）。計算と実機の時間を減らすためで、個人の規模に合うのもこの形である。

6つ目に、**接触はまだ穴になっている**。世界モデルも、Real2Render2Real も、Veo の評価器も、力を扱えないと自ら書いている。触覚の研究は伸びているが、査読済みの結果はまだない。

## ⑦ mechArm で個人が手を付けられるもの（推論）

ここからは、ノートの証拠から導いた**推論**である。mechArm で検証した手順ではない。前提は、今の環境（mechArm 270-Pi、上と横の iPhone、手首カメラなし、1.5M 点の FK 表（関節角から手先の位置を引く表）、Unity の双子、Runpod での π0.5 の追加学習、Claude による PICK/PLACE の成否判定）だ。前回の調査で提案した、キーポーズの動かし直しと人の計画の再生は、この順番の前段にあたる。

| 順番 | やること | 費用・時間 | 測るもの | 根拠 |
|---|---|---|---|---|
| 1 | **判定を測る**。台帳の過去の試行から100本ほどを選び、Claude の PICK/PLACE 判定と目視を突き合わせる。さらに体験の質を段階で付ける（置き位置のずれ、動きのガクつき、物を倒したか）。余力があれば Gemini Robotics-ER 2 プレビューを2つ目の判定役として並べる | API の利用料だけ。GPU は不要 | 判定の一致率。特に**判定は成功・目視は失敗**の割合。質の段階ごとの分布 | Dyna の 99.4% 対 75%。ER 2 の進み具合 57.4%。これは強化学習の報酬そのものになる |
| 2 | **Unity の双子で順位を当てる**。学習途中の π0.5 を3〜5個、Unity と実機で同じブロック位置で動かし、成功率の順位が合うかを見る。見た目が合わなければ、iPhone の写真から 3DGS で場面を作る | Runpod の推論時間＋Unity。実機は各条件の確認分だけ | Unity と実機の成功率の相関。外れた条件（新しい物、接触） | 双子の相関 0.90〜0.94、合わせない Isaac は 0.24〜0.65。UCL の Unity＋3DGS。1X の、誤差は性能と相関しないという観察 |
| 3 | **失敗時の手直しを足す**。π0.5 が失敗しかけたら止めて、手で直した回を記録し、前のデータと混ぜて学習する | 人の時間。学習は今の Runpod の手順 | 立て直せた割合（広島大の SO-101 の 30.77% と比べられる） | PI の Recap の修正、前回の順番4 |
| 4 | **小さな補正だけを実機で学ぶ**。π0.5 は凍結し、つかむ直前の手先のずれ（数mm）を画像から出す小さなネットワークを、順番1の判定を報酬に強化学習する。手先のずれは FK 表で関節角に直す | 小さなネットワークの学習。実機の時間は1回あたり数秒×数百回。戻しの手間がいちばん重い | 補正の前と後の成功率（同じブロック位置で、1条件50回以上）。実機の時間、人の介入と戻しの回数、指令角と到達角の差 | PI の RL トークン、DSRL、残差強化学習。LeRobot の説明書は、関節角より手先の小さな動きのほうが学びやすいと書いている |
| 5 | **Unity で短い強化学習**。Squint の乱し方（関節にノイズ、グリッパーの速さ、摩擦、カメラ位置）を Unity に入れ、追加学習なしで実機に移す | Unity の CPU 時間。GPU の並列がないので遅い（推論） | シミュレーションと実機の成功率の差 | Squint。ただし Squint は手首カメラ、mechArm は固定カメラ |
| 後回し | 世界モデル、力・触覚 | 世界モデルは自分のロボットのデータが数十時間と、H100 級の GPU が要る。触覚は値段が不明 | — | V-JEPA 2 の62時間。Cosmos 3 の対応機体に卓上アームはない |

順番1を先頭に置く理由は2つある。今の判定はすでに強化学習の報酬（成功か失敗かの2値）と同じ形をしていて、その正確さが、そのあとのすべての天井になる。もう一つ、何を成功と呼ぶかを決めるのは、エイイチの差別化である**体験の設計**そのものだ。ガクつかない、倒さない、といった体験の質を判定に入れれば、強化学習はその質を伸ばす方向に働く（推論）。

順番4は実機を動かすコードなので、MASTER の手順（設計 → Claude Code の実装 → 外部レビュー → dry-run → 実機）を飛ばせない。補正の範囲は既存の関節ガードの内側に収める。DSRL のコードは π0 用で、π0.5 でそのまま動くかは確かめていない。PI の RL トークンは公開されていない。だから最初は、自前の小さなネットワークで始めるのが現実的だ。mechArm のサーボが負荷の値を返せるなら、それを力の代わりに使える（ForceVLA も外力は推定値）。ただし、返せるかどうかは今回確認していない。

**SO-101 の購入判断に関わること。** SO-101 には既製の道が2本ある。1本目は LeRobot の HIL-SERL で、SO-100/SO-101 に公式対応し、ゲームパッドでの介入、成功判定器、お手本15本の手順がそろっている。2本目は Squint で、SO-101 を ManiSkill3 で強化学習し、RTX 3090 1台・15分以下で実機 91.3% と報告している。さらに広島大の SO-101 の比較（π0.5 で 56.25%）があり、数字を他人と比べられる。どちらの主張も、**第三者が SO-101 で再現した報告は見つからなかった**。自分で再現すれば、それ自体が Mission の再現可能な環境の1件になる。注意点は3つある。HIL-SERL には NVIDIA の GPU が要り、Mac では学習側を動かせない。学習側を遠くのクラウドに置けるかは今回確かめていない。Squint を写すには手首カメラが要る。MASTER の買う前に借りて測るに沿えば、先に Runpod で ManiSkill3 の Squint を動かして時間と GPU メモリを測り、そのあとで SO-101 を買うのが筋になる。SO-101 の値段は今回の調査に含まれていない。

## ⑧ 確認できなかったこと

**PI と海外の会社。** PI の RL トークンの一次のページは開けず、論文番号も成功率も見つからなかった。π*0.6 のグラフの値、自律で動かした時間、コードの公開もない。π0.7 が強化学習を使っているかも分からなかった。Dyna の数字は二次的な wiki 経由で、一次のページでは確かめていない（ナプキンの枚数は出典によって700・800・850枚と食い違う）。Generalist、Covariant と Amazon、Tesla、Figure の強化学習、Field AI、Amazon FAR は一次情報がなかった。

**研究の数字。** HIL-SERL の元論文の数字と掲載誌、ConRFT、PA-RL、SimpleVLA-RL の細かい数字は、調査者の事前知識によるもので、今回確かめ直していない。そのため本文では使っていない。RECALL がどの論文を指すかも特定できなかった。DSRL と Cosmos の必要な GPU メモリ、WMPO と DreamGen の実機の成功率、Ctrl-World の評価の相関係数も取れなかった。Gemini Robotics-ER 2 の料金も分からない。

**安いアームと道具。** LeRobot の HIL-SERL を SO-101 で第三者が再現した報告はなかった。Unity で強化学習して安いアームに移した2025〜2026年の報告もない。趣味用サーボのガタや遅れの乱し方を調べた研究もない。触覚センサー（Digit 360、XELA、AnySkin）の値段と、mechArm 270-Pi のサーボが負荷の値を返せるかも確認できなかった。

**日本。** AIRoA の予算205億円は NEDO の一次資料で確かめていない。FY2026 の中身（複数の機種への拡大）も分からない。GENIAC のロボット基盤モデル2テーマの採択先、Noetra への支援額も確認できなかった。Sony AI、デンソー、日立、松尾研、東大・理研の研究室の学習手法は調べきれていない。

## ⑨ 出典

**実機での強化学習**
- [PI：π*0.6 と Recap](https://pi.website/blog/pistar06)／[PI のブログ一覧](https://www.pi.website/blog)／[PI：Hi Robot](https://www.pi.website/research/hirobot)／[PI：MEM](https://www.pi.website/research/memory)／[PI：API ベータ](https://www.pi.website/blog/api-beta)
- [Humanoids Daily：PI の RL トークン](https://www.humanoidsdaily.com/news/the-last-millimeter-physical-intelligence-unveils-rl-tokens-for-hyper-fast-precision)
- [aiwiki：Dyna Robotics（二次情報）](https://aiwiki.ai/wiki/dyna_robotics/raw)／[Tech Funding News：Dyna の資金調達](https://techfundingnews.com/dyna-robotics-banks-120m-from-nvidia-amazon-to-bring-embodied-ai-to-the-real-world/)／[Sacra：Dyna](https://sacra.com/research/dyna-robotics)
- [Google DeepMind：Gemini Robotics 2](https://deepmind.google/blog/gemini-robotics-2-brings-whole-body-intelligence-to-robots/)／[ER 2 モデルカード](https://deepmind.google/models/model-cards/gemini-robotics-er-2/)／[Gemini API：ER 2](https://ai.google.dev/gemini-api/docs/models/gemini-robotics-er-2-preview)／[Labellerr：Gemini Robotics 2 の数字（二次情報）](https://www.labellerr.com/blog/gemini-robotics-2-google-deepmind/)
- [LeRobot：HIL-SERL の説明書（ミラー）](https://huggingface.co/datasets/paulagb/hackathon-dataset_caramelos/blob/main/docs/source/hilserl.mdx)／[HIL-SERL 論文](https://arxiv.org/abs/2410.21845)
- [DSRL（CoRL 2025）](https://proceedings.mlr.press/v305/wagenmaker25a.html)／[DSRL コード](https://github.com/nakamotoo/dsrl_pi0)
- [RL-100](https://arxiv.org/abs/2510.14830v3)／[SimpleVLA-RL（ICLR 2026）](https://proceedings.iclr.cc/paper_files/paper/2026/hash/cbfbcb4da14235bd69b134070898ae9d-Abstract-Conference.html)

**世界モデル**
- [Veo による Gemini Robotics の方策評価](https://www.alphaxiv.org/overview/2512.10675)／[1X の世界モデル](https://1x.tech/discover/redwood-ai-world-model)／[1X Redwood](https://www.1x.tech/discover/redwood-ai)
- [Ctrl-World](https://arxiv.org/html/2510.10125v3)／[Ctrl-World の掲載（ICLR 2026）](https://mlanthology.org/iclr/2026/guo2026iclr-ctrlworld/)
- [DreamGen](https://arxiv.org/abs/2505.12705)／[NVIDIA：GR00T-Dreams](https://developer.nvidia.com/ko-kr/blog/enhance-robot-learning-with-synthetic-trajectory-data-generated-by-world-foundation-models/)
- [WMPO](https://arxiv.org/html/2511.09515v1)／[WMPO の掲載（ICLR 2026）](https://iclr.cc/virtual/2026/poster/10007263)
- [Meta：V-JEPA 2](https://ai.meta.com/blog/v-jepa-2-world-model-benchmarks/)／[Cosmos Policy](https://arxiv.org/html/2601.16163v1)
- [NVIDIA：Cosmos 3](https://investor.nvidia.com/news/press-release-details/2026/NVIDIA-Launches-Cosmos-3-the-Open-Frontier-Foundation-Model-for-Physical-AI/default.aspx)／[Cosmos3-Nano](https://huggingface.co/NVIDIA/COSMOS3-NANO)／[Cosmos-Predict2.5](https://github.com/nvidia-cosmos/cosmos-predict2.5)
- [The Robot Report：AgiBot Genie Envisioner 2.0](https://www.therobotreport.com/agibot-unveils-genie-envisioner-2-0-advance-world-models-scalable-simulators-embodied-ai/)／[世界モデルの総説](https://arxiv.org/html/2605.00080v1)

**シミュレーションと合成データ**
- [GraspVLA](https://arxiv.org/html/2505.03233v3)／[GraspVLA の掲載（CoRL 2025）](https://mlanthology.org/corl/2025/deng2025corl-graspvla)
- [Real2Render2Real](https://arxiv.org/html/2505.09601v1)／[掲載（CoRL 2025）](https://proceedings.mlr.press/v305/yu25a.html)
- [Squint](https://arxiv.org/pdf/2602.21203)／[NVIDIA の SO-101 用方策](https://huggingface.co/nvidia/so101-reach)
- [NVIDIA：GR00T-Mimic](https://developer.nvidia.com/blog/building-a-synthetic-motion-generation-pipeline-for-humanoid-robot-learning)／[NVIDIA：Skild AI の S1](https://blogs.nvidia.com/blog/skild-ai-s1-physical-ai/)／[Skild の評価額](https://www.advisorperspectives.com/articles/2026/01/14/robotics-skild-ai-valued-above-14-billion-new-funding)
- [3DGS と物理の双子による評価](https://arxiv.org/html/2511.04665v2)／[UCL の Unity と 3DGS の双子](https://arxiv.org/pdf/2601.03200)
- [TechCrunch：Genesis AI](https://www.techcrunch.com/2025/07/01/genesis-ai-launches-with-105m-seed-funding-from-eclipse-khosla-to-build-ai-models-for-robots)／[EqualOcean：Lightwheel](https://www.equalocean.com/news/2026031121786-light-wheel-intelligence-raises-rmb-1b-build-physical-ai-infrastructure)

**考える層と力・触覚**
- [Gemini Robotics-ER 1.5](https://developers.googleblog.com/en/building-the-next-generation-of-physical-agents-with-gemini-robotics-er-15/)／[Gemini Robotics 1.5 技術報告](https://arxiv.org/abs/2510.03342)
- [Figure Helix 02](https://humanoidroboticstechnology.com/industry-news/figure-launches-helix-02/)／[Anthropic：Project Fetch Phase 2](https://www.anthropic.com/research/project-fetch-phase-two)
- [ForceVLA](https://arxiv.org/html/2505.22159v3)／[FuSe](https://arxiv.org/abs/2501.04693v3)
- [GelSight と Meta の Digit 360](https://www.businesswire.com/news/home/20241031980322/en/GelSight-and-Meta-AI-Introduce-Digit-360-Tactile-Sensor/)／[AnySkin](https://www.hackster.io/news/anyskin-senses-a-disturbance-in-the-force-53dff5c38c2f)

**日本**
- [AIRoA：データとモデルの公開](https://airoa.org/updates/20260803/487/)／[AI新聞：AIRoA と中国の比較](https://exawizards.com/column/ai-trend/news-0823-2026/)／[Japan Physical AI News](https://physicalainews.jp/columns/japan-physical-ai-startups-30)
- [ロボスタ：AIロボティクス戦略](https://robotstart.info/article/2026/07/28/382200.html)／[経産省：NEDO 基盤モデル事業の採択](https://www.meti.go.jp/press/2026/06/20260630005/20260630005.html)／[ソフトバンク：Noetra](https://www.softbank.jp/en/corp/news/press/sbkk/2026/20260716_01/)
- [トヨタ：人型ロボットのシミュレーション強化学習](https://global.toyota/jp/mobility/frontier-research/44105203.html)／[ソフトバンク×安川電機](https://www.softbank.jp/corp/news/press/sbkk/2026/20260713_01/)／[マイナビ：富士通の連合](https://news.mynavi.jp/techplus/article/20260716-4708714/)／[NEC の世界モデル](https://www.nec.com/en/press/202603/global_20260312_01.html)／[LNEWS：Mujin](https://www.lnews.jp/2026/07/s0716107.html)
- [EE Times Japan：XELA Robotics](https://eetimes.itmedia.co.jp/ee/articles/2604/06/news026_2.html)／[SO-101 の VLA 比較と批評（広島大の研究）](https://mcobzarenco-fontaine-blog.static.hf.space/papers/so101-vla-benchmark.html)
```

### research_frozen_vla_small_rl_20261027.md（大きなモデルを凍結して小さな部品だけを実機で学ぶ4つの形）

```markdown
# 大きなモデルを凍結し、小さな部品だけを実機で学ぶ方法（π0.5 の上に積む強化学習）

- 調べた日：2026-10-27
- 前の調査：[research_beyond_imitation_learning_20261027.md](research_beyond_imitation_learning_20261027.md) の「A 実機での強化学習」を掘り下げたもの
- 方針：論文の本文・公式のコードのページを開いて確かめた数字だけを書く。PI の RL トークンはニュース記事のみ（一次のページは開けなかった）

---

## ① 要点

1. 凍結するのは、π0.5 のような数十億の重みを持つモデルを実機の上で学び直すのが、重すぎて遅いため。小さな部品なら1秒に数百回更新でき、家庭用の GPU でも学習できる。元のモデルが覚えていることも壊れない
2. 小さな部品を差し込む場所で4つに分かれる。①入口の乱数を選ぶ（DSRL）、②出口に補正を足す（残差強化学習）、③出てきた候補から選ぶ（V-GPS）、④モデルの中身を読む（PI の RL トークン）
3. いちばん確かな実機の数字は DSRL。π0（π0.5 の前の版）を Franka で、トースターのスイッチ 5/20 → 18/20 を80回の試行で、スプーンを皿に 15/20 → 19/20 を65回で。小さな部品の学習は RTX 3070（8GB）1枚で、π0 は別のサーバーで動かした（査読あり、CoRL 2025）
4. 共通の条件：元のモデルが、たまには成功していること。小さな部品は元のモデルの近くしか探せないので、一度も成功しない作業は直せない
5. mechArm では、いまの PICK 補正記憶（ずれを積み重ねて直す仕組み）が、すでに手作りの②にあたる。これをカメラ画像から学ぶ形にしたのが残差強化学習

---

## ② なぜ凍結するのか

- 重さ：π0.5 は約30億の重み。openpi の説明書では、LoRA（重みの一部だけを足して学ぶ方法）でも GPU メモリ 22.5GB 超が要る。強化学習では、1回動かすごとに学び直すので、これでは間に合わない
- 速さ：小さな部品なら1秒に数百回更新できる（PI の RL トークンの記事）
- 忘れない：元のモデルの重みを変えないので、前にできていたことを忘れない（立て直しのお手本だけで学び直すと忘れる、という RECALL の結果の裏返し）
- 置き場所を分けられる：π0.5 はクラウドの GPU、小さな部品は手元の小さな GPU、と分けられる（DSRL は実際にこの形で実験した）

---

## ③ 4つの形

### ① 入口の乱数を選ぶ：DSRL（査読あり、CoRL 2025）

- 仕組み：π0 や π0.5 は、乱数（ノイズ）から少しずつ動きを作る方式（フローマッチング・拡散）。普通は乱数を毎回ランダムに引く。DSRL は小さなネットワークに「どの乱数から始めるか」を選ばせ、うまくいく動きが出る乱数を強化学習で覚える
- 凍結するもの：π0 の重みすべて。π0 の中身に手を入れず、乱数を渡して動きを受け取るだけなので、API 越しのモデルにも使える
- 出る動きは、必ず元のモデルが出しうる動きの範囲に収まる
- 実機の数字

| 実験 | 元のモデル | 前 | 後 | 実機で動かした回数 |
|---|---|---|---|---|
| π0（DROID 版）・Franka・トースターのスイッチ | π0 | 5/20 | 18/20 | 80回（約11,000ステップ） |
| π0（DROID 版）・Franka・スプーンを皿に | π0 | 15/20 | 19/20 | 65回（約10,000ステップ） |
| Franka・キューブをボウルに | お手本10本の拡散方策 | 2/10 | 9/10 | 約40回 |

- 計算：π0 は別のサーバーで動かし、小さな部品（3層・幅1024）は RTX 3070（8GB）で学習
- 比較：同じ条件で、普通の強化学習（RLPD）は 0/10 だった
- コード：π0 用が公開（MIT ライセンス、openpi の特定の版に固定、JAX と CUDA 12）。π0.5 への対応は書かれていない。RLinf（強化学習の枠組み）にも DSRL の例があり、学習する部分は約50万の重み。ただしシミュレーションの例だけ

### ② 出口に補正を足す：残差強化学習（ResFiT など）

- 仕組み：元の方策が出した動きに、小さなネットワークが補正を足す。実際に送る動き＝元の動き＋補正。成功したら1、失敗なら0という報酬だけで学ぶ。学習のたびに、お手本と実機の記録を半分ずつ混ぜる
- 実機の数字（ResFiT、29自由度・5本指の人型ロボット Vega。元の方策は ACT（模倣学習の一種）でお手本約900〜1,000本）

| 作業 | 前 | 後 | 実機の時間 |
|---|---|---|---|
| 毛糸玉をつかんで置く | 14% | 64% | 134回・約15分 |
| 荷物の受け渡し | 23% | 64% | 343回・約76分 |

- 成功・失敗は人が毎回付け、物も人が戻した
- 論文が認める限界：学んだ動きは元の方策の近くにとどまり、まったく違うやり方は見つけられない
- 元のモデルは VLA ではなく ACT。VLA の上に積んだ実機の数字は今回見つからなかった
- 補正は元のモデルの範囲の外にも出られる。アームのずれ（重さで下がる、狙いより手前で止まる）を直すにはこの形が合う。そのぶん、補正の大きさに上限を付ける必要がある

### ③ 出てきた候補から選ぶ：V-GPS（査読あり、CoRL 2024）

- 仕組み：凍結した方策から、同じ場面で動きの候補を何個も出させる。別に学んだ価値関数（その動きをすると最後に成功しそうかを点数にする関数）が、いちばん点の高い候補を選ぶ
- 価値関数は、すでにある記録（成功と失敗）だけで学ぶ。実機で新たに練習しなくてよい
- 実機の数字（WidowX、Octo-small-1.5）：6作業の平均 0.24 → 0.44。同じ価値関数を5種類の方策に使い回せた
- 弱点：毎回、候補を何個も出させるので、動き出すまでの時間が延びる

### ④ モデルの中身を読む：PI の RL トークン（2026-03、会社の発表）

- 仕組み：π0.6 に、モデル内部の状態を短い数字の列にまとめる出口（RL トークン）を足す。それを読む小さな行動役と評価役を、実機の上で学ぶ。行動役は π0.6 の動きを編集する
- 数字：15分の練習で、M3 ネジ締め・結束バンド・LAN ケーブル差し込み・電源コード差し込みの最後の数mmが改善。LAN ケーブルでは人の遠隔操作の中央値より速い。成功率は出ていない
- コード・論文：見つからず。モデル側に出口を足す必要があるので、公開されている π0.5 では今は使えない

---

## ④ 比較表

| 形 | 学ぶもの | 実機での練習 | 元のモデルの外に出られるか | 実機の数字の確かさ | 公開コード | mechArm との相性 |
|---|---|---|---|---|---|---|
| ① 入口の乱数（DSRL） | 乱数を選ぶ小さなネットワーク | 要る（数十〜百回） | 出られない（範囲内で良いものを選ぶ） | 査読あり・π0 で実機 | π0 用あり | 元のモデルがたまに成功する作業なら最有力。π0.5 用への書き換えが要る |
| ② 出口の補正（残差） | 補正を出す小さなネットワーク | 要る（15〜76分） | 出られる | 査読不明・ACT の上 | 一部あり | アームのずれを直すのに合う。いまの PICK 補正記憶の延長 |
| ③ 候補から選ぶ（V-GPS） | 価値関数 | 要らない（記録だけ） | 出られない | 査読あり・Octo で実機 | あり | 台帳の成功・失敗の記録を使える。推論の時間が延びる |
| ④ 中身を読む（RL トークン） | 行動役と評価役 | 要る（15分〜） | 編集の幅による | 会社の発表のみ | なし | 今は使えない |

---

## ⑤ 共通の条件と限界

- 元のモデルがたまには成功していること。DSRL の実験の元の成功率は 20〜75%。小さな部品は元のモデルの近くを探すだけなので、0% の作業は直せない
- 報酬を付ける手間：どれも成功か失敗かを毎回決める必要がある。論文では人が付けている。mechArm では、いまの Claude による PICK/PLACE 判定をそのまま使える。ただし判定が甘いと、甘い方向に伸びる（前の調査の Dyna の 99.4% 対 75%）
- 物を戻す手間：数十〜数百回、ブロックを置き直す人の時間が要る
- まったく新しいやり方は見つからない（ResFiT の著者）

---

## ⑥ mechArm への当てはめ（推論）

1. いまの PICK 補正記憶は、ずれを積み重ねて直す手作りの補正。② の残差強化学習は、これをカメラ画像から学ぶ形にしたものにあたる。補正の範囲・上限の考え方はそのまま使える
2. π0.5 で π0.5 自身を伸ばしたいなら ① の DSRL が最有力。π0.5 も乱数から動きを作る方式なので、乱数を外から渡せるように推論の部分を書き換えれば形は同じになる（ただし π0.5 での実例は未確認）。π0.5 は Runpod、小さな部品は同じ Runpod か手元で学ぶ形が、論文の分け方と同じ
3. 実機の練習なしで試せるのは ③。台帳の成功・失敗の記録から価値関数を学び、π0.5 の候補から選ばせる。効果があれば、練習の前段として使える
4. 始める前に、π0.5 の今の成功率を、決めたブロック位置で20回以上測る。0% に近い作業では、どの形も効かない
5. 比べ方：同じブロック位置で、前と後を各20回以上。練習に使った回数と、人が物を戻した回数・時間も記録する

---

## 出典

- [DSRL（CoRL 2025）論文](https://arxiv.org/pdf/2506.15799)・[PMLR](https://proceedings.mlr.press/v305/wagenmaker25a.html)・[π0 用コード](https://github.com/nakamotoo/dsrl_pi0)・[RLinf の DSRL の例](https://rlinf.readthedocs.io/en/latest/rst_source/examples/embodied/dsrl.html)
- [ResFiT（残差強化学習）論文](https://arxiv.org/html/2509.19301v2)
- [V-GPS（CoRL 2024）論文](https://arxiv.org/html/2410.13816v1)・[PMLR](https://proceedings.mlr.press/v270/nakamoto25a.html)
- [Humanoids Daily：PI の RL トークン](https://www.humanoidsdaily.com/news/the-last-millimeter-physical-intelligence-unveils-rl-tokens-for-hyper-fast-precision)（一次のページ pi.website/research/rlt は開けず）
```


## 対話の中で参照した情報

- [X：Nathan Kau さんの投稿（Dream Robotics）](https://x.com/nathankau/status/2114748894290624684)
- [Dream Robotics 公式サイト](https://dreamrobotics.tech/)
- [Sunday：ロボットのデータなしで学習した基盤モデル](https://www.sunday.ai/journal/no-robot-data)
- [Armstrong Robotics：手持ちの道具のデータで π0.5 を学習した記録](https://armstrongrobotics.substack.com/p/fine-tuning-pi05-with-umi-the-promise)
- [HiFi-UMI（arXiv 2607.25895）](https://arxiv.org/abs/2607.25895)
- [UMI-FT（arXiv 2601.09988）](https://arxiv.org/abs/2601.09988v1)
- [RECALL（arXiv 2606.23617）](https://arxiv.org/abs/2606.23617v1)
- [RoboPaint（arXiv 2602.05325）](https://arxiv.org/html/2602.05325v2/)
- [Physical Intelligence：人からロボットへの移し替え（arXiv 2512.22414）](https://arxiv.org/pdf/2512.22414)
- [Shadow（arXiv 2503.00774）](https://arxiv.org/html/2503.00774v1)
- [Squint（arXiv 2602.21203）](https://arxiv.org/pdf/2602.21203)
- [Ctrl-World（arXiv 2510.10125）](https://arxiv.org/html/2510.10125v3)
- [Veo による Gemini Robotics の方策評価（arXiv 2512.10675）](https://www.alphaxiv.org/overview/2512.10675)
- [DSRL（CoRL 2025）](https://arxiv.org/pdf/2506.15799)・[π0 用のコード](https://github.com/nakamotoo/dsrl_pi0)・[RLinf の DSRL の例](https://rlinf.readthedocs.io/en/latest/rst_source/examples/embodied/dsrl.html)
- [ResFiT：残差強化学習（arXiv 2509.19301）](https://arxiv.org/html/2509.19301v2)
- [V-GPS（CoRL 2024）](https://arxiv.org/html/2410.13816v1)
- [Humanoids Daily：Physical Intelligence の RL トークン](https://www.humanoidsdaily.com/news/the-last-millimeter-physical-intelligence-unveils-rl-tokens-for-hyper-fast-precision)
- そのほかの出典は、各レポートの末尾の出典の一覧にある