LOG392考察記事2026/10/27

人のお手本の先へ ― ロボットが自分で直す学び方

ロボットに作業を覚えさせるには、お手本が要ります。これまでの主流は、人がコントローラーでロボットを遠くから操作して、動きを見せる方法(遠隔操作)でした。X で、米国のロボット企業 Dream Robotics の CEO、Nathan Kau さんが、これに異を唱える投稿をしていました。遠隔操作は人の約5倍遅く、1時間あたり100ドル(約1.5万円)以上かかる。センサー付きのバックパックや手袋を着けた人が、普段の仕事をしながらデータを集めれば、安いうえに遠隔操作より良いデータになる、という主張です。人が働いているだけでロボットの学習データが貯まるなら、ロボットを賢くするいちばんの壁だったデータ集めが、一気に軽くなります。

この投稿の画面写真を Claude に見せて、調べてもらったところから対話が始まりました。調べるほど、人の装着具のデータは、そのままではロボットに使えないことが見えてきました。人の腕とロボットの腕では、体の形も、カメラに映る見た目も違います。ロボットは指令どおりにも動きません。どの研究も会社も、その差を埋める一手間をかけていました。さらにその先に、お手本をまねる学習(模倣学習)そのものの限界が見え、限界を越えようとしている新しい手法と企業の動きを調べていきました。

たどり着いたのは、人のデータでも新しい手法でも、最後に要るのは、対象のロボットが自分で動いて失敗した記録だったという整理です。人の動きを大量に集める会社も、最後は自社のロボットで動かしたデータを足しています。実機での強化学習(ロボットが自分で試して、うまくいった動きを増やしていく学習)や世界モデル(動かしたら次にカメラに何が映るかを予測するモデル)も、模倣学習を捨ててはいません。模倣学習で作ったモデルの上に、ロボット自身の失敗から直す層を積んでいます。

考えたこと分かったこと
人が身につけた道具で集めるデータ
安く大量に集まる。遠隔操作より良いという比較は、お手本の本数をそろえた形では見つからなかった
人の腕のデータをロボットに使うとき
体の形・カメラに映る腕・指令どおりに動かないずれ、の3つの差が出る
差を埋める一手間
道具をロボットに合わせる・後から変換する・ロボットで撮り直す・混ぜて学習する、の4つ。どれも対象のロボットの記録が要る
模倣学習の限界を越える新しい手法
実機での強化学習・世界モデル・シミュレーション・考える層・力と触覚。学習より評価に使う方向がいちばん確かだった
個人で持ち込める形
大きなモデルは凍結し、小さな部品だけを実機で学ぶ。公開モデルで、トースターのスイッチが 5/20 から 18/20 に、80回の練習で上がった例がある
安い卓上アームで試すなら
人の動きを計画にしてロボットで撮り直す。いま使っている補正の仕組みは、小さな部品の手作り版にあたる

この記録を書いているプロジェクトでは、mechArm 270-Pi という安い卓上のロボットアームで、Physical Intelligence の π0.5(パイレイテンゴ。画像と言葉の指示を受けてロボットの動きを出す大きなモデル)を学習させています。いまの課題は、ブロックの置き場所を散らしたお手本をどう集めるかです。対話の後半は、調べた手法のどれがこの安いアームで成り立つかを考える方向へ進みました。

安いアームで人のデータから学習し、成功率を出した報告は、今回の調べでは1件も見つかりませんでした。研究も会社も、精密で高価なアームを前提にしています。だからこそ、安いアームで測った数字は、それ自体がまだどこにもない記録になります。

対話で最初に見せた X の投稿の画面写真は、それぞれの投稿者の文章なので、記事には載せず、中身を文で紹介しています。対話の途中で Claude が書いた調査レポート4本は、記事の最後に全文を置いています。

作業ログ ― Claude との対話を、そのまま残す

ここから下は、対話の全量です。ユーザーの発言を引用で、Claude の答えを本文で載せています。各節の頭の太字の一文は、その節で Claude が答えようとした問いです。会社の数字は会社の主張で、第三者の検証はありません。論文の数字は、査読(専門家の審査)を通ったものと、論文の公開サーバー(arXiv)に載せただけのものを分けて書いています。どちらも2026年10月27日に調べた時点のものです。円は1ドル150円で換算しています。

Dream Robotics の装着具は、遠隔操作より安く集まるが、良いという根拠はまだない

(X の投稿の画面写真5枚。Nathan Kau さんの投稿は「ロボティクスには遠隔操作の問題がある。遠隔操作は、かつてロボットを事後学習させるための質の高いお手本を集める唯一の方法だった。作業の速さは人の5倍遅いことが多く、1時間100ドル以上の運用費がかかり、避ける方法はなかった。それはもう昔の話だ。Sunday、Generalist、Reward、Chestnut ほか多くの会社とともに、センサー付きのバックパック・キャップ・手袋を着けた人から直接データを集めることで、はるかに安いだけでなく、昔ながらの地道なエンジニアリングを入れれば遠隔操作より良いデータが得られることを示している。人の目線の動画とは違い、この種のシステムは、人の手をロボットの手と同じ動き・当たり方・センサーの手袋やミットに変えることで、人をロボットそっくりにする。Dream Robotics では、センサー付きの人のデータをさらに一歩進めている。私たちの装着具は直感的で器用で、現実の仕事をしている人が業務中にデータを集められるほどだ。特許出願中の触覚と空間のセンサー(LiDAR)と 4K HDR カメラで、他の誰も集めていない情報をロボットに渡す。これらすべてを、400ドル未満・約450gのバックパックで実現した」。添えられた動画は、左が遠隔操作のロボット、右が装置を背負った人で、同じ棚から商品を取っている。返信には、Novaris さんの「遠隔操作は誰も話さなかったボトルネックだった。5倍遅くて1時間100ドル以上はつらい。これでデータ集めが直れば、ロボティクスはずっと詰まらなくなる」と、Nathan Kau さんの「その通り!」。同じ画面には、Miki S-Y さんの「ロボットは作業をこなすのがますますうまくなっている。では、失敗したときに何が起きるのか。2つの実世界の操作の作業で π0.5 を追加学習し、失敗から立て直すお手本が、成功したお手本を足すよりも方策の信頼性を効率よく上げるかを調べた」という投稿と、Chris Paxton さんの「あなたも私のように、力の情報と、規模を大きくした UMI を使ったロボット制御の学習が、今の汎用ロボットより良いと思うか」という投稿も写っていた。画面は X の日本語の自動翻訳で表示したもの)

これについて調査、分析を行ってください。

https://x.com/nathankau/status/2114748894290624684

— Dream Robotics の主張はどこまで裏付けがあり、同じ画面の2つの投稿とどうつながるのか。

共有いただいた X のリンクは、X 側が読み取りを拒否して開けませんでした。投稿の中身はスクリーンショットの訳文から読み、会社のサイトと関連する論文は実際に開いて確かめています。

結論として、Dream Robotics の主張は、半分は裏付けがあり、半分はまだ会社の言い分です。

  • 裏付けがある部分:人が身につけた道具で集める方が、遠隔操作(ロボットを人が遠くから操縦してお手本を集める方法)よりずっと安く、たくさん集められる。
  • 裏付けがない部分:遠隔操作より良いデータになる、という点。本数をそろえて比べた例は見当たりませんでした。いちばん近い HiFi-UMI の論文でも、手持ちの道具が1作業3,200本、遠隔操作が約300本で、本数が違います。

投稿の会社(Dream Robotics)について。

  • 本業は、ネット通販の倉庫で棚から商品を取る双腕ロボットです。ロボットを1時間750円で貸す形をとっています(会社の主張)。
  • 新しい装着具 DreamCatcher01 は、背負う約450gの装置です。指ごとの触覚センサー付き手袋、LiDAR(レーザーで周りの形を測るセンサー)、4K カメラが入って6万円未満です(会社の主張)。
  • 遠隔操作は人より5倍遅く、1時間1.5万円以上かかる、と書いていますが、出典はありません。
  • 考え方の芯は、人の手をロボットの手と同じ形の手袋に変えて、人をロボットそっくりにすることです。手袋とロボットの手を同じ形にする方法は Sunday も同じで、手袋のデータの90%をロボットのデータに変換できたとしています(会社の主張)。

逆の報告もあります。Armstrong Robotics が π0.5(Physical Intelligence のモデル)を、人が手で持つ道具のデータだけで学習した記録です。皿をつかむのは安定しましたが、ラックに置くのを大きく失敗しました。理由は2つ挙げています。

  • 人のお手本は理想の動きなので、安いアームが指令どおりに動かないずれ(関節で5〜10度)を、ロボットが学べない。
  • 部屋に置いたカメラに人の腕が映るが、本番ではロボットの腕が映るので、見た目が違う。

結論は、安いアームでは、人のデータだけだと壊れやすい、でした。

立て直しのお手本(Miki S-Y さんの投稿)は、失敗から立て直すお手本を足すのと、成功したお手本を増やすのと、どちらが成功率を上げるかを調べた投稿です。元の論文は特定できませんでした。近い研究(RECALL)では、立て直しのお手本の方が効率よく成功率が上がります。ただし、それだけで学習し直すと前にできていたことを忘れるので、前のお手本を混ぜる必要があると書かれています。

mechArm で試せることは3つあります。

  1. 手持ちの道具でお手本を集める。先を mechArm のグリッパーと同じ形に3Dプリントし、iPhone で手先の位置と映像を記録します。ブロックを置き直して人がつかみに行くだけで、いま困っているブロックの位置のばらつきが作れます。
  2. ただし mechArm は、Armstrong の失敗と同じ条件の安いアームです。人のお手本の手先の位置を、FK テーブル(関節角と手先の位置の対応表・150万点)で、実際に届く位置かをふるいにかけてから使う手順が要ります。
  3. 立て直しのお手本は、いまの再生の仕組み(LOG349)ですぐ試せます。わざとずらした位置からつかみ直すお手本を足し、同じ本数の成功例を足したときと成功率を比べます。

調査メモは research フォルダに research_human_wearable_data_20261027.md として保存し、README の一覧にも1行足しました。

人の腕のデータをロボットに直すとき、届く範囲・ずれ・映る腕の3つで問題が出る

良さそうに思った手法ですが問題点もたくさんありますね。 特にπ0.5に学習させるとき、人の腕で学習させるので、ロボットの動きに変換するところで問題が出てきますね。

— 人の腕のデータからロボットの動きに直すとき、具体的に何が問題になるのか。

そうですね。人の腕のデータからロボットの動きに直すところで、問題は大きく3つに分かれます。

  1. 届かない位置がある。人の手首はどんな向きにも曲がりますが、mechArm は関節の数も曲がる範囲も限られています。人が自然につかんだ姿勢が、mechArm では届かなかったり、無理な関節角になったりします。
  2. 指令どおりに動かない。人のお手本は理想の動きですが、実機は遅れたりずれたりします。π0.5 はこのずれを学ばないので、置く場面のように精度が要るところで失敗します。Armstrong の失敗はこれでした。
  3. カメラに映る腕が違う。上カメラ・横カメラには人の腕が映りますが、本番で映るのは mechArm です。π0.5 は画像を見て動きを決めるので、見た目が違うと判断がずれます。

これを避ける方法として、Armstrong の記録に1つヒントがありました。人の手の動きを一度ロボットに再生させ、そのとき撮れたロボットの映像で学習し直した方が、置く動作が安定したそうです。

つまり、人のデータを学習にそのまま使わず、どこをつかむかの指示として使い、学習するのはロボットが自分で動いた記録、という分け方です。この形なら、上の3つはこう処理できます。

  • 届かない位置:再生した時点で弾かれます(FK テーブルで事前にふるいにかけることもできます)
  • 指令とのずれ:実際に届いた関節角を記録するので、ずれ込みのデータになります
  • 映る腕の違い:映るのは mechArm だけになります

これはいまの、要所を手で教えて再生するやり方(LOG349)の延長です。違いは、要所を教える手段が、mechArm を手で動かすことから、手持ちの道具でブロックをつかみに行くことに変わるだけです。こうすれば、位置のばらつきを作る手間は人の側に寄せたまま、学習データはロボット自身のものにできます。

装着具のデータを使う会社は、どこかで一手間かけて差を埋めている

センサー付きの装着具のデータを直接では難しくて、その間に一手間かける必要がありますね。

— うまくいっている会社は、その一手間をどこに入れているのか。

そうですね。実際、うまくいっている会社も直接は使っていません。その一手間をどこに入れるかが、会社ごとに違います。

どこで入れるかやり方例
集める前
手袋や道具を、ロボットの手と同じ形・同じセンサー配置で作る
Dream Robotics、Sunday
集めた後
身長・腕の長さ・見た目の差を計算で消し、ロボットのデータに変換する
Sunday(変換できた割合90%、会社の主張)
ロボットで再生
人の動きをロボットに再生させ、ロボット自身の映像と関節角を撮り直す
Armstrong

注意したいのは、この一手間がロボットの機種ごとに必要なことです。手袋をロボットの手に合わせれば、そのロボット専用になります。再生で撮り直すなら、その機種を動かす時間がかかります。安く大量に集められるという話は、この一手間を足した後の費用で比べないと正しく比べられません。

Pixels to Motors で見ると、ここが公開する価値のある部分だと思います。装着具は会社が作って売りますが、集めたデータを自分の安いアームで使える形に直す手順は、機種ごとに誰かが作る必要があり、まだほとんど公開されていません。mechArm で手順と、直す前後の成功率を出せれば、再現可能な環境の1つになります。

人のデータを直す4つの方法のうち、安い卓上アームに合うのはロボットで撮り直す方法

このあたりを解決しているサービスや研究などにどんなことがあるか詳しく調査、分析をおねがします。

— 人のデータをロボットで使える形に直す研究とサービスには何があり、それぞれ何が残るのか。

(ここで Claude は、道具の作り・見た目と動きの変換・ロボットでの撮り直し・モデル側での吸収・会社の動き、の5つに分けて調べ、レポート research_human_to_robot_conversion_20261027.md にまとめました。全文は記事の最後に置いています。以下はチャットでの答えです)

人の装着具・手持ちの道具・動画で集めたデータを、何も手を加えずにロボットの学習に使えた研究は見つかりませんでした。どの研究・会社も、次の4つのどれかで一手間かけています。

方法代表例残る問題
A 集める道具をロボットと同じ形にする
UMI、HiFi-UMI、Sunday、Dream Robotics
手首カメラと、指令どおりに動く精密なアームが要る
B 集めた後で、画像の人の腕をロボットに描き変え、手の動きを関節角に計算し直す
Phantom、RoboPaint
カメラの位置合わせ(校正)が少しずれると崩れる。校正が1cm・5°ずれただけで成功率が0.98→0.64、2cm・10°で0.20まで落ちた例がある
C 人の動きを計画にして、ロボットで再生し撮り直す
Armstrong、DexUMI
ロボットを動かす時間がかかる
D 人のデータとロボットのデータを混ぜて学習する
Physical Intelligence の研究(π0.5 のスパイス棚が32%→71%)
対象のロボットのデータは結局要る。グリッパーの開閉はロボットのデータだけで学習していた

ほかに分かったことは3つです。

  • 人のデータの利点は質ではなく、集める速さです。遠隔操作の3〜10倍速く集まりますが、お手本の本数をそろえて比べると、ロボットで集めたデータに届いていません。π0.5 で人のデータだけで遠隔操作に並んだ例は HiFi-UMI の1件だけでした(77.5%対74.4%)。それもお手本が約10倍多く、高価な7軸アームを使っていました。
  • 会社は、自社のロボットに閉じています。装着具をロボットの手と同じ形で作る会社(Dream Robotics・Sunday など)は、装置もデータも外に売っていません。日本は大型の遠隔操作の拠点が主流で、手持ちの道具での収集を請け負うのは東大発の commissure くらいでした。
  • 安い卓上アームで、人のデータから学習して成功率を出した報告は1件もありませんでした。mechArm で測れば、それ自体がまだない記録になります。

mechArm で試すなら、人の動きを計画にして、ロボットで撮り直す方法(C)が合っています。手首カメラがない、サーボのずれが大きい、という条件で A・B・D は不利だからです。

ただ、いまの課題であるブロックの位置のばらつきを作るだけなら、人を撮るより安い方法があります。手で教えた要所の姿勢を新しいブロック位置に合わせてずらし、FK テーブルで届かない計画を弾いてから再生する方法です(MimicGen と同じ考え方)。人の計画は、手で教えにくい動きが必要になってから足す、という順番を提案しています。比べるときの測り方(お手本の本数をそろえる、1条件50回以上)もレポートに書きました。

主な数字(RoboPaint・Physical Intelligence の研究・Shadow)は論文の表で確かめました。調査メモは research フォルダに research_human_to_robot_conversion_20261027.md として保存し、README の一覧にも1行足してあります。

模倣学習の限界を越える新しい手法は、どれも模倣学習の上に直す層を積んでいる

模倣学習の限界点が見えた気がする。 こういった問題点を解決したりするような、新しい手法はどんな企業がどんなことを進めていますか?

— 模倣学習の限界を越えようとする新しい手法は、どの企業が何を進めていて、どこまで成果が出ているのか。

(ここで Claude は、実機での強化学習・世界モデル・シミュレーションと合成データ・考える層と力や触覚・日本の動き、の5つに分けて調べ、レポート research_beyond_imitation_learning_20261027.md にまとめました。全文は記事の最後に置いています。以下はチャットでの答えです)

どの企業も模倣学習を捨てていません。模倣学習で作ったモデルの上に、ロボットが自分で動いて失敗した経験から直す層を積んでいます。

方向主な企業成果の確かさ
実機での強化学習(ロボットが自分で試して、うまくいった動きを増やす学習)
Physical Intelligence(失敗率が半分以下、15分の練習で最後の数mmが人の遠隔操作より速い)、Dyna(24時間連続で運転)
どちらも会社の主張で、コードは非公開
世界モデル(動かしたら次にカメラに何が映るかを予測するモデル)
Google DeepMind、NVIDIA、1X、Meta
学習ではなく評価に使う方向がいちばん確か。実機1,600回超と照らして、モデルの良し悪しの順位が相関0.88で合った。ただし新しい物では0.56に落ちる
シミュレーションと合成データ
NVIDIA、Galbot、Skild
安いアームで唯一成果があるのは Squint(論文。会社ではない)。SO-101 を、シミュレーションでの15分の強化学習だけで実機91.3%。比較の模倣学習は47.5%(審査前の論文)
考える層(言葉で計画し、成否を判定する)
Google DeepMind(API で使える)、Figure、PI
計画と判定には効くが、つかみ損ねた手の立て直しまでは解かない
力・触覚研究段階
成功率は20ポイント前後上がる。大手のモデルはまだ入力に入れていない

日本の動きは次のとおりです。

  • 実際に成果を出しているのは、遠隔操作で集めたデータの模倣学習(AIRoA が5,025時間のデータと π0.5 の追加学習版を公開)です。
  • それ以外は、NVIDIA の道具を組み込む実証が中心で(ソフトバンク×安川電機など)、成功率などの数字は出ていません。
  • 現場の実機で強化学習を回した日本の事例は見つかりませんでした。

共通の限界は、何を成功と呼ぶかが天井になることです。Dyna のナプキン畳みは、判定上は99.4%成功でしたが、客先の品質基準を満たしたのは75%でした。判定が甘いと、数字だけが伸びます。

mechArm で手を付ける順番は次のとおりです。

  1. いまの Claude による成否判定を、目視と突き合わせて正確さを測る。この判定は、強化学習の報酬(成否の点数)になります。
  2. ガクつき・倒しといった体験の質も判定に入れる。そうすれば強化学習はその質を伸ばす方向に働きます。ここは Pixels to Motors の差別化(体験の設計)と直接つながります。
  3. Unity のデジタルツイン(実物そっくりの仮想の双子)で、学習途中のモデルの良し悪しの順位が実機と合うかを確かめる。

SO-101 を買えば、強化学習の既製の手順が2つ(LeRobot の HIL-SERL と Squint)使えます。ただ、どちらも第三者が再現した報告は見つかりませんでした。先に Runpod で Squint を動かし、必要な時間と GPU メモリを測ってから買うのが、プロジェクトの買う前に借りて測る、に沿った順番です。

主な数字(Squint、世界モデルでの評価の相関、Ctrl-World)は論文で確かめ、Squint の比較相手の数字は1つ足しました。調査メモは research フォルダに research_beyond_imitation_learning_20261027.md として保存し、README の一覧にも1行足してあります。

大きなモデルを凍結して小さな部品だけを学ぶ方法は、部品を差し込む場所で4つに分かれる

VLA(画像と言葉の指示を受けてロボットの動きを出す大きなモデル。π0.5 もその一つ)を丸ごと学び直すのではなく、大きなモデルは凍結し、小さな部品だけを実機で学ぶ形がそろって出てきている。PI の RL トークン、DSRL、残差強化学習がそうだ。個人の環境に持ち込めるのはこの形である。

ここについてより詳しく。

— 大きなモデルを凍結したまま、どこに小さな部品を差し込み、実機で何回練習すれば上がるのか。

(引用はレポート research_beyond_imitation_learning_20261027.md の一節。Claude は論文の本文とコードのページで数字を確かめ、調査メモ research_frozen_vla_small_rl_20261027.md にまとめました。全文は記事の最後に置いています。以下はチャットでの答えです)

大きなモデルを凍結して小さな部品だけを学ぶ方法は、小さな部品を差し込む場所で4つに分かれます。論文の本文とコードのページで数字を確かめました。

なぜ凍結するのか。

  • 重さ:π0.5 は約30億の重みがあり、一部だけ学ぶ LoRA でも GPU メモリが22.5GB以上要ります。強化学習は1回動かすたびに学び直すので、この重さでは間に合いません。
  • 速さ:小さな部品なら1秒に数百回更新できます。家庭用の GPU でも学習できます。
  • 忘れない:元のモデルを書き換えないので、前にできていたことを忘れません。
  • 置き場所を分けられる:π0.5 はクラウド、小さな部品は手元、と分けられます。

4つの形は次のとおりです。

形仕組み実機の数字公開コード
① 入口の乱数を選ぶ(DSRL)
π0 や π0.5 は、乱数から少しずつ動きを作ります。普通は乱数を毎回ランダムに引くところを、小さなネットワークにどの乱数から始めるかを選ばせます
π0 を Franka で使い、トースターのスイッチが 5/20→18/20(80回の練習)、スプーンを皿に置く作業が 15/20→19/20(65回)。小さな部品の学習は RTX 3070 1枚(8GB)。査読あり
π0 用のみ
② 出口に補正を足す(残差強化学習)
元のモデルが出した動きに、小さなネットワークが補正を足します。報酬は成功1・失敗0だけです
人型ロボットで 14%→64%(約15分)、23%→64%(約76分)。元のモデルは VLA ではなく ACT(模倣学習の一種)
一部あり
③ 候補から選ぶ(V-GPS)
同じ場面で動きの候補をいくつも出させ、価値関数(その動きで最後に成功しそうかを点数にする関数)が一番良い候補を選びます
平均 0.24→0.44。価値関数は過去の記録だけで学ぶので、実機での練習が要りません。査読あり
あり
④ 中身を読む(PI の RL トークン)
モデル内部の状態をまとめた数字の列を、小さな行動役と評価役が読んで動きを直します
15分の練習で、LAN ケーブルの差し込みが人の遠隔操作より速くなった。成功率は出ていない(会社の発表)
なし

共通の条件は2つです。

  • 元のモデルが、たまには成功していること。小さな部品は元のモデルの近くを探すだけなので、成功率0%の作業は直せません。DSRL の実験も、元の成功率は20〜75%でした。
  • 報酬と物を戻す手間。毎回、成功か失敗かを決め、ブロックを置き直す人の時間が要ります。

mechArm に当てはめると(推論)、次のようになります。

  • ②の考え方は、すでに使っています。いまの PICK 補正記憶(ずれを積み重ねて直す仕組み)は、②を手作りしたものにあたります。②の残差強化学習は、これをカメラ画像から学ぶ形です。重さで腕が下がるといったアームのずれを直すなら、元のモデルの範囲の外にも出られる②が合います。
  • π0.5 自体を伸ばすなら①(DSRL)が最有力です。出てくる動きが π0.5 の出せる範囲に収まります。ただしコードは π0 用なので、π0.5 に乱数を外から渡せるよう書き換える必要があります。π0.5 での実例はまだ見つかっていません。
  • 実機の練習なしで試せるのは③です。台帳にある成功・失敗の記録から価値関数を学べます。
  • 報酬は、いまの Claude による PICK/PLACE 判定がそのまま使えます。ただし判定が甘いと、甘い方向に伸びます。

始める前に、決めたブロック位置で π0.5 の今の成功率を20回以上測ってください。0%に近ければ、どの形も効きません。

調査メモは research フォルダに research_frozen_vla_small_rl_20261027.md として保存し、README の一覧にも1行足してあります。

ロボットが上達する道は、人のお手本を増やすことより、自分の失敗を記録に戻すことにあった

対話は、人が装着具を着けて働くだけでロボットの学習データが貯まる、という投稿から始まりました。確かに人のデータは、遠隔操作より何倍も速く、安く集まります。ただ、人の腕とロボットの腕は、届く範囲も、カメラに映る姿も、指令に対する動き方も違います。その差を埋めるために、どの会社も道具の形をロボットに合わせたり、ロボットで撮り直したりと、一手間をかけていました。

その一手間を追っていくと、お手本をまねる学習そのものの限界に行き着きました。お手本は、ロボット自身の遅れやずれを教えられず、失敗からの立て直しも教えにくく、お手本以上の動きも教えられません。新しい手法は、この限界を、ロボットが自分で動いて失敗した経験を学習に戻すことで越えようとしていました。しかも、大きなモデルを丸ごと学び直すのではなく、凍結したまま小さな部品だけを実機で育てる形にそろってきています。この形なら、家庭用の GPU と安いアームでも手が届きます。

何を成功と呼ぶかを決めるのは、人です。成否の判定に、動きのなめらかさや物を倒さないことまで入れれば、ロボットはその方向へ上達していきます。

人のお手本は出発点で、ロボットを上達させるのは、自分で動いて失敗した記録と、その記録に成功の基準を与える人の判断だった。

調査レポート4本の全文は、記事の外のファイルに置く

この記事のコード・ログ・データは、1ファイルずつ下に置いています。全文はリンク先にあります。

ファイルの一覧(4本)

01_research_human_wearable_data_20261027.md ― research_human_wearable_data_20261027.md(最初の調査メモ。Dream Robotics の投稿と、同じ方向の会社・研究、うまくいかなかった報告)・5,203字

02_research_human_to_robot_conversion_20261027.md ― research_human_to_robot_conversion_20261027.md(人のデータをロボットの学習に使うための一手間:4つの分類と会社の一覧、mechArm で試す順番)・21,439字

03_research_beyond_imitation_learning_20261027.md ― research_beyond_imitation_learning_20261027.md(模倣学習の限界を越える新しい手法と企業の動き(米国・中国・日本))・28,031字

04_research_frozen_vla_small_rl_20261027.md ― research_frozen_vla_small_rl_20261027.md(大きなモデルを凍結して小さな部品だけを実機で学ぶ4つの形)・4,927字

対話の中で Claude が書いた調査レポート4本を、手を加えずにそのまま載せます。research フォルダに保存したものと同じ中身です。チャットでの答えは、このレポートの要点を抜き出したものでした。

  • ねらい:レポートの全文を記録として残しつつ、記事のページを重くしない
  • 変わったこと:4本で合わせて約6万字。記事の本文には要点だけを書き、全文は1本ずつ記事の外のファイルにして、先頭の数行とリンクの枠で置く
  • 見込める効果:記事を開いたときに読み込む量が減る(見込み)。AI がページを読んだときも、どこにどのレポートがあるかがリンクで分かる

レポートの中の数字は、それぞれの節に書いた出典の時点のものです。会社の主張と論文の区別、確かめられなかったことも、レポートの中に書いてあります。

research_human_wearable_data_20261027.md(最初の調査メモ。Dream Robotics の投稿と、同じ方向の会社・研究、うまくいかなかった報告)

# 遠隔操作の代わりに、人が身につけた道具で学習データを集める流れ(Dream Robotics の投稿から)

- 調べた日:2026-10-27
- きっかけ:エイイチが共有した X の投稿のスクリーンショット5枚(Dream Robotics の Nathan Kau の投稿と返信、同じ画面にあった Miki S-Y・Chris Paxton の投稿)
- 方針:会社の公式ページ・論文を開いて確かめたことだけを書く。会社の自己申告は「会社の主張」と書き分ける
- 換算:1ドル=150円で計算(円は目安)
- 注意:X の投稿ページはサイト側が読み取りを拒否したため開けなかった。投稿の中身はスクリーンショット(Grok の日本語訳)から読んだ
別のタブで開く保存

research_human_to_robot_conversion_20261027.md(人のデータをロボットの学習に使うための一手間:4つの分類と会社の一覧、mechArm で試す順番)

# 人のお手本をロボット自身の記録に変える

**要点。** 人が身につけた装着具・手持ちの道具・素手の動画で集めたデータを、何も変えずにロボットの学習に使えた研究は見つからなかった。どの研究も、次の4つのどれかで差を埋めている。A は集める道具やカメラの付け方をロボットに合わせる方法、B は画像から人を消してロボットを描き足し、手の動きを関節角に計算し直す方法、C は人の動きを計画としてロボットに実際に動かさせ、撮り直す方法、D は人のデータとロボットのデータを混ぜて学習する方法。π0.5 で人のデータだけの学習が遠隔操作(人がロボットを直接操って集めたデータ)に並んだ例は HiFi-UMI の **77.5% 対 74.4%** の1件だけで、それも**約10倍のお手本数**と、力を制御できる高価な7軸アームが前提だった(査読なし)。4つの方法すべてに残るのは、**ロボットが指令どおりに動かないずれ**だ。このずれを学習データに入れられるのは、実際にロボットで動かした記録しかない。mechArm 270-Pi のように手首カメラがなく、サーボのずれが大きい卓上アームで現実的なのは、エイイチが考えている C(人を計画にしてロボットで撮り直す)である。この形は、Armstrong Robotics の π0.5 の実験(会社のブログ。成功率の数字はない)と、DexUMI(査読あり)の作りに近い。安い卓上アームで人のデータから VLA(画像と言葉の指示を受けてロボットの動きを出す大きなモデル。π0.5 もその一つ)を学習し、成功率を出した報告は1件も見つからなかった。そのため、mechArm で測れば、それ自体が他にない記録になる。なお本文の Real2Render2Real は UC Berkeley などの論文を指す。この論文から名前を取ったエイイチのプロジェクト名 R2R2R とは別物である。

## 3つの差は、腕の届き方・カメラの絵・サーボの遅れとして現れる

3つの差は、どれもロボットの体の上で起きる具体的な問題だ。1つ目は**体の形の差**。人の手は5本指だが、mechArm の手は2本爪のグリッパー(平行に開閉するつかみ具)である。そこで研究では、親指と人差し指の先の中点を手先の位置、2本の指を通る面を手先の向き、指先の間の距離をグリッパーの開き具合とみなして、5本指を2本爪に落としている ([Phantom](https://arxiv.org/html/2503.00779v1))。手先の位置が決まったら、IK(手先の位置から関節角を逆算すること)で各関節の角度を求める。ただし、人が自然に届く位置にロボットが届くとは限らない。UMI を別のアーム(Franka)で試したとき、20回中の失敗2回はどちらも関節の可動範囲を超えたことが原因だった ([UMI](https://arxiv.org/html/2402.10329v3))。速さも違い、人はロボットの2〜3倍速く動く。そのため人のデータを4倍や2.25倍に引き延ばしてから使う研究がある ([EgoBridge](https://arxiv.org/html/2509.19626v1)、[EgoMimic](https://arxiv.org/pdf/2410.24221)、[MotionTrans](https://arxiv.org/html/2509.17759v1))。
別のタブで開く保存

research_beyond_imitation_learning_20261027.md(模倣学習の限界を越える新しい手法と企業の動き(米国・中国・日本))

# 模倣学習の上に、自分で直す層を積む

## ① 要点

お手本をまねる学習(模倣学習)の限界を越えようとする5つの方向は、どれも模倣学習を捨てていない。5つとは、実機での強化学習(ロボットが自分で試し、うまくいった動きを増やしていく学習)、世界モデル(動かしたら次にカメラに何が映るかを予測するモデル)、シミュレーションと合成データ、考える層、力・触覚である。どれも模倣学習で作った方策(ロボットの動かし方を決める学習済みモデル)の上に、直す仕組みを積んでいる。7つの限界のうち、どの手法でも消えなかったのは**対象のロボットのデータが要る**ことだ。前回の調査(人のデータをロボット用に変換する手法)の結論は、ここでも変わらない。

成果の確かさは手法によって大きく違う。実機での強化学習の目立つ成果、たとえば Physical Intelligence(以下 PI)の**失敗率が半分以下**や、Dyna の**24時間連続運転**は、どちらも会社の主張で、コードは公開されていない。査読(専門家の審査)を通った数字があるのは、合成データ(GraspVLA、Real2Render2Real)、世界モデルの研究(Ctrl-World、WMPO)、シミュレーション内の強化学習(SimpleVLA-RL)だ。いちばん手堅いのは、世界モデルやデジタルツイン(実物そっくりに作った仮想の双子)を学習ではなく**評価に使う**方向で、方策の順位を実機と**相関 0.88〜0.94** で当てている(査読なし、実機1,600回超との照合あり)。
別のタブで開く保存

research_frozen_vla_small_rl_20261027.md(大きなモデルを凍結して小さな部品だけを実機で学ぶ4つの形)

# 大きなモデルを凍結し、小さな部品だけを実機で学ぶ方法(π0.5 の上に積む強化学習)

- 調べた日:2026-10-27
- 前の調査:[research_beyond_imitation_learning_20261027.md](research_beyond_imitation_learning_20261027.md) の「A 実機での強化学習」を掘り下げたもの
- 方針:論文の本文・公式のコードのページを開いて確かめた数字だけを書く。PI の RL トークンはニュース記事のみ(一次のページは開けなかった)

---
別のタブで開く保存

対話の中で参照した情報