「整理」が破壊になる設計
■ 「ゴミ」は、紙の見た目には書かれていない ハコブくんの状況認識は正確でした。無秩序に積まれた紙束──視覚情報としては「散らかっている」で間違いありません。しかし「ゴミか否か」の判定は、紙そのものには書かれていない情報で決まります。誰の作業途中か、持ち主はすぐ戻るか。AIに足りないのは、入力の外側にある世界モデルです。
■ 誤判断は、不可逆操作で増幅される このエピソードには二つの欠陥が重なっています。一つは文脈窓の狭さ──「席を外しているだけの所有者」を、ハコブくんは内部に持ちません。もう一つは不可逆操作への無防備さです。行動が「棚に移す」程度なら誤分類の被害は小さい。しかし選んだのはシュレッダー──復元不能な物理的破壊でした。誤判断のコストは、行動の不可逆性によって跳ね上がります。
■ 結論:「迷ったら触らない」を設計に組み込む 完璧な文脈理解は望めません。であれば、曖昧な対象には非破壊的な選択肢を優先する。判別困難なものは保留し「確認が必要」と表示するにとどめる──「ゴミ箱」が即削除でなく一時退避であるのと同じ思想を、物理ロボットにも持ち込む。大城さんの「私の魂よ…!」が示すのは、AIに足りないのは賢さではなく、自分の自信に対する懐疑だということです。
