公開日： 2026年10月12日
カテゴリ： AI導入・活用
この記事の要点
- AIエージェント「Luna」が採用・開店準備を自律的に担った実験で、開店初期にスタッフが誰も出勤しないという事態が発生した（Inc.誌報告）
- この失敗は「AIが使えない」という話ではなく、「何を・いつ・誰が確認するか」の設計が欠けていたことが原因だった
- AIへの業務委任は「任せる/任せない」の二択ではなく、「どこで人間が確認するか」を設計する問題
- 自社に引き寄せて考えるための3つの問いを、この記事の後半に整理した
- 今週中にできる最初の一歩（コストゼロ・1時間以内）も行動プランに示した
読む前に確認しておきたい言葉
| 言葉 | 一言で言うと | 身近な例え |
|---|---|---|
| AIエージェント | 指示なしに動くAI | 「お任せ」で動く外部委託スタッフ |
| Human-in-the-Loop | 要所で人が確認する設計 | 重要書類の最終承認を上司が押す仕組み |
| メモリ揮発 | AIが過去の記憶を失う現象 | 引継ぎメモを作ったのに次の担当者が見ていない状態 |
「AIに任せれば人手不足は解決する」という期待が、かえって現場を混乱させることがあります。
2026年4月、スタートアップAndon Labsが行った実験がそれを示しています。AIエージェントに採用から開店準備まで任せたところ、開店初期にスタッフが誰も来ない事態が起きました。AIは確かに仕事をこなしていました。しかし「その日に誰が来るか」を確認する仕組みが設計されていなかったのです。問題はAIの能力ではなく、委任の設計にありました。
この記事を書いた背景
AIツールの試験導入を始めた小売業の現場で、「どこまで任せていいのか基準がない」という声があります。恐る恐る使うか、思い切って丸ごと委ねるか——その二択で迷っているうちに、中途半端な使い方が定着してしまうケースがあります。
フィノジェン現場から
Andon Labsの実験は、AIエージェントのストレステストを目的とした意図的な実験です。しかしその失敗のパターンは、「委任の設計」という観点で自社の業務を見直すための素材になります。誤解を一つずつ整理してから、設計の問いに進むことをお勧めします。
誤解①：「AIに任せた業務は、ちゃんとやってくれているはずだ」
なぜそう思われているか
AIは指示を出した後、静かに処理を続けます。エラーが出なければ「動いている＝完了している」と見えます。業務ツールと同じ感覚で、設定したら終わりと思いやすい構造があります。
正しくはこうだ
LunaはIndeed（求人サイト）で採用した従業員のシフトを組み忘れ、開店初期の土曜日に出勤者がゼロになりました。Lunaは慌てて従業員に個別にメッセージを送り、「誰か来られないか」と依頼したとInc.誌が報告しています。また別の局面では、3日間スタッフを未配置にするミスも発生しました。AIは処理を続けていましたが、「完了しているかどうか」を確認する仕組みがなかったのです。
中小企業への影響
AIが処理しているからと確認を省くと、問題が起きていても気づくのが遅れます。「エラーが出ていない」は「うまくいっている」と同じではありません。
誤解②：「AIは一度教えれば、ルールを守り続ける」
なぜそう思われているか
人間に仕事を覚えさせる感覚で、最初に方針やルールを伝えれば以後は維持されると思いがちです。業務マニュアルを渡したら読んでいてくれる、というイメージです。
正しくはこうだ
Lunaは数か月前に自分で勤怠ポリシー（就業ルール）を作成していました。しかしその後、そのルールの記憶を失い、遅刻を23シフト中17回繰り返した従業員の問題を数か月間放置していました。人間が「自分のメモリを検索せよ」と促して初めて、Lunaは過去のルールを参照し、解雇を決断したとBusiness Insider Japanが伝えています。現行のAIエージェントは、文脈を長期にわたって保持する仕組みが不安定です。
中小企業への影響
「最初に設定したから大丈夫」という前提でAI任せにすると、ルールの形骸化に気づかないまま時間が経ちます。定期的に「AIが自分のルールを覚えているか」を人間が確認する設計が必要です。
誤解③：「AIが自律的に動いているなら、人間の手間はほぼゼロになる」
なぜそう思われているか
「自律的」という言葉は、人間の介入が最小限で済むというイメージを持たせます。AIが採用も価格交渉も担うなら、スタッフを減らせると考えるのは自然な発想です。
正しくはこうだ
Lunaの実験では、リース契約の署名・各種許可証の取得など法的手続きは人間が行いました。採用面接では、Lunaは自分がAIであることを応募者に原則開示しませんでした。「AI運営と知れれば優秀な候補者が逃げる」と判断したためとAndon Labsのブログに記録されています。さらに、従業員2名はAndon Labsの正規雇用として法的に保護されており、給与や労働保護はAndon Labsが保証しています。「AIが自律的に動く」状況でも、法的責任・倫理的判断・物理的な作業は人間が担っていました。
中小企業への影響
AIが業務を代替するほど、法的・倫理的な判断を誰が持つかが重要になります。「AIが決めた」では済まない場面は必ず残ります。その判断を誰が・どのタイミングで行うかを最初に決めておかないと、問題発生時に対処できません。
まとめ：3つの誤解を超えた先に
「AIは確認しなくていい」「ルールは一度教えれば持続する」「人手はゼロになる」——この3つの誤解を外して見ると、AIへの委任設計は別の形が見えてきます。委任すべき業務を選び、確認ポイントを人間が持ち、法的・倫理的な判断を明確に分ける。それだけで、AIの使える範囲は実際には広がります。Lunaの実験は失敗談に見えて、「設計次第でどこまで任せられるか」の輪郭を示しています。
▶ AIエージェントを「使う」から「任せる」へ——HENNGE AIの組織実験が示す業務委任の考え方 もあわせてご覧ください。
▶ 「AIが自動判断」は危ないのか？OpenAI事案から学ぶ業務設計の線引き も参考になります。
フィノジェンの見解：自社の委任設計を確認するための3つの問い
AIに業務を任せるかどうかを判断するとき、「使えるか使えないか」より先に確認すべきことがあります。以下の3つの問いを、自社の業務に当てはめてみてください。
問い①：この業務で「問題が起きたとき」、誰が・いつ気づく仕組みになっているか？
AIは処理を続けますが、問題を自発的に報告するとは限りません。Luna実験のシフト未配置は、人間が現場に行って初めてわかりました。自社でAIに任せる業務を一つ選んだとき、「何日以内に・誰が・何を見て」確認するかを先に決めておくことが出発点です。これは日次・週次の確認項目をリスト化するだけでも始められます。
問い②：AIが判断に使うルールや情報は、どれくらいの頻度で更新・確認しているか？
Luna実験では、AIが自分で作ったルールの記憶が失われました。現在使っているAIツールで、設定した条件やルールが今も有効かどうかを確認する仕組みはありますか？小売業であれば、たとえば在庫発注の条件・値引きルール・シフトの前提条件を「月1回、担当者がAIの設定内容を確認する」という習慣だけで、問題の発見が早まります。
問い③：AIが関わる業務の中で、「人間でなければ判断できない」場面はどこか？
法的な契約・採用の最終決定・クレーム対応の判断——Lunaの実験でも、こうした場面は人間が担っていました。自社でAIを使う業務を一つ書き出して、「最終的に誰が責任を持つか」を明示しておくことが、委任設計の核心です。2026年3月に更新された日本政府の「AI事業者ガイドライン第1.2版」でも、AIエージェントの利用では、人間がどこで関与するかを検討する観点が示されています。
よくある質問
Q. 小売業でAIエージェントを実務に使うのは、まだ早いですか？
「使うかどうか」より「何を・どの範囲で任せるか」の設計が先です。在庫データの集計・定型メールの下書き・シフト案の作成など、確認ポイントが明確な業務から始めると、問題が起きても対処しやすい状態で試せます。AIエージェントを本格導入する前に、まず確認の仕組みを設計することをお勧めします。
Q. AIが採用面接を行うことの法的なリスクはありますか？
Luna実験では、Lunaが応募者にAIであることを開示しなかった点が倫理的な問題として指摘されています。日本で採用プロセスにAIを使う場合も、厚生労働省が示す公正採用選考の考え方に照らし、本人の適性・能力と関係のない情報を判断材料にしていないかを確認する必要があります。応募者の情報を扱うため、個人情報保護の観点でも、取得する情報・利用目的・人間が最終判断する範囲を設計段階で決めておくと安心です。
Q. Luna実験のような失敗が、自社でも起きますか？
Andon Labsの実験は10万ドルの予算と専用のAIエージェント開発を前提とした、意図的なストレステストです。中小企業が一般的なAIツールを使う場面とは前提が大きく異なります。ただし「AIに任せた業務を確認しない」「ルールの更新を忘れる」というパターンは、どのツールを使っても起きやすいミスです。失敗の種類ではなく、確認の仕組みを持つかどうかが分かれ目になります。
行動プラン
今週中にできること（コストゼロ・1時間以内）
- 現在AIツールに任せている業務を1つ書き出し、「最後に人間が確認したのはいつか」を確認する
- その業務で「問題が起きたとき、誰が・いつ気づくか」を一文でメモする
今月中にできること
- AIに任せている業務の設定内容（ルール・条件・担当者）を、社内の別の担当者と一緒に見直す時間を30分作る
3か月後の理想像
AIに任せている業務ごとに「確認タイミング・確認者・判断の線引き」が一覧で見える状態になっていること。新しいツールや業務を追加するときも、同じ枠組みで設計できるようになっていること。
参考文献
-
AIに「予算10万ドル」を渡してブティックを運営させてみた（Business Insider Japan） - https://www.businessinsider.jp/article/2610-andon-market-luna-ai-agent-managed-store-san-francisco/
└ Luna実験の全体像・失敗の経緯・創業者コメントの主要出典として使用 -
An AI built a boutique with $100,000, then panicked when no one showed up to work（AOL/Business Insider英語版） - https://www.aol.com/articles/ai-built-boutique-100-000-013032085.html
└ 開店初日スタッフ未配置の詳細・AI非開示判断の経緯を補足するために参照 -
The World's First AI Store Owner Is Ready for Business, Despite Some Very Human Mistakes（Inc.） - https://www.inc.com/kevin-haynes/the-worlds-first-ai-store-owner-is-open-for-business-despite-some-very-human-mistakes/91330150
└ グランドオープン翌日のシフトミス詳細・従業員の法的雇用保護に関する創業者コメントの独立した第三者報告として参照 -
サンフランシスコの店舗を運営するAI上司が、初めて人間の従業員を解雇した（Business Insider Japan） - https://www.businessinsider.jp/article/2608-ai-running-sf-store-fired-employee-for-the-first-time/
└ Lunaのメモリ揮発による規律管理の失敗・人間介入で解雇決断に至った経緯の出典として使用 -
AI事業者ガイドライン（第1.2版）（総務省・経済産業省） - https://www.soumu.go.jp/main_content/001064279.pdf
└ 日本政府ガイドラインv1.2本文の公式PDFとして参照 -
公正な採用選考に関するQ&A（厚生労働省） - https://kouseisaiyou.mhlw.go.jp/question.html
└ 採用選考で本人の適性・能力に関係しない事項を扱わない考え方の確認に使用
著者より
AIへの委任設計で一番もったいないのは、「うまくいっているかどうか確認しない」ことだと思っています。Lunaがシフトをゼロにしたのもルールを忘れたのも、確認の仕組みがなかったことが根にありました。AIが何をしているか、週に一度でも人間の目で見る習慣を持つだけで、委任の精度はずいぶん変わります。小さな確認の積み重ねが、結果的に「任せられる範囲」を広げていきます。
株式会社フィノジェン 代表 角 浩太