「AIが何を見て答えたか」がわかる時代に——ChatGPTの新機能を切り口に、中小企業が今すぐ決めておくべきAI利用ルール3つ

2026-05-07 2026-05-07

phenogen

公開日： 2026年05月07日
カテゴリ： AI導入・活用

経営者の方へ
AIが「どんな情報をもとに答えを出したか」を確認できる時代になり、業務での使い方に説明責任が求められ始めています。
社内ルールがないままAIを使い続けると、情報漏えいや誤答の責任の所在が曖昧になるリスクがあります。
まずChatGPTを開いて「この回答はどこからきた情報ですか？」と入力し、AIがどう答えるかを確認してみてください。

AI推進担当者の方へ
ChatGPTが「回答のもとにした情報」を画面上に表示するようになり、社内でのAI利用の記録・確認がしやすくなってきました。
今月中に「社内でAIを使うときのルール案」を1枚の紙にまとめ、経営者に見せてみてください。
「うちのAI利用状況を説明できる体制がある」ことは、取引先や顧客への信頼につながると伝えると経営層に響きます。

この記事でわかること

「ChatGPTが何を根拠に答えているか、本当に信用していいのか不安」という疑問が解消できる
AIが回答の根拠を見せてくれる新機能が、うちの会社にどう関係するかがわかる
中小企業が今すぐ決めておくべきAI利用ルール3つの中身と設定方法がわかる
「うちはどこから始めればいいか」を自分で判断するための基準が手に入る
今日・今週・今月の3段階でできる具体的なアクションがわかる

まず一言で言うと

要は「AIが答えを出すときに、どのメモや過去のやりとりを参考にしたか、一覧で確認できるようになった」ということです。レシートで買い物の明細を確認するように、AIの回答の「明細」が見えるようになったイメージです。これをきっかけに、社内でのAI利用のルールを整えておくと、安心して業務に使えるようになります。

読む前に確認しておきたい言葉

言葉	一言で言うと	身近な例え
ChatGPT	OpenAIが作った文章対話AIツール	質問するといつでも答えてくれるデジタル社員
記憶機能（メモリ）	AIが過去の会話を覚えておく仕組み	担当者が引き継ぎメモを読んで対応するのと同じ
参照元の可視化（memory sources）	AIが何の情報をもとに答えたかを表示する機能	「この見積もりはどのカタログを参照しました」という根拠開示
説明可能性	AIの判断理由を人が確認できること	税理士が「この控除はこの法令が根拠です」と説明できるのと同じ
AI利用ルール	社内でAIをどう使うかの取り決め	社用車の使用ルールや経費精算規程と同じ位置づけ

なぜ今これが話題になっているのか

2026年5月、ChatGPTというAI対話ツールを提供するOpenAIという会社が、新しい機能を追加しました。

その機能の名前は「memory sources（メモリソース）」。日本語にすると「記憶の参照元」です。

これまでChatGPTは、過去の会話やユーザーが登録したメモを参照して回答していましたが、「どの情報を見て答えたか」はユーザーには見えませんでした。

今回の更新で、AIが回答を作るときに参考にした情報の一覧が画面上に表示されるようになりました。

この変化が中小企業にとって重要なのは、「AIが何を根拠に答えたか確認できる」ことで、業務での使いやすさと安心感が一段階上がったからです。同時に、「AIの使い方をきちんと整理しておこう」という機運が高まっています。

ルール1：「社内の情報をAIに入力するときの線引き」を決める

なぜこのルールが必要か

ChatGPTに業務の質問をするとき、多くの方が気づかないうちに社内情報を入力しています。

たとえば——

「取引先の〇〇社からこんなクレームが来た。どう返事すればいい？」
「社員の〇〇さんがこういう状況なんだが、どう対応すればいい？」
「今月の売上が〇〇万円で、来月の見通しはこうなのだが……」

これらはすべて、社外に出てはいけない情報を含んでいます。

ChatGPTに入力した情報が「学習に使われるかどうか」はプラン設定によって異なります。ただし、どんな設定であっても「社内情報を外部サービスに送った」という事実は変わりません。

実際の線引きの決め方

以下の3段階で考えてみてください。

入力してよい情報（緑）
- 一般的な文章の書き方の相談
- 業界全体の動向についての質問
- 既に公開されている自社のサービス内容に関する質問

慎重に扱う情報（黄）
- 社内の業務フロー・手順
- 一般的な取引条件（社名を伏せた場合）
- 匿名化した顧客の相談内容

入力しない情報（赤）
- 取引先の社名・担当者名・金額
- 社員の個人情報・評価・給与
- 未公開の経営数字・新商品情報
- 契約書・見積書の原文

このルールを1枚のA4用紙にまとめて、AIを使う全社員が見える場所に貼るだけで、大きなリスクを防げます。

詳しくは「なぜかAIの回答がおかしい」を放置しない——中小企業がすぐ始められるAI動作チェック3つのポイントもご覧ください。

ルール2：「AIの回答をそのまま使う場合」と「確認が必要な場合」を区別する

なぜ区別が必要か

今回のChatGPTの新機能で「AIが参照した情報の一覧」が見えるようになりました。これは大きな進歩です。ただし、「根拠が見える＝内容が正しい」ではありません。

AIは自信満々に間違ったことを答えることがあります。これは「ハルシネーション」と呼ばれる現象ですが、難しく考える必要はありません。「物知りだけど、たまに自信たっぷりに嘘をつく人」をイメージしてください。

業種別の判断基準

小売業の例
- そのまま使ってよい：商品説明文の文章チェック、接客マニュアルの言い回し改善
- 必ず確認が必要：商品の成分・法的表示、価格・在庫に関する情報

製造業の例
- そのまま使ってよい：社内向け連絡文書の下書き、作業手順書のわかりやすい言い換え
- 必ず確認が必要：安全基準・法令に関わる数字、製品仕様の記述

士業（税理士・社労士・行政書士など）の例
- そのまま使ってよい：クライアントへの説明文の下書き、ブログ記事の構成案
- 必ず確認が必要：法令の解釈・条文の引用、税率・申告期限などの数字

ルールの作り方

「最終的に人が確認する必要があるかどうか」を基準にして、社内で使う業務を2つに分けてください。

使い方	確認の必要度	確認する人
文章の下書き・言い換え	軽く読み直せばOK	自分で確認
外部に送る文書の作成補助	上長または担当者が確認	責任者が確認
数字・法令・事実が含まれる内容	必ず原典を確認	専門家または担当部署が確認

このルールを決めておくだけで、「AIが間違えたとき誰が責任を取るか」がはっきりします。

ルール3：「誰がどんな目的でAIを使っているか」を把握する仕組みを作る

なぜ把握が必要か

今回のChatGPTの新機能で「AIが何を見て答えたか」が可視化されました。これは「AIの使い方を記録・確認できる時代になった」ことを意味します。

社内でも同じ発想が必要です。「誰が・どんな業務に・AIを使っているか」を把握しておくことで、次の3つのメリットがあります。

うまくいっている使い方を社内で共有できる
問題が起きたとき、原因の特定が早くなる
「うちの会社はAIをこう使っています」と取引先や顧客に説明できる

最小限の把握方法

専用のシステムは必要ありません。以下のような簡単な方法で十分です。

方法A：Googleフォームで月1回アンケート
- 「今月AIを使いましたか？」
- 「どんな業務に使いましたか？」
- 「困ったことはありましたか？」

方法B：社内チャット（LINEやSlackなど）に「AI活用メモ」チャンネルを作る
- 「今日ChatGPTでこんな文書を作った」を気軽に投稿できる場所を作る
- 月1回、担当者がまとめて経営者に報告する

方法C：紙の記録シートを使う
- 日付・使った人・使った業務・使ったツール名の4項目だけ記録する

どの方法でも、月に1回見直すことが大切です。「使っている人がいる業務」が自然に見えてきます。

AIツールの選び方に迷っている場合は、ChatGPT・Gemini・Copilotどれを選ぶ？中小企業がAIツールを選ぶときに最初に確認すべき3つのポイントも参考にしてください。

フィノジェンの見解：今のうちの会社に必要なルールの優先度チェック

「3つのルールはわかった。でも、どれから始めればいいか」という方のために、以下のチェックで優先度を確認してください。

ステップ1：今の状況を確認する

以下の質問に「はい」「いいえ」で答えてください。

質問1　社内でChatGPTなどのAIツールをすでに使っている社員がいる
質問2　AIに何を入力してよいか、社内で話し合ったことがない
質問3　AIの回答をそのまま外部送付の文書に使ったことがある
質問4　誰がAIを使っているか、経営者が把握していない

ステップ2：結果で優先度が決まる

「はい」が3〜4個の方
→ まず「ルール1（入力情報の線引き）」から始めてください。情報管理が最優先です。今週中に「赤・黄・緑」の分類表を作って社内に共有しましょう。

「はい」が1〜2個の方
→ 「ルール2（確認が必要な場合の区別）」から始めてください。使い方のばらつきを整えることで、品質と安心感が上がります。

「はい」が0個の方（まだほとんど使っていない）
→ 「ルール3（把握の仕組み）」を先に作ってください。使い始める前に記録の習慣を作っておくと、後で整理が楽になります。

自己判断チェックリスト（3か月後に確認するもの）

[ ] 「AIに入力してよい情報・してはいけない情報」の一覧が社内にある
[ ] 「AIの回答をそのまま使う場合」と「確認が必要な場合」が社内で共有されている
[ ] 月に1回、誰がどんな業務にAIを使っているかを確認できる仕組みがある

この3つが揃えば、「うちの会社のAI利用は管理されている」と自信を持って言えます。

行動プラン

今週中にできること（お金ゼロ・1時間以内）
- ChatGPTを開いて「あなたが今持っている私の情報を教えてください」と入力し、どんな情報が記録されているか確認してみる
- 社内の誰か1人に「うちでAIを使うときのルール、何か気になることある？」と聞いてみる

今月中にできること
- 「赤・黄・緑」の入力情報分類表をA4一枚で作り、AIを使っている社員全員に共有する
- 「AIの回答確認フロー」を決め、社内チャットかメールで周知する

3か月後の理想像
「誰がAIを使っているか」が月1回のアンケートで確認できるようになり、問題が起きたときの対応が迷わずできる状態になっています。外部に出る文書にAIを使ったときも「誰が確認したか」が記録に残るため、品質トラブルへの対応が週2〜3時間分楽になっているはずです。

よくある不安・疑問

Q1. ルールを作るのは難しそう。専門家に頼まないといけない？
大丈夫です。今日ご紹介した3つのルールは、A4用紙1〜2枚にまとめられる内容です。まず「社内で話し合って決める」という姿勢が大切で、法律の専門家が必要になるのはもっと規模が大きくなってからです。今は「社内の取り決め」として作れば十分です。

Q2. ルール整備にコストはかかる？
今すぐできる範囲では、お金はかかりません。Googleフォームは無料で使えますし、分類表はExcelかWordで作れます。専用のAI管理ツールは、社員10人以上で本格運用を始めてから検討してください。

Q3. ルールを作っても、社員が守ってくれなかったら意味がない？
ルールは「禁止事項の羅列」にすると守られにくくなります。「こう使うと業務が楽になる」という活用例とセットで伝えると、自然に浸透します。まず1人でも実践している人の「うまくいった話」を社内で共有することから始めてください。

Q4. うちは製造業で、AIは事務仕事向けだと思っていた
製造業こそ、AIが力を発揮できる場面があります。たとえば、取引先への報告書の下書き、作業手順書のわかりやすい言い換え、クレーム対応文書の作成などです。現場の作業そのものに使わなくても、「書く仕事」はどの業種にもあります。

「指示するだけで調査・資料作成まで完了」エージェントAI「Manus」を試してわかった、中小企業での活用シーン3選では、製造業・サービス業での具体的な活用例も紹介しています。

Q5. ChatGPTとGeminiどちらでこのルールを使えばいい？
今回ご紹介したルールは、特定のツールに依存しません。ChatGPTでも、Googleが提供するGeminiというAI対話ツールでも、同じルールが使えます。まず今使っているツールにそのまま当てはめてください。ツールの選び方に迷っている場合は、iOS 27はAIモデルを自分で選べる——「ChatGPT・Gemini・Claudeどれが本業に合う？」を今から考えておくべき理由も参考になります。

参考文献

OpenAI、ChatGPTの標準モデルをGPT-5.5 Instantへ刷新　"記憶の参照元"も可視化 - https://www.itmedia.co.jp/aiplus/articles/2605/06/news022.html
Anthropic、SpaceXと大型契約　22万基超GPUでClaudeの利用制限を緩和 - https://www.itmedia.co.jp/news/articles/2605/07/news048.html
AIは民主主義の"情報インターフェース"になる　MIT Technology Reviewが設計課題を提起 - https://www.technologyreview.com/2026/05/05/1136843/ai-democracy-blueprint/
AnthropicのManaged Agentsに"dream"機能 - https://arstechnica.com/ai/2026/05/anthropics-claude-can-now-dream-sort-of/
経済産業省「AI事業者ガイドライン」 - https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html
個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」 - https://www.ppc.go.jp/news/careful_information/ai_use/
総務省「AI利活用ガイドライン」 - https://www.soumu.go.jp/main_content/000647589.pdf
IPA（情報処理推進機構）「中小企業における情報セキュリティ対策ガイドライン」 - https://www.ipa.go.jp/security/guide/sme/ug65p90000019cbk-att/000055520.pdf