AIの出力に責任を持つのは、常にそれを採用した人です。誰がどこを見るかを決めていないと、誰も見ていない状態が生まれます。
1. 出力の行き先を分類する
確認の厳しさは、出力がどこへ行くかで決まります。社内の下書きとして人が必ず手を入れるものと、顧客の画面にそのまま表示されるものでは、必要な確認が違います。機能ごとに行き先を分類し、確認の水準を変えます。すべてを同じ厳しさで確認しようとすると運用が続かず、結果として全体が緩みます。
2. 確認する観点を言葉にする
「なんとなく変」では、担当が替わったときに基準が引き継がれません。確認する観点を、その場で判断できる短い言葉にしておきます。業務によって観点は変わりますが、多くの場合、事実・体裁・安全の三つに整理できます。
- 事実: 書かれている内容が元の資料と一致しているか。存在しない数字や固有名詞が混ざっていないか
- 体裁: 宛先・敬称・文体が自社の基準に合っているか
- 安全: 出してはいけない情報が含まれていないか。断定してはいけないことを断定していないか
- 抜け: 伝えるべきことが省略されていないか(要約では特に起きやすい)
3. 見本と不合格例を用意する
基準は、文章で説明するより実物を見せたほうが早く伝わります。合格の見本を5件、不合格の例を5件そろえ、不合格のほうには「なぜ不合格か」を一行で添えます。この20行ほどの資料が、新しい担当者への引き継ぎと、AIへの指示文の改善の両方に使えます。
- 合格の見本を5件(実際に採用した出力)
- 不合格の例を5件と、その理由を一行ずつ
- 判断に迷った例と、そのときどう決めたか
- 見本を更新する頻度と、更新する担当
4. 誰が責任を持つかを決める
AIが出した内容であっても、それを世に出した責任は提供する側にあります。機能ごとに、出力を採用する担当と、基準そのものを決める担当を明記します。担当が決まっていれば、判断に迷ったときの相談先もはっきりします。
- この機能の出力を採用する判断をするのは誰か
- 確認の基準を決め、見直すのは誰か
- 問題が起きたときに、機能を止める判断をするのは誰か
- 担当が不在のとき、誰が代わりを務めるか
5. 確認を全件にするか、抜き取りにするか
全件確認は確実ですが、件数が増えると続きません。抜き取りは軽い一方、見逃しが出ます。運用開始直後は全件で始め、一定期間の結果を見て抜き取りに移す進め方が、負担と安全のバランスを取りやすい方法です。移行の条件も先に決めておきます。
- 開始から何件(または何週間)は全件確認とするか
- 抜き取りに移る条件(例: 直近100件で修正が必要だったのが数件以内)
- 抜き取りの割合と頻度(例: 週に20件を確認)
- 問題が続いた場合に全件確認へ戻す条件
6. 記録の残し方を決める
確認したことを記録していないと、品質が上がっているのか下がっているのかが分かりません。重い仕組みは不要で、修正が必要だったかどうかと、その理由を残せば十分です。この記録が、指示文の改善材料と、経営判断の材料の両方になります。
- いつ・誰が・何件確認したか
- そのうち修正が必要だったのは何件か
- 修正の理由の分類(事実の誤り、体裁、抜け など)
- 記録を振り返る頻度(例: 月に1回、担当者で見直す)
7. 利用者への伝え方を決める
顧客に届く出力については、AIが関わっていることを伝えるかどうかを決めます。伝えることで期待値が調整でき、間違いがあった場合の説明もしやすくなります。表示する文言と、間違いを見つけた利用者がどこへ連絡できるかを、あわせて決めておきます。なお、表示義務や広告表現の扱いは事業の分野によって異なります。本資料は一般的な情報であり、個別の事案は専門家にご確認ください。
- AIが生成した内容であることを表示するか。する場合の文言
- 利用者が間違いを指摘できる導線があるか
- 指摘を受けたときの対応手順と、対応の期限
- 分野固有の規制(広告、医療、金融 など)に該当しないかを確認したか
関連するインサイト
- 生成AIを開発工程に組み込む — 品質を落とさず速く安く作る実務設計書の下書き、コード生成とレビュー、テスト生成、既存コードの解析、ドキュメント整備での生成AIの使いどころと、人がレビューする原則、顧客データや秘密情報の扱い、向く作業と向かない作業を整理します。
- スタートアップのセキュリティと個人情報保護 — 最低限の実務スタートアップが最低限押さえたいセキュリティと個人情報保護の実務を、アカウント管理や秘密情報の扱い、個人情報の取得と削除、CI/CDへの検査組み込み、インシデント初動、生成AI利用の注意まで整理します。
- UXリサーチの基本手法 — インタビュー・ユーザビリティテスト・分析ユーザーが本当に困っていることを知るための基本手法を整理します。インタビューの設計と誘導の避け方、ユーザビリティテストの観察、定量分析との組み合わせ、ペルソナの使い方、小規模チームでの現実的な進め方まで解説します。
関連するサービス
監修: フィリット・コンサルティング株式会社公開