AIを使わない方がいい業務

AI活用の相談では、何に使うかを検討する時間は多く取られますが、何に使わないかを決める時間はほとんど取られません。しかし、実務で損失につながりやすいのは、向かない業務にAIを当ててしまったときです。

本記事では、AIを使わないほうがよい業務の類型を挙げ、それぞれ代わりに何を使うべきかを整理します。使いどころの話よりも、こちらのほうが判断に効きます。

正解が一意に決まる処理

最も明確に向かないのは、入力に対して正解が一つに決まる処理です。

消費税の計算、在庫数の増減、割引率の適用、締め日での集計、コード体系による分類。これらは計算式や対応表で正確に答えが出ます。従来のプログラムなら、同じ入力には常に同じ答えを返し、速度も一定で、追加の費用もかかりません。

ここにAIを使うと、三つの点で劣ります。答えが揺れる可能性が残ること、処理のたびに費用がかかること、そして間違いに気づきにくいことです。特に三つ目が厄介で、計算式のプログラムなら誤りは全件で同じように出て発見されますが、AIの誤りは一部の入力でだけ起き、正しい結果に紛れます。

判断の目安は単純です。「この業務の答えを、一枚の対応表か一つの計算式で書けるか」。書けるなら、書いたほうがよいものです。

ただし、境界部分にはAIの出番があります。たとえば「請求書の画像から金額の文字を読み取る」のは揺れのある処理で、読み取った後の「税額を計算する」のは一意の処理です。前者にAIを使い、後者は計算式で行う。この分担が適切な形です。

監査や説明責任の対象になる判断

二つ目は、判断の根拠を外部に説明しなければならない業務です。

与信の可否、採用の合否、保険の支払い判定、懲戒の判断、補助金の申請可否の審査。これらに共通するのは、「なぜその結論になったのか」を後から第三者に説明する義務が生じうるという点です。

生成AIの出力は、同じ入力でも表現が変わり、なぜその結論になったかを完全にたどることができません。「AIがそう判断したため」は、監査や紛争の場では説明として成立しません。判断そのものをAIに委ねると、説明責任を果たす手段を失います。

さらに、属性による不利益な取り扱いが生じていないかを検証する必要がある領域では、検証の手段自体が必要になります。この検証を設計せずに導入すると、後から問題が判明したときに遡っての説明ができません。

この類型で使えるのは、判断そのものではなく、判断の材料を揃える工程です。提出書類から確認すべき項目を抜き出す、過去の類似案件を探す、記載の不備を指摘する。いずれも最終判断は人が行い、その根拠は人が説明できる形で残ります。

件数が少ない業務

三つ目は、見落とされやすい類型です。年間の処理件数が少ない業務は、AIを使う前提で何かを作る対象になりません。

月に数件しか発生しない申請の処理、年に一度の集計、四半期に一度の報告書の作成。こうした業務は、一件あたりの手間が大きくても、年間の総量は限られます。一方、作ったものは件数に関係なく保守が必要です。AIサービスの仕様変更、業務の変更、担当者の交代のたびに手を入れることになり、技術的負債として残ります。

判断の目安として、次の問いを立ててください。

• 年間の処理件数は何件か
• 一件あたり何分かかっているか
• 掛け合わせた年間の総時間は、作る費用と毎年の保守の手間に見合うか

多くの場合、「既製のAIツールを担当者が手作業で使う」で十分です。作らずに使うのであれば、件数が少なくても損はしません。作るかどうかの分かれ目はAIツール導入と自社開発の分かれ目で扱っています。

誤りの影響が取り返せない業務

もう一つ、件数や性質に関わらず避けるべき条件があります。誤りが出たときに取り返せない業務です。

外部への送信が確定してしまう処理、金銭の移動が伴う処理、削除や上書きが元に戻せない処理。こうした工程にAIの出力を直接つなぐと、誤りがそのまま結果になります。

この場合も、完全に排除する必要はありません。人が確認する工程を必ず挟めばよいのです。ただし、その確認が形骸化しないかは設計で決まります。全件を確認する前提なのに、画面が「確認」ボタンを押すだけの作りになっていれば、数日で押すだけの作業になります。確認の工程を設けるなら、確認者が実際に中身を読まざるを得ない形にする必要があります。

想定例：ある企業が、取引先への通知メールをAIで下書きし、担当者が確認して送信する仕組みを作った場面を考えます。当初は担当者が全文を読んでいましたが、精度が高いことが分かると次第に流し読みになり、数か月後に宛先の取り違えを含む通知が送られました。この企業は、送信前に「宛先」と「金額」だけを別画面で入力し直す形に変更しました。確認を促す文言ではなく、確認せざるを得ない手順に変えたことが対策になっています。

向き不向きの一覧

ここまでを整理すると、次の形になります。

この表の上四行に該当する業務を最初の対象から外すだけで、AI活用の成功率は上がります。逆に、この四つに該当しない業務が社内に一つも見当たらないなら、現時点ではAI活用を急ぐ段階ではない可能性があります。その場合は自社のAI活用の準備度を測るの観点を先に確認してください。

やらない判断も記録に残す

向かないと判断した業務については、その理由を短く記録しておくことをおすすめします。半年後に担当者が代わったとき、同じ検討を一から繰り返すことを防げます。また、AIサービスの性能や費用は変わっていくため、「件数が少ないから作らない」という判断は、件数が増えた時点で見直す対象になります。記録があれば、見直しの条件も明確になります。

弊社のAI活用開発では、ご相談の内容がAIで解くべき課題かどうかを最初に確認し、効果が薄いと判断した場合はその旨をお伝えしています。作らない提案をすることもあります。判断の段階からご相談いただけますので、お問い合わせからご連絡ください。オンラインで全国に対応しており、ご相談・お見積りは無料です。

なお、本記事は監査や個人情報の取り扱いに関わる論点を含みます。一般的な情報として参考にしていただき、個別の事案は専門家・所管官庁にご確認ください。