AI活用と個人情報保護

自社サービスにAIの機能を足すとき、多くの場合は利用者のデータをAIサービスに送ることになります。問い合わせの本文、プロフィールの記述、投稿内容。そこには個人情報が含まれることがあります。

このとき必要な検討を「同意を取ればよい」で済ませてしまうと、後から整理が必要になります。ここでは論点の並べ方を一般論として示します。判断が必要な場面では、契約内容と処理の実態を添えて専門家にご確認ください。

まず一覧を作る

検討の出発点は、法令の条文ではなく自社の処理の把握です。

追加する機能で、どの画面に入力された、どの項目が、どのサービスに送られるのか。これを一覧にします。氏名、メールアドレス、電話番号のような分かりやすい項目だけでなく、自由記述欄も対象です。自由記述には何が書かれるか分からないため、実質的に個人情報を含みうるものとして扱うのが安全です。

一覧ができると、判断が具体的になります。「AIに個人情報を送ってよいか」という問いは答えにくいのですが、「問い合わせフォームの本文欄の内容を、要約のために外部サービスへ送ってよいか」という問いなら検討できます。

想定例として、既存のサービスに「投稿内容の自動タグ付け」を足す場面を考えます。投稿本文を送るだけなら影響は限定的ですが、精度を上げるために投稿者のプロフィールも一緒に送る設計にすると、扱う範囲が広がります。一覧を作る段階でこの違いに気づけば、設計を選び直せます。

委託か提供かという整理

個人データを外部に渡す場合、一般的には委託として整理される場合と、第三者提供として整理される場合があります。どちらにあたるかで必要な手続きが変わります。

大まかな考え方として、自社の利用目的の範囲内で処理を任せているなら委託として整理されることが多く、その場合は委託先を適切に監督することが求められます。一方、送り先がそのデータを自社の目的で利用できる条件になっているなら、整理が変わってきます。

したがって、確認すべきは送り先のサービスの規約です。入力内容を学習に使う条件になっていないか、提供者側の目的で利用されないか。この確認は利用規約で見る点と重なります。規約の確認が、そのまま法令面の整理の材料になります。

処理される国も確認します。データが国外で処理される場合、追加の対応が必要になることがあります。APIの接続先がどこにあるかは規約や技術資料に書かれているので、設計の段階で確認しておきます。

なお、ここに書いたのは考え方の枠組みであり、実際の分類は個別の事情によって変わります。事業の中心に関わる判断であれば、必ず専門家の確認を受けてください。

利用目的と説明の書き方

同意の話に入る前に、利用目的の記載を見直します。既存のサービスにAI機能を足す場合、以前に定めた利用目的では新しい処理が読み取れないことがあります。

記載を直すときの要点は、正確さです。「サービスの改善のため」といった広い書き方は、書いた側には便利ですが、利用者には何が起きるか伝わりません。「お問い合わせの内容を、回答案の作成のために外部の処理サービスへ送信します」のように、実際の処理が想像できる粒度で書くほうが、後から説明を求められたときに困りません。

プライバシーポリシーの記載と実態の一致も確認します。よくあるのは、ポリシーには外部送信について書いていないのに機能だけ先に入っている状態です。この不一致は、技術的な問題ではなく説明の問題として扱われます。機能を出す前に、記載の更新を工程に含めてください。

同意を取るかどうかは、整理の結果として決まります。同意を取ること自体が目的になると、同意画面は増えるのに実態の整理は進まない、という状態になりがちです。

開示や削除の求めへの備え

利用者から自分のデータについて問い合わせが来たときに答えられる構造かを確認します。

具体的には、ある利用者のデータがAIサービスにも送られている場合、削除の求めに対して自社の保管分だけ消せばよいのか、送信先にも削除を求めるのかを決めておきます。送信先の保存期間が短ければ、一定期間で自然に消える設計にできることもあります。

ここで効いてくるのが、前提となるログの設計です。誰のどのデータをいつ送ったかが記録されていなければ、範囲を特定できません。記録の作り方はAIの判断を後から追えるようにするで扱っています。

自社サービス全般の個人情報の扱いについては、スタートアップのセキュリティと個人情報保護も併せて参照してください。AI機能を足すことは、既存の個人情報の扱いの延長線上にあります。

送るデータを減らす設計

ここまでの手続きをすべて軽くする方法が一つあります。送るデータを減らすことです。

たとえば、問い合わせの回答案を作る機能で、顧客の氏名や契約番号は回答の質にほとんど寄与しないことがあります。本文だけを送る設計にすれば、扱う個人情報が減り、説明も整理も軽くなります。プロフィール全体ではなく必要な属性だけを送る、自由記述をそのまま送らず要点を抽出してから送る、といった処理も同じ効果があります。

私たちは既製のAIサービスを組み込む立場で開発していますが、設計の相談ではこの「減らす」検討に時間を使います。機能の要件を満たす最小のデータで作れば、規約の確認も、説明の記載も、削除の対応も、すべてが単純になるためです。逆に、精度のために手元のデータを全部送る設計にすると、後から手続きの負担が積み上がります。

個人情報の保護を、機能を止める制約として扱う必要はありません。送る範囲を先に絞れば、多くの場合は機能を実現しながら整理も保てます。AI活用開発やWebシステム開発で、データの範囲の設計から相談したい方はお問い合わせください。

本記事は一般的な情報であり、個別の事案は専門家・所管官庁にご確認ください。