仕事で生成AIに入力してはいけない情報は?個人情報・社外秘のリスクと利用前の確認項目

AIに入れてはいけない情報(アイキャッチ。琥珀色の大きな南京錠。その手前に、生成りの丸みのあるチャットの吹き出しが重なっている) 副業・AI
結論

  • 仕事の資料を生成AIに送る前に、個人情報、顧客・取引先の情報、社外秘の内容が含まれていないか確認する。
  • 個人情報保護委員会は、一般利用者に対して個人情報の入力を一律に禁止しているのではなく、リスクを理解したうえで判断するよう求めている。
  • 勤務先の規則と利用するサービスの公式情報を確認し、入力する内容を絞ったうえで、回答の正確さも人が確認する。

メールの下書き、会議内容の整理、企画のアイデア出し。
生成AIを使えば作業の最初の一歩を進めやすくなりますが、便利だからといって、手元の文章や資料をそのまま貼り付けてよいとは限りません。

特に仕事では、自分の情報だけでなく、顧客や取引先、勤務先に関わる情報を扱う場面があります。
入力する前に必要なのは、難しい専門知識よりも、何を渡そうとしているのかをいったん確かめる習慣です。
この記事では、個人情報保護委員会の注意喚起と、仕事での一般的な情報管理の考え方を分けて説明します。

仕事で生成AIを使う前に知っておきたい基本

イラスト。開いたノートパソコンと、その横に置かれた、大きな鍵のかかった書類ファイル

生成AIとは、指示に応じて文章などを作るAIを利用したサービスです。
AIに入力する質問や作業指示を「プロンプト」と呼びます。
例えば「案内メールを丁寧な文体に整えて」と頼むことも、プロンプトの入力です。

ここで区別したいのは、AIに何を入力するかという問題と、AIが出してきた回答をどう使うかという問題です。
入力時には、外部のサービスに渡してよい情報なのかを考える必要があります。
回答を使うときには、書かれた内容が正確か、関係者に不利益を与える表現がないかを確かめます。

また、個人で試す場合と、業務として会社の情報を扱う場合では、確認する相手や規則が異なります。
一般的には、職場の情報管理ルールや秘密保持の取り決めがあるなら、個人の判断だけで例外を作らず、その内容に従うことが基本です。
業務利用の可否が不明なときは、情報を送る前に責任者や担当部署へ確認しましょう。

入力を避けたい情報と、その理由

イラスト。大きな書類の一部が、墨紺の太い帯で塗りつぶされて隠れている

「入力してはいけない情報」を、すべての職場やサービスに共通する禁止リストとして断定することはできません。
以下は法令上の禁止事項を列挙したものではなく、注意喚起を踏まえ、一般的な情報管理の観点から入力を避けたい内容を整理した例です。

→ 横にスクロールできます

情報の種類具体例入力前の基本的な対応
個人を特定できる情報氏名、住所、電話番号、メールアドレス必要性を確認し、不要なら削除する
顧客・取引先の情報問い合わせ内容、連絡履歴、担当者の情報実際の情報を使わず、架空の状況に置き換える
社外秘の資料未公開の企画書、議事録、価格交渉の資料原文を入力せず、社内の取り決めを確認する
認証に関わる情報パスワード、ログイン用コード、非公開の接続情報入力しない
書類や画像に写り込む情報署名、連絡先、画面の通知、資料の欄外のメモ送信前に全体を見直す

例えば、顧客への返信文を考えたいだけなら、顧客の氏名や連絡先を渡さなくても作業できる場合があります。
依頼内容を「納期について問い合わせがあった場合の丁寧な返信文」という一般的な状況に変えれば、文章の型を考える目的は達成しやすくなります。

注意したいのは、見た目にはありふれた文章でも、組み合わせると特定の人物や取引を推測できることがある点です。
氏名を消しただけで安心せず、役職、地域、案件の内容、日程など、周辺の手掛かりにも目を向けましょう。

個人情報保護委員会の注意喚起を読む

個人情報保護委員会は、2023年6月2日(令和5年)に「生成AIサービスの利用に関する注意喚起等」を公表しました。
この資料では、個人情報取扱事業者向けの注意点を(1)、行政機関等向けを(2)、一般の利用者向けの留意点を(3)として分けています。
この記事で扱うのは、一般の利用者向けの(3)と、仕事に関係する事業者向けの(1)です。
行政機関等向けの(2)の内容は扱いません。

個人情報が機械学習に利用され、出力されるリスク

一般の利用者向けの留意点では、入力された個人情報が機械学習に利用されることがあると説明しています。
機械学習とは、AIがデータから傾向や関係を学ぶ処理のことです。
入力された個人情報が他の情報と統計的に結びつき、正確な内容としても、不正確な内容としても出力されるリスクがあるとされています。

「すべてのサービスで必ず学習される」という意味ではありませんが、反対に「必ずその場限り」とも決めつけられません。
サービスの条件を確かめ、入力内容を判断する必要があります。

自然な回答でも、内容が正しいとは限らない

注意喚起では、プロンプトへの応答結果に不正確な内容が含まれることがあるとも示されています。
文章が滑らかで読みやすくても、確率的な相関関係に基づいて生成されるため、不正確な個人情報が含まれるリスクがあります。

例えば、人物についての説明文を求めたとき、もっともらしい文章が出てきても、その人物に関する事実だと決めつけてはいけません。
業務で誰かの経歴や発言を紹介するなら、AIの回答だけでなく、確認できる資料に照らすことが必要です。
これは注意喚起の趣旨を踏まえた、実務上の一般的な確認方法です。

規約とプライバシーポリシーを確認する

もう1つの留意点は、提供事業者の利用規約やプライバシーポリシーなどを十分に確認し、入力する情報の内容を踏まえて利用を判断することです。
プライバシーポリシーとは、事業者が情報をどう取り扱うかを示す方針です。

サービスごとに条件が異なり、内容が変更されることもあるため、以前に確認した知識だけで判断しないようにしましょう。
機械学習への利用の扱いなど、自分の業務に関係する点を公式の規約やヘルプで確かめることが大切です。
具体的な設定方法は、その時点の公式案内を参照してください。

事業として個人情報を扱う場合の注意

同じ注意喚起の(1)では、個人情報取扱事業者が生成AIを使う場合の注意点を示しています。
これは一般利用者向けの(3)とは別の記載であり、仕事で個人情報を扱う場合には、両者を混同しないことが重要です。

まず、個人情報を含むプロンプトを入力する場合、特定された利用目的を達成するために必要な範囲内か、十分に確認するよう求めています。
「業務に使うから必要」という大まかな説明ではなく、その作業にその情報が本当に必要なのかを検討することが、実務では判断の出発点になります。

さらに、あらかじめ本人の同意を得ずに個人データを含むプロンプトを入力し、その個人データが応答結果の出力以外の目的で取り扱われる場合、個人情報保護法に違反する可能性があるとされています。
そのため、このような入力をする場合には、提供事業者が当該個人データを機械学習に利用しないことなどを十分に確認するよう求めています。

「本人の同意がない入力は、状況にかかわらずすべて違法」という説明でも、「学習されなければ他の確認は一切不要」という説明でもありません。
注意喚起に書かれた条件を切り離さずに読む必要があります。
個別の業務で判断に迷うときは、担当者に確認し、推測で進めないようにしてください。

なお、同委員会は、この公表にあわせて、ChatGPTを開発・提供するOpenAIに対し、要配慮個人情報の取得と利用目的の通知等について注意喚起を行いました(別添2)。
その後の開発・利用状況を注視し、追加の注意喚起等を行う可能性があるとも示しています。
これは特定のサービスの現在の設定や安全性を評価する記述ではありません。

使い始める前に確認する6項目

イラスト。大きな虫眼鏡が書類の上にあり、書類の端に琥珀色のチェックのバッジ

では、実際の仕事では何を確認すればよいのでしょうか。
一般的な業務運用の例として、入力前の確認を6項目に分けます。
社内規則や個別の取り決めがある場合は、そちらを優先してください。

図解: 生成AIへの入力前に確認する6段階。利用可否(勤務先や契約先のルールを確認する) / 目的(AIに任せたい作業を明確にする) / 情報の点検(個人情報・社外秘の有無を見直す) / 最小化(不要な情報を削除し、必要なら架空の例に変える) / 公式情報(規約とプライバシーポリシーを確認する) / 出力の検証(根拠と照合する担当を決めてから利用する)

→ 横にスクロールできます

確認項目自分に問いかけること迷ったときの対応
1. 利用の許可この業務で生成AIを使ってよいか社内の規則や担当者に確認する
2. 作業の目的何を作るために、どの情報が必要か目的を短く言語化する
3. 情報の内容個人情報、顧客情報、社外秘が混じっていないか原文や添付資料を見直す
4. 情報の削減削除や架空の例への置き換えで足りるか必要な要点だけに絞る
5. サービスの条件利用規約、プライバシーポリシー、機械学習への利用の扱いを確認したか公式の規約・ヘルプを読む
6. 利用後の確認出力を誰が、何に照らして確かめるか確認する資料と担当を決める

チェック欄を埋めること自体を目的にせず、「実名が必要か」「議事録の全文が必要か」と具体的に問い直しましょう。
必要な情報を減らせれば、送信前の確認もしやすくなります。

確認する順序も工夫できます。
最初に職場での利用可否を確認し、次に作りたい成果物を決め、材料を選別します。
最後にサービスの条件と入力内容を見比べ、判断に必要な情報が不足していれば送信を保留します。

社内で利用が認められていても、すべての資料を自由に入力してよいことにはなりません。
「サービスを使う許可」と「その資料を外部に渡す許可」は、一般的な業務管理では別々に確かめたい項目です。
どちらかが曖昧なら、情報管理の担当者などに相談するほうが確実です。

実務ではどこまで情報を置き換えるべきか

仕事に必要な文章を作りたいからといって、元の資料を丸ごと入力する必要はありません。
一般的には、AIに考えてほしい部分だけを残し、相手を特定できる情報や非公開の業務情報を取り除いて使う方法が考えられます。

図解: 顧客メールの依頼を一般化する例。前: 顧客名や連絡先、実際の問い合わせ履歴を含むメール全文を貼り付ける → 後: 個別情報を省き、納期の遅れを伝える丁寧なメールのひな型を依頼する
図解: 業務情報を入力する前の分岐。個人情報や社外秘が含まれていますか? はい: 元の情報は送らず、2へ いいえ: 3へ / 情報を削除・一般化しても目的を達成できますか? はい: 置き換えたうえで3へ いいえ: 入力を保留して担当者に確認 / 勤務先の規則と公式の利用条件を確認できていますか? はい: 必要な情報に絞って利用を判断 いいえ: 入力を保留して確認

例えば、顧客へのお詫びメールを整えたい場面を想像してください。
入力前の資料に氏名、注文内容、連絡先、担当者のやり取りが入っていても、文章の書き方を相談するだけなら、それらが不要な場合があります。
「納期の遅れを伝え、謝罪と今後の案内を含む丁寧なメールのひな型を考えて」という依頼に変えれば、特定の相手の情報を渡さずに文章案を作れます。

別の例として、会議の内容を整理したいときも、原文をそのまま貼る以外の方法があります。
会議で扱った内容が社外秘なら、その情報を外部に出すこと自体が認められているかを先に確かめます。
許可が不明なら会議録の送信は避け、公開可能な一般的項目だけで「議事録の見出しのひな型」を作らせる方法を検討します。

ただし、伏せ字や架空名に変えたから必ず安全になるわけではありません。
部署、担当業務、出来事、日時などが重なることで、誰のことか推測できる場合があります。
また、人物を特定できなくても、事業の計画や交渉内容が秘密情報であることは変わりません。

置き換えの判断で使える問いは、「その情報がなくても、AIに依頼したい作業は成立するか」です。
成立するなら削る方向を考え、成立しないなら無理に入力しようとせず、承認された方法がないかを確認してください。
こうした工夫はリスクを小さくするための一般的な対応であり、法令や社内規則への適合を保証するものではありません。

出力された文章をそのまま使わない

イラスト。大きなチャットの吹き出しを虫眼鏡で確認している。吹き出しの一部が赤茶でひび割れている

入力時の確認を終えても、仕事はそこで完了ではありません。
生成AIの回答は、整った日本語で書かれていても、事実関係が間違っている場合があります。
特に人名、肩書き、連絡先、相手の発言などを含む文章では、根拠となる資料と照合する必要があります。

確認するときは、「事実」と「表現」を分けましょう。
敬語や構成が整っていることと、内容が正しいことは別です。
メールなら用件や期限を元資料と照合し、社内向けの説明なら決まったことと提案中のことが混ざっていないかを確認します。

さらに一般的な情報管理として、回答に不要な個人情報や社外秘が含まれていないか、送信先や公開範囲に合った内容かも確かめます。
違和感のある記述を見つけたら、AIに再質問するだけで確定させず、元の情報へ戻って確認してください。
最終的に発信・提出する文章の責任を、回答の見た目だけで判断しないことが大切です。

よくある勘違いと正しい理解

→ 横にスクロールできます

よくある勘違い押さえておきたい理解
個人情報を入力することは、一律に禁止されている一般利用者向けの注意喚起は、リスクを踏まえて適切に判断するよう求めている
AIに入力した情報は必ず学習に使われる注意喚起は「利用されることがある」としており、サービスの条件を確認する必要がある
名前を消せば、そのまま入力してよい周辺情報から人物や案件を推測できる場合があり、社外秘の問題も残る
会社がAI利用を許可していれば、資料も自由に送れる一般的には、資料の扱いと秘密保持の取り決めも確認する
自然な文章なら内容も正確である不正確な個人情報が出力されるリスクがあるため、根拠を確認する

特に混同しやすいのは、利用できることと、どの情報でも入力できることの違いです。
扱う材料によって必要な判断は変わるため、目的と情報の内容を合わせて考えることが重要です。

よくある質問(Q&A)

Q1. 個人情報は生成AIに絶対に入力してはいけないのですか?

いいえ。
個人情報保護委員会の一般利用者向けの留意点は、個人情報の入力自体を一律に禁じるものではありません。
入力された情報が機械学習に使われることなどのリスクを踏まえ、利用規約やプライバシーポリシーを確認して適切に判断するよう求めています。
仕事で扱う場合は、別途、職場の規則や事業者向けの注意点も確認する必要があります。

氏名を伏せれば、顧客からのメールを貼り付けてもよいですか?

氏名だけで判断するのは避けましょう。
メールの本文には、取引内容、連絡先、立場、経緯など、ほかの手掛かりが残っている場合があります。
まず職場のルールを確認し、文章の型だけが必要なら、実際のメールを使わず一般化した依頼にする方法があります。

利用するサービスが学習に使わないと分かれば、確認は終わりですか?

それだけで、あらゆる業務情報を入力してよいとは判断できません。
利用する情報が目的に必要か、社内の取り決めに反しないかなど、別の確認も必要です。
サービスの条件については、最新の公式規約やヘルプを確認してください。

個人事業主が使う場合も、同じように注意するべきですか?

はい、一般的な情報管理の観点では、顧客や取引先から預かった情報を慎重に扱うことが重要です。
個人情報を事業で取り扱う場面では、個人情報保護委員会の事業者向けの注意点も確認してください。
自分だけが使う端末で作業していることと、外部のサービスに情報を入力してよいことは別の問題です。

誤って社外秘の資料を入力したらどうすればよいですか?

一般的には、同じ資料を追加で入力することを避け、勤務先や契約先の報告ルールに従って速やかに相談します。
利用したサービスの公式ヘルプも確認し、実際に行える対応を調べてください。
画面上の操作だけで影響がなくなると決めつけず、自己判断で処理を終えないことが大切です。

まとめ

生成AIを安全に仕事へ取り入れるために大切なのは、使うこと自体を避けるよりも、入力前の判断を省略しないことです。
個人情報や社外秘の内容が含まれていないかを確かめ、必要なら削除や一般化を検討する。
職場のルールと公式の利用条件を確認し、分からないまま送信しない。
そして、出来上がった回答は人が根拠に照らして確かめる。

まずは次にAIを開くとき、入力欄に文章を貼り付ける前に「この情報は本当に必要か」と問い直してみてください。
その小さな確認が、業務で生成AIを使い続けるための基本になります。

あわせて読みたい

出典: 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」(令和5年6月2日)

注意

収益や成果を保証するものではありません。勤務先の規則・機密保持のルールに従ってください。AIの出力は必ず確認してください。税金・法律の個別の判断は、専門家や公式の窓口にご確認ください。 制度や規約は変わることがあります。手続きの前に、公式の情報を確認してください。

補足

LINE公式アカウント「AI時短ノート」では、AIを仕事で使う前の確認シート(PDF)を準備しています(準備中)。配布の準備ができたらLINEでお知らせします。LINEで友だち追加(@093vbptr)

くらし実務ノートは、暮らし・お金・仕事の手続きを、手順と表で整理する実務メディアです。運営は編集部です。広告を含む記事には【PR】と明記します。