生成AIを安全に活用するための基本ルール
生成AIは、メールの作成や資料の要約、アイデア出しなど、さまざまな業務で活用されるようになりました。「まずAIに聞いてみる」という働き方が当たり前になりつつある企業も増えています。
しかし生成AIは私たちの業務を大きく効率化する一方で、使い方を誤ると情報漏えいや著作権トラブルなどにつながる可能性があります。
今回は、業務で生成AIを利用する際に知っておきたい3つのリスクと、安全に活用するための基本ルールを整理しました。社内研修やルール作りの参考としてお役立ていただければ幸いです。
生成AIとは？
生成AIとは、文章や画像、音声、プログラムコードなどの新しいコンテンツを生成することができるAIのことです。
事前に大量のデータを学習しており、利用者からの指示（プロンプト）に応じて、その学習結果をもとに新しい文章や画像などを作り出します。
代表的なサービスとしては、ChatGPT、Microsoft Copilot、Geminiなどがあります。
押さえておきたいのは、生成AIは何もないところからコンテンツを生み出しているわけではないということです。文章や画像などを、学習したデータをもとにしてあくまで「生成しているだけ」ということを理解しておきましょう。
生成AIが使われている業務
生成AIはさまざまな業務に利用されていますが、一般的に使われやすい業務としては、以下のようなものがあります。
- コンテンツの作成・メールの返信：
社内外向けの報告書や資料、ブログの作成、メールのドラフト作成など - 議事録や資料の要約:
会議の録音データや文字起こしから要点やタスクをまとめるなど - データ分析：
アンケート結果や販売データなどの蓄積データの傾向分析など - リサーチ・情報収集：
業界動向や競合調査、専門知識の初期的な調べ物。 - コーディング：
Webサイトや社内システムの設計・構築・修正など
自社や個人でも同じように使っている、という方も多いのではないでしょうか。
業務で起こりやすい「３つのリスク」
さまざまな業務を効率化、自動化する一方で、生成AIの利用による情報漏えいや誤情報の利用、著作権トラブルといった問題も発生しています。まずは代表的な３つのリスクを理解し、安全に活用するための基本を押さえておきましょう。
機密情報や個人情報の入力
生成AIは、利用者が入力した情報をもとに回答を生成しますが、利用するAIサービスによっては、入力した情報が一定期間保存されたり、サービス改善等の目的で利用されたりする場合があります。そのため、入力した情報がどのように保存・利用されるのか、利用規約やプライバシーポリシー、契約内容などを確認することが重要です。
組織の認可外のサービスの利用や、データに関する設定を確認せずに機密情報や個人情報を入力すると、情報漏えいや契約違反につながるおそれがあります。
やりがちな例
- 顧客リストを貼り付けて要約させる
- 機密資料を翻訳・添削させる
- パスワードやIDを質問文に含めてしまう
- 取引先から預かったNDA対象データを入力する
上記が直ちに問題になるとは限りません。重要なのは、利用するAIサービスや契約条件、社内ルールに照らして、その情報入力に問題がないか確認することです。特にパスワードや認証情報は、利用環境にかかわらず入力を避けるべきです。
AIの回答を鵜呑みにする
生成AIは便利ですが、前述したとおり、もっともらしく「生成する」ツールです。入力された指示に対して、学習したパターンなどをもとに回答を生成するため、事実とは異なる内容をもっともらしく出力することがあります。これを「ハルシネーション」と呼びます。
やりがちな例
- AIの回答を内容確認なしでメールにコピペする
- 生成されたものを、出典を確認せずに資料で引用・転載する
- 法律・税務・医療など専門領域の回答を鵜呑みにして利用する
誤情報だと気づかずに顧客や取引先に送れば、信頼を失う原因になりかねません。「AIがそう言ったから」は根拠にはなりません。
AIが生成した内容は、あくまで下書きや参考情報として扱い、最終的な判断は人が行うことが必須です。利用する際は、内容を必ず確認し、必要に応じて公式情報や一次情報で裏付けを取りましょう。
著作権などの侵害
「AIが生成したから、著作権上問題がない」とは限りません。
生成AIは、他人の文章・画像・音楽・プログラムなどの著作物を学習している場合があります。そのため、出力されたものが他社の著作物に酷似している、ということが起こり得ます。AIが生成したコンテンツであっても、既存の著作物との類似性や依拠性などによっては、著作権侵害が問題となる場合があります。公開・配布する際には、必要に応じて既存の著作物との類似性などを確認することが重要です。
やりがちな例
- 雑誌・Web記事の本文を貼り付けて要約し、そのままホワイトペーパーにする
- 人気アニメのキャラクターや他社のブランドロゴに酷似したビジュアルを作って公開する
- AIが生成した文章や画像を確認せずに、そのまま公開・配布する
「AIが作ったから大丈夫」は誤りです。生成物の利用責任は利用者にあります。公開前には著作権や商標権との抵触がないかを確認することが必要です。
生成AIを安全に利用するための３つの確認ポイント
生成AIは便利なツールですが、利用する前に次の3点を確認する習慣をつけましょう。
1. その情報は入力してもよい情報か？
機密情報や個人情報、NDA対象データなどが含まれていないかを確認する。
また、利用するサービスやアカウントが組織で認可されているかや、利用規約やデータの取り扱い、契約条件を確認する。
2. 出力された情報は正しいか？
AIの回答を鵜呑みにせず、内容は必ず確認し、必要に応じて公式情報や一次情報で裏付けをとる。
3. その生成物は利用しても問題ないか？
著作権や商標権など、第三者の権利を侵害していないか確認する。
社内ガイドラインの策定を
生成AIは、業務効率化や生産性向上を実現する有効なツールです。一方で利用ルールが曖昧なまま従業員の判断に委ねていると、許可されていないAIサービスを業務で利用する「シャドーIT」や、それに伴う情報漏えい、権利侵害などのリスクにつながる可能性があります。
重要なのは、「利用を禁止すること」ではなく、「安全に利用できる環境を整えること」です。組織として共通ルールを定め、従業員が迷わず判断できる状態を作ることが求められます。
生成AIの活用は今後ますます広がっていくと考えられます。リスクを抑えながら業務改善を後押しできるよう、自社に適したガイドラインの整備と継続的な教育・啓発を進めましょう。
メール訓練・情報セキュリティ教育サービス「Selphish」のご紹介
神戸デジタル・ラボが提供する標的型攻撃メール訓練・情報セキュリティ教育サービス「Selphish（セルフィッシュ）」では、標的型攻撃メール訓練に加え、情報セキュリティ全般を網羅したeラーニング教育機能を提供しています。
メール訓練に組み合わせて活用することで、訓練による気付きにとどまらず、情報セキュリティ意識と知識の定着、行動変容を促進します。
継続的な人的セキュリティ対策をご検討中の方は、ぜひご活用ください。
