グラファーでは「生成AIを企業でどう使えばいいか分からない」「生成AIによる成果が出ない」といった課題に対し伴走型の支援や研修、プロダクト開発を通じて一気通貫で支援します。生成AI活用でお困りの方はお気軽にご相談ください。
ご相談はこちらから：https://graffer.jp/ai-solution/contact
目次
- 企業が生成AIを利用しない理由として上位に挙がる「安全面での問題」
- 1. 入力情報が学習データとして使用されるリスク
- 学習データとして使用されると何が問題なのか
- 2. 社員が意図せず情報を漏えいするリスク
- 企業が抱える「野良ChatGPT」の問題
- 実際に機密情報の入力が発生したサムスン電子の事例
- 3. 誤った回答だと認識せずに業務に利用してしまうリスク
- 著作権侵害につながる場合も
- 生成AIのセキュリティリスクへの対策
- 1. 安全な利用環境を提供する
- 2. 社内ガイドラインや利用ポリシーを用意する
- 3. 社内教育を強化する
- 安全性と効率性を兼ね備えた生成AIツール「Graffer AI Solution」
- 特徴1：信頼性と安全性を重視した「高度なセキュリティ環境」
- 特徴2：社内に生成AIを浸透させるための道筋を描く「伴走支援」
- 特徴3：社内教育を強化する「生成AI研修」
- 生成AIのセキュリティリスクを理解して、ビジネスの成長を加速する
企業が生成AIを利用しない理由として上位に挙がる「安全面での問題」
さまざまな企業で生成AIの検討が進み始めています。一方で、生成AIを業務で利用した経験のある人は約18％だという調査結果もあります。
生成AIを利用しない理由として「生成AIの利用方法が分からないから」「利用に費用がかかるから」に次いで上位に挙がるのが、「生成AIの安全性に問題があると思うから」という理由です。
では、実際に安全面にどのようなリスクがあり得るのでしょうか。以下に代表的な4つのリスクをご紹介します。
参考：GMOリサーチ「生成AIの利用実態・意識に関する調査」
1. 入力情報が学習データとして使用されるリスク
まずは、生成AIに入力した情報が学習データとして利用されるリスクです。例えば、ChatGPTでは、入力したデータは設定に応じて学習データとして利用される場合があります。
参考：「Data Controls FAQ」※各個人が設定を行うことで、入力したデータを学習の対象外（オプトアウト）とすることができます。
学習データとして使用されると何が問題なのか
学習データとして利用されるということは、入力した情報が外部に流出してしまう可能性があるということです。以下の図のように、生成AIが学習したデータは、第三者によって出力される場合があります。
社員や取引先のメールアドレスや住所といった個人情報や、公表前の機密情報が外部に漏えいするのは、企業にとって大きなダメージとなります。
あわせて注意しておきたいのが、生成AIを組み込んだサービスです。ChatGPTだけではなく、生成AIを活用したサービスやモデルにおいても、入力した情報が学習に使われないかどうかを十分に確認する必要があります。
2. 社員が意図せず情報を漏えいするリスク
2つ目が、社員個人が意図せず情報を漏えいするリスクです。実際に、企業は生成AIの利用を禁止しているにもかかわらず、社員が個々で生成AIを利用してしまうケースがあります。
企業が抱える「野良ChatGPT」の問題
こうしたケースでは、いわゆる「野良ChatGPT」がまん延する恐れがあります。社員は、便利だからと無料の個人アカウントを使って企画書の作成や議事録の要約などの業務にChatGPTなどの生成AIを利用する。企業はその実態を把握していない。オプトアウト設定もされていないため、意図せずに個人情報や機密情報が流出してしまうという問題が発生する恐れがあります。企業が情報漏えいを恐れて生成AIの利用を禁止したとしても、社員に「利用したい」というニーズがあるのであれば、その実態を無視することは難しいでしょう。
実際に機密情報の入力が発生したサムスン電子の事例
韓国のサムスン電子では2023年4月にエンジニアが社内機密のソースコードをChatGPTにアップロードし、誤って流出させる事故が発生しています。同年5月には社内向けに「ChatGPTの利用を禁止する」といった指示が行われています。
3. 誤った回答だと認識せずに業務に利用してしまうリスク
3つ目が、生成AIの回答が誤っていると認識しないまま、社員が業務に利用してしまうリスクです。
例えば実際にあるのは、生成AIで議事録を要約する際、「大丈夫です」という意味が真逆に捉えられてしまうようなケースです。こうした事象が発生しうることを理解せずに、生成AIで要約した内容を十分に確認しないまま使用することで、意図せず誤った意思決定につながることがあります。
もちろんChatGPTの入力画面には「ChatGPTは間違いを犯す可能性がある」旨の注意喚起が記載されています。しかし、社内の検証のルールやプロセスが明確でないと、誤った解答を正しいと認識してしまい、事故につながるリスクがあります。
著作権侵害につながる場合も
生成AIを使って生成した文章や画像が、著作権侵害や商標権侵害を引き起こす事例も発生しています。例えば、日経クロステックの記事の文章が盗用された事例では、「GPT4 をベースとしてファインチューニングおよび独自データベースとの繋ぎ込みなどをおこなった」ことが、文章の盗用につながっています。このように、生成AIが作成した内容をそのまま利用してしまうことは、企業に大きなダメージを与えるリスクがあります。
参考：The HEADLINE「08月22日に公開された記事につきまして」
生成AIのセキュリティリスクへの対策
上記でご紹介したような「野良ChatGPT」のケースを考えると、今回挙げた3つのセキュリティリスクに対処するために、「生成AIの利用を一律に禁止する」という方法は必ずしも正解とはいえません。生成AIの普及が進む中、既存ビジネスの領域で他社から遅れをとらないためにも、生成AIを使わないという選択は避けたいところです。
ではセキュリティリスクに対処しながら生成AIを企業に導入していくためには、どのような方法があるのでしょうか。以下に、各企業で進んでいる対策をいくつかご紹介します。
1. 安全な利用環境を提供する
社員が安全に生成AIを利用できる環境を用意します。入力した情報がモデルの学習のために使用されないのはもちろんのこと、ケースによっては生成AIを提供する企業のサーバーに情報が保存されないような環境を整えることを検討する必要もあります。
2. 社内ガイドラインや利用ポリシーを用意する
生成AIで扱ってよい情報、扱ってはならない情報など、具体的な利用ポリシーを設定します。出力された結果の信頼性や公開時の注意点、所有権についてもガイドラインを設け、社員全体で共有することで、情報が漏えいするリスクを軽減します。
3. 社内教育を強化する
生成AIの活用には正確で適切な理解が必要です。そのため、AI技術に関する社内研修を用意し、社員の理解を深めることが重要となります。生成AI活用の課題として、過半数が「必要なスキルを持った人材がいない」「ノウハウがなく、進め方が分からない」といった人材の課題を挙げています（※）。生成AIをビジネスに安全に取り入れ、その可能性を最大限に引き出すには、社内教育が必要とされているのです。
（※）参考：PwC「生成AIに関する実態調査2023 秋」
安全性と効率性を兼ね備えた生成AIツール「Graffer AI Solution」
生成AIの活用でビジネスの競争力を高めたいと考える企業の皆様にとって避けては通れない、安全面での対策。「Graffer AI Solution」はこれらのセキュリティリスクに対応し、効果的に生成AIを活用することができるサービスです。
特徴1：信頼性と安全性を重視した「高度なセキュリティ環境」
入力情報が学習データとして利用されない安全な環境で、GPT-3.5やGPT-4 turboをはじめとするLLMを利用することができます。170を超える行政機関での導入実績を持ち、ISMS認証及びプライバシーマークを有する環境において、生成AIの安全な活用を考える企業を支援します。
特徴2：社内に生成AIを浸透させるための道筋を描く「伴走支援」
成功事例や失敗事例をもとに企業の課題を分析し、最適なゴール設定から業務選定までを総合的に支援します。継続的なモニタリングと改善のサイクルを繰り返すことで、ビジネスの成長をサポートします。
特徴3：社内教育を強化する「生成AI研修」
生成AIに精通したプロフェッショナルが社員研修を行います。生成AIの基礎知識や、自社のビジネスに最適な形で活用するための教育を通じて、組織の新たな価値創出を支援します。
生成AIのセキュリティリスクを理解して、ビジネスの成長を加速する
生成AIのセキュリティリスクとその対策について詳しく取りあげました。生成AIの活用は企業の皆様にとって、業務効率化以上の、ビジネスの革新と成長を実現する強力なパートナーとなるはずです。
セキュリティリスクへの懸念を持つ企業の皆様に対して、「Graffer AI Solution」は信頼性の高いソリューションを提供します。厳格なセキュリティ対策に加えて、多様な生成AIモデルの選択と研修サービスを通じて、安心して生成AIをビジネスに取り入れることが可能です。
この記事が、生成AI導入に向けた一歩を踏み出すための参考になれば幸いです。そして、私たち「Graffer AI Solution」は、その一歩をともに歩むパートナーでありたいと考えています。
文：東 真希 / 図：望月 麻由
