生成AIとは、AI（人工知能）の一種で、過去の膨大なデータを学習した内容をもとに、コンテンツを自動生成する技術です。

例えば「この文章を要約して」と指示命令すると、生成AIが自動で人間が作成したのと同等の質の高い要約文を生成して表示します。

数年前に大きな注目を集めたOpen AI社によるChatGPTや、Google社のGeminiなどがその代表例です。

●業務への活用用途

主な業務への活用用途として、リサーチ・分析、文章・画像・音声・動画生成、翻訳、要約、企画立案、施策のフィードバック、ソフトウェア開発・デバッグ、ナレッジ検索支援、チャットボットによる顧客対応の自動化や顧客ニーズ分析による最適なレコメンドなどが挙げられます。

●なぜセキュリティリスクが問われるのか

生成AIは、すでに多様な分野で利用されており、業務効率化などの利便性の高さが評価されていますが、セキュリティリスクがあることが指摘されています。

生成AIを利用するにあたって入力する情報に個人情報などの機密情報が含まれていた場合に、生成AIの学習に使われてしまったり、サイバー攻撃やバグなどによりデータが盗み見されたりするリスクから、情報漏洩の恐れがあります。具体的なリスクについては、次の項目で解説します。

【関連リンク】
ChatGPTによる情報漏洩リスクと対策を解説！

生成AIのセキュリティリスクは、主に次の2つが考えられます。

●利用中の情報漏洩によるリスク

生成AIは、ツールやシステムによってはユーザーが入力した情報をそのまま学習する仕組みとなっています。学習が進めば生成AIが作り出すコンテンツの幅が広がる利点がある一方で、入力した情報に個人情報などの機密情報が含まれている場合、支障があります。なぜなら、生成AIが学習したデータは、他のユーザーの利用時に出力されてしまう恐れがあるためです。万が一、自社の顧客の個人情報が生成AIに使われてしまい、他ユーザーのツール画面に表示されてしまった場合、大問題となります。

個人情報の漏洩は企業として大きな責任を負うことになります。個人情報を提供した本人が事業者に対してプライバシー侵害を理由に損害賠償を請求する可能性があります。その他にも、情報漏洩事故を起こしたことの社会的責任を問われ、企業イメージが大幅にダウンするリスクもあります。

また自社の戦略や事業にまつわる機密情報が漏洩してしまうと、競合他社や一般へ知れ渡ってしまい、経営戦略や事業活動全般に支障が生じます。また取引先との秘密保持契約も破ってしまうことになれば、信頼の喪失や関係性悪化などにつながってしまいます。

●サイバー攻撃を受けるリスク

生成AIを採用しているツールやシステムには、脆弱性と呼ばれるサイバーセキュリティに関する欠陥を持つものもあります。脆弱性が見つかっていない場合でも、今後、新たなサイバー攻撃手法によって攻撃を受けるリスクはゼロではありません。

生成AIで特に危険視されているのが、プロンプトインジェクション攻撃と呼ばれるものです。これは、攻撃者が生成AIに意図的に誤作動を起こさせるようなプロンプト（指令命令文）入力を行い、生成AIツールやシステムを不正操作し、本来、表示されるはずのない誤った情報や犯罪に使われる恐れのある情報などを表示させる攻撃方法です。そのような危険な情報を業務に活用してしまった場合、機密情報の漏洩や誤った情報の拡散などのリスクがあります。

またプロンプトインジェクション攻撃を受けながら、生成AIが生成したコンテンツを利用してしまえば、誤った意思決定をしてしまいかねません。経営にかかわる意思決定であれば大きな損害となる恐れもあります。

では、生成AIのセキュリティリスクに対して、どのように対策を行えばいいのでしょうか。ここでは一般的な対策をご紹介します。

●データ暗号化などの保護

生成AIは既存データを学習し、新たに入力されたデータを学習しながら蓄積する仕組みとなっています。そのため、蓄積されるデータの保存先を暗号化することにより、データ保護を行うことが求められます。

また、クラウドベースのツールなど、クラウド環境上で運用する場合、データのサーバ間の受け渡しが発生することになります。このときの通信経路を第三者に盗み見られるリスクがあるため、通信経路における暗号化も必要です。

●API連携の利用

ChatGPTなどの生成AIサービスは、提供している会社のサーバを介することから、入力した内容が機密情報を含むものであった場合、情報漏洩となってしまいます。また先述の通り、入力内容が学習に利用されることもリスクがあります。

このリスクは、API（Application Programming Interface／アプリケーション・プログラミング・インターフェース）という外部サービスと連携させる仕組みを利用することで回避できます。

例えばChatGPTはAPIに対応しており、外部のチャットボットツールなどに連携させることで、入力した内容はAPIを介してChatGPTへ送信されるため、ChatGPTの学習データに使用されることはありません。またデータは社内サーバに蓄積させるようにすれば、情報漏洩にはなりません。

【関連リンク】
ChatGPTによる情報漏洩リスクと対策を解説！

●AIモデル自体の更新やセキュリティパッチの適用

生成AIモデルごとに脆弱性が見つかることがあります。そのため、都度、更新やセキュリティパッチの適用を通じて防御しておく必要があります。

●不正アクセス対策

生成AIへの不正アクセスを未然に予防するために、不正な入力を検出する監視や、不正アクセスを除去するフィルタリングなどの方法もあります。

●生成AIの学習制限

生成AIが入力されたデータを学習しないようにするために、そもそも入力データを学習しない仕組みを持つ生成AIモデルのツールか、学習しないように制限する機能を持つツールを選ぶ方法があります。

リコーがご提供する「RICOH Chatbot Service 生成AIチャット from 一般ナレッジ」なら、デフォルトで学習に利用されない仕組みにてChatGPTを利用することが可能です。

ChatGPTの業務活用～セキュリティ・運用の課題を解決│RICOH Chatbot Service 生成AIチャット from 一般ナレッジ

●セキュアな生成AIツールの選定

前述の学習制限機能のほか、データの暗号化などのセキュリティ対策が徹底して取られているツールを選びましょう。特にクラウドサーバを介して利用するツールの場合は、情報漏洩の予防策がどのようにとられているのか、またデータの取り扱いについて書かれているプライバシーポリシーなどを必ず確認することをおすすめします。

●生成AIの利用ルール・マニュアル策定

生成AIのリスクはセキュリティだけでなく、間違った情報を出力することや権利侵害などのコンプライアンス全般に渡ります。そのため、企業の多くは独自に生成AIの運用ルールやマニュアルを策定しています。
マニュアルにはプロンプトに入力して良い情報や利用して良い業務、誤作動を起こしたときの対応手順、情報漏洩の事例の共有などを記載して従業員が正しく安全に利用できるようにすることが多くあります。

生成AIは、業務やビジネスの効率化などのサポート役として、企業で利活用されていますが、情報漏洩やサイバー攻撃などのセキュリティリスクがあります。このセキュリティリスクに対応するために、データ暗号化や監視、API連携、ルール策定などを通じて十分な予防策を講じることが重要です。

今回ご紹介したリコーの「RICOH Chatbot Service」のオプションである、企業向けChatGPT連携サービスをご利用いただければ、セキュアに生成AIを利用する環境を構築できます。

「RICOH Chatbot Service」には、生成AIを活用した以下のサービスがございます。

・RICOH Chatbot Service 生成AIチャット from 一般ナレッジ

リコーがご提供するチャットボット上でChatGPTを手軽に利用できます。Azure OpenAI Serviceでセキュアな環境を実現しており、通常のChatGPTとは異なり、社内データなどを入力しても学習されず、情報漏洩の心配がありません。

・RICOH Chatbot Service 生成AIチャット from 社内ナレッジ

社内データをアップロードすることで、社内データに基づき生成AIが回答する自社専用のAIを活用できるようになるサービスです。入力した内容も社内に留まるため、漏洩リスクはありません。

セキュアに生成AIを活用されたい方は、ぜひお気軽にお問い合わせください。

RICOH Chatbot Service紹介資料はこちら RICOH Chatbot Serviceスペシャルサイト RICOH Chatbot Serviceの問い合わせフォーム