VINXニューリテール・コラム

【情報漏えいなどのリスクあり!?】AI活用に不可欠なセキュリティ対策とは

【情報漏えいなどのリスクあり!?】AI活用に不可欠なセキュリティ対策とは

はじめに

流通小売業でも、生成AIの活用が急速に広がっています。業務効率化や人手不足への対応はもちろん、顧客サービスの品質向上やこれまでにない新しい価値づくりにも、その活用領域は広がりつつあります。

一方で、AIを業務に取り入れる際には、利便性だけでなく安全性にも目を向ける必要があります。そこで今回は、AI活用に伴う主なリスクと、必ず押さえておきたいセキュリティ対策についてご紹介します。

AI活用が広がるほど、セキュリティの重要性も高まる

■AI活用における主なリスク


情報漏えい

情報漏えい

誤回答(ハルシネーション)

誤回答 (ハルシネーション)

独自ノウハウの流出

独自ノウハウの流出

AIの活用にはさまざまなリスクがあり、使い方を誤れば主に以下のような事態を招くこともあります。


①情報漏えい

流通小売業では、お客様・取引先・従業員の情報や購買履歴、販売計画など、社外に出すべきではないデータを数多く取り扱っています。

例えば、売上分析を行うために販売データをAIサービスに入力したり、お客様から届いた問い合わせ内容をそのまま貼り付けたりするケースが考えられます。利用しているAIサービスの仕様や契約条件を十分に確認しないままこうした情報を入力すると、意図しない形で情報が扱われてしまうかもしれません。

実際、海外では社員がAIサービスに機密情報やソースコードを入力し、情報管理上の問題につながったケースも報告されています。

②誤回答(ハルシネーション)

AIは文章としては非常に自然な回答を返します。しかし、必ずしも回答内容が事実と一致しているとは限りません。存在しない商品仕様を説明したり、古いルールを現在のものとして回答したり、誤った業務手順を提示したりしてしまう場合もあります。

流通小売業では、AIの回答がお客様対応や店舗オペレーションに直接使われる場面も想定されます。誤った回答がそのまま現場で使われれば、業務上のミスだけでなく、お客様からの信頼を損なうことにもつながりかねません。そのため、AIの出力を必要に応じて人が確認することが重要です。

③独自ノウハウの流出

曜日や天候、地域特性、季節イベントを踏まえた需要予測の考え方や発注量の決め方、商品構成、売場づくりなど、流通小売業の企業には長年の業務を通じて蓄積した知見があります。

独自のノウハウは、目に見える設備や商品と同じように、企業の競争力を支える資産です。注意したいのは、こうしたノウハウをAIに読み込ませた場合、その情報がどのように扱われるのかという点です。利用するAIサービスや契約条件によっては、入力した情報が学習やサービス改善に使われてしまいます。

別の企業から質問を受けた際の回答やアドバイスにそのようなノウハウが反映されれば、自社だけが持っていたはずの考え方や判断基準が、間接的に外部へ広がってしまいます。せっかく自社で蓄積してきた知見が競争優位につながらなくなるリスクがあるのです。

もちろん、すべてのAIサービスで入力情報がそのまま他社への回答に使われるわけではありません。ただし、どのようにデータが保存・利用されるのかを確認せずに、重要なノウハウを入力するのは避けるべきです。

安全にAIを使うために必要なルールづくり​

AI活用に伴うリスクを抑えるためには、まずは社内ルールの整備が必要です。ポイントは、「AIを使ってよいか、悪いか」という二択ではなく、どのような条件なら使えるのかを具体的に決めることです。

例えば、「利用を認めるAIサービス」「入力してよい情報」「AIの回答をどこまで業務に利用してよいか」「人による確認が必要な業務」「利用履歴やログの管理方法」などを整理しておくといった対応が考えられます。特に、顧客情報や機密情報、自社独自のノウハウについては、社員が迷わないように具体的な基準を示しておくことが重要です。

また、ルールをつくるだけでは十分ではありません。実際にAIを利用する社員がその内容を理解し、「どんな場面で注意が必要なのか」を判断できるように、教育まで含めて考える必要があります。

■注意が必要なシャドーAI

シャドーAIとは
会社が利用を認めていないAIサービスを、社員が独自に業務で使ってしまう行為
利用許可済のAI
利用許可済のAI
無許可で利用しているAI (シャドーAI)
無許可で利用しているAI
利用者

ここで大きな課題になるのが、シャドーAIです。シャドーAIとは、会社が利用を認めていないAIサービスを、社員が独自に業務で使ってしまう行為を指します。AIは無料で使えるサービスも多く、個人のスマートフォンやPCから簡単にアクセスできます。そのため、会社が把握していないところで、資料作成や文章の要約、データ整理にAIが使われてしまうかもしれません。

この問題に対して、「AIの利用を全面禁止する」という対応は非現実的かもしれません。現場にとって便利なツールであれば、利用したいというニーズそのものをなくすことは難しいからです。むしろ、会社側が安全性を確認したAI環境を用意し、「この範囲なら使ってよい」という選択肢を示す方が適切な対応と言えます。管理された環境のなかでAIを使えるようにすることで、社員が個人の判断で外部サービスを使うリスクも抑えやすくなります。

AI活用を企業として管理する「AIガバナンス」

■AIガバナンスとは

AIガバナンスとは
企業がAIを継続的に
活用していくために、
方針や責任、運用方法を
組織として整えていく考え方
▶
AIガバナンス
AIの利用範囲が広がれば、個別の利用ルールだけでは対応しきれなくなることも考えられるため、AIガバナンスが必要となってきます。AIガバナンスとは、企業がAIを継続的に活用していくために、方針や責任、運用方法を組織として整えていく考え方です。

具体的には、「AI利用に関する社内方針の策定」「利用できるサービスの管理」「アクセス権限の設定」「利用状況の確認」「社員教育」「リスクの定期的な見直し」などを、継続的に行う仕組みが求められます。

重要なのは、AIを“誰でも自由に使える状態”にすることではなく、“誰もが安心して使える環境”を整えることです。流通小売業では、本部だけでなく、店舗や物流拠点など幅広い現場でAIが使われる可能性があります。だからこそ、IT部門だけで管理するのではなく、事業部門や現場も含めて、安全に活用できる仕組みをつくっていくことが重要です。

おわりに

セキュリティ対策を強化すると、AIを使う際のルールや確認事項が増えます。そのため、「安全性を重視すると、AI活用のスピードが落ちるのではないか」と考える方もいるかもしれません。

しかし、セキュリティはAI活用のブレーキではありません。むしろ、安全にスピードを出すためのシートベルトであり、進む方向を定めるハンドルのようなものです。安全性を確保する仕組みがあるからこそ、店舗業務の効率化や従業員の負担軽減、顧客サービスの向上、新たな価値の創出といったAIのメリットを、より積極的に追求できるようになります。

セキュリティ対策は、AIを制限するためのものではなく、企業が安心してAI活用を広げていくための土台だと考えることができるのです。ニューリテール時代の競争力を支える基盤として、今こそAIに関わるセキュリティを見直してみてはいかがでしょうか。


\このコラムに関連する記事/



関連コラム「【エンドポイントセキュリティを強化!】ヴィンクスがMicrosoft Defenderに切り替えた理由とは」を読む




関連コラム「【解決率100%!?】実践!社内問い合わせ対応へのAI活用」を読む


 

この記事へのお問合せ

今富 一孝 Kazutaka Imatomi

セキュリティ強化委員会 副委員長

技術管理部
情報システム室
スペシャリスト

詳しくはこちら