【ChatGPT/Bing chat】知っておきたい対話型AIを使う際のリスク

対話型AIを使う際のリスク

機密情報・個人情報の漏洩

ChatGPTやBing chatなどの対話型AIを使う際の最大のリスクは機密情報・個人情報の漏洩です。

対話型AIは、そのインターフェイスから「閉鎖された空間でのAIとユーザーの会話」と感じますが、実際にはAIが動作しているサーバーと通信をして会話を成立しており、会話情報は運営会社側で保持しています。

会話情報を運営側がどう保持するのか、どう使うのかは不明ですが、ChatGPTを運営しているOpenAIは、｢ChatGPTや他のサービスに投稿されたデータは、AIモデルの改良のために利用することがある｣としています。

つまり、例えば誤って機密情報を入力したところ、AIがその入力内容を学習して、他のユーザーへの回答に使ってしまう可能性があるのです。

誤情報を使ってしまうリスク

ChatGPTやBing chatは非常に高度な対話型AIですが、必ずしも正しい回答をするわけではありません。

対話型AIが正しい情報を回答しない原因は、ChatGPTのGPT-3.5なら2021年時点の学習データから回答しているからというのも一つですが、現在の対話型AIは、回答の正しさよりも「会話を成立させる」という点を重要視して回答している点は知っておくべきでしょう。

回答がスムーズで人間に近く、なんでも回答してくれるため「なんでも知っているスーパーAI」のように感じてしまいますが、実は「”それらしい”会話（回答）をする」というのが現状の機能で、その情報が正しいかどうかの判断は出来ません。

例えば、正しい回答に対して「間違っているよ」と入力し続けると、正しい回答をしていたのにも関わらず間違った回答をすることもあります。

AIサービスは非倫理的な質問、命や結構に関わる質問については回答しないようにチューニングされていますが、それでも誤情報を元に行動した結果、自身の想定しないリスクを負う可能性があります。

そのため、正確性が重要となるデータのソースとして対話型AIを使う際には、十分に注意と専門書や専門家への確認が必要です。

著作権法違反のリスク

対話型AIはインターネット上で公開されている情報を元に学習をしていますが、その中には著作権で保護されている情報も含まれます。

例えば、ChatGPTはある程度のプログラムを記述することが可能ですが、そのプログラムのソースがどこで取得したもので、誰が著作権を持っているものをソースに回答しているかは不明です。そのため、ChatGPTが回答したプログラムソースを公開したところ、どこかのオープンソースではないコードを使っていて、著作権違反になってしまったという可能性はあります。

同様に、歌詞や文章などを作成させる場合も、それが誰かの著作物のコピーである可能性は0ではありません。

自身の文章やプログラムを「要約させる」「テストさせる」など、自分のものを使う場合は問題ないですが、楽だからと言って安易にChatGPTなどに何かを作成させることは、リスクがあると理解しておきましょう。

リスク回避の方法

機密情報・個人情報を扱う人間には使用させない

現状では、ChatGPTやBing chatなどのサービスが運営している対話型AIを使う際に、機密情報・個人情報を守る方法はありません。そのため、現状では「機密情報・個人情報を扱う人間には使用させない」というのが最大のリスク回避策です。

Samusungの従業員が機密情報を含んだコードの修正をChatGPTにさせたというニュースが話題になりましたが、こうした事例が出てきていることから、すでに企業によっては、自社のネットワークからChatGPTなどにアクセスを禁止する（遮断する）という対策を取っているケースもあります。

ChatGPTやBing chatの登場以来、スタンドアローンで動作する対話型AIの開発も進んでいるため、そうしたスタンドアローン型の対話型AIを自社のクローズドな環境で利用するというものリスク回避の一つです。

正しい使い方を身につける

ChatGPTやBing chatなどの対話型AIは、自由度の高さと完成度の高さから、なんでも出来るように感じてしまいますが、必ずしも正しくもなく、完璧なAIでもありません。

ただし、きちんと使い方を学べばユーザーをサポートしてくれる有用なツールであることは間違いありませんので、まずは正しい使い方を身につけるのがリスク回避につながります。

そのためにも、ビジネスなどで対話型AIを使う場合はガイドラインや講習会を実施するのも一つでしょう。なんにせよ、いきなり自由に対話型AIをビジネスの場に導入するのは、現状ではリスクが高いということは知っておくべきです。