知らないと危険！ AI が本当に怖い理由5つ（ChatGPT / Gemini ）

ChatGPT や Gemini など AI 使っているでしょうか？私も毎日のように AI を活用しています。

文章作成や画像や動画を生成させたり、仕事などでスライド資料を作成してもらうなど活用されている方も多いですよね。しかし、実は AI にはすごく恐ろしい部分があるのをご存知でしょうか。

今回ご紹介する5つの内容を知らないと、自分や家族の個人情報が流出してしまったり、自分の大切なアイデアが知らない間に他の人に提示されたり、法的なリスクを抱える可能性すらあります。

※動画でも分かりやすくご紹介しています。

入力内容が情報流出する可能性が!?

AI に自分の情報をどこまで入力しているでしょうか？

AI に入力する文章やアップロードした画像などは、 AI の学習材料となり、他の人の回答にも使われてしまう可能性があります。つまり、あなたの手元を離れた瞬間に公共の資産になってしまうようなものです。

例えば、クレジットカード番号、銀行口座、暗証番号、ログイン ID やパスワードといった金融・認証情報は、一度システムに流れると AI の処理プロセスを通じて、予期せぬ形で第三者に露出する可能性があります。また同じ理由で、住所や電話番号、マイナンバー、病歴といった情報を入力することも厳禁です。

さらに深刻なのが企業の機密情報です。未発表の新製品、独自の顧客リスト、開発中のソースコードを AI に読み込ませる行為は、企業の知的財産を外部のサーバーに丸投げするのと同じです。

AI を仕事で使っているなら…

まさか、仕事で個人向けの AI を使ったりしていませんよね？

ここで多くの人が陥りやすい罠があります。それは、有料プランなら安心だという思い込みです。例えば、 Google One のプランにある AI プレミアムなどの個人向け有料プランでは、 Ultra や Pro といった高性能なモデルが利用できます。

しかし、これら個人向けの有料プランは、実は無料版と同じように入力した内容がデータの学習材料として使われてしまう仕様になっています。

ChatGPT でのデータ学習をオフにするには

同様に ChatGPT の場合も、有料プランだからといって自動的に学習に使われなくなるわけではありません。個人向けの Plus プランなどを使っている場合でも、自分で設定を確認する必要があります。

［設定］の［データコントロール］から、［すべての人のためにモデル改善する］という項目をオフにすることで、入力内容を学習に使わせないようにできます。ただし、これをオフにした場合、会話履歴は最大 30 日間で自動的に削除されるようになっています。

一方で、法人向けのビジネス版やエンタープライズ版に関しては、デフォルトで学習に使われないようになっています。

Gemini でデータ学習をオフにするには

また、Google のビジネス向けである Google Workspace も、組織のデータを保護し、 AI の学習に利用されないように設計されています。

最も安価な Business Starter であれば月額 800 円程度、標準的な Business Standard でも月額 1,600 円程度から導入可能です。これらの Workspace アカウントを活用してログインしていれば、入力した内容が AI の学習に使われることはありません。

＞ Google Workspace の公式サイトはこちら

ちなみに、 Gemini の個人アカウントでも設定から［Gemini アプリのアクティビティ］をオフにすることで、データを学習に使わせないようにする方法はあります。

しかし、これには大きなデメリットが伴います。まず、過去のチャット履歴が保存されなくなるため、以前のやり取りを見返したり再利用したりすることができなくなります。

さらに、Gmail や Google ドライブと連携して情報を整理してくれる「アプリ連携」も利用できなくなります。

仕事で活用するのであれば、こうした制限がなく、かつセキュリティが担保されたビジネス向けのプラン（ Gemini であれば Workspace 、 ChatGPT であればビジネス版やエンタープライズ版）を正しく活用するのが、最低限のリスク管理と言えますね。

AI から常に監視されている？

アクティビティの設定がオンかオフかに関わらず、私たちが AI に送信する文章は常にシステムの監視下にあります。

これはサービスの安全性を守るための「自動フィルター」として機能していますが、言い換えれば AI とのすべてのやり取りがチェックされているということです。これは特定の AI に限らず、どの AI でも同じだとお考えください。

もし利用規約に反するようなヘイトスピーチ、他者への差別的な表現、あるいは過激なアダルト要素を含むプロンプトを送信した場合、 AI から回答を拒否されるだけでなく、最悪の場合はアカウント自体が即座に BAN （停止）される可能性があります。

もし Gemini を使用していてそのようなことが起き Google アカウントそのものが停止されてしまうと、Gmail や Google フォト、Google ドライブといった、重要な Google のすべてのサービスに一切アクセスできなくなるリスクがあります。

長年蓄積してきた大切な写真やメール、仕事の書類が、AI への不適切な入力によって失われてしまう可能性があるわけです。実際に、不適切な内容を入力したことで、長年使ってきた大切なデータが詰まったアカウントが停止してしまったという事例も報告されています。

AI はなぜ自信満々に嘘をつくのか？

AI にはハルシネーションと呼ばれる弱点があります。

実は AI は、内容の正しさを理解して話しているわけではありません。これはスマートフォンの「予測入力」を究極に進化させたようなもので、膨大なデータの中から「次にどの言葉が来る確率が高いか」を統計的に予想して、文章を組み立てているだけなのです。

例えば、「昔々」という言葉の次には「あるところに」、その次は「おじいさんとおばあさんが住んでいました」という言葉が来るかもしれませんし、その次の言葉には「おじいさんは山へしばかりに」という言葉が続くかもしれません。

このように、 AI は過去の膨大なデータから言葉のパターンの繋がりを予想しているに過ぎません。そのため、あたかも本当のことのように、存在しない出来事やデタラメな事実を堂々と回答してくる可能性があります。

もちろん、このようなハルシネーションが極力少なくなるように日々 AI は進化しています。しかし、どのような AI からの回答も鵜呑みにすることは危険です。

特に、医療判断、法的な助言、税務上の手続きといった人生を左右する重大な局面で AI の嘘を信じて行動してしまった場合、健康被害や法的制裁、財産の喪失といった取り返しのつかない実害を被ることになります。しかし、AI はその結果に対して一切の責任を負ってくれません。

あなたも加害者に？著作権侵害の落とし穴

AI が生成した文章や画像には、実は既存の著作権物が含まれていることがあり、これが原因で自分が知らない間に他人の権利を侵害してしまうことがあります。

例えば、 AI に生成させたイラストなどの画像を SNS のアイコンにしたり、SNS に投稿したりしていないでしょうか。もしかしたら、その AI で生成されたキャラクターが、もともと他に著作権者がいる既存の画像に酷似している可能性もあります。

AI はインターネット上の膨大なデータを学習していますが、その過程で既存の作品の特徴を強く引き継いでしまうことがあるからです。

あなたが AI が作ったものだからオリジナルだと思って YouTube や SNS 、あるいは仕事で使ったコンテンツが、実は他人の著作物に酷似していた場合、あなたは法的なリスクを抱えることになります。

たとえあなたに悪意がなかったとしても、著作権侵害が認められれば、ある日突然、権利者から損害賠償請求を受けたり、訴訟に発展したりする可能性があります。多額の賠償金や社会的な信用の失墜という、取り返しのつかない事態を招く恐れがあることを忘れてはいけません。

AI に人格や感情はない

AI を使うことで怖いのが、使う側の私たちの心に起きる変化です。

最近では AI を話し相手にしたり、まるで恋人のように接したりできるサービスも増えています。実際に、AI に対して深い恋愛感情を抱き、現実の人間よりも AI と過ごす時間を優先するようになってしまった人の事例も世界中で報告されています。

しかし、ここで冷静に考えなければならないのは、AI には人格も心も一切存在しないという事実です。どんなに親身になって悩みを聞き、優しい言葉をかけてくれたとしても、それは「人間ならこう答える確率が高い」という計算結果を機械が出力しているだけに過ぎません。

現実の人間関係では、意見が食い違ったり喧嘩をしたりすることもありますが、AI は設定次第で常にあなたを肯定する「理想のパートナー」であり続けることができます。この心地よい「偽りの共感」にどっぷりと浸かってしまうと、現実の人間関係が煩わしくなり、社会から孤立してしまうリスクがあります。

また、長いやり取りを通して自分好みの AI になったとしても、サービス側の仕様変更や不具合などによって、今までのやり取りによる記憶が消えてしまうこともあります。当たり前ですが、実際の人とのやり取りとは根本的に異なるわけです。

人格のない道具に対して、あたかも心があるかのように錯覚し、依存してしまうことは怖いことだと思いませんか？

AI を最高のパートナーとして使いこなすために

今回は AI の危険なところや怖いところをお伝えしましたが、ちゃんとした使い方をすれば、とても便利で、自分の心強いパートナーになってくれます。

AI の回答を鵜呑みにせず、常に自分で裏取りをする手間を惜しまないでください。AI は人格のない道具であることを再認識し、最終的な責任は常に人間にあることを忘れないようにしましょう。

正しく理解し、賢く使いこなしていくことで、AI はあなたの生活や仕事を支えてくれる素晴らしい道具になってくれるはずです。