Home-theater-designers
チャットボットは何年も前から存在していましたが、ChatGPT や Google Bard などの大規模な言語モデルの台頭により、チャットボット業界に新たな息吹が与えられました。
現在、世界中で何百万人もの人々が AI チャットボットを使用していますが、これらのツールのいずれかを試してみたい場合は、いくつかの重要なプライバシー リスクと懸念事項に留意する必要があります。
1. データ収集
ほとんどの人は挨拶のためだけにチャットボットを使用しているわけではありません。最新のチャットボットは、複雑な質問やリクエストを処理して応答するように設計されており、ユーザーはプロンプトに多くの情報を含めることがよくあります。たとえ単純な質問だったとしても、それが会話の範囲を超えてしまうのは望ましくありません。
によると OpenAIのサポートセクション 、ChatGPT チャット ログはいつでも削除でき、それらのログは 30 日後に OpenAI のシステムから完全に消去されます。ただし、有害または不適切なコンテンツのフラグが立てられた特定のチャット ログについては、同社が保存して確認します。
別の人気の AI チャットボットである Claude も、以前の会話を追跡します。 Anthropic のサポート センター Claude は、「製品内のプロンプトと出力を追跡し、制御に従って長期にわたり一貫した製品エクスペリエンスを提供する」と述べています。クロードとの会話を削除すると、あなたが話した内容を忘れることができますが、これは Anthropic がシステムからあなたのログをすぐに削除するという意味ではありません。
もちろん、これには疑問が生じます。私のデータは保持されているのでしょうか? ChatGPT または他のチャットボットは私のデータを使用しますか?
しかし、懸念はここで終わりではありません。
マザーボードを調べる方法
ChatGPT はどのように学習するのでしょうか?
情報を提供するために、大規模な言語モデルが膨大な量のデータでトレーニングされます。によると 科学の焦点 , ChatGPT-4 だけでも、トレーニング期間中に 3,000 億ワードの情報が供給されました。これはいくつかの百科事典からそのまま抜粋したものではありません。むしろ、チャットボット開発者は、インターネットからの大量の情報を使用してモデルをトレーニングします。これには、書籍、映画、記事、Wikipedia エントリ、ブログ投稿、コメント、さらにはレビュー サイトのデータが含まれる場合があります。
チャットボット開発者のプライバシー ポリシーによっては、前述のソースの一部がトレーニングで使用されない場合があることに注意してください。
多くの人が ChatGPT を批判し、プライバシーの観点からは悪夢のようなものであると主張しています。 ChatGPT は信頼できません 。では、なぜこのようなことが起こるのでしょうか?
ここで物事が少し曖昧になります。 ChatGPT-3.5 に製品レビューや記事のコメントにアクセスできるかどうかを直接尋ねると、断固として否定されるでしょう。以下のスクリーンショットでわかるように、GPT-3.5 には、トレーニング中にユーザーの記事コメントや製品レビューへのアクセスが与えられていなかったと記載されています。
むしろ、「2021 年 9 月までにウェブサイト、書籍、記事、その他の公的に入手可能な文書を含む、インターネット上のさまざまなテキスト」を使用してトレーニングされました。
しかし、GPT-4 についても同じでしょうか?
GPT-4に問い合わせたところ、チャットボットのトレーニング期間中に「OpenAIは特定のユーザーレビューや個人データ、記事のコメントなどは使用しなかった」とのことだった。さらに、GPT-4 は、その応答が「主に書籍、記事、インターネット上のその他のテキストで構成される、トレーニングに使用されたデータのパターン」から生成されていると述べました。
私たちがさらに調査したところ、GPT-4 は、確かに特定のソーシャル メディア コンテンツがトレーニング データに含まれている可能性があるが、作成者は常に匿名のままであると主張しました。 GPT-4は具体的に、「たとえRedditのようなプラットフォームからのコンテンツがトレーニングデータの一部であったとしても、特定のコメント、投稿、または個々のユーザーにリンクバックできるデータにはアクセスできない」と述べている。
GPT-4 の応答のもう 1 つの注目すべき部分は、「OpenAI は使用されているすべてのデータ ソースを明示的にリストしていない」です。もちろん、OpenAI が 3,000 億語相当のソースをリストするのは難しいでしょうが、これには推測の余地が残されています。
で アルステクニカの記事 、ChatGPTは「同意なしに取得した個人情報」を収集すると述べられています。同じ記事の中で、コンテキストの完全性について言及しました。これは、誰かの情報を、最初に使用されたコンテキスト内でのみ使用することを指す概念です。 ChatGPT がこの文脈上の整合性に違反すると、人々のデータが危険にさらされる可能性があります。
ここでのもう 1 つの懸念点は、OpenAI の準拠性です。 一般データ保護規則 (GDPR) 。これは、国民のデータを保護するために欧州連合によって施行された規制です。イタリアやポーランドを含むヨーロッパのさまざまな国は、GDPR への準拠に関する懸念から、ChatGPT に対する調査を開始しました。短期間ではありましたが、ChatGPT はプライバシー上の懸念からイタリアでも禁止されました。
OpenAIは過去にAI規制計画を理由にEUからの離脱をちらつかせたが、その後撤回された。
ChatGPT は現在最大の AI チャットボットかもしれませんが、チャットボットのプライバシー問題はこのプロバイダーに始まり、終わるわけではありません。プライバシー ポリシーが不十分ないかがわしいチャットボットを使用している場合、会話が悪用されたり、非常に機密性の高い情報がトレーニング データに使用されたりする可能性があります。
2. データの盗難
他のオンライン ツールやプラットフォームと同様、チャットボットはサイバー犯罪に対して脆弱です。たとえチャットボットがユーザーとそのデータを保護するために全力を尽くしたとしても、精通したハッカーがチャットボットの内部システムに侵入する可能性は常にあります。
特定のチャットボット サービスにプレミアム サブスクリプションの支払い詳細や連絡先データなどの機密情報が保存されている場合、サイバー攻撃が発生した場合にその情報が盗まれ、悪用される可能性があります。
これは、開発者が適切なセキュリティ保護に投資していない安全性の低いチャットボットを使用している場合に特に当てはまります。会社の内部システムがハッキングされる可能性があるだけでなく、ログイン アラートや認証レイヤーがなければ、自分のアカウントも侵害される可能性があります。
AI チャットボットの人気が非常に高まっている現在、サイバー犯罪者は自然とこの業界を詐欺に利用しようと群がってきています。 2022 年後半に OpenAI のチャットボットが主流になって以来、偽の ChatGPT ウェブサイトとプラグインが大きな問題となっており、人々が詐欺に引っかかったり、正当性や信頼性を装って個人情報を漏洩したりしています。
2023 年 3 月、MUO は次のことを報告しました。 Facebook ログインを盗む偽の ChatGPT Chrome 拡張機能 。このプラグインは Facebook のバックドアを悪用して、有名アカウントをハッキングし、ユーザーの Cookie を盗む可能性があります。これは、何も知らない被害者を騙すことを目的とした数多くの偽の ChatGPT サービスの一例にすぎません。
3. マルウェア感染
気づかずに怪しいチャットボットを使用している場合、チャットボットが悪意のある Web サイトへのリンクを提供していることに気付く可能性があります。おそらく、チャットボットが魅力的なプレゼントについて警告したり、その発言のソースを提供したりしている可能性があります。サービスの運営者に不正な意図がある場合、プラットフォームの目的は、悪意のあるリンクを介してマルウェアや詐欺を拡散することになる可能性があります。
あるいは、ハッカーが正規のチャットボット サービスを侵害し、それをマルウェアの拡散に使用する可能性があります。このチャットボットがたまたま非常に人間的であれば、数千、さらには数百万のユーザーがこのマルウェアにさらされることになります。 偽の ChatGPT アプリは Apple App Store にも登場しています , なので慎重に歩くのが一番です。
一般に、チャットボットが提供するリンクは、事前にクリックしないでください。 リンクチェック Web サイト経由で実行する 。これは腹立たしいように思えるかもしれませんが、誘導されるサイトが悪意のあるデザインになっていないことを確認することが常に最善です。
さらに、チャットボットのプラグインや拡張機能は、その正当性を最初に確認せずにインストールしないでください。アプリについて少し調査して、よくレビューされているかどうかを確認し、アプリの開発者を検索して、何か怪しい点がないかどうかを確認します。
チャットボットはプライバシー問題に影響されないわけではない
最近のほとんどのオンライン ツールと同様に、チャットボットはセキュリティとプライバシーの落とし穴の可能性があるとして繰り返し批判されてきました。チャットボット プロバイダーがユーザーの安全性に関して手を抜いている場合でも、サイバー攻撃や詐欺の継続的なリスクがある場合でも、チャットボット サービスがユーザーから何を収集しているのか、そして適切なセキュリティ対策が講じられているかどうかを把握することが重要です。