Home-theater-designers
人工知能 (AI) は、私たちが好むと好まざるにかかわらず、ワールドワイドウェブを含む社会全体を変革するでしょう。
ChatGPT のようなソフトウェアはインターネット接続があれば誰でも利用できるため、AI が生成したコンテンツと人間が作成したコンテンツを区別することがますます困難になっています。 AI コンテンツ検出機能があるのは良いことですよね?
その日のメイクアップビデオ スクロールしてコンテンツを続けてください
AI コンテンツ検出機能は機能しますか?
AI コンテンツ検出器は、何かがコンピューター プログラムによって書かれたのか人間によって書かれたのかを判断する特殊なツールです。 「AI コンテンツ ディテクタ」という単語を Google で検索すると、次のことがわかります。 何十もの検出器があります それらはすべて、人間のテキストと人間以外のテキストを確実に区別できると主張しています。
その仕組みは非常にシンプルです。文章を貼り付けると、ツールがそれが AI によって生成されたかどうかを教えてくれます。より技術的な用語で言えば、自然言語処理技術と機械学習アルゴリズムを組み合わせて使用し、AI コンテンツ検出器はパターンと予測可能性を探し、それに基づいて呼び出しを行います。
位置情報サービスがオフの場合、電話を追跡できますか
これは机上では素晴らしく聞こえますが、AI 検出ツールを使用したことがある方なら、控えめに言っても、それが当たり外れがあることをよくご存知でしょう。多くの場合、人間が書いたコンテンツが AI として検出されたり、人間が作成したテキストが AI 生成として検出されたりします。実際、やるべきことが恥ずかしいほど下手な人もいます。
AI コンテンツ検出器の精度はどのくらいですか?
米国にお住まいの場合、「AI コンテンツ ディテクタ」の最初の Google 検索結果は、writer.com (以前は Qordoba として知られていました。これは独自のディテクタも備えた AI コンテンツ プラットフォームです) です。しかし、このランダムなセクションを貼り付けると、 AP通信 このツールに記事を投稿すると、それが人工知能によって生成された可能性が非常に高いと主張しています。
つまり、writer.comは間違っているのです。
公平を期すために言うと、他の AI コンテンツ検出器より優れたものはほとんどありません。これらは誤検知を引き起こすだけでなく、AI コンテンツを人間としてマークします。そうでない場合でも、AI が生成したテキストに微調整を加えるだけで十分合格できます。
2023 年 2 月、ウロンゴン大学のアーミン・アリマルダニ講師と UNSW シドニーのエマ・A・ジェーン准教授は、多数の人気のある AI コンテンツ検出器をテストし、どれも信頼できるものではないことを証明しました。で発表された彼らの分析では、 会話 , アリマルダニ氏とジェーン氏は、テキスト生成者と検出者の間で行われるこのAIの「軍拡競争」は、将来、特に教育者にとって大きな課題となるだろうと結論付けた。
しかし、懸念する理由があるのは教育者や教師だけではありません。誰もが懸念しています。 AI が生成したテキストが遍在し、何が「本物」なのか、何がそうでないのかを区別できるようになると、 つまり、何かが AI によって書かれたものを実際に発見する 、さらに難しくなります。これは、社会のほぼすべての業界や分野、さらには個人的な関係にまで多大な影響を与えるでしょう。
AI がサイバーセキュリティとプライバシーに与える影響
何かがソフトウェアによって作成されたのか人間によって作成されたのかを判断する信頼できるメカニズムがないという事実は、サイバーセキュリティとプライバシーに重大な影響を及ぼします。
脅威アクターはすでに ChatGPT を使用してマルウェアを作成する 、フィッシングメールの生成、スパムの作成、詐欺サイトの作成など。それを防ぐ方法はありますが、オーガニック コンテンツとボット コンテンツを確実に区別できるソフトウェアがないことは確かに心配です。
フェイクニュースもすでに大きな問題になっています。生成 AI を活用することで、偽情報エージェントは前例のない方法で活動を拡大できるようになります。一方、一般の人には、オンラインで読んでいるものがソフトウェアによって作成されたのか、人間によって作成されたのかを知る方法がありません。
プライバシーはまったく別の問題です。 ChatGPT を例に考えてみましょう。そうだった 3,000億語以上の単語を入力 発売前。このコンテンツは、書籍、ブログ、フォーラムの投稿、記事、ソーシャル メディアから引用されたものです。それは誰の同意もなく、一見プライバシーと著作権保護を完全に無視して収集されました。
次に、誤検知の問題もあります。コンテンツが誤って AI によって生成されたものとしてフラグ付けされた場合、それは検閲につながる可能性はありませんか? いずれにせよ、これは大きな問題です。言うまでもなく、AI が作成したテキストの使用で告発される損害は、オンラインと実生活の両方でその人の評判に影響を及ぼす可能性があります。
実際に生成 AI とコンテンツ検出器の間で軍拡競争が起こっている場合、前者が勝利します。さらに悪いことに、解決策はないようです。私たちの製品は半分も機能しない、または簡単にだまされてしまう中途半端な製品ばかりです。
AI コンテンツを検出する方法: 潜在的な解決策
現時点ではこの問題に対する本当の答えがないようですが、将来も答えが出ないという意味ではありません。実際、機能する可能性のある深刻な提案がすでにいくつかあります。透かしはその1つです。
AI と深層言語モデルに関して言えば、透かしとは、AI が生成したテキスト (単語パターン、句読点スタイルなど) にある種の秘密のコードを埋め込むことを指します。このような透かしは肉眼では見えないため、削除することはほぼ不可能ですが、専用のソフトウェアを使用すれば検出できます。
スナップチャット用のフィルターをどのように作成しますか
実際、2022 年に遡ると、 メリーランド大学 研究者らは、人工ニューラル ネットワーク用の新しい透かし手法を開発しました。主任研究者のトム・ゴールドスタイン氏は当時、彼のチームは透かしを完全には除去できないことを「数学的に証明」できたと述べた。
当面、普通の人ができることは、自分の本能と常識に頼ることです。読んでいるコンテンツに何か違和感がある場合、つまり不自然、繰り返し、想像力に欠け、陳腐に感じられる場合、それはソフトウェアによって作成されたものである可能性があります。もちろん、オンラインで見る情報をすべて確認し、ソースを再確認し、怪しげな Web サイトに近づかないようにする必要もあります。
AI革命が進行中
デジタルと物理の融合と言われているものの中心に人工知能が登場するため、第5次産業革命はすでに到来していると主張する人もいる。本当にそうなのかどうかは別として、私たちにできることは適応することだけです。
良いニュースは、サイバーセキュリティ業界がこの新たな現実に適応し、AI と機械学習を最前線に据えた新しい防御戦略を導入していることです。