もっと良い問題があります

AI によって生成されたコンテンツは、前例のない規模でインターネット、企業、学校を汚染し始めています。 場合によっては、生成された AI コンテンツにフラグを立てるよりも人間のテキストを検出する方が簡単な場合があります。 少なくとも、それらは相互に補完し合うことができます。

AI 生成コンテンツの急速な成長により、AI ベンダーが AI 生成コンテンツを検出するツールをどのように改善できるかについての議論が高まっています。 これは重要な願望ですが、この種のアプローチはすでにテキストとしては不十分です。 AIのセキュリティを侵害したり、民主主義を不安定化させたりしようとする「ブラックハット」だけではありません。 怠惰な学生、無理をしすぎた従業員、悪徳製品マーケティング担当者、データラベル付けの搾取工場などは、簡単な編集でほとんどの安全装置を簡単に破ってしまいます。 より良いアプローチは、パラ言語メタデータと公開キー暗号化の組み合わせを使用して人間を検出することかもしれません。

そして、その出所の連鎖を確立するのに役立つツールが登場しています。 以前 diginomica について書いたように、ビデオ、オーディオ、画像の AI コンテンツ検出器は、電子透かしツールと知的財産保護の長い歴史を活用することができます。 ただし、AI が生成したテキストを自動的に検出するツールは、解決するのがはるかに難しい問題です。 電子透かしをプレーン テキストに埋め込むのは非常に困難です。 統計パターン、奇妙な文法の使用法、さらには句読点の規則をテキストに埋め込むことにおいて、興味深い進歩が見られます。 その一例として、Google がコンテンツを直接コピーしていることを証明するために、音楽の歌詞に奇妙なパターンを埋め込もうとする Genius の取り組みがありました。 しかし、この訴訟は裁判で勝訴することができなかった。

世界中の学校システムは、大規模言語モデル (LLM) を活用した生成 AI の最近の進歩が、生徒のカンニング行為を加速させることを懸念しています。 長期的には、この取り組みが成功すれば、企業や政府を効果的に運営できず、教育もできない無能な労働者が大量に生まれるかもしれない。 しかし、これは学問的な問題だけではありません。 各国政府は、悪質な製品やサービスのレビュー行為に関する法律を制定し始めています。 英国は現在、製品レビューを書く際に金銭や無料の商品を交換することを禁止するデジタル市場・競争・消費者法案の審議を進めている。 同様の法律が、より自動化されたアプローチにまで拡大されるのは時間の問題です。たとえば、悪徳マーケティング担当者が偽の人間を大勢集めて自社製品の素晴らしさを誇示したり、競合製品の悪口を言ったりするような行為です。

そして、データラベル付け会社は、次世代AIのトレーニングのためにコンテンツにラベルを付けるために報酬をもらった人間の分散ネットワークに取り組み始めている。 これらは、将来の AI ツールが画像内のオブジェクトの識別を向上させたり、有害なコンテンツを精査したり、新しいエンタープライズ AI アプリのパフォーマンスを向上させたりするために不可欠です。 懸念の 1 つは、過重労働のデータラベル作成者が ChatGPT やその他の LLM に頼る可能性があることです。 これは、データの生産性や一部のデータのラベル付けタスクには最適かもしれません。 欠点は、AI が生成したコンテンツで LLM をトレーニングすると、新しいモデルが同様に機能しなくなる AI モデルの崩壊につながる可能性があることです。

数年前、銀行業界は新しいオンライン サービスによる詐欺の増加に悩まされていました。 一方、成長するサブスクリプション経済は、個人が友人や家族と価値の高い情報サービスのパスワードを共有するパスワード共有に苦戦していました。 パスワードのテキストだけでなく、パスワードの入力方法に関するメタデータにも多くの情報が埋め込まれていることが観察されました。 入力スタイル、リズム、リズムがさまざまであるため、人々は実際の文字を大きく異なる方法で入力する傾向があります。 さまざまなチームがこれを行動バイオメトリクス、キーストローク ダイナミクス、またはパラ言語メタデータと呼んでいます。 これらの技術のさまざまなフレーバーを使用して、概念をマウス技術や音声入力に拡張することもできます。

学術分野では、これらの行動指標の測定値を新世代のワードプロセッサに組み込むことは理にかなっています。 まったく新しいアプリを開発する必要さえないかもしれません。 これらは、既存のワード プロセッサ、Web アプリ、その他のツールが利用できるオープンソース ライブラリに簡単に組み込むことができます。