AI の音声は、ディープフェイクである可能性があるとわかっていても見分けるのが困難です

2019年、英国企業の取締役が詐欺に遭った。 彼はマネージャーから、サプライヤーに22万ユーロ（24万ドル）を送金するよう求める偽のボイスメールを受け取った。 1年後、香港の銀行支店長に懐かしい人物から電話がかかってきた。 彼らには既存の取引関係があったため、銀行家は何かが間違っていることに気づく前に 400,000 ドルを送金しました。 人工知能 (AI) の音声クローン技術を利用したこのような詐欺はますます頻繁になっており、AI の急速な進歩に伴い、訓練を受けた人が特別なツールを使用しても、ディープフェイク音声の検出はますます困難になるでしょう。

Plos One に掲載された 529 人の参加者を対象とした最近の研究では、人間は本物の音声メッセージと偽の音声メッセージを正確に区別するのに苦労していることが明らかになりました。 この研究では、参加者が音声ディープフェイクを検出しようとした場合、25% の確率で失敗し、トレーニングを行っても効果が最小限であることがわかりました。 参加者の半数は、5つの合成音声のサンプルを聞くという事前トレーニングを受けましたが、そのパフォーマンスは、トレーニングを受けていないグループよりわずか3%向上しました。

ユニバーシティ・カレッジ・ロンドン（英国）の研究者らによる研究も、異なる言語の特性に応じて課題が簡単か難しいかを理解することを目的としており、英語と北京語でテストを実施した。 調査結果は、両方のグループがメッセージの信頼性を同等に評価したことを示しています。 彼らは、自然さ、ロボットのような声の欠如などの属性を重要な要素として考慮しました。 「英語圏の参加者も北京語圏の参加者も、意思決定プロセスに影響を与える要因として、サウンドクリップ内の間違った発音や非典型的なイントネーションを頻繁に挙げていました」と、この研究の筆頭著者であるキンバリー・マイ氏は述べた。

参加者は、回答の正確さに関係なく、同じ特徴について言及しました。 オーディオは主観的なものだからです。 物体や背景を観察することで真偽を判断できる視覚的なディープフェイクの検出とは異なり、音声の主観的な性質により認識がさらに変化します。 「偽の可能性のある人物の画像を見るとき、指の数を数えたり、服やアクセサリーが一致しているかどうかを確認したりできます」とマイ氏は言います。

人間の能力と技術的な能力を比較するために、研究者らは 2 つの自動検出システムもテストしました。 最初に使用されたソフトウェアは、無関係なデータベースでトレーニングされ、人間の応答と同様の 75% の精度を達成しました。 2 番目の検出器は、オリジナルと合成音声の両方のバージョンでトレーニングされ、偽の音声と本物の音声を識別する精度が 100% に達しました。 マイ氏によると、高度なプログラムは、人間にはできない微妙な音響のニュアンスを認識する能力があるため、人間よりも優れたパフォーマンスを発揮します。

人間の音声のような複雑な音は、さまざまな周波数で構成されています。 周波数とは、1秒間に音波が繰り返される回数を指します。 「トレーニング段階で、自動検出器は何千もの音声サンプルを分析し、人間には識別できない特定の周波数レベルの特殊性やリズムの不規則性を学習します」とマイ氏は述べています。

自動検出器はこの作業において人間よりも効果的であることが示されていますが、限界もあります。 まず、日常的には使用できません。 さらに、音声レベルが変動したり、騒音の多い環境ではパフォーマンスが低下します。 しかし、主な課題は、より現実的なコンテンツをより迅速に合成する生成人工知能の進歩に追いつくことです。 以前は、ディープフェイクを作成するプログラムのトレーニングには何時間もの記録が必要でしたが、現在では数秒で完了できます。

この分野の専門家であるフェルナンド・クキエッティ氏によると、この研究結果には一定の限界があるという。 実験条件は厳密に制御されており、この技術によってもたらされる実際の課題を反映したものではありませんでした。 「ディープフェイクは、模倣されている人物を個人的に知っている場合など、ディープフェイクが問題を引き起こす可能性がある状況では実際には実用的ではありません」と、スペインのサイエンスメディアセンターのバルセロナスーパーコンピューティングセンターでデータ分析および視覚化の責任者を務めるクキエティ氏は言う。 しかし、クキエッティ教授は、これらの発見は管理された環境で行われた他の研究と一致しており、「…結​​果は、誤った情報に関する研究で見られるような、偏見や先入観などの要因の影響をあまり受けていない」と指摘しています。