中国発AIソーシャル工作のゾッとする実態をMicrosoftがレポートSocial Media Today

Microsoftが中国を拠点とする影響力工作の増加についてのレポートを発表した。これは米国におけるTikTok禁止を巡る議論について考えるヒントとなるものだ。

» 2024年05月03日 09時00分 公開
[Andrew HutchinsonSocial Media Today]
Social Media Today

 プライベートでも仕事でもTikTokを愛用している人が多いことはよく知っている。そして、米国でTikTokを禁止すべきかどうかという議論がしばしば感情的で、真っ当な論理に基づくものでないことも承知している。

 しかし、中国を拠点とする影響力工作を巡広範な証拠に基づけば、少なくともTikTokを調査し、このような活動を永続化させている情報源とTikTokが関係している可能性があるかどうかを確認する理由はあるように思われる。

 例えばMicrosoftは2024年4月4日(米国時間)に最新の脅威分析アップデートを発表し、中国を拠点とするグループが、ソーシャルメディアの活動を通じて他の国々の有権者に影響を与えることを試みていると警告している。

日本の処理水問題にも中国のAI生成コンテンツが関与?

 Microsoft(外部リンク/英語)は以下のように説明する。

中国共産党(CCP)関係者による欺瞞的なソーシャルメディアアカウントは、米国の有権者を二分している重要な問題をより深く理解するために、論争の的になっている米国の国内問題について物議を醸す質問を投げかけ始めている。これは、米大統領選を前に、主要な投票層に関する情報を収集し、精度を高める目的である可能性がある。

 Microsoftはこれらの例を取り立てて共有し、中国が特に関心を持っている特定の問題について、米国の有権者の感情を把握するために、これらのフェイクアカウントがどのように使用されているかを強調した。

 実際、Microsoftの分析によると、これらのグループは、南シナ海での中国の活動、台湾、米国の防衛産業基盤に関連するトピックを標的とする傾向が強まっている。

 理論的には、これらのグループは中国の利益に最も合致する結果を導くために、米国の有権者に影響を与えるベクトルとして、偽アカウントを利用する可能性がある。

 Microsoftはさらに、ここ数カ月で中国のAIが生成したコンテンツの利用が増加していると指摘する:

2023年11月にケンタッキー州で発生した列車脱線事故、2023年8月に発生したマウイ島の山火事、日本の原子力発電所の廃水処理、米国内の薬物使用、移民政策や人種間の対立など、さまざまなトピックスについて、米国や他の地域に影響を与え、分断の種をまこうとする投稿が行われている。

 その目的はソーシャルメディアとフェイクアカウントを使用して、有権者の感情に影響を与えることだ。そして、これに基づけば、これらのグループがより多くの洞察とアクセス権を持っている中国所有のアプリは、同種の活動の標的としてさらに影響を受けやすいと考えなければならない。

 そして、TikTokは実際に影響力を持っている。TikTok自身が、今回の禁止令に反対する独自の取り組みを通じて、図らずもそれを増幅させてしまったのだ。

 このメッセージは米国のTikTokユーザーに対し、TikTokに代わって地元の上院議員への働きかけを促すもので、TikTokがユーザーの活動に直接影響を与える可能性があることを示している。米国には1億5000万人のユーザーがおり、メッセージの拡散に貢献する多くの視聴者を擁していることになる。

 また、このような中国ベースの影響力工作が事実上他の全てのソーシャルメディアで検出されていることを考慮すると、選挙戦に向けてTikTok自体がリスクを引き起こす可能性があること考えるのは全く合理的であるように思える。

 だからといってTikTokを禁止すべきなのか。それは、私にもあなたにも分からない。

 現在、米国でのTikTok禁止措置の採決を担当する米国の上院議員たちは、さまざまな安全保障機関から、私たち一般人がアクセスできない情報について説明を受けている。

 上院議員たちは私たちが知っているよりも多くの証拠を与えられているのかもしれないし、そうでないのかもしれない。いずれにしても、繰り返しになるが、私たちが知る限りの例から考えても、ソーシャルメディアにおける中国の干渉を疑うのは少なくとも妥当であるように思える。

 これはデータが盗まれているというのとはまた別の話なので、より広範な議論の中ではいささか本題から外れているかもしれない。そちらの議論については、Metaもまたユーザーデータを盗み、それを潜在的な悪意のある手段に使っているという反論もある。だが、本当に懸念すべきは影響力、そしてアプリに表示されるコンテンツによって意見を揺さぶる可能性についてだ。

 私は、こちらの方がはるかに重要な問題だと思う。Metaやその他の米国に拠点を置くソーシャルメディアもまた独自のコンテンツポリシーを通じて有権者の意見に影響を与えようとしてきたと主張する人もいるだろうが、これらは米国企業であり、自分たちに有利なように結果を誘導しようとする潜在的な外国の敵対勢力ではない。また、これらの企業は全て、答弁を求めて議会に引き出され、その結果として、より厳しい規制や罰金に直面してきた。ここは重要な違いだ。

 ちょうど今TikTokが直面している規制案は、本当のところアプリを禁止しようとしているのではなく、中国の所有権からの明確な分離を迫っているのだ。

 TikTokが好きかどうかという感情論はさておき、ここには筋が通っているように見える。

© Industry Dive. All rights reserved.