ロシアのbotファームがXを標的に虚偽情報を拡散 どうしてこうなった？：Social Media Today

ロシアによる生成AIとソーシャルメディアを使った世論操作が活発化している。標的とされているプラットフォームの一つが、Xだ。

[Andrew Hutchinson，Social Media Today]

　イーロン・マスク氏がXを買収した際に「botを倒すか、死ぬかのどちらかだ」と誓ったことを覚えているだろうか。当時、マスク氏はbot数に関する数字が不正確であるとして旧Twitter管理部門と法廷闘争を繰り広げていた。Twitterは長い間、アクティブユーザーの約5%がbotであるとしてきたが、マスク氏は自身のチームの調査に基づき、それが30%に近いと主張したのだ。

　そして今、マスク氏のものとなったXにおいて、botとの戦いの進展はどうなっているのかといえば、これがどうやら、あまりうまくいっていないようだ。

bot排除を誓ったマスク氏のX　戦術に不備はなかったのか？

　Webメディア「Wired」の報道（外部リンク／英語）によると、Xはウクライナの大統領夫人が米国の支援資金でブガッティの高級車を購入したという虚偽の話を増幅させる上で主要な役割を果たしている。一方で米司法省（外部リンク／英語）も、ロシアが自国の利益になるよう世論を動かす目的でボットファームを設計し、Xがそのホストになっていることを特定した。

　1つ目のレポートは、西側の観衆を惑わすための話をまいているロシア拠点の虚偽情報ネットワークに関するものである。

　その一つは、架空のニュース媒体で共有され、ウクライナ大統領ヴォロディミル・ゼレンスキーの妻オレナ・ゼレンスカがフランス旅行中にブガッティを注文したと示唆していた。

　その報告は「ドッペルゲンガー」botネットワークを通じてXで瞬く間に拡散された。

　「Wired」は以下のように報告している。

その時点で、ブガッティはこの話を否定する声明を発表していた。しかし、この虚偽情報はX上で急速に拡散され、多くの親クレムリン派アカウントによって投稿された後、260万人のフォロワーを持つ親ロシアにして親トランプのトロール（荒らし）であるジャクソン・ヒンクルによって拾われた。ヒンクルはその話を共有し、車は『米国の納税者のお金』で購入されたと付け加えた。

　その結果、いくつかのニュースサービスでこの話がトレンドとなり、特に大きなXアカウントを通じて増幅されることで正当性を持つに至った。

　では、なぜそれがXによって早期に捕捉され、制限されなかったのか。

　この点に関しては多く潜在的な失敗があり、その全てがX固有のものはない。しかし、Xが社内のモデレーションスタッフではなく、「コミュニティノート」を通じたクラウドソースのファクトチェックに依存するようになったこと、また、このようなデマに対してより手をかけないようになったことが、このデマが勢いを増す一因となったようだ。

　そしてそれは、2つ目の報告書に基づくと、このような事件は数多くあるうちの一つにすぎないかもしれない。

　2024年7月9日、司法省は2つのドメイン名を押収し、968のソーシャルメディアアカウントを捜索したことを発表した。これらは、ロシアの行為者が「米国および海外で虚偽情報を拡散するためにAIを強化したソーシャルメディアbotファームを作成する」ために使用されたものである。

　司法省は以下のように述べている。

ソーシャルメディアbotファームは、AIの要素を使ってソーシャルメディアに架空のプロファイルを作成した。その多くは米国内の個人のものと見せかけ、運営者はこれらのプロファイルを使用してロシア政府の目標を支持するメッセージを広めた。

　このbotファームは、国営ロシアニュース組織RTの元副編集長によって作成された。そして、それが主に稼働していたネットワークはどこかと言えば、お察しの通りだ。

　公平を期すために言っておくと、司法省はXが既に相当数のbotプロファイルを特定して停止しており、司法省が特定したアカウントが公開されるとそれらも全て削除したことを指摘している。

　しかしやはり、この件はXに依然としてbot問題が残っており、マスク氏のbot撲滅の公約が当初考えていたよりも実現が難しいかもしれないことを示唆している。

　当然のことながら、あらゆるプラットフォームが何年もかけてbotやスパムと戦ってきたにもかかわらず、それらは依然として存在している。真実は、botとの戦いは難しいということだ。マスク氏はそれらを打ち負かす方法について、いくつかのアイデアを持っていたかもしれないが、問題なのは、悪質な行為者は順応してしまうということであり、あらゆる解決策が彼らの活動方法に新たな変化をもたらすということだ。

　だからこそ、多くの人々はマスク氏の自信過剰なbot根絶の主張に懐疑的だった。彼の初期の計画は、全ての人間ユーザーがXプレミアムにサインアップすることに依存していた。そうすれば結果的にbotがストリーム内で目立つようになると目論んでいたのだ。

　それは決して実現しなかった。そして今問題なのは、Xの2億5000万のデイリーアクティブユーザーのうち、実際にどれだけがbotなのかということだ。

　旧Twitterが主張したように5%なのか、マスク氏がかつて言ったように30%なのか。

　私たちがそれを知ることはないかもしれない。なぜなら、Xは公開企業ではなく、その業績について公的な報告を提供する義務がないからだ。

　しかし、ねつ造と誤報を煽るためにbotが依然としてXを標的にしていることは明らかだ。

原文：Russian Bot Farms Targeting X To Spread Misinformation（Social Media Today）