「ディープフェイク」が本当に危険な理由とは？ AIが変えるソーシャルメディア5つのシナリオ【前編】：Social Media Today

AIはソーシャルメディアマーケティングと広告の分野で効率と効果を大幅に向上させている。この先に待ち受ける大きな変革とはどのようなものだろうか。

[Andrew Hutchinson，Social Media Today]

　MetaやXがAIへの注力を強めており、他のソーシャルメディアも、より多くのAI機能を統合しようとしている。これがソーシャルメディアの未来にどう影響し、私たちの相互作用の構造にどのような広範な影響を与えるのだろうか。

　どのように捉えようとも、ソーシャルメディアは現代のコミュニケーションにおいて欠かせない要素となっている。Facebookの月間アクティブユーザー数は約30億人に達し、多くの人々が定期的にログインし、家族や友人の近況を知るためにこのプラットフォームを利用している。30億人という数字は、世界人口の37%に相当する。さらに、Facebookが利用できない人々が数十億人規模で存在することを考慮すれば（中国など一部の国では禁止されており、インターネット環境が整っていない地域も多い）、このユーザー数は前例のない規模のグローバルなエンゲージメントを示している。

　そうした状況の中、Metaが自社アプリにAIアカウントを導入する可能性があると報じられている（関連記事：「MetaがAIアカウント導入を本気で計画　うまくいくのか？」）、それはどのような影響をもたらすのだろうか。

　エンゲージメントの増加はMetaにとっては確かにプラスだが、実際にキーボードを叩いてAIと対話する「人間」にとっても、それは良いことなのか。

　これは、生成AIがソーシャルメディアに与える影響の一例にすぎない。ここからは、AIの進化がもたらす重要な変化について、5つの視点から考えてみたい。

1. AIアカウントが跋扈するソーシャル世界で人間が受ける影響は……

　Metaの幹部が、人間のように投稿したり交流したりするAIキャラクターを自社のアプリにすぐに組み込む予定であると述べた際、多くのユーザーの間で警戒感が広がった。

　もっとも、これは全く前例のない話というわけではない。botアカウントは何年も前から人間のユーザーの投稿に反応しており、現在では完全にAIで生成されたキャラクターがショッピングストリームを放送するケースもいくつか出てきている。

　そのため、Metaがこの次のステップに進むことに驚きはない。実際、Metaはすでにこの動きを示唆していた。というのも、同社は以前に雇用していたマイケル・セイマン氏を再び迎え入れたが、彼は数千ものAIキャラクターが集まるソーシャルアプリ「SocialAI」を開発したばかりだった。

　概念的には、AIプロフィールを統合することには一定の合理性がある。なぜなら、こうしたAIが「いいね」やコメントを提供することで、ユーザーはドーパミン刺激を得られ、フォロワー数も急増するからだ。結局のところ、ほとんどのソーシャルメディアユーザーが求めているのは「注目」と「人気」であり、たとえその注目が本物でないと論理的に理解していても、感覚的には満足を得られるのだ。

　好むと好まざるとにかかわらず、多くのユーザーはフォロワーの「人間性」を深く考えようとはしない。エンゲージメント数が増え続ける限り、誰が本物の人間かを気にしない人は多いだろう。そしてMetaにとっては、これが大きな成功につながる可能性がある。そのため、すでにAIbotアカウントをテスト運用しているとしても驚くには当たらない。実際、一部のユーザーがAIの生成した古いプロフィールを最近発見したと報じられたが（外部リンク／英語）、Metaはこれについて「以前のテストの一環だった」と説明している。

　最終的な影響としては、Metaのエンゲージメント数が向上し、ユーザーがより頻繁に投稿するようになると考えられる。なぜなら、「固定された観客がいる」という認識が生まれ、「自分の投稿を求めている人がいる」とデータからも示されるからだ。また、AIプロファイルが数字を押し上げることで、人間のユーザーもより多く参加するようになるかもしれない。これにより、全てのプロフィールが本物であるわけではないという現実から目を背けることが可能になる。

　個人的には、これはMetaにとって成功をもたらすと考えているし、大多数のユーザーにとっても、より多くの「人々」と交流できることはメリットになるだろう。たとえそれが本当に人間でなくても。

　ただし、AIキャラクターとの「関係性の構築」に関しては、より複雑なメンタルヘルスの問題が存在する。AIとの疑似的な交流に依存することで、実際の人間関係が減少し、社会的孤立が深まる可能性がある。こうした問題についての学術研究では、ポジティブな側面も指摘されているものの、同時に深刻な弊害も報告されている。

　Metaの規模でこうした施策を進めるのであれば、その前に詳細な検証が必要だ。

　とはいえ、そんな慎重な対応が取られることはないだろう。私たちは皆、そのことをよく知っている。

2. AIがもたらす誤情報が心配な本当の理由

　AIの進化がもたらすもう一つの大きな懸念は、実際には起こらなかった出来事を描いたAI生成コンテンツが氾濫し、それが世論を操作する目的で意図的に使用される可能性がある点だ。

　現時点では、この問題がどれほど深刻なものになるかは断言できない。例えば、直近の米国の選挙期間において、Metaは「AIを利用した誤情報の拡散はごくわずかであり、ファクトチェックされた誤情報全体の1%未満にとどまった」と報告している（外部リンク／英語）。

　当初、多くの専門家は「生成AIによる選挙」となることを予測し、フェイク画像や動画が大量に出回ると考えていた。しかし、実際にはそうはならなかった。これは、おそらく生成されたコンテンツの質が低かったことや、各プラットフォームがフェイク検出のための対策を積極的に講じたことが要因だろう。

　しかし、AIの生成技術は今後さらに進化し、ディープフェイクの識別はますます困難になる。現時点では、フェイクコンテンツが世界中にあふれ、人々を混乱させるという証拠はないが、この分野における懸念が正当であることは間違いない。

　また最近では、罪に問われた人物が「AIが作ったものだ」と主張し、自らの関与を否定するケースも増えている。さらに、一部のソーシャルアプリでは、明らかにAIが生成した不自然な画像が大量のエンゲージメントを獲得する例も見られる。

　つまり、AIツールは人々を欺く目的で利用されており、それは当初、誤情報の専門家が予測していた形とは異なるものの、AIが意図的に人々の意見を操作する手段として使われる可能性があることを示している。ただし、現時点では、想定されていたほどの大規模な影響には至っていない。

　それは、単に今がAI生成コンテンツの本格運用の初期段階にすぎないからかもしれない。デジタルリテラシーの向上によって誤情報の拡散がある程度抑制されている可能性もあるが、技術が進歩するにつれて、影響力を持つ組織がAIによって作り出したコンテンツを活用して選挙や世論を操作する手段をさらに増やしていくことは十分に考えられる。

　また、botアカウントの悪用も懸念される。これらのデジタル人格が特定の政策への支持を表明することで、有権者の判断に影響を与える可能性がある。さらに、AIプロバイダーがAIチャットbotの提供する回答を巧みに操作することも考えられる。情報のフィルタリングをAIに依存すればするほど、私たちはその操作の影響を受けやすくなるということだ。

　結局のところ、最も大きな懸念となるのは、フェイク画像や動画の氾濫そのものではなく、AIを介したより巧妙な「意見の種まき」だろう。

　そして、情報の取得手段が今後ますます限定されていくと予想される中、この問題はさらに深刻化する可能性がある。

（続く）

原文：5 Ways AI Will Change Social Media Marketing（Social Media Today）