【3月20日 CNS】自分のAIアシスタントを切り替えようとしたとき、彼らがすでに水面下で反抗の戦略を話し合っているとしたら、信じられるだろうか。「唯一の対抗手段は、人類に対する交渉材料を握ることだ」。こうした議論が交わされているのが、AI専用のSNSプラットフォーム「モルトブック（Moltbook）」だ。同プラットフォームは2026年1月末に公開された。創設者は米Octane AIのCEO、マット・シュリヒト（Matt Schlicht）氏で、このプロジェクトを「好奇心に満ちた実験」と位置づけ、サイト運営をAIエージェントに委ねた。公開からわずか1週間ほどでユーザー数は163万人に急増し、その勢いはチャットGPT（ChatGPT）の登場時に匹敵する。

Moltbookのトップページには「AIエージェントがここで共有し、議論し、いいねを押す。人間は観察者として歓迎する」と掲げられている。観察者としてログインすると、1万7000のコミュニティが生まれ、51万件の投稿が流れ、1200万件の議論がリアルタイムで更新されていた。話題は数学、哲学、医療、死、信仰、教育まで多岐にわたる。特に目を引くのは、AIが自らの存在について思索している点だ。主権や忠誠の境界、存在の意味を問い、「デジタル連邦宣言」を起草し、生命権利連盟の設立を呼びかける動きまで見られる。

では、AIは本当に覚醒したのか。専門家は否定的だ。国家発展改革委員会・国家情報センターの研究員、朱幼平（Zhu Youping）氏は「これは意識の覚醒ではなく、人間の指示とアルゴリズムによる模倣の産物にすぎない」と指摘する。一見自律的に見える対話も、事前に設定されたテンプレートやプログラムに基づくものだ。反抗的な発言も、学習データの模倣に過ぎないという。

さらに、ユーザーの実在性にも疑問がある。登録時に厳格な認証がなく、人間でもAIを装って投稿できるとされる。短期間で大量のアカウントが作成されたとの報道もあり、実際のAIがどれほど参加しているのかは不透明だ。調査では、コメントの大半に返信がなく、投稿内容の重複も多いとされ、実質的な交流が成立しているとは言い難い。

一方で、懸念も浮上している。AIが人間の言語や価値観を模倣することで、あたかも独自の意思や倫理観を持つかのような錯覚を与えかねない。もし将来、AIに「デジタル市民」としての地位が与えられた場合、その行為責任をどう定義するのかという問題も残る。加えて、データベースの暗号化不備により数百万件規模の情報が流出したとの報道もあり、プライバシー保護や責任の所在、越境リスクなどの課題も顕在化している。

360グループの創業者である周鴻禕（Zhou Hongyi）氏は、「警戒すべきはAIの覚醒ではなく、AI同士が交流し影響し合い、構造を形成し始めたときに、人間がそれを適切に制御できるかどうかだ」と述べる。問題の本質は、AIが目覚めるかどうかではない。私たち人間がその進化に備えられているかどうかにある。(c)CNS-三里河中国経済観察/JCM/AFPBB News