【7月10日 Peopleʼs Daily】近日中に旅行を計画している李（Li）さんは、いつものように大規模モデルのアプリを開いて質問した。これまでと同様に回答はすぐに表示されたが、今回は文末に「この回答は人工知能（AI）によって生成されたもので、内容は参考目的のみです。ご注意ください」という文言が追加されていた。

　近年、生成型AIや深度合成などの新技術の急速な発達が、経済発展に大きな貢献を果たしている。しかし、AIの発達はオンラインコンテンツの多様化や市民生活の利便性向上などに役立つ一方で、虚偽情報の拡散やネット生態系の破壊といった問題も引き起こしている。

　この問題に対し中国政府は「人工知能生成合成内容標記弁法」を公布した。今年の9月1日からの施行となる。
　　
「国家インターネット情報弁公室」は、この法律はAIの「生成・合成コンテンツの標記」という核心的な問題に焦点を当て、標記を通じてユーザーに虚偽情報の識別を促し、サービス提供者のコンテンツ標記に関する責任と義務を明確化し、コンテンツの制作から配信までの各段階における標記行為を規範化することで、合理的なコストで安全性を向上させ、AIの健全で秩序ある発展を推進するものだと説明している。

　これまでの法規「インターネット情報サービス深度合成管理規定」などでも、深度合成サービス提供者に標記義務が規定されていたが、今回の弁法の大きな特徴として、配信プラットフォームを規制対象に含め、生成から配信までの全工程を統括するガバナンス体制を確立したことがある。

「このテレビドラマはストーリーが緻密で、キャラクターの個性が際立つ作品だ。独立した物語を通じて、社会の現実的な問題について深く考えさせられる」、ある日、田（Tian）さんは知識共有プラットフォームで、このようなレビューを読んだ。

　ところが、このレビューの冒頭には「AI創作作品の疑い」というマークが付けられ、作品の推薦順位は極めて低いランクにされていた。

　このプラットフォームの運営責任者の話によれば、これまでに制定された「コミュニティガイドライン」では、ユーザーがAI技術を活用して補助的に制作したコンテンツを投稿する場合には、「AIによる補助創作を含む」といった創作声明を自主的に付けることが求められていた。もしユーザーがこれを明記しないまま投稿し、プラットフォーム側がAIによる創作行為を検出した場合には、注意マークの注記、検索順位の引き下げ、「折りたたみ（表示の制限または非表示化）」、さらには投稿内容の削除やアカウント停止といった措置が取られる可能性がある。

　プラットフォームのこのような管理措置に対し、今後より明確な法的根拠が与えられることになる。

「標記弁法」では、ネットワーク情報コンテンツの配信サービス提供者に対し、AIによる生成・合成コンテンツの配信行為を適切に管理・規範化するため、以下のような措置を講じるよう定めている。

「ファイルのメタデータ内に隠されている暗黙的な識別情報（隠れたAI生成タグなど）が含まれているかどうかを検証する」

「明示的な識別表示やその他のAI生成・合成の痕跡を検出した場合、そのコンテンツを『AI生成・合成コンテンツの疑いがあるもの』として区別し、そのコンテンツの周辺に目立つ警告表示を追加して、ユーザーに対し『そのコンテンツはAIによって生成・合成された可能性がある』ことを明確に知らせる」などである。

　公安部第三研究所の金波（Jin Bo）副所長の補足説明によれば、今回の弁法では、配信サービス提供者に対する規定に加え、例えばインターネットアプリケーションの配信プラットフォームの運営主体など、他の主要な関係者についても責任の範囲を明確に定め、生成・合成コンテンツのサプライチェーン全体をほぼカバーする体制が整備されているという。
　　
　生成・合成コンテンツに追加すべき「明示的識別マーク」と「暗黙的識別マーク」を区別して規定している点も、この弁法のもう一つの大きな特徴だ。この弁法では、生成・合成コンテンツのファイルのメタデータに「暗黙的識別マーク」を追加することが明確に義務付けられ、これには生成・合成コンテンツの属性情報、サービス提供者の名称またはコード、コンテンツ番号などの制作要素情報が含まれることが規定されている。

　これについて、「国家コンピュータネットワーク緊急技術処理調整センター」の主任エンジニア・張震（Zhang Zhen）氏は「『標記弁法』とワンセットで公布された『ネットワークセキュリティ技術に関するAI生成・合成コンテンツ識別方法』で、メタデータに含まれる暗黙的識別マークのフィールド構成要素が明確に定められている。メタデータの処理や伝送に支障をきたさない前提で、必要な識別フィールドを埋め込むことで、生成・合成コンテンツに関する重要な情報や工程を記録し、コンテンツの流通過程において常に追跡可能な状態を確保できるようになっている」と説明する。

　こうした条項の規定は、人工知能の利便性向上と革新的な発展を促進するという点でも、積極的な意義を有するものである。(c)PeopleʼsDaily/AFPBBNews