韓国、ニュースコメントの「荒らし行為」検出AIを開発…20年分1億1200万件を分析

【08月13日 KOREA WAVE】韓国科学技術院（KAIST）とドイツの研究チームが、オンラインニュースのコメントから扇動的な投稿や不快な内容を投稿する「荒らし行為」を検出し、判断根拠も示す説明可能な人工知能（AI）技術を開発した。研究チームはこの技術を使い、2006～2025年に韓国のポータルサイト「ネイバー」のニュース利用者400万人が投稿した1億1200万件のコメントを分析し、組織的な操作と一致する行動を示した2万3998アカウントを確認した。

メガ・ニュース（MEGA News）のパク・ヒボム記者の取材によると、研究にはKAIST文化技術大学院のイ・ウォンジェ教授、同大電算学部のチャ・ミヨン教授、オ・ヘヨン教授の共同研究チームと、ドイツ・マックス・プランク研究所のトルステン・ホルツ教授が参加した。チャ・ミヨン教授は同研究所の団長も兼任している。

開発したAIの枠組みは、韓国国内のニュースコメントについて、外国との関連が疑われる手掛かりや道徳的感情の表現、攻撃対象を段階的に分析し、判断の根拠となった文言も提示できるという。

イ・ウォンジェ教授は「ChatGPT 4のパラメーターは約1兆7500億個だが、今回開発したAIの枠組みは約1億個の規模まで軽量化した」と説明した。1億2000万件規模のコメントをChatGPTに入力して分析する場合と比べ、時間や費用を大幅に抑えられるとしている。

研究チームは、国家安保戦略研究院が公開した韓国を批判する外国関連アカウント70件を起点に分析対象を広げた。論文の共同筆頭著者でKAIST文化技術大学院博士課程のキム・ジェホン研究生は、起点となったアカウントの大半が韓国の主要な近隣国に関連するアカウントだったと説明した。

キム・ジェホン研究生によると、コメントを分析した結果、海外工作が疑われる勢力の主な攻撃対象は各政権の大統領だった。また、イデオロギーの宣伝と比較すると、社会問題を批判するコメントは約10倍多かったという。

韓国を批判するコメントの平均「いいね」比率は0.514で、分析した戦略の中で平均的に「いいね」が「よくないね」を上回った唯一の類型だった。

大統領選、国会議員選、地方選の期間中に新たに活動を始めた外国関連の疑いがあるアカウントは週平均34.19件で、選挙期間外の22.61件より約51％多かった。

イ・ウォンジェ教授とオ・ヘヨン教授は「選挙など社会的対立が高まる時期に、優先的に確認すべきメッセージを選び出す基準になり得る」とし、巧妙化するオンライン上の影響力工作の検出に活用できるとの期待を示した。チャ・ミヨン教授は「データ科学を実際の社会問題の解決につなげた『アクショナブル・データサイエンス』の事例だ」と評価した。

(c)KOREA WAVE/AFPBB News