ネット工作疑う2.4万件特定 AIが「根拠」提示…韓国・独研究チーム
このニュースをシェア
韓国科学技術院（KAIST）と独マックスプランク研究所の共同研究チームは、インターネット上のニュースコメントから、外国勢力による世論工作が疑われる不審なアカウントを自動検知し、その判断根拠まで可視化する人工知能（AI）技術を開発した。韓国のポータルサイト大手「ネイバー（Naver）」の約20年分・1億件超のコメントを分析したところ、工作活動の疑いがある約2万4000件のアカウントを特定した。研究成果は国際情報セキュリティー学会「USENIX Security」で発表された。
これまでの検知AIは疑わしい対象の抽出にとどまり、判定に至った道筋が分かりにくい「ブラックボックス」が課題だった。今回の技術は「説明可能なAI（XAI）」（AIが下した予測や判断のプロセス・根拠を、人間が理解・検証できるように提示する技術）を導入し、AIがどの言葉遣いや行動パターンから「怪しい」と判断したのかを具体的なテキストで提示できるのが特徴だ。
研究チームは、公的機関が過去に特定した外国関連アカウント70件を出発点に、2006年から昨年までのコメント約1億1265万件（約404万人分）をAIで詳細に分析した。
その結果、組織的な世論誘導と酷似した行動をとる2万3998件のアカウントを特定。これらのアカウントは、特定の国を直接称賛するよりも、韓国国内の政治や政治家を激しく批判し、社会的分断や不信感を煽る書き込みが多い傾向がみられた。批判の対象は保守・革新の両派にまたがっており、大統領選や総選挙など選挙期間中には活動が約5割増えるなど、選挙介入を狙った動きも確認された。
ただし、研究チームは今回の特定が「特定の外国政府が運営している」と断定するものではないとしている。また、AIの判定のみで即座にアカウント停止などの措置をとるのではなく、専門家が根拠を検証して最終判断を下す「人間によるチェック」と、利用者の異議申し立て手続きを担保することが不可欠だと強調している。
(c)news1/KOREA WAVE/AFPBB News
