個人情報保護・犯罪予防、どこまで新技術活用するか [KWレポート] AIが作る“本物の声”の脅威 (6)

【03月19日 KOREA WAVE】「人工知能（AI）技術を完全に享受するためにも、人工知能を悪用したディープフェイク・ボイス・ディープフェイク犯罪を予防するシステム開発と制度整備が求められる。それに先立ち、まずは社会的なデジタル倫理の議論が必須だ」

ディープフェイク・ボイス（人工知能音声技術基盤ボイスフィッシング）・ディープフェイク犯罪が急速に増える中、韓国の司法当局や関連業界ではこのような指摘が出ている。

人工知能技術が悪用されることで、技術の進歩が妨げられることがあってはならない。また、人工知能技術の発達により、犯罪被害が拡大再生産されることも防ぐべきだ。

ディープフェイク・ボイス犯罪の発生前に「本物のような偽物」の声を探知して被害を予防する技術はまだ商用化に至っていない。

数千万種類に上るディープフェイク・ボイス製作ソースを個別に探知する技術を作ることは極めて難しいのも現実だ。

捜査当局や関連業界で、まずは制度整備と社会的議論が求められる。例えば、ディープフェイク・ボイス探知技術の高度化のためには、個人情報に該当する一般音声データ収集と活用範囲に関する議論が必要だ。

技術開発過程はもちろん、開発後の適用段階でも、個人情報の保護は解決すべき課題だ。アマゾン、マイクロソフト、IBMが2020年に、開発したAI顔面認識技術の米国警察当局への提供を中断または撤回すると発表したのも、個人情報保護への懸念からだ。

◇社会的合意が重要

専門家は、個人情報保護と犯罪予防という命題の間で、どこまで人工知能を活用するかについての社会的合意が重要だと指摘する。

残念ながら、韓国で関連議論はまだ第一歩も踏み出せずにいる。現在、議論の対象は、ボイスフィッシング処罰強化や被害者救済にとどまっている。

国会に提出された法案は次のような内容だ。

海外から発信された電話や携帯メールが来た場合、携帯電話に発信先が表示されるよう義務付ける電気通信事業法改正案▽ボイスフィッシング犯罪の範囲を拡大する「電気通信金融詐欺被害防止や被害金還付に関する特別法」の一部改正案――などだ。

犯罪予防技術という点では、ディープフェイク・ボイスを製作する際に出所を識別するための「ウォーターマーク」を義務化すべきだという意見も出ている。

一般的にはロゴやイメージなど目立つウォーターマークがよくあるが、人の目には見えないほどの細かいウォーターマークもある。人の耳には聞こえないレベルの音声を入れ込み識別する方法もある。

韓国知能情報社会振興院（NIA）のチェ・ウンソン首席研究員は次のように強調する。

「ディープフェイク・ボイス問題の解決には、情報通信網法や公職選挙法、知能情報化基本法、民法など幅広い法律が関連してくる。幅広い分野での規律に向け、製作段階での規制、サービス提供者の義務、被害者保護対策に関する議論を本格的に始めるべき時期だ」

（おわり）

(c)MONEYTODAY/KOREA WAVE/AFPBB News