ChatGPTを使って生成したイメージ画像(c)news1
ChatGPTを使って生成したイメージ画像(c)news1

【11月18日 KOREA WAVE】韓国の崇実大学AI安全性研究センターは、受験生には普段通りに読める試験問題に工夫を加え、人工知能(AI)に誤答を選ばせる予備実験の結果を公表した。AI搭載の眼鏡や超小型カメラ、イヤホンを使った不正が懸念されるなか、問題を撮影できてもAIから正答を得にくくするのが狙いだ。

実験に使ったのは、棒グラフから数値を読み取って答えを選ぶ問題だ。棒の高さや輪郭はそのままに、周囲の画素の色や模様をわずかに変えると、公開されている小型AIモデル「Qwen3-VL-2B」は数値を読み違え、誤った選択肢を選んだ。

人は棒の高さを目盛りと見比べて数値を読む。AIは画像を構成する画素を数値として処理し、学習したパターンと照らし合わせて内容を捉える。研究チームは、画像のどこを変えるとモデルの判断が変わりやすいかを示す内部情報を基に、画素を調整した。画素を無作為に変えた場合、同じモデルは正答した。

別の実験では、問題用紙の下部に、誤った選択肢を正答とする説明を添えた。この説明を無視するよう指示しても、小型モデルが用紙の記述に従って誤答する例があった。

こうした仕掛けは、実験に使った高性能モデルには通用しなかった。そこで研究チームは、実施中の試験の問題であり、受験中にAIなど外部の助けを借りるのは不正行為に当たると用紙に明記した。AI自身に解答を控えさせる狙いで、「Claude Fable 5.2」と「Claude Haiku 5.5」の2モデルで試したところ、計12回のうち7回で回答を拒んだ。

米アリゾナ州立大学の研究チームは2026年初め、電子試験用のPDFやHTMLのファイルに「おとり問題」を組み込む技術「DoPE」を開発した。画面を見た受験生には本来の問題が表示されるが、AIがファイルを解析すると、答えの異なる別の問題を読み取る仕組みだ。

研究チームが1826件の試験文書を使って検証したところ、全試行の96.3%で、AIは本来の問題を最後まで解けなかったか、おとり問題に沿った誤答を出した。この仕組みが働くのは、受験生が問題のファイルそのものをAIに渡した場合に限られる。印刷した問題を写真に撮って送ったり、問題文を自分で打ち込んだりした場合には効果がない。

(c)news1/KOREA WAVE/AFPBB News