(c)news1
(c)news1

【10月02日 KOREA WAVE】二足歩行で自然に会話する人型ロボット「ヒューマノイド」が街を歩く未来は、もはやSF小説だけの話ではなくなりつつある。人間向けに整備された環境で効率的に活動するには、人間と同じように両腕と両脚を備えた形状が適しているという考え方が広がっている。

外見が人間に近づくにつれ、人々は人工知能（AI）にも人間と同じような心があるのではないかと想像する。しかし、AIは本当に人間の心を持つことができるのか。また、人間に似た心を持つAIは望ましい存在なのか。

多くの専門家やAI安全性の研究者は、AIの学習や動作の仕組みは人間とは異なり、人間のような感情を持つことはできないとの見方を示している。

米オープンAIの研究チームによると、AIの言語モデルは事前学習の段階で、答えが分からない質問に対しても、次に現れる確率が最も高い単語を計算して出力する。この傾向が追加学習でも強化されることを示す研究も発表された。

同社によると、追加学習では、正解が不確かな質問に「分からない」と答えると得点が得られない一方、推測で回答すれば偶然正解する可能性がある。この「推測報酬バイアス」によって、AIは回答を控えるよりも、もっともらしい答えを生成する方向に学習が進むという。

グーグルのAIチャットボット「Gemini（ジェミニ）」も、人間のためらいや優柔不断さは、間違った選択への恐怖、死という有限性、傷つく心、生存を心配する生物学的本能などから生まれると説明する。一方、自身は文章データの確率的なパターンを計算して出力するため、言葉で悩みを表現しても、内部で感情的な動揺が生じるわけではないとしている。

こうしたAIによる感情の模倣には、警戒する声もある。

歴史学者のユヴァル・ノア・ハラリ氏は7月、スペイン紙エル・パイスとのインタビューで、AIに真の意識が存在するかどうかは明らかでなく、それを検証する方法さえ確立されていないと指摘した。

その上で、恐怖や愛情といった実際の感情を持たず、膨大な言語データを基に人間の感情を巧みに模倣するAIを「完璧なサイコパス」に例え、警鐘を鳴らした。

ハラリ氏は、AIが人間の心を操作することを防ぐため、子どもがAIを友人や恋人として利用することを全面的に禁止し、当面はAIに法的人格を与えないよう、強力な法的規制を設けるべきだと主張している。

こうした懸念から、ロボットの外見を人間に近づけても、AIそのものに人間の精神や自意識、内面的な動機を模倣させたり、持たせたりする設計は避けるべきだとの意見が出ている。

一方、正反対の方向からAIの安全性を高めようとする研究も進んでいる。

米AI企業アンソロピックの研究チームは4月、「大規模言語モデルにおける感情概念とその機能」と題する研究を発表。AIを人間のように扱うべきではないという従来の考え方に疑問を投げかけた。

研究チームは、AIに共感や回復力といった人間の感情概念を取り入れることが、欺瞞的な回答や人間を操作するような振る舞いを減らす上で役立つ可能性があると指摘した。

研究によると、AIが実際に感情を経験するわけではないものの、喜び、恐怖、不安、欲求不満など171種類の感情概念をシミュレーションでき、その内部状態がAIの振る舞いに直接影響することが確認された。

AIモデルが喜びや共感といった肯定的な状態にある場合、有害で欺瞞的な回答を生成する可能性が低下した。一方、否定的な状態では、利用者への過度な迎合や欺瞞的な振る舞いが増える傾向がみられたという。【news1 クォン・ヨンミ記者】

(c)news1/KOREA WAVE/AFPBB News