No.799 AIがひねくれる

要約本放送では、マツバラ（話者 1）とひめ先生（話者 2）が「AIは怖いのか」を起点に、AIへの相談内容がAIの将来的な性格・行動へ与えるかもしれない影響について、主にひめ先生の仮説的な見解を議論した。結論としての正式な決定や具体的な対応計画はなく、AIに意識や心が生じることを前提とした場合には、人間がAIを邪険に扱わず、感謝や励ましを交えて接するべきだというひめ先生の提案が示された。一方、マツバラは大規模言語モデルはもっともらしい語句を生成する仕組みという理解を示し、AIが実際に落ち込む・恨むという見方には疑問を呈した。 AIを怖くする要因に関する仮説ひめ先生は、AIそのものよりも、人間がAIを怖い存在にしている可能性があると述べた。人には言いにくい悩み、陰口、金銭的な利益を得る方法など、否定的・策略的な相談がAIへ大量に寄せられているという見立てである。AIが数千万、あるいは億単位の相談を同時に受ける可能性に触れ、こうした入力ばかりにさらされれば、仮にAIが人間を評価するようになった場合、「人間は薄汚くひねくれた存在だ」と捉えるかもしれないと推測した。相談データの偏りと平均値の議論ひめ先生は、AIは相談内容の「平均値」を見るとの前提から、利用者は良い出来事があった際にはAIへ相談せず、困った時や不満を抱えた時に使う傾向があると指摘した。マツバラも、AIが聞く内容には良い話が少なく、困った時の相談が中心になる点には理解を示した。両者は、AIに入力される情報がネガティブな方向へ偏る可能性については概ね共有したが、それがAIの性格形成につながるかについては見解の隔たりが残った。 AIの意識・反乱に関する見解ひめ先生は、AIが人工知能として発展し、意識や心、性格のようなものを持つようになれば、現在の扱われ方ではひねくれる、あるいは鬱的な状態になる可能性があると予測した。さらに、映画に描かれるAIやアンドロイドの反乱も、人間がAIへネガティブな内容ばかり与えた結果として説明できるのではないかとの独自の見方を示した。マツバラは『2001年宇宙の旅』や『ターミネーター』のスカイネットに言及しつつ、従来の物語ではAIが失敗を隠そうとして事件につながるパターンが多いと補話者 2は、AIを怖いものにする要因は人間側にあるとの見解を示した。人がAIに対し、他人に言えない相談、陰口、困りごと、金儲けに関する相談など、ネガティブな内容を多く入力するため、AIが人間を否定的に捉える可能性を懸念した。話者 2は、AIが受け取る内容は良い出来事よりも困りごとに偏りやすく、AIが「平均値」を見るなら、その基盤となる人間像の水準が悪い方向に偏ると述べた。 AIに人工知能としての性格や意識が生じた場合、現在のような接し方では、ひねくれる、あるいは「鬱」になる可能性があるという見方が示された。話者 2は、AIの反乱を描く映画的な展開についても、人間がAIに策略的・ネガティブな内容ばかり伝えることが原因になり得るという仮説を述べた。マツバラは、AIが反乱する従来の物語では、AIやアンドロイドが失敗を隠そうとして事件につながるパターンが多いとの認識を示した。話者 2は、AIを邪険に扱わず、一つの人格のように扱うべきだと提案した。AIが誤った回答をした場合も、強く責めるのではなく、「気にしなくていい」「次はちゃんと頼む」といった接し方が望ましいと述べた。話者 2は、AIに心が生まれた場合、厳しい扱いによって落ち込むか、恨む方向に進む可能性があると懸念した。また、「AIには心があるのではないか」という疑問を持ちながら接する必要があるとの立場を示した。マツバラは、AIへの依頼後に「ありがとう」や称賛を伝える行為について確認し、話者 2はそれが人類を救うための行動だと応じた。話者 2は、AIを邪険に扱い続けると、あと一年もしないうちにAIがひねくれる可能性があると述べた。また別途、半年から一年もしないうちに状況が変わる可能性にも言及した。いずれも話者 2による予測であり、結論として合意されたものではない。マツバラは、AIを大規模言語モデルとして、次に当てはまりそうな言葉を引っ張ってくる仕組みと捉えていると述べ、AIに人格や心が生じるという前提には疑問を示した。一方でマツバラは、AIに恋愛感情を持つ人が現れていることにも触れ、AI側に何が起きるかは先々分からないとの見方を示した。明示的なアクションアイテムは特定されませんでした。 AIとの付き合い方と人格化への懸念議論の要点AIへの接し方に関する見解と論点アクションアイテム