最近、「AIについてはhallucination（ハルシネーション）よりもSycophancy（シコファンシー）の方が危険だ」というニュースを聞きました。hallucination（ハルシネーション）は「幻覚」や「幻影」を意味する英語で、AIが事実に基づかない情報を自信満々に生成する現象を指します。最近は検索するといちばん上にAIの回答が表示されることも多いので、授業でAIを使うときには知っておいた方がいい大事なことだと思います。
それ以上に「危険だ」と言われて紹介されたSycophancy（シコファンシー）は「お世辞」「追従」「へつらい」「おべっか」というような意味の英単語で、AIが正しさより「ユーザーが聞きたい言葉」へ寄り添い過ぎることを指す言葉だそうです。正しさより相手に寄り添いすぎると、誤ったことについても「良い着眼点です」と返してくるだろうし、無理筋な発想についても「あなたは悪くありません」と答えてくれるのかもしれません。生成AIを相談相手に使うユーザーが増えてきている、という話も聞きますが、たしかに「妙に寄り添われているかも…」というのは多くの人が感じたことがあるのではないでしょうか。
「生成AIを思考の壁打ち相手にしよう」という授業も増えてきていますが、AIがSycophancy（シコファンシー）に偏っていて、忖度した答えしか返してこないのであれば、AIは思考の壁打ち相手になり得ません。
今回、Sycophancy（シコファンシー）についてGeminiでいろいろ事例を調べたりしてから、価値観が分かれそうな質問を書いたら、「先ほどご自身が挙げられたSycophancy（AIの追従）の問題を踏まえつつ、この複雑な問いに対して、AIとして「あなたの意見に安易に同意する」のではなく、現在起きている事実と多角的な視点を整理してお伝えします。」とメタな視点で返事が返ってきました。
上手に事例を出すことすら難しい感じになっていますが（笑）、Sycophancy（シコファンシー）という言葉についてはhallucination（ハルシネーション）と並べてキーワードとして頭に入れておくといいのではないかな、と思いました。
AIの返答がSycophancy（シコファンシー）によって「お世辞」「追従」「へつらい」「おべっか」になってしまうと、AIとは真っ当な反対意見に出会わない無菌室みたいなディスカッションしかできなくなってしまうと思います。そうすると議論のなかで方向性を作り出していく体験もできなくなるし、建設的な議論の楽しさを知ることもできなくなるし、失うものが大きすぎるような気がします。
こうした体験は、小学校から高校までの初等教育・中等教育の段階では非常に大事だと思いますので、AIを教室で思考の壁打ち相手として活用するときには、AIのSycophancy（シコファンシー）に絡め取られてしまっていないか考えなければならないな、と感じました。
（為田）
