【ナゾロジー×産総研マガジン 未解明のナゾに挑む研究者たち】「仕事のストレスを分担してくれる」感情を読むAI研究
【ナゾロジー×産総研マガジン 未解明のナゾに挑む研究者たち】「仕事のストレスを分担してくれる」感情を読むAI研究
【ナゾロジー×産総研マガジン未解明のナゾに挑む研究者たち】「仕事のストレスを分担してくれる」感情を読むAI研究
2024年4月3日掲載
取材・文 川勝康弘, 海沼賢, ナゾロジー編集部
人間の心を読むAIが、人間の仕事を支えてくれます。
今回は、産業技術総合研究所（産総研）の情報・人間工学領域 副領域長の佐藤洋さんにインタビューを行い「人間の職を奪わない」形でのAI利用がどんなものかを教えて頂きました。佐藤さんは人間とAIの間の「新しい関わり方」について研究しており、今回のインタビューも目から鱗となるような幾つもの興味深いお話を頂けました。
また記事の最後では多くの人が気になる「AIと心」に関する根源的な問題についてもご意見を頂いています。
佐藤さんが考える人間とAIの未来とは、いったいどんなものなのでしょうか？
こちらの記事は、科学を好きな人を増やすメディア、ナゾロジーでも同時公開されています。ナゾロジーの記事はコチラ！
AIと人間の心の関わり方
――近年急激に発展してきたAI技術を目の当たりにして、AIが現実社会でどこまでのことができるのかという点に興味を抱く人たちは増えています。今回佐藤さんにはAIの研究者として、こういった問題についてお話を伺ってみたいと考えているんですが、まず佐藤さんがされている研究は、AIを接客支援に使おうというものなんですよね。AIを接客分野で利用しようと考えたきっかけはあるのでしょうか？
佐藤私は、元々、人間工学や心理の研究を行っていました。最近の科学業界では数学も物理も化学も生物でも、ありとあらゆる分野にAI技術が使われています。なので私は心理分野でもAI技術が役立つ可能性を感じたんです。といっても、心の全てをAIで解き明かすのはかなり困難です。感情を研究している人たちの中には、AIで感情を読み取ることは基本的に無理だと考える人たちもいます。そこで接客という、心が適度に入り込む分野に照準を絞ることにしたんです。
――適度とは、どういう意味でしょうか？
佐藤人間の心は予測不能で独創的な動きをします。しかしコンビニやレストランで行われる接客場面には、独創性は必要ありません。店員にクレームをつけるときだって独創性を重視する人はいないはずです。メインとなるのは比較的パターン化した言語的、音声的なもので、そこに身振り手振り、視線といった身体的要素が加わっていきます。心のマニュアルはありませんが、接客マニュアルはあるでしょう？
――確かにそうですね（笑）
佐藤ある意味で接客とは定型文句の投げ合いと言うこともできます。それでいて、依然として感情が大きな役割を果たします。ならば、接客という限定的な場面に限れば、心を読むAIがパワーを発揮できると考えたんです。
実際にシステムの運用試験を行った結果も上々でした。それに嬉しいことに、システム開発当初は思いもよらなかった利点が判明したんです。
――忙しい業務中に新人の監督を助けてくれるところ……とかですか？
佐藤いえ、もっと意外なことでした。新人の間は熟練者から何度となく「ダメ出し」をされますよね？
――はい。私も新人ライターのころは、提出した原稿が真っ赤に添削されて戻ってきたことがあります。
トレーニングの評価で気をつけること（「XR接客トレーニングシステム」ガイドライン ダイジェスト版より引用*1)
佐藤ですが「ダメ出し」はどうしても受け手にとって重荷となりがちです。心を込めたアドバイスも、その受け取り方次第ではモチベーションの低下を招いたり、内心の抵抗感を生むこともあり得ます。特に新人が自信を持って取り組んだ業務への冷静な批評は、人としてなかなか出しにくいものです。
――よくわかります（笑）。わかっているけど、人から言われると嫌なこともありますね。
佐藤試験運用を行った企業では、このAIによる「ダメ出し」の役割が評価されました。AIによる客観的なフィードバックは、人間関係の緊張を回避しながら、必要な指摘を明確に提供することができるのです。また「AIには厳しく指摘されたけれど、人からは努力を認められた」という全く新しい形のフィードバックで、新人に自信を与え、成長のための課題にも向き合うことができるようになります。冷徹なダメ出しをする要員（AI）と苦労を労ってくれる要員（人間）が適度に分離していなければ、このような成功体験や成長の糧を得ることはできません。
――刑事モノの映画やテレビ番組などで、主人公は同僚から「一件落着」した案件を労われる一方で、上司に呼び出されてあれこれお小言を言われるという場面が、ふと思い浮かびました。映画の場合、仲間と上司はうまい具合に「分離」されていますが、現実の接客業務の場合はそうはいきませんよね。
このAIがあれば、まるでSFの1シーンのように「AIの言うことにも一理あるから、とりあえず「奴ら」を満足させられるように頑張ってくれ。でも私はあなたの頑張りを見ているよ」と上司が言えるようになりそうです。
佐藤そうですね（笑）。それに冷静なAIからのダメ出しと、人間の熟練者からのダメ出しの内容が一致しているならば「重箱のスミをつつくような上司」とか「個人攻撃だ」とか「イジメだ」と見なされる危険性も大幅に減少します。むしろAIにダメ出しされた部分を人間から「そんなことはない」と言ってもらえた場合、新人と熟練者の関係を強固にできる場合もあるでしょう。あるいはAIが見落とした部分を、熟練者の高度な視点から指摘してあげることで、プロ意識を感じさせるきっかけともなるでしょう。
――本来ならどうしてもギスギスする「ダメ出し」を成長のブースターに変換できるのは凄いです。
佐藤私たちは、マニュアルから学ぶべきことと、人から学ぶべきことの二つを抱えています。AIの登場により、マニュアルの知識をリアルタイムに近い形で活用する道が拓かれました。なにより私たちの接客支援AIは人間ありきのシステムなので、導入によって人間の職が奪われることはありません。
心を読むAIとVR技術の融合が接客を支援する
VRなどのXR接客トレーニングシステムのメリットや課題*1
――具体的な研究の内容について伺っていこうと思います。AIに実際どのようなことをさせて、接客の現場に適用しているのでしょうか？
佐藤接客では人間の心の動きを理解することが最も重要です。特にクレーム対応のような難しい場面では、相手の感情に共感しつつ解決策を模索するという難易度の高いことをしなければなりません。人間の高度な脳は、言葉、声の響き、表情、視線、立ち振る舞いなど異種混合の情報をオートで統合できるので、それらの仕事が可能となります。
――人間の脳って、実は凄いことを無意識でしているんですね。
佐藤そうなんです。既存のAIも文章生成、音声認識、画像認識など限られた範囲では人間を超える能力を発揮できます。しかし異種混合の情報を統合するには、各機能を足し算するだけでは上手くいきません。
――なぜ単純な「足し算」ではダメなのでしょうか？
佐藤それぞれのAIが全く異なる学習過程を経て作られているからです。文章生成AIは主にテキストを学習して作られますが、体内の腫瘍を特定するAIはX線写真のような画像で訓練されます。単に10種類のAIを足し算的に運用したとしても、得られる出力が10個に増えるだけです。
――では接客場面のように、さまざまな要素が含む状況を攻略できるAIを作るには、どうしたらいいのでしょうか？
接客支援AIの構成例
佐藤研究ではAIに人間と似たような感覚器官を持たせることからはじめました。まずカメラとマイクを使って視覚情報と聴覚情報を集めたんです。次に各種センサを体に取り付けることで、身振り手振りや心拍数などの生理的情報も収集します。さらにアイトラッカー機能によって視線の細かな動きも収集しました。「目は口ほどにものを言う」と言われるように、接客において視線は重要な要素となるからです。
――熟練者でも新人の視線や脈拍までは完璧に把握できませんが、AIを使えば可能になるんですね。
佐藤そうです。異種混合の情報で学習したAIは複数の感覚器官から感じた（検知した）内容にも発言権を与え、総合的な結論を導けるんです。異なる複数の情報源を活用することで、人間の感情をよりリアルに読むことができ、接客訓練の効率化や、現場でのリアルタイムな支援が可能になります。特に接客訓練はAI技術とVR技術を組み合わせることで大きな成果を上げています。
――VR空間を利用できれば、初めて現場に立つ前に、実践に近い形で訓練が可能になりコストカットにつながりますね。
佐藤テストに協力していただいた企業からも、そのような評価をもらっています。
――具体的にはどんな感じで訓練が行われるのでしょうか？
佐藤VR訓練では、体の動きをAIが認識できるデジタルな数値に変換します。こうすることで人間の感情や接客の良し悪しを、AIコーチが判断できるようになります。たとえば飛行機の遅延で怒っている顧客に対応する場面では、適切な対応を行えば顧客の怒りレベルが徐々に収まるように設定されています。逆に不適切な感情表現やお辞儀、不自然なタイミングでの相槌が検知されれば、顧客の怒りレベルは上昇していきます。
――かなり実践的に作り込まれていますね。
ヘッドマウントディスプレイを利用した接客トレーニングシステム。怒ってクレームを入れている顧客に対してどういった返答をするかを対応者が選択して訓練する。（Tanikawa et al. 2021より引用*2）
佐藤さらに人間のストレスレベルや心理的状態を検知することで、VR世界で進行するシナリオを変化させ、適度な緊張状態を維持するように設定されています。
――AIが採点者やゲームマスターとなってVRでの訓練を支援してくれるわけですね。
佐藤加えて開発されたAIは、接客場面や接客の状況を検知することで、知識的な支援をする機能も備わっています。たとえば空港のスタッフとして、悪天候が原因で飛行機の発着に遅れがでてしまって困っているお客に、どのような案内をすればいいかを教えるAIも開発してきました。
――常識的には、無料で別の便に変更できると思いますが…新人のあいだは自信をもって断言するのは難しいはずなので、その部分の知識支援をしてくれるのは純粋にありがたいでしょうね。
佐藤他にも電車などの公共交通機関の遅れのせいで飛行機に乗り遅れてしまったお客に対して、どう案内すべきかなど、多岐にわたる知識も支援することができます。
――電車の遅れの場合は……無料で乗り換えられるかはケースバイケースだと聞いたことがあります。誤案内してしまった場合には、取り返しがつかない結果になりかねませんね……
佐藤熟練度にかかわらず、人間はだれしも誤案内をしてしまう可能性があります。そんなときAIが致命的なミスを知識面で補助してくれれば、悲劇を回避できます。
――他に現場からはどのような意見が聞かれたのでしょうか？
佐藤これはVR訓練の使い方に関してなのですが「自分で自分の行った接客を体験できるのは面白い」という感想をもらっています。VR世界で自分が行った接客を記録しておき、後にお客の立場で再体験するわけです。
――上手くいけば自己改善のループを築ける可能性もありますね……VR技術ならではの利点（百聞は一見に如かず）だと思います。ほかにも、人間の感情を読んでアドバイスできる機能が発展すれば、異性と話したりプレゼンをするときに、自分を良く見せる助けにもなりそうですね。
佐藤学習規模が拡大すれば、それも可能だと思っています。これまでは鏡やビデオを使って自分を録画したり、知り合いに頼んで意見を貰うことはできました。しかし自分で自分を見て直すには限界があります。親しい人から意見を聞く場合も、自分のことを既に知っているという先入観があります。ですがAIからの意見は公平で客観的なため、そういった問題を回避することができるでしょう。
――恥ずかしがり屋の人にとって、AIコーチを使うことで対人スキルが磨ける世界は待ち遠しいばかりですね。
AI接客が発する「ありがとうございました」の本質
――ここまで高機能な接客支援AIができるなら、接客そのものを全てロボットなどに任せることはできないのでしょうか？
佐藤もちろんそのような研究も盛んに行われています。人間が行っていたあらゆる仕事をAIに任せることができれば、大幅なコストカットが実現します。
――究極的には、社長から全従業員まで全てAIロボットという時代が来るのでしょうか？
佐藤いえ、そうはならないでしょう。あらゆる仕事にはAIに任せられる部分がありますが、全てではありません。特に接客の分野では「人間ありき」が続くはずです。
――それはなぜでしょうか？
佐藤AIを搭載した接客ロボットから聞こえる「ありがとうございました」や「またおこしください」という接客のセリフは、AIが状況を読み取って、最適解を出力した結果に過ぎません。つまり厳密には誰も、お客に対して「ありがとうございました」と感謝しているわけではありませんし、「またおこしください」とお願いしているわけでもありません。やや厳しい言い方をすれば、完全に自動化された接客ロボットのような存在は「おもてなし」をしていないんです。
接客の自動化で気をつけること*1
――目から鱗が落ちた気分です。AIの接客フレーズは本質的に、自販機のボタンを押して聞こえてくる「アリガトウゴザイマス」の音と同じわけですね。
佐藤ただ、もちろん、全ての場面で真心のこもった接客は無理です。人間心理的にも常に全力な「おもてなし」を感じていては疲れてしまいます。ちょっとしたリクエストなら人間を呼びつけるよりも、機械に頼んだ方が気疲れもないですからね。特にワンオペの牛丼屋さんや繁盛しているラーメン屋さんなどでは、機械を使って食券を販売するなど、効率的なやりとりが重視されます。
――注文にタッチパッド入力を取り入れているお店が増えているのも、そういった事情があるのかもしれませんね。
佐藤ですが依然として人間要素は、極めて重要です。味やサービスの質がライバル店より劣っていても、来てくれるお客様を確保できれば、お店が潰れることはありません。老舗が新参に負けずに何百年も続いているのは、強固な人と人の関係、つまり人間ありきの接客が続けられていたからです。
AIを使った接客トレーニングが付加価値の向上につながる*1
佐藤他にも買い物は人間の自尊心を満たしたりストレスを解消したりなど、人間的な要素が色濃く出る瞬間でもあります。特に高付加価値の商品では、人間的要素の重要性は高まります。さまざまな商品がネット販売に移行している中で、ブランドショップが依然として多くの店舗を抱えているのはそのためでもあります。
――確かに…ブランドショップに店員がおらず、自販機みたい商品が並んでいるだけだと、ショッピングも楽しくなくなってしまいそうです（笑）
佐藤接客に人間を使い続ける利点は、スタッフ側にもみられます。研究に協力してくださったレストランでは、お客様からの感謝の言葉を引き出すタイミングを見計らって、新人スタッフにコーヒーのサービスを任せることがあります。これは新人たちのやる気を引き出し、自信を育む隠しテクニックです。人間の店員は、現場でどんどんスキルアップしていきますし、モチベーションを高めることも可能です。活気がある店はそれだけで魅力的です。
――二足歩行の接客ロボットができたら、活気を持たせることはできるでしょうか？
佐藤人間の言葉や身振りを真似て再現することはできるでしょう。しかし活気は生きている人間からしか感じることはできません。
――「人間ありき」の接客の必要性、そしてそれを支援するAIの開発は、これからの人類社会になくてはならないものになると確信できました。
AIは人の心を獲得するのか？
――最後に少し話題を変えて、一般の読者にとっても、気になる点を聞きたいと思います。
佐藤答えられることなら、なんでもどうぞ（笑）
――人間の感情をAIが学習して理解していけば、やがてAIは人の心のようなものを獲得することができるのでしょうか？
佐藤う～ん、そうですね…いろいろ言い方はあると思いますが、1つ確実なのは、感情を読めることと、感情自体があることは別ということです。たとえば顔認識AIにも笑顔や泣き顔を認識できるものがあります。しかし顔認識AIが認識できるのは顔の各パーツの変化を学習しているからであって「楽しい」「悲しい」といった感情を備えているからではありません。（産総研マガジン「AIと感情」）
――今回の接客支援AIは、人間の感覚器官のかなりの要素から学習して、異種混合の情報を統合して感情を推測していますが、それでもダメでしょうか？ 情報統合の過程で何か予測不能な不思議な処理が行われている可能性はありませんか？
佐藤「予測不能」という部分は、確かにあるでしょう。AIは学習することで人間の脳に似たニューラルネットを育てていきます。しかし成長しきったニューラルネットの「どの接続」が「どんな処理」を行っているかは、AIを作った開発者側にもわかりません。ただ今後、AIに感情や意識のようなものが芽生える可能性は否定できません。それは明日かもしれませんし、100年後になるかもしれません。
お話を聞き終えて一言
接客スキルのまとめ*1
ここ数年で急速にAI技術が伸びて来たことで、まるでSF世界のようにAIに心が芽生えるのか？ 人間の職を脅かす存在になるのか？ という不安を真剣に抱く人も増えてきました。
実際、文章生成・画像生成・動画生成など、人間にしか作れないと考えられていたクリエイティブな分野の多くでAIが活躍するようになっています。
そのため、AIの発達にある種の恐怖を感じている人たちもいるかも知れません。
しかし研究者は、このような現実に対し過剰に恐れを抱く必要はないと語ります。
AIはあくまで道具であり、人の暮らしを豊かにするための存在だからです。
AIが感情を持つように見えたとしても、それは心を持つということとは大きく異なります。
佐藤さんが語ったのは、AIが人の感情を理解できるようになるならば、人間が仕事において心理的に負担を感じる部分を分担してもらえるだろうということでした。
特に接客などの、相手よって対応の仕方が大きく変化する仕事は、関わる人たちの心に大きなストレスを与えます。
新人教育などの場面でも、ミスや問題点を指摘したり叱ったりすることは、指摘される当人にもストレスですが、叱る側の上司にも心理的な負担になります。
こうした部分を人間の感情が読み取れるよう学習したAIに担当してもらうことで、人間の心の負担を軽減できるのではないかというのです。
今回紹介した研究は、AIが接客業を支援するというものでしたが、AIが人の感情をよく理解し、さまざまな場面で適切な対応の仕方を提供できるようになれば、未来の世界では人間が仕事をするときにストレスを感じることがほとんどなくなっているかもしれません。
*1: ヒューマン・インタラクション基盤技術コンソーシアム事務局 発行「XR接客トレーニングシステム」ガイドライン ダイジェスト版 、本編（産総研外のウェブサイトに遷移します。）
*2: Tanikawa, Tomohiro, et al. "Semi-automatic reply avatar for VR training system with adapted scenario to trainee’s status."
HCI International 2021-Late Breaking Papers: Multimodality, eXtended Reality, and Artificial Intelligence: 23rd HCI International Conference, HCII 2021, Virtual Event, July 24–29, 2021, Proceedings 23. Springer International Publishing, 2021.
[参照元へ戻る]
ナゾロジーおすすめ記事リンク
情報・人間工学領域
副領域長
佐藤 洋
Sato Hiroshi