第5回 人工知能（ＡＩ）技術の利用と消費者問題に関する専門調査会 議事録

日時

2026年6月25日（木）10:00～12:03

場所

消費者委員会会議室・テレビ会議

出席者

（委員）
【会議室】
小塚座長、丸山座長代理、唐沢委員、坂下委員、田中委員、野村委員、馬籠委員
【テレビ会議】
大塚委員、岡崎委員、加藤委員
（オブザーバー）
【テレビ会議】
柿沼委員、善如委員
（説明者）
【会議室】
高橋 利枝 早稲田大学文学学術院教授/ケンブリッジ大学「知の未来」研究所
アソシエイト・フェロー
小栗伸 一般社団法人ＡＩＣＸ協会代表理事
（事務局）
小林事務局長、吉田審議官、友行参事官、江口企画官

議事次第

  1. 開会
  2. 議事
    （1）ＡＩ技術と消費者問題について
    　　有識者ヒアリング（高橋 利枝 早稲田大学文学学術院教授/
    　　ケンブリッジ大学「知の未来」研究所アソシエイト・フェロー）
    （2）消費者を取り巻くＡＩ技術の現状について
    　　事業者団体ヒアリング（小栗 伸 一般社団法人ＡＩＣＸ協会代表理事）
  3. 閉会

配布資料 （資料は全てPDF形式となります。）

このページの先頭へ

≪1．開会≫

○小塚座長　皆様、おはようございます。それでは、定刻になりましたので、「消費者委員会人工知能（AI）技術の利用と消費者問題に関する専門調査会」の第5回会合を始めたいと思います。

皆様、足元の悪い中、お集まりいただきましてありがとうございます。

本日は、会議室に田中委員、野村委員、馬籠委員、丸山座長代理、そして私、小塚がおります。それから、テレビ会議システムから大塚委員、岡崎委員、それから加藤委員が御参加くださっています。

オブザーバーでございますけれども、本日、善如委員がテレビ会議システムで御出席くださっております。

本日は、御発表をいただくということで早稲田大学の高橋教授、それから一般社団法人AICX協会の小栗代表理事にお越しいただいております。お二人とも会議室にお越しいただいております。お忙しい中、ありがとうございます。

それでは、いつものことですが、会議の進め方について事務局からお話しください。お願いします。

○江口企画官　本日はテレビ会議システムを活用して進行いたします。一般傍聴者にはオンラインにて視聴いただき、報道関係者のみ会議室にて傍聴いただいております。

議事録につきましては、後日、消費者委員会のホームページに掲載いたします。議事録が掲載されるまで、ユーチューブでの見逃し動画配信を行います。

配付資料につきましては、お手元の議事次第に記載してございます。もし不足の資料がありましたら、事務局までお申し出くださいますようお願いいたします。

以上です。

≪2．（1）ＡＩ技術と消費者問題について
     有識者ヒアリング（高橋　利枝　早稲田大学文学学術院教授/
     ケンブリッジ大学「知の未来」研究所アソシエイト・フェロー）　≫

○小塚座長　ありがとうございました。

本日の議事次第に書かれているとおりですが、議事が（1）（2）とございます。（1）は「AI技術と消費者問題について」ということですけれども、有識者ヒアリングを行うということで早稲田大学の高橋教授にお話をいただき、その後で質疑応答、意見交換をしてから議事（2）に移るといういつもの進め方でいきたいと思います。

改めまして御紹介申し上げます。早稲田大学文学学術院の教授、そしてケンブリッジ大学「知の未来」研究所アソシエイト・フェローでいらっしゃいます、高橋利枝教授です。本当にお忙しい中、お越しいただきましてありがとうございます。

高橋教授は生成AIというものが登場するよりもずっと前からAIの研究をしておられまして、そして、AI時代における人間の主体性、とりわけ若者、それから社会の未来に着目して国際共同研究に深く関わってこられました。本日は消費者の自律的意思決定、自律的意思決定の阻害と消費者委員会的には考えるかもしれませんが、そういう観点から消費者として注意すべき問題について、「AI時代の意思決定はどう変わるのか」というテーマでお話をいただけるということです。20分ぐらいということでお願いをしております。どうぞよろしくお願いいたします。

○高橋教授　小塚座長、大変御丁寧な御紹介をいただきましてありがとうございました。早稲田大学の高橋利枝と申します。改めてよろしくお願いいたします。

では、早速PowerPointの投影をお願いできますでしょうか。御紹介いただきましたように、本日は「AI時代の意思決定はどう変わるのか」という少し大きなテーマでお話をさせていただきたいと思います。

次をお願いします。簡単に自己紹介をさせていただきます。もともと私は数学科を卒業しておりまして、その後、修士課程で社会学へ転じ、博士課程では、イギリスのロンドンスクールオブエコノミクス大学院でメディアコミュニケーション論の博士号を取得いたしました。

2000年以降、若者とメディアの動向について調査をしてまいりましたが、ちょうど10年ぐらい前、ハーバード大学が香港にアジアのデジタル拠点を設ける際、シンポジウムに呼ばれました。そのときにAIのパネルが行われており、例えば囲碁の勝負でAIが勝ったこと、有名なクイズショーでチャンピオンにAIが勝ったこと、GoogleのAIが描いた絵などが紹介されながらパネルが進められていきました。

特に、シンギュラリティーの話などに非常に衝撃を受け、AI研究に方向転換いたしました。もともと数学科出身ということもございますので、一回りして戻ってきたという感じで、現在、AIについて研究をしています。

ケンブリッジ大学とも、サバティカルのときにフェローとして滞在したつながりで、それ以来、継続的に一緒に研究をさせていただいています。また、国連と一緒に「AIのある未来」というプロジェクトを立ち上げるなど、国際共同研究を行っています。

次をお願いします。本日はプログラムといたしまして、「自律的意思決定をめぐるリスク」「AI時代の意思決定プロセス」「自己創造と適応」「生成AI時代の主体性とリテラシー」という、少し大きなテーマで、お話をさせていただきたいと思います。よろしくお願いいたします。

では、次をお願いいたします。最初に「自律的意思決定をめぐるリスク」についてお話しします。まず、AI利用に伴う主なリスクとしては大きく3つに分けられると思います。一つ目は技術的なリスク、2つ目は人間の悪用によるリスク、そして３つ目は本日のテーマであります、利用者の意思決定への影響です。

すでにご周知のことと思いますが、最初の技術的リスクとしては、生成AIが事実とは異なる情報をもっともらしく伝えるようなハルシネーションや、学習データやシステム設計に由来するバイアス、また、個人情報や機密情報の漏えいを含むセキュリティー上のリスクがあります。

悪用に関しては、AIを使った詐欺やディープフェイクがあります。また、ダークパターンとは、利用者が本来意図していない選択をしてしまうように、画面設計や表示の仕方によって誘導する手法です。こうした手法が、AIを用いて悪用されるリスクがあります。

最後に、意思決定への影響という点です。既に依存等について議論されていると思いますが、便利になればなるほど生成AIに依存してしまう可能性があります。依存し過ぎることで、自分で判断せず、判断をAIに委ねてしまうこともあります。また、情報環境の偏りという点では、フィルターバブルやラビットホールと言われるように、自分の周りを囲む情報自体がAIによって偏ってしまうことがあります。自分の関心や嗜好にあった情報ばかりが提示されるリスクがあるということです。

本日は特に3番目の意思決定への影響についてお話をしたいと思います。

次をお願いいたします。「AI時代の意思決定プロセス」というところで、少し理論モデルからお話をしたいと思います。

次をお願いいたします。生成AIの登場はインターネットと同じぐらい大きな社会のパラダイムシフトをもたらしたと言われています。コミュニケーションのプロセスも大きく変わっていくというところで、図の一番上はマクロレベルの社会や世界、図の一番下は個人のミクロレベルを表しています。マクロレベルからの力学としては、もちろんグローバリゼーションがありますし、それに対するナショナリズムの高揚もあります。さらにはAI等を含む科学技術イノベーション、特にアメリカの大手企業などによる影響も大きいと思います。これらのマクロレベルからの力学によって、私たちの街やコミュニティー、家庭や職場がスマート化されていき、スマートコミュニティーやスマートシティーなどがつくられていく。その力学がさらに個人レベルに伝わってきて、個人は日常生活において、AIとさまざまなエンゲージメント、すなわち関わりを持っていきます。

ただ、これは上から下への一方的な力学だけではありません。人々がAIを含むデジタル技術と多様な形で関わり合うことによって、人々のエンパワーメントやエージェンシーを通じて、今度は家庭、学校、コミュニティー、街などがさらに創り変えられ、社会もまた、創り変えられていくのです。この図は、そのような動態的かつ非常に多層なレベルの相互関係によって、社会も、個人も動態的に再起的に創造され、さらに再創造されていく、社会のパラダイムシフトを表したものです。

個人に注目をしていきたいと思います。次をお願いいたします。これは個人とAIとのエンゲージメントについての図です。まず個人内相互作用（ Intra-personal Interaction）です。ここでは日本の情報行動論などで言われているように、情報処理の過程で、人は情報として受け取るのか、あるいはノイズとして処理するのかという最初の段階があります。この段階において、同じ情報が流れてきたときに、誰もが一律に「これは有用な情報で、これはノイズだ」と判断するわけではありません。人によって興味がある内容であれば情報として受け取られ、興味がない内容であればノイズとして処理されていく。そのような最初の選別の過程があります。

さらに、ナノテクノロジーやナノロボットなどによって、健康促進やエンハンスメントなどのために、センサーやチップを体内に埋め込むような技術革新もあります。

そして、向かって左ですけれども、AI/ロボットとの疑似的な相互作用があります。これはAIナラティブと呼ばれているものです。簡単に言うと、テレビや映画といったメディアによって形成されているAIのイメージや社会的な言説のことです。例えば西洋、イギリスやアメリカでは、AIをネガティブに、あるいは脅威として捉える一方、日本はAIをポジティブに捉える傾向があります。一つの説明として、西洋ではキリスト教の影響があり、日本ではアニミズムの影響があるという宗教的な説明もされています。ただもう一つの大きな要因として、テレビや映画、あるいは社会のナラティブがあります。ここでいうナラティブというのは、テレビや映画だけではなく、社会でAIやロボットがどのように捉えられているかという広い意味での言説を含んでいます。よく言われるのは、西洋ではAIやロボットというと「ターミネーター」のような人間より優れていて社会を破壊するイメージを抱きやすい。一方、日本の場合は、「鉄腕アトム」や「ドラえもん」のように、親しみやすく、助けてくれる、支えてくれる、敵ではなくて味方であるというイメージがあります。これがAIナラティブです。

そして図の上部に示しているのは、AIを媒介とした人と人とのコミュニケーションです。今、私たちはこの会議室で直接的なコミュニケーションを行っていますけれども、例えばAIによる同時通訳システムを用いているとすると、AIの同時翻訳システムを挟んで外国の方とお話をすることができます。もう一つの例としては、小児病棟などで薬を嫌がるお子さんがいる場合です。AIを搭載したクマのぬいぐるみをその子に渡し、看護師さんが離れた場所からそれを操作する。看護師さんが話した声をクマのぬいぐるみの音声に変換して、「お薬飲まなくては駄目だよ、苦くないよ」と言うと、そのお子さんは「クマちゃんが言うなら飲もうかな」と言って飲んだりする。教育に関してもそういったツールがあります。つまり、テレオペレーション、遠隔操作をしているものです。

そして最後では、高度なAI/スマートロボットとの相互作用です。現在開発が進んでいるヒューマノイド等など、高度なAIを搭載したものとの相互作用がここに入ります。ここであえて「自律的」という言葉を使っていないのは、工学系で用いられる「自律的」と、人文社会系で用いられる、人間の主体性や責任を含む「自律的」とでは意味が異なるためです。AIエージェントもここに含まれると思いますが、人間の自律性と区別するために、ここでは「自律的AI」ではなく、「高度なAI/スマートロボット」と表記しています。

次をお願いいたします。したがって、社会から個人への、直線的な上から下への影響だけではなく、個人によるエンゲージメントを通じて、社会は創り変えられていきます。それも1つのエンゲージメントではなく、多様な多層的なエンゲージメントを通じて、社会が創り変えられていくというモデルです。

次に進みたいと思います。そして、「自己創造と適応」ですが、次をお願いします。現在私たちは、グローバルなAI環境の中で生活をしています。今、私はここで皆様と直接的な相互作用をさせていただいておりますが、それだけではなく、オンラインで御参加いただいている皆様とは、インターネットによって媒介されたコミュニケーションを行っています。媒介された経験には、SNSを含めたさまざまなデジタルメディア、さらにはAIやロボットを介した経験も含まれます。また、本や新聞といったプリントメディアを介した経験も含まれます。そうした直接的な経験とメディアを介した日々の経験を通じながら、私たちは自己を再帰的に創造・再創造しています。つまり、アイデンティティーや、自己は固定されて確立されたものではありません。日々の直接的経験、メディアを通した経験、そしてAIとの相互作用も含めた経験を通じて、再創造されているということです。

ここで重要なのは、個人の努力だけに委ねるのではなく、政府や企業、そして社会全体が、人々が自己を創造し続けられるように、支援や機会を整えていく必要があるということです。これは、何もみんながグローバル企業の社長になりたいということではなく、それぞれの人がその人にとって日々幸せだと感じられるような自己を創造し続けられるようにする、ということです。

次をお願いします。ただし、これだけAIが社会に入ってきている以上、AI社会に適応していく必要があると思います。適応の3つのモードとして、応化、抵抗、流用があります。ただAIを受け入れる、AIの言ったことをうのみにするという「応化」ではなく、支配的な意味づけに対して「抵抗」し、批判的に解釈し、「それは本当か」と疑ってみることが必要です。そして自分の目的に合わせてAIを「流用」していくことも必要です。そのようにして自己実現を図っていくことが重要だと思います。

少し抽象的なので、もう少し具体的な例をお話ししたいと思います。次をお願いします。2000年ぐらいから継続的に若者と様々なメディアに関する調査を毎年行っております。これは若者に対する生成AIについての、現在進行中のインタビュー調査です。インタビューの最後に「生成AIとは何ですか、一言で言ってください」という質問をしています。今の適応の形に合わせると、応化の例として「大波」と表現した人がいます。これはAIが社会の前提として組み込まれ、乗りこなせる人と取り残される人に分かれるターニングポイントだから、自分はとにかく使うという、良いか悪いかではなく、使わないと社会に取り残されるからと答えてくれた人がいます。

抵抗の例としては、「まな板」という例えをしてくれた学生がいました。AIはあくまでたたき台や補助であり、最終的に価値を生み出すのは人間である、ということです。これは理工系の大学生で、非常にAIリテラシーが高い人です。ただAIは単なるまな板であるけれども、なくては料理はできないので、なくてはならない基本的な存在だということです。

最後に流用の例としては、「都合のいい友達」という表現があります。ちょっと言葉は強いのですけれども、友達には気を使って相談しにくいことも相談でき、AIとの対話を通じて自分の考えを整理するということです。例えば自分に内定が出たときに、もし友達がまだ就職活動で内定を得ていなかったら、内定の相談はしにくいかなと思ったりします。深夜に何かを聞きたいと思ったとき、もう深夜の時間帯だから相談しにくいかなと思ったりします。何度も同じことを聞くと「またか」と言われてしまうのではないかと申し訳なく感じ相談しにくいこともあります。ただし、ここでは、AIに相談しても、それをただうのみにするということではなく、自分の考えを確認したり、「こういう選択肢もあるのか」と参照したりするということです。

もちろん、これらがきっちり分かれるということではありません。例えばテーマによって、自分が興味のないことに関しては、AIの答えをそのまま使うことがあります。一方、自分のキャリアや人生の目標など、自分にとって重要なことであれば、AIは一切使わないという場合もあります。また、例えば就活のESを書くときにどう書いたら良いか、先生にメールを出すときにこの敬語で合っているか、といったチェックの意味でAIを流用をしたりすることもあります。このように同じ人であっても自分の興味や関心、テーマによって、この3つの適用の仕方を組み替えているということです。

次をお願いします。そして、最後に「生成AI時代の主体性とリテラシー」についてです。次をお願いします。これは少し前ですが、2024年に行った調査からです。生成AIは今ほど普及はしていない時代でしたが、失業問題について大きく取り上げられていました。しかし若者たちは、失業よりもむしろ新しい仕事の創出に期待をしていました。産業革命のときもそうだったように、AIによってなくなる仕事もあるけれども、同時に新しい仕事もどんどん生まれるだろうからということです。そのため、AIによって空いた時間をどのように使いたいかという質問に対しては、技術的なスキルよりも、AIに置き換えられることのない人間ならではのスキルを身につけたいと答えています。さらに、AIで置き換えるのではなく、あくまでもサポートとしてAIを導入してほしいという意見もあります。個人情報の収集や情報の信頼性に関する危惧はもちろんあります。ただ、彼らは生まれたときからSNSがあり、自分の意図とは関係なく、親や周囲の人が自分の写真を既にSNSに上げていたりしている世代ですので、AIだからといって過度に危惧しているわけではありません。逆に、例えば医療に関しては、匿名性が確保されるならば、同じ病気で苦しんでいる人を助けるために、自分の医療データを使ってほしい、という意見もあります。つまり匿名性は大前提ですが、自分のデータを使ってAIを育成することに貢献していきたいという意見もあります。

ただ、高校生や大学生で、私たちから見れば若い世代なのですけれども、彼らは、より年少の子供には使わせるべきではないと考えています。特に小学生、中学生には使わせるべきではないと。その理由として「考えることをしなくなる」と言っていました。もちろん年齢制限等もありますけれども、そこはお時間もないので割愛します。重要なのは、これは多くの若者たちが言っていたのですが、規制だけではなく、自分たちがリスクに対処するリテラシーを身につけることが結局は重要なのだということです。規制だけではいたちごっこになりやすく、AI技術はどんどん進歩していきますし、それを悪用する人も出てきます。だからこそ、自分たち自身がしっかりリテラシーを身につけなくてはいけない、と言っていました。

もうお時間もないので、最後に御参考までに、UNESCOの教育におけるAIの人間中心アプローチについてご紹介します。次をお願いします。教師にどのようなリテラシーが必要かということなどが示されていますが、これは教育だけに限らず、AIを導入する全ての事業者や社会全体においても、こうしたことをきちんと理解し、サービスに組み込む際に参考になると思って載せております。

そして最後に、次をお願いします。学生向けのAI能力、AI時代に必要な3つの力ということで、人間の主体性、責任、そしてシティズンシップが重要であるとUNESCOは掲げています。

以上です。御清聴どうもありがとうございました。

○小塚座長　高橋教授、どうもありがとうございました。若者の生の声もいろいろとお伝えいただいて、我々にとって考えさせられる点が非常に多かったと思います。

いつものようにどなたからでも結構です。会議室内の方はお手を挙げていただきまして、オンラインの方は挙手システムでお知らせください。いかがでございましょうか。御発言、御質問等を承ります。

では、丸山座長代理、お願いします。

○丸山座長代理　御報告ありがとうございました。

私からは1点お伺いしたいのですけれども、生成AIがもたらすいろいろな懸念などに関しまして、利用者のリテラシーとともに環境整備がやはり重要とならざるを得ないと考えられる問題状況としてはどういったものが思いつきますか。何か知見や認識をお持ちでしたら教えていただければと思います。

○高橋教授　御質問ありがとうございます。

先ほどいたちごっこと申し上げましたが、AIが生成したものが非常に巧妙になってきていますので、利用者が見分けやすい環境整備として、AIが生成したものであることを明示する必要があるのではないかと思います。まず考えられるのは、その点です。

○小塚座長　ありがとうございました。

オンラインから大塚委員のお手が挙がっているそうです。大塚委員、お願いします。

○大塚委員　ありがとうございます。大阪大学の大塚と申します。非常に興味深い御報告をありがとうございました。大変勉強になりました。

私からはリテラシー、あるいは適応の話とリテラシーの話の関係などについて少し伺いたいと思います。スライドで言いますと12ページ、13ページ辺りになりますけれども、生成AIの受け止め方について、人それぞれだというお話がございました。特に13ページの学生へのインタビューの話が大変興味深く、同じ若者といいますか、同年代の学生の中においても受け止め方がかなり違っているということでした。この受け止め方というのは、その人は応化、その人は抵抗というものではなくて、どの要素が強いのかというところなのかなと伺ったのですけれども、その理解が正しいのかいう点をまずお聞きしたいです。

その上で、どういう受け止め方が望ましいのかという点について伺えればと思います。要は、例えば13ページで言うと恐らくリテラシーが一番高いのが真ん中の抵抗を示しているまな板と呼んでいる人なのかなと思ったのですけれども、こういった捉え方が望ましいというべきなのか、あるいはそれぞれの捉え方、受け止め方というのはそれはそれで尊重しつつ、別の話としてリテラシーを高めるべきだという話になるのか、こういった受け止め方とリテラシーとの関係についてどう考えればいいのかということをお聞かせいただければなと思います。

よろしくお願いいたします。

○高橋教授　御質問ありがとうございました。

まず、同じ人でも段階を経て、変化していくと思います。最初は、とにかく使わないと乗り遅れるということで「応化」が強くなります。しかし、使っていくうちに、自分の用途に合わせてうまく使いこなしていくという意味で「流用」が強くなっていくと思います。

そして、望ましいのはやはり「流用」の使い方だと思います。例えば自分がこれからどうありたいのかという目標があって、それに合わせてうまくAIを使っていくという形です。「抵抗」に関しては、ほかの例ですと、AIはあくまでも手段であるとか、電卓のようなものであるという捉え方があります。AIを高度な人格的存在ではなく、入力に応じて処理するマシーンと捉えているということです。また、「ウルトラマン」と表現する人もいて、困ったときには助けてくれるけれども、頼り過ぎてはいけない。3分という限界があるように、AIにも限界があるということを踏まえている例です。

「流用」のほうでは、「エナジードリンク」という例えがありました。AIからヒントをもらっても、それを具体化できるかは自分次第ということです。また、「マヨネーズ」のように、用途が広く、様々な場面で応用できるという例えや、「馬」のように、使い手の技量によって発揮される価値が異なるという例えもありました。人間が自分の技量や目的に合わせて使いこなしていくというところが、最も望ましいと考えています。

○大塚委員　ありがとうございます。

例えば今回挙げられている都合のいい友達という使い方というのは、それはそれで望ましい場面というのが多くあると思うのですけれども、それが過剰になってしまうと依存という形でその個人への悪影響になってしまうような気がいたします。そこで効いてくるのが恐らく、抵抗、あるいはリテラシーという話になってくるのかなと思って、どこまで都合のいい友達として使っていいのか、あるいは馬という話でも、馬を使いこなせないとけがを負ってしまったり、逆に社会生活が良くない方向に行ってしまうという形にもなってくるかなと思うのですけれども、そういったときにどの点に注意してリテラシーを身につければ、あるいはどういうリテラシーを身につければきちんとうまく流用できるのかという点について何か御見解がございましたら、伺えればなと思います。

○高橋教授　ありがとうございます。

まず、日本では特にAIを人格を持つ存在のように受け止めてしまう傾向があると思います。例えば、「AIに教えてもらった」という表現を使うことがあります。私がケンブリッジでAI研究の重鎮であるマーガレット・ボーデン先生に、AIが外国語を教えてくれるという意味でTeachという言葉を使ったところ「Teachというのはどういうことか」と強く御指摘を受けたことがあります。AIは教えているのではなく、ただ情報を処理してそれを出力しているだけだ、というご指摘でした。ですので、まずはAIを過度に人格化して受け止めないことが重要だと思います。実際に私たちが行ったインタビューでも、「何でもかなえてくれる神様」というように神格化する回答もありましたので、この点は大事だと思います。

さらに、AIは使い方によってはチャンスになりますが、過度に依存することとリスクにもなります。つまりチャンスも過ぎるとリスクに転じるということです。これはSNSでも、他の技術でも同じです。ですので、どういったチャンスがあり、どういったリスクがあるのかを、セットで教えていくことが重要だと思います。つまりチャンスを示さずに、リスクのみを教えたり、利用を規制したりすることは、新しいテクノロジーを使う機会そのものを避けてしまうことにつながります。一方で、AIが世界的に普及している段階で、全面的に規制して「AIを使うな」ということも、現実的ではないと思います。したがって、「こういったチャンスがある。ただしこういったリスクもある」ということを必ずセットで教えていくことが大事だと思います。

また、AIは完成形の答えをくれるものではなくて、あくまでも選択肢の一つを提示しているだけだと理解する必要があります。そして、決めるのはAIではなくて自分です。もし自分の考えや決定に自信が持てないのであれば、信頼できる御両親であったり、先生であったり、お友達であったり、周りの方に確かめてみるということが重要だと思います。そしてこの時、自分が悩んでいることをきちんと相手に分かってもらうように伝えるためのコミュニケーション能力も重要になります。

先ほど、技術的スキルよりも、AIに置き換われないような人間ならではのスキルを身につけたいという、若者の回答を紹介しましたが、国連と一緒に行ったプロジェクトでも同じ傾向が出ています。AIに置き換えてほしくない領域として、子供や高齢者のケアには人間が介在してほしい、人間が中心になってほしいという意見が多く見られました。また、政治的に重要な意思決定は人間が行ってほしい、文化やアートも人間が中心であってほしいという願いがありました。

ですので、何もかもAIに置き換え、AIが言ったことが正しい、AIがそう言ったからそうするということではなくて、あくまでも人間中心に、ここはAIに任せるけれどもここは人間が行うべきであり、ここは自分たちが考えて決定する、という線引きが必要です。自分の人生の主役は、AIではなくて自分です。AIは一つの選択肢を提示しただけであり、決定したのはあくまでも自分ですので、その決定に責任を持てるようにする必要があります。そのためにもAIと自分で完結するのではなくて、周囲の方とも一緒に考えていくことが重要だと思います。

長くなりましてすみません。お答えになっていましたでしょうか。

○大塚委員　すごく勉強になりました。リテラシーの中にもいろいろなものがあって、私も含めて今後、さらに生成AIに面と向かって対峙していくためにしっかり身につけないといけないものが多いなと感じました。

ありがとうございました。

○高橋教授　ありがとうございました。

○小塚座長　それでは、唐沢委員、お願いします。

○唐沢委員　高橋教授、どうもありがとうございました。大変勉強になりました。

特に先生のお考えで、生成AIとの相互作用を通じて人が主体性を保ちつつ自己を創造するとか、再創造するというのは、AIとの関係における一つの未来像の非常に良い形として捉えるものだなと思いましたし、主体的な自己創造か、それともAIによる誘導かというのはここの委員会でも議論されてきたことなので、そことの接点も改めて見せていただいたお話だなと思いました。

そのことを踏まえなのですけれども、AIを単に受け入れるだけではなくて、抵抗するとか、自分の目的に合わせて流用するとか、使わない意思決定も大事だよというのも今回のお話の中に含まれていて、この点も改めて重要な問題提起だと思うのですけれども、使うということの意思決定と使わない意思決定は同じ軸の対極にあるというより、この2つは心理学的な性質が違うなと思っています。使うというのは積極的なマインドである一方、使わないという決定は、周りが使っているもの、便利だし効率も良いし周りも使っているけれども、自分はそうしないというのは、意思決定としては別の困難さがあるようにも思うのですね。使わないという意思決定をどのように人ができるのかを考えたときに、もちろんリテラシーを高めるということは一つの解決だと思うのですが、強い人間のモデルというか、AIをうまく活用して自己創造していくのだという前向きなマインドの人間像、使うということを前向きに考えている人たちはそういうことがうまくできるとしても、消費者を守るという観点からすると、それが困難であるという人たちや状況があることは重要だと思うのです。

その場合にリテラシーに頼るというのは本人に過剰な負担がかかるなとも思っておりまして、本人以外、例えば政府であれ、開発側であれ、企業であれ、そういうところが一定の責任を負って、使わないということに対してどのように環境設計をしていくかということも重要かなと思うのですが、この点について、先生はAIについて広く御研究されていると思いますし、技術者や社会と接点にもおられると思いますので、いろいろな立場の者がどのような役割を負ってこの責任を果たしていくべきかということについて何かお考えがあれば、教えていただければありがたいです。よろしくお願いします。

○高橋教授　貴重な御意見ありがとうございました。

国連と一緒に行ったプロジェクトでも、その後、若者を交えながら国連の方々、EUのAI法案に関わっている方々、またGoogle等の企業の方々を交えて、２日間のワークショップをおこないました。その際にも、先生がおっしゃったように、「使わない」ということを選べるようなものを、まずデザインに組み込む必要があるのではないかという意見が出ました。私たちが最後に発表した提言の中にも、入れてあります。

ただ、これは次のテーマであると思いますが、実際にAIエージェントが出てきたときに、どこで「使わない」というデザインや設計ができるのかは非常に難しい問題だと思います。例えば、利用者がAIに対して、これを言われて嫌だった、あるいはこれは自分で主体的に考えたいとフィードバックをしていくことも考えられます。先ほど申し上げたキャリアデザインや、これから自分がどのように進んでいきたいかについても、人によってはAIを使いたい場合もあれば、自分で考えたい場合もあります。また、恋愛相談をAIにする人もいれば、逆に恋愛相談はAIにはしないという人もいます。このように人によって、嗜好性がかなり異なりますので、そうしたことをある意味ではAIを使いながら教えていくという形もあるのではないかと思います。ただし、それは個人利用の場面です。自分が個人で利用する生成AIだけではなく、社会のさまざまなところにAIが入ってきますので、自分が意図せずに使うことになるAIについて、どのように「使わない」という選択肢を可能にするのかというのは、恐らく次の御発表のテーマになるのではないかと思います。

また、自己創造に関しては、これは複雑系のパラダイムを用いています。もちろん一つの方向性としては、自己実現のために主体的、創造的に使っていくという生き方もあります。しかし、例えば生成AIが発した同じ一つのメッセージであっても、それによって人が非常に不安定な状態に陥り、場合によっては自殺に至ってしまう可能性もあります。そのような状態に陥らせないように踏みとどまらせるには、どうすればいいのかが重要です。周囲の友達や親や、何らかのサポートができる人々による、これまで以上に細やかな人間による支援も大事ではないかなと思っています。

ですので、自己創造という言葉を使っていますが、それは決して、全ての人が非常にポジティブに自己の目標に向かっていくという意味だけではありません。複雑系のパラダイムで考えれば、カオスや不安定さに陥る可能性も含めて捉える必要があります。主体的という言葉が適切かどうか分かりませんが、ネガティブな方向やマイナスの側面も含めて考える必要がある、ということを少しお話しできればと思いました。

お答えになっていましたでしょうか。ありがとうございます。

○小塚座長　ありがとうございます。

どうぞ、馬籠委員、お願いします。

○馬籠委員　お話ありがとうございました。非常に勉強になりました。ありがとうございます。

若者の動きをよく先生も御研究をされているかと思います。例えばデジタルデトックスの流れが海外だと起こってきていたりすると思うのですが、そこの部分は若者の中での動きで見えてきていたりしますでしょうかというのが1つ目の質問となります。もう一つの質問としましては、例えばAIは企業側としては、使ってもらったほうがよいわけですね。たくさん使ってもらって例えば広告を出すなど、いろいろなエージェンティックコマース的なことをしたほうが良いと考えた場合、そこに例えばユーザーの満足度や社会貢献度、心理尺度みたいなものを加味したモデルの構築、評価するモデルの構築みたいなことができる可能性はありますでしょうか。

○高橋教授　ありがとうございます。

デジタルデトックスの話は、SNS、スマートフォン、あるいは携帯電話の時代からずっと言われています。ただ、若者の生活を考えると、これは非常に難しいと思います。スマートフォンを家に忘れたら急いで取りに帰るというのは、若者だけではなく、私たちもあると思います。今は多くのものがスマートフォンに入っていますので。そのためデジタルデトックスを行うといっても、単にAIだけではなくて、人と人とのつながりがスマートフォンや携帯電話、インターネットを通じて成り立っていますので、そのつながりを24時間切るという場合には、周囲に「これから24時間デジタルデトックスをやります」と宣言しないと、なかなか難しいと思います。

特に若者の場合は、LINEなどのグループLINEで、すぐ返事をしないと仲間外れになるなど、さまざまな状況があります。実際に行うのは非常に難しいのではないかと思っています。

広告に関してですが、これは正確な情報かどうかは分かりませんが、生成AIサービスに広告が入る可能性について若者は非常に危機感を持っています。生成AIは旅行のプランやレストランの相談などさまざまな場面でお勧めを提示してくれます。そこに広告が入った場合、それが広告なのか、あるいは大量のデータを学習した結果として出てきた情報なのか、あるいは自分の嗜好に合わせて提示された情報なのか、区別がつきにくくなる可能性があります。

雑誌の広告であれば「これは広告です」と明示されていることもありますし、テレビCMでも広告であることはわかります。しかし、生成AIとの対話の中で提示される情報については、利用者にとって非常に難しい問題になるのではないかと思っています。

　モデルについては、恐らく構築は可能だとは思います。ただし、非常に複雑な要素が入ってくると思いますので、簡単ではないと思います。ただ、できなくはないと思います。

○馬籠委員　ありがとうございました。勉強になりました。

○高橋教授　ありがとうございます。

○小塚座長　それでは、野村委員、お願いします。

○野村委員　貴重なお話をありがとうございました。

先ほどの御意見の中でAIの擬人化にはリスクがあるので回避すべきという御意見がありましたが、私はヒューマンロボットインタラクションという分野で従事しているのですが、擬人化は研究者にとってはすごく便利なデザインの方法でして、それがあるのとないのとで対話の流れは全然変わってしまいます。ということは、AIのベンダーは恐らく擬人化を絶対やめないのかなと。それをやめてしまったら自分たちのAIが使われなくなるということを懸念して絶対にそれを譲らないと思われるのですが、そこのところはどのように思われますでしょうか。

○高橋教授　ありがとうございます。

私が申し上げたかったのは、つくる側の擬人化ということではなくて、受け止める側の擬人化ということです。どんなに精巧なヒューマノイドや人間そっくりのアンドロイドができ、相互作用がより円滑になったとしても、利用者が、どこかできちんとそれは人間ではなくてヒューマノイドなのだということを理解していないといけないと考えています。

この問題に関しては、ケンブリッジ大学でも、AIやロボットをなぜ擬人化するのかということが、現在のような生成AIが普及する以前、10年ほど前からテーマになっていました。擬人化によって相互作用が深まり、便利になる面がある一方で、それがリスクにつながる面もあると思います。例えば友達も恋人も家族もヒューマノイドでよく、人間の家族は要らないという極端な意見を持つ方もいると伺っています。ですので、擬人化そのものを全て否定するということではなく、利用者がそれを人間そのもののように受け止めてしまうことには注意が必要だと思います。

○野村委員　もう一点だけお願いします。

擬人化の効果に関しましては恐らく文化差があると思われまして、日本人は圧倒的に擬人化傾向が高い。既にたまごっちがそのことを証明しておりますので、そうするとそういうものに対する規制などで国家間の足並みの乱れみたいなものが予想されるのですが、それに対してはどのような御意見を。

○高橋教授　ありがとうございます。

今、非常に重要な点をおっしゃっていただきました。最初に申し上げたAIナラティブとも関わりますが、日本では、テクノロジーに対する信頼が高く、新しい技術を比較的すぐに受け入れる傾向があります。一方、例えばイギリスでは、技術導入に対してより慎重な姿勢があります。2000年頃、携帯電話からインターネットにつなげることが可能になった時期に、日本では1999年にｉモードによって、世界に先駆けて携帯電話からインターネットにつなげることが可能になりました。そのため、それをイギリスに導入していいのかどうかを検討するために、私の指導教官も同行する形で、スコットランドヤードの関係者が来日しました。その際には、どんなリスクがあるのかについて、かなり丁寧なヒアリングを重ねていました。そして、それをイギリスに持ち帰り、まず「こういうリスクがあります」と説明した上で、それでも使いますかと問いかけていました。そうしないと、PTAの方々やさまざまな立場の方々から非常に多くの批判が来るということでした。つまり、イギリスの技術の導入の仕方としては、まずはどのようなリスクがあるかをきちんと提示するということです。

恐らく、今おっしゃってくださったように文化差があり、日本ではそのような技術の導入の仕方はしないと思います。だからこそ、日本では日本に合った導入の仕方や、日本の利用者に合った説明の仕方を考えていかなければいけないと思っています。

○野村委員　ありがとうございました。

○小塚座長　ありがとうございました。

どうぞ、坂下委員、お願いします。

○坂下委員　御説明ありがとうございました。

非常に重要な指摘があると思うのですけれども、思ったのは、主体性のところと包摂というところが資料に出てくるのですけれども、今、都道府県も政令市も100パーセント生成AIが入りました背景には、10年前から15パーセント職員が減っているので、もう回らないことがあります。こういうもの（AIによる市民対応）をやっていって市民の主体性を守ろうとしていった場合に、どうしてもデジタルというのは効率性と合理性というのを求めていきますから、そこでバランスが取れなくなってくる可能性があるのではないかと私は懸念しています。

そういうものに対して、学生さんたちはそうかもしれないのですけれども、サービスを提供する側として主体性を守ろうとしたときに、利便性などのバランスが崩れるのをどう防ぐかということについて、国連などで何か議論がありましたら教えていただきたいです。

○高橋教授　ありがとうございます。

特に包摂性という点は、国連でも非常に重視されているところです。誰一人取り残すことなく、全ての人が利用可能な状況にあるということです。もちろん、それは理想論だと批判されることもありますが、ただ、そうした理想をきちんと掲げ、それに向かっていくことが大事だと思います。

特に日本の場合は、人口減少により労働力も今後さらに不足していきますし、超高齢化・少子化も進んでいきます。その意味では、効率性を追求する中で、AIやロボットは今後さらに導入されていくと思います。ただ、そのときも、取り残される人がいないように、きちんとしたサポートが必要だと思います。そこには、人間によるサポートが必要だと思います。

効率化によって全てがAIやロボットに置き換わるなら、人間はもう何もしなくていいということではありません。逆にAI時代、AI社会だからこそ、人間ならではの思いやりや、コミュニケーション、サポートが重要になってくるのではないかなと思っています。

○坂下委員　どうもありがとうございます。

SDGsの年限が2030年なので、あと4年ですね。今、AIが出てきて、先生がおっしゃったような人間が対応しなくてはいけない部分とデジタルの境目を考えていくというのが大事なのではないかと思って質問させていただきました。

ありがとうございました。

○高橋教授　どうもありがとうございます。

SDGsに関しては、国連に伺ったことがあります。ちょうど10年ほど前ですが、私が、SDGsにさらにもう一つAIという項目をつくるべきではないかと伺ったところ、そうではなく、SDGsの全ての項目にAIが入り込んでいくのだというお話でした。

まさに今、坂下委員がおっしゃったように、それぞれの項目の中で、どこをAIが担い、どこを人間が担うのかという線引きは非常に重要になると思います。また、それが、国際的に統一されるものなのか、あるいは先ほど野村委員がおっしゃってくださったように、社会によって異なるものなのかという点も重要です。

例えば、日本はここまではAIで、ここからは人間が担うと考える一方で、イギリスでは、AI導入がより限定的で、人間が担うべきと考える部分が多いかもしれません。国際的に規制したり統一したりできる部分と、それぞれの国の人々の幸せに合ったあり方をきちんと理解した上で考えていく部分の両方が重要なのではないかと思っています。

○小塚座長　ありがとうございました。

まだ若干お時間がありますけれども、どなたか御質問、御発言等はありますでしょうか。オンラインの先生方、いかがですか。

もしどなたからもないようであれば、私から最後に1つだけ、高橋教授の資料の後ろのほうに、UNESCOで教師、学生それぞれに向けて文書を出したという文がついているのですけれども、最後につけられたということで読み取るメッセージがあるという御趣旨かと思いましたけれども、何が一番大事なメッセージだと考えておられますでしょうか。

○高橋教授　ありがとうございます。

私自身の関心から申し上げますと、最後にご紹介した学生向けのリテラシーの中でも、AI時代におけるシティズンシップという点が、特に日本の文脈では重要ではないかなと思っています。

日英米3か国で若者の調査を行った際に、「もしAIが家事も労働も全てやってくれて、自由時間がたくさんあるとしたら何をしたいか」と聞きました。多くの人が自分の好きなことをしたい、家族や友達と過ごしたいと答えた点は、3か国で共通していました。

一方で、違いが現れた点の一つが、「コミュニティーのために何かしたい」という回答です。英米では約60パーセントだったのに対して、日本では約40パーセントでした。また、「環境問題などのグローバルな問題を解決したい」という回答も、同じように英米では約60パーセントでしたが、日本では約40パーセントでした。

現在は、生成AIによって同時通訳も可能になり、よりグローバルに出ていける時代になっていると思います。以前よりも言葉の壁は低くなっていますし、SNSなどを通じて国境を超えてつながることもできます。そうした中で、国を越えた協働や相互理解を深めていくことができると思います。

ですので、自己実現という意味でも、コミュニティーや、日本、さらにはグローバル社会の中で、自分の友達や家族といった身近な関係だけでなく、遠く離れた他者に対する社会的想像力や思いやりを育み、日本の若者たちにも、そうした形で貢献してほしいと考えています。

○小塚座長　どうもありがとうございます。消費者政策というのもある意味で言うとより良い社会をつくっていくということですので、そういう意味で言いますと、AI時代にとりわけ消費者から見てより良い社会というものをどうつくっていくか、そういう中に今の若者、今の若者というのは一番物の考え方が柔軟なときに生成AIに触れていく、さらにこれから10年、20年とたっていくと生成AIネイティブの若者が出てくるわけでして、そういう時代に向けて何ができるかというのは非常に大きな宿題をいただいたと思います。

高橋教授、どうもありがとうございました。今日は非常に勉強になりましたし、まだこれから残っていただけるということですので、ぜひ後半の議論にも御参加いただければと思います。ありがとうございます。

≪2．（2）消費者を取り巻くAI技術の現状について
     事業者団体ヒアリング
     （小栗　伸　一般社団法人AICX協会代表理事）　　≫

○小塚座長　さて、それではそろそろ議事（2）に進ませていただきたいと思います。「消費者を取り巻くAI技術の現状について」ということですが、最初にも申し上げました一般社団法人AICX協会の代表理事でいらっしゃいます小栗代表理事にお話をいただいて、それからまた今と同じように質疑応答させていただきたいと思います。

一般社団法人AICX協会・小栗伸代表理事、AICX協会というのは国内初のAIエージェントに特化した一般社団法人ということで、参画されている企業と協力をしてAIエージェントの社会実装を推進する活動をする団体と承っております。本日、小栗代表理事からは、「消費者を取り巻くAI技術の現状」という資料を御用意いただいております。また20分ぐらいでお話しいただければと思います。どうぞよろしくお願いいたします。

○小栗代表理事　よろしくお願いいたします。

資料は御投影いただける形でよろしかったでしょうか。ありがとうございます。

では、御紹介ありがとうございます。改めまして、小栗と申します。

今日は「消費者を取り巻くAI技術の現状」という形で、特にAIエージェントが消費者の体験や選び方にどのような変化をもたらすか、といった点を具体的にお話しできればと思っております。

最初に簡単に自己紹介させていただきますと、私はNTTドコモで音声認識や言語処理の技術開発と事業開発に携わってまいりました。2025年1月に一般社団法人AICX協会を立ち上げ、現在は、会員企業様と一緒に、業界を横断した専門委員会の運営、オンラインカンファレンスの開催に取り組んでおります。また先月、現場と組織を変えていく人材を認定する「AIエージェント・ストラテジスト」資格制度をリリースし、資格の運営と教育事業にも取り組んでおります。

本日お話しさせていただく全体像です。AIエージェントの登場によって、消費者が自分で検索し、比較し、判断するだけの時代から、目的を伝えてAIに一定程度任せて進める時代に移りつつあります。

この4つの観点でお話しできればと思います。1点目は、消費者の接点が検索から委任に移っていくという変化です。2点目は、AIエージェントが可能にする、いわゆる双方向のコミュニケーションの現在地です。3点目は、消費者の方が情報を収集し判断すること、そして選好形成に対して、AIがどのように関与し得るのかという話です。最後の4点目は、不適切な介入を防ぐために何を表示するか、何の同意を取るか、人がどこまで関与するか、といったフローをどう設計すべきかという観点です。

この4点に共通する論点は、消費者の方が「何を根拠に、誰の意図で、どこまでAIに委ねたのか」を考えることであり、ここが非常に重要だと思っています。

まず1つ目のテーマが、「検索」から「委任」へ移るという変化についてです。

こちらのスライドでは、技術が顧客の行動と価値の定義をどう変えてきたかを整理しています。先ほど申し上げたように、AIエージェントによって、目的だけを伝えて実行をAIに委ねるという体験が生まれつつあります。

これまでは、ネットで物を買うときに、自分でキーワードを考え、出てきた結果から条件を整理し、判断・実行するという流れがあったと思います。現在は、例えば旅行のプランを考えて予約するといった目的ベースで、AIがある程度情報を調べ、購入の直前まで動いてくれる体験ができるようになっています。

ここでのAIは、調べて情報を返すだけではありません。選択肢を絞ったり、消費者の方が意識していない比較軸をつくったり、その上で自律的に判断したりします。そのために必要なタスクも自分で生成して管理し始め、さらには消費者との対話を通して学習・改善するといった役割まで、AIが持ち始めています。

こういった変化に対応するためには、顧客の体験だけではなく、サービスを提供する事業会社の組織、業務、データ、AI技術も一体として設計する必要があります。ですので、いくらAIエージェントが非常に高性能であったとしても、事業会社が提供している商品の情報が古い、あるいは企業内に蓄積されているデータが分断されているという状態になると、消費者が目的を伝えたとしても企業側の情報がうまく連動せず、本来提供すべき価値を提供できないことが起こり得ます。

先ほどAICX協会はAIエージェントに特化した協会と御紹介いただきましたが、我々が大切にしているのは、AIの技術で何ができるかという点はもちろん重要であるものの、それ以上に顧客体験を起点に各要素を分解し、どういう体験が生まれるのかという観点で社会実装を進めていくことです。そうした思いで立ち上げたのがAICX協会です。

2つ目が、AIエージェントが可能にする双方向のコミュニケーションです。ここはこの後少しボリュームがありますので、3つの視点で見ていければと思います。

1つ目は、生成AIの登場によって、技術的に短期間でプロダクトを作れるようになったという話です。2つ目は、企業とお客様とのコミュニケーションにおいて、FAQだけではなく、企業の情報にアクセスしながら、より高度な体験を提供できるようになってきているという話です。3点目は、エージェントが企業の顔になり、消費者の方が買い物を相談し、購入するといったときに、具体的にどのようなサービスが出始めていて、今後どのような流れになりそうかという話です。

具体的な話に入る前に、AIエージェントの構成要素を整理します。生成AIは情報を生成するものですが、AIエージェントはそれだけではなく、実際に実行するところまで担います。大きな構成要素は2つあります。一つは、顧客体験を形づくる、いわゆる設計要素です。もう一つは、それを支える技術要素です。

具体的には、ブランド、つまり先ほどの疑似人格のような話もそうかもしれませんが、どういった会話をするか、お客様をどう理解しているか、お客様の指示に基づいてどこまで行ってよいのか、といった設計要素があります。それを支える技術要素として、マルチモーダル、RAG、LLMといったものがあります。ここで重要なのは、お客様に見える体験設計と、背後で技術的に何を参照し、何を判断するのかという点を、それぞれの観点できちんと設計していく必要があることです。

具体的に、AIのサービスをつくるハードルが大きく下がったというお話をしたいと思います。生成AIのAPIを使うことで、企業側は、会話・要約・分類といった機能を一からつくらなくても、すぐにサービスへ組み込めるようになりました。例えばOpenAI社のChatGPTもそうです。生成AI登場前にLLMを独自につくれる企業は一部の大企業に限られていましたが、今では個人でもサービスをつくれるようになっています。APIを利用して、自社が持っている顧客データや商品情報と連携させることや、アプリなどとの接点をつくることにより、非常に短い時間でサービスリリースが可能になっています。ここでのポイントは、数多くのサービスを多くの主体がつくれるようになったことです。

これを事業会社の目線で見ると、このような流れになります。サービス・料金を決めた上で、このAPIを使おうと決めます。そうすると、本当に最小限の機能を実装して、世にサービスを出せます。

ここで事業会社側として重要なのは、回答してはいけない内容、お客様に確認すべきタイミング、AIが分からなくなったときに人間につなぐタイミングといった、いわゆる運用設計をきちんと行うことです。開発のコストは非常に下がっていますが、こういった事業会社側の設計ポイントの重要度は高まっています。

具体的に、生成AIを使った業務アプリやチャットボットなどは、短期間でリリースされる事例が出始めています。これは、先ほどのAPIなどを使うことで開発範囲を非常に小さくできるという話もそうですが、事業会社がつくらないといけない機能自体も、生成AIを活用することで開発プロセスの生産性が大きく上がっている点も特徴です。

これは、実際にお客様対応のAIがどれくらいできるようになっているのかを、レベルに分けて書いています。チャットボットは、生成AI登場前はルールベースでしたので、なかなかお客様の期待に応えることが難しく、ユースケースを非常に限定させないといけませんでした。今は、生成AIのAPIを使うことで、非常に柔軟に設計できるようになっています。ですので、FAQへの回答だけではなく、お問合せの意味を理解することや、企業内にある顧客情報にアクセスしてきちんと一次回答することもできるようになっています。AIが答えられないことはオペレーターにつなぐことも、既に実現されています。

今後どうなっていくのかという点ですが、例えば先ほどのFAQのように問合せが発生したタイミングはもちろん、その前に消費者の不安を減らし、選び方を支援することも考えられます。また、お客様からお問い合わせいただいているものの、自分自身が何を聞きたいか分かっていないときは、AIが目的を聞きながら必要な情報を整理することもできます。問合せの後に追加対応が必要そうであれば、そのフォローもAIが行うといったように、スナップショットでの対応だけではなく、お客様との接点において、購入前から購入後までの各プロセスでAIエージェントが関与・支援できるようになってきます。

ここで大切なのは、分断されているデータにきちんとアクセスできる設計にしておくことです。そうすることで、お客様の体験としては、「また同じことを言わされている」といった話はなくなってくると思っています。

少し観点を変えて、AIエージェントの提供主体は誰になるのかという観点も大切だと思っています。どちらか一つに限られるものではないと思いますが、一つは企業主導での合理化です。例えば、ある会社が専用でつくるAIエージェントとお客様が相対する形です。2点目がプラットフォーマー主導での合理化です。これはOpenAIさんもそうですし、モバイル端末を出している会社さんが提供するエージェントもあるかもしれません。この2つのパターンがあると思っています。

企業が自社のAI接点をお客様と持つと、お客様の理解やサポートを一貫して設計しやすくなるメリットがあります。ただ、プラットフォーマー主導で、お客様がプラットフォーマーのAIエージェントとだけやり取りするようになってくると、企業によっては顧客から見えなくなるかもしれません。その結果、お客様との接点が希薄になる企業も出てくる可能性があると思っています。

こうなってくると、プラットフォーマー主導での合理化の場合、消費者からすると、このAIエージェントが勧めてくれるものが誰の基準で、どの会社から選ばれているのかが見えにくくなる、といったことが発生します。

少し観点を変えますが、AIエージェントとしてのブランディングという流れもあります。これは、しまむらのAIモデルの「るな」さんです。こちらはエージェントではなくAIモデルなので、お客様と会話をする機能は、現時点では提供されていないと思うのですが、AIが効率化や利便性向上にとどまらず、消費者が接するブランド人格やコミュニケーションの一部になる例として、面白い事例です。

お客様がこのAIモデルさんにどのような印象や親近感を持つのか、ブランドへの好意にどうつなげるかも重要な論点だと思っています。ですので、AIが機能であると同時に、企業の表情にもなっていく可能性があります。また、こういうAIモデルさんとの対話を通して消費者の方が親近感を持てば持つほど、このAIモデルさんに勧められたらこれを買おう、という流れも出てくるのではないかと思っています。

ロレアルさんでは、チャットができるサービスをリリースされています。顔写真や対話から悩みを相談すると、アドバイスや商品提案をしてくれます。これは、なかなか相談しにくいことをいつでも相談できるので、消費者からすると心理的な距離が近くなりやすいのではないかと思っています。

OpenAIさんの取組では、チャットの会話の中で商品を選び、そのまま購入するといった、いわゆるECサイトに代わる方向性もあります。

国内で言うと、Rakuten AIさんがお買い物エージェントをリリースされています。画像や音声とともに、会話で商品を探せるようになってきています。これは、そのまま自動で買えるところまではなかったと思うのですが、新しい体験が既に生まれつつあります。

消費者と事業者がAIエージェントを活用して対話をし始めたときに、消費者側からどのようなデータが流れるのか、そのデータに事業者側がどのようなデータを当て込むのかは、サービスの提供価値に大きく関わってきます。どこまでデータを出すか、出さないかといった点は、一つの論点としてあります。ただ、これらのデータ・情報を結びつけるほど、会話や提案の精度は高まっていきます。ですので、データをどこまで使っていくかは重要な論点です。次のページからは、購買の意思決定と選好形成の論点についてお話しできればと思います。

これは具体的な事例で見ていきます。キーワード検索から「抽象欲求の充足」へというところで、何を解決したいかを投げかけることによって商品が買える、といった体験が生まれてきます。

そのような体験を実現するために、AIが何をしているのか、どのような処理を行っているのかを示しています。購買において、要求を理解し、属性化し、商品属性と適合判定を行うといったことをしています。ですので、商品を販売する企業からすると、自分たちの商品をどのようにAIに理解してもらうかは大切な論点です。

選好形成にどう関与するかです。人は必ずしも、自分の好みを最初から言語化できていないケースもあります。会話の中で「あなたはこういう条件を重視していますね」とか、「このタイプが理想ですね」と言われることで、自分の好みが整理されていくこともあると思っています。ですので、AIエージェントとの会話が自分の好みの理解に寄与することはある一方で、質問の仕方、候補の出し方、提示順、口調などによって、ある程度好みをコントロールしようと思えばできるのではないか、という点もあります。

この辺りは、消費者がAIを全面的に信頼しているわけではないというところで、幾つかデータを出しています。ここで重要なのは、信頼が高いか低いかを単純に見るというより、急いでいるとき、不安が強いとき、専門知識がないときなど、状況によってAIをどこまで信じるか、信じないかが変わってくるという点です。その参考データになります。

これは、自分が何かを買うときに、どこまでAIに任せますかという話です。買うものによって、任せる範囲が変わってきそうだということです。情報だけ集めてほしいのか、比較軸をつくってほしいのか、最後は自分が吟味するから前処理だけしてほしいのか、といった違いがあります。

実際に商品を売る側からすると、自分の商品について、どこまでを人が判断し、どこまでをAIが判断するのかをきちんと理解した上で、情報設計をしていく必要があります。

ですので、パターンごとの細かい違いはありますが、基本的には、消費者の方の目的に合っているか、比較軸が偏っていないか、つまり人が確認したい情報をきちんと開示できているかが、ますます重要になってきます。そういう情報を開示できていない商品は、なかなか選ばれなくなってくるという話です。企業側は、AIにどう読ませるか、どう説明されるかをきちんと設計していく必要があります。

最後に、不適切な介入についてです。先ほどの、ユーザーが意図していないところで恣意的に好みを変えにいくという話は、可能性としてはあります。そういったものをどう考えていくのかという論点を整理した上で、サービスを提供する会社同士で目線を合わせることが重要だと思っています。

これらを考える上で重要なのが、AIエージェントの提供主体の話です。先ほど2パターンの1番と2番は見ていただいたのですが、3つ目として、Claude Codeなど、今、個人が自分自身のエージェントを使い倒している方も結構いらっしゃると思います。

1番のようなメガプラットフォーマー型では、どういう理由でこういう順位で出されたのか、といった透明性が非常に求められます。2番の事業会社が提供するエージェントでは、これは販売目的なのか、どこまで本当の相談なのか、といった振る舞いをきちんと定義することが重要になります。3番の個人の場合は、自分のPCの中の情報もアプリケーションの権限も全て与えてしまうと大変なことになるので、どこまで権限を管理しているのか、どこまで自分が承認したいのかをきちんと整理することが論点になります。パターンごとに論点が少しずつ違ってきますので、そうした点を意識した上で議論する必要があります。

ただ、この不適切な介入のラインを設けるのは非常に難しいところです。ポイントは、事業者が実装時に迷わないようにすることが重要だと思っています。事業会社様側の提供価値とお客様の価値には、利益相反の部分もあると思うのですが、その境界をどう見えるようにするか。これをどう整理していくかについて、AICX協会でも議論を行っています。

あと2枚ぐらいです。顧客目線で見ると、不安は幾つかに分けられます。一番の不安は、AIエージェントにおいては会話や情報提示だけではなく、実行を伴ってくるところです。ですので、いわゆる生成AIにおけるハルシネーションに加え、AIエージェントによる意図しない実行をどう考えるかが肝になってきます。

我々もガイドライン策定の議論は始めたのですが、事業会社様と一緒に論点を共通化することが、まず重要だと思っています。各プロセスにおいて情報をどこまで扱うか、何を確認するかといった点を整理し、チェックできるとよいと思っています。これは一部で行うというより、行政もそうですし、事業会社もそうですし、プラットフォーマー、職種で言うと技術者、マーケ、CS、営業の方も、全員が同じ目線で議論していく必要があると思っています。

これは基本的に、現場で皆が共通認識を持って議論すべきだと思っています。AIやエージェントの知識だけでなく、未来からバックキャストして業務設計ができること、今お話ししたような顧客体験のあるべき姿から議論できることが重要です。また、先ほど日本は労働人口が不足するというお話がありましたけれども、組織設計は、いわゆる人事の仕事だけではありません。AIを前提とした業務プロセスをどう構築できるかという人材が非常に重要だと思っており、冒頭御紹介させていただいた資格に着手した背景がここにあります。

ですので、我々はこういった共通言語を資格としてつくりながら、先ほどの不適切な介入への対応をどうするかといったガイドライン・チェックリスト策定も進めていければと思っています。

最後、まとめになります。この3つの論点を見ていきながら、一番重要なのは、何を根拠に、誰の意図で、どこまでAIに委ねたのかを理解できる設計であり、それを意識した上で、事業会社を含めてサービス提供を進めることが大切だと思っています。

以上となります。御清聴ありがとうございました。

○小塚座長　どうもありがとうございました。非常に具体的なお話を提示していただきまして、またたくさん御質問させていただくと思います。構成員の皆様、どなたからでも御発言、御質問等。

田中委員、お願いします。

○田中委員　大変詳しく御紹介いただきまして誠にありがとうございます。

後半の意図しない実行の辺りについて、現在の取組状況がどのようになっているのかについてお伺いしたいと思います。例えば設計はもちろん重要で、設計のガイドラインを作っていくというお話だったと理解しましたけれども、同時に実装のモニタリングと検証のプロセスもまた同じぐらい重要になってくるかと思います。

例えば具体例を挙げますと、最近、ショッピングサイトで生成AIが顧客のコメントを要約するという機能が実装されていたときに、実際よりもポジティブな要約が出てきていたという報道がなされています。そういったときに、実際急いでいるときなどはまさにそのポジティブな要約だけを見て購入意欲が高まって購入するというパターンが想像されるわけなのですけれども、その場合、誘導に該当するのかとか、線引きが難しい話ではあると思うのですけれども、それは導入した事業者側が監視・モニタリングして修正すべきなのか、それとも提供したエージェントを設計した側が監視して対応すべきなのか、どの辺りがどのように検証をして対応していくのかといった取組について教えていただけたらと思います。

○小栗代表理事　ありがとうございます。

我々は実際のサービスを提供していないので、いろいろな企業様とお話しする中で感じていることとして、お話しさせていただければと思います。基本的に、先ほどのOpen AIさんなどのAPIを使って、事業会社さんが何らかのコメントを要約するサービスを出したとすると、まず一次的には事業会社さんの責任というか、コントロールすべきことだと思っています。

ポジティブなところを要約してしまったケースとしては、2つありそうです。意図的にそう誘導していたという話と、意図はしていないものの、結果的にAIがそう振る舞ってしまったという話です。そういう意味では、コメントを要約するサービスを提供している会社さんは、そういった揺らぎがないかどうかをチェックすることはやるべきだと思っています。チェックして、直して、さらに市場に投入するところは必ずやらなければいけないと思います。基本的には、開発工数が下がったという話はあったのですが、リリースした後に早くチューニングができるようにもなったので、それをきちんとやらないと、意図していないことが起こる可能性は十分あると思います。

○田中委員　ありがとうございます。

少し先の話かもしれませんけれども、AIエージェントが要約をするというのが普及してくると、恐らくサクラコメントがエージェントを誘導する形でポジティブな評価をしていく。その場合、事業者さんも被害者かもしれないですし、その辺りが非常に複雑になってくるのだろうなという印象を受けました。

ありがとうございました。

○小栗代表理事　今の観点で言うと、いわゆるOpen AIさんのようなメガプラットフォーマーさんにとっても、サクラのようにノイズとなる情報をいかに除去するかはチャレンジになると思いますし、その上で、事業会社さんにも同じことが言えます。両者がきちんとチャレンジすべき事項だと思っています。そうしないと、サクラのコメントのノイズに基づいた回答になってしまい、パフォーマンスが落ちてしまいますので。

○小塚座長　ありがとうございました。

オンラインから大塚委員、そして岡崎委員とお手が挙がっています。その順序でお願いします。大塚委員、まずお願いします。

○大塚委員　ありがとうございます。非常に詳細な御発表をありがとうございました。大変勉強になりました。

私からは簡単に2点質問がございます。

まず1点目は、検索から委任へという点についてです。検索エンジンからAIエージェントといった流れの中では、検索から委任へというイメージというのは非常に分かりやすく感じました。ただ、例えばスライド5ページにある旅行を予約するという場面を想定いたしますと、検索エンジン等が普及する前は主に旅行代理店が予約等をして、顧客・消費者の望みをかなえていたと思います。そうすると、AIエージェントに委任するという話と、そうではなくて人や企業、代理店、あるいは別の話で言えば弁護士といった人に任せるという話、このAIエージェントに任せるという話と人に任せるという話は同じ話なのか、あるいは何か差異が見受けられるのかという点について伺えればと思います。

2点目は、スライドで言うと10ページとか11ページあたり、AIエージェントが支援する範囲が広がっていくという話についてです。従来、事業者と消費者とのつながりは、契約の中では、例えば売買契約であれば商品の権利を消費者に渡すというのが中心であって、それに関連する説明などといったものはやや付随的なものとして使われてきたように思いますし、私の専門である法学ではなお付随的なものとして扱っているように思います。ただ、今回の発表をお聞きいたしますと、そういった商品の配達などといったところだけではなくて事前の、あるいは事後のコミュニケーションというのが重点を持ち始めているといいますか、そこに重きが置かれているように感じました。

そういたしますと、顧客・消費者の目線としても、あるいは事業者の目線としても、単にその商品のよしあしというだけではなくて、事前・事後のコミュニケーションの全体を通じてしっかりと満足のいくような経験ができているかというところが重要になってきているように思います。

このようにAIエージェントの登場、あるいは普及によって従来の契約における中心的なものが何か変わってきているのでしょうか。契約の構造自体、あるいは消費者と事業者との間の関わりの構造自体がそこから大きく変化しているのでしょうかという点を伺えればなと思います。よろしくお願いいたします。

○小栗代表理事　ありがとうございます。

1点目の、人にお願いするのか、AIにお願いするのかの差分があるかないかというお話ですけれども、基本的には私はあまりないと思っています。例えば人に何かお願いするときであっても、応対のスピードが速いとか、自分にとって分かりやすいなど、幾つか条件があると思います。それを満たしているのがAIなのか人なのかの違いでしかないと思っています。

ただ、現状においては、人は物理空間上にいるという話や、AIほど合理的ではないという話があります。また、「その話は今必要でしたっけ」という話もしますし、いわゆる親近感の持たれやすさなどは、まだまだ人間のほうが優位なところもあると思います。それを踏まえると、消費者側の好みや期待する条件によって、どちらが選ばれるかの差でしかないと思っています。これが1点目です。

2点目の商品を購入する前後のプロセスの変化によって、契約上の構造が変わるのか、変わらないのかという話については、2つあると思っています。まず、変わる可能性はあると思っています。なぜかというと、自分の携帯の中に自分のことをよく知っているエージェントがいたとします。そのエージェントに言えば何でもやってくれるとなると、私は、その裏にいる会社さんのどの商品を扱うかといったものを、もはや気にしなくなります。例えば通信キャリアを選ぶ場合も、目的だけ伝えればよく、その裏でどのキャリアが契約されようが、正直そこまで気にしなくなるという話があるので、ビジネス構造が変わる可能性はあると思っています。これが一つです。

一方で、お客様の体験として、何かを調べて、物を買って、アフターフォローを受けるまで、気持ちよく全部進んだという御経験をされた方は、まだまだ少ないのではないかと思っています。「また同じことを言うのか」と感じる場面もあると思います。これは、人が分業してしっかり低コストで提供するための企業努力の前提においても、どうしても省略しないといけないことがあったからだと思います。AIエージェントによって、そこを省略しなくてよくなってきています。あとは、技術を自分たちのサービスにどうアジャストさせていくかが重要であり、それができない企業は今後苦しくなっていくのではないかと思っています。

○大塚委員　ありがとうございました。非常によく分かりました。

○小塚座長　ありがとうございます。

いろいろ議論もあろうかと思いますが、それでは、岡崎委員、お願いします。

○岡崎委員　最先端のAIエージェントに関する話を盛りだくさんで提供していただいてありがとうございました。大変勉強になりました。

私から2点質問させてください。

まず、ガイドラインの策定の部分において事業会社さんの目線を重視されていたように思うのですけれども、消費者目線の懸念や不安を取り込むことも重要だと思っています。最後に時間が不足して省略された箇所かもしれませんけれども、消費者の声を取り込むための方策について、何か現時点でアイデアがありましたら教えてくださいというのが1点目です。

2点目は、AIエージェントはタスクが細分化されていて、個別のエージェントが考慮すべき権限や責任影響と、それを統括するエージェントが考慮すべきガイドラインの両方考える必要があって、その辺が難しいポイントと御説明されていたかと思いますけれども、全体をどのように設計していけばいいのかということに関して御知見がありましたらお願いいたしますというのが2点目です。

よろしくお願いします。

○小栗代表理事　ありがとうございます。

ガイドラインにおける消費者目線についてですけれども、事業者目線、消費者目線の両方が重要な観点だと思っています。我々として、どちらか一方を重視すべきということではありません。ただ、今、我々がアクセスできる会社は事業会社様が多いところがあります。ですので、先ほどの口コミの例ではないですが、事業会社がサービスを提供した結果、こういう声が上がってきたといったところをしっかり集めることは、協会が得意なところであり、そこにまず着手したいと思っています。

それとは別に、消費者の方にアプローチして、こういう課題があるといったところは情報をキャッチアップしながら、例えば調査会社さんと一緒に調査するという話もあると思っています。これが1点目です。

2点目ですが、すみません、もう一度お願いします。

○岡崎委員　AIエージェントが細分化されているので、個別のエージェントに対するポリシーと全体の統括エージェントのポリシーというのを設計するのが難しいポイントかと思いますけれども、いかがでしょうか。

○小栗代表理事　これは非常に難しいです。そこをどうするかの議論をきちんとすることはすごく重要だと思う一方、先ほどの小さく試して出してみるといった話とはトレードオフで、悩ましいなと思っています。

答えが難しいのですが、私としては、大きなリスクはきちんと潰すべきです。一方で、全部設計し切るのではなく、世に出すというアプローチも重要だと思っています。いかに早く気づいて直すかという話と、これは個人でエージェントを作っていて思うのですが、いかに早く捨てられるかも重要だと思っています。企業によっては、一度作ったものを捨てられないところも結構あると思いますが、エージェント次第では、一度作ったものをすぐ捨てられるかどうかが企業の強さになってくるのではないかと思っています。

○岡崎委員　ありがとうございました。

○小塚座長　今のお話ですけれども、私が岡崎委員の御趣旨を誤解しているかもしれませんけれども、御用意いただいた資料で言うと25枚目のところで、AIエージェントをメガプラットフォームが提供するというものもあれば、事業会社が提供するというものもあります。個人が、この調査会の文脈で言うと消費者がむしろ自分でエージェントをつくりますというと、恐らく消費者をエンパワーするためには、3番目のこれを伸ばしていくのが一番いいでしょうという議論になりやすいのだけれども、この③も例にClaude Codeと書かれているので、結局はどこかの事業者、Claudeであればアンソロピックが提供したモデルにのっかっている。そうすると、アンソロピックは非常に良心的な事業者であるとは思いますけれども、同じようなサービスをいろいろな事業者が提供している中でバイアスがかかるということもあり得る。そういうことで、ガイドラインといってもそれぞれ違うガイドラインが必要ではないかという御質問だったかなと思ったのですけれども。

○小栗代表理事　ありがとうございます。

そういう意味では、我々は、2番の事業会社が提供するエージェントのガイドラインが、論点だと思っています。例えばOpen AIさんは、いわゆるモデルスペックで、どういうことはやらない、やるといったことを示しています。中立性や客観性を重視する、独自の意図でユーザーを誘導しないといったポリシーをきちんと決めています。

Open AIさんの取組ですごく良いと思うところは、そのポリシーが自分たちの社内向けでもあり、自分たちのモデル向けでもあり、お客様向けでもあるという点です。2番の事業会社さんがこういったエージェントを提供するに当たっては、どういう観点で情報を整備し、それを社内に発信し、お客様にも開示するのかといった、観点ごとの方針イメージが必要です。ですので、それに基づいて事業会社さんがどう設計するかは、事業会社さんの判断になると思います。

○小塚座長　ありがとうございます。この②のところはそういう意味で言うと一番大きな問題だと認識されてお取組なさっているということですね。ありがとうございます。

丸山座長代理がお手を挙げられたと思いますが、その前にオンラインで加藤委員がお手を挙げられていますので、その順序でお願いします。加藤委員、お願いします。

○加藤委員　ありがとうございます。

私からは2点なのですけれども、1つ目が、先ほど岡崎委員からも御質問があったのですが、ガイドライン策定に当たって消費者の視点がという部分があったかと思うのですが、既存の国内の消費者保護団体がたくさんあるかと思いますが、ガイドライン策定に当たってステークホルダーとして消費者保護団体を入れていく可能性というのはあるのかどうかということがまず1つ目です。

2つ目なのですが、最近始められた資格制度なのですが、この資格制度に関して消費者保護法を学ぶ機会などが設けられているのかどうか、その辺りを教えていただけますでしょうか。

○小栗代表理事　ありがとうございます。

1番については、まだ動けてはいませんが、可能性としてはあると思っています。

2番に関しましては、現時点ではしっかり入っていなくて、ブラッシュアップ中です。少し背景をお伝えしますと、我々の協会は設立1年なのですけれども、正社員が一名もいません。大企業からの複数業人材を含め、約30名で、AIと複業人材で回しています。我々自身が、AI前提で業務を進めるチャレンジをしており、資格も1か月前にリリースしたのですが、3か月で設計から運用まで全てやりきっています。

広告もまだ打てていない中、1,000名の申込みをいただき、1,700名にテキストを買っていただいたりしています。このガイドラインの話もそうですし、協会が各種委員会を立ち上げて有識者と事業会社さん、SIerさんなどと議論している内容を、しっかり資格や教育制度の中に入れていくところは、スピード重視でやっていきたいと思っています。2点目で御指摘いただいた観点をしっかり入れて、継続してやっていこうと考えています。

○加藤委員　ありがとうございます。

○小塚座長　ありがとうございました。それはまさにアジャイルですね。

丸山座長代理、お願いします。

○丸山座長代理　私からは2点ほど教えていただければと思います。

第1点が、スライドで言いますと29ページの辺りの四角枠の「権限」というところに、予約前の承認とか、上限額・取消しというのが出てきまして、このような観点というのは利便性とトレードオフのところもあるのですけれども、デフォルトがどうなるかというのが重要かなという印象がございまして、こういった上限額の設定や取消しができますよとか承認というのを消費者にとって安全なほうのデフォルトにしていってほしいと考えた場合に、それは法的な規制でやるしかないのか、その他の手段というのがあり得るのかというのが第1点の質問になります。

第2点の質問としましては、スライドの25ページの消費者のAIというタイプについての技術的なお伺いなのですけれども、DPFやECサイトのAIと違って消費者個人のAIというのが買い物をしていくみたいな、それがまだ社会実装できないかもしれないですが、実装されるようになった場合に、決済の安全システムとの関係なのですが、今だと割と人であることを確認しなくてはいけないみたいな様々な安全のシステムがあると思うのですけれども、そういうものは突破されないで残るということになるのか、何かそこも新しい現象が生じていくのだろうかというところをもし御存じでしたらお伺いさせていただければと思います。

○小栗代表理事　ありがとうございます。

1点目の、消費者にとって安全なデフォルト設定の話ですが、基本的には、先ほどのガイドラインのように目安を公開し、それを見て事業者がつくるという流れができることが重要だと思います。もう一つ、高額な商品や、悪意のある事業者によって影響が大きいものに関しては、事業者間の共通認識のルール以外で何らか対応しないといけないのではないかと思っています。

そういった悪意のあるものは、今でもたくさんあります。AIエージェント時代に意識すべきところは、それをあっという間にスケールさせられるところです。ですので、やる人が増え始めると、あっという間にみんなができるようになるということです。そこは、ガイドラインとは別の取組で対応が必要だと考えています。

2つ目の、30ページの個人が自分のエージェントをつくるという点です。これも買い物する商品によって、一度承認したら一定期間はよいという設定はあると思います。今、Claude Codeなどは、都度確認するのか、これはもう確認しなくてよいのか、Macの指紋認証と連動するのか、といったものもあります。基本的には既存の承認システムを使い、それを一度判断したらよしとするか、毎回判断してほしいかを人が指示する形になっています。

ありがとうございます。

○小塚座長　ありがとうございます。

では、唐沢委員、お願いします。

○唐沢委員　どうも御説明ありがとうございました。

今回の御発表をお伺いしていて、AIがどこまでやってくれるか、私たちが何を必要としているかも理解して具体的な選択や行動を結びつけるプロセスとして消費行動が捉えられていると思いましたし、また、それを踏まえますと、私たちはどんな商品が欲しいか以上に例えば生活の悩みとか、時間の使い方とか、自己実現という内的なところまでも消費行動として翻訳されていくという側面も感じたところです。

これは危険であると同時に一方で非常に有用なAIの使い方だなと思いますので、そこに対してガイドラインなどを設け、様々なアプローチをされているという営みは非常に重要だと思うのですけれども、ガイドラインということを考えたときに、特に消費行動というものの概念的な広がりとして自己実現とか、自分の生活そのもの、在り方そのものを構築していくということを踏まえたときに、AIがどのように振る舞ってサジェスチョンしていくか、ガイドラインによってそれをどこまで示していくかという課題があると思います。たとえば、透明性を求めるガイドラインが消費者の内面にすごく踏み込んだこと暴露してしまうことを求めるような方向にも行ってしまう危険も少し感じてしまいます。それはありがたいことなのかお節介なのかよく分からないところもある。

そうすると、ガイドラインの在り方そのもの、どこまでガイドラインに求めて、どこからはガイドラインに求めないのかということがあり、先ほどのガイドライン以外のこともお考えという点は非常に重要だと思ったのですけれども、ガイドラインの在り方そのものについての議論について、もし何かあったら教えていただきたい。つまり、AIがどういう選択肢をどういう理由で示したのか、こちらの内面の解釈についても、踏み込んだり暴露して消費者に提示していくことで透明性を確保するのか、それともそれはやり過ぎで、消費者が留保とか、判断を止めるという行動ができるところくらいまでを担保することがガイドラインの役割なのかとか、ガイドラインの限界についいての議論があると思いまして、それについてのお考えをお教えいただけませんでしょうか。

○小栗代表理事　ありがとうございます。

ここは事業者側と消費者側の利益相反もそうですし、先ほどの、消費者の方にとっても多少促してほしいときもあるという話もそうですが、判断が非常に揺らぐところだと思っています。

ガイドラインとしては、いわゆるアクションをするときに、どういったものに対して、どのポイントで確認するのがよさそうか、つまり人に判断してもらうポイントをどこに設けるかという観点があります。あとは、なぜこれを提案したかを全部出されても、消費者からするとうっとうしい可能性もあるので、何かあったときに、なぜこういう判断になり、こういう実行をしたのかを追跡できるようにしておくという監視の観点です。先ほどの口コミの話もそうですが、そういった観点は必ずあると思っています。

あとは事業者目線で言うと、これはガイドラインに書くまでもないかと思いつつなのですが、結局、お客様が期待するものに対してきちんと応える最低限のものは何なのか、という点です。前提が変わりつつあります。消費者の体験価値というか、行動が変わり、価値の考え方が変わってきたときに、きちんと追従していくという観点は入れておきたいなと思っています。

ありがとうございます。

○小塚座長　馬籠委員、お願いします。

○馬籠委員　ありがとうございます。非常に勉強になりました。

私からも2点お伺いをさせてください。

口コミの例とかで言いますと、どんどんジャイアントキリング的な、要は小さいところが大きいところに勝つというか、売れ筋になっていくみたいなことがどんどん難しくなってくるかなとお伺いしていて思ったのですけれども、もしAIエージェントの中でジャイアントキリング的なことが起こるとしたらどういったことが考えられるかなというところを教えていただきたいと思いました。

あと、ビジネス構造の中で変わってきている、例えばAIの中で広告を出すと、それはむしろ広告ではなくて勧誘に近くなってくるのかなと思っております。勧誘となった場合というのは今の商法上のものが変わってくるかなと思っておりまして、もしAI版の広告になったときに、それは広告ではなくてそれは勧誘になってくるのである、といったことをもし今お考えであるのであれば、教えていただきたいなと思った次第です。お願いいたします。

○小栗代表理事　ありがとうございます。

1点目は、いわゆるプラットフォーマーさん以外の勝ち筋の話ですか。

○馬籠委員　そうですね。

○小栗代表理事　ありがとうございます。そういう意味では、各企業様固有の情報、お客様の情報もそうですし、その会社が持っているノウハウもあると思ういます。そういった情報を掛け合わせてどう価値を出していくかという話と、先ほど御質問のあった、人にお願いしたいか、AIにお願いしたいかといった観点もあると思います。人にお願いしたいことはいつまでたってもなくならないと私は思っています。ですので、そういった観点でのリソース再配分が大切だと思っています。これが1点目の御回答になると思います。

2点目の、広告なのか勧誘なのかというところですが、これは非常に難しいですね。結局どう感じるかは消費者次第だと思っています。先ほどの「このエージェントの勧誘はひどかった」となったときに、それはフィードバックしやすいというか、今のSNSもそうですし、そういった情報の自浄作用が働くことを期待しています、というところになります。

○馬籠委員　ありがとうございます。

○小塚座長　では、野村委員、お願いします。

○野村委員　貴重なお話をありがとうございます。

ガイドラインというのが仮にあったとしても、事業者間でそれに対するセンシティビティーが違ってしまうと足並みが乱れるのかなという気がします。例えば今日ちらっとお話のありましたAIモデルなどは、ヨーロッパですとルッキズムに対するセンシティビティーがすごく高くて、モデルの人種多様性を保つためにスタッフやステークホルダーの人種多様性を保てみたいなプレッシャーがすごくかかっているのですが、そういうものをちゃんと理解している事業者とそうでない事業者の間でガイドラインに対する理解が違って、結局変なことが起こってしまうのではないかという懸念があるのですが。

○小栗代表理事　ありがとうございます。おっしゃるとおりかなと思いました。

とはいえ、我々の協会では、分断を越えて今まで接点がなかった企業さんにも入っていただいていますので、きちんと議論して情報を開示していくことが、ますます重要になってきます。あわせて、そういう議論に参加しようと思うためには、AIエージェントが実現する世界や、それが顧客体験にどういう影響を与えるかなどをしっかり考えている企業や人がいかに増えるかが重要だと思っています。

今は、企業内で生成AIで効率化しようとか、リテラシーをもっと広げていこうという話はあります。ただ、その一歩先に進まないといけないと私は思っています。まさに今日少しお話しさせていただいたような、AIエージェントで自分たちの体験はどう変わっていくのだろう、どう変えていきたいのか、といったところを理解して議論できる人がいかに早く増えるかが、すごく重要だと思っていてます。

ただ、違いは絶対に出ると思いますので、そこは議論して公開していくことが重要です。この公開情報は、人に対してだけではなく、AIに対してもデータになっていくという点も、一つのポイントだと思っています。

○小塚座長　どうもありがとうございました。

いろいろとまだ議論が尽きないかもしれませんけれども、今日の最初の高橋教授のお話、それから小栗代表理事のお話も、どちらも情報量十分でお腹がいっぱいになったといいますか、12時になったのでお腹がすいてきたと言うべきかもしれませんが、このあたりにさせていただきたいと思います。

ということで、質疑応答、意見交換はここまでとさせていただきます。また次回以降の我々の議論にも今日のお話を反映させていただきたいと思います。小栗代表理事、それから高橋教授、今日は本当にありがとうございました。

それでは、事務局から連絡事項をお願いいたします。

≪3．閉会≫

○江口企画官　次回以降の本専門調査会につきましては、確定次第、事務局より御連絡させていただきます。

以上です。

○小塚座長　それでは、本日はこれにて閉会とさせていただきます。皆様、お忙しい中、お集まりいただきましてありがとうございました。

(以上)

このページの先頭へ