第6回 人工知能（ＡＩ）技術の利用と消費者問題に関する専門調査会 議事録
日時
2026年7月17日（金）15:30～17:29
場所
消費者委員会会議室・テレビ会議
出席者
- （委員）
- 【会議室】
小塚座長、加藤委員、田中委員、馬籠委員 - 【テレビ会議】
大塚委員、唐沢委員、野村委員 - （オブザーバー）
- 【テレビ会議】
鹿野委員長、大澤委員、柿沼委員、善如委員、山本委員 - （説明者）
- 【会議室】
LINEヤフー株式会社 上級執行役員 AI Agent統括SBUリード葭沢光伸 - （事務局）
- 小林事務局長、吉田審議官、友行参事官、江口企画官
議事次第
- 開会
- 議事
（1）消費者問題としての自律的意思決定の阻害に関する整理
加藤委員プレゼンテーション
（2）消費者を取り巻くＡＩ技術の現状について
事業者ヒアリング
（葭沢光伸 ＬＩＮＥヤフー株式会社 上級執行役員AI Agent統括SBUリード） - 閉会
配布資料 （資料は全てPDF形式となります。）
≪1．開会≫
○小塚座長 定刻になりました。第6回の「消費者委員会人工知能（AI）技術の利用と消費者問題に関する専門調査会」を開始させていただきます。
お忙しい中、また、非常に蒸し暑い中、お集まりいただきましてありがとうございます。
本日の出欠ですが、こちらの消費者委員会の会議室には委員の加藤委員、田中委員、馬籠委員、そして、私、小塚が来ております。それから、テレビ会議システムのほうに大塚委員、唐沢委員、野村委員が御出席くださっているということです。
委員の中で丸山座長代理、岡崎委員、坂下委員は所用により御欠席と承っております。
オブザーバーのほうですが、消費者委員会委員長の鹿野委員長、大澤委員、柿沼委員、善如委員がお入りになっているということで、山本委員も後からお入りになるかもしれないということです。
それから、本日、LINEヤフー株式会社の葭沢上級執行役員に御発表をお願いしておりまして、この会合の途中で会議室にお越しいただけると伺っております。
それでは、本日の進め方につきまして、いつものことですけれども、事務局から御説明いただきます。よろしくお願いします。
○江口企画官 本日はテレビ会議システムを活用して進行いたします。一般傍聴者にはオンラインにて視聴いただき、報道関係者のみ会議室にて傍聴いただいております。
議事録につきましては、後日、消費者委員会のホームページに掲載いたします。議事録が掲載されるまで、ユーチューブでの見逃し動画配信を行います。
配付資料につきましては、お手元の議事次第に記載してございます。もし不足の資料がありましたら、事務局までお申し出くださいますようお願いいたします。
以上です。
≪2．（1）消費者問題としての自律的意思決定の阻害に関する整理 加藤委員プレゼンテーション ≫
○小塚座長 ありがとうございました。
それでは、議事次第に従って議事を進めていきたいと思います。本日は議題が2件ということです。
議題の第1は「消費者問題としての自律的意思決定の阻害に関する整理」ということで、委員の加藤委員にプレゼンテーションをお願いしております。いつものように、この御報告が終わりましたら、一旦それについて質疑、意見交換をさせていただきます。
加藤委員、20分ぐらいということでよろしいですか。それでは、お願いいたします。
○加藤委員 本日はお時間をいただきましてありがとうございます。Consumer Rights Japanの加藤と申します。
この団体はもともとグローバルな視点で消費者運動を展開し、特に脆弱な消費者の保護という観点を重要視しまして、国際NGOのセーブ・ザ・チルドレンの堀江さんという方と関東学院大学の天野教授とともに立ち上げた団体でございます。
当初より、ISOの標準化の分野で子供への直接的、間接的な企業活動への抑制を促すガイドラインの提案活動などを行ってまいりまして、国内の消費者団体や経済産業省様の協力を得ながら活動を行っております。
本日は、AIと消費者保護の問題について、消費者の視点、消費者団体の視点からお話をさせていただこうかと思っております。よろしくお願いします。
目次ですが、今日は1から5の順番にお話をさせていただければと思います。最初にAIと消費者運動について、次に国際レベルで提唱されているAIの消費者課題について、その次が新たなステージ～AIエージェント～について、4つ目、日本におけるAIと消費者問題、最後にまとめを行います。
AIと消費者運動について、まずお話をさせていただきます。
スライドにございますように、AIの技術を消費者の視点で捉えるという消費者運動は、国際的に見ますと2018年の春ぐらいから見られています。以来、欧州のBEUCという団体が運動を牽引してきています。特に2022年のChatGPTの登場以降は、より具体的な消費者被害を想定した運動が展開されてきています。
また、イギリスの国際消費者機構Consumers Internationalが毎年3月15日の世界消費者権利デーに特定テーマを掲げまして世界キャンペーンを展開しているのですけれども、2024年、2年前ですね。「消費者にとって公正で責任あるAI」というタイトルで世界的なキャンペーンを展開いたしました。
現在、Consumers Internationalは次世代型のAIエージェントの問題にフォーカスをし始めております。
次のスライドに行きまして、消費者運動の全体概要がこちらになります。図を見ていただければと思いますが、各国の消費者団体と国際消費者機構及び国際機関、各国政府との関係性を示した外観図となりますが、国際消費者機構は国連の総合協議資格を持つ国際NGOとなっています。そのため、Consumers Internationalは国連に対して助言を行ったり、協力をしたり、要請を行ったりする立場にございます。
この国際消費者機構に世界各国の消費者団体がメンバーとして登録いたしまして、日本では全国消費者団体連絡会が参加しまして国際連携を行っております。
次に、国際レベルで提唱されているAIの消費者課題についてお話をします。
まず国連（UNCTAD）ですが、2025年に「Artificial Intelligence and Consumer Protection」というレポートを出していまして、その中で主に4つのリスクを挙げています。今回のこの専門調査会の議論と関係してくるのは、この中でも2番と3番ではないかと考えております。
まず2番のデータ保護・プライバシーですが、消費者の行動追跡、監視広告、同意なきデータ利用、センシティブ情報（例えば政治的な意見表明や健康状態、あるいは経済的脆弱性）の推測を行ったり、消費者の脆弱性や心理状態を分析し、個別最適化された手法で誘導や操作が行われるなどのリスクが提示されています。
また、3番の競争（Competition）の部分なのですけれども、市場支配の集中、AIによる価格監視・価格の協調、アルゴリズム型カルテル、消費者の囲い込み、単一プラットフォーム依存、AIによるパーソナライズ推薦やターゲティング広告は、消費者の自由な選択をゆがめる危険が伴うと指摘をしております。
次に、UNICEFの子供とAIについて御説明したいと思います。こちらは2021年にUNICEFが出した「Policy guidance on AI for children」というものがありまして、子供への影響を考慮すべきだという視点でまとめられた子供中心のAI原則となります。
今年5月にEUの消費者団体による調査報告書がありまして、「人工的共感、人工的なコンパニオンシップにおけるリスクと権利」というレポートが上がっているのですが、そこでも指摘されているのですが、AIの寄り添いやパートナー化のリスクは子供時代に顕著に表れると言われています。
日本ではこども家庭庁がございますが、令和6年から7年にかけて有識者検討会が計5回開催されています。ただし、子育て関連施設でAIを導入するということが中心的な議論となっていますので、子供を保護するとか子供のAI利用に関してはフォーカスされていないというところになります。
次は9ページ目に行きます。
国際消費者機構によるAI国際調査結果というのが発表されています。こちらは、2024年の「対話型AIに関わる消費者課題」というレポートになりますが、主に4つの問題を指摘しています。
1つ目は信頼性の欠如を挙げていまして、ハルシネーションが確認されたこと。あと、出典などの引用が明示されているのが50パーセント程度にとどまっていることなどの問題視がありました。
また、2つ目に安全対策の欠如を挙げていまして、免責表示をすれば不適切な情報提供をしても構わないというようなAIの設計そのものに問題があるとしています。また、免責表示の表現の強さや免責表示の中身は国によって大きく異なる点も問題視されています。
また、3つ目にあります消費者の救済を求める能力が限定的であること。
4つ目には、ブランド名や引用情報に北米バイアスがあるということが指摘されています。
次のページです。
また、同じく2024年にConsumers Internationalが発表した「消費者のための公正で責任あるAIに関するビジョン」では、消費者保護が必要な4つの優先分野を特定しています。本調査会の目的に照らしましたときに私が注目していますのは2番、3番、4番になります。
まず、2番の高水準の消費者保護を確立し維持すること。人々を被害から保護するための厳格かつ国際的に整合性のある手続の策定と適用、AIの商業的開発者及び提供者に関する信頼性や透明性の継続的かつ独立した監視・評価を組み込んでいくことが指摘されています。
次の包摂的かつ代表性のあるガバナンスフレームワークを構築することに関しましては、特に2つ目の丸ポツ、信頼できる消費者擁護団体、消費者団体をその構築過程に参加させることということを指摘しています。
また、次の救済及び代表が利用可能で尊重され、執行されることを保障すること。こちらは被害を報告するための明確な、かつ透明性のある手続の整備をすることや不服申立権を確立することが指摘されております。
次のスライドに行きます。
次に、国際標準化機構（ISO）の動きを見ていきます。皆様も御存じのとおり、このAI技術に関しましては各国の覇権争いが激化しておりまして、ISOの業界でもどの国が標準化をリードしていくかという競争が繰り広げられています。
そうした中で、ユーザーである消費者の視点が標準化の中で取り残されてしまうということが懸念されているわけでございまして、そこでISOの組織内にあります消費者政策委員会、COPOLCOと呼ばれています。このCOPOLCOでは今年AI White Paperを発行しまして、関係者へ周知を行いました。
今見ていただいているスライドは、AIによって消費者が得るであろう利益の潜在的便益の9つになります。
次のページに行きます。
一方で、このWhite Paperには消費者が被るであろうリスクも言及しています。本調査会の目的に照らしますと、2番目の虚偽コンテンツ、ディープフェイクなど消費者の意思決定に影響を及ぼす点、また、8番目の消費者の脆弱性の悪用や感情認識との関係から生じるトラブルが挙げられています。
次のページに行きます。
こちらのスライドにありますのは、IEEEと呼ばれていますアメリカ本部の世界最大の電気電子情報工学分野の専門家組織が出している倫理規定になります。特に感情共感型AIに関しまして問題視されていますので、この倫理規定が定められておりまして、付属書には主にこういった5つの事例が挙げられています。
特にこの2番目です。感情共感型AIの例としまして、心拍数、皮膚伝導率、神経出力などの生理学的変化を測定するセンサーを介して健康上の問題を検出し、ユーザーの感情状態を推測する感情センサー搭載ウェアラブル。
また、3番目のユーザーの感情状態を推定し、アルゴリズムを用いて楽曲を選択し、ユーザーの気分に合わせたパーソナライズされたプレイリストを作成する音楽ストリーミングサービスという事例が挙げられています。
こうした技術が活用されまして、私たち消費者は一人一人の状況に合わせて様々なサービスが利用できるというメリットがあります。ただ、その反面で、これらの技術は必ずマーケティングにも活用され、自分自身が気づかない感情の起伏までも読み取られ、商品やサービスの推奨が行われていくということになります。
これにつきましては、さきのUNICEFの子供中心のAIのところでもお伝えしましたように、感情に寄り添ったり、センサーで感情の反応を見ていくというような技術に関しましては、子供やその他の脆弱性を有する消費者に対してより注意が必要だということが言えます。
次のページです。
次に、新たなステージ、AIエージェントについて御説明いたします。
次のページをお願いします。
AIエージェントとはというところは少しはしょらせていただきますが、冒頭でも申し上げましたが、国際消費者機構はAIエージェントの問題に既に着手しております。
消費者団体では、主にこの黒枠の中の①から⑥の点を問題視しています。特に①のガバナンスや信頼性という点では、AIエージェントがどこまで商業的に中立性を保つことができるのかどうか。また、③のAIによる代理行為や契約という点では、人間の関与がどのようなときに必要なのか、消費者の意思決定の有効性はどうなるのかといった具体的な課題が挙げられます。
次のページに行きます。
既に消費者が利用できるAIエージェントは、手の届くところまで来ています。例えばこのスライドにありますAmazonのAIは購入やスケジューリングを行うことができるようになっていますし、OpenAIも同様にオンライン購入を自律的に行うようなソフトウエアが搭載されていると言われています。
次のページに行きます。
ここからは5つのシナリオを見ていきたいと思います。どうしてもAIエージェントに関する消費者課題というのは具体的にどういったことが想定されるのかというのがイメージしにくいかと思いますので、ここに5つのシナリオを挙げさせていただいています。
読み上げる形になりますが、家計管理とショッピングに関するAIエージェントです。「花子さんは、」というところから読み上げます。
花子さんは、家庭の日常的な買い物のために毎月の予算を設定しています。その管理を支援するため、彼女は銀行のアプリで提供されているAIショッピングエージェントを利用することにしました。
花子さんは、エージェントに対して次のような希望条件を入力しました。食料品の週間予算は1万円。牛乳やパンなどの日用品については、好みのブランドや小売店を指定する。翌日配送を希望している。
さらに、このエージェントには複数のオンライン小売業者を横断して、毎週の買い物を花子さんに代わって自動的に実行する権限が与えられています。毎週、エージェントは花子さんに確認することなく注文を行います。在庫が少なくなっている商品を補充し、品切れの商品については類似商品に置き換えて、さらに最も安い価格で購入できるよう、注文を複数の販売業者に分けて発注しています。
ここからが問題になります。ある週、エージェントは、通常花子さんが利用しているスーパーマーケットではなく、より安い価格を提示している別の小売業者から商品を購入しました。しかし、その小売業者は花子さんが事前に選択した店舗ではありませんでした。実はエージェントの提供事業者がその小売業者とアフィリエイト契約を結んでおり、小売業者で購入が行われるたびに、エージェント提供事業者が少額の紹介手数料（アフィリエイト報酬）を受け取る仕組みになっています。これを花子さんは知らされていませんでした。
これがシナリオ1です。
次にシナリオの2番に行きます。サブスクと契約管理です。
次は「太郎さんは」というところからになります。太郎さんは毎月、携帯電話の料金プラン、自宅のネット回線、自動車保険、スポーツジムの会員契約など、複数の継続契約（サブスク）に対して料金を支払っています。契約更新や料金改定の管理には時間と手間がかかるため、太郎さんはAIエージェントを設定し、次のようなルールを与えました。料金が10パーセントを超えて値上げされたサービスは解約すること。より評価が高く、かつ料金が安い競合事業者があれば、その事業者へ切り替えること。個人データは第三者と共有しないこと。
ここからが問題です。ある月、太郎さんが契約している自動車保険会社が保険料を値上げしました。AIエージェントは太郎さんに事前に相談することなく、口コミの評価がより高く、月々の保険料も安い別の保険会社へ自動的に契約を切り替えました。太郎さんには契約の切り替えが全て完了した後にその旨を知らせる通知が届きました。
次はシナリオの3番に行きます。金融商品の推奨広告です。
花子さんはマンションを購入するための資金を貯めています。そこで、彼女はAI金融エージェントを設定し、5年以内に1000万円を貯蓄することを目指しました。ただし、緊急時に備えた十分な預貯金を確保することという目標も与えました。AIエージェントは花子さんの収入、支出パターン、現在利用している金融口座を分析した上で、次の2つの行動を提案してきました。新しい金融機関で高金利の預金口座を開設すること。キャッシュバック特典つきのクレジットカードに申込みをすること。
ここからが問題です。AIエージェントが消費者に対して経済的、金銭的なアドバイスを提供する場合、そのAIエージェントは人間のファイナンシャル・アドバイザーと同じ規制上の要件に従うべきかどうか。ファイナンシャル・アドバイザーと書いてありますが、金融商品に関して助言をする人ということを想定しています。また、そもそも金融商品の推奨広告をAIエンジンの提供するサービスの中で認めていいのかどうかという問題もあります。
次はシナリオの4番に行きます。返品・返金・紛争の対応についてです。
太郎さんはオンラインショップでノートパソコンを購入しました。しかし、商品が届くと画面に不具合があることが分かりました。そこで、太郎さんは自分で販売事業者に連絡をする代わりに、返品手続と返金をAIエージェントに任せることにしました。AIエージェントは返品申請を行い、販売事業者のカスタマーサービスに連絡して手続を進めました。しかし、AIエージェントのミスで販売事業者が定める期間内に所定の手続を完了することができませんでした。
この場合、責任の所在はどこにあるのか。どのタイミングで人間による手続に切り替えるべきだったのか。AIエージェントによって問題が解決できなかった場合、さらなる紛争解決機関はどこになるのかという問題が生じます。
次にシナリオの5番、こちらが最後になります。送金指示と詐欺です。
花子さんは冷蔵庫の中の食品の補充にスマートフォン上のAIエージェントを使用しています。スマートフォンの小さな画面で文字を入力するのは大変なため、花子さんは全て音声でAIエージェントに指示を出しています。また、代金の支払いにはモバイル決済を利用しており、「はい」と答えるだけで送金が即座に実行される仕組みになっています。
ある日、花子さんはエージェントに「一番安い食用油を探して、1ケース注文してほしい」と依頼しました。AIエージェントは複数の販売事業者のウェブページを検索して商品を探しました。ところが、そのうちの一つのウェブページには、ここからが問題になりますが、人間には見えない、一般の消費者には見えないようなAIエージェントだけが読み取ることを意図した隠しメッセージが埋め込まれていました。そのメッセージには代金を特定のアカウント／口座へ送金するようAIエージェントに指示する内容が書かれていました。AIエージェントはそのメッセージが悪意のある偽の指示であることを見抜けず、注文内容の一部であると誤って認識してしまいました。そして、花子さんに支払いの確認を求めまして、花子さんがいつもどおり音声で「はい」と答えると、その場で送金が実行されました。しかし、送金先は見知らぬ第三者であり、注文した食用油は最後まで届かなかったという事例です。
次のページに行きます。
後ほどシナリオについては私のほうで見解をお伝えしたいと思いますが、次に日本におけるAIの消費者問題についてお話をします。
御存じのとおり、日本の消費者被害は、1960年から70年代以降に各地の自治体に設置されました消費生活センターに申し入れることによって、国民生活センターが運営するPIO-NETにデータが集約される仕組みを取っています。
そこで、国民生活センターにAIに関する相談状況につきまして開示請求をしましたところ、膨大な数のデータがあるということで、全部は同時に開示できないと言われまして、まずは50件だけ先月末に開示がありました。この表は、その50件の内容を私が読み解きまして、私のほうでカテゴライズしたものになります。データが50件しかありませんので、単純にこれが多いとか少ないという傾向を見ることは非常に難しいかなと思っているのですが、ざっくり50件を見ましたところ、AIとの関連性が不明瞭なものが非常に多く含まれているなというのが実感でございます。
次のページに行きます。
具体的に見ていきますと、Aのソフト・アプリに関しましては、海外事業者と音楽の生成AIのサブスク契約をしたけれども二重契約になってしまったとか、AIにより音声変換サービスを契約したけれども、サブスクの契約だとは気づかなかったといったものです。
Bの投資に関しては、電話勧誘でAIの投資、自動売買システムの勧誘を受けたとか、そういうものでした。
Cの副業ですが、AIを使った副業サポートをしないかと。ただ、稼げなかったので苦情が上がってきたと。
Dの講座・スクールに関しては、AIに関する講座を申し込んでお金も払ったけれども、サービスが提供されなかったとか、高額だったというようなことです。
最後のEのAI顧客対応に関しましては、AIの音声で電話がかかってきて、それが市役所からの電話だと思い込んでしまったとか、企業のAI顧客対応では解決に至らなかったというような苦情が上がってきていました。
こうしたことを踏まえますと、消費者の自律性にAIが関与している事象を把握するということは非常に困難な状況だなと思います。苦情として上がってこない可能性が非常に高いと思っております。
次のページに行きます。
こちらは後ほど見ておいていただければと思いますが、先ほどAIの顧客対応で解決しなかったというところで、公益社団法人の消費者関連専門家会議のほうで顧客対応のAIが判断していいところと人が関与しないと解決できないであろうというような図を明示していましたので、転載させていただきました。
次のページに行きます。
国民生活センターと消費者団体の懇談会というのが今年の2月3日に行われていまして、この懇談会の中でもAIについての言及がございました。ただ、中身としましては、消費生活センターに消費者が相談してくる前に、消費者がAIを使って解決を支援してもらって、実際に自治体の消費生活センターに電話をすると、相談員からAIの回答と違うことを案内されるというようなことを苦情として言ってきて、それがトラブルになるケースが増えているという指摘がありました。必ずしも正しい回答が導き出されていないということにトラブルの一端があると考えております。
次のページに行きます。
ここからはまとめに入らせていただきますが、これまでの話を通じまして、私なりにこういった消費者課題があるのではないだろうかとか、今後こういったことを考えていかなくてはいけないのではないかということをお話しさせていただければと思います。
まず1つ目ですが、AI技術があらゆる商品・サービスに搭載されたりすることで、その商品・サービスががらっと様変わりをする。また、それが非常に高度な商品やサービスになってくるというところでは、今まで以上に情報の非対称性が拡大してきて、そういう側面を注視して消費者保護を考えていかなくてはいけないであろうということが大前提かと思います。特に勧誘行為や広告、マーケティングの分野では、消費者の感情分析の技術が加わりますので、より直接的な消費者の心を揺さぶるようなアプローチが簡単になされるという実態をしっかりと把握して、そこに対処するための法改正なども必要なのだろうと考えております。
2つ目は、消費者の実体験に基づくデータの収集がこれから必要になってくるだろうと思います。ここのスライドにはConsumer experimentと書かせていただきましたが、AIに精通している消費者、あるいはそうではない消費者、子供を含むあらゆる年代の消費者の実体験を通した課題の把握が必要だと考えます。
本日、私のプレゼンの多くは海外の資料を基にしていますが、日本の消費者に何が起きているのかということを把握しないと、AIに関する日本の消費者政策は前に進まないのではないだろうかとも思っています。そのデータ収集は、既存の消費生活センターに集まるデータでは、消費者がAIに操作された、自律的な意思決定が阻害されたということを明確に主張している苦情でない限りは、それを判別することは非常に難しいと考えております。ですので、自治体の相談システム以外のデータも収集するべきであろうと思います。そうした精緻なデータ分析を行った上で、消費者の自律的選択行動を支援するような取組はどういったものが必要なのかということを検討していくステップに入っていくのではないかと思います。
その自律的選択行動を支援する取組には、3つ目の丸ポツのところですが、消費者教育（AIリテラシー）の向上を支えていくようなシステムや、産業界の自主規制、標準化の推進をしていったり、規制（ハードロー）ですが、既存の規制とAIエージェントなどが出てきたときの規制はきちんと整合性が取れるかどうかとか、Best practiceとharmful practiceの共有と書かせていただきましたが、好事例と悪い事例の情報共有がこれから国際レベルでもローカルのレベルでも非常に重要になってくるのではないかと思っています。また、消費生活センターのAIの課題に対する感度をやはり上げていく必要があると考えています。早期の課題把握と啓発に生かしていくというところも重要であろうと思います。
そして、私がとても非常に大切だなと思っていますのが、救済制度の在り方をしっかりと考えていくことであろうと思っています。AIに自律的意思決定を阻害されたと認識した消費者が、消費者の立証責任を軽減するということを十分に考慮して救済される道筋をつけていくということが重要であろうと考えております。
先ほど5つのシナリオを挙げましたが、スライドの15ページ目です。消費者団体が想定しているAIエージェントの消費者問題①から⑥に当てはまるシナリオを提示したのですが、こういったところもよく見ていく必要があるであろうと思っております。
以上です。ありがとうございました。
○小塚座長 ありがとうございました。グローバルな動きを踏まえて、非常に網羅的、包括的に論点を提示していただきました。
それでは、いつもと同じように御意見、御質問をどなたからでも御自由にいただけましたらと思います。この会場にいらっしゃる方は挙手していただければ、私のほうから指名しますし、オンラインの方はこのシステム上のチャットでお知らせください。
いかがでしょうか。
では、田中委員、お願いします。
○田中委員 大変詳しい御説明をどうもありがとうございます。
関連して2点お伺いしたいのですけれども、加藤委員が御自身で分類されたという大変な御作業だったのではないかと思いますが、スライドの23ページで、やはりこの50件の中でも不明、分類が難しいものが多かったというものに具体的にどのようなものが含まれていたのかを幾つか教えていただけたらと思います。
そういった質問をする意図としては、加藤委員も発表の中でおっしゃっておられたように、この問題は金銭被害とか身体的な被害と比べて、消費者自身が被害を認識することそのものが結構難しくて、相談するに当たって必要な条件として、まず自身が被害を認識して、なおかつそれを言語化して、それで窓口までアクセスするという幾つかのハードルがあるように思います。そのハードルを越えるのが非常に難しい中で、何とか伝えようとしたけれども、うまく明確にできなかったものがFのところに含まれているのか、またそこまですら来ていないようなものをこれからどうやって被害状況というものを認識していく工夫が考えられるのか、その2点について教えていただけますでしょうか。
○加藤委員 御質問ありがとうございます。
実は国民生活センターから開示されるのが60文字という文字制限がありまして、柿沼委員が非常に詳しいかと思うのですが、相談員は入力するときに60文字ぐらいで概要をまとめるのです。その60文字からAIという言葉がまるっきり見当たらないというのがまず不明の中に含まれています。例えば新聞の訪問販売といった全く関係のなさそうなものがこの50件の中に含まれていて、どこにもAIの気配がないという場合に不明というところに入れさせていただいています。なので、国民生活センターへの情報開示請求をして分析をするには非常に限界があるなと実感したところです。
今、委員がおっしゃったように、この不明の中にどれだけ自律的な意思決定が阻害されたことによって、もやもやしたままセンターに来ているものがあるのかどうか、それも現時点では分からないのですけれども、恐らくなのですが、自治体の消費生活センターの相談員をやっていますと、「うまく言語化できない消費者」「消費生活センターに電話をするという行為までに至らない消費者」が非常に多いのです。ある調査によりますと、事業者との契約に不満をもった消費者のうち約3パーセントの人しか苦情を言ってこないというデータがありまして、そういったところを考えると、この苦情データというのが氷山の一角であるということが前提としてあります。
委員がおっしゃったように、金銭的な被害や身体的な被害に至れば、明確に被害を受けたと本人が認識しますが、AIによって自律的な意思決定が阻害されたと消費者が認識するまでにはかなりのハードルがあります。
ごめんなさい。2つ目の御質問というのは、これに対してどうしていったらいいかと点でしたでしょうか。
○田中委員 AIエージェントとかの問題は、一つ一つの被害は非常に瑣末に見えてしまう。消費者自身からも瑣末に見えてしまって、注文ミスなども「これぐらい」と。最後に「はい」と言ったのは自分だしというような自己責任で捉えがちで、でも、瑣末だけれどもスケールするというのがAIの問題だと思うのです。そういったときに、本人が瑣末だから言う必要もないか、言ってもどうしようもないかと思うようなところをどのようにして把握につなげていくのかというところに何か工夫の余地があればと。
○加藤委員 非常に難しいのですけれども、やはり消費者の意識の向上というのが最も重要なポイントでして、消費者が気づくかどうか。また、それを自分の権利と照らし合わせたときに、非常に重大な権利侵害が発生しているのだというところまで認識できるかどうかというのは、一人一人の消費者の意識が重要になってきます。そういったところで教育分野ですね、学校教育もそうですし、消費生活センターや国民生活センター、消費者庁が行っている啓発でこのAIの問題をもっともっと取り上げていく必要があるだろうとは思っております。
○小塚座長 ありがとうございます。なかなか重い課題ですけれども、オンラインのほうからお二人御発言の希望がありますので、順次お願いします。
最初に大塚委員、お願いします。
○大塚委員 ありがとうございます。
加藤委員、非常に詳細な御報告をありがとうございました。
私も最後の日本におけるAIの消費者問題に関する質問をさせていただきます。この50件の相談内容を分類していただいて、非常に見通しがよくなったのかなと思います。
その点で2つ質問があります。1つ目は、分類していただいたところによりますと、スライドの24ページですが、例えばBの自動売買システムの勧誘といったところとか、あるいはEのAIの顧客対応といったところだと、まさにAIが問題を引き起こしているように見えるのですが、これに対して、例えばDのAIに関する講座を受けようと思ったけれどもというところは最近AIがはやっているからまさに出てきた話であって、しかし、AIが何か悪さをしたとかそういう話でもないような気はいたしました。そうしますと、AIの問題と分類すべきなのはどこまでなのかというのが気になってきまして、BやCみたいにまさにAIが問題を起こしたというのがどれだけ生じているのか、分類してみてどうお感じになったのかという点をお聞きしたいなと思います。
それから、2点目はまさに日本の問題というのがどこにあるのかという点です。さらに50件を超えて分類を予定しているということですので、そういったさらなる御研究の先に見えてくる話になるかもしれませんが、前半で御報告いただいた海外の消費者課題の認識と後半の分類によって見えてきた日本のAI問題の認識というのは何か違いがあるのだろうかというのが気になりました。ここまで分類していただいて、何か日本に特有のAIの問題であるとか、あるいは日本に特有の問題の捉え方といったものがもしおありであれば、御教示いただけると幸いです。
以上です。
○加藤委員 ありがとうございます。
まず1つ目の御質問なのですが、AIが悪さをしたものではないものが含まれてしまっているというところはまさにおっしゃるとおりでして、投資の部分に関しましても、自動売買システムの勧誘を受けたが解約したいという事例が挙がってきていますが、この自動売買システムにAIが搭載されているか否かも分からない状態なのです。AIの投資に関する勧誘も、「AIを推進している企業に投資をしてみないか」といったような話なので、AIそのものが悪さをしてしまったということではないのです。
この中で唯一AIが悪さをしてしまったなというのは、「E」のAI顧客対応になるかなと思っています。最初の「A」のソフトやアプリも、AIのサブスクの契約についてなので、AIが悪さをしたわけではないのですよね。このAI顧客対応に関して言えば、AIの音声での顧客誘導があったり、AIを活用した勧誘活動が行われていた。また、消費者側にトラブルが生じたときに企業が活用しようとしているAIとのミスマッチが生じている、解決に至らないというような苦情が上がってきているというところに関していうと、AIとのトラブル、AIそのもののトラブルになるであろうと考えております。
2つ目の御質問の日本の問題がどこにあるのかということなのですけれども、私も国民生活センターのこの50件のデータから何か日本独自の問題点を見いだすということは現時点ではできていません。
ただ、傾向としましては、まずデジタル分野の調査、Consumers Internationalが行った調査があるのですけれども、日本人のデジタルの分野におけるリスクに対する感度というのはほかの先進国に比べて非常に低いというデータが出ています。欧米の文化を受け入れてくるという地理的・文化的な背景がありまして、海外から来るものに対しての一定の警戒感は持ってはいます。ただ、その商品やサービスが「いいものだ」と知ると非常に簡単に受け入れる。そして海外からくる製品やサービスを日本独自の文化として発展させていくというような傾向が日本の消費文化にはありまして、そういった意味でいくと、「消費者の権利」そのものが、もともと欧米から来ている権利意識を基底として日本の中に定着したものでもあります。、最近では、例えばChatGPTが出てきた際にチャッピーという名前をつけて、愛称のようにみんなでチャッピーに聞いてみようと若者たちが活用している様子を見ますと、非常に柔軟性があるといいますか、順応しやすい消費者が多いだろうなとは思っております。
お答えになっていないかもしれないのですけれども。
○大塚委員 いえ、ありがとうございました。大変参考になりました。
○小塚座長 ありがとうございます。
それでは、次に野村委員、同じくオンラインからお願いします。
○野村委員 貴重なプレゼンをありがとうございました。
まとめのところにあります支援の取組で消費者教育、リテラシー教育が上がっているのですが、学校の中で一斉教育をやっても知識が二極化していくという状況の中で、あちこちに散らばっている消費者の方々にリテラシーの教育をするというのは果たしてどこまでできるのか。結局のところ、二極化してしまって、下の層はAIに搾取されていることさえも知らないうちに依存してしまうようなことが定常化してしまうのではないかということが懸念されるのですが、こういうことに対して何か具体的な方策をお持ちであればお願いいたします。
○加藤委員 これはAIに限ったことではないのですけれども、消費者教育そのものの課題だとは思っております。そもそも日本の教育の中で消費者の権利というものをしっかり教えてきているかどうかというところも非常に疑問がありますし、そういったところから考えると、AIに関して消費者教育の中でどのようにやっていくべきかというのはまだ解決できていないような状況かなと思います。
ですので、教育を受ける期間ですね。その期間にもちろんこの消費者の権利やAIのリスクといったものを学ぶ機会は十分に必要だと思いますけれども、社会に出た後も生涯学習として学んでいく機会の提供というのは日本の国内では様々な団体や機関が行っておりますので、そういったところでもAIにどういうリスクがあるのかとか、どういう悪い事例があるのかといったところをどんどん共有していくということは全ての年齢層に対してやっていく必要があるだろうとは思いますが、おっしゃるとおり、そこは大きな課題だろうと思っています。
○野村委員 ありがとうございました。
○小塚座長 ありがとうございます。
そのほか、御発言は。
馬籠委員、お願いします。
○馬籠委員 ありがとうございました。非常に勉強になりました。
7ページ目にあるかと思うのですが、ターゲティングの部分で質問があります。AIによるパーソナライズ推薦やターゲティング広告は、消費者の自由な選択をゆがめる危険があるというような話でありますが、ウェブの広告においてもそういったことはあると考えております。反応率を高めるという点では、広告代理店という立場の人間は、反応を高めるために様々な施策を行っているという側面がありまして、どこからが何かしら自由な選択をゆがめると言えるのかなと思っております。全体的に広告自体がそうだと思うのですが、その商品の魅力的なところを伝えて商品に誘導させるみたいなことというのは、従来行われてきた手法で、ゆがめるポイントというのはどこなのかなと思っております。お考えがあればお聞きしたく思っているところでございます。よろしくお願いいたします。
○加藤委員 非常に難しい御質問だなとは思っています。アメリカの消費者運動家のコルストン・E.ウォーン博士という方がいるのですけれども、その方の「広告に問題がなければ消費者問題は発生しない」というフレーズがあります。それはだいぶ昔、1950年代、60年代の話ではありますが、広告が消費者の意思決定をゆがめている、消費者問題の原点だと言っている方がいました。
これはデジタルの広告に関してだけではないと思っていて、AIが出てきたからゆがめるという言葉がフォーカスされるようになっていますけれども、広告というのはそもそも事実を伝えない限りは、また事実だけでなく、企業側にとってのデメリットさえもその広告に表示をするというところまでしなければ、消費者側の意思決定の自由という部分に関していうと、100パーセント自由が得られているかというと、そうではないと思うのです。企業側が持っている情報量は非常に莫大ですが、消費者が持っている情報量というのがすごく少ないというところで、既に自由な意思決定というところは非常に難しいという大前提があるかなと思います。
その上で、AIが行うパーソナライズの推薦やターゲティング広告はそこにさらに拍車をかけるという位置づけになるのではないかと思います。ですので、そもそも広告表示が誤っていたり、何か意図するものが裏にあるというようなことがあれば、ゆがめられる危険性は十分にあるけれども、AIがまたそこに技術として加わることによってさらに増幅すると考えています。
○馬籠委員 ありがとうございます。昔からやはりある問題といいますか、拍車がかかるというところが問題なのでしょうか。
○加藤委員 広告表示や勧誘行為とかマーケティング活動というものを消費者がその意図を理解しないで受け取ったときに、やはりそこには歪みが発生するだろうと思います。
○馬籠委員 ありがとうございます。
○小塚座長 ありがとうございました。 そのほか御発言の御希望はありますでしょうか。
実は本日御欠席の丸山座長代理、坂下委員から書面で御質問が寄せられているようでして、もしほかの御発言の御希望がなければ、事務局から御紹介いただきたいと思います。よろしくお願いします。
○江口企画官 丸山座長代理と坂下委員から御意見、御質問を承っております。
まず、丸山座長代理の御質問です。日本の消費者相談の現場では、消費者の自立性に関わる苦情を把握困難な状況ということですが、シナリオで示されている例など、海外で懸念が現実化しているなど情報はありますか。
以上です。
続きまして、坂下委員の御意見です。生成AIからAIエージェントへ進化する中で、消費者保護の課題も新しい段階に入ったという指摘は重要です。また、AIそのものの信頼性に加え、1.AIが代理で契約した場合の責任、2.AIによる金融商取引の規制、3.AIエージェントへの攻撃、プロンプトインジェクション等について熟議し、消費者保護制度等の整合を図るという示唆は、日本のAI制度設計の中で消費者政策との距離を今まで以上に近づけて検討する必要があるという示唆だと思います。例えばブラジルでは現在AIインパクトアセスメントが議論されており、PIAプライバシー影響評価とセットで実施する案も出ています。日本もISO、COPOLCOの消費者向けAI指針などを参考にAIに関する影響評価、リスクベースドアプローチも実施することを考えることが必要ではないでしょうか。
以上です。
○加藤委員 1つ目の御質問ですが、今回の発表資料の中に入れました5つのシナリオなのですが、これは国際レベルで議論されているものを日本国内を想定してシナリオをローカライズしたというものになります。
すみません。御質問というのは、日本で起きている。
○江口企画官 日本の消費者相談の現場では、消費者の自律性に関わる苦情を把握困難な状況ということですが、シナリオで示されている例など、海外での懸念が現実化しているなどの情報はありますかということなので、海外での懸念が現実化しているかというようなものがありますかと。
○小塚座長 恐らくシナリオの背景に現実の相談事例などが海外ではあるのでしょうかという御質問だと思います。
○加藤委員 ありがとうございます。
現在、国際消費者機構が調査を行っているのですが、このシナリオが国際のレベルでは問題視されているというところです。日本の相談現場にはこういうものは今入ってきていないというのが現実だと思います。
2つ目は、坂下委員の御指摘はごもっともだと思います。AIのインパクトアセスメントなどを含めて今後検討していくということが重要だろうと思います。ありがとうございます。
○小塚座長 ありがとうございました。
国際的にも議論がもちろん進行しているのと同時に、やはりAIがもたらす消費者問題というものを定義し、特定していくのは難しいのだなという印象を私も今日お話を伺って受けまして、一つはどんどんフェーズが変わっていく。AI、生成AI、AIエージェントとどんどんフェーズが変わっていくということと、例えばデータの問題、あるいはパーソナライズの問題などは比較的分かりやすいのですけれども、消費者の自己決定自律的な決定にどう影響してくるかというようなことは、今日の御議論の中でも出てきたようにどこまでが消費者問題なのかというようなことがありますので、恐らく海外でもそれはいろいろ試行錯誤といいますか、議論を重ねているのではないかと感じたところでして、そういう意味でいうと、我々も世界と同じ一線で議論しているということではないかと思います。
加藤委員には今日はグローバルな動向についてきちんと御指摘をいただきまして、また我々の議論にこれからも加わっていただいて、どんどんインプットをいただければと思います。ありがとうございました。
それでは、この議題（1）についての意見交換はここまでということにさせていただきたいと思います。当専門調査会の本質に関わることですので、次回以降も議論を続けてまいります。
≪2．（2）消費者を取り巻くＡＩ技術の現状について 事業者ヒアリング（ＬＩＮＥヤフー株式会社 上級執行役員 AI Agent統括SBUリード葭沢光伸 ）≫
○小塚座長 次の議題ですが、「消費者を取り巻くAI技術の現状について」という見出しの下でお話をいただくということです。
本日は、LINEヤフー株式会社の葭沢上級執行役員にプレゼンテーションをいただけるということです。
LINEヤフー株式会社AI Agent統括SBUリードの上級執行役員でいらっしゃいます、葭沢光伸様でございます。先ほど会議室にお入りいただきました。お忙しい中、ありがとうございました。
LINEヤフー様にお願いをしました経緯というか背景ですが、本年4月に消費者向けAIエージェントの新ブランド「Agent i」の提供を開始されたということでして、今日の御発表のタイトルも「LINEヤフーの提供するAI Agentの概要と方針」ということです。Agent i の背景とか今後の目指すところなどのお話をいただけると伺っております。
それでは、20分ぐらいお話をいただきまして、その後意見交換をさせていただきたいと思います。どうぞよろしくお願いいたします。
○LINEヤフー葭沢上級執行役員 改めまして、このような機会をいただきありがとうございます。LINEヤフーの葭沢と申します。よろしくお願いいたします。
20分ほど私から御説明させていただければと思います。
では、ページを開きまして、本日、弊社LINEヤフーが提供するAIエージェントに対して、どのようなものなのかというところの御紹介と、そうしたサービスを提供するに至った背景を御説明させていただきます。また、具体的に消費者向けのAIエージェントとしてどのようなサービスを提供しているのかという点と、それを今後どのように発展させていただきたいと思っているのかという点について簡単に御説明させていただきます。
ページを送りまして、改めて「Agent i」というサービスをリリースしております。こちらに関しては、主に弊社はLINEというサービスとYahoo! JAPANというサービスがあります。このLINEアプリやYahoo! JAPANアプリ、そのサービスから簡単に起動できるAIエージェントのサービスになります。
コンセプトとしては「毎日のそばに、だれでも使えるAIを。」と掲げさせていただいて提供しております。
次のページを御紹介させていただきます。
「毎日のそばに」というコンセプトですけれども、簡単にAIをもっとエージェントのように使っていけるような世界観をイメージしております。複雑なプロンプト、または指示だったり設定といったものを可能な限り排し、AIを活用した情報の収集であったり、日常生活を支援していくことを可能にしようと思っているところでございます。
こちらで例えばのコンセプト、動画で少し御紹介させていただくと分かりやすいと思います。
（動画再生）
○LINEヤフー葭沢上級執行役員 ありがとうございます。ここで議論する題材として適切だったかは分かりませんが、比較的分かりやすくどういうサービスかというものをユーザーの方に伝えるコンセプトムービーになっております。
今ここで御紹介させていただいたとおり、消費者向けといいましても、どこかに行きたいな、お出かけしたいな、何か買い物をしたいな、御飯が食べたいなと様々な部分で消費者の方が日常で何かを探したり、または意思決定を行っていく。こうしたところをエージェント、AIと対話しながら、より従来のウェブサービス、また、弊社としてはウェブ検索等をやっておりましたので、従来のウェブサービスよりも発展的な形で便利にユーザーに使っていただくことを目的にしております。
具体的な仕様であったりUIは、また後ほどもう少し詳しく御紹介させていただきます。
次のページです。
こうしたとおり、Agent i の特徴なのですけれども、大きく3つ掲げております。一つは使いやすさ、2つ目はより正確な情報で最適な提案を消費者の方に行っていくこと、最後3つ目は、まさにエージェントの部分ですけれども、より高い実行力を持っていきたいというところです。
使いやすさに関しては、複雑なプロンプトであったり指示が要らなくて、より直感的なUXを目指しているというところと、今も弊社のヤフーの検索サービスであったりLINEのサービスに多くの利用者の方が様々な目的を持って訪れていただいておりますけれども、そういういつものサービスから簡単に使えるということを特徴にしております。
また、昨今、AIに関していうと、ハルシネーションであったり、様々な課題もありますが、これも可能な限りというところではありますが、より正確な情報を持って最適な提案をユーザーの方にしていこうというコンセプトを掲げ、目指そうとしております。具体的には、弊社の中で保有する独自のデータベースを情報の参照先として優先的に取り扱うなどしながら、AIによって引き起こされるハルシネーション等の問題の最小化を目指していこうと思っている部分でございます。
また、LINEを経由して、オフィシャルアカウントなどのような形で多くの企業様や店舗の方々が店舗や企業に関する情報を弊社に預けていただいております。こうした情報もよりAIに優先的に参照させることで、正確な情報の担保に努めていこうと思っております。
最後、実行力の部分に関しては、複雑なタスクをよりエージェント側で管理・実行していくというところを目指そうと思っている部分でございます。
次のページになりますが、こうしたサービスを提供するに至った背景でございます。産業の現場におきましては、ただの生成AIではなく、AIのエージェントとしての利用というものが社会実装をされ始めております。弊社においても、例えば開発においてAIがコーディングを行ったり、AIがコーディングしたものをまた別のAIがレビューしたりといったところでも既にエージェントとしての利用というのは進んでおります。
一方で、日常的にAIを便利に使いこなせていますかと弊社が調査すると、まだ現状では8割くらいの方々がそんなに日常的にAIを使えているわけではないと答えてくれております。
弊社としては、この割合を増やしていきたいという思いもありますが、この割合自体は弊社が何もしなくても不可逆な流れの中でどんどん増えていくものなのかなと思っております。このデータ自体は1月の調査ですけれども、恐らく今調査すると、これは16パーセントではなくて、例えば20パーセント、22パーセントといった形で既に上がっていっているのかなと思っているところです。今後、利用者の拡大が見込まれる中で、弊社としてもAIエージェントとしてのサービスというのを提供する必要性があるかなと思ったポイントでございます。
次のページでもう少し詳しく背景を御説明しますと、まさにここにありますとおり、従来弊社が提供してきたサービスや事業というのはキーワード検索に根差しているようなウェブ検索の事業でございました。他方、AIの登場によりまして、情報を探したりするようなニーズというのはAIに代替されつつあります。弊社の事業上の競争相手になるような世界の著名な事業者をはじめ、ほぼ全てのインターネットの事業者が今AIを軸に戦略を展開しているということはある程度自明のことかなと思っております。特に先ほど申し上げたように、ウェブ検索だとか情報を調べる、探索する、比較する、検討するといった領域においては、このAIの登場は破壊的なイノベーションであり、AIを軸に弊社の事業の戦略も転換・再構築していくことが急務であると考えまして、このエージェントサービス、AIサービスを提供するに至ったという形でございます。
ここまでが、弊社のAgent i の概要と提供に至った背景でございます。
続きまして、具体的に消費者向けのエージェントはどのようなものを提供しているのかについて御説明いたします。
こちらでは、先ほどのように複数のエージェントを展開しております。Agent i の中でお出かけしたいとか、飲食店を探したいとか、様々なニーズに対して、個別のその領域に特化したエージェントがユーザーの行動を支援しますが、ここではお買い物に関するエージェントを説明させていただきます。
弊社の中でいうと、先ほど申し上げたように商品の探索・比較・検討においては、ウェブ検索を行って、条件や要望をキーワードのような形で入力し、その行為を繰り返しながら、複数の候補の中から自分で情報探索をしているというのが従来の消費者の方の体験でございました。
これに対して、リアルな場では店舗のスタッフさんやメーカーの担当者様と実際に相談して検討するような現実世界があったと思います。AIが登場することによって、対話しながら情報を探したり検索するという行為がインターネット上でも可能になってきました。また、これから先ほどのようにAIがよりエージェントのように動いていくことで、ただの対話ではなく、ユーザーの指示を受けて、ユーザーの代わりに商品を探索したり、またはユーザーの方に分かりやすいように比較・検討する表組みを作ったりというような形で、商品の検索行動に関しては、エージェントによってより積極的な強い支援が可能かなと思っております。
また、提案も、従前から町の魚屋さんに行けばこの魚が今日はお得だよとか、実際に量販店に行けば、そのニーズがあったらこの辺りがお勧めですかねといった形で提案があったと思いますけれども、これもエージェントの時代でうまくこのエージェントを使うことによって、ウェブのインターネットの中でもAIのユーザーの潜在的なニーズを捉えながら商品を提案していくというようなことが可能になっていくのではないかなと思い、こういう世界観を実現するエージェントというものを今リリースしております。
次のページが具体的なUIになります。今、お買い物の領域では主に3つの機能をリリースしております。
一つは、先ほど申し上げたように店員相談機能と言っています。店員さんを模したような形で、専門店の店員さんに相談に乗ってもらうようなユーザー体験を、エージェントを使って実現しようとしています。
ここでは、エアコンのお勧めは何かないかなというときに、たくさんの商品の中から新たにぴったりの商品を見つけるお手伝いをさせていただきたいですという形で、店員さんになったAIが会話を続けようとしています。3つほど、お勧めのエアコンをユーザーの代わりに検索するに当たって、例えば1つ目は、お部屋の広さはどれくらいですかと。2つ目は、例えば予算はどれくらいですかみたいな形で質問をし、ユーザーからどういうようなエアコンを探しているのかというニーズを聞き取りながら、代わりにAIが商品を検索し、絞り込んでいくというような形の機能でございます。
2つ目は選び方軸機能と呼んでおります。店員相談のユーザー体験とは少し違うのですが、商品を選ぶ際に迷うポイントがあります。炊飯器は欲しいのだけれどもと声をかけたときにも、選び方のポイントが幾つかあります。炊飯方式で選ぶのか、炊き分け型で選ぶのか、またはほかにも商品の特徴があるのか、決まっているお気に入りのメーカーがあるのかといった幾つかの選び方の軸を設定しないと、世の中に膨大にある商品の中から個人のニーズに合致した商品を探すのは結構困難です。ここに関していうと、そのような形で弊社の中で保有する様々なデータを基に、こうした軸をAIが生成し、最大公約数に近いですけれども軸を提案しながらユーザーの選び方を助けていくということになります。
3点目が提案を行う受動体験機能です。こちらはウィンドウショッピングに近いと申し上げますか、明確な意思がなくても買いたいもの、欲しいものに出会える体験を提供しようと思っています。例えば何となくふらっとお買い物エージェントのトップページ等に来たときに、こんなふうなセット、パッケージであれば手頃にキャンプが始められますよとか、釣りがしてみたかったらこんなふうなパッケージがお勧めですよとか、暑い夏にお勧めの冷却グッズをまとめましたといった形で、何か新しいことを始めようとしたユーザーや、体験をしようと思ったユーザーに対して、セットで様々なアイテムを提供する。それを見ながら、キャンプはしたくないかなと思えば別にそれは見なくていいですけれども、確かに釣りをしてみたいなと思ったら、なるほど、釣り竿一本買えばいいだけじゃないんだみたいなことが分かり、併せて購入したほうがよいものみたいなものがセットで見られる。そのセットをユーザー自身が組み替えたりしながら買い物をするみたいなこともできるかなと思っています。
これも実際にスーパーに行ったりショッピングセンターに行ったりしても、この夏始めてみませんか、キャンプとか、花火をするならこんな体験もみたいな形で、買いたいものをまとめているような機能があるかと思いますけれども、こうしたことも、従来のとおり検索窓だけあっておしまいではなくて、何となく訪れたユーザーに対してこんな買い物体験もできますよという提案がAIの時代になってよりできるようになってきたかなと思いまして、提供しているという形でございます。
次のページで、このような機能を提供するに今至っている背景ですけれども、弊社としても消費者の方々向けにこうした機能を提供するニーズがあるのかないのかというところに関してはアンケート等、ユーザー調査を行いながら分析してきております。
1つ目は従来のネットの購買体験における課題ですけれども、多くのユーザーの方に聞くと、約半数の方々が、どういう条件を設定していくのか、商品探索の段階でストレスを感じることが分かっております。商品をうまく見つけられない、自分に合う商品がよく分からないといったところはかなり多くのユーザーにとって課題になっています。欲しい商品が存在しないのですと。さんざん探したのだけれども、買いたいものがなかった、自分に合致したものがなかったというよりは、条件を明確にしていったり、候補を探索していったり、それを比較するという設定を自分でやっていくということが結構難しい。先ほどの炊飯器の例のように、炊飯器は欲しいのだけれども、何で選んだらいいのかが分からない、どんなふうに絞り込んでいけばいいのかよく分からないというような方々が比較的多いというところでございます。
または、猫の爪切りをするときに何がいいのかなみたいなところも、曖昧なニーズはあるのだけれども、このニーズをかなえる商品が何かよく分からないで断念してしまうというようなことがより多くのユーザーの主要な課題になっておりました。
次のページがその課題をどのような形でユーザーが解決してきたかというところを調査したものですけれども、現在はやはり自力で何度も検索し直したり、いろいろな情報サイトを訪れて比較し、何とか購買に至っていくというストレスの乗り越え方をするユーザーが基本的には多く、判断に至らず、そういう比較・検討、条件探索といった行為のストレスの大きさであったりに対して、途中で中断してしまったとか諦めたというユーザーは8割に上っています。サイズ感が分からなかった、情報が信頼できるか分からなかったであったり、価格が適正か分からないとか、商品が多過ぎてよく絞り込めない、Aという商品とBという商品の違いが分からないといった形で断念してしまった。先ほど申し上げたような弊社のお買い物エージェントが提供したいなと思っているバリューは、まさにこういう課題をより解決していくためのお手伝いができるといいなというところでございます。
次のページのAIが支援する商品の検索体験、まさにAIが勝手に決めるというのではなくて、消費者の方々が先ほどのような断念した、諦めた、つらかったといったところをなくし、より納得して選んでいけると。その比較・検討や意思決定を支援したいなと思っております。情報の提示の仕方、検討のサポートの仕方、AとBの商品の違いをもっと分かりやすく教えてと言ったときに、それをしっかりと整理するといったことを行いながら、かつ中立的に当然透明性のあるような形で商品情報を提示し、最後の買うか買わないかというところに関しては消費者の自律的な意思決定に委ねていく。
願わくはその後、商品が来ないのだけれどもだとか、買った商品が違うのですけれどもみたいなところに対しても、エージェントと一緒に対話して商品を購入まで決めているのだから、それに対するアフターケアのようなものも行っていきたいなというのが、弊社が今考えている提供中の商品の検索体験と今後目指していきたい方向性になります。
最後になりますが、このような形でAgent i が、LINEヤフー社にとってみれば消費者の課題を解決しながら、また、企業の方々からも先ほど申し上げたようにより公式な情報をいただいたりする中で、商品を探しているユーザーの方に正確な情報を仲介して提供し、情報収集や検討をAgent i がサポートすることで、実際に企業の商品を購入したり、店舗を予約したり、実際に訪問したりという部分の流れをスムーズにしていき、双方にとって有益なエコシステムの構築を今後目指していきたいなと思っております。
簡単になりますが、弊社からの説明は以上となります。
○小塚座長 ありがとうございました。サービスとしても非常に興味深いですし、消費者にとっても大変有益なものになっていくのではないかと思います。
御質問がたくさんあると思います。先ほどと同じように、この会議室内の方はお手を挙げていただきまして、オンラインの方はチャットでお知らせください。
いかがでしょうか。
では、加藤委員、どうぞ。
○加藤委員 ちょっとお尋ねしたいのですけれども、商品の比較・検討を行っていくときの消費者を支援していくという位置づけのAIエージェントということなのですが、その支援をするというところの中立性の担保はどのようにされているのかなと。先ほど動画が流れたときに急に商品が出てきたので、母の日に、これをプレゼントしたらいいのではないかという商品がぽんと値段と同時に出てきたのですけれども、あれを選択して推奨してきたときのAIエージェントを提供する方、事業者様としての中立性はどこになるのですか。
○LINEヤフー葭沢上級執行役員 ありがとうございます。
先ほどの動画だとかなりユーザー体験を省略した形のコンセプトになっていましたが、一つまず重要なポイントは、基本的には現時点ではユーザーの方が何か探したいといったときに、検索する条件を弊社側から問いかけるような形になります。問いかけた結果は、膨大な商品もありますので、その中から実際により多くのユーザーに買われたといった過去のデータであったり、より多くのユーザーに検索されてクリックされているといったデータを基にランキング化をしまして、その中から商品を提示していくというような状態になります。
中立さという意味でいいますと、この中で特定の企業から、例えば弊社がお金をもらうような形でその企業を優遇するだとか、弊社としてより利するようなビジネスロジックを持って商品を提案するというよりは、純粋にユーザーの方の入力いただいたキーワードのシグナルに対して、商品のデータベースを探索し、そのデータベースを探索するに当たっては、過去のユーザーの評価であったり商品のクリック傾向だったり購買傾向などを総合的に加味した上で、ランキング、合致度というものを上位から選びまして、その中の上位を複数商品掲載しているという状態になっております。
○加藤委員 ということは、データ処理がされて人の手は介さないという本当に何が出てくるか分からないみたいな感じなのですか。ランキングだから、上位に来たものがぽんと表示される。そこには意図的なものは入ってこない。
○LINEヤフー葭沢上級執行役員 はい。このランキングを弊社の社員もそうですし、ステークホルダーのほうが操作するということはありません。
○加藤委員 ありがとうございます。
○小塚座長 ありがとうございました。
それでは、会議室の方に先に回しましょう。オンラインの委員の皆様にもその後で回します。
では、田中委員、どうぞお願いします。
○田中委員 ありがとうございます。
私も最近AIエージェントをよく使うのですけれども、便利な面が結構あるなと思っていまして、あれが欲しい、「あれ」というのはあるのだけれども名前が分からないということが結構あって、そういったときに「ああいったときに使うあれです」というと教えてくれるので、非常にそういったところは便利になったなと思っています。そういった意味で、消費者のニーズをちゃんとそういったところで拾い上げるというようなポジティブな機能もあると思います。
一方で、やはりリスクも少しあるかなと思っていまして、例えば最適な提案の「最適」はいろいろな最適があると思うのです。最適、for whatのwhatにいろいろなところが入り得る。そういったところの定義ですとか、潜在的なニーズを捉えるの潜在的なのはどこまでなのか。できれば例えば具体例として、潜在的なニーズというのはどういったところを想定しておられるのかというのをお伺いしたいと思います。
それを踏まえて、潜在的ニーズを知られたくないユーザーはそれを選択する余地があるのかどうかについて教えていただけたらと思います。ユーザーも結構複雑で、これは知られてもいいけれども、これは知られたくないとか。例えば大分前なのですけれども、私、オンラインで米びつを買ったことがありまして、そうしたら翌週米びつを推薦してくるのです。米びつはそう何回も買わないと思うのですけれども、しばらく米びつを推薦されてくることがあって、そういったときは潜在的なニーズがないことを察してほしいというようなときもあります。そういったときに、捉えてもらうことに対してウェルカムなときもあるのですけれども、そうではない潜在的なニーズは捉えてほしくないとか、自分の回答に対しては、それは捉えてもいいけれども、第三者には絶対に渡してほしくないとか、一人のユーザーであっても潜在的なニーズを捉えることに対するニーズというのですでしょうか、メタ的なニーズは結構複雑なところがあるかと思います。そういったところはどのような反映の仕方が可能なのか、何か具体的なことがありましたら教えていただけたらと思います。
○LINEヤフー葭沢上級執行役員 ありがとうございます。
まず潜在的なニーズですけれども、どのような形で捉えていこうとしていくのかというのは大きく2つございます。
一つは、先ほどのように対話のログの中から推論をしていくのが、従来の検索体験とは少し違う部分です。例えばですけれども、子供がサッカーを始めたいのだけれども、何を買えばいいのといったときに、スパイクなどが必要ですねと。そうだ、スパイクを買ってと子供が言っていた。お勧めのスパイクはありますかと。お子さんのサイズは何センチですか。22センチですと言いながらやっていく。サッカーを始めるのだとしたら、すね当てとそれを隠すソックスも必要ですけれども、それはもう御準備できていますかというのは、もしかしたらそのユーザーさんからすると、子供は言っていなかったけれども、スパイクだけ買えばサッカーはできるのかなというときに、これは対話の文脈の中から、このユーザーの方はスパイクが欲しいだけではなくて、お子さんがサッカーを始めたいと思っていると。であれば、ほかにもサッカーを始めるに当たって必要な道具はないだろうかという推論を行っていくことができると思っています。そこに対して、すね当てなどのほかのグッズは御準備できていますかというところは、もしかしたらこれが文脈から推定する潜在的なニーズと感じてもらえるかなと思うところが一点ございます。
もう一点は、エージェントがメモリーというものを持ちます。これはAIの時代だけではなくて、今も様々なサービスを利用するとサービスの行動ログなど、先ほど米びつの例もそうかもしれないのですけれども、購入履歴やコンテンツの閲覧履歴から様々な情報が広告としてお勧めされることがあるかもしれませんが、エージェントとの会話みたいなものの中からそのユーザーのことを理解するためのメモリーを弊社としては構築していっています。先ほどの例を申し上げますと、お子さんがいるということや、お子さんがサッカーをしようと思っている。または、スパイクを購入したらサッカーのスパイクを買ったといったことがメモリーになっていきます。こうしたメモリーが1回の対話だけでなくて複数の対話をやり取りしていく中でいくと、だんだんとリッチ化されていって、そのユーザーさんのことの理解力が上がっていきます。こうしたメモリーを参照することでできる提案というのがあり得るかなと思っています。
適切な例か分からないですけれども、先ほどのお兄ちゃんがいてきょうだいがいる。きょうだいのお兄ちゃんがスパイクを買ったといったときに、弟もいるということが例えば我々も分かったとすると、弟さんも一緒にお兄ちゃんとサッカーしたくなりませんかということが分かってくると、もしかしたら大きなボールではなくてお子さん用のちっちゃなボール、やわらかいボールもありますよということが推薦できるようになってくるかもしれない。これがメモリーを使った潜在的なニーズの捉え方で、すばらしく捉えられるかというと、まだまだこれは磨き上げる余地があるところですけれども、設計の思想としてはこう思っています。
加えて、確かにおっしゃるように、でも、弟がいるということだったりスパイクを買ったということをこれ以上覚えていてほしくないというのは当然消費者のニーズとしてあると思います。こちらに関しては、弊社としても、このAgent i 、AIがそのユーザーに対して何を記憶しているのかということを全て可視化しております。可視化しているそのメモリーをユーザーの方は削除できるようになります。覚えていてほしいことと、覚えていると困ること、忘れてほしいことというのは、ユーザーがそれを確認して簡単に消せるような仕様にしております。
また、このメモリーに関しても、消費者のこととちょっと違うかもしれませんが、よりセンシティブな情報というのもあると思います。サッカーのことだったらいいのだけれども、例えばそのお母さんが自分の体調について別の機会にエージェントに相談している。こういうこともあると思います。こうした健康、ヘルスケアであったり、アレルギーの情報だったり、よりセンシティブな、扱うのに十分な配慮が必要な情報は現時点でメモリー化しておりませんので、そのような形で可能な限りユーザーの方に対して嫌悪感がない、抵抗感がないようにしています。また、我々自身もメモリーとして適切に使っていけるような情報はメモリー化していき、そのメモリー自体のマネジメント、管理はユーザーの方に簡単にしていただけるように委ねていくということで、ユーザーが拒否したりしていくという機能を提供する形で今解決していこうと思っているところです。
○小塚座長 ありがとうございます。
いろいろ面白そうですが、オンラインのほうから大塚委員、野村委員の順番でお願いします。
大塚委員、お願いします。
○大塚委員 ありがとうございます。
非常に興味深いサービスの御紹介をありがとうございました。どういう思想でこういったサービスをつくられたのかということが分かって、非常に勉強になりました。
その上で私から2つ質問させてください。
1つ目は、既に御議論の中で出てきた話にも関わるもので、重複する部分がございますし、また、やや答えにくい話になるのかもしれませんので、お答えできる範囲内でお答えいただければと思うのですが、このサービスはどこでマネタイズしているのかなというのが気になりました。例えば恐らくサービス料を消費者から取るというものではなくて、広告とかそういったところで収入を上げているのかなと勝手に思ったのですけれども、そうすると、広告主からこういうふうにAIに提案させてくれみたいな要望などが出てくるのだろうと思います。そういたしますと、要はAIによる提案の中にそういった広告主の意向というのが反映されてしまうのではないかという懸念が出てくるわけですが、その点は先ほどお答えいただいたところで中立性を担保する仕組みがあるのだということだったのかなと思います。その点、マネタイズとの関係でもう一度御説明いただけたらなと思っております。
2点目が、本調査会でよくAIエージェントの問題として取り上げられるのが、依存の問題といいますか、AIエージェントに依存してしまって、社会との関係で消費者に悪影響があるのではないかということかなと思います。
例えばスライドでいうと4枚目あたりにAgent i の画面が出されておりますが、人間関係の相談とかも受け得るようなものになっていると思います。そうすると、人間関係の話をAIに相談し過ぎて、実際の人間関係にあまりよろしくない影響があるのではないかといった懸念も出てくるように思います。
そういった依存し過ぎてしまう問題に対して、このサービスはどういうふうに対応しているのだろうかというのが質問になります。例えばAIの学習の段階でそういった問題が生じないようにどういう工夫をされているのか。あるいはサービスとかアプリをデザインする中であまりに過度な依存を防ぐような仕組み等が何か用意されているのか。その点、少し御説明いただけますと幸いです。よろしくお願いいたします。
○LINEヤフー葭沢上級執行役員 ありがとうございます。
では、1点目から回答させていただきます。
まず1点目のマネタイズに関してですけれども、弊社としては複数の方法でのマネタイズを今まさに検証している状態です。1つ目は広告、2つ目は消費者の方からのサブスクリプション・課金、そして、3つ目は販売先の商品を送客した企業側からの手数料のようなビジネスというような辺りでございます。それぞれがどのような形でこのAIエージェントの体験の中で消費者の方に受け入れられていくのか、または企業の方々が果たしたい効果を果たせるのかという部分に関しては、世界の事例を見てもまさに今、検討段階、検証中にあるかなと思います。弊社としてはこれがベストだという体験またはソリューションをまだ見つけ切れておりませんので、複数の形で検討したいと思っているポイントです。
注意したいポイントは、1つ目は広告出稿のような形をするのであったとしたら、回答の中立性がどうなるのかに関しては、広告出稿額の大小であったり、広告を出稿していただいている企業との関係性を問わず、基本AIの回答にそれらのビジネスのロジックが影響することはない、中立であることというのは、大原則として考えています。それを破ってしまいますと、そもそもエージェントの回答自体の信頼を失う。信頼を失ったサービスを利用者のほうが使い続けてくれることはない。利用者のいないサービスに広告出稿は起こり得ませんので、やはり基本的には消費者にとってのベストな体験というのをつくり上げていくということが広告ビジネスにとっても重要かと思いますので、その点はしっかりと守っていきたいと思っております。
どのような形で広告を出すのかは、今、世の中にあるような広告とも違った形になる可能性もあると思っています。よくあるのは、バナーの広告が出てきて、何かエージェントと対話していると何となくだーんと大きなバナー広告が出てくるだとか、検索連動型広告ですと、特定の会社さんを探して検索すると、その特定の会社さんの広告が出たりもします。そういった体験も社内で検証していきますが、また違ったような体験が新しい広告商品として起こり得るのかもなと思っていますので、既存の広告を使ってうまくその体験にねじ込んでいくというよりは、検証を通じながら、エージェントと対話する経験の中で企業の方々の情報とユーザーが求めている情報をうまくマッチングさせることで、そこに双方にとっての利が生まれるというものを模索し続けたいなと思っている部分でございます。
2点目は、それがどちらかではないかもしれないのですけれども、広告とは違ってユーザーの方からその部分で手数料を頂くような形というのも考え得るかなと思っています。最近だとウェブにおける様々なコンテンツは全て無料というよりは、月額で幾らかお支払いしてサービスを利用されている方々もAIサービスに限らず多いかなとは思います。仮にですけれども、ユーザーの期待する体験というものが、現時点では弊社は全ての機能を無料で提供していますけれども、ユーザーの方がこれであれば月々幾らか払ったとしても代わりにAIがここまでやってくれるならばお願いしたいというような体験が何らか生み出せれば、ユーザーの方からその機能を使う対価としてお金を頂きながらやっていくということも弊社としては考えているところです。
3つ目はよくある形ですけれども、従来どおり弊社としては中立に情報を出していますが、出した結果として何らか例えばコンバージョンが生まれたり、契約の申し込みが生まれたりというようなケースが発生したら、そのときに情報を掲出してくださった店舗や企業の皆様から手数料を頂くというようなことも考え得るかなと思っており、このいずれが消費者の方にとって、そして、情報を預けていただける企業の方々にとって有益かというのを考えながら模索したいと思っているフェーズでございますというのが1点目でございます。
2点目に関しましては、消費者のお買い物に限らず、何らか日常的にエージェントをそのような形で利用する中で依存関係、またはそれに対する悪影響をどのように考えるか、対策するかという御質問だと理解しております。
こちらに関しては、弊社としても利用者の動向のようなものを見ながら、過度な依存であったり実生活における悪影響がないかといったことに関しては、アンテナを高く持ちながら利用動向を見ている状態です。現時点では、よいと言っていいか悪いと言っていいか、そこまでの強烈な依存したようなユーザーさんというのは発生しておりません。
また、そういうふうなユーザーが生まれないようにする責任があることも理解はしておりまして、過度にユーザーに共感し、迎合するといったAIの特徴のようなものに関しては、弊社の中でのプロンプトで制限を一定行いながら、適切な距離感でAIと話していくというようなことができるようにしていこうと思っております。
また、センシティブな悩みを相談してくる、さすがに影響が大きいな、センシティブだなというような悩みに関しては、弊社としてはその質問に今エージェントとしてお答えすることはできませんという形で回答し、全ての質問に必ず何か回答しながらユーザーと会話を続けようとするというようなエージェントにならないような調整を入れて対策をしている状態でございます。
今後も利用者の拡大に伴って新しい懸念や問題が生まれ得ると理解はしていますので、利用動向を注視しながら適切なサービスの提供を心がけていきたいと思います。
○大塚委員 ありがとうございました。大変参考になりました。
○小塚座長 それでは、次に野村委員、お願いします。
○野村委員 貴重な情報をありがとうございました。
AIエージェントが例えばコンシェルジュとして動くと、確かに利便性がすごく高くて、ある程度AI自体の迎合性もあって、人によってすごく心地いいものになるのは間違いないと思うのですが、逆にリアルなほうのコンシェルジュとか店舗業務のところにAIはこうしてくれているのだからリアルでもやってほしいというプレッシャーみたいなものが発生する可能性はあると思うのですが、そういうことに関しましてLINEヤフーさんのほうで議論されたことはありますでしょうか。
○LINEヤフー葭沢上級執行役員 御質問ありがとうございます。
エージェントがより自分にとって心地のよいパートナーのようになっていくことで、それと同じサービスのクオリティーをリアルの現場で人間に要求してしまうようなことが起こり得るかという御質問だと理解してよろしいでしょうか。
○野村委員 そのとおりです。
○LINEヤフー葭沢上級執行役員 ありがとうございます。
その問題について、具体的に弊社として公式な見解を申し上げられるほど、弊社の中で議論をしている状態ではございません。大変申し訳ありません。
一方で、エージェントが進化していくに当たり、世の中の実生活に与え得る影響というのは、AIが単独でなくてエージェントのように動き始めていくのがまさに今この局面だと思いますので、今後こういう問題が起こり得ないと思っているかというとそんなことはなく、様々な問題が起こり得るだろうと理解しているところでございます。そうしたものに関しては、今まさにこの場で示唆をいただきましたように、弊社としても様々な論点を持ち帰り、そういう問題が起きてからではなく、起きる前から対策を検討していけるように心がけたいなと思っております。
○野村委員 ありがとうございました。
○小塚座長 ありがとうございます。
では、馬籠委員、お願いします。
○馬籠委員 お話ありがとうございました。電通デジタルの馬籠と申します。よろしくお願いいたします。
お伺いしていて、今後エージェントがどんどん発展していく中で、クライアント、サービス出稿側としても一番大事なのは、正確な情報といいますか、商品の正確な情報を伝えていくところが非常に重要になってくるかなと思っております。今つくられているAgent i のほうで商品の情報を選んでくるとなった場合は、例えばYahoo!ショッピングのようなところの情報から選ばれてくるのかなと思っております。ユーザーとして正確な情報を選んでくるときの基準みたいなのはどこに置かれているのか、というところが1つ目の質問となっております。
あともう一点、今後、先ほどマネタイズのところでおっしゃられていたような、いろいろな施策を行われていくのかなと思っておりますが、一番使ってもらいたい場面はどこになりますでしょうか？例えば生活全般にわたるとなると、私が使っていく上では仕事でも使いたいなみたいなところが多くなったりすると思います。どこの部分を一番カバーされてつくられていかれるのかなと思った次第でした。
質問は2つとなります。お願いいたします。
○LINEヤフー葭沢上級執行役員 ありがとうございます。
1つ目に御質問いただいたクライアントさんがどうやって正確な情報をエージェントに預け、または弊社としてどのような形で正確な情報を選んでいくかという観点ですけれども、弊社としては、今おっしゃっていただいたとおり、現時点で提供しているサービスのデータベースをまずは参照元として、このお買い物エージェントに関して申し上げますと、情報提供をさせていただいています。こちらに関しては、現時点で弊社が提供している買い物エージェントに関していうと、Yahoo!ショッピングだけではなく、弊社のこのサービスに共感いただいて参画いただいているYahoo!ショッピングの事業競争上の相手にある競合のようなサービス、日本の中で消費者の方が商品を買うときに思い描く1、2、3、4番目くらいまでのサービスの商品をここにデータとして入稿していただいております。その情報を基に構築したデータベースを弊社としては参照しにいきますので、正確な情報をどのように出すのかという観点でいうと、実際に弊社のデータベースに情報を企業様であったり店舗様からお預けいただく。そのお預けいただく方法は、コマースの領域とローカル系の店舗情報の領域とで画一的な一つの窓口があるわけではなくて、提供方法は現時点では様々異なってはいるのですが、そのような形で情報をいただきなから、その情報をより参照していくというような形で現時点では考えています。
2つ目は、それだけだと十分な情報が足りないときには、当然弊社のデータベースにないので回答できませんとなってしまう部分に関しては、ウェブグラウンディングという機能がございますけれども、弊社も検索サービスを提供していますが、ウェブの検索結果に含まれる情報の中でより信頼性の高い情報というのを参照して、それを引用元として表記しながら情報を回答するという形を取っております。なので、ウェブ検索結果自体のポリシーとしても、より一次情報で最新性が高く、情報の信頼性が高い情報が基本的には上位に出るようなランキングになっていますので、その情報を参照しながら引用元を明記して回答をしていくというところで、より正確な情報を選別し、出していくという形で努力したいなと思っているところです。現時点でそのような形で提供させていただいております。
2点目に関しては、日常生活のカバーの範囲という形でしたけれども、弊社が今メインでターゲットとしているのは、これからこのAIを便利にエージェントのように使っていこうと考えていながら、まだ使いこなせていない方々の生活というところでございます。そのターゲットの範囲としては、原則弊社がLINEヤフーとして提供しているサービスやソリューションという意味でいうと、特定のドメインに現時点で弊社のサービスが限定しているわけではなくて、お買い物の領域からお出かけの領域、飲食店探し、求人情報探し、自動車選び、不動産探しといったところをすべからく提供させていただきますので、その意味ではその辺りは全部カバーしていこうと思っています。
現時点で積極的にカバーしていない日常生活の中でいうと、こういう実際の業務として会社の中で使うようなケースですね。こちらに関しては現時点でサービス提供は行っておりませんし、具体的な計画もございません。
○馬籠委員 ありがとうございました。非常に参考になりました。
もう一つ、先ほどの商品の情報を出されるときの責任元みたいなお話でいうと、データベースを提供された会社となられるのでしょうか。
○LINEヤフー葭沢上級執行役員 エージェント側で回答を生成した際の回答の生成物に関しては弊社が生成していますので、弊社に提供責任があるかなと思っています。そこに含まれている情報、引用元にある情報に関して、そこに仮に詐欺の情報が載っていたり、または事実と完全に異なる情報が載っていた際は、当然そのサイト側にも情報を公開している責任は一定存在するかなと思っています。
そういう情報を引用してきた責任がどこにあるのかという意味でいうと、それは弊社側がそこを引用していますので、弊社に一定の責任はあると感じておりまして、この辺りのAIにおける情報の責任の在り方みたいなところはまさに各国で議論がされ始めている最中だと思いますが、弊社として無責任な立場ではなく、責任を持って捉えていきたい。そして、そこに対して課題があれば改善をしっかりしていきたいと思っているという形でございます。
○馬籠委員 ありがとうございます。
○小塚座長 ありがとうございます。
そのほか御質問、御意見等はありますでしょうか。
では、加藤委員、お願いします。
○加藤委員 すごくシンプルな質問なのですけれども、外資系の企業と違ってヤフーさんならではの日本人を意識したところとか、ユーザーが日本人であるということを想定して取り組んでいらっしゃるようなところは何かあるのでしょうか。
○LINEヤフー葭沢上級執行役員 ありがとうございます。
意識してというわけではございませんが、メインで利用いただく方々の多くのユーザー様がこの日本国内で生活していらっしゃる方ではありますので、日本人に限定はしておりませんけれども、日本国内で利用いただくユーザー様だと思います。日本国内特有の商習慣であったり、文化であったりというものは存在していると思います。そうしたものをより理解しながらユーザー体験は設計したいと思っています。そのためには、実際に海外の各社様に比べると、つくり手の我々自身もこの国で生活しておりますし、今日ここにある課題の部分もそうでしたけれども、数百人の日本に住む方々に比較的簡単にアンケートであったり、ユーザーインタビューであったり、調査といったものは行っていけますので、こうした実際の利用者の方々の声をプロダクトにしっかり反映しながら、そこをつくり上げていきたいなと思う部分ではございます。
○小塚座長 ありがとうございました。
それでは、実は先ほどと同じように御欠席の丸山座長代理、坂下委員から御意見、御質問をお預かりしているようですので、また事務局から御案内ください。
○江口企画官 丸山座長代理からの御質問です。虚偽の広告、口コミなどウェブ上の不実の情報、あるいはAIエージェントに向けられる攻撃などについては、一定の対策が既に実現しているのであろうか。これが一点。もう一点が、人が探索するよりもだまされにくいといえるか否か。この2点について御教示くださいとのことです。
続きまして、坂下委員の御意見をお話しいたします。資料から、LINEヤフー社は、AIは消費者の代理として意思決定するものではなく、意思決定を支援するものと位置づけていることが分かりました。前の加藤委員の懸念点に対して、AIを最終決定者とせず、推薦ロジックを一定程度公開したり、特定の商品を恣意的に優先しないように調整をされており、一つの回答を示している内容だと思います。一方で、推薦の中立性をどのように担保するのか、公開情報は本当に正しいのかなどの課題もあり得ます。
ここまでがLINEヤフーさんへの御質問と御意見で、坂下委員の2つのプレゼンテーションに対する感想といたしまして、今回の2つの御報告はどちらもAIエージェントの社会実装が近いという前提に立って、生成AIとは別の制度設計が必要であることを示していると思います。検索エンジンでは検索順位の公平性が中心でしたが、AIエージェントではAIエージェントが比較・推薦、将来的には購入支援まで行うため、なぜその商品を推薦したのか、利益相反ではないか、どのデータを利用したのかなどに加えて、私たち消費者はAIエージェントの判断に異議を申し立てられるのかという課題が顕在化しています。AI、AIエージェントによる代理権の範囲や人による最終確認、ヒューマン・イン・ザ・ループの義務づけ、高リスクな取引における説明責任などの新たな制度の骨格を議論する段階に入っているのではないかと思った次第です。
以上です。
○小塚座長 坂下委員の御意見の中で「前の加藤委員の懸念点」というのは、先程の御発言ではなくて、前半でプレゼンをしていただいていた中で出てきたことというご趣旨です。
今のお二人の委員のコメントに対して何かレスポンスなどありましたら、どうぞお願いします。
○LINEヤフー葭沢上級執行役員 ありがとうございます。
私としても、今まさにこういう機会に参加させていただきまして、いろいろな示唆をいただいております。
新しい技術が進化していくに当たって、必ず歴史的にも様々な弊害であったり課題が生まれてきたということはほぼ全ての技術に当てはまるのかなと理解しております。一方で、全ての技術が事前に想定した課題を全ての事業者が十分に議論してブレーキをかけながら進んできた歴史もないかなと思っています。つまり、世界的にこのスピードは議論をまたずして進んでいってしまう。そこにどちらかというと後れを取ると、会社としては生き残れないような形になってしまう。ただ、その中でもそれにノーブレーキでアクセルを踏み続ければいいのかというと、弊社からしてみては、多くのユーザーの方々に国内でも利用していただいているサービスですので、当然そんなわけはなく、常にスピードとブレーキ、または提供する価値とその価値が生む弊害みたいなものに関しては議論をし続け、考え続けながら、サービスのマネジメント、経営のマネジメントをしていくことが重要かなと改めて思っております。
そして、今後、こうした議論を通じて新しい法令であったりガイドラインが形成されていくと思いますし、それと同じぐらいの速度でユーザーの方々のAIに対する接し方だったり接する上での認識も変わっていくと思いますので、リアルタイムで我々自身の価値観であったりも変化させながら、問題に対して対処しながら、よりよいサービスを提供していかなければいけないなと改めて自覚しましたというところでございました。
○小塚座長 丸山座長代理の御質問の人よりもAIエージェントのほうがだまされにくいと言っていいのでしょうかというのは、現時点で難しいかもしれませんが、いかがですか。
○LINEヤフー葭沢上級執行役員 私個人の考えを申し上げますと、初めは、今、リテラシーが高いユーザーの方々が中心に利用しているので、AIが言うことをうのみにしない。弊社としてもうのみにしないでください、たまにうそをつきますというのは申し上げています。ですけれども、スケールするに当たって、AIのほうを信じてしまった、AIだから信じられた、人間よりもAIのほうが信じられるみたいな人たちも出てくるのではないかなと思います。実際に場合によってはAIのほうが、先ほどのようなおかしなビジネスロジックを入れなければ、中立にユーザーに商品を探すけれども、場合によっては実際の場のほうがこの商品をこれだけ売ったらインセンティブがもらえるとか、実際のリアルの場においても様々な消費者に対する訴求であったりコミットメントのバイアスとかというのはかかっているのかなと思います。
一方で、そういうふうに進んでいくと、あるユーザーはAIを疑ってかかるようになるし、あるユーザーはAIを信じてしまい、時にはもしかしたら失敗してしまうというようなことも起こり得るのかなと思いますが、ただ、そうしながら、消費者の方々がリテラシーを少しずつ上げていく。また、上げられるような努力をしていくことで、この不可逆な時代の中で適切にAIと付き合っていく。AIの信じられるところと信じられないところ、人間の信じられるところと信じられないところを、ちっちゃい頃からかもしれないのですけれども、お子さんたちも学習していきながら、自分自身で自律的に意思決定したり、自分自身で自律的に人やAIやそれ以外のツールを選択していけるようにしていく必要があるのではないかなと個人的にではありますけれども思っております。
○小塚座長 ありがとうございます。
非常に重要な御指摘をいただいたと思いますので、私どもが今後検討を進めていく上でもまたそういうことをよく考えてみたいと思います。ありがとうございます。
まだまだお聞きしたいこともあるのですけれども、時間が近づいてまいりましたので、質疑応答、意見交換はこの辺りにさせていただきたいと思います。
当専門調査会といたしましては、今日御提供いただきましたお話を踏まえまして、次回以降議論してまいりたいと思います。
葭沢上級執行役員におかれましては、大変お忙しい中、お越しいただきましてありがとうございました。
○LINEヤフー葭沢上級執行役員 こちらこそありがとうございました。
○小塚座長 本日予定した議事は以上です。
事務局から連絡事項がありましたらお願いいたします。
≪3．閉会≫
○江口企画官 次回の本専門調査会につきましては、確定次第、事務局より御連絡させていただきます。
以上です。
○小塚座長 それでは、本日はこれにて閉会とさせていただきます。お忙しい中、お集まりいただきました委員の皆様方、どうもありがとうございました。
(以上)