第8回 人工知能（ＡＩ）技術の利用と消費者問題に関する専門調査会 議事録
日時
2026年8月20日（木）10:00～12:03
場所
消費者委員会会議室・テレビ会議
出席者
- （委員）
- 【会議室】
小塚座長、丸山座長代理、岡崎委員、加藤委員、坂下委員、野村委員、馬籠委員 - 【テレビ会議】
大塚委員、唐沢委員、田中委員 - （オブザーバー）
- 【テレビ会議】
鹿野委員長、大沢委員、柿沼委員、善如委員、山本委員 - （説明者）
- 【会議室】
勝又 壮太郎 大阪大学大学院経済学研究科教授 - （事務局）
- 小林事務局長、小堀審議官、友行参事官
議事次第
- 開会
- 議事
（１）ＡＩ技術と消費者問題について
有識者ヒアリング（大阪大学大学院経済学研究科 勝又壮太郎教授）
（２）消費者によるＡＩ技術の適切な利活用に向けて
丸山座長代理プレゼンテーション - 閉会
配布資料 （資料は全てPDF形式となります。）
≪1．開会≫
○小塚座長 皆様、おはようございます。私が交通遅延に巻き込まれまして、失礼いたしました。
それでは「消費者委員会人工知能（AI）技術の利用と消費者問題に関する専門調査会」第8回の会合を始めさせていただきます。皆様、暑い中、お忙しい中、お集りいただきましてありがとうございます。
本日の出欠ですが、岡崎委員、加藤委員、坂下委員、野村委員、馬籠委員、それから、丸山座長代理と、私、小塚が消費者委員会の会議室におります。
テレビ会議システム、オンラインのほうですが、大塚委員、唐沢委員、田中委員に御出席をいただいています。
オブザーバーの消費者委員会の委員の皆様ですが、鹿野委員長、大澤委員、柿沼委員、善如委員、山本委員、全委員がテレビ会議システムにて御出席くださっています。
それから、本日は、大阪大学の勝又教授に御発表をお願いしており、勝又教授にも会議室までお越しいただきました。どうもありがとうございます。
○勝又教授 ありがとうございます。
○小塚座長 それでは、事務的な進め方につきまして事務局から御説明をお願いいたします。よろしくお願いします。
○友行参事官 本日もテレビ会議システムを活用して進行いたします。一般傍聴者にはオンラインにて視聴いただき、報道関係者のみ会議室にて傍聴いただいております。
議事録につきましては、後日、消費者委員会のホームページに掲載いたします。議事録が掲載されるまで、ユーチューブでの見逃し動画配信を行います。
配付資料につきましては、お手元の議事次第に記載してございます。もし不足等がございましたら、事務局までお申し出くださいますようお願いいたします。
なお、担当審議官の交代がございました。一言御挨拶を申し上げます。
○小堀審議官 新たに着任いたしました、審議官の小堀でございます。
AIの問題については、将来に向けて本当に大事なテーマだと思ってございます。しっかりと御審議をお支えできるように頑張ってまいりますので、ぜひ、よろしくお願いいたします。
≪2．（1）ＡＩ技術と消費者問題について
有識者ヒアリング（勝又 壮太郎 大阪大学大学院経済学研究科教授）≫
○小塚座長 ありがとうございました。
それでは、本日の議事、議事次第にありますように2件ありますが、そのうちの1です。「AI技術と消費者問題について」ということで、先ほども申しました大阪大学の勝又教授に御発表をいただきまして、その後、質疑応答、意見交換をさせていただきます。
大阪大学大学院経済学研究科、勝又壮太郎教授ということで、勝又教授は経済学の観点から、消費者行動を数理的に分析する研究を専門とされておられ、消費行動学という分野の観点から、AIが消費者行動に与える影響についてお話をいただけるということです。
それでは、どうぞよろしくお願いいたします。
○勝又教授 よろしくお願いいたします。
マイクは入っているかと思いますけれども、改めまして御紹介いただき、ありがとうございます。大阪大学の勝又と申します。
このような先進的な会議で、どのようなお話をしようかということで少し迷っておりましたけれども、私の専門が、御紹介にありましたとおり、経済学部所属ということで、主にビジネス、マーケティングあるいはこれに関わる消費者行動というか、消費者の消費者心理のようなエリアもカバーしておりまして、その辺りの私の専門としている分野から、AIがどのように消費者の行動あるいは消費者の意思決定を変えるのかということを、少し私見を交えながら、述べさせていただきたいと思います。
本日なのですけれども、一応いただいているのは、20分ぐらいで一通り資料の御説明をさせていただき、その後に意見交換ということで、少しディスカッションをさせていただくということになっておりますので、まずは、いろいろ量は多いのですけれども、一通り皆様と共有させていただいて、その後、御興味のあること、あるいは、より説明がほしいところをおっしゃっていただければ、ディスカッションさせていただきたいと思います。
次に概要ですけれども、本日、事前に3つほど御質問をいただいております。AIが消費者の意思決定、我々の分野で言うと、消費者が何かが足りない、あるいは何かがほしいと思ったときに、いろいろな情報を集めて、それで情報をまとめて評価づけをして、そして購買する、そして利用するわけなのですけれども、その段階にAI、特に生成AIが、どのような影響を与え得るのかというのを、私なりにまとめてきております。
2つ目ですけれども、生成AIをフロントエンドとするAIエージェント、つまり我々と同じように対話ができるような、対話できるように見えるAIというのが正確なのかもしれませんけれども、対話ができるAIエージェントが、従来の消費者行動にどう異なる影響を与え得るのかというところです。ここも少しお話しできればと思います。
3つ目、生成AIと双方向のコミュニケーションによって促される消費者の反応と消費行動、これも1つ目、2つ目と関連するところではありますが、この辺りも大きく変わることが想定されていますので、ここも少し触れさせていただきたいと思います。
一応なのですけれども、事前にいただいていたとおり、この発表で指すAIというのは、対話型のAIということで考えていますので、画像生成、音楽生成の、特に対話型ではないといいますか、何か指示をしてつくってもらうというAIは、今のところあまり想定はしていないというか、ここではあまり想定はしておりませんので、対話型の、人間っぽい対話をしてくれるAIということでお考えいただければ、うれしいなと思います。
あと、一応、これの研究の分野も非常に進展が早くて、一部予想や仮説の部分も含みますので、この辺りは御容赦いただければと思います。3年たったら答えが出ているものもあるかもしれませんので、この辺りも議論をさせていただければと思います。
では、早速、中身のほうに入っていくのですけれども、まずは、私がマーケティングあるいは消費者行動の授業あるいは研究で、一番先に考えるのは、この情報処理モデルというものになります。これは、確立されたモデルといいますか、こんな形で人間というのは意思決定をしているのだろうという概念図が、もう30年以上前に提案されておりまして、これ自身は、AIがない時代から、こういうことがあるだろうと、こういうプロセスで人間は意思決定しているだろうということが言われております。
これは、特に少し詳しい方は、もしかしたらぱっとお気づきになるかもしれませんけれども、計算機の仕組みに非常に類似しているものになります。では、計算機とは何が違うのかと言いますと、一応、せっかくなので蛍光ペンを使わせていただいて、ここが非常に違うところになっていると。基本的には、人間というか、計算機は何をしたいというものはないのだということです。それに対して、人間というのは何をしたいというのを持っているということなので、ここの動機づけの部分にエンジンといいますか、駆動する理由があるというのが、この人間と計算機というか、仕組みは同じだけれども、ここの部分が一番違うのですよというのが、この動機づけ、目標の部分となります。
この目標の部分が、また複雑な絵になって申し訳ないのですけれども、次に行きますと、これが大体2000年代ぐらいに、いろいろな消費者行動研究、消費者心理研究をまとめた、購買意思決定プロセスの包括モデルというものでありまして、要はいろいろな研究をまとめて1つの絵にしたということなので、今回関係のある部分、ない部分といろいろあるのですけれども、メインのプロセスは、色がついているここの部分ということになるわけです。
人間が問題を認識して、後でまた詳しく説明しますけれども、人間の購買のスタートというのは、何らかの問題を解決したいという動機、その動機を基に情報を探して代替案を評価、つまり、どれとどれが、何を食べようかなというお店を探すみたいな形になりますけれども、その中から1つを選んで買って、使って、評価をするということになって、これがまたフィードバックになって知識となったり、記憶に蓄積したりするということになるわけです。
ここの部分が、多分AIによって大きく変わるだろうということを、私としては考えております。
ここで少しまとめというか、メインのコアの部分だけ持ってきますと、問題認識、これは問題をどう捉えるか、あるいは抽象的な何となく不快である、あるいは何となく足りないという気持ち、これも含めて問題認識なのですけれども、その問題認識の中で、その問題をどういう形で認識して、どういう解決策があり得るのかというのを考えるところに、そこまでが問題認識かなと思いますけれども、この辺りも少し質問をいただいたところでもあるのですけれども、AIの影響はある程度あるけれども、そこまで大きくはないかもしれないと私としては考えております。
ただ、ここも今後どうなるかなというところは分かりません。ただ、何カ所か大きく変わるところがありまして、情報探索、情報取得は、恐らくすごく大きく変わるだろうということです。皆さんも対話型のChatGPTとかに、いろいろ対話をしながら質問をすることは多いかと思いますけれども、こちらは情報探索、我々が検索エンジンにキーワードを打ち込んで、それで探索すると、それで情報を取得するというところから大きくインターフェースも変わりましたし、我々が、精度がいいなと思うような知覚も変わっているかなと思います。
そして、もう一つ、その情報統合といいまして、いろいろな情報があふれてくるわけですけれども、その情報を使える形に切って整列して、それで評価の俎上にのせなければいけないと。これが代替案評価というプロセスではあるのですけれども、ここも非常に大きな影響があるだろうというか、ここは、ほぼ代わりにやってくれるのではないかということを想定しているわけです。
そうなると、人間はどうなるのかというところは、後でまた御説明させていただきますけれども、情報探索、代替案評価、この辺りが一番大きな影響を受ける部分であろうということを考えております。
次は、購買なのですけれども、本来は、ここは人間が意思決定して、最終的な購買ボタンは人間が押さなくてはいけないはずなのですけれども、ここももしかしたら変わるのかなというのを少し考えております。
でも、ここの委員の先生方は、法律関係の方も多いかと思いますので、そうなると法律的にどうなるのかというところは、私としては、あまりここは知識がないので、実は少し教えていただきたいぐらいではあるのですけれども、この辺りも変わるでしょうということです。
消費自体は、人間が欲求を満たすということで、AIが代わりに何か、電気がほしいとか、オイルがほしいとかを言い出すのでもなければ、消費は人間の仕事かなという感じですね。ただ購買後の評価については、多少、情報の取りまとめ等にAIが絡んで、便利になるのか、あるいはどうなるのかちょっと分かりませんけれども、関わってくるでしょうねということを考えております。
それぞれ少しずつ御紹介していきますと、目標というのは、もう少しかみ砕いて言うと、理想の状態との乖離を認識している。つまり、本当はどうしたいのだけれども、今、自分はそれが足りないと。これは、短期的なおなかが減ったという状態が、空腹であるという問題から、食事をするという解決に至る、これも問題認識ですし、あるいはもっと長期的に大学に行きたいとか、資格を取りたいとか、その自己実現なども1つの問題あるいは現実の問題との乖離と理解できますので、これは、決して短期的なところだけには限らないのですけれども、いずれにしても我々が動く根源には、この問題認識、現状との乖離があるのだというところが、1つ我々が捉えている消費者行動のモデルということになります。これを問題解決として消費をするのだよということです。
それで、ここにAIはどのように絡んでくるのかといいますと、やはりインターネットで情報が入ってくるので、現実との乖離を認識させられるという機会が出てくる可能性があるということです。
あとは、こんなことができますよということで、新しい情報が入ってくれば、それが現状、今、このレベルだけれども、これぐらいに上げることができるのかなと、そういった問題認識に影響を与える可能性は少なからずあるだろうということを考えております。
次に情報探索ですけれども、この情報探索は、消費者行動研究的に言うと、内部探索と外部探索、つまり記憶から取ってくるということと、外の情報を集めてくるということと2つのパターンがあるわけですけれども、この外部探索がAIエージェントによって劇的に変わるでしょうということを我々としては想定しています。
ただ、これの難しいところは、検索エンジンが登場したときと、どっちが大きな変化なのかというと、実は、同じ人間の外部探索ができる対象というのは、常に増え続けておりますので、そういう意味では変わるでしょうけれども、過去のメディアの進歩であるとか、我々を取り巻く情報、情報が得られるデバイスあるいはサービスの進歩と比べて大きく改善されることはそうだけれども、ドラスティックにというか、非連続的に改善されるということは、あまり想定されないかもしれないということですね。よくはなるけれども、それが非連続な改善であるかどうかは分からないということです。
そもそも論として情報探索、お店探しとかは、基本的には認知的、時間的なコストがかかるので、これを嫌がるといいますか、人間は嫌がるので、できるだけ省エネで意思決定をしたいと思うわけですけれども、この意思決定が少し省エネになると、うれしいねということで、AIが代わりに探索して取りまとめてもらえば、うれしいねということで使う人は増えていくでしょうということです。
それで、少し関係するところではあるのですが、探索の中には、必ずしも直近に購入するために探索するのではない探索行動も一応ありまして、これは、車が好きな方が、車を買う予定もないのに新しい車の情報を集めるとか、そういったことがあります。そういった継続的探索についても、恐らくAIと対話しながら、いろいろ情報を集めたりということはありそうだねということです。
その知識量と探索、この逆Ｕ字モデルもいろいろ飛び飛びで申し訳ないのですが、これから、どうなるかなというと考えたときに、現在の知識と探索量の逆Ｕ字モデルというのがありまして、こんな形で、知識がある人というのは、あまり探索しなくても答えが見つけやすいので探索量は少なくなる。知識がない人というのは、探し方が分からないので、そもそも探せないということです。学部の学生に論文を探せと言われても、多分、そんなに探せないし、もっと調べろと言われても、どこから調べたらいいか分からないということがあるわけですけれども、では、大学院生はどうかというと、大学院生は頑張って探しますと、知識量が中程度なので探索量も多くなると。それで、プロフェッショナルの研究者よりは、少し時間がかかるねという話です。
これが、対話型のAIあるいはChatGPTをはじめとした、こういったAIによって、知識が低い方もある程度知識にアクセスしやすくなるという意味で、探索量は減っていくのかなとも思いますし、知識が低くても探索が継続できるという意味では、探索量が増えていくような感じもします。
いずれにしても、このＵ字は、少し背が低くなるといいますか、なだらかになることが想定されるということです。
次、これは代替案評価、情報統合、つまり意思決定までのプロセスですけれども、ここもAIの影響は大きいでしょうということです。
少し進めさせていただきます。
ここは、購買については、代理購買をするかどうかというのは、これは、今でもサブスク購買とかはありますので、そういう意味では、もはや我々は自動的に購入を継続している状態ではあるかもしれません。そこから大きくAIが勝手に代わりのスマホを買ってきたりとか、旅行の予約をしたりというのがあるかどうか分かりませんけれども、この辺りは、もしかしたら近い未来に来るかもしれないということですね。
ただ、1つ実は消費者行動でかなり気をつけなくてはいけないところがありまして、ここはビジネスのところでもあるのですけれども、我々、自分が買ってきたものでないと納得しないというか、同じものを買ってきても、自分が買ってきたものに対して評価が高い、そういった側面あるいは自分が何かができる、あるいは自分が買えるというその自由度こそが、ウェルビーイング、我々の幸せにつながるという考え方があります。これは自律性という言葉で表現されるのですけれども、この自律性を失うことが、もしかしたらAIの進展が我々を不幸にする可能性の1つかなということを私としては考えております。
これは、よい選択ですね、購買後の評価に入っていますけれども、よい選択というのは、ウェルビーイングを上げる、つまり我々が新しい町に行って、おいしいレストランを見つけた、これはいい選択だったねと、ウェルビーイングが上がるわけですけれども、これをAIがあるところで勝手に、ここの店を予約しておいたから行ってみてといって、メニューも全部決まっていて全部出されると、これを我々は自分が選択したとなかなか言えないと。そうなると、自分が選択したわけでもない、このレストランを我々はどのように評価するか、自分で見つけたよりも感動であったり、やってやったぞと、達成感は低くなってしまうと思うのです。ここの同じ結果を得るにしても、その結果を得るまでのプロセスのところに、実は、我々の人間としての幸せを感じる部分がありますので、ここをどうにかしたほうが、どうにかというか、ここのバランスが難しいねというところです。
先ほどお話ししましたけれども、我々は選択にあまり時間をかけたくないし、認知負荷をかけたくないのですけれども、自分でやりたいというところは持っていて、ここのバランスが、実はどうなるかなというのを、私としては非常に興味深く考えているところです。
ということで、1つのキーワードは、恐らく自律性なのだろうなということを思っています。
すみません、あと少しだけ続きます。
これから、いわゆる関係的AI、relational AIというのが恐らく出てきて、これは、この間、心理学系の論文ですけれども、掲載されたものなので、かなり新しい論文ですけれども、関係的AIが我々を幸せにするのかというのが、このテーマではあるのですけれども、人間の対人関係能力を模倣していて、常時利用可能で、適応性、つまり、その人たちに合わせていける、そして最後、最初にお話ししたように内在的な心理的欲求を持たない、つまり、面倒くさがったり、自分は、これがやりたいと言わない、こういった関係的AIを使っていく上で、我々がどうやってウェルビーイングを達成していくのかというところですけれども、このウェルビーイングの3要因、関係性、有能感、自律性、この辺りをどうやって維持というか、人間として守りながらAIとつき合っていくのがいいのかということを考えるわけです。
関係性についてもAIが孤立感を軽減する可能性は当然あると、だけれども、それは果たして幸せなことなのかと、幸せだと言っている人に、あなたは不幸だと言う必要は必ずしもないのですけれども、そこが難しいということです。
有能感、自律性、この辺りは、意思決定を任せてしまうことで失われるかもしれないというところを考えているわけです。
ということで、AIはパートナーとなり得るかというところなのですが、パートナーになり得るというか、もはやパートナーになるのでしょうけれども、その距離感というのは、少し考えたほうがいいということです。
もう一つキーワードとして、擬人化という概念がありますけれども、人間っぽいということが、我々の意思決定を少し乱すという言い方はあれですけれども、変えるということなので、この辺りも1つキーワードかなと思いますということで、まとめとしては、少し延びてしまいましたけれども、こんな形で私としては考えておりますということで、ひとまず、これで締めさせていただいて、皆様からの御質問あるいは御意見をいただければと思います。ありがとうございました。
○小塚座長 勝又教授、ありがとうございました。
早速、皆様からいろいろな御質問があるのではないかと思います。会場の方は手を挙げていただいて、野村委員が1番ですね、ちなみにオンラインの方は、チャットでお知らせください。
では、お願いします。
○野村委員 すみません、すごく明確なモデルを示していただきまして、すごく腑に落ちました。
スライドの6ページ目のところなのですが、このAIの影響が小さいとされる問題認識、動機づけの部分なのですけれども、最後のところに、やはり少し影響がある可能性はあるとおっしゃっておられますが、私は、これは小とするのではなくて中ぐらいなのかなと。
というのは、もともと承認要求という概念がありますが、あれは、SNSが現れる以前から既に近代社会の中で根源的なものとして内在していると思うのですが、それがSNSの登場によって一気にあおられてしまっているというのが現状だと思います。
ですので、もともと根源的にある何か動機づけがあって、ただ、それが今、技術的には達成できないから抑えられているけれども、それが可能になったときに一気に爆発するという、そういう影響があるという意味で、中ぐらいになるのではないかなと思われるのですが。
○勝又教授 そうですね、ありがとうございます。
思ったより大きい可能性は当然あります。ですので、小とはしていたのですけれども、実際、確かにあり得る話ではございます。AIの影響は、基本的には、私がLLMというか、対話型のAIが出る前と比べてどうかなというところで考えておりまして、既にInstagramもあって、Twitterもある時代と比べてということで考えると、既に承認欲求で不幸になってしまうような人というのがいる状態が、AIが乗っかることでどうなるかなということを考えて、承認欲求で不幸になってしまう人が幸せになるかというと、現状と比べてあまり変わらないけれども、AIが登場して、大きく今まで見られなかったものが見えてきてしまって不幸になってしまうということは、あまりないのかなと初めは考えておりました。
ですが、野村委員の御指摘のとおり、思ったより大きいと考える人はいるとは思います。すみません、答えになっていないのですけれども。
○野村委員 承認欲求以外の何か近代の中での根っこの問題というのが、これによって何か浮かび上がるのではないかという、そういう恐れを抱いておりまして。
○勝又教授 そうですね、分かりやすく伝わってしまいますので、インターネット上に報道として出ていたり、写真として出ているよりは、もしかしたら刺さる形で問題が認識されて、それによってあおられてしまうといいますか、そういう人は出てき得るかなと思いますね。ありがとうございます。
○野村委員 ありがとうございました。
○小塚座長 ありがとうございます。
オンラインのほうから何人かお手が挙がっています。大塚委員、田中委員、唐沢委員と、この順序でお願いいたします。まず、大塚委員、どうぞ。
○大塚委員 ありがとうございます。大阪大学の大塚と申します。
勝又教授、御報告ありがとうございました。大変勉強になりました。特にウェルビーイングとの関係のあたりで、非常に有益な概念をお示しいただいたのかなと思います。
私の質問は、その中でも自律性に関する質問です。スライドで言いますと、12ページ辺りで自律性の定義といいますか、AIと自律性の関係を御説明されていると思いますが、ここで言う自律性というのが、自分で決めたという実感といいますか、その個人の感覚というところに深く根差しているものなのかなと思いました。要は、自分で決めたと思えば、ウェルビーイングが上昇するし、逆に自分で決められなかったと思った、あるいは他者に押し付けられたと思ったとすれば、ウェルビーイングは低下するということなのかなと理解いたしました。
これに対して、私は専門が法学なので、法学の観点から自律性という言葉を見ると、自分で決めたと思っていたとしても、実際には他者に押し付けられているという場合には、それは自律性が害されていて、あまり望ましくない購買であるとか契約であると評価したりいたします。
その点の違いについて、どうお考えになっているのかというところをお聞きしたいと思います。よろしくお願いします。
○勝又教授 ありがとうございます。
まずは法律の観点ですと、私はあまり正確な理解を持っていないかもしれないのですけれども、状況的に自律性が損なわれている状態で買わされるものというのは、ある程度保護されるといいますか、保護の対象になるという理解でいいのですかね。
○大塚委員 そうですね、例えば、だまされたとか、あるいは契約をせざるを得ない状況になってしまったとか、そういう場合は保護される可能性があります。
○勝又教授 そうですと、今回私の意図している自律性とは、やはり少し違うところにはなります。御指摘いただきありがとうございます。ここは本当に主観的な自律性でございまして、もちろん選択肢がたくさんあるけれども、自分は、これを押し付けられた、あるいは実際は選択の余地などはないではないかと思ったという気持ちの方も、同じ状況でも自律性が高いと思う方も、自律性を持って選択ができたと思う方も、自律性を制限されて、選択せざるを得なかったと思う方もいるというのが、ここで言う自律性です。
ですので、確かに法律的にどのようにその状況を、客観的に規定するかというのはなかなか難しいところかもしれません。ただ、ウェルビーイング自身も消費者の心理的状態ということですので、なかなか消費者の感覚、感情あるいは主観に踏み込まないと、なかなか解釈できないといいますか、見えてこないところでございます。
せっかくですので、この場で今後もこういった議論が続くかと思いますので、できれば、このお気持ちみたいなものをどのように拾っていくのかというのも、少し議論していただけるとうれしいなと思います
御質問の答えになっていますでしょうか。
○大塚委員 ありがとうございます。大変興味深い考え方だと思いました。
そうすると、自律性というのは、選択肢が広ければ広いほど高まるというわけではないのですかね。
○勝又教授 そうなのです。
○大塚委員 100の選択肢があったとしても、何か選びようがないなと思うこともあり、それが3つに絞られて、かつ、この3つについてより大きな情報が見られれば、むしろ100ある選択肢から選ぶよりも、3つから選んだほうが、自律性が上昇しているとも評価できることになるでしょうか。
○勝又教授 そうなのです。そこが難しいところでして、100あると今度は認知負荷がかかって、我々は面倒くさくなってしまうといいますか、よい選択ができないみたいな形になってしまいかねないのですね。
ですので、自律性を維持しながら、認知負荷が下がるような絞り込みをするという、この両輪、本当にトレードオフなのですけれども、ここをどのように実現していくかというのが、実はウェルビーイングには一番つながる可能性が高いということかなと思います。
いずれにしても、おっしゃられたように100個あればいいとか、50個あればいいとか、そういう話では、確かにないので、ここが難しいところになります。ありがとうございます。
○大塚委員 どうもありがとうございました。
○小塚座長 ありがとうございます。
自分で決めたという満足感とか、認知負荷が下がったという、そういうメリットというものを、今までの法制度で保護してきたかというと、そうではないのだと思うので、それは大塚委員の言われることなのですが、しかし、それが消費者行動に影響するという意味では、消費者政策の中では考慮していたという面はあるのだと思うのですね。それをそういう形で受け止めていきたい話なのか、あるいはAI時代の消費者法制は、そういうことも保護していくということになるのかと、その辺りは、また、この専門調査会でもしっかり考えなければいけないことだと思います。
○勝又教授 ありがとうございます。
○小塚座長 ありがとうございます。
お手が挙がっていますので続けます。
田中委員、お願いします。
○田中委員 田中です。勝又教授、丁寧な御説明をどうもありがとうございました。
ブラックウェルらの消費者行動モデルについて質問させていただきたいと思います。
特に、このモデルは、複雑な消費者行動をプロセスに分けて、それぞれ捉えることができるという意味で非常に有益なモデルだと思います。
この問題認識のところの前提となっているものが、消費者自身が、何が欠けているかを、生理的欲求ですとか、結構分かりやすいものがあるかと思うのですけれども、そういったところからスタートするようなモデルであると理解しました。
一方で、最近の生成AIを利用したAIエージェントですと、この辺りが、より複雑化している面もあるように思われます。例えば、前々回ぐらいでしょうか、この委員会でお話しいただいた内容ですと、AIエージェント自体が消費者の購買行動をメモリーで記憶して、明確な欲求を持たない曖昧な状態の欲求を潜在的に推定して、これが必要ではありませんかというようなレコメンドをするというような機能を備えているというお話もありました。
そうすると、問題認識が必ずしも明確であるから消費者行動が始まるとは限らずに、曖昧な状態であっても、そこにAIが関与する形で欲求が生成されていく、促されていくというようなプロセスというものもあるように思います。
また、少し違う切り口ですけれども、そもそも生成AIを用いたエージェントを使う必要性というもの自体も、それほど私たちは強い欲求を持っていなくても、既に使い始めているわけなので、そういった意味では、問題認識が影響が低い場合もあれば、まだその影響の予測が難しいものですとか、むしろネガティブな影響を与えることが予測される場合ですとか、そういったことも今後含まれてくるように思われるのですけれども、いかがでしょうか。
○勝又教授 ありがとうございます。
ここの問題認識の部分に関しては、野村委員からも御指摘いただいたところではありますが、田中委員がおっしゃるように、ここは非常に難しい問題といいますか、問題を認識していないのに認識させられるといいますか、あるいは潜在的にはあったけれども、それが具体化した途端に問題だと思うようになるとか、そういったことは、実はありますというか、実はマーケティングの、いわゆる経営学の分野の話で言いますと、既に顕在化している、あれがほしい、これがほしいに当てはめていくようなものづくりといいますか、製品づくりは、もう古いといいますか、それは競争的になり過ぎてしまって商売にならないと言われておりまして、では、どうするのかというと、消費者の想像を超えた、あるいは消費者が今まで気がつかなかった問題解決の方法を提案することとされているのですね。
これは、難しいところですけれども、消費者は何となく不満を抱えていて、その何となくの不満をどう具現化して、それで製品のコンセプトに落とし込むかということを、マーケティングではやってくれと言っているわけです。
それが、今、人間がやっている、人間というか人間のマーケターが、頭に汗をかいてやっているわけですけれども、それをもしかしたらAIがやってしまうかもしれないというのは、当然、想定され得ることです。
ですので、問題を抱えていて何となく何とかならないかなと思っているものに、具体的にこれがありますよということで、その解決策を提示して誘導して、それで購入させるというか、問題解決に向かわせるという形は出てくるだろうなということを考えております。
ですので、田中委員がおっしゃるように、AIが問題を抱えているということをエージェントが察知して、その問題を抱えているのであれば、この解決策がありますという情報提供をするというのも、1つあり得る未来かなということを思います。
ですから、そのときに、我々は問題を認識させられて不幸になるのか、それとも解決策をもらって幸せになるのか、その辺りは、ちょっと分かりませんけれども、御質問をいただいたような状況は来得るということ私としても考えております。
いかがでしょうか。
○田中委員 ありがとうございました。
その点が、先ほど大塚委員からもお話があった自律性の捉え方とも深く関連するものかなと思って質問をさせていただきました。ありがとうございました。
○勝又教授 ありがとうございます。
○小塚座長 ありがとうございます。どんどん議論が深まっている感じがしますが、唐沢委員、お願いいたします。
○唐沢委員 唐沢と申します。勝又教授、どうも解説をいただきましてありがとうございます。
○勝又教授 ありがとうございます。
○唐沢委員 私、まず、お伺いしたいのが、このモデルですと、AIによって情報探索が、例えば効率化されるとか、情報の統合によって精度が上がるなどのメリットがある一方で、もちろんこれまでも皆様からも議論があったと思うのですが、効率化が、一方で偏りを生む、また、精度は向上するけれども、それは、実は判断がAIのほうに委ねられてしまう可能性があります。自律性が現状では認識の問題として曖昧な状況にあるとしたときに、結局、AIによっておこることが、望ましいことなのか、望ましくないことなのか、その区別が、どのようになされていくかということが、設計上重要だと思うのですけれども、勝又教授のお考えとして、設計のなかに、判断の基準を何か組み込む可能性、また、こういうところがポイントだから、例えばポリシーとして何か委員会でもまとめるときに、この点に着目して、よい、悪いみたいなことを考えるべきだということがあれば教えていただけるとありがたいと思います。よろしくお願いします。
○勝又教授 ありがとうございます。
これも非常に鋭い御指摘をいただき、ありがとうございます。こちらも私個人の立場というか、私の分野の立場にもつながると思うのですけれども、経営系あるいは経営学の分野ですと、基本的には企業が収益を上げて成長し続けること、これをサポートするのだというのが1つのミッションになっておりますので、AIによって生まれる市場、なくなる市場が出てくるという可能性は当然あるわけですけれども、それで産業構造が変わってもうかる会社、潰れる会社が出てくる。これが、どのようなところがもうかって、どのようなところが潰れていくのかというのが、まず、我々が追っかけているところではあります。
その点で言うと、産業としてどうなるのかというところは、かなり議論があるのですが、その一方で、例えばSNSのように市場としては物すごく大きくなっていると、Tech系企業は物すごく大きくなっているけれども、その分、例えば若い子たちが過度にSNSの中毒のようになってしまって、デバイスから手が離せなくなっていると、そういうときには規制が必要だねみたいな話が、最近でもよくあるかと思いますけれども、その辺りの規制の話は、実際はほとんど議論されていないのが現状ではあります。
ただ、もう一つ経営学あるいはこちらの消費者行動学も変わり始めまして、追っかけるのを短期的な満足としないでウェルビーイングにしたほうがいいのではないかという話もあります。そうすると、短期的には、インスタでいいねをもらって、よっしゃと思うけれども、長期的には、何でこんなのに時間を使っているのだろうみたいな話で、あるいは子供だったら学ぶべきものを学べない、成長できるタイミングに成長できないみたいなことになる可能性がありますので、そこのウェルビーイング、長期的な人間としての幸せを成果指標にすべきでしょうということを考えている人も増えてきております。
そういう意味では、恐らく法制度の部分も短期的に満足するかどうかは、恐らく全く追っかけていないと思うのですけれども、長期的に幸せになるかどうかを追いかけていくのだと思いますので、その辺りで少し行き過ぎた産業、あるいはサービスは規制したほうがいいねとか、あるいは多少監視を入れたほうがいいねと、そういったことにはなるのかなと思います。
それで、いわゆるビジネスの人たちは与えられた規制に従って、ある意味、よき隣人、よき法人として、社会的に望ましい形で存続していく、ビジネスをしていくという形につながっていくのかなということは考えております。
いずれにしても産業構造が大きく変わりそうなので、その辺りで一時的に少し行き過ぎるようなビジネス、サービスが出てくることは、恐らく想定されると思いますので、その辺りで、どこでどう手綱を引いていくかというところが大事なのかなということを考えております。いかがでしょうか。
○唐沢委員 ありがとうございます。
私自身、社会心理学者ですので、勝又教授が後半でお話しされた長期的なウェルビーイングということの重要性は、本当におっしゃるとおりだと思います。また、学ばせていただいこととしては、前半に、ビジネスとか、マクロ構造ですかね、経営学の方々が着目されている要因も、何らかの形でパラメーターとして入れないと、全体の健全性が保てないのかなと思ったりして、示唆的なお答えをいただいたと思っております。どうもありがとうございます。
○勝又教授 ありがとうございました。
○小塚座長 会議室から、馬籠委員、お願いします。
○馬籠委員 ありがとうございました。非常に勉強になりました。
意思決定のプロセスモデルも非常に分かりやすく学ばせて頂きました。2点質問をさせてください。
1つ目ですが、情報取得に関して、本や新聞から検索に変わりましたよというところと、そこから、またAIに変わってきているというところなのですが、本から検索に変わった、雑誌とか、新聞とかから検索に変わったときというのは、例えば負荷が上がってしまったとか、便利になったとかありますでしょうか。情報がたくさんになってしまって負荷が上がって、あまり幸せにならなかったなどありましたら教えて下さいませ。
もう一つ、空腹であるということを認識するということをお書きになられていたと思うのですけれども、いろいろ野村委員からも御指摘がありましたが、SNSなどで承認欲求が増幅されていったみたいなところも1つあると思うのですが、そういうことがAIによっても起き得るのかなと思っております。もしくは落ち着かせてくれるものだったりするのか、AIの資質にもよるのかなとも思うのですけれども、どうなっていくことが予想されるかというのをお聞きしたく思いました。よろしくお願いします。
○勝又教授 ありがとうございます。
2ついただきまして、1つ目は、これまで取れる情報がだんだん大きくなってきた歴史の中でというところだと思いますけれども、私の弟子が博士論文を書くときに、情報の過負荷について少し調べていると、実は物すごい昔から情報の海で我々はおぼれそうだという言葉が出てくると、具体的に言うと、テレビが多チャンネル化したときに、テレビを1日で全部見切れないではないかと、だから我々は24時間しかないのに、テレビは6掛ける24時間の情報を流していて、これは甚だ情報の洪水であるということが言われていたような時代もあったようです。
そう考えると、今、情報の洪水は実際あるわけですけれども、正直、今の人間のほうが、情報の取得に関してはすごくスキルを持っているような状態だと思います。10年前、20年前に検索エンジンが、もっと前ですね、登場して、その後に、世界中で情報が物すごい量増えていって、我々がアクセスできる情報はほぼ無限に近いぐらい、有限ではありますけれども無限に近いぐらいありますと、そこから比べると、AIというのは、それの情報の数としては存在するものを集約して、要約して我々に見せてくれるという意味では、探索しなければいけない量はそのままで、それで探索を改善してくれるという位置づけなのかなと思っております。
そういう意味では、実際は、そこまで情報探索で大きなジャンプがあるわけではないのかもしれませんけれども、ただ、何にしても劇的な要約能力の高さで、我々の情報探索、情報の洪水の中から自分の大事なもの、自分のお目当てのものを持ってくるということは、AIエージェントによって大きく変わっていきますでしょうということを考えているところであります。
もう一つの問題認識のところですね。AIが何かを買わせることがあるのかどうかという、何か特定の製品を購入させるように動く可能性は、多分設計すればそうなるのだと思うのですね。これがビジネスとしてどうなるのかなというところなのですけれども、今のAIは、我々は月会費か何かでただで使っていますけれども、それで広告が出るようになりましたね。その広告が出るようになったものを、もしかしたら対話の中にAIが、何か朝御飯を探しているのだったら、スターバックスで新しいのが出ましたよみたいな形で、スポンサーを獲得して、それで対話の中に広告を折り込んでいくことは、あり得るというか、ビジネスとしてはあり得ると思います。
そのときに、AIに買わされたというか、AIに今の広告よりももっと対話的で、人間の心にするっと入り込むようなコミュニケーションで、AIが何か新しい製品をお勧めされたときに、我々はこれを、これは我々が自律的に買ったのかとか、あるいは、いろいろな問題にはなりそうな感じはするのですけれども、問題を認識させる、あるいは自分が何となく持っている問題と解決策と強く結びつけさせる、そういったことはもともと得意だと思いますので、ビジネスとして何かしらのお金が動くといいますか、案件が動くといいますか、そういったものは、当然あるだろうなということで考えております。よろしいでしょうか。
○馬籠委員 ありがとうございます。
○小塚座長 そのほか、いかがでしょうか。
加藤委員、お願いします。
○加藤委員 今日はありがとうございました。
私からは2点なのですけれども、スライドの6ページなのですが、ほかの委員の方々もおっしゃっていたのですけれども、ここの問題認識、目標・動機づけの部分のAIの影響が小さいとなっていたところなのですが、マーケティングは、本当はここの問題認識とか、目標とか、動機づけに対する働きかけが最も得意なのではないかなと思っていて、ここのAIの影響が小さいというのは、消費者がそれに影響されていることが分かりにくいので小さいと見えているけれども、AIの技術的な部分でいくと一番得意なところなので、ここは、本来であれば、AIのパワーを発揮する一番の、影響を大にするところ、なのではないだろうかというのが私の1つの小さな疑問です。
もう一つが、経営学の視点で、短期的な満足度を高めていくということよりは、長期的なウェルビーイングを目指していくという内容で、御説明いただいたのですけれども、マーケティングは、やはりリピート行動をさせる、再購入させることを目標の1つとしているかと思うのですが、その短期的な再購入を求めないで、長期的に依存をさせていくような、依存とリピートは全く違うものだとは思うのですけれども、長期的に依存という形になり得ないのかどうかということと、長期戦でマーケティングを行うということが、本当に消費者のウェルビーイングにつながるのかどうかというのを少し疑問に思いました。
○勝又教授 加藤委員、ありがとうございます。
まず、この問題認識の部分でございますけれども、私の主観では小さいかなと思ったのですけれども、本日皆様の御意見を伺って、これは相当大きいのではないかなということを改めて感じております。
ここを小としたのは、実は今まさにおっしゃったとおり、ここはやはりマーケターの仕事だという部分が多いのかなというのが、私の頭の中に少しあって、人間がやっているだろうという先入観が多少あったのかなということを考えています。
ただ、まさにAIエージェントですと、1人の個人に、1人のその人のために問題解決を考えるエージェントがいる、マーケターがいるということなので、ここの問題認識の部分は、大きいかもしれないですね。ありがとうございました。ここは、私としても持ち帰らせていただいて、次の資料では大にしておきます。ありがとうございます。
それで、もう一つ、ビジネスとしての長期的な戦略とウェルビーイングがどの程度一致するのかみたいな話と受け取らせていただきました。
お金を払うのは、その瞬間なので、その瞬間をぐっと気持ちよくさせて、お金を払わせて、あとは、何でこんなものを買ってしまったのだろうが、これは、実は商売として成立するのですけれども、今、御指摘のあったとおり、長期的な関係構築、ですから、次も買ってほしいと思うのであれば、一気に気持ちよくさせて、後で、何でこんなものを買ってしまったのだろうというのを体験させると、次につながりませんので、よかったね、次も買おうかなと思ってもらうというのが1つ長期的なというか、マーケティングの目標とはなっております。
そういう意味では、ライフタイムバリューという考え方がありまして、生涯価値という考え方がありますので、その生涯価値を最大化する、つまり生涯にわたって使ってくれるお金の量を、数字的には現在割引するわけですけれども、それを見積もって、その人に、ある意味、今日は売らなくてもいいかもしれない、明日、あさって買ってくれるなら、今日は無理して買ってもらわなくてもいいかもしれないという形で、長期的な最大化を目指すという考え方があります。
ただ、これもしょせんはお金のお話でありますので、お金を払ってもらっていることが問題解決につながっていて、その問題解決によって、その消費者がウェルビーイングを達成しているかどうかというのは、実は、多少開きといいますか、一致しない部分がどうしても出てくるはずです。それが依存という形で、これは話すとなかなか難しいところにはなるわけなのですけれども、例えば、たばこはウェルビーイングを上げるのか、下げるのか、お酒はウェルビーイングを上げるのか、下げるのかについても別に今の時点で、どっちという答えがあるわけではありませんで、たばこを吸っていても肺がんにならずに天寿を全うされる方もいらっしゃいますし、そういう意味では、結果論でしかないのかもしれませんけれども、そこの不一致があることは、実は確実でありまして、その不一致があるまま進むのか、それとも修正される形になるのかというのは、ちょっと私のほうでは明確な答えはありませんが、現状、御説明させていただくと、そのような形になっております。ありがとうございます。
○小塚座長 そのほか、御質問ありますでしょうか。
特によろしいですか。ありがとうございます。いろいろと我々に示唆のあるお話をいただいただけではなくて、議論も活発に出まして、この専門調査会にとっては非常に有益な時間であったと思います。
私のほうから、整理だけをさせていただきたいのですが、勝又教授はウェルビーイングという言葉をお使いになっていて、よく理論経済学などではウェルフェアということを言って、それは、勝又教授がおっしゃいました短期的な満足のほうだと思うのですが、そうすっと、ウェルビーイングというのは、勝又教授の定義あるいはマーケティング理論のほうではある程度概念があるということでしょうか。
○勝又教授 一応ウェルビーイング自身は、それなりに長い歴史、歴史といいますか、研究史があるのですけれども、これをどう測るかというのは、実はまだ疑義があるまま進んでいるという状況です。現実、今、ウェルビーイングは長期的に測ることはなかなか難しいので、数理的なというか、統計的な分析においては、サブジェクティブ・ウェルビーイングという質問項目を使うことが多いですね。主観的なウェルビーイングで、あなたは幸せですかとか、そういうことを聞くわけですけれども、消費者行動あるいはマーケティング以外でも非常に広く使われてはいるのですが、果たして、これが長期的なウェルビーイングを測定できているのかということについては、まだまだ改善の余地はあるのかもしれないということは、常々言われているという状況でございます。
○小塚座長 ありがとうございます。
政策、制度を考える上では、その辺が問題になるので質問をさせていただきました。どうもありがとうございました。
恐らく、まだ御質問、御意見をお持ちの方もいらっしゃったのではないかと思いますけれども、今日は後半の議事もありますので、ひとまずここまでにさせていただきたいと思います。勝又教授、本当にどうもありがとうございました。
○勝又教授 どうもありがとうございました。
≪2．（2）消費者によるＡＩ技術の適切な利活用に向けて
丸山座長代理プレゼンテーション ≫
○小塚座長 それでは、次に議事（2）ということですが「消費者によるAI技術の適切な利活用に向けて」ということですけれども、丸山座長代理に「デジタル・AI環境における消費者の意思決定と消費者法の課題」というプレゼンテーションを御用意いただいているということです。
それでは、また、丸山座長代理も20分ぐらいでお願いできればと思います。よろしくお願いいたします。
○丸山座長代理 それでは、私からは「デジタル・AI環境における消費者の意思決定と消費者法の課題」というタイトルで報告をさせていただければと思います。
資料が大部なのですけれども、なるべく効率的に説明をしていければと思っております。
今回の報告ですけれども、私の3つの論文をベースにしながら、最後のページに掲載の文献及びこれまで本調査会において、実務の状況や法学以外の知見が提供されましたので、これを踏まえて消費者法の観点から、デジタル・AI環境における消費者の意思決定に関する課題の整理というのを試みてみたいと思います。
具体的には、第1に、デジタル化・AIの普及に伴う課題を浮かび上がらせるために、念頭に置かれるべき消費者像、消費者のデジタル脆弱性に係る議論を簡潔に確認の上、現在の消費者法が対応している消費者の意思決定に係る問題状況や害を整理したいと思います。
第2に、デジタル・AI環境がもたらす問題状況や、懸念されている事項については、従来、消費者法が取り上げてきたものと異なる特徴を確認できるのかについて、デジタル・AI環境がもたらす変化、特に対話型AIやエージェント型AIの登場がもたらす変化に着目して整理をしてみたいと思います。そのような順番で報告は進めたいと思います。
さて、まず、問題視すべき状況や害を検討する前提として、念頭に置くべき消費者像に関わる消費者のデジタル脆弱性の議論を参照しておきたいと思います。
人の脆弱性に関わる研究においては、いわゆる属性・カテゴリーアプローチから転回して、状況や関係性において誰しもが脆弱となり得るというアプローチが提唱されました。
デジタル環境の特徴としましては、データ利用・自動化・デジタル空間のアーキテクチャによる操作が可能となるということを挙げることができ、ほとんど全ての消費者というのは、その脆弱性、自分を守る能力が限定的であるということを推測されたり、作出されたりする可能性があるということが指摘されるようになります。
消費者に情報を与えた上で自己防衛を求める発想である情報パラダイムからの転換というのが、消費者政策において議論されるようになったということでございます。
脆弱性という概念自体は、普遍的一義的な定義が難しく、それが論じられる学問や政策の文脈に左右されます。
消費者政策の文脈としましては、自分で自分を守る能力が限定的となることが、自然人の特性として、あるいは置かれた状況や環境によって、あるいは年齢や特定の属性から確認できる場合に、それを脆弱であると、自分で問題解決がするには限界があると捉えていることがうかがわれます。
デジタル環境、デジタル市場では、こういった脆弱性が推測されるということなので、情報開示だけでは、問題解決とならないような局面が存在すると指摘されていると理解できると思います。
さて、デジタル化以前から存在する消費者法が、消費者の意思決定に関わるどのような状況を問題視し、どのような法制度によって対応してきたのかという点については、網羅的ではないのですけれども、パワーポイントの一番後ろのほうに行っていただくと、別紙という形で、一応の整理をしておきましたので、参照できる方は、別紙を参照していただければと思います。
この表につきまして簡潔に説明しますと、これは、現在手当されている法制度や規制、それによって保護しようとしている価値や保護法益、消費者に見られる問題視される状況と、それを惹起している原因と損害の種類、そして、現在置かれている救済手段の特徴、対抗する価値とどのような利益調整を図っているかという項目で整理をしております。
具体的にそこに記載している制度としましては、景表法、特商法に見られる表示規制、特商法などに設けられているクーリングオフ、そして、消費者契約法における誤認や困惑取消権、これは特商法でも手当がされておりますけれども、そういった権利であるとか、あとは消費者契約法や金サ法、民法に見られる適合性原則遵守に係る勧誘規制や適合性というものに配慮した説明義務を課す規制と、そして、主として不合理な契約内容を規制する制度なのですけれども、なぜ不合理になるのかということについて、実は、背後には意思決定や判断能力の欠如が控えているという、そういった不当条項規制や暴利行為論を取り上げまして、一覧表にまとめているというのが最後に添付されている資料だということになります。
政策立法をする場合に、法制度設計においてどういう価値を考慮するのかということについては、理解しやすいように非常に大ざっぱにまとめますと、誰にどのような権利が帰属すべきであるかを考えた上で、権利の分配の在り方や調整については正義とかフェアネスにかなうのかというような観点から決定していくような考え方と、経済学の効率性基準から政策を考えていくような価値判断というのが、法政策の分野でもあり得るのですけれども、両者は恐らく排他的というよりは、いずれから考えてもベターな介入の在り方を、現実の立法のところでは模索しているのではないかと考えられます。
消費者法の課題を探る前提となる従来からの消費者法において、消費者の意思決定という観点から問題視されてきた状況と被害の種類というのを簡潔にまとめますと次のようになります。
従来の消費者法においては、不実な情報、虚偽な情報に起因する誤認であるとか、重要な情報の欠如に起因する誤認あるいは自由な選択が意思決定の抑圧になるような畏怖・困惑といった状況。
そして、勧誘の環境や、訪問販売などを念頭に置いていただければと思うのですが、勧誘の環境とか取引の複雑さ、マルチ商法のような複雑さなのですけれども、それに起因する熟慮や理解の不足という典型的な状況がある場合において、個別の消費者の意思決定侵害から生ずる経済的な損害とか、あとは一般消費者の選択が阻害されることによって厚生の低下、ないし公益が損なわれるということになりますので、法制度としましては、そういった状態というのを問題視して、介入を図ってきたと考えられます。
さらに、先ほども言及しましたように、客観的に不合理な内容の取引であるとか、その人との適合性が欠けるような取引についても、背後には実質的な意思決定の欠如や判断能力不足や、状況的に契約せざるを得ないという私的自治の機能不全が、要件としてではないですが、潜在し、それを前面に押し出すのではなく、不当な内容というのを問題視した上で、財産権侵害・生存権侵害、市場の信頼喪失等を回避し、救済を与えるべく、このような法制度が創設されてきたと一応整理できるのではないかと思います。
こういったことを前提知識とさせていただきまして、それでは、デジタル・AI環境がもたらす変化というのは、従来の消費者法では対応していないような問題状況や、あるいは害というものをもたらすのかということについて考えてみたいと思います。
デジタル化に伴いまして世界的に注目されていきました事象としましては、第1にダークパターン、第2にパーソナライゼーション、第3に中毒や依存性のあるUI・UX設計を挙げることができるのではないかと思います。
ダークパターンに関しましては、もう皆さん御存じのものと思いますので、簡潔にだけ言及したいと思いますけれども、既に法的対応を実施したり、進めている国があるということは周知のとおりでございます。
具体的なパターンに対するラベリングの仕方は様々ですけれども、パワーポイントに挙げたような行動強制とか、インターフェース干渉とか、社会的証明、緊急性と、こういったものが世界的に取り上げられてきたと言えます。
消費者法政策の観点からの有益なダークパターンのマッピングの例としましては、EUの不公正取引慣行指令のマッピングなどが資料としてはアクセスも容易なものとして存在します。
EUの不公正取引慣行指令も、情報の非対称性に係る規制と自由な選択の抑圧に係る規制が置かれているという点では、日本と類似するのですけれども、ダークパターンと言われているような事象というのは、情報の非対称性や自由な選択の抑圧にほぼマッピングできるという、そういった分析がされておりますし、また、日本と異なりまして不公正取引慣行指令は一般条項もありますので、それによって対応できるということが検討された上で、さらにEUでは、デジタル公正法の立案というのが進んでいて、ダークパターンの規制についても、もう少し踏み出すという状況にあります。
次に、パーソナライゼーションですけれども、ターゲティング広告やパーソナライズされた操作というのは、ダークパターンの一部、その発展系になり得るのですけれども、注意を要するのは、個別化それ自体は害ではなく、ただ、脆弱性を狙うような個別化であるとか、市場競争における透明性を損なうような個別化、議論があるのですけれども、消費者余剰の一方的な奪取となるような場合、さらに発覚した場合に多くの人が不平等を感じるような対応というのは、問題視できると考えられます。
例えば、未成年者や精神的に弱い状況にある人へのターゲティングであるとか、不透明に個別化された価格や商品の個別化、差別禁止規範に反するような価格設定、条件設定というものを問題視できるのではないかと思います。
中毒性のあるユーザーインターフェースなどの設計については、無限スクロールや動画自動再生などが問題視されてきました。
例えば、欧州議会のオンラインにおける未成年者保護に関する決議というのが存在しますし、オーストラリアでは16歳未満のSNS規制というのが実現しておりますけれども、ここで指摘しておきたいのは、有害なコンテンツからの保護のみならず、広告収入を得るための利用時間を最大化すると、依存させる仕組みをつくり出しているということが問題視されているのだということを指摘しておきたいと思います。
このような状況というのは、UI設計の在り方が消費者のバイアスというのを増幅したり、あるいは選好を形成したりして、中毒的な利用を引き起こしているとも捉え得るのではないかと思うのですが、影響を受けやすい未成年者への対応がまずもって具体化されているということは言えると思います。
さて、デジタル化がもたらしました以上の問題状況に対して、従来の消費者法が対応できていないような問題状況が果たしてあるのかということを、一応整理してみたいと思います。
第1に、UI設計によるある誤認惹起というのは、誤った商品選択や契約の意思決定という問題状況、それに伴う経済的な損失を惹起するという点では、従来の不当表示などと同じと言えると思います。
ただ、従来の消費者法というのは、一般消費者の著しい優良誤認であるとか、個別消費者の商品内容とか取引条件の誤認というのを主として問題としてきたのに対して、デジタル化によりまして虚偽の希少性とか社会的関心の高さなどによって、誤認が惹起され、さらに一般に向けて、というよりは個別化も行われるようになっているという、こういった特徴が出てきたと指摘できるのではないかと思います。
また、第2に、ひっかけ質問とか視覚干渉というのも誤認惹起型なのですけれども、自然人の特性としての注意力とか情報処理能力の限界が顕著に、オンラインでは利用されるようになってきているなということを指摘できると思います。
さらに、自由な熟慮による意思決定を損なう感情の揺さぶりとか衝動の惹起というのは、従来の消費者法制では対応が限定的であると思います。困惑取消権、あるいは訪問販売のクーリングオフ、こういった法制度が対応しているだけという状況であると思います。
以上を前提としますと、消費者法の課題としましては、個別の消費者に再考の機会が与えられている範囲というのは十分なのかといった課題や、あるいは個別化が進んでいくと、景表法などに見られる一般的な消費者基準の解釈に工夫が必要となるのではないかといった点、また、いわゆるオンライン取引における表示の錯誤のようなものについては、最終確認画面措置というもので対応してきたのですけれども、人間のバイアスの体系的な利用が増加すると、果たして、そういったアプローチに実効性があるのかといったことが課題になるように思います。
さらには、意思決定を損なう設計やオンライン空間のデフォルト設計の在り方によって、だまされないのだけれども望む選択や意思決定にたどり着くために、時間が奪われてストレスがかかるという状況が、デジタル環境には見受けられると考えると思います。
これ自体は、非常に僅少な害なのですけれども、社会的には膨大になる可能性もあるのではないかと。
そして、従来の消費者法が直接的には対応してこなかった問題としましては、個人データの必要以上の要求であるとか、心理的な毀損が起こり得るとか、依存中毒というものが健康被害や財産被害に結びつくという、こういった状況というのを指摘することができると思います。
なお、ダークパターンに関しましては、現在、消費者庁のデジタル取引・特定商取引法等検討会における議論が進行中です。日本で多く見られるダークパターンにフォーカスした対応や、不意打ち性の高いSNS勧誘への対応というのが検討されているところで、また、先ほども言及しました最終確認画面、それに対応する取消制度については、実効性の確保が課題となることで議論されている最中でございますので、何がどこまで対応されるのかというのは、最終取りまとめというのを確認する必要があるという現況でございます。
さて、本調査会がフォーカスしている対話型AI/エージェント型AIがもたらす変化と懸念されている状況の特徴の確認に進みたいと思います。
まず、マイナスの状況ということではなくて、純粋に対話型AIやエージェントAIがもたらす変化として何が指摘されたかということを、私なりにまとめてみました。
まず1つは、情報の要約から購入誘導というのがシームレス化するということ、対話型AIによってと同調性、迎合性、親密性、人間関係代替性という特徴というのがもたらされること。そして、長期の対話をすることによって心理的な特性というのが精緻化して推定できるということ。AIによる消費者行動への影響があるだろうということ。こういった事項が中立的に指摘されていると思います。
懸念されている事項として、どういうことが指摘されてきたかというと、対話型AIやAIエージェントが普及することによって、第1に、詐欺の高度化や欺瞞的説明の巧妙化が起こり得るのではないかと、第2に、批判的な思考というのがそがれて、うのみにするみたいな現象が生ずるのではないか、第3に、AIへの相談というのが不安の維持システムに変容するのではないか、第4に、不確かな個人情報の出力やプライバシーの危殆化の拡大といったことが指摘されたのではないかと思います。
そして、対話型AIというのが、ECサイトやマーケットプライスのエージェント型AIである場合のほか、相談ツールであった対話型AIというのが、マーケットプレイス化、EC連携するという局面では、次の指摘と結びついていくと思います。
第5に、デジタルプラットフォーマーやECの買物相談のためのAI型エージェントの場合については、透明性が確保されない懸念や、誤った出力による不実表示があるのではないかという懸念が指摘されました。
第6に、消費者の個人買物代行のAIエージェントの場合については、利益相反とか予想外の取引成立などの懸念が指摘されました。
さらに、第7に、AIエージェント自体に対する影響力の行使があるだろうということが指摘されたところでございます。
さて、このような対話型AIエージェントがもたらし得る懸念に対して、現在の消費者法の状況を踏まえると、次のような消費者法の検討課題を、私なりの視点なのですけれども、整理できるのではないかと思いました。
第1に、事業者が用いる相談や勧誘を行うエージェント型のAIというのが、欺瞞的な表示とか不実表示等を行う場面については、現行法による対応の限界というのを詰めていく必要があると思いました。
すなわち、事業者のエージェント型AIの不当勧誘によって、消費者に誤認等が発生して契約成立を帰結するという場合については、現行消費者法の要件を充足する限りは、関連消費者法の適用は可能と解されます。
これは、補助型AIであっても、代替型AIであっても、事業者の勧誘・表示と評価できる限りは、関連規定の適用は可能であるということです。
ただ、先ほども説明しましたように、現在の規定の範囲で十分なのか、執行・救済の実効性が確保できるのかというのは、デジタル化一般の課題と同一の課題というのがここでも出てくると思います。
そして、この第1の局面では、現行法を前提とした場合に、事業者の主観的態様、例えば、消費者の一定の状況を知りながら勧誘したということが要件となっている場合には、AIは自律的に処理しますので、事業者自身は何の認識もないことになり、現在の規定の要件の充足が難しくなるのではないかと思います。
現在の法律ということで言えば、少し消費者法からは離れるのですけれども、エージェント型AIが不当な出力を行って消費者の損害を惹起した場合については、さらに不法行為責任や債務不履行責任の適用は考えられるのですけれども、民法709条では過失を認定し得るのかということが問われます。
相談・勧誘等に用いられるAIシステムの構築・運用の各段階で、違法な帰結とならないかをチェックする義務を怠ったなどの場合については、過失を認定するということがあり得るかもしれませんけれども、AIについて、どこまでの予見と回避が可能なのかということは、これは実務の現況次第ということになります。管理体制の不備ということが過失の認定に影響を与えることはあり得るのですけれども、どこまで可能かは実務の状況にも左右されるということになると思います。
さらに、過失を認定できない場合については、学会の議論としては、使用者責任類似の厳格責任構成の可能性などが、海外の議論を参考に検討が行われておりますけれども、現在の日本の不法行為法の解釈論としては難しいという評価が見られ、本日は、そこには立ち入らないということにしたいと思います。
いずれにしましても、一般不法行為法による対応というのは不安定となりますので、第1のこの局面における消費者法の課題としましては、事業者が用いるAIエージェントが不当勧誘などの客観的要件を充足するような場面において、果たして事業者自身の主観的な要件を充足しなくても、規制の適用を認めていくべきかといった政策的な判断が今後は問われるのではないかと。
また、消費者契約法5条には、人を念頭に置いた媒介・代理の規定があるのですけれども、AIエージェントに適合させるような改正が必要か否かというのは、これは、今後の課題となっていくと思います。
次に、これまで指摘された懸念事項の中では、私の分析では、透明性の確保と消費者へのコントロール手段の付与で問題解決ができるのではないかという局面が含まれていたのではないかと思います。
これは、消費者側の契約代行をするようなAIエージェントを念頭に置くのですけれども、将来一定の範囲で自律的な判断、もちろん消費者が裁量を与えている範囲なのですけれども、一定の範囲で自律的な判断をする代替型のエージェント型AIが出てきた場合でも、商品の探索と契約の代行であれば、消費者は、AIが何をするかが理解できるということになります。しががって、この局面では、あまりAIのブラックボックス性を強調する必要はないのではないかということです。
ただ、一定の裁量を設定して商品の探索や購入を任せるという場合については、予想外の過大な取引の回避、意図しない取引への懸念への対応というのは、これは考えたほうが良いだろうということになります。
この懸念については、購入上限額の初期デフォルト設定や、人の確認を必須とする基準の設定といった解決が考えられますし、他者との利益相反の可能性も情報開示で一応の対応が可能と考えられます。
この場面では、消費者への情報開示と消費者に管理を実効的にさせるということで、ある程度の懸念は回避できることになるのではないかと考えます。
こういった局面でお制度設計につきましては、ELIの消費者契約法のデジタルアシスタントに係るELI指針・モデル規則なども参考となっていくのではないかと思います。
法的には、情報開示、透明性の確保は情報の非対称性から、契約締結プロセスのコントロール権は、自己決定権の尊重から基礎づけられ得ると考えられますが、ただし、自動化の利便性と人の確認の必須化はトレードオフなので、ここは制度が1つに決まるというわけではなくて、議論が必要なところではないかと思います。
そのほか、消費者法の検討課題となると考えたのは、透明性の確保やコントロール権の付与とは別次元の問題として、システムエラー時の消費者への効果不帰属などの制度設計が必要かについては、別途検討が必要ではないかと思いました。
消費者にシステムエラーの立証は困難なので、代替型のAIエージェントが、契約の場面で普及していくという未来を描くのであれば、責任の所在の検討は必要となっていくと思いました。
最後に、情報開示・透明性の確保では解決できない消費者への影響が指摘されたと思います。
これについては、第１に、対話型のAIの利用が、AIを利用し続けたいというようなバイアスないし選好を形成して、結局利用時間の増加や引き延ばしが過剰な程度に至るような場面や、第2としまして、対話型AIの利用によりまして、AIの提言・助言をうのみにするという状況が、情報は精査されていくのですけれども、フィルターバブルを帰結したり、脆弱性への巧みな付け込みによる操作が可能となってしまうという、そういう場面の懸念として捉えるとは考えられます。
この懸念は、情報の開示では解決できず、現在の消費者法も直接には対応していないと思います。
消費者法の検討課題となりますのは、第1の懸念については、AIとの継続的な関係において、一定の配慮というものを事業者に要請することが果たして可能なのかということでございます。
配慮義務という発想については、法的には情報環境、取引環境の一方的な支配という点をもって、果たして事業者に配慮を要請し得るのか、どこまで要請し得るのかというのが、理論的には問われます。
次のページに海外の状況、これは、AIに限定されるのではなくて、デジタル環境の支配というところに着目して行われている議論でございますけれども、1つの発想としましては、忠実義務アプローチというような研究論文というのが見受けられる状況です。これは、Fiduciary Dutyに由来するもので、情報信託論を発展させるような形で、オンラインサービスプロバイダー、デジタルプラットフォーマーの責任を論ずるような研究でございます。
信認関係の前提としますので、委託者の最善の利益の尊重、利益相反回避、機密保持などのルールを導くことができるのですが、このような関係を、医療、法務、金融、信託の領域を超えて、拡張できるのかについては、理論面、戦略面で少なくない批判があるような状況だと見ております。
もう一つ見られるのは、専門家の注意義務アプローチで、EUは消費者法のProfessional diligenceに由来するものです。
着眼点はデジタル非対称性とデジタル脆弱性の搾取の禁止とかになりますが、具体的にどのような義務まで基礎づけ得るかは、これは議論を見ていく必要があるという現況でございます。
前のページに戻りますけれども、こういった情報取引環境を支配する事業者への配慮、注意の義務づけについては、操作とか、付け込みが消費者の意思に反すると言える事例では、消費者の自律性確保の観点から、例えばAIが消費者の脆弱性に付け込んで、操作しないように管理する義務といった議論はしやすいのですけれども、依存全般に対して配慮を要請することの根拠づけ正当化というのは、さらに議論を要すると思います。海外でもこの分野については、恐らく未成年者保護に乗り出している段階ではないかと考えられます。 ほかの依存現象に対する国家の介入の有無とのバランスも問われるのではないかと思います。
さらに、フィルターバブルなどの問題については、海外では個人データが消費者に帰属しているということを前提に、個別化とかアルゴリズムからはオプトアウトできるということを論ずるような研究があるのですけれども、日本の法状況において、果たしてこのような立論が成り立つのかは、検討を要する状況です。
最後に、脆弱性へのつけ込み懸念が増すことへの処方箋としましては、再考の機会の付与というのが考えられると思います。ただし、クーリングオフというのは非常に重たい制度でございますので、消費者の後悔というのが生じやすい局面というのを明確に切り取った上で、クーリングオフとも異なるような、事業者の負担を最低限とするような制度設計が可能かというのが、将来的には問われると思いました。
私の報告は以上となります。今後の課題の指摘ばかりとなりましたが、御清聴ありがとうございました。
○小塚座長 ありがとうございました。
この専門調査会で見てきたことを総ざらいしていただいたような包括的なお話をいただきましたけれども、どうぞ、皆様から、また御質問、御意見等をいただけましたらと思います。いかがでしょうか、会議室からでもオンラインからでも結構です。
坂下委員、お願いします。
○坂下委員 どうも御説明ありがとうございました。これは、とてもよくまとまっていて、私も頭の整理がつきました。
1つ質問というか、考えていることは、資料の中にダークパターンが出てきます。ダークパターンというのは、今は、ダークパターンは見せることを前提に設計されているものがダークパターンなのです。今日、前半の勝又教授の話も伺っていて、AIは学習するわけです。学習していけば、その人が不安に反応するのか、安心に反応するのか、それとも親密に反応するのかも判断できるようになるわけです。
そうすると、動的にダークパターンを変えるということも可能性としてはあるのではないかと思っております。
そうすると、従来のEUのUI規制のように、これだったら駄目だという規制ではなくて、そこは、もうひとひねり何かないといけないのではないかなと思っております。
また、これを拡張して考えると、AIを消費者の代理人として考えるのか、意思決定のツールとして考えるかによって、かなり規制の形も変わると思います。
継続的に学習していきますから、AIというのは道具ではなくて、意思決定の代理人みたいなものになっていくとすると、私は法律の専門家ではないですけれども、自己決定というものの定義自身を、このAIの場合見直さなくてはいけないような気がしております。それについて、丸山座長代理の御見解を伺えればと思います。
以上です。
○丸山座長代理 非常に大切な点を御指摘いただき、ありがとうございました。
ダークパターン自体が動的なものになっていくのではないかというのは、もう生成AIになると、対話も入っていきますし、また、変化させるみたいなことも可能になっていきますので、そういった状況に至り得るのではないかと思います。
恐らくそういった状況というのも念頭に置きながら、欧州、その他米国もそうかと思うのですけれども、登場している概念として操作とか、マニピュレーションというような概念も出てきているので、アプローチしやすい概念を設定して、問題があるところに対応できるのかを考えていかなければいけないのではないかと思います。単に、動かないような画面が、だますというだけではなくて、動的なものが普及すると、そういった操作に対する個別対応も考えていかなければいけないというのは、そのとおりなのかなと思いました。
第2の点としましては、自己決定とか、自律、意思決定の在り方というのを考えていかなくてはいけないというのは、そのとおりであると思いました。
最後のほうで、先行研究などのアイディアを参照している部分になりますが、従来であれば、契約するまでに十分な情報をもらって、そこで判断して契約したならば、それで拘束されるというモデルだったのですけれども、そういったモデルから、将来の現実に合わせていくとなると、やはり、最終的に短い期間でもいいのですけれども、消費者自身が考え直すであるとか、ある種の選択について、AIから一方的に来るものだけではなくて、AIが提示しないものについても選択できるというような、認知負荷という話が第1報告でありましたけれども、それをあまりかけないような形での消費者の選択の機会というのを、どのように確保していくのかというのが、個人的には課題になるのではないかと考えておりました。
以上です。
○坂下委員 ありがとうございます。大変よく分かりました。
以上です。
○小塚座長 ありがとうございました。
丸山座長代理は、終わりのほうの（3）で透明性の問題で解決できる問題と、できない問題点という辺りが、それに対応しているのですね。
ということですが、オンラインのほうから田中委員、その後、大塚委員、お願いします。まず、田中委員、どうぞ。
○田中委員 田中です。
丸山座長代理、大変詳しい御説明をどうもありがとうございます。
法律は門外漢で、ちょっと理解が及ばないところがあるように思いますので、御質問させていただけたらと思います。
スライドの23ページ目で、「消費者に誤認等が発生のうえ」という文言が一例としてありますけれども、この発生の存在というのは、どのように示すことができるのかについてお尋ねしたいと思います。
丸山座長代理のスライドでもどこかにありましたように、消費者自身が気づくことが難しいという問題と、気づいたとしてもそれを立証することが消費者自身には難しいという課題があるかと思います。
一方で、勧誘とか誤認というのは、従来もあったかと思うのですけれども、最近のAIエージェントの特徴としては、一斉に掲示する形の広告ですとか、フェイス・トゥー・フェイスの勧誘だと第三者が気づくような機会があるわけですけれども、AIエージェントになってくると、特定のアカウントの中の特定のアプリの中で発生するということがあって、それは第三者が気づくことがなかなか難しいという特徴があるかと思います。
そうすると、第三者が気づいて、それを示すということにも、また、課題があるように思います。
例えば、ダークパターンのように誤認を生み出し得る設計そのものを問題視するという方法になっていくのか、それとも、ほかにも何か代替となるような方法があれば教えていただきたいと思います。よろしくお願いします。
○丸山座長代理 鋭い御指摘、ありがとうございました。
民法や消費者契約法に関しましては、従来型の錯誤とか詐欺というのを発展させてきた経緯から、やはり意思表示をした人が何らかの錯誤に陥っているとか、誤認をしているということは、要件として設定されます。
ただ、具体的にその訴訟の場面ということにはなると思うのですけれども、そのときには事業者の側で、このような不当な表示が出ていて、消費者がこういう行動をして、その契約の後に、こういう行動をしたという、そういった証拠を持って誤認はありますねということは、実際には認定するということになると思います。
心理的なところというのは、非常に証明が難しいということが前提となりますので、恐らくフォーカスをしていくとなると、客観的な認定できるような表示とか、あるいはAIの挙動ということにはなると思うのですが、今、御指摘を受けた点というのは、恐らくそれがAIによって個別化されていくと、第三者の目に触れないということになるので、非常に執行とか救済の実効性の確保というのが懸念されるのではないかという非常に重要な指摘を含んでいたのではないかと思います。
民事の場面では、そういった場面について、救済手段を確保したり、実効性を担保するというのが難しくなるというのは、そうだろうと思います。
ただ、1つ悪質業者ではなくて、通常の事業者について言われていることとして、こういったAIとか、デジタルのシステムを開発したり、運用していくような各段階において、そういった人に誤認を与えないような動作というのをチェックする、配慮義務の一環なのですけれども、そういうことを文書化して検証できるようにするという、そういう方向性は1つの手段としてはあるのではないかと思います。
ただ、御指摘いただいた個別のところでの誤認が発生した場合の立証、証拠として残っていないという場合に、果たしてどのように立証が可能となるのかというのは、少しこれは検討を深めなければいけない重要な御指摘ではないかと思いました。
私からは以上です。
○田中委員 ありがとうございます。
事業者側に、このガイドラインのようなものを出すというのは、非常に有益だと思います。ただ、同時に、事業者側もまた人間であって、人間のバイアスに気づかないというリスクも同時にはらんでいるように思います。
そうすると、例えば、善良な事業者の方で、本当によりよい商品を、よりよいツールを消費者の方に使っていただこうという意図で設計していたとしても、それが思わぬところで誤認を誘導してしまう設計になっているというものを、どうやって防いでいくかという課題も残されているように思いました。ありがとうございました。
○小塚座長 ありがとうございました。
それでは、大塚委員、よろしくお願いします。
○大塚委員 ありがとうございます。
丸山座長代理、御報告ありがとうございました。大変包括的で非常に勉強になりました。
私からは、まさに包括的だからこそ気になった点について、少し質問をいたします。
本日の御報告では、恐らく事例としては、インターネット取引のUIをデザインしている事業者が対話型AIを提供しているというパターンを想定されているのかと思います。要は、購買をするための事業者がAIを提供していたりとか、あるいはデジタルプラットフォームがAIを提供しているであるとか、そういったパターンを想定しているように思いました。
だからこそ、UI設計に関する議論の延長線としてAIに対する対応をどうするかという問題が論じられているように思います。その限りにおいては、非常に重要な御指摘がたくさんあったように思います。
以上の理解が正しいとすれば、この御研究が本専門調査会でどういう位置づけになるのかという点を検討する必要があるかなと思います。
そういう取引のUIをつくっている事業者以外の事業者がAIを提供しているパターン、つまり、対話型AIを提供している事業者が別にいて、その対話型AIとの関係で、いろいろ相談とかをして、別の事業者から何か物を買う、こういうパターンにおけるAIの問題点というのも、本専門調査会の議論の範囲に入っていたかと思います。
そういうパターンの場合に、今回の御発表がどこまで参考になるのか、同じような議論がそちらでも成り立つのか、あるいは成り立つとして、どこまで同じ議論になるのか、あるいはどこかしら変わってくるのかという点、そして、もし、同じ議論が成り立たないとすれば、そういう別のパターンでは、別の議論が必要になってくると思うのですが、何かその点について御見解がございましたら、お聞かせ願えればと思います。
以上です。
○丸山座長代理 大塚委員、ありがとうございます。議論の射程をクリアにする上で、重要な御指摘であると思います。
いろいろな問題が、恐らくは、この調査会では取り上げられてきたということなので、どのように消費者法という観点から整理できるのかなと、1つの試みにはすぎないのですけれども、AIエージェントが買い物に結びつくという場面というのは、主として念頭に置いているというのは、そのとおりなのですけれども、ただ、継続的なAIの利用において、依存になり得るような場面において、果たして、そういった関連事業者に何か義務を課すことができるのかといった視点は、ECサイトや買い物に結びつかなくても、議論の射程に入ってくると思います。AIを使うこと自体が消費者取引なので、そういったものも念頭には置いているということになります。使い続けるとか、AIとの継続的な関係というところは、買い物場面に限っていないという話になると思います。
○大塚委員 ありがとうございます。
おっしゃるとおりではあると思うのですが、今回特に強調されていた消費者の状況や害というものの中には、誤認であるとか、そういった具体的な取引と結びつくようなものが多かったような気がするのですけれども、それではない場合、取引と結びつかない場合には、どの辺なのですかね、依存とかということが出てくるのですかね。
○丸山座長代理 それ自体が非常に議論を要する問題だと思っておりまして、このデジタル化のほうに挙げている、最後に羅列している心理的な毀損とか、依存中毒とか、データの問題というものを、消費者法の問題として扱うのかどうか自体が、実は議論があり 得ると思います。EUでも、誤認とか、困惑とか、そういうことに着目していたのですが、デジタル環境の消費者被害、harmというものが変わってきているのではないかと。そういったターゲティングによる心理的な毀損というのも消費者法の問題として位置づけてはどうかという議論はあるのですけれども、果たして、そうなるのか、ほかのところで扱うべき問題なのか自体、議論を要する問題だという、そういう整理をしております。
○大塚委員 分かりました。例えば、2つの害があり得るとして、要は、従来型の誤認とかの害があって、それとともに新しい害のパターンというのがあるとして、その場合、同じアプローチで両方ともに対処するのか、あるいは2つの種類の害があるから、2つのアプローチを考えるのかという方向性はあり得ると思うのですけれども、その点はいかがでしょう。
○丸山座長代理 どのように問題を切ってアプローチするのか自体が問題となりますが、今回の私の整理は、これまで言及されてきた懸念に対し、問題解決のほうから見て、整理してみたと理解していただければよいかなと思います。
○大塚委員 分かりました。ありがとうございます。
○小塚座長 ありがとうございました。
馬籠委員、お願いします。
○馬籠委員 ありがとうございました。非常に勉強になりました。質問をさせてください。
AIに消費者が対峙するという場合、自由度が非常に高いというところがあるのかと思っております。
また、デジタルなので、KPIに沿ってどんどん改善していくみたいなことがあると思うのですが、そこの設計のところは、消費者自身でも設計ができてしまうというところが、ポイントになってくるかと思います。その上で、事業者側というのは、例えば、販売を行うという姿勢を見せている事業者に対しては、法的な義務みたいなのが生じそうな気はするのですが、逆に販売を行うという明確なものを打ち出していない事業者というものに対しては、消費者側の問題になってしまうのかなと感じております。
要は、非常に自由度が高いがゆえに、どっちのコントロールもできそうだなと思っていたということなのですが、その場合、事業者の問題点というのは、販売を行うという場合と、販売を行うという姿勢ではない場合とで、何かしら線引きみたいなものが発生するものでしょうか。
○丸山座長代理 御質問としては、やはり先ほどの大塚委員のご質問とも重複するかもしれませんけれども、何か物を売ったり、サービスというのを提供する場面で、AIというのを利用しているという局面と、そうではなくて、何か純粋な相談ツールみたいな形で、AIを利用している局面とでは、違ってこないでしょうかというご質問となりますでしょうか。
○馬籠委員 そうですね。
○丸山座長代理 恐らく、何か制度を設計しようとなったら、そこは、恐らく現在の消費者法を発展させていくということになるので、区別はされていくのだろうと思います。
ただ、物を売るというのだけではなくて、AIを利用するということも、これは、そういう利用契約になりますので、そこに関わるような消費者法規範は、適用されるということになります。それぞれの場面において、どこまで消費者法制を発展させて、あるいは規制が要るのか、要らないか自体も議論によっても左右されるという、そういう状況であると私自身は認識しております。
○馬籠委員 ありがとうございます。
例えば、広告が出てきましたとかという、今、状況があると思いますが、そこに対しては、早めに考えたほうがいいということにはなってくるのでしょうか。
○丸山座長代理 そうですね、それが、やはり買い物に結びつきますので、結びつくときに、その広告については、恐らく現在の景表法とか、特商法とかで、どこまで対応できるかの問題となり、さらに景表法の立てつけになりますと、あれは広告主のほう責任があるという立てつけだと思いますので、広告主に何をどこまで要求できるのかといった、そういった問題に結びついていくのではないかと思います。
○馬籠委員 ありがとうございました。
○小塚座長 ありがとうございます。
丸山座長代理、今日のお話は、現行法でどこまでできるのかという話のところから出発しておられるのですが、最後のほうでおっしゃった、デジタル環境を設計したりする者の義務とかというところは、少しその先の議論も見据えておられるようにも思いましたが、私が話してもしようがないので、加藤委員、お願いします。
○加藤委員 ありがとうございます。すごく分かりやすかったです。
私からは、1点、丸山座長代理のご意見をお伺いしたいと思います。消費生活相談の現場のことなのですけれども、、現場で実際に相談を受けている者からすると、このAIに関して言うと、消費者側の立証が非常に難しい、画面変遷をスクショしておいてねと言っても、なかなか相談者は実行してくれないし、消費者はマーケティングの影響で精神的に高揚した中で買い物をしているので、勢いよく購入していたりしますから、スクリーンショットなどは撮らないですね、そういった現実との乖離といいますか、そういったときにクーリングオフの8日間を活用して解決しようとしても、、相談が来るときには、もう10日間たっているということはざらにあります。救済を求める側の消費者としての立証責任といいますか、AIが介入する消費者契約の中で立証できない部分をどうやって法律でカバーするのかということと、相談現場、救済の現場において、その立証等の負担を軽減する策等、丸山座長代理のご意見を伺いたく思います。。
○丸山座長代理 現場の声ということで、非常に重たく立証が困難というのは、本当にこれは何とかしなければいけない状況なのではないかと思います。なお、配慮義務は、事業者が消費者に対して負うものです。 最後のほうに述べたとおり、再考の機会、つまり、もう一回考え直すような機会をどのようにつくっていくのかは、今後、非常に重要になるのではないかと。ただ、クーリングオフとなりますと、今の制度設計をそのまま拡大するというのは、なかなか難しい。書面を交付したりなど、電磁化がされるとしても、いろいろな立てつけがあるので、それそのものをいきなり拡大するというのは難しいのですけれども、こういったデジタル・AIの関連する領域において、特に消費者の後悔が生じやすい局面というのは、結局どこなのだろうということを、丁寧に見ていく必要があるではないいかと思います。
そのときの制度設計の仕方としましては、契約拘束までの期間を長くするというのはそうですが、簡潔に、やめられるとか、切り替えられるといったことをできるようにしながら、事業者もそれだったら予測可能性が立つから負担が少ないといった制度。そういったルール型の規制というのでしょうか、そういうものが、果たしてどの場面で必要となり、設計していけるのか、今後の課題にならざるを得ないと考えます。なかなか全面的にクーリングオフを拡大するといったことは難しいのではないかと、感触としてあるのですけれども、そういった考えを持っております。
○加藤委員 ありがとうございます。
○小塚座長 ありがとうございました。
そろそろお時間でございますが、岡崎委員、どうぞ。
○岡崎委員 ありがとうございました。
特に消費者法が対応している問題状況ですとか、その概要、あと、AIとの対応も整理していただいて、ありがとうございました。
消費者が使うAIエージェントは、どうなるのか、まだ形が見えてこないところだと思うのですけれども、セキュリティの分野を見ていると、攻撃もAIがやっていて、防御もAIがやっているという、そういう時代になってきています。ここで議論されているAIは、どちらかというと消費者側ではない立場のAIだったりすることが多いと思うのですけれども、逆に消費者を守ってくれるようなAIというのが多分出てくるはずで、AIエージェントを使って物の売買をするのだけれども、消費者の立場に立って守ってくれるAIも出てきて、先ほどの御質問にあったようなスクリーンショットを撮るみたいなことも、ひょっとしたら自動でやってくるようになるとよいと思っているのですけれども、そういった場合でも、売り手側のAIに押し負けてしまうという、そういったことというのは、多分起こり得るはずだと思います。
そうなったときに、結局、これまで人間がやっていたことがAIに変わっただけという状況だと思うのですけれども、そういったときに、この消費者法をどのようにすべきなのかという、そういった議論は、何か始まっているのかというのを少し伺いたいのですけれども。
○丸山座長代理 これも非常に重要な点を御指摘いただいたと思います。
スクリーンショットの問題について、契約の場面などを自動的に保存できれば、それが普及できると非常によいなと、本当に思いました。
あと、こういう問題で言われているのは、消費者もAIで武装し、事業者もAIで武装していくと武装闘争が起こるのではないかということは、法学の世界でも議論されています。そうすると、消費者が武装したら何か使いにくくなるとか、武装したら何か攻撃されるとか、そういった世界になると、やはり消費者の武装だけでは限界があるということになりますので、与えるべき権利というのは消費者に与えた上で、そういったツールというのも消費者が使えるようにしていく世界がよいのではないかと。そういった議論はされている状況です。
○岡崎委員 ありがとうございました。
○小塚座長 ありがとうございました。
申し訳ありません、そろそろ時間なので、野村委員、後で事務局のほうに質問をお伝えいただければと思います。それをこちらに共有するということにさせていただきたいと思います。
ということで、お時間ですので、本日は、この辺りにさせていただきたいと思います。
事務局から連絡事項がありましたら、お願いいたします。
≪3．閉会≫
○友行参事官 本日、長時間にわたりまして、誠にありがとうございます。次回の本専門調査会につきましては、確定次第、また御連絡をさせていただきます。
以上です。
○小塚座長 私の段取りが悪くて、失礼いたしました。
それでは、本日は、これにて閉会とさせていただきます。お忙しい中、どうもありがとうございました。
(以上)