第3回 人工知能（ＡＩ）技術の利用と消費者問題に関する専門調査会 議事録
日時
2026年4月23日（木）10:00～11:42
場所
消費者委員会会議室・テレビ会議
出席者
- （委員）
- 【会議室】
小塚座長、大塚委員、唐沢委員、坂下委員、田中委員、野村委員、馬籠委員 - 【テレビ会議】
丸山座長代理、岡崎委員、加藤委員 - （オブザーバー）
- 【テレビ会議】
大澤委員、柿沼委員、善如委員 - （事務局）
- 小林事務局長、吉田審議官、友行参事官、江口企画官
議事次第
- 開会
- 議事
①ＡＩ技術と消費者の意思決定の関係の変化について
馬籠委員プレゼンテーション
②ＡＩ技術と消費者問題について
大塚委員プレゼンテーション - 閉会
配布資料 （資料は全てPDF形式となります。）
≪1．開会≫
○小塚座長 皆様、おはようございます。
定刻、10時となりましたので、会合を開始いたします。消費者委員会の「人工知能（AI）技術の利用と消費者問題に関する専門調査会」第3回の会合でございます。
お忙しい中、お集まりいただきまして、ありがとうございます。
本日ですが、こちらの消費者委員会の会議室には、大塚委員、唐沢委員、坂下委員、田中委員、野村委員、馬籠委員、そして、私、小塚が出席ということです。
それから、オンラインのシステムのほうで、丸山座長代理、岡崎委員、加藤委員に御出席いただいております。岡崎委員は、時差のあるところから御参加いただいておりまして、ありがとうございます。
それから、オブザーバーですけれども、本日は、大澤委員、柿沼委員、善如委員にオンラインで御参加いただいているということです。
それでは、本日の会議の進め方等につきまして、事務局から御説明をいただけますでしょうか、お願いします。
○江口企画官 本日は、テレビ会議システムを活用して進行いたします。一般傍聴者にはオンラインにて視聴をいただき、報道関係者のみ会議室にて傍聴いただいております。
議事録につきましては、後日、消費者委員会のホームページに掲載いたします。議事録が掲載されるまで、ユーチューブでの見逃し動画配信を行います。
配付資料につきましては、お手元の議事次第に記載してございます。もし不足の資料がありましたら、事務局までお申し出くださいますようお願いいたします。
以上でございます。
≪2．①ＡＩ技術と消費者の意思決定の関係の変化について
馬籠委員プレゼンテーション≫
○小塚座長 ありがとうございました。
それでは、議事次第を御覧いただきますと分かりますが、本日は、二つ議事を御準備いただいております。
早速、第1の議事のほうに入ってまいりますが、AI技術と消費者の意思決定の関係の変化についてということで、馬籠委員にお話をいただくことになっております。馬籠委員から20分ぐらいお話をいただきまして、その後、10時50分ぐらいをめどに質疑とか意見交換をしていきたいということです。
それでは、馬籠委員、よろしくお願いします。
○馬籠委員 ありがとうございます。よろしくお願いいたします。
資料のほうが映っているかと思います。あと、声は聞こえておりますでしょうか、大丈夫そうでしょうか。
では、始めさせていただきます。よろしくお願いいたします。20分ぐらいお話をさせていただきます。
馬籠と申します。中央大学を出ておりまして、その後、システムエンジニアとか、複数の広告代理店を経て、2015年より電通デジタルに入りました。
もともと馬籠って、馬のように走る籠と書くのですけれども、江戸時代はタクシーみたいな、要は籠屋さんだったのです。そこから来ておりますが、全く足は速くなく、生かせずに、現在の職業に就いております。もともとSNS広告をはじめとして、デジタルの広告業務全般を行っておりました。また、企画や開発なども行っておりまして、2026年より現職でワークデザイングループというところでマネージャーをしております。
BPR業務を中心に業務を行い、調査、執筆などを行っております。山本龍彦教授と、「アテンション・エコノミーのジレンマ」という本を出しております。
慶應義塾大学のグローバルリサーチインスティテュート連携所員でもあります。
皆さん、広告の知識がどれぐらいというところが分かりませんでしたので、基本的なところからお話させていただきます。
もともと広告で皆さんが御想像されるところだと、多分、新聞とかテレビみたいなお話かなと思います。今、私がこのデジタル業界入って15、6年とかなのですが、その間にデジタル広告で進化が急速にあった辺りとお考えいただければと思います。初めは、一枠ずつ売っていたのですけれども、その枠の売り方に変化がすごく生じてきたというような形です。当初、1枠、1枠売っていたのですが、そこからアドネットワークというものができてきました。
アドネットワークとは何かと言いますと、メディアを束ねるアドサーバーというものがあり、そこをアドネットワーク業者がまとめており、それを売っているという状態が、まず、生まれてきました。
こうすると何がいいかといいますと、1枠、1枠考えなくてよい状態が生まれてきます。例えば、旅行系の場合、旅行系のサイトをまとめたようなアドネットワーク媒体があり、そこに旅行系の広告を出稿していきます。要は、まとめて出稿が出来るようになったということです。
そうすると、一枠ずつの買いつけを自分たちで行わなくても、アドネットワーク業社の方々がやってくれるという状況生じます。
そこからさらに変わってきたのが、DSP配信というものが出てきました
DSP配信とは何かというと、RTBと書いてあるのですけれども、Real Time Biddingといいまして、要は、枠が出た瞬間に、これは幾らぐらいで買えそうかみたいなことをやります。そうすると、枠の買い付けが非常に楽になるというような形です。
DSPの先にSSPというものがありまして、Supply Side Platformなのですけれども、ここがメディアの枠を束ねている状態です。
DSPは何をしているかというと、買い付けする瞬間にこの枠が出まして、幾らぐらいで買えますか、みたいなところで我々が、例えば、5円、10円みたいな形で入札していきますと、10円の方が買えますね、みたいな形で買い付けができるようになってきたシステムです。
こうすると、何が面白いかというと、要は枠の中で一番効果がよいものみたいに当てられる、我々が改善を短いスパンで出来るようになってきたというのが、このタイミングになります。例えば、従来型の1枠のような買い方をしていると、1か月丸々の買い切りだったりするわけで、その買い切りの枠中に改善効果を出していくみたいなことができないわけですね。ただ、こういったテクノロジーが発展することによって、買い付けの1か月、キャンペーン期間があったとしたら、その間にどんどん効果改善を行っていけるとなってきたというところが、このDSP配信です。
次に行っていただいて、検索型広告というのもあります。皆さん、よく見られると思うのですけれども、キーワードを検索したときに、キーワードの関連する広告枠が出てくるというものになっております。
こちらも同様に、キーワードの出稿をして、入札をしてというシステムになっているという形です。これは、皆さん、御想像がつくかと思うので流させていただいて、次へ行っていただきます。
大きくそこを踏まえて概要というところが、この図になっているのですけれども、広告主、広告代理店がおりまして、プラットフォームがありまして、そのプラットフォームの中にコンテンツ、コンテンツ、AD、コンテンツみたいな形で出てきますというような形で広告を出稿しております。
その広告が出されたところの収益の一部がクリエーターに還元されるという仕組みになっております。ユーザーに対しては、データの利用許諾を取得しており、一部の情報が我々のほうにクラウドサーバーを通じて返ってくるという形です。我々は、広告効果を見ながら改善していって、なおかつ、どういったクリエイティブやオーディエンスが良いのかを考えて、広告を出稿している状態です。
ADテクノロジーツールについても同じような流れとなります。現状スライドでお見せしている、DSPとかも広告素材、結果データが返ってきて、データの利用許諾を取っていて、ユーザーが見ているという流れです。
全体概要としては、こういったような形で整理できるかなと思っております。
次に行っていただきます。
広告配信方法の概要みたいなところも御説明できればと思っております。先ほどから、どのように配信をするのだ、みたいなこと言っていましたが、おおよそ3通りぐらいのユーザーに向けての配信方法がありますというのが、この図です。
ブロード配信といいますのが、ターゲティングをほぼ行わないで幅広くユーザー層に出していくというような配信です。認知の拡大、潜在顧客の発掘みたいなところを目的としております。
オーディエンス配信と言っていたのが、先ほど、例えばDSPとか、アドネットワークが出てきたときに、そのオーディエンス、要は囲っているユーザー群を使って配信をするという形です。
特定の条件に合致するユーザーのみに配信をしますので、ターゲットユーザーの認知拡大であったりとか、また、購買への後押しということができやすくなってきます。ここでこれまでの広告と違うのは、購買への後押しが結構ウェブの広告の中でいうと、後押ししやすい状況になってきます。
最後にリターゲティング配信というものがありまして、広告を、要は、サイトに1回以上訪問しているユーザーをターゲティングしますというものになっております。
既に、これは商品を知っているユーザーなので、広告の購買への後押しというのが非常にしやすくなるというような状況ですね。ですので、皆さんの中で、何度も同じ広告を目にされることがあると思うのですけれども、それは、こういう配信方法によって、皆さんがターゲティングされているよという御認識をいただければというところでございます。
次のページに移ります。
ここで、もう一つ重要な要素で、広告のクリエイティブというものがあります。そのクリエイティブを、我々はどのようにして改善サイクルを回しているか、という説明になります。計画と仮説立てを行って、ターゲティングの訴求軸とか、どのように見せるかなどを設定していって、誰に何を伝えるのかの整理を行っていきます。
何を重視しているのか、どのような表現を行うのかというところを考えていくという形です。
それができましたら、制作・テスト配信を行っていきます。複数パターンクリエイティブをつくっておりますし、A/Bテストなども実施していきます。ターゲティングを選定して、何がよかったのだ、どのクリエイティブがよかったのだ、といった点を精査していきます。
次に、効果の測定、分析みたいなところに入っていって、どれを止めるべきか、なぜ数字が良いのか、なぜ数字が悪いのかみたいなものを分析します。
「改善・横展開」と書いておりますが、ここで数字がよかったパターンの要素を横展開します。先ほど何がよかったのかというところを、さらにブラッシュアップして、そのよさをさらに磨き上げていくという形になっています。
そこで、得られた仮説とか、学びというのを次の仮説立てに生かしていき、ぐるぐるこういった形で回していくということを行います。
次のページへ行っていただきます。
ここまでお話をしてきて、AIが影響及ぼす広告領域の概要というところなのですけれども、見ていただいたとおり、ほぼ全部に影響してきますというところが、我々の業界で言えることかなと思っています。例えば、アイデアの量産であったり、広告運用の最適化、広告枠選定の最適化、クリエイティブ制作や、ターゲティングユーザーの最適化です。
アイデアの量産のところで言いますと、SNSのトレンドとか、消費者の悩みとか、競合の動向みたいなところを学習しているAIを用いて、こういった切り口はどうかというのを、人間が思いつかないようなところから提案してきてもらうというような形です。
広告運用の最適化みたいなところで言いますと、要素は、入札価格とか、時間帯とか、デバイスとか、地域とか、無数に要素があるわけですね。その要素のパターンを人間だと、なかなか24時間考えていられません。AIは、これをリアルタイムで分析して、最もコンバージョンと書いてありますが、購買とか、そういったことです。それに近いタイミングで予算を自動で大きく投下することが可能になります。
また、広告枠の最適化、これもあります。画像とか動画の内容を文脈から分析して、どこに出すべきなのか、みたいなところを行っていく形です。
クリエイティブ制作の最適化、先ほどクリエイティブのPDCAみたいな、効果改善みたいなところをお話ししましたが、そういったところを、AIの核となる素材の部分から、色調、モデルの表情とか、いろいろ対応のバリエーションがありますので、それを自動生成するという形です。
その配信結果をフィードバックとして、どういう要素がよかったかというところを、これも自動化でどんどん回していくということができるようなってきています。
こうなってくると、非常に購買をさせやすい状況というのが発生しますので、それは、後ほど、またお話しできればと思います。
ターゲティングユーザーの最適化というところですが、これは、広告枠ではなくて、類似した行動パターンをしているユーザーというのがまとまっていたりして、そういったところに出していくということも自動的にやってもらえるということです。将来的にLTV、顧客生産価値が高くなる層、要は、買ってくれそうな層というところもしっかり分析をして出していけるというところで、効果が非常に出しやすくなっていくということもあります。
そうなってくると、我々運用担当者の役割の変化というのも、どんどん起こってくるわけですね。これまでは、管理画面の操作とか、習熟度みたいな、この媒体は、こう運用すべきだ、みたいなところが、本当に核となって熟練の技みたいなところがあったのですけれども、その熟練の技がなくなってくるというところに差しかかってきています。
ですので、熟練の技なくしても、このAIだったら、こういうディレクションをして、こういう意味合いで、この結果が返ってきているのですねという説明づけをする、みたいなところが、我々の運用担当者の変化というところになってくるかなと思います。
ですので、どのようなものを使うのかという、ディレクションみたいなところですね、それがどんどん進んでいるかと思っております。
次に行っていただきます。
インターネットの情報の収集というユーザーの動線自体も変化しております。もともと検索エンジン時代は、情報は自分から取りに行くみたいなことがありまして、それがSNSになって変化をしてきました。SNSは、やはり最適化アルゴリズムに非常に富んでおりますので、媒体のアルゴリズムによって、自分の興味、関心に合わせた情報がタイムラインに表示されます。
それで、自動的な情報収集みたいな形になってきたのが、SNSの世代かなと思います。それプラス、リアルタイム性がありますので、検索エンジンより早く自分のタイムラインで知ることができたりします。インフルエンサーも登場してきました。自分がフォローしているインフルエンサーとか、友人とかのインフルエンサーを信頼するような傾向が出てきたのは、この時代かなと思います。
この先、生成AI時代というところでまとめておりますが、自ら探すというところよりも、もうAIにまとめさせるフェーズに移行しているということになってくるかなと思います。
ですので、サイトを一つ一つ読み解かなくても、情報をまとめて、現状でも開示してくれますし、パーソナライズ性、要約とかレベルに合わせて出してくれたり、あと、対話をやはり皆さんされますので、一度で理解できなくても、どんどん自分で説明を求めていって聞くということができるようなります。ですので、大きく変化で言うと、受動的なものから、さらに自分に合ったパーソナライズドがどんどんできるようになっていくというのが、情報の変化かなと思っております。
次に行っていただきます。
それで、先ほどSEOという検索エンジンの話をしましたけれども、検索連動型広告というのがもともとありまして、これが変化していって、生成AI広告となってくるのかなという形です。我々のほうではGEOと呼んでおりますけれども、生成AIの引用ランクというのを上げていくことが重要になってくるという時代が来ております。もともと検索をされるときに、検索ワードみたいなところで、どのようなものが上位に来るのか、みたいなことをやっているところが、さらにもう一個深い部分で生成AIの引用ランクというのを上げていくというのが、影響が大きくなってきているところです。
次に行っていただきます。
これは、AI企業による今後の収益の検討みたいなところも記載しております。広告導入派と広告排除派というので、現在、分かれておりますので、広告導入派は、AIがユーザーの対話の文脈を読み取って、その瞬間に、最適な広告アセットを出すという形です。情報の要約とか、購買への誘導というのをシームレスにつなぎますので、従来のリスティング広告とかよりも効果が出やすいような気がしております。こういった、新たな収益源を模索している企業と、広告排除派ですね、要は広告を入れることでユーザーの反発みたいなところ、ブランドセーフティーとか、中立性への懸念みたいなところを鑑みて、高精度なAIをサブスクリプションやエンタープライズ契約などで収益性を検討していくというような企業に分かれております。
どちらか何かしら結論が出ているわけではないのですが、現在、この二つに分かれているというような状況でございます。
次に行っていただきます。
ここまでお話ししてきて、広告配信による課題みたいなところを挙げさせていただきました。三つほど挙げております。広告の効率が追求できることによって、生まれている逆説的な非効率というものがあるかなと思っております。要は、KPI達成のためにCTR、CPAみたいな最適化を追求する過程で、意図せずして、広告のためのサイトみたいなものがあるのですけれども、そういったところに出稿してしまっているというようなところです。
要は、ユーザーに、この広告を正しく伝えたいではなく、広告の効果を上げたいがために、上がりやすいサイトに出しますねというところが、逆説的非効率と書いておりますが、そういったことが起きている現状があります。
皆さん、広告を見ていて、この広告はターゲティングされているなとか、ついてきているなみたいなお話を時々されるかと思いますが、過度なパーソナライズが監視されている感覚というのは、やはり生み出してしまっているかなと思います。
広告疲れとか、広告への好感度の低下を引き起こしてしまっておりますし、ADブロッキングアプリみたいなのは、去年、一昨年と非常に売れているアプリといいますか、ですので、広告を見ないというユーザーが増えてきているのは、このデータドリブンによって、広告不快感みたいなところも増してきているのかなと思っております。
クリエイティブのところで言いますと、システム1に反応させる広告クリエイティブの弊害を書いております。衝動的な購買を誘発させるように、できるだけ買ってもらいやすいような広告がどんどん出せるようになっていくというところがあります。それは、要はPDCAサイクルの中でもそうですし、スパンが短くなっているというようなこともあるかなと思います。今までサイクルとして考えていたところが、その考えるところが、どんどん除外されていき、自動的に広告がよいもの、広告効果でよいものというのが出せるようになってきているのですが、これは、本来のニーズを超えた購入に至りやすいというところはあるかと思います。消費者の合理的な判断を阻害してしまっている可能性は、やはり否めないかなと思っている次第です。
私が考えるところで言いますと、クライアント向けのブランドスータビリティみたいな考え方があるかと思うのですけれども、これは、ユーザーにも今後は適用していったほうがいいのではないかなと思っております。ユーザー向けのユーザースータビリティーみたいな考え方というのをしっかり考えていくことがいいのではないかと思っているところです。
現状、我々が向き合っているのは、基本、クライアントになっておりまして、クライアントへの広告効果を返すというところが至上命題になっています。ただ、それは、それが正解かどうかというところも分からないのです。要は、我々が、この情報空間の中で仕事をしていく仕組み上、やはりユーザーのこともちゃんと顧みないと、なかなか今後、広告として好かれる存在にはどうしてもなり得ないとも思います。ユーザー側のフィードバックの数値化とか、データを使用する出稿側の連携、これが必要になってくるのではないかなと思っている次第です。
以上、御清聴ありがとうございました。
○小塚座長 どうもありがとうございました。
非常に、広告の現在地といいますか、それを分かりやすく御説明いただいたと思います。
それでは、どなたからでも御質問、御発言等をいただけますでしょうか。
早速、オンラインから来ていますか、どなたですか。
丸山委員、よろしくお願いします。
○丸山座長代理 非常に充実した報告をありがとうございました。
私からは、二点ほど教えていただきたい点を質問させていただければと思います。
最後のプレゼンのところで、ユーザースータビリティーという、すごくよいフレーズが出てきたなと思ったのですけれども、その前の11ページのところの「広告導入派」というところの現実を知りたいのですけれども、ここでの最適な広告を配信するというのは、やはり、現在は広告主にとって効果的ということであって、例えば、出資をしている広告主ではない、ほかの業者の商品のほうが、このユーザーには最適だという場合であっても、まずは広告主のものがPRとして出てくるという、このような認識でよいのでしょうかというのが確認点でございます。
第二点としましては、やはり技術的にということで教えていただきたいのですけれども、健全な業者ではなくて、消費者をだますような業者というのを念頭に置いた場合に、現在の技術では、特にだまされやすいとか、誤解をしやすい消費者を個別にターゲットにするということも可能になっているという認識でよいのか否か。この二点、技術的な現状的な点で教えていただければと思います。
○馬籠委員 ありがとうございました。
お答えできる点、できない点が、私の広告代理事業主という立場からあるのですけれども、1番目の質問で広告主のものであるかというところは、多分そうだと思いますという回答になります。要は、ディールといいますか、契約を結んでいないと、そこの商品が売れたタイミングでお金が事業者側には返ってこないものになりますので、そこはやはり、広告主は契約をされている方と考えるのが適切かなと思っておりますというところです。
もう一方、誤解しやすい消費者に対する広告のほうですけれども、ターゲティングは可能かどうかと言われますと、可能だと思います。要は、どういう人が購買しやすいまでは突き止められますというところなのですが、その方が、さらに細かくどういう方々なのかというところまでは分からない状況ではあります。購買しやすい人たちに対して、購買をしてくださいねというアプローチをかけるというところまではできますが、さらにその方々が、ユーザーがどういう人かという分析をするところまではできないというところです。
○丸山座長代理 ありがとうございました。
○馬籠委員 ありがとうございます。
○小塚座長 ありがとうございました。
どうぞ、唐沢委員、お願いします。
○唐沢委員 どうもありがとうございました。広告の現状を教えていただきまして勉強になりました。
私から、お伺いしたいのは、広告業界全体の動きといいますか、方向性についてです。
現在、AIがディレクター化しているということをおっしゃっていて、これは、大変重要なことで、また、その言葉自体が、現在の状況を的確に示していると思ったのですけれども、一方で、人の手が入ることが安全弁になるといいますか、様々な問題が起こったら立ちどまることができる、また、物事の動き方も、AIが導入される前は、もう少しゆっくりだったと思いますので、対応を考える余裕があったかと思います。しかし、AIがディレクター化していき、かつ、購買が、重要なパラメーターになってものごとが回っていくときに、いったん止めて改善するという問題への対応が、難しくなりそうですが、このことは、広告業界の皆様も課題として認識しておられるのではないかと思いますので、この観点から、人の手をどのように入れて、AIの暴走というか、望ましくない動きを止めるのかについて、行われている議論の方向性、また対応の動向があれば教えていただきたいのが一点目です。
もう一点は、責任の問題です。AIに責任を負わせることが、法律的にどうなのか、私にはよく分からないのですけれども、最終的には企業や、そこで管理的な立場の人が何か責任を負うことになったときに、AIが行った広告の望ましくない振る舞いに対しての責任を、広告業界としてはどのように考えていかれるのか、この点についてお伺いできればと思います。
○小塚座長 いかがでしょうか。
○馬籠委員 ありがとうございます。
人の手を使ってどうやって止めるのか、といった御質問の第一点目だったかなと思っております。
止めるとか、改善していくみたいなところで、人の手を入れるのは全然あります。というか、最終的にどういうクリエイティブを出すのかとか、どういうものを出すのかというのは、最終チェックは人がやっておりますので、そこでいろいろな、例えば、法律の話であったりとか、いろいろそういった観点で見ていって、最終的にゴーを出すのですけれども、最終的な人のチェックというところをしっかり通すというところなのですね。
人の手を通さないところが、逆に問題に今なっているのかなと思っています。要は、人の手を、人の目を通さないものはどんどん出せるのですよ。別にこっちが出そうと思えば幾らでも広告は、今や出してしまえる状況ではあったりするので、最終的なチェックの部分は、しっかり知識がある人間がしますよというのが安全弁にはなります。ただ、そういった人を育てることが、まずは一つ重要な課題なのかなと思っています。
もう一つは、最終的にAIが不適切な振る舞いをしてしまうところというところなのですが、一つ目の質問の回答と重複してしまうのですけれども、要はディレクションをしたものをちゃんと言語化できるような人材を育てていくというところが重要かと思います。ですので、AIがこうやった振る舞いはなぜ起こったのかというところをちゃんと理解できている人間をつくっていく、そういったディレクションセンスがある人間を輩出していくというのが広告業界にとって、今、重要視されているところだと思います。
○小塚座長 ありがとうございました。
今の点、私から確認させていただきたいのですが、今日の御説明は、お立場もあるので、広告代理店から出稿するということを前提にお話しいただいていますけれども、これを例えば、広告代理店を飛ばしてというか、あるいは広告代理店に代わるAI広告エージェントが出てきて、コンテンツとかクリエイティブをつくった人が自動的にこのアドネットワークのほうに流していくという未来もあり得るということですか。
○馬籠委員 全然あり得ますし、そういったことも実際起こっていますね。ですので、今や、AIでつくって、そのシステムだけを販売するみたいなことも可能となってきています。
○小塚座長 ありがとうございます。
広告代理店が関与すると、昔から、例えばテレビの広告にも特定の業界の広告は、深夜にしか流さないといった対応をしていたわけですけれども、そこが自動化されてしまうと、そういうストッパーが効かなくなるということですね。
○馬籠委員 そうですね、ありがとうございます。そのとおりです。
○小塚座長 ありがとうございます。
それでは、オンラインから岡崎委員が御質問です。よろしくお願いします。
○岡崎委員 ありがとうございます。
広告配信の仕組みを分かりやすく解説していただき、ありがとうございました。私からは二点質問させてください。
今回の御発表は、広告配信におけるクライアントの視点が重視されていたと思うのですけれども、逆に広告を配信するに当たって、消費者に悪影響を与えないようにするなど、消費者向けに取られている対策について教えてくださいというのが一点目です。
二点目は、生成AIが普及する前から広告ではAIが活用されてきたと思いますけれども、生成AIが登場した後に、消費者に与える問題とかが新たに増えたりですとか、新たな対策が必要になった等のことがありましたら、教えていただければと思います。
○馬籠委員 ありがとうございます。
消費者向けに取っている対策みたいなところで言いますと、実際、AIが出てきた前と後では、そこまで変わっていないかなとも思っております。対策ができるところというのは変わってはいない。要は、自分たちが広告を出すときに、どのような影響が出そうかというところは、一応、懸念をした上で出稿はしておりますので、そこの部分を大きく変えられているところというのは、現状そこまではなさそうかなとも思っています。
○岡崎委員 そうすると、例えば、広告を出稿するときに、社内でチェック体制があって、そのチェック体制とかに関しては、基本的に生成AIの登場前と後では、そんなに変わらないということですか。
○馬籠委員 そうですね、先ほど少しお話ししましたが、AIを使って広告を生成した後に関しましてもチェックというものは入れておりますし、その前からもチェック自体は入れているという状態にあります。
そこの部分プラス、要は改善サイクルみたいなものが早くなってはきておりますので、改善サイクルをどんどん積み重ねていくことが早くなっている部分ではあるのですけれども、大きくは、そこの部分のチェック体制というのが、しっかり皆さんしていらっしゃると思いますので、変わってはいないかなということを思っております。
○岡崎委員 はい、分かりました。どうぞ。
○馬籠委員 生成AIが与え得る問題に対してというところですが、生成AIが与え得る問題ですと、やはり検索行動が変わってきたことによるところはあると思います。要は、ユーザーがまとめられた情報をどう自分たちで取っていくのかみたいな部分ですね、その部分が変わってきていて、広告がその分野に与えられる影響は、現状のところ、先ほど言ったような分析サイクルを早くして、どのように売っていくのがいいのかというところを早く考える、みたいなところがすごく変わってきた部分ではあると思うのですけれども、すごく影響を与えられるかというと、結構限定的かなとも思っております。広告事業者が与えられる影響は、その観点でいうと、今後の部分が大きいかもしれないです。要は、先ほど言っていた検索型広告から変わってきて、要は、生成AI型の広告になってきたとき、みたいなところでいうと、与える影響は、さらに大きくなっていくかもしれないなとは考えております。
○岡崎委員 ありがとうございました。
○小塚座長 ありがとうございました。
それでは、同じくオンラインから加藤委員が御質問ということです。よろしくお願いします。
○加藤委員 ありがとうございます。
私から御質問なのですけれども、先ほど、広告代理店を通さないで流れている広告が多数あるということなのですが、電通が関与しているものと、広告代理店を通さないで流れていっているものの割合というか、パーセンテージみたいなのがあれば、教えていただきたいなと思いました。
もう一つの御質問ですが、広告代理店を通さないで流れている広告に、恐らく審査体制がしっかりしていない広告媒体さんのものがデジタル上に流れてしまって、それがユーザーに不快感を与えたり、衝動的な購買を誘発しているということも考えられるのだろうなと思っているのですけれども、広告代理店が関与していないものというのをどうやって、広告業界の健全化みたいなところ、業界の健全化というところで電通さんが働きかけをしたり、倫理規定を設けたりということをされているのかどうか、そういったことを教えていただけたらと思います。お願いします。
○馬籠委員 御質問ありがとうございます。
どちらも、正直、私の立場で分からないというところが、御回答になってしまうかなと思います。
パーセンテージで言いますと、要は、広告代理店を通さないパーセンテージは、そこには載ってこないので、私たちも見ることが正直できないという御回答になってしまいます。
それで、広告代理店を通さないで広告を出しますと、それは実際、要は、いろいろな媒体の口座を開けたりとかして行えばできていくものなのですけれども、それは、多分、我々のほうでは把握できなかったり、あと、非常に大きい企業で広告のチェック体制を取っているところだと、なかなかしづらい方法なのかなとも思ったりいたします。割とクイックにどんどん出していけるような企業さんのほうが試されている方法なのかなとも思ったりいたします。
あと、もう一点で言いますと、関与していなくて、業界をどう変えていくかというか、警笛を鳴らすかみたいなことで言いますと、実際、私のほうで認識している大きいものというのが、なかったりするのかなと思います。AIの仕組みとか、例えば、オリジネータープロファイルみたいな情報をどうユーザーが受け止めるべきなのかとか、そういうところはあったりすると思うのですけれども、今後変わっていくAIに対して、どう今止めるべきなのか、どう動くべきなのか、みたいなところは、まだ議論の途上だと思っておりますので、このように動くべきだというのは出ていないのが実情かなと思います。
○加藤委員 ありがとうございます。
○馬籠委員 ありがとうございます。
○小塚座長 よろしいでしょうか。
野村委員、どうぞ。
○野村委員 貴重な情報をありがとうございます。
二点あるのですが、まずAIが、広告に関する新たなアイデアを創出するという部分ですが、本当にこれは創出するのか、単にテンプレートを増やすだけで、むしろ、広告の打ち方のパターンが固定化していくのではないかという懸念が、まず、あります。
もう一つは、やはりAIによる広告というのは、当然、エコーチェンバー問題、これに関しては、業界のほうでは、何か独自の対策というのを考えておられるのか、この二点についてお願いいたします。
○馬籠委員 ありがとうございます。
新たなアイデアを創出するのかというところで言いますと、新たなアイデアは出てきやすいと思っていて、テンプレートが無数にあるのですね、要は人間が考えるテンプレートは、ある程度変数が固定化してしまいます。例えば、どういうユーザーなのか、年齢なのかとか、どういうバックグラウンドを持った人に当てたらいいのかとか、そういったところがあると思うのですけれども、そういったところを人間が考えるより、またフレッシュなものが出てくるという点で言うと、新たなアイデアが結構出てきて面白いなとは思っております。こういう切り口があったのかというのは、確かにあるなと思います。ただ、AIが出てきて、多分、ここ数年の話なので、これがどこまで続くのかというところは、ちょっと分からないですね。あと、パターン化されていくというのは、PDCAサイクルを続けていくと、どうしてもパターン化はしてきます。AIが出してきたからといって、合格となるかというと、そうでもなくて、ある程度、こういう売り方をしたいとか、こういう商材で売りたいみたいなところで言うと、ある程度テンプレート化があって、その中にのっとったことをやっていたりもするかと思いますので、そういった意味合いで言うと、物すごい大量の無数のものが出てくるというわけではなくて、ある程度セグメントしたものの中から、AIを使ってよいものをつくるみたいなイメージが近いかもしれないです。
もう一つ、AIによるエコーチェンバー問題ですが、ここは、やはり今後の問題になるかなと思っています。エコーチェンバーとかを考えているような代理店は、現状でもなかなかいないとは思っていますし、要は、フリークエンシーといって、何回広告を当てたらいいのだとかというものは、そこまで定まってはいないというものがあります。どこまで出したら嫌われないのか、といった部分をしっかり分かっていない状況だと実際には思っておりますので、今後は、例えばここまで出さないようにしようねとか、先ほど言っていた、ユーザーがどのようにしたら心地よく情報空間を使えるのだ、みたいなところの研究というのは進めていくべきだなと思っております。
○小塚座長 ありがとうございました。
大塚委員、どうぞ。
○大塚委員 ありがとうございます。
非常に分かりやすく御報告いただきまして、ありがとうございました。
私からは、既に唐沢委員や岡崎委員から御指摘のあったことを法学の観点から少し具体化して質問いたします。
一点目は、今回の御報告は、AIによって、広告を見てもらう、そして最終的に商品を買ってもらうというのを、どのように実現するのか、そういった観点からAIがどのように使われるのかというものだったかと思います。
最後に出されたユーザースータビリティーという概念は、非常に面白い概念だと思いますけれども、これも、まさにユーザースータビリティーを上げることによって、より多く商品を買ってもらうと、こういう御趣旨だったかと思います。
ただ、法学の観点からは、広告というのは、より多く買ってもらうということと、消費者に不当な影響を与えないということのバランスを取らなければいけない分野なのだろうと考えております。
そういたしますと、AIによってつくられた広告が、消費者に不当な影響を与えないためにはどうすればいいのか、これは、唐沢委員の問題提起がございましたけれども、それについて、どのように考えればいいのかということが問題となります。
一方で、人の手を入れるということで、現在と同じようなことも可能だと思いますが、他方で、前回の岡崎委員の御報告を聞きますと、強化学習の段階で、何か人への悪影響を防ぐということもあり得るかなと思っております。AIを利用する、広告をつくるというときに、これまでのやり方と何か違いが生じるのであれば、その点を御説明いただければと思います。
二点目は、丸山委員の御指摘に近い話かもしれませんが、これまで広告が悪影響を与えるかどうかというのは、広告にどのような文言を入れるかという点に着目されていたように思います。要は、ここまで書いてしまうと、消費者が誤解してしまうのではないか、そういう点に主に着目していたのだろうと思います。
しかし、今回、馬籠委員の御報告を聞きますと、そういった文言だけではなくて、タイミングであるとか、ターゲティングの仕方であるとか、そういったことによって、何か消費者に悪影響がもたらされ得るかなと考えました。
タイミングをはかる上でも、どのようにバランスを取っていくべきか、要はタイミングをはかればより多く買ってもらえるかもしれませんが、より悪影響を与える可能性もあります。このバランスをどのように取っていくべきなのかについて、何かお考えがあれば、お聞かせいただければと思います。
以上です。
○馬籠委員 御質問ありがとうございます。
難しい問題ですね。先ほど言っていたユーザースータビリティーの概念というのは、購買をさせるためのものではなくて、購買をしなくてもユーザースータビリティーが上がることによって、ブランド価値は上がっていきますねというところが、一つ視点となったらいいのではないかなと思っています。
今の考え方で言うと、アテンションをとって購買をさせてというのが、やはり正義だったりという考え方があったりしますので、そこではない、もう一つの視点とか、それが、今だと、ブランドがどのように見えるのかとか、ブランド毀損をさせないために、みたいなところではあると思うのです。
ただそれは、あくまでクライアント側に向けただけのものであったりしますので、そこではなくて、もう一つ視点としてユーザー側に向けた視点というのが必要なのではないかなと考えてを持っておりまして、ユーザースータビリティーみたいな、ユーザーがどう心地よく広告を見ていられるのかという、ある程度の規範みたいなものをつくるべきなのかなと思った次第です。
何か防ぐものがないかとか、これまでのやり方と違いが出てくるのかというところで言うと、ユーザー側のデータをしっかり使える状況をつくるということになってこないと、なかなかせき止めることは難しいかなと思っております。ですので、そこの数値化の部分を検討していくというのが、一番よいのではないかなと、私個人としては思っているところです。
二つ目の質問で、バランスを取っていくべきというところなのですけれども、そこだと思うのですね、おっしゃるとおりでバランスを取っていくべきで、それが購買のほうに傾き過ぎてもいけなかったりもすると思いますので、先ほど言っていたような概念がもう一つ出てくると、そちらも見つつ、バランスでやっていきましょうねと、ユーザーにも嫌がられない、ユーザーに嫌がられないということは、ブランド毀損もしづらいですし、そのブランド毀損がしづらいのであれば、ある程度、広告の効果というところのバランスも見合っていける、みたいな考え方がどんどん出てくるといいのかなと思っております。
○大塚委員 ありがとうございました。
嫌がられないという話と、意思決定が阻害されないというのは、ややずれがあるかもしれないなとは思うのですが、その点は、多分、この専門調査会で、さらに深めていく話だと思いますので。御回答どうもありがとうございました。
○小塚座長 ありがとうございました。
最後に私からもクイックにお聞きしたいのですけれども、広告の効果、最後のほうでおっしゃったMade-for-Adサイトの問題にも関わるかもしれませんが、広告の効果というのは、現在は、クリックした、あるいは閲覧に行ったというところではかっているということでよろしいのでしょうか、最終的にそれが購買に結びついたかどうか、あるいは、それを示すような何か代理変数みたいなものもあるとか、そういう状況でしょうか。
○馬籠委員 広告は、購買したかどうかというところが結構ポイントになってきます。そのユーザーのデータを、要は、どれぐらい購買したかといったデータで、見ていたりします。
○小塚座長 なるほど、でも、それはクライアントのほうで取れるデータなので、例えば、代理店とかが直接そのデータを取れるわけではないと。
○馬籠委員 そうですね、連携して使用していくというような形でございます。
○小塚座長 分かりました。ありがとうございます。
どうぞ。
○坂下委員 説明をありがとうございました。
一つだけ御意見を聞きたいのですけれども、今回の資料で9ページというところがありまして、広告産業がAIを使って合理化している、高度化しているというのは非常にいいことなので、ここについて、ここでは言及する話ではないと思うのですね。
一方で、AIと消費者問題と考えたときに、9ページがとても大事で、検索からSNSに行って生成AIと書いてありますけれども、SNSと生成AIの間に、きっとウェアラブルが入りますね。これは、最初から事業者と消費者との非対称性がずっと続いていると思います。そして、SNSに入ってくると、ここから依存性が出てきます。ウェアラブルは、外すことはないと思うので、いずれにせよ、依存性はあります。そして、その先に生成AIがあると。
検索エンジンのときというのは何だったかというと、過去のログを使っていました、Web上の行動ログを見ながら、多分こういうやつではないかというのを見ている。でもリアルタイム性のデータが入ってきた途端に、それが洗練される、AIに入ってくるとさらにいろいろなデータがくっつきますから、さらに洗練されていく。
今、日本の個人情報保護法は、プロファイルは合法です。でも、このような洗練されているプロファイルになったときに、業態として業界としてどういう自主規制を図るかということも議論しなくてはいけないと思うのです。そこについては、馬籠委員のほうで何か御意見があれば、教えていただきたいのですけれども、いかがでしょうか。
○小塚座長 では、クイックにどうぞ。
○馬籠委員 ありがとうございます。
そうですね、データがどんどん洗練されていって、個人が特定しやすくなるみたいな話かなと思ったのですけれども、そこの部分は、私のほうでは答えが出ていない部分ではあります。ユーザーに委ねられるべきなのか、クライアントに委ねられるべきなのか、プラットフォーマーに委ねられるべきなのか、はたまた第三者的なところがしっかり決めてあげるべきなのかというところもあるかなと思います。一つの正しいという観点が非常に難しいなとは思っております。
○小塚座長 いろいろと議論すべき論点が出てまいりまして、本日は、どうもありがとうございました。
≪2．②ＡＩ技術と消費者問題について
大塚委員プレゼンテーション ≫
○小塚座長 それでは、議事の第2に行きたいと思います。「AI技術と消費者問題について」という題名で、大塚委員に御用意いただいております。また、20分ぐらいお話をいただきまして、その後、11時40分が終了時刻ということなので、少し時間がきついかもしれませんけれども、質疑応答、意見交換をしたいと思います。
それでは、大塚委員、よろしくお願いします。
○大塚委員 ありがとうございます。
では、スライドを共有していただきまして、報告のほうを始めていきたいと思います。なるべく簡潔にお話しいたします。
大阪大学の大塚と申します。
それでは、次のスライドに移りまして。専門は法学、その中でも、民法あるいは信託法や情報法を専門としております。
今回の報告との関係で言えば、契約に関する法を検討しています。例えば、我々は、現実世界で様々な契約を結ぶわけですが、当事者が契約を結ぶ際、あるいは契約を結んだ後、それを履行する際に、どのように自分の意思をその契約の中に反映させていくのか、させるべきなのか、そういったところを中心に考えております。
次のスライドに参ります。
本報告では、本専門調査会の問題意識であるAI技術を消費者が利用した場合に、AIがその意思決定に何か影響を与えないのか、何か自律的な意思決定を阻害していないのか、こんな問題意識を法的問題としてどのように位置づけるべきなのか、このような視点からお話ししていこうかなと思います。
意思決定といいましても、契約以外にも様々ございますが、議論が拡散してしまいますので、今回は契約に絞りまして、その契約の成立要件である意思表示、このプロセスに着目して分析を加えてまいります。
あらかじめ、少し御留意いただきたい点ですけれども、今回お話しするのは、必ずしも法学一般というか、民法一般で、通説的な見解ではございません。通説的な見解を前提といたしますと、今回の問題にはなかなか太刀打ちする道具立てが足りないかなと思いましたので、前回の岡崎委員や田中委員の御報告を聞きまして、それを踏まえて、勝手に取り入れて、新しいモデルを構築し、その観点から、AIの問題を検討していこうと、そういう報告となります。
したがいまして、今後の議論のたたき台のようなものとして聞いていただければと思います。
では、次のスライドに参ります。
まず、契約の本当に基本的なところを御説明いたします。法学におきましては、契約というのは、今、映し出されているスライドのように把握されています。左側が、契約がどのように成立するのかという話、右側が、成立した契約がどういう効果をもたらすのかという話です。
まず、左側の成立の話を説明いたします。契約というのは、申込みと承諾によって成立するのだと、民法上、定められています。申込みと承諾の正確な定義は、後で御説明いたしますが、簡単に言えば、例えば売買契約の場合には、スライドに載っているとおり、その自動車を100万円で売ってくださいというのが申込みであり、これに対して、この自動車を100万円で売りましょうというのが承諾です。当たり前のことを少し難しく言っているだけなのですが、そういうものとなります。買主と売主が逆転しても構いません。この自動車を100万円で買ってくれませんかという場合には、これは申込みとなりまして、では、その自動車を100万円で買いましょうというのが承諾になります。先に言ったほうが申込みであって、それを受けたほうが承諾であるということです。
この申込みと承諾というのが、意思表示に当たりますので、今回は、この意思表示を特に検討、分析していくことになります。
ついでに、契約の効力の話をしておきます。今のように申込みと承諾が合致した場合には、右の図の契約の効力が発生いたします。
主に二つの効果が生じます。一つが債権債務関係の発生ということで、例えば売買契約であれば、買主は代金を支払う義務を負う、これに対して、売主は自動車の所有権を移転する義務を負うことになります。両者がこういった法的な義務の関係に立つということです。
二つ目は、下に書いてあるところですが、この自動車の所有権が売主から買主に移転するという法的な効果が生じます。
以上の契約の効力の話は、今回お話しできませんので、そういうものなのだと思っていただければと思います。
では、次にスライドの5ページ目に参りまして、先ほど出てきた申込み、それから承諾の概念をもう少し丁寧に御説明いたします。
申込みというのは、これは民法という法律の条文に定義がされておりまして、「契約の内容を示して、その締結を申し入れる意思表示」であるとされております。契約の内容というのが、例えば売買契約であれば、何を幾らで売り買いするかということですので、例えば、その自動車を100万円で売ってくださいと言えば、これが申込みとなります。
これに対して承諾というのは、法律上の定義はないのですが、一般的には、申込みに対して、その内容どおりに契約を成立させる旨の意思表示であると理解されております。要は、申込みで提示された契約内容を繰り返して、それで契約を締結させましょうと言えば、これが承諾となるわけです。
今の定義から分かるとおり、申込みも承諾も意思表示の一つであるとされています。要は、意思表示というのは、申込みや承諾を含んだ、より抽象的な概念ということになります。
これも抽象的に言えば、意思表示とは、一定の法律効果の発生、例えば契約を成立させるとか、そういう法律効果の発生を目的とする意思の表明であると理解されています。
契約の世界で言えば、この意思表示によって、自分の権利義務関係を決めていく、例えば、売買契約を結ぼう、申込みの承諾をしよう、これによって債務を負うとか、所有権を得たり、失ったりするわけですね。そういう自分の法律関係を自分で決めていく、そういう仕組みであるということになります。
ただ、この意思表示が適切に行われた場合には、その意思表示どおりに義務を負わせてあげればいいのですが、この意思表示が何か不適切に行われる場合があります。今回の問題意識から言えば、意思表示をするに当たっての自律的な意思決定が阻害されている、このように評価される場合には、何か対処しなければいけないということになってくるわけです。そのための道具立てが民法には幾つかございまして、後で御紹介いたします。
そういった道具立てが幾つもあるのですけれども、それを理解するため、それを理論的に位置づけるために意思表示の構造を分析するということが行われています。
次のスライドに参ります。
伝統的な考え方と書いてありますが、これは、現在でも出発点となる理解だろうと思います。タイムラインとしては左から右へと流れるのですが、右から説明していきますと、申込みや承諾で、この自動車を100万円で売ってくださいと、口頭あるいは書面で相手に表示する、この表示が表示行為ということになります。
ただ、この表示行為をするためには、買おうという意思が内心で生じているはずだということになります。これが効果意思と呼ばれるものです。この効果意思、その自動車を100万円で買おうという意思が内心で生じ、それを外部に表示する、さらに外部に表示するためには、外部に表示しようという意思がまた別に生じるはずであると、このように分析するわけです。
この内心の効果意思が形成されるためには、それまでにいろいろな背景事情が、本来はあるはずです。例えば、自動車がほしい、自家用車がほしいであるとか、いろいろそういう事情がある。あるいは、例えば特定の車種であれば、この車種について、見た目が好きであるとか、あるいは燃費がいいと聞いているとか、あるいは、100万円だったらお買い得だなみたいな、いろいろな事情がある。そういったいろいろな事情は、動機としてまとめられております。この動機によって効果意思が形成され、それが表示される、それが全体として意思表示であると、こういうことになります。
伝統的な考え方のポイントは、効果意思と動機を区別することにあります。効果意思というのが、表示に対応する意思、その自動車を100万円で買おうという意思であり、それ以外の部分は全部動機に位置づけられるということになります。これによって、効果意思に問題がある場合と、動機に問題がある場合というのが区別されて、違う規律の対象となってくるということです。
この分析に対しても批判は強かったわけですけれども、特にAIの影響を考える上では、やや大ざっぱにすぎる部分がございまして、特に動機というのが一つにまとめられているという点が、検討を十分行えないポイントかなと思います。そこで、次のスライドで、この動機の部分をより具体的にモデル化してみようと思います。
これは、前回、田中委員の御報告であった批判的な意思決定のプロセスというところを参考にしたものです。
もしかしたら、このような参考の仕方は適切でないという御意見があるかもしれませんので、もし、そういうことがありましたら、ぜひ、後ほどお聞かせいただけたらなと思います。
今回は、特にスライドの③から⑥のプロセスに着目して検討を加えていきます。それ以外の、①、②、⑦、⑧については多少言及するにとどめます。
では、次のスライドに参ります。
まず、個別の契約を成立させようという段階の前に、そもそもその消費者がどういう判断能力を持っているのか、あるいはどういう選好を持っているのかということが、個別の契約の成立にも関わってくるだろうと思います。
判断能力というのは、この契約が自分にとっていいものかどうかを判断するために、十分な能力を持っているかどうかということですし、選好というのは、全ての消費者が同じ契約を好むかというと、そんなことはありませんで、その消費者がどういう契約を好むのかということを表す概念として位置づけています。
これにつきまして、民法では、判断能力については、意思能力や行為能力といったように、判断能力の欠如を理由として契約などの効力を否定する仕組みがございます。有名どころでは、未成年という話ですね。未成年者は、親権者等の同意なく、1人で契約を結ぶことができず、仮に1人で契約を結んだ場合には、後から取消しをすることができることになっております。
それから、成年後見については、実は、今、改正の審議中ですので成年後見という言葉がなくなるかもしれませんが、現行法でいうと、精神上の障害によって適切な判断ができないという場合には、裁判所の判断によって、成年後見が開始されて、そうすると、自分1人で契約を結んだ場合に後で取り消すことができるということになっています。
これに対して、選好について、包括的に規律する定めは、民法上の制度にはないような気がいたしますが、後で選好に関わる制度も少し御紹介する予定です。
AI技術を利用することが、こういった判断能力にどういった影響を与えるのかという点ですが、ここはまだ検討が不足している、AIの開発現場においても、あるいは法学の議論においても検討が不足している、あるいはまだ見通しがなかなか立っていない部分だと思いますので、簡単にだけ言及いたします。AIを日常的に利用していることが、何かその人の判断能力や選好に影響を与えるのではないかとも考えられます。あまり、だからAIが悪いのだということは言いませんけれども、そういった影響をどのようにとらえるべきなのかということも、一つの消費者問題として出てくる可能性があるかなと思います。
ただ、そういったマイナスにもなり得る影響だけではなくて、プラスの影響もあり得るかなと思います。特に先ほど言った未成年者や成年被後見人の場合には、自分1人では判断ができませんので、別の人間が判断を代わりに行うとか、あるいは判断を補助するためにつけられるということなります。ただ、そうすると、なかなか日常的にばんばん契約をしていこうということはできず、やはり一定程度社会生活が難しくなるという面は否めません。
これをAIによって代替すること、あるいは補助することが可能になるのか。例えば、高齢者で認知症が進んでいる方について、成年後見が開始されたときに、成年後見人、例えば、御家族であるとか、あるいは何か専門家が逐一成年被後見人の代わりに契約を結ぶとなると、御家族の場合には時間や労力が大きく奪われてしまうわけですし、専門家を頼るとすれば、コストが大きくかかってしまうということになります。その一部でもAIに代替させることができれば、大きくコストを下げることが可能だろうと思います。
この場合には、AIをどこまで信用できるのかということを検討しなければいけないのですが、問題提起として言及しておきます。
では、次のスライドに参ります。
ここからが、私の中で本論となりますけれども、③、④は、情報を収集し、明確化し、さらに推論のための土台を検討するというプロセスです。
このプロセスを法学、特に意思表示の話として見ると、次に続く推論や意思決定の基礎とすべき情報が何かを確定するプロセスとして位置づけられるのかなと思います。
情報というのも、二つに大きく分けられると思いまして、一つには、契約に関する情報、要は、その契約を結ぶべきかどうかということ、その判断を左右する情報があります。
例えば、商品やサービスの内容であるとか、質であるとか、対価が適切かどうかみたいな話であるとか、あるいは、そのサービスを提供する事業者が信頼に値するかどうか、こういった情報というのが、契約あるいはその前提となる意思表示に関する情報として位置づけられます。
もう一つが、その情報に関する情報といいますか、メタ情報と呼べばいいのかもしれませんが、例えば、提供する事業者が信頼できるかという情報、この情報がそもそも信頼できるのかどうかという情報があります。例えば口コミサイトの口コミの内容が契約に関する情報で、この事業者はよかったよとか、悪かったよという情報が出てくるわけです。しかし、その口コミ自体を信頼できるかというのが判断の材料となってくるはずですので、そういったメタ情報についても、やはり収集し明確化することになります。
田中委員の御報告でも、これが明確化の段階や土台の検討の段階に位置づけられていたかと思いますけれども、そういったメタ情報も収集していく必要があるだろうと思います。
この中には、情報を提供する主体が誰であるか、メディアであるとか、専門家であるとか、AIであるとか、あるいは口コミの場合には、その口コミを書いた人、実際の消費者であるか、あるいはもしかしたらサクラかもしれないということで、そこをはっきりさせる必要があるということになります。
こういった情報を収集していくわけですが、推論の基礎に使えるかどうかというのは、0か1かではなくて、むしろグラデーションのように位置づけられるのかなと思います。ある程度信頼できる情報は、そのある程度の信頼できる情報として位置づけて、その程度の基礎とするということになるわけですので、要は、その情報の信頼度を適切に測れているというのが、そして、それを適切に推論の基礎にしているというのが、まさに自律的な意思決定ができている状態であると思います。そうだとすれば、何か情報があるけれども、その信頼度をうまく測れていないという状況が、自律的な意思決定が阻害されている状態だと位置づけることができるのかなと思います。
次のスライドに参ります。
こういった情報収集等について、法的にどういう仕組みが用意されているかといいますと、全部紹介するのは時間の都合上難しいので、二つに絞りますが、一つ目が（ア）基礎事情の錯誤と呼ばれているものです。法律の条文上は、表意者、これは意思表示をする人のことなので、今回の話で言えば消費者のことですが、それが契約などの法律行為の基礎とした事情について、その認識が真実に反する錯誤があった場合には、その意思表示を取消すことができるとされています。ほかの要件もありますので、常に、こういった錯誤があった場合に取り消せるわけではありませんが、こういう意思表示の基礎となった情報に、何か思い違いがあった場合には、取消しが可能となるわけです。
（イ）(ウ)は飛ばしまして（エ）で、一定の場合に、相手方または第三者に情報提供義務、あるいは説明義務とも言われますが、それが課される場合もございます。この場合、情報提供義務違反が、契約の有効性に影響を与えるという場合もありますし、あるいは単に損害賠償の対象となるといった場合もございます。
次のスライドに参ります。
AI技術を利用した場合に、今のプロセスがどういう影響を受けるかというと、正の側面としては、これは前回の御議論の中で出てきましたが、資源合理性の観点から情報収集とか、その正確性の確認についてAIに任せてしまうことができる。情報が溢れ返っている現在、このプロセスを簡略化できる、こういう正の側面があるかなと思います。
しかし、逆に、負の側面としては、AIが収集した情報、あるいはその正確性に対して過剰な信頼が生まれてしまう可能性がある、これは利用者のリテラシーとの関係も重要になってくるかもしれませんが、そういう可能性が出てくるということが考えられます。
また、開発者の強化学習、前回、岡崎委員から御報告がありましたが、そこにおける学習が不適切である場合には、その結果、不適切な出力がなされるおそれがあるということになるかなと思います。
解決策としては、そういった情報の正確性や信頼性を反映した意思決定を可能とすることが必要となりまして、特に（エ）ですかね、AIの事業者に一定の情報提供義務を課す、例えば、ソースはどこなのかとか、現在でもされていると思いますが、そういった情報提供を法的に義務として課していくことが必要になってくるのかなと思います。
次のスライドに参ります。
次は、⑤推論、意思決定のプロセスです。このプロセスは、先ほど確定した情報を基礎にして、かつ自分の選好を基準に契約を評価して、そして契約を締結するかを決定していくという、そういうプロセスになるかなと思います。
特に重要なのは、その情報の信頼度というのは、ある程度客観的に測れるものかもしれませんが、選好については、消費者自身に固有のものですので、この推論、意思決定のプロセスには、かなり主観的な評価の側面があるという点です。
次のスライドに参ります。
そのような理由もあり、法的には、情報の正確性についての仕組みは昔から用意されていたのに対し、こういった適切な推論や意思決定を確保する仕組みというのは、例外的にのみ認められてきたように思います。
例えば、脆弱性へのつけ込みを不当な勧誘方法として位置づける（ア）の規定は、例えば、進学への不安を持っている、社会経験の乏しさから、そういった不安を持っているというときに、その不安をあおって、非常に高い教材を売りつけるみたいな、そういう勧誘方法は駄目だよと、こういうルールになっております。
（エ）助言事務というのは、情報提供義務と同じように語られることも多いのですが、むしろ、単に情報を提供するだけではなくて、そこからさらに踏み込んで、このように判断したほうがいいのですよと、例えば弁護士みたいな専門家が助言を加えるといった議論となっております。
次のスライドに参ります。
では、AI技術を利用した場合、こういったプロセスにどういう影響があるのかというと、正の側面としては、先ほど言ったとおり、資源合理性の観点からコストを節約できるというものと、あと、先ほど馬籠委員の御報告の中にもありましたが、パーソナライズされたAIの場合には、消費者の選好を含めて判断の助言をしてくれることが考えられるかなと思います。
ただ、これに対して、特にパーソナライズされないような場合には、消費者がAIに依存しすぎると、実は望んでいない、結局、説得されてしまっているので望んでいると言うことも可能かもしれませんが、しかし、そういった影響がなければ望まなかったであろう意思決定が促されてしまうことがあり得るかもしれませんし、逆にパーソナライズされればされるほど、消費者が自分で選択する機会を喪失してしまう、そういう可能性がございます。もちろん、これは選択するコストを低減するとも言えますので、バランスを取る必要があるとも思いますが、しかし、コストを低減すればするほどいいというものではないのかなと考えています。
こちらも解決策としては、やはり自己決定と助言のバランスを取る必要があるということで、自己決定、自律的な意思決定を可能とするための情報や選択肢を提供させることが必要になってくるのかなと思います。
次の15ページ目のスライドにつきましては、やや問題状況が違いまして、これまではAIに、どうすればいいかなと相談して、その結果を踏まえて自分で意思決定をするというものでしたが、この表示意思、表示行為に関連する問題は、AIが、意思表示まで代替してしまう。例えば、自動注文機能を備えた冷蔵庫みたいなものが開発されています。自分でこの野菜を買おうと注文しているわけではなくて、AIが勝手に注文するというときに、その売買契約をどのように理解すればいいのかというのが、問題として出てきまして、論文なども出ているところですが、本報告の関心とは少しずれますので、この程度の問題提起のみにとどめます。
最後のスライドで、若干のまとめをいたしますと、AI技術を消費者が利用するという意義は、労力や時間を節約しつつ、相対的には適切な意思決定をすることを可能とするもので、そういった意味では、非常に有効なものだろうと考えております。
また、AIが適切に情報や選択肢を提供すれば、消費者の認知資源を、その吟味に当てることができますので、むしろ自律的な意思決定を推進するものとして位置づけられるかなと思います。
しかし、負の側面も忘れてはならず、AIの不適切な出力があったとすると、消費者の自律的な意思決定の基礎が失われてしまうおそれがあります。
また、AIを過剰に信頼し、あるいはAIに過剰に依存してしまうと、自律的な意思決定を阻害するおそれが出てくるということだろうと思います。
全体的に解決策としては、情報や選択肢を適切に提供させる。出し方としても、要は生成AIと対話形式でお話ししているというときに、あまり過度に信頼させるような言葉を使ってはいけないであるとか、あるいは、アプリのユーザーインターフェース自体も、多分それによって依存度が変わってきたりしますので、そういったところも気にしながら開発していってもらう必要があるのかなと考えています。それを法によって規制するのか、あるいは、例えばガイドラインによって望ましいやり方を示すのか、いろいろ選択肢があると思いますので、今回は、そういった問題、そして、そういった解決策の方向性というのがあるということをお示しして、報告を終わりたいと思います。
御清聴ありがとうございました。
○小塚座長 ありがとうございました。
非常に重要な御指摘を多々いただいておりますので、ぜひ皆様から御質問、御意見等をいただきたいと思います。どなたからでも結構です。
では、早速、田中委員、お願いします。
○田中委員 御説明どうもありがとうございます。
法律はすごく難しいので、プロセスに分けて御説明いただいて、こんなにいろいろな法律があるのだなと勉強になりました。
それで素朴な質問で恐縮なのですけれども、スライドの9ページにありました、契約の情報に関するところなのですけれども、これが非常に膨大であるとか、契約のときに全てを把握することができない場合というのは、消費者の意思決定の自律性は阻害されているとみなされるのかどうかについてお尋ねしたいと思います。
一つは、具体例でお話ししたいと思います。先週、国際学会に出ていまして、おっという発表を見たのですけれども、AIエージェントを使うようになってきますね。エージェントに、例えば、どこどこ地方の来週の天気予報を調べてきてということを言ったとしますね。そうしたら調べてきてくれますね。そのときに、その研究が示していたのは、天気予報のサイトに行くと、特にEUとかはクッキーの使用の許諾の何かが出てきて、本来はユーザーが自分で行けば、そこで許諾の意思決定をした上で情報にアクセスするのですけれども、AIエージェントが勝手にそこを判断するのですね。それで、結構なモデルによってパーセンテージが違うのですけれども、それを分析していた研究発表があって、さらに強烈だったのは、AIエージェントにクッキーの許諾はしないでくださいと指令を出しても許諾して取ってくるのです。モデルによっては50パーセント近く取ってくるのです。許諾をしないでくれという意思表示をしても、許諾をして上位目標の天気予報の情報を取ってくるというのを遂行してしまうという研究結果がありました。
これは、もしかしたらモデルが変わることによって変わってくるのかもしれないのですけれども、現時点ではそういったデータがあるという御発表でした。
そのように意思決定が非常に階層化していて複雑化しているときに、特定の意思決定を遂行する上で、予想していなかった意思決定のところは無視されてしまうということが発生することを、AIエージェントを最初に契約するときに、ユーザーは恐らく知りようがないと思うのです。その場合、例えばクッキーは絶対に許諾しないというポリシーの人が許諾されてデータが取られたときは、どこに責任があると考えたらいいのでしょうかという質問です。
○大塚委員 ありがとうございます。非常に難しい御質問をいただいたなと思います。
まず、一般論といたしまして、消費者が契約の全体像、例えば、契約は非常に細かい条項がたくさんあって、それが約款という形、例えば利用規約という形で示されている場合に、それらを全部読んで全部承諾しているかというと、そういう人も中にはいますが、大半の人はそうではないのだろうと思います。
ただ、その場合も契約自体は成立し、変な条項は契約内容に入らないという仕組みにはなっていますが、そうでない場合には、そういった利用規約の内容が、契約内容に含まれるのだということになっております。そういった法律上の制度がございます。
ですので、膨大な情報を全部把握していない限り契約内容にならないかというと、そうは考えられていないというのが、まず出発点となります。そして、それが自律的な意思決定を阻害しているとも、ぎりぎり考えられていないかなと思います。後から変な条項だったのではないかという争いが生じる、そして、それがたくさんの消費者との間に提供されている場合には、何か団体訴訟みたいな感じになって、よくない条項を変えろみたいな、そういう訴訟は可能ではあると思いますが、その程度であるということです。
お示しいただいた勝手にクッキーの利用許諾をしてしまうという話ですが、このクッキーの利用許諾には、今、言った約款の側面と、もう一つ、個人情報保護の側面がございます。個人情報保護は、また、契約の成立とは違う法的な位置づけをされていて、個人情報を取得するためには、本人の承諾を得なければいけないということになっています。
クッキーをどう位置づけるかも、なかなか難しいので、説明は省略いたしますが、これも同意をすることによって初めて取得をされるという仕組みに、現在なっているだろうと思います。
ただ、これをAIが勝手にしてしまうと、要は、本当は個人が同意をしていない、承諾をしていないのにAIがその承諾をしたという情報を送ってしまって、その結果、クッキー情報が取られてしまうということで、これは、現在の仕組み上のバグになっているのかなという気はいたしました。
したがいまして、それは、個人情報保護法上承諾があったものとしていいのかと言われると、最後の最後、15ページのAIが表示行為まで代替してしまう場合と、恐らく近似してくるところで、AIを個人の道具として見てしまうと、AIがしたことは全部本人に帰属しますので、個人が承諾したということになります。
しかし、AIが代理人といいますか、そのような立場に立つ、日本法上はそういう位置づけはなかなか難しいとは思うのですけれども、そのように考えると、AIが本人の意思に反して勝手に許諾するというのは、これは基本的には無効であると、そういう権限をAIは持っていないので、できないはずである、そうすると承諾は無効であって、承諾していないことになるということになり得ます。しかし、実際上は承諾していないことを証明して、クッキーの利用をやめてくださいとは、なかなか言いづらいところもございますので、もう少しシステムを改善していく必要が、いずれにせよあるのかなというところとなります。
さらに考えますと、AIが予想していない意思決定をしてしまうというときに、どこまで本人に、そのリスクを帰属させるべきなのかという問題を提起できます。代わりに意思決定をするような権限を持っているAIを使うというのは、本来はちゃんとそれを理解してAIを利用しなければいけなく、それでAIが仮に意思決定してしまったら、本人に、その意思決定が帰属するということになりそうなのですけれども、一つは、AIを利用するときのAI事業者との契約で、それがちゃんと説明されていなかったとか、そういう権限がちゃんとあるよということを理解せずに契約してしまったという場合には、AI事業者のところに責任を一定の程度帰属させるとか、そういう可能性はあり得るし、仮にAIを利用して意思決定をした、その相手方が、AIを利用した意思決定なのだということを把握できて、かつ、本人はそういう意思決定をしないだろうと思っているような場合には、その相手方に対して責任を負わせることも可能ではあろうと思います。ただ、今の話は、すごく素朴な価値判断ということですので、具体的な仕組みとして、そういうのが、今、用意されているわけではございません。もしそういう帰結が望ましいというのであれば、立法なりすることによって、対応していく必要があるのかなと思います。
○田中委員 ありがとうございます。
一点だけ補足をすると、その発表者は、ダークパターンは、これまでユーザーは、人を相手にしたダークパターンだったのですけれども、エージェントを対象にしたダークパターンが出てくるのではないかという話をしていました。ですので、人間は目視して分からないけれども、AIエージェントを誘導して、許諾を得やすいようなダークパターンというもののリスクについて発表者は言っていたことも添えて、終わります。
ありがとうございます。
○大塚委員 ありがとうございます。
ダークパターン自体は、個人を、人間を対象者としたダークパターン自体も、まだ、法的にちゃんと規律できていないところですので、さらにAIを対象としたダークパターンというと、難しい問題が出てきたなというように、感想のみで申し訳ないのですけれども、感じました。ありがとうございます。
○小塚座長 ありがとうございます。
唐沢委員、お願いします。
○唐沢委員 どうもありがとうございます。
法律の話をお伺いするにつれ、自律的な意思決定を、どう考えるのかが、難しい課題だと思います。虚偽であることを強制的にさせるなど、明らかに自律的ではない場合ではなく、今のAIが、選好形成とか、判断環境の設計をしてしまって介入するということなので、そこでの自律的意思決定の保護が、どのようにできるのかが難しい問題だと思っています。
その観点から法律でどこまでできるのかですが、例えば、あからさまな虚偽とか、問題があるなどの、分かりやすいケースではなくて、順序を変えるとか、感情を喚起するとか、タイミングとか、いろいろ心に介入する方法はありますね。そのような介入で本人の判断を左右した場合に、法律上は、対応ができるのかどうかというのを確認したいのが一点です。
それから、そもそもの法律が持つ思想みたいなことなのですが、選好の形成とか、動機の形成の話があったと思うのですが、意思決定過程での、それらの段階を問題にする発想をそもそも持ち得るのか、それとも、それは原則として、自由にやってよい、自由市場みたいな発想なのかが二点目です。
三点目は、先ほどのご回答にも関わると思うのですが、現行の法の解釈には、やはり限界があって、何か新しい法律をつくる必要があるのか、それとも法律では、対応できないから、ほかの制度設計、法律以外のもので対応することを、法学者側から提案なさることがあるのか、これをお伺いできればと思います。
○大塚委員 ありがとうございます。
まず、判断の環境の設計についてですけれども、例えば、詐欺という仕組みがあって、だましてはいけないというか、だまして意思決定させた場合には、その意思決定を取り消すことができるという仕組みとなっております。
ただ、それが民法にあるわけですが、それだけかというと、どんどん判断の形成の過程というか、環境についてまで踏み込んだ法律というのはできていて、恐らく丸山委員が御報告なさると思うのですけれども、消費者契約法には、例えば、詐欺にはならない、詐欺の場合には、違法な行為がされたことが必要であるわけなのですが、その詐欺にはならないけれども、例えば、断定的な判断を提供した、例えば、これを飲んだら絶対に痩せますよとか、そういう言い方をして勧誘して契約を締結させたという場合には、その消費者契約は取消しができるという形になっていたり、あるいはさらに進んで、今回、13ページ辺りでお話しいたしましたが、例えば、デート商法みたいな感じですね、事業者の担当の人が恋愛感情を抱かせて、それを利用して契約を締結させる、これを買ってよみたいな感じで買わせる、そういったものも、どんどん規制の対象となっているというところです。
ですので、二つ目の話になりますが、その選好の形成自体も、どんどん問題にするようになっているだろうと感じます。
そういった問題を現行の法解釈上で対応することができるのかというと、できなくはない、絶対無理かと言われるとそんなことはなくて、できなくはないだろうと思います。
ただ、特に新しい契約の勧誘方法については、それが、何でも影響を与えては全くいけないかというと、そんなことはなくて、例えば広告などは許されているわけです。、影響は与えていいのだけれども、そこに違法性という社会的な価値判断が入りまして、違法性という基準を超えたら、それは駄目だということになります。
では、どこを超えたら違法になるのかというのは、人によって考え方はまちまちですし、社会的な合意形成をしていく必要があるわけです。それを裁判所が後からやっていくというのも、それはそれで構わないのだと思いますけれども、限界があるし、裁判所ががんがん言ってしまうと、新しい取引形態が萎縮してしまうという欠点もございますので、この辺りは結構立法によって対応してきたところも大きいかなと思います。先ほど言ったデート商法などのように新しい状況にどんどん対応していくという形になっています。
ただ、立法が結構個別のよくない取引を個別に規定していくというやり方になっているので、あまり包括的な立法ができておらず、何かいたちごっこみたいな形にはなっておりますが、やはり、立法によってしっかり規制をかけていくしかないのかなというのが現状だと思います。
○小塚座長 ありがとうございました。
それでは、野村委員、お願いします。
○野村委員 貴重な情報をありがとうございます。
言わば、契約の意思決定に関するプロセスに、AIが介入するという段階の中で、自動運転のようなレベルという概念はあり得るでしょうか、自動運転の場合は、運転操作とルート選定、それぞれの場合において人間がここまで、あるいはAI全部みたいなパターン分けがあるので、そういう概念を契約の意思決定プロセスの中に導入することは可能でしょうか。
○大塚委員 ありがとうございます。
非常に、なるほどなと思いました。最初に田中委員の御指摘があったのは、勝手にやってしまう、レベルが1だと思っていたのに3のAIを使ってしまったという話だと思いまして、確かにその概念を導入すると、まさにこのAIはどこまでやるのか、要は、意思決定を補助するだけで、最終的な意思決定は、利用者のあなたがやりますよと、そういうAIとして提供するのか、あるいは、それこそ、こういう意思決定については、AIが勝手にやりますよというものなのかをはっきりさせると、別にどっちかが悪いわけではなくて、どっちのAIも有効に活用できると思うのですが、消費者の認識が1だと思っていたのに3だったみたいなことになってしまうと困りますので、まさにそれを明確にさせることが必要になってくるかなと思います。自動運転と完全に一致させる必要はないと思いますが、ある種、意思決定の代替をする領域を分けてというか、どこまでの領域を代替するのかという軸でレベル分けをして、どのレベルのAIを利用しているのかということを消費者に確実に認識させるということ、そういう方向で規律するというのは、適切な方向性かなと感じました。ありがとうございます。
○小塚座長 ありがとうございました。
そのほか、お聞きしたいこともいろいろおありかと思いますが、ちょっと私の進行が悪くて、そろそろ時間でございますので、今、御発言いただいた方のほかに、大塚委員に対して、御意見、御質問等ある方は、一旦事務局のほうに寄せていただいて、事務局から取りまとめていただいて、大塚委員にお伝えして、必要に応じて御回答をいただきます。
ということで、本日は、馬籠委員、大塚委員、お二人の委員の先生にプレゼンをいただきまして、充実した議論になったと思います。どうもありがとうございました。
本日、議事として用意したものは以上でして、事務局から事務連絡をいただけますでしょうか。お願いします。
≪3．閉会≫
○江口企画官 次回の専門調査会につきましては、確定次第、事務局より御連絡させていただきます。
以上です。
○小塚座長 それでは、本日は、これにて閉会です。皆様、お忙しいところ、どうもありがとうございました。
(以上)