第9回 消費者をエンパワーするデジタル技術に関する専門調査会 議事録
日時
2024年11月29日（金）15:00～17:23
場所
消費者委員会会議室・テレビ会議
出席者
- （委員）
- 【会議室】
橋田座長、坂下委員、松前委員 - 【テレビ会議】
森座長代理、相澤委員、荒井委員、田中委員、鳥海委員、原田委員、山口委員 - （オブザーバー）
- 【テレビ会議】
柿沼委員、星野委員、山本委員 - （事務局）
- 小林事務局長、後藤審議官、友行参事官、江口企画官
議事次第
- 開会
- 議事
①報告書（案）について
②ＡＩデモンストレーション - 閉会
配布資料 （資料は全てPDF形式となります。）
≪1．開会≫
○橋田座長 本日は、皆様、お忙しいところをお集まりいただきまして、ありがとうございます。
ただいまから、消費者委員会第9回「消費者をエンパワーするデジタル技術に関する専門調査会」を開催いたします。
本日は、坂下委員、松前委員は会議室で、森座長代理、相澤委員、荒井委員、田中委員、鳥海委員、原田委員、山口委員はテレビ会議システムにて御出席いただいております。相澤委員は少し遅れて参加されます。
消費者委員会からは、オブザーバーとして柿沼委員、星野委員、山本委員がテレビ会議システムにて御出席いただいております。柿沼委員は、少し遅れて参加されます。
黒木委員は、御欠席との御連絡をいただいております。
では、本日の会議の進め方等について、事務局より御説明をお願いいたします。
○江口企画官 議事に入る前に配付資料の確認をさせていただきます。お手元の議事次第に配付資料を記載してございます。もし、不足等がございましたら事務局までお知らせください。
本日は、報道関係者を除き、一般傍聴者はオンラインにて傍聴いただいております。議事録については後日公開いたします。
以上でございます。
○橋田座長 それでは、本日の議題に入ります。
最初の議題は、これまでの議論の取りまとめとして、報告書（案）について意見交換を行いたいと思います。
まずは、事務局より全体を通して御説明いただいた後、本日の意見交換につきましては、議論を整理する観点から各パートに分けて行いたいと思います。全体を通じ、委員からの積極的な御発言をお願いいたします。
まずは、事務局から報告書案の説明を20分程度でお願いいたします。
≪2．①報告書（案）について≫
○江口企画官 御説明いたします。資料1、報告書（案）を御覧ください。
「消費者をエンパワーするデジタル技術に関する専門調査会報告書（案）」について御説明いたします。
目次を御覧ください。
全体を3つの章立てといたしまして「第1 消費者エンパワーするデジタル技術の利活用の意義」「第2 消費者をエンパワーするデジタル技術の実例」「第3 消費者をエンパワーするデジタル技術の更なる利活用に向けた課題」としております。
「はじめに」において、本専門調査会の設置について説明しております。
デジタル化の進展に伴い、新たなデジタル技術がサービスとして消費者に提供され始めております。
このため、消費者自身では未然に防ぐことが難しい問題や消費者と事業者に技術力の差異があることにより生じると考えられる問題があることが指摘されております。このような課題への対応として、本調査会が設置されました。
本報告書では、第1において、消費者問題の現状や論点を整理し、消費者をエンパワーするデジタル技術の利活用の意義についてまとめております。
第2において、消費者被害の未然防止等への対応に利活用できると考えられるデジタル技術について、検討・実験中のものも含め、紹介しております。
第3において、消費者をエンパワーするデジタル技術のさらなる利活用に向けた課題について整理しております。
「第1 消費者をエンパワーするデジタル技術の利活用の意義」でございます。
「1 現状と背景」「（1）消費者問題の現状」でございます。
2023年の消費者相談件数のうち、相談件数の多いものは、1位のインターネット通販、2位の定期購入などのデジタル空間の消費者問題に続き、3位の家庭訪販、4位の電話勧誘販売と非デジタル空間におけるものとなっております。
主な販売購入形態別の契約当事者の年代別割合では、訪問購入、訪問販売、電話勧誘販売、店舗購入等については、70歳代以上の割合が最も高くなっております。
「（2）主にデジタル空間で生じるもはや消費者自身では未然に防ぐことが困難と考えられる消費者問題」です。
消費者自身では、未然に防ぐことが困難と考えられる問題や被害回復の場面で課題がある問題として、フィッシング、サポート詐欺、偽サイト、定期購入、SNS広告をきっかけとする問題、電話勧誘等の事例が挙げられます。
こうした問題は、消費者の金銭的被害を問題としている一方で、消費者の情報、時間、関心・アテンションを事業者が取り合う場面が生じています。また、透明性の低い外部送信によって消費者のインターネット上の行動に関するデータが集められていることを記載しております。
「（3）消費者問題が生じている背景として考えられる事項」です。
ここでは、デジタル化及び高齢化の進展、アテンションエコノミーの拡大、パーソナルデータの取得・利用、ダークパターンの増大について記載しております。
「2 論点の整理」です。
消費者をエンパワーするデジタル技術の利活用の観点から、論点を5つ記載しております。
（1）は、非デジタル空間の消費者問題への対応についてです。社会がデジタル化しても、なお、訪問販売等の非デジタル空間における消費者問題は生じており、今後も高齢化が進展することや、独居高齢者の増加が見込まれることから、こうした問題への対応は重要となります。
（2）は、フィッシング、フェイク等への対応についてです。生成AIを利用した高度なコンテンツの生成等、事業者は消費者に対し圧倒的な技術優位性を持っており、消費者は注意していたとしても、フィッシングやフェイクを見分けることが難しく、そもそも事業者の働きかけに気づいていないこともあるとしております。
（3）消費者の認知過程への介入への対応についてです。
消費者が認知過程に介入され、気づかないまま誘導・操作されることがあります。こうした事象について、消費者が問題を明確に認識し、対応することは容易でないと考えられます。こうした事象について、認知過程に介入する販売方法を放置してよいのか、選択の自由を阻害しているのではないかという点を指摘しております。
（4）は、パーソナルデータの取扱いについてです。事業者は、消費者から明確な同意を得ずにパーソナルデータを外部送信している状況があり得るが、それにより消費者にどのような影響を与えているのかを整理するとともに、消費者から明確な同意を得るべきではないかと指摘しております。
（5）は、消費者被害の防止と回復のための証拠の把握についてです。消費者被害の防止と回復のためには、証拠となる記録を残すこと、また、決済や取引情報について速やかに異常を検知できることが重要であるとしております。
「3 本専門調査会での考え方」。
本専門調査会での考え方については、消費者問題の未然防止や先ほどの論点への対応のためには、従来行われてきたような消費者法制度による規律、消費者教育・リテラシーによる対応に加え、デジタル技術をさらに利活用し、対応することが重要です。
デジタル技術を利活用することにより、事業者に対して、技術的優位性が低い消費者を技術面でサポートし、消費者の理解や判断を助けることが考えられないか。知らないまま誘導されるケースについては、消費者に気づきを与えるようなサポートがあれば有用なのではないか。高齢化や独居高齢者の増加等に伴う課題に対応することも有用なのではないかといった考え方を示しています。
以上が第1になります。
「第2 消費者をエンパワーするデジタル技術の実例」。
ここでは、実用化されているデジタル技術の例と検討・実験中のデジタル技術の例を紹介しています。
「1 実用化されているデジタル技術の例」です。
「デジタル技術を利活用し、電話やインターネットによる消費者被害の未然防止を支援」として「（1）迷惑電話フィルタ、迷惑SMSブロック」を紹介しています。
これは、迷惑情報データベースを用い、特殊詐欺に関する電話やSMSをブロックする技術です。
次に「（2）ウェブ上の広告ブロック」を紹介しています。
これは、ウェブサイトやアプリ上に表示される広告をブロックし、閲覧したいコンテンツのみ表示する技術です。
次は「（3）インターネット詐欺セキュリティソフト」です。
インターネット上の詐欺サイトを自動検知し、消費者に対し、アラートをスマートフォン上等に提示することが可能なセキュリティソフトのことです。
次は「（4）不正注文検知、不正アクセス検知等」の技術です。
ECサイト等を運営する事業者側において、不正な注文であることを検知したり、不正なアクセスであることを検知することが可能な技術のことです。
次は、「パーソナルデータを蓄積して適切に取り扱えるようにする」技術として「（5）家計簿アプリ」を紹介しています。
これは、銀行預金やクレジット利用などの金融関連サービスを連携させることで、資産状況を種類ごとに確認することができる資産管理や毎月の家計状況を見える化する等の機能を有するアプリです。
次は「（6）同意管理ツール」です。
これは、事業者が自らのウェブサイトに導入する形で、消費者に対し、パーソナルデータの使用について、「同意」や「オプトアウト」の機会を提供できる技術です。
次は、「パーソナルデータを露出させないことにより消費者被害を防ぐ」技術として「（7）プライバシー保護アプリ」です。
パーソナルデータの不正利用防止のため、消費者がダミーのメールアドレスを作成することができる技術です。
次は、「危険な状況から物理的に距離を置く」技術として「（8）ドアホン」を紹介しています。
消費者がボタン押して、ドアホンが「用件を言ってください」など代わりに応答することで、悪質な家庭訪販等の対策に利用できる機能に加え、ネットワークに接続する機能が入ったものです。
次は、「デジタル技術による見守りにより被害を防止」する技術として「（9）IoT型高齢者見守りシステムサービス」を紹介しています。
これは、IoTに対応した住宅設備、家電機器等が、電気・ガス・水道等の社会インフラ・各種サービスと連携するスマートホームを活用して、高齢者を見守るサービスの提供のことです。
次は「（10）高齢者向け見守りコミュニケーションサービス」です。
高齢者の孤独感の解消や健康増進を目的としたコミュニケーションロボットを活用したサービスの提供です。
コミュニケーションロボットの裏側にはオペレーターが配置されており、ロボットを通じて高齢者とのやり取りが可能になっています。
「デジタルディバイドの解消、デジタルデータの保存」として「（11）マルチモーダル対話エージェント」があります。
消費者の視覚や聴覚等の情報を統合解析・制御し、消費者と自然な対話を行うマルチモーダル対話エージェント、いわゆる対話型AIの提供です。
「2 検討・実験中のデジタル技術の例」です。
検討・実験中のデジタル技術の例として「（1）オリジネーター・プロファイル」があります。
オリジネーター・プロファイル技術は、インターネットのニュース記事や広告などの情報コンテンツに発信者の電子署名を付与する技術です。
現在、オリジネーター・プロファイル技術研究組合というところが開発を進めています。
次に「（2）偽・誤情報への対応」です。
偽・誤情報をデジタル技術により対策する方法としては、現時点では、発信者情報の自動提示、オリジネーター・プロファイルの活用、偽・誤情報データベースを構築し、消費者が偽・誤情報と接触していることを可視化し、意識させることなどが考えられます。
総務省では、インターネット上の偽・誤情報の流通リスクに対応するため、「インターネット上の偽・誤情報対策技術の開発・実証事業」を通じて、対策技術の社会実装を推進しています。
次に「（3）ダークパターンの検出」です。
ダークパターンの検出技術については、2019年の研究を紹介しています。これは、消費者の買い物の流れをシミュレーションするプログラムを作成し、ショッピングサイトを巡回させて、商品ページのソースや当該ページの状況変化に合わせたスクリーンショットなどを採集し、ダークパターンの可能性を判別するという研究です。
次に「（4）パーソナルAI」についてです。
パーソナルAIは、一般的に利用者本人に専属して本人のパーソナルデータの管理運用を代行し、本人に集約されたパーソナルデータを活用し、本人をサポートするものです。
現時点では、パーソナルAIの普及には一定程度の時間を要するとされ、品質やリスク管理も同時に普及させる必要があることが指摘されています。
ここまでが消費者をエンパワーするデジタル技術の実例の紹介です。
「第3 消費者をエンパワーするデジタル技術の更なる利活用に向けた課題」。
消費者をエンパワーするデジタル技術のさらなる利活用に向けては、少なくとも以下の課題について検討が深められることが重要としています。
「1 事業者の信頼性の確保、デジタル技術の品質の担保」です。
事業者が提供するデジタル技術を消費者が安心して利活用するためには、事業者の信頼性が確保され、提供される製品・サービスの品質が担保されることが必要です。
そのための方法として、どのようなものが適切かを広く検討していく必要があります。ここではその例をお示ししています。
「2 デジタル技術が抱え得るリスクへの対応」です。
デジタル技術の利活用に際してのリスクとして、幾つかの例をお示ししています。
例えば、消費者がパーソナルデータを提供する場合、その取扱いに関するリスクについて記載しており、これについては、関係行政機関や事業者団体においてガイドラインを作成しているものを紹介しております。
その他、幾つかの指摘を紹介しています。
「3 デジタル技術の開発・実装に向けたインセンティブの方策」です。
消費者をエンパワーするデジタル技術の開発や実装の進展を促進する上では、事業者にとってのインセンティブを付与するという視点が重要になります。
事業者にインセンティブを付与する方策として、例えば認証制度や表彰制度、地方公共団体との連携した取組が考えられると紹介しています。
「4 デジタル技術の利活用に係る法的責任の整理」についてです。
万一、消費者に何らかの被害が発生した場合に、誰がどのような法的責任を負う可能性があり、その責任をどう果たしていくことが求められているのかという点について、事業者の予測可能性を高め、デジタル技術の利活用を促進するとともに、消費者の不安や懸念を軽減させることが重要です。
そのため、AIを利用して提供した助言や情報に誤りがあった場合などの法的責任や消費者への補償の在り方、製品・サービスの契約時の情報提供の在り方等について整理されることが必要であると考えられます。
「5 パーソナルデータの取扱いに関する対応」です。
ここでは、通知、同意とオプトアウトとパーソナルデータへのアクセスについて記載しています。
通知、同意の在り方には様々な議論があるところ、少なくとも消費者が望まなくなったときには、情報の利用・提供を停止、いわゆるオプトアウトできることが重要であり、デジタル技術の進展に即した見直しの検討を行うことやデジタル技術の利活用が望まれます。
パーソナルデータへのアクセスについてですが、事業者が提供するアプリやウェブサイトといったユーザーインターフェースでは、利用者が取引の記録を残すことができなかったり、ダークパターンが含まれていたりすることがあります。
しかし、事業者がサービスをAPIとして提供する場合には、APIの提供者ではなく、APIの利用者である消費者の側にあったユーザーインターフェースを用いることができます。
そのため、消費者が何らかのアプリで取引の記録を取ることができ、また、ダークパターン等をなくすことができるので、API連携は消費者をエンパワーする効果があると考えられます。
「6 消費者によるデジタル技術の利活用に向けた支援」です。
ここでは、消費者がデジタル技術について理解を深め、利活用しようと思うための方策としての例をお示ししています。
消費者教育・啓発等、消費者をエンパワーするデジタル技術に関しては、必要性や有用性について、消費者に啓発等をしていくことが重要です。
次に、担い手不足をデジタル技術で補うという視点です。
特に地方においては、人口減少や民間組織を含め、地域ネットワークを維持するための担い手不足が深刻な状況にあります。
担い手不足を補う観点から、支援が必要な消費者の見守り等にデジタル技術の利活用を検討することが考えられます。
次に、事業者の評価、技術的モニタリング等を行う消費者団体、市民団体等の育成・支援です。
消費者の選択に資するよう、消費者団体や市民団体等が専門性を獲得し、消費者の側に立って消費者をエンパワーするデジタル技術を利活用する事業者の評価や技術的モニタリングをするなどの役割が期待されています。そのような団体の育成・支援をするための取組を検討することが考えられます。
以上が「第3 消費者をエンパワーするデジタル技術の更なる利活用に向けた課題」です。
最後に「おわりに」として第1で挙げた5つの論点について、今回紹介した事例の中から対応する技術を紹介しております。
また、参考資料2として、「専門調査会において公募したデジタル技術の取りまとめ」を掲載しております。これは、本専門調査会の参考とするため、消費者をエンパワーするデジタル技術を用いた製品・サービスまたはそのようなデジタル技術の研究等の取組を広く募集したものです。
募集期間は、本年6月27日から9月13日で8件の応募がありました。実用化されている技術の例として6件、検討・実験中の技術の例として2件です。
詳細は参考資料2を御覧ください。
以上で、報告書（案）の説明は終わります。
○橋田座長 ありがとうございました。
では、意見交換に入りたいと思いますが、星野委員は、時間が限られているということですので、まず、星野委員から全体を通して御質問、御意見等がございましたら、お願いいたします。
○星野委員 御説明ありがとうございました。
これは、別途、事務局のほうとやりとりしておりまして、私のほうの意見を結構入れていただいておりまして、先ほどの事業者に対するインセンティブ設計、これは非常に重要でございます。これは、消費者委員会の本会議でも、何度も申し上げているところでございますが、保護制度で対応できないものに関しましては、事業者の取組を基本的には活性化することは必要でございますが、自主的な取組というのは、なかなか難しいということがございますので、認証制度、表彰制度というのを設けてほしいということは、他のこちらの会議以外でもかなり申し上げておりまして、他の事例でございますと、ホワイト500とか、そのようなものも36ページにございます。あと、消費者庁がやっている特保制度自体は、非常に重要な、健康を促進するような食品に関して、それをきちんとラベリングするということで、これを認証することで消費者が複数の材からより望ましいものを選択することになっていると思います。
次の37ページに、消費者志向経営優良事例表彰というのが、消費者庁でされておりますが、一応、これがあるとはいえ、あくまでも企業に対する表彰でありますので、是非、様々なデジタル、非デジタルの前半のほうで述べられているような取組、また、今後、様々な技術が出てくると思いますが、消費者側が選びやすいような形で、この制度、事業者というよりは、このサービスはよいと、だから選ぼうと思っていただけるような形でラベリングができるとよいかと思いますので、是非そのような制度を、この委員会で様々なデジタル技術が取り上げられて、これは優良だということが分かってまいりましたので、是非そのような制度を消費者庁等がつくっていただけることを期待したいと思っております。
また、最後のほう、API連携の話がございましたけれども、39ページ辺りでございましょうか。そのデータが誰のものかというものに関しまして、OECD諸国におきましては、例えば、取引関係のデータだとか、決済データというのは、基本的にそれを行った個人側のほうに、そのデータの権利があるということが明確化されているわけですが、そのようなものが我が国にはないと、ほぼ全てのOECD諸国、ブラジルなどでもそういったことが権利として認められているわけですが、それが曖昧だということに伴って、消費者側のほうが、自分の様々な決済情報を取得し、それに基づいた様々な保護のプログラムができないということになると非常に困りますので、是非これに関しても、これは金融庁等ということになると思いますけれども、金融庁、消費者庁、経産省辺りのほうで、是非このような問題を、御認知いただきまして、アクセス権に関して明確化するということと、このようなデータを個人が使えるような形にしていただくことが必要かと思いますので、こちらのほうにも記載されておりますけれども、是非これを御検討いただきたいと思いますし、今、記載をいただいたことは非常に望ましいことだと考えております。
ありがとうございました。
○橋田座長 ありがとうございました。
では、改めて、第1について皆様から御質問、御意見等を伺いたいと思います。
御発言のある方は、挙手ないしはオンラインの方はチャットでお知らせください。20分程度議論したいと思います。よろしくお願いします。
まず、私から、6ページから7ページにかけて（1）から（5）までありますけれども、（4）のパーソナルデータの取扱いの話は、（2）と（3）とも関係しているわけで、取得したパーソナルデータを使って、ターゲティング広告などによって、消費者の行動を操るとか、あと、カウントダウンタイマーとかのダークパターンでパーソナルデータが使われているかどうか、よく分かりませんけれども、使われる余地はあるのだろうと思います。
ですから（4）のパーソナルデータの話は、そのデータが消費者の行動を操作するために使われるのがまずいので、どのような影響を与えているかというところで、その辺りを少し言及したほうがいいのではないかと思います。
ほかの方、御意見、御質問等ございますでしょうか。
では、坂下委員、お願いします。
○坂下委員 御説明ありがとうございました。
私は、ここの第1ところは、今、橋田座長が御指摘された（4）の部分なのですが、現在、個人情報委員会で3年ごとの見直しを行っており、今後改正される余地があり得る部分でもあります。
消費者の観点から見た場合の論点、課題について、消費者委員会事務局のほうから個人情報委員会事務局のほうに共有をしていただいて、今後の議論を深めるという観点もあるのではないかと思います。
ここまできれいにまとめてありますので、そのようなことをやっていただけたらと思います。
私からは以上です。
○橋田座長 ありがとうございます。
では、森座長代理、お願いします。
○森座長代理 ありがとうございます。
先ほどの橋田先生の御発言に関してなのですけれども、誠に重要な御指摘をいただいたと思いますけれども、操作はもちろんよくないことのトップなのですけれども、もう一つ、並びで言われているものとして、不当な差別的な決定をされると、プロファイリングをされるということが問題だとされています。
抽象的に言うと、自分はこれが悪いと思うと、いやいや私はこっちのほうが悪いと思うみたいな話になりますので、加筆していただくのが適当だと思うのですけれども、（4）の5行目ですかね、「パーソナルデータを外部送信している状況があり得るが」というところで、パーソナルデータを外部送信している状況があると、これは、めちゃめちゃありますので、それはあると書いていただいて、それにより、そのような情報は、従来は行動ターゲティング広告やレコメンデーションに用いられてきたけれども、近時は、それを超えて内定辞退率のような不利益な情報を生成したり、投票行動を操作することに用いられたりして、つまりその外部送信されたパーソナルデータの濫用的な事例というのが見られるので、それらの問題について整理をすべきではないかと書いていただくのがいいのかなと思っています。
日本の場合、外部送信されたデータベースを使って行われた一番顕著な事例は、リクナビ事件で、こちらが内定辞退率を算出して採用企業側に売るという、結構、誰が聞いても問題なのではないかなと思うようなことだったわけですけれども、操作ではないのですね、不利益プロファイリングをする。今後、そういうことはどんどん起こってくると思いますので、それについて釘を刺しておくこと。
それで、投票行動の操作ですね、実は、これは、私は日本でも行われていると思っていますけれども、騒ぎになったのは、ケンブリッジ・アナリティカですので、そんな感じで並列して書いていただくのがいいのかなと。操作はめちゃめちゃ悪いのですけれども、操作と書くと、いや、それだけではないだろうという御意見もあると思いますので、操作と、不利益プロファイリング、差別的プロファイリング両方を書いていただくのがいいかなと思いました。
以上です。
○橋田座長 ありがとうございました。
ほかに御意見、御質問がありましたらお願いします。
では、原田委員、お願いします。
○原田委員 ありがとうございます。
そこの画面の（5）のところなのですけれども、決済や取引情報について速やかに異常を検知できることということで、取引のサイト画面を消費者が保存できることが、異常を検知できることの、何か直接関係が出てくるのかなというか、記録を残すことは、そのとおりなので、記録を残してデジタル技術を把握するのですけれども、前半の不正な入出金というのは、本人は契約していないところで、勝手に成り済ましで使われてしまうケースなので、一緒ではないかなと、一緒の括弧にしてしまうのはどうなのかなと、読み返したときに、全然これでも構わないのですけれども、本人が契約したものと全く契約していないのに勝手にお金を使われてしまったというのは、ちょっと別の話なので、それは括弧を分けたほうがいいのかなと思ったということ。
あと、検知できることと、本人が通知で知ることというのは、すごく細かいことのようですけれども、少し違うかなと思って、検知するのと、本人がそれを知ることというのに若干のタイムラグがある可能性があるので、本人が気づかなければ検知されていてもそれを見ることができないので、検知と本人が知ることというのは、併せて、ここに異常検知できることという意味として含ませていただくという考え方が、いいかなと思いました。
○橋田座長 ありがとうございます。
ほかの方、いかがでしょうか。
既に非公開の場で何回か議論しておりますけれども、今日は初めての公開ということなので、非公開の場でおっしゃったことを、もう一回強調していただくのでも構いませんが。
よろしいですかね、文章も大分こなれてきて、皆さんあまり引っかからなくなったという感じもしますけれども。
では、第1に関しては、御意見が出尽くしたような感じなので、第2に移りましょうか、第2に関して、これは結構長いですけれども、御質問、御意見などがございましたらお願いいたします。これも20分ぐらい議論できればと思います。挙手またはチャットでお知らせください。
では、坂下委員、お願いします。
○坂下委員 第2の部分につきましては、今回、事例がたくさん集まってよかったなと思います。
一方で、技術というのは進歩していくものなので、こういうものというのは定期的に見直さなくてはいけなくて、啓発を目的とするのであれば、定期的にこういうものの見直しを、是非進めていただきたいと思います。
インターネットでもリアルの世界でも、リスクを避けるやり方というのは、接近を制御することと、次に、監視を確保することと、更に領域を確保するということだと思います。
今回のこの各事例というのは、接近を制御することと、監視の確保と領域性の確保に寄与するものが多いと思うのです。それが技術の進展とともにどう変化していって、どう実装すればより効果が出るかという議論まで細かく砕いていかないと、消費者のリスクというのはなくならないと思います。
そういう議論の場を、是非消費者委員会には継続的に持っていただいて、ブラッシュアップをしていただきたいと思います。
以上です。
○橋田座長 ありがとうございました。
ほかに、御意見、御質問はいかがでしょうか。
今の話に少し関係するのですけれども、技術は進歩するわけで、特にサービスにAIを使っていると、AIが学習をして、どんどん能力とか応対の仕方とかが変わっていくので、そうすると、発生し得るリスクが目まぐるしく変わるみたいなことがあり得るわけですね。
ですので、すごく、こういうリスクがあるからこうしましょうみたいなことを、年単位で議論をしていてもしようがなくて、もっと素早く対応できるような体制が必要になってくるのだろうと思います。
今回の委員会では、そこまであまりちゃんと議論できませんでしたけれども、時々御紹介しているAIの管理に関する標準化の中では、今、そういう議論をしようとしているところです。
つまり、いろいろなサービスの利用のログを取って、そのログをローカルに使って、それぞれのシステムを管理するというだけではなくて、そのログを世の中から広く集めて分析することによって、全体として、どのようにサービスの様子が変わっているかとか、各サービスがどのようになっているかみたいなことを常に評価し続けて、かつ、その評価の仕方も進歩させなければいけないので、その評価の場あるいは評価システムの開発とか、メンテナンスのところでも、日々の学習とイノベーションが必要であるということになってくるのだろうと思います。
そういう話を始めると、報告書は収束しないので、どこか適当なところを見つけて、脚注にでも少しそういう話を入れられればなと。国際標準化のところに少し書き足すというのでもいいかもしれませんけれども、AIがもっと世の中に広がってきて、普通に一般の消費者に対してサービスをすると、そういうことを本格的に考えないといけないのだろうと思います。
ほかにどなたか、御意見、御質問はございますでしょうか。
田中委員、お願いします。
○田中委員 ありがとうございます。報告書をおまとめいただき、お疲れさまです。
重要な点のリピートになってしまうかもしれませんけれども、改めて重要だと思われる点を幾つかコメントしたいと思います。
ダークパターンの影響に対してなのですが、やはり消費者自身が問題を認識して対応することの難しさということが、明示的に指摘されているということと、それから認知過程に介入する販売方法を放置してよいのかという倫理的、規範的な問題を投げかけているという点が、今後の議論にもつながる重要な論点であると改めて思いました。
また、この報告書においては、消費者をエンパワーするデジタル技術、その必要性を強調するものになっていると思いますし、発表の機会をいただいたときに海外の研究動向を御紹介しましたけれども、やはり皆さんの御関心があるのは、日本の状況かと思いますので、今回、公募で明らかになった、日本での自動検知技術開発の御研究ですとか、最近の一般社団法人ダークパターン対策協会の設立についても、この報告書に盛り込んでいただいたということが、この報告書の重要な点ではないかと思います。
一方で、このような動向がまだ始まったばかりですし、また、ケース技術を用いた日本の消費環境では、ダークパターンの現状把握というのは、まだ行われていないと認識しておりますので、先ほど坂下委員や橋田座長から御指摘があったように、今後の動向を把握してブラッシュアップしていくということが同時に重要であると思います。
私からは以上です。
○橋田座長 ありがとうございました。
では、次は、森座長代理、お願いします。
○森座長代理 ありがとうございます。
ここもしっかり書いていただいていると思うのですけれども、具体的には、27ページに偽・誤情報への対応というのがありまして、先ほど田中先生御指摘のダークパターンの検出の少し前なのですけれども、これもしっかりとお書きいただいたのですが、引用として、偽・誤情報対応全体についての脚注引用として、総務省の情報空間の健全性に関する検討会の取りまとめが出ておりますので、それを引用していただくのが適切ではないかと思います。法制度的な具体的な提案までは行っていなくて、その後継の検討会で、それをやるようなのですけれども、既に取りまとめが出ていますので、総務省の情報空間の健全性に関する検討会の取りまとめを脚注でつけていただくのがいいのではないかと思います。
以上です。
○橋田座長 ありがとうございます。
では、鳥海委員、お願いします。
○鳥海委員 すみません、もっと前に気づいておかなければいけなかった点なのですが、このページです。
このフィルターバブルとエコーチェンバーの脚注のところなのですけれども、これが逆になっているのに、すみません、今、気づきまして、フィルターバブルの説明が、これがエコーチェンバーの説明になっていて、エコーチェンバーの説明がフィルターバブルの説明になっておりますので、こちらの入替えをお願いできればと思います。すみません、もっと早く気づくべきところを申し訳ございません。
○橋田座長 ありがとうございました。
ほかの方、いかがでしょうか。
これも既に少し議論した話ではありますけれども、ここに様々な消費者をエンパワーする技術の例が書かれておりますけれども、この中には、例えば、ダークパターンとか、そういうまずいものを検出して対処するという類いの技術と、問題が生ずる原因をそもそもなくしてしまうという、そういうもっと根本的なアプローチと両方あります。
そのまとめは、この第2部には書かれてなくて、最後の附録でしたか、「おわりに」の後の表のところにまとめられているので、そこを見ていただくといいのですけれども、大ざっぱに言って、そういう2種類のアプローチがあるということと、当分の間は、対症療法というか、現象を検出して対処するということは必要なのですけれども、中長期的には、根本的に問題をなくすことを考える必要があるということを改めて確認しておきたいと思います。
それをやっても、問題が全くゼロになるわけではないので、やはり継続的な取組が必要になるということではありますが、全体としては、そういう2種類のアプローチがあって、両方の組み合わせが必要で、中長期的な取組としては、問題そのものをなくすということが重要だということを指摘しておきたいと思います。
では、森座長代理、お願いします。
○森座長代理 ありがとうございます。
こういうエンパワーするデジタル技術についての分類論も、今後の検討を深める上では重要で、今の橋田先生の御指摘は全くごもっともだと思って伺っていたのですけれども、もう一つその分類について申し上げますと、消費者に仕組みを認識させつつ、消費者の理解を深めつつ消費者を守るものと、消費者の理解を深めるわけではないのですけれども、自動的に、気づかれないうちに、スムーズに消費者を守るものという2つの分類があり得るのではないかと思っています。
目次のところを御覧いただきますと、第2の1、実用化されているデジタル技術とか、検討・実験中のデジタル技術でいきますと、例えば、1の実用化されているほうの家計簿アプリとか、同意管理ツールとか、こういうのは、ある意味、消費者のリテラシーを高めつつ、自分がどういうところに、家計簿のほうですけれども、どういうポートフォリオを持っているのかということを理解しつつ、トータルすると、こうなのだと、そして、このようにトータルするといろいろなことが分かるし、また、いろいろ有益な情報が得られたりするということを感じてもらいつつできる、アグリケーションサービスというものについての理解が深まる。
同意管理ツールに至っては、これは、もしかすると消費者を保護するというよりは、その事業者側の便利なものなのかもしれませんけれども、その事業者も外部送信の実態が十分に把握できていないときに、法的対応をしなければいけないな、と思って入れてみたら、なるほど、このようになっているのかということが分かる。
それで、検討・実験中のほうで行きますと、例えば、ダークパターン検出などというのは、ちょっと分からないですけれども、これはダークパターンだから注意してくださいと言われると、それについて、なるほどこういうものは、こういうカラクリになっているのだなということが消費者に分かるのかもしれません。そんなに厳密には、もしかしたら分類はできないのかもしれませんけれども。
それに対して、実用化のほうの1の（1）と（2）のブロック系というのは、これは消費者に気づかれないうちに、さりげなく守ってあげるという仕組みだと思いますし、どちらも意味のある重要なものだと思うのですけれども、そういう違いがあるということを検討する際に考えておくことは、結構重要なのではないかと思います。
特に、デジタル・シティズンシップ、総務省のICTリテラシーの底上げの検討などについては、ユーザーとして、うまくそのサービスを使っていく、危険な目に遭わないという、これまでのユーザーリテラシー像から、一歩踏み込んで、インターネット全体のことが分かるICTリテラシーを高めるというリテラシー像を描いていますので、そういうところにも貢献できるようなものも、もちろん、そこに貢献しなくてはいけないというわけではなくて、それは、場面場面によって適切なものを使えばいいということだと思うのですけれども、分類論としては、それもあり得るかなと思いました。
以上です。
○橋田座長 ありがとうございます。
ほかに、御意見、御質問はございますか。
その話に関連して、これは報告書に書いたほうがいいという話でもないのですけれども、消費者の理解を深めることによって消費者を守るというアプローチと、消費者が気づかないうちに守ってしまうというアプローチ、両方とも必要ですけれども、やはりいいバランスというのはきっとあるのだろうと思います。
理解を深めて本人に気をつけてもらうというのは、どこかで認知限界に突き当たってしまうおそれがあるわけですし、気づかれないうちに守るというと、本人の自覚が形成されないというリスクもあるということで、どこがいいあんばいなのかというのは結構、難しい問題であるという気がいたします。
ほかに御意見、御質問がございましたらお願いします。
よろしいですかね。思ったより大分早く進んでしまっているのですけれども、後でまた戻って御意見をいただいてもいいので、第2については、大体御意見が出尽くしたと思われますから、第3に移りたいと思います。第3に関して御質問、御意見等ございましたら、よろしくお願いいたします。挙手または、いつものようにお願いいたします。25分程度です。
松前委員、どうぞ、お願いします。
○松前委員 まず、報告書の御作成をどうもありがとうございました。大変分かりやすくまとまっているかと思います。
私からは、この専門調査会では、個人情報保護の観点から、特に通知・同意をめぐる課題などについて報告をさせていただきましたので、その観点から2点ほどコメントをさせていただければと思います。
1つ目が、報告の際にも申し上げたように、個人情報の利用について、本人に通知をして本人の同意を取るというのは、大変重要な手続なのですけれども、実際には、例えば通知、プライバシーポリシーを、多くの方はあまり読んでいないとか、読んでも分からないとか、また、本当に真の同意ができているのかといった課題がございます。こうした課題というのは、法的には、法に則った通知や有効な同意が確保できているのかという問題に、結局は帰着していくのですけれども、ただ、報告の際にも申し上げましたとおり、やはり消費者の実態というものをよく踏まえて、消費者の実態に即して、通知や情報提供の在り方、同意取得の在り方を考えていくというのは、消費者保護という意味においては、非常に重要なことだと考えております。
そういう意味で、今回、報告書の39ページのところで通知・同意をめぐる課題や、40ページのところでプライバシーポリシーの問題などを、今後の課題として取り上げていただけたというのは、非常に消費者保護の観点からは有意義であるものと思っております。
2点目のコメントになりますけれども、ただ、そうは申しましても、この報告書でも的確に指摘されているように、39ページの一番上の（1）のところ、そもそも同意自体をダークパターンが妨害してしまう、あるいは、30ページの注の35に出ているように、例えば、消費者をエンパワーメントするパーソナルAIが、消費者の意思決定に様々な影響を及ぼしてしまうおそれがあるなど、結局、この消費者の意思をめぐる課題というのは、これからも残り続けると思いますし、むしろ今後の技術の進展に伴ってより深刻化していくということも考えられます。ですので、今後も、個人情報の利用についての通知・同意も含め、より一般的な消費者への情報提供や同意の在り方、消費者の意思決定への介入の問題等について、継続的に検討を深めていくことが必要であろうかと思っております。
私からは以上です。
○橋田座長 ありがとうございました。
ほかの方、どうぞ御意見、御質問をお願いします。
原田委員、お願いします。
○原田委員 ありがとうございます。
今回は、消費者をエンパワーするデジタル技術の専門調査会ですので、消費者をいかにエンパワーするかということで、初めのほうに書いていただいたように、圧倒的な技術力の差があるという点を明記していただいた上で、どういうエンパワーをする方法があるかということを、いろいろ議論してきたわけなのですけれども、ですので、やはり消費者被害に遭わないための技術的な差を埋めるための、AIの活用みたいなことをメインに話してきたので、メインの議論からはずれるかもしれないのですけれども、結局、検知されたりとか、知ったりとか、ダークパターンとかも含めて、いろいろ消費者が認知したとして、何か問題が発生したときに、やはり検知したとしても救済されるかどうかというのは、また問題として発生するのだと思うのです。
そうすると、やはり救済の技術に関しましても、やはり今後は必要なのかなと。例えば、クレジットカードの不正利用が検知できますというのは、非常にすばらしいことではあるのですけれども、では、検知されたら絶対にそれは補償されて、お金が返ってくるのかといったら全く別問題で、不正な理由がされたと言っても、結局、カード会社に言ったら返してくれないとか、某カード会社さんで、夏ぐらいに発生したのですけれども、カード番号を変更しても請求が続くとか、それを請求されてしまうとかという、結局救済には、直接には当たらない、検知していたからといっても救済には直接当たらないと。
そういうのが現場的に出てくると、やはりそこに救済の技術というのも必要なのかなと。例えば、検知されたのであれば、それは不正だから返してもらえるとか、補償してもらえるとかという担保があったりとか、あとは座長の資料にあったように、サブスクの解約をしますとかというと、では解約しましたと同じように、例えば、最終的には、通信販売とかに関しては、悪質な定期購入とかダークパターンで契約させられたようなものに関しましては、クーリングオフ制度みたいな、要は、最終的には法改正になってしまうわけなのですけれども、そういうことで通知1つで解除ができるみたいな、そういう救済の方法というところも、今後の課題としては技術的に何とかできれば、全方面で安全になるかなと感じたということです。
以上です。
○橋田座長 ありがとうございます。
API連携の話がありましたが、救済みたいな話も、APIのところに入れることができると、いいのではないかという気がしました。
標準的な形式のAPIとして、いろいろなサービスが公開されていて、公開されたAPIの内容が整っているというか、サービスの内容だけではなくて、退会の仕方も簡単で、APIのURLをたたくと退会できるとか、あと、まずいことが起こったらば、このように弁償してくれるとか、そういうことを含めた、総合的に消費者を保護できるような、一通り道具がそろっていますよという、そういうAPIというのが標準化されて、みんながそれを公開して、それが使われているという世の中にするのが、理想なのではないかという気がいたしました。
○原田委員 そうですね。だから、せっかくAPIで連携するのなら、双方向でできればいいなと。例えば、振り込んでしまったものも、例えば、それが詐欺の口座だったらば、組戻しができてしまうとか、そういうことまでできるみたいなAPIだったらいいなと思いました。
○橋田座長 ありがとうございます。
ほかに、御質問、御意見ございますでしょうか。
森座長代理、お願いします。
○森座長代理 たびたび、すみません。
先ほど鳥海先生から、これは先に指摘しておくべきであったというのは、私も気づきませんで、それほど大きなことではないのですけれども、これも申し上げておけばよかったのですが、先ほど、松前先生から御指摘のありました、39ページの「（1）通知、同意とオプトアウト」のところです。
ここで、少し細かいことなのですけれども、2段落目で、通知・同意の在り方には様々な議論があるところ、少なくとも消費者が望まなくなったときには、情報の利用・提供を停止できることが重要であるとありましたが、ここに、やはり利用・提供の前に、取得・利用・提供ということで、やはりどんどん取得がそのまま続いてしまうということは、いろいろな場面で問題になっていますので、取得も入れていただくのがいいのではないかと思いました。
以上です。
○橋田座長 ありがとうございます。
ほかの方、いかがでしょうか。
これは、第3に入れるべき話かどうか、ちょっとよく分からないのですけれども、パーソナルAIとも関連しますが、いろいろなサービスを評価する仕組みが必要だという話、先ほど、第2のところに関する私の発言でも触れましたけれども、サービスを評価するようなアプリとかサービスというのが、きっと必要で、そのアプリは常にデータを集めて分析することによって改良され続けなければいけないというお話をしましたけれども、そういうことを、この第3のどこかにちらっと入れられるといいなと思いました。
それは、事業者のインセンティブとして、そういうサービスを評価するようなアプリを提供するというビジネスもあり得るのでという話は、以前にしたような気がしますけれども、そういうものも認証とか表彰の対象にもなり得ると思いますし、結構もうかるのではないかという気もしますので、そういう話も入れたらいいかなと思いました。
ほかに御意見、御質問がありましたらお願いします。
では、坂下委員、お願いします。
○坂下委員 ありがとうございます。
私、1点だけで、先ほども話題になった39ページの通知、同意とオプトアウトのところですけれども、3年ごとの見直しで、やはり個人情報委員会も議論していますので、消費者側のほうで議論をすると、こんなことが出ていたというものは、是非共有していただいて、よりいい制度にしていただきたいと思います。
私からは以上です。
○橋田座長 ありがとうございました。
では、鳥海委員、お願いします。
○鳥海委員 ありがとうございます。
細かい点なのですけれども、38ページのデジタル技術の利活用に係る法的責任の整理というところで、2段落目ですね、AIを利用して提供した助言や情報に誤りがあった場合の法的責任や消費者への補償の在り方、製品・サービス契約時の情報提供の在り方等について整理されることが必要であるという文言のところに、これによって法的責任等がかなり強調されているところかなと思いますので、一方で、AIの利活用というのは、これから促進するべきところでもあるということを踏まえると、AIの利活用が萎縮されることがないような形でという文言を加えていただいたほうがよろしいかなと思いました。
以上になります。
○橋田座長 ありがとうございます。
ほかには、いかがでしょうか。
利活用が萎縮する、これは、供給と需要がマッチする必要があるので、適度なレギュレーションが必要なのだろうと思いますけれども、何が適度かというのは、いろいろな状況によるので、一概には言えませんね。
では、森座長代理、お願いします。
○森座長代理 今の橋田先生のおっしゃろうとしたことだと思うのですけれども、もちろん私も萎縮してはいけないと思っていますし、鳥海先生の御意見に反対というわけではないのですが、坂下さんからお話のあった3年見直しなどの文脈でいきますと、どんな法制度であっても、とにかく導入すると、それは萎縮が生じるのだという意見が、非常に経済団体からは有力にといいますか、精力的に展開されていて、バランスがどうとかということではなくて、何か制度を導入しようとすると、例えば、それがグローバルスタンダードなものであっても、導入しようとすると、利活用が萎縮するから反対であるという言説になっていることは情報共有をさせていただこうと思います。
○橋田座長 ありがとうございます。
バトルの様子は、時々聞いていますけれども、よろしくお願いします。
サービスを提供する側と、利用する側両方にサービスが生んだ価値が適正に配分されなければサービスは持続しないはずで、だけれども、事業者側の意見を見ていると、事業者側の利益ばっかり考えていて、利用者の利益はあまり考えていないなと、何か自殺行為のような感じもいたします。
ほかに御意見、御質問がございましたら、お願いします。
山口委員、お願いします。
○山口委員 ありがとうございます。
報告書を拝見いたしました。ありがとうございます。
1点質問というか、御検討いただけないかという点がありまして、1つそこが、41ページ目の消費者教育・啓発等のところなのですけれども、質問としては、最後の段落の最後の文章の中に、消費者教育の推進に当たって、小学校から専門学校まで、学校の形態が並んでいる後に、職域という単語が急に出てくる状況にあるように思いました。
実際、消費者教育・啓発をするということは、消費者はジョブマーケットに出れば、事業者側に回るわけで、やはり消費者教育をきちんとすることによって、事業者として働く人たちが消費者の立場を分かった上で、ビジネスに取り組むことで、より自分たちの利益も考えつつ、消費者の厚生も考えられるようになるということを祈っているのだろうと思うのですけれども、少しこの単語が急に出てきているような気がしていて、しかも今まで学校の形態のように、すごく細かく段階が確かに分かれているように見えるのに対して、職域だけ各段階に応じたというのが、一体どういうものをイメージされてこの単語を入れたのかというのが、ちょっと読み取れなかったので、どういった職域を想定されて書いたのかというのを教えていただきたいと思って発言をしました。
○橋田座長 これは、事務局から御説明をいただくのがいいですか。
○江口企画官 事務局です。
ここの部分は、社会人としても、それぞれの職域において、消費者教育というのは、実践されるべきではないかということを書いているつもりでおります。
○橋田座長 つまり、職域でも消費者としての教育を受けると。
○江口企画官 はい。
○山口委員 もう少し、せっかく書いていただけるのであれば、確かにここに書かれているように、消費者としてきちんと啓蒙を受けることによって、事業として働く場合においても、事業別にトレーニングを受ける場合にもすごく有用であるということは、確かにそのとおりだとは思うのですけれども、具体的に一体どういう人たちに、どういうことをする、どういう啓発をしていくと、消費者というのはエンパワーされると考えているのかという、その報告書の立場として、その実行具体性みたいなものが欠けてしまっているように見える文章になるのは少し残念だなという印象がありますので、可能であれば、この辺りは、もう少し丁寧に書いていただいたほうが、実行可能性というか、世の中に問うという報告書の位置づけとしてよくなるのではないかと思いました。
以上です。
○橋田座長 山口委員、先ほど消費者として教育を受けても、その人自身が、事業者の側に立つこともあるので、それを通じたいろいろな効果が期待されるみたいなことをおっしゃったような気がするのですけれども、そういった内容を反映するのがいいという感じでしょうか。
○山口委員 そうですね、それを反映していただけるのもいいと思いますし、具体的にそういう人たちが、どういう職域にいる可能性があって、事業者に対して教育をするのであれば、どういう方たちに教育をすると、よりそのエンパワーを推進することができるのかというところが具体的に書かれていると、よりいいのかなと思いました。急に職域という単語だけが出てきてしまうので、少し違和感を感じたというのが理由です。
○江口企画官 分かりました。具体的な例が挙げられるかどうか、少し事務局で検討させていただきます。
○橋田座長 ありがとうございました。
では、原田委員、お願いします。
○原田委員 ありがとうございます。
今の御議論のところなのですけれども、私は、この文章を見ると、職域でも、いわゆる職員に対する消費者教育というようなイメージで、ここはさらっと読んでしまっていたのですけれども、例えば、私もいろいろな消費者教育の講座とかを受け持つのですけれども、例えば、職域で行われる消費者教育というのは、4月とか5月とかに新入社員が入ってきたときに、その新入社員に対して、初めてもらうお給料を悪質業者に渡してはいけないみたいな、何かそういう考えで、消費者教育で悪質商法に、初めてもらうお給料を無駄に使わないようにみたいな、そういう観点で考えていた企業さんとかの事例とかを受けたことがあるので、実際に消費者教育を受けて、自分が就いた職場で、消費者としてできることを事業として反映させるという意味なのか、それとも、私が今考えたように、職域でも、いわゆる今までの学校と同じように、消費者教育として行うという論点なのか、そこは逆にはっきりさせていただいて、それで、こういう事例の1つとして聞いていただいたという感じで、意見をさせていただきました。
○橋田座長 ありがとうございます。
もともと狭い意味で書かれていたのかもしれないですけれども、少し意味を広げて、消費者と事業者を分断しないようなことを考えるというのが、いいのではないかなと思いました。
ほかに御意見、御質問があれば、よろしくお願いします。
よろしいですかね。この第3に関しても、大体御意見が出尽くしたようなので、最後に「はじめに」「おわりに」、参考資料、その他、全体を通じて、事務局からの御説明に対して御質問、御意見等ございましたら、よろしくお願いします。
後で、まとめのところで皆さんに一通り、振り返りの御発言をいただくのですけれども、まだ何人か御発言をいただいていない方がいらっしゃるので、よろしくお願いします。
森座長代理、お願いします。
○森座長代理 すみません、最後に振り返りでとお話がありましたので、では、そこでお話しをしようと思って手を下してしまったのですけれども、もし、お話ししてよろしければ、お話しいたします。
○橋田座長 では、触りを。
○森座長代理 では、触りですけれども、今回の検討と専門調査会の報告書、特に報告書においてですけれども、非常に、ある意味画期的な取りまとめをしていただいているかなと思っていまして、消費者をエンパワーするデジタル技術に関する専門調査会ということなのですが、消費者は、エンパワーする技術というのは、いろいろもちろんあるわけでして、何らかの形で消費者を助けるものも、当然のことながら、技術の進展によってデジタル化されていっているわけなのですけれども、そもそもの消費者保護のところに、やはり、技術、デジタルのなじみの悪さがあったと思いますけれども、それを今回は克服して、しっかりと、まずは消費者が、デジタルの世界において、インターネットの世界において、どういう消費者被害があるかということをニュートラルに書いていただいて、それを踏み込んで、これまでは看過されがちであったところについても、しっかり書いていただいて、さらに対策についても、現在のデジタル技術の状況を踏まえて書いていただいているので、これまで消費者保護に関しては、デジタル的な面での消費者被害に弱いというところがあったと思いますけれども、それが克服された大変いい報告書になったのではないかと思っております。
以上です。
○橋田座長 ありがとうございました。
まだ、御発言いただいていない方は、相澤委員、荒井委員、柿沼委員、山本委員、4人いらっしゃいますけれども、もし何かここで、御質問等ありましたら、お願いします。
よろしいですか、後で、また皆さんにまとめの発言をいただきますが。
ないようでしたら、以上で議論をひとまず切り上げたいと思います。
全体を通して様々な御意見をいただきました。
まず、第1に関しては、7ページの（4）にまつわる御意見が幾つかありまして、（4）というのはパーソナルデータの話ですけれども、これがアテンションエコノミーとか、ダークパターンなどと関係しているという話と、それから、ここで考えたようなことを、個人情報保護委員会にもちゃんと連絡をして、連携してまいりたいという、坂下委員からの御発言がありました。
森座長代理からは、この（4）については、不当なプロファイリング、特に内定辞退率などの問題があるということも書き込む必要がある、それから投票行動を操作するという問題も書き込んだほうがいいのではないかということでした。
その並びで、（5）に関して原田委員から、他人が勝手に契約する場合もあるので、それを踏まえて修正したほうがいいのではないかと。
それから、検知と本人が知るというのは別の話であるという御指摘をいただいています。
第2の部分に関しては、私が評価法を常に改良していく必要があるということを申しました。
それから、消費者をエンパワーするためのアプローチの分類として、問題を検出して対処するというやり方と、そもそも問題の基を消してしまうという分類があるということを申しました。
関連して森座長代理から、別の分類もあって、消費者の理解を深めて守るというアプローチと、気づかないうちに守るというやり方もあるという御指摘もいただきました。
それから、同じく森座長代理から、偽・誤情報への対応に関しては、総務省の検討会の取りまとめに言及するのがいいのではないかという御意見をいただいています。
田中委員から、ダークパターンに消費者が対応できないこととか、認知過程への侵入の問題を指摘したのはよいというコメントをいただいています。
鳥海委員から、フィルターバブルとエコーチェンバーの説明が逆になっているので、修正してくださいということでした。
第3部に関しては、API連携の一環として、標準的なAPIを整備するということの一環として、救済とか、あと退会みたいなこともしっかりできるという設計が望ましいだろうというお話をいたしました。
それから、森座長代理からの御指摘で、利用・提供をやめるだけではなくて、取得も止める必要があるということでした。
松前委員から、個人情報保護の観点から本人同意の問題について、御意見をいただいています。消費者の実態に即した通知、同意、それから消費者の意思をめぐる課題は、これからどんどん深刻化、複雑化していくであろうということです。
森座長代理から個人情報保護法の3年見直しの議論が進んでいる中で、事業者側からどんな制度も萎縮を生むという極端な主張があるので、そういうのは正さないといけないというお話をいただいています。
鳥海委員から法的責任の在り方、それに関連する話ですけれども、AIの利活用が萎縮しないような、いいあんばいのレギュレーションが必要だということを御発言いただいています。
それから、原田委員から検知するだけでは駄目で、救済の技術が課題になっているので、先ほど私が申したように、APIの中で、それがカバーできるといいのではないかというお話です。
消費者教育に関しては、山口委員、それから原田委員から御意見をいただいていますけれども、消費者は事業者側にもなれるので、両方視野に入れて、テキストをちょっと書き直して、消費者と事業者がなるべく分かり合えるような方向を考えるといいのではないかと思います。
それから、時間が遡りますけれども、星野委員から事業者のインセンティブの設計としての認証制度とか、特保みたいなものですね、それが重要であると。
それから、エンパワー技術に関しても御指摘をいただいています。
また、APIとか、データに関する権利が日本では曖昧なので、そこははっきりさせる、はっきりさせる方向としては、この委員会で議論したような方向を、是非推奨したいというお話をいただいています
ということで、様々御発言をいただきました。
ちょっと文章を考えないといけないところもあるのですけれども、報告書（案）については、本日の御議論の反映を私のほうで整理いたしまして、報告書の確定を進めていきたいと思います。その過程で少し御意見をいただいた方に、また、御質問をするかもしれませんけれども、そういう方向で具体的な修正については、座長に御一任いただくということでよろしいでしょうか。もし、どなたか、異議ありということであれば、御意見をください。
（「賛成」の声あり）
○橋田座長 ありがとうございます。
では、私のほうで修正を進めたいと思います。その上で報告書を確定しまして、消費者委員会本会議に報告することとしたいと思います。どうもありがとうございました。
≪2．②AIデモンストレーション≫
○橋田座長 それで、次の議題として、私からパーソナルAIのちょっとしたデモをしたいと思いますので御覧ください。
まず、画面共有をしないといけないのですね。
これは、Windowsで動いているアプリなのですけれども、モバイルでも動きます、Android、iPhoneでも動きます。
例えば、割とそれらしい典型的なやつを探しますけれども、「収入が少なくて小さい子供がいます。お金がもらえますか」と聞くと、AIが、この3つのサービスが関連しますよと答えてくれるというものです。
それで、児童手当と児童扶養手当と、ひとり親家庭と、医療費助成制度ということなので、どれも関連するという、一応正解と言っていいのではないかと思います。これは、あくまでもデモシステムなので、まだまだ完成にはほど遠いのですけれども、うちは収入が少ないとか、小さい子供がいるというのは、実はこのアプリが既に知っているはずであると考えられます。このアプリは、PDSのアプリなので、この手の個人情報は、アプリが既に知っているということが想定されますので、例えば、「子供のためにお金がもらえますか」ぐらいの簡単な質問で、同じような回答が得られるということになるわけですね。ほかにもいろいろあります。
これは、熊本県荒尾市という人口5万人ぐらいの市がありまして、そこと5年ぐらい前からいろいろ一緒にやっているのですが、荒尾市の市役所のウェブサイトをクローリングして、市が市民に提供しているサービスのカタログをつくりました。そのカタログの中に700ぐらいいろいろなサービスがあります。サービスと言っても、単なるお知らせみたいなものもあるので、全部、いわゆる手続ということでは、必ずしもないのですが、700ぐらいのサービスから簡単な日本語で、自分が使うべきサービスを検索することができるという仕組みが、このように動いています。動いているところを見せないといけないですね。何か聞いてみたいことはありますか。何か市役所が提供していそうなサービスに関する御質問を受け付けます。何にしましょうか。
○坂下委員 コロナワクチンとか。
○橋田座長 「コロナのワクチンを打ちたい」と聞くと、結構たくさんありますね、令和6年度もあるのですね、6つ出てきました。一応どれも正解だと思います。
ほかに何かありますか、もう少し難しそうなもの。
○小林事務局長 チャットで森先生がコメントを書いてくれています。
○橋田座長 どういう質問ですか。
○松前委員 「住所がマルマルですが、次の不燃ごみは、いつですか」と。
○橋田座長 住所が、これこれというのは、すぐに住所を思い出せない、すみません、ちょっとそこは省略させてください。
「不燃ごみの日は、いつですか」、これで行きましょうか。
これは、あまり適切ではない答えですけれども、この不燃ごみの日がいつかというのが、カタログに入っているかどうか、すぐに確認できないので、本質的に失敗しているかどうかは、すぐには申せませんが、次に行きますか、ゴムの長靴。
恐らく、この手の情報がカタログに入っていないのではないかと思うのですけれども、「長靴は可燃ごみですか」。これはきっと知らないだろうと。
ちょっとカタログにないみたいですね、すみません、ないものは答えられません。
ほかにありますかね、何かもう少し答えがありそうなものにしてほしい。
「市内に、子ども食堂はありますか」。子ども食堂の新規開設等を支援。あるかどうかは分からないです。市のサービスとしては、熊本県のサービスの下請をやっていますということです。具体的にどういう子ども食堂があるかというのは、情報がないのではないかと思います。
こんな感じでいいですかね。どうもありがとうございました。
それで、あとはいつものスライドなのですけれども、ユーザーと対話して、ユーザーのニーズを理解して、そのニーズを満たすサービスを引っ張ってきてくれて実行してくれるというのが、パーソナルAIで、これは先ほどお見せした画面ですね。
繰り返しですけれども、うちは収入が少なくて小さい子供がいますという部分は、きっと実際には言わなくてよくて、「子供のためにお金をもらえますか」みたいな簡単な質問で、同じような答えが得られるというのが実際の運用になると思います。
それから、今は、各選択肢というか候補に市役所の中のURLが貼ってあって、これをタップすると市役所のページに飛ぶだけなのですが、ゆくゆくは児童手当のところをタップすると、児童手当を受けるための申請書のフォームが出てきて、そのフォームの住所とか氏名とかはPDSの情報で自動的に埋まっていて、二、三足りないところがあって、振込先はどこかみたいな情報を埋めると、そのままオンラインで申請できるというところまでつくろうと考えております。今日、お見せしたのは、その入り口のところだけです。
行政サービスのカタログというのは、大体こんな形をしておりまして、市役所のウェブサイトをクローリングして集まったテキストデータをJSONの形にまとめて、検索可能にしたというものです。こんなものをつくって、これをインデクシングして検索できるようにしております。
これの検索のやり方なのですけれども、先ほどのカタログと、それからユーザーの質問と、これは、今はやっていませんけれども、ユーザーの属性、パーソナルデータを食わせて検索をするのですけれども、このときにエンベディングという最近のAIの技術を使います。単語とか文の意味をベクトルで表現するというやり方です。LlamaIndexというシステムを使っているので、たしか1,536次元のベクトルに変換して検索をしているということです。
最初の検索で、数十個程度に候補を絞り込んで、さらにそれに改めて質問と属性も加えて、ラージランゲージモデルにかけて最終的に3個とか5個とかの候補にまで絞り込んで、その少数の候補を人間に示すというのが、先ほどお見せしたシステムですけれども、実は、このラージランゲージモデルは要らないのです。最初の検索だけで大体同じ精度で必要なことができそうです。
これは、幾つかの設定で、どういう設定か詳しい話は忘れましたけれども、青いのがキーワードベースの従来の検索で、緑色がエンベンディングというベクトルの検索で、赤いのはエンベンディング、プラス、ラージランゲージモデルです。縦軸は、何らかの意味での精度なのですが、どの設定でもキーワード検索よりもほかの2つのほうがいいのですが、ラージランゲージモデルを使ってもあまり精度はよくなりません、この場合にはかえって減っていたりします。
ですので、先ほどみたいなことをやるのだったらば、エンベンディングの検索だけでほぼ十分なのですね。
時々失敗しますけれども、失敗する原因は、そもそもカタログに適切なエントリーがないという場合と、それからカタログの中身が不適切で、短過ぎるとか、つまり必要な情報を含んでないとか、あるいは長過ぎて関係のないことをいっぱい書いてあるとか、そういう場合が多いようなので、カタログをちゃんとつくれば、かなり百発百中に近い精度で検索ができるようになるのではないかと考えています。
これは処理時間ですけれども、先ほどお見せしたシステムは、やはり赤いのはラージランゲージモデルを使っているので、LLMがほとんどの時間を食っていまして、緑色のエンベンディングの検索だけだと、平均的に1秒以内でできるのですけれども、そこからLLMを呼んでいると、さらに4秒ぐらいかかってしまうと、しかも精度が上がらないということなので、検索だけでいいのでしょう。
つまり、今、お見せしたデモは、どういうつもりで見せているかというと、すごいだろうという話ではなくて、全然大したことないよという話です。
このエンベンディングを使った検索システムは、結構でかいのですけれども、でかいといっても4ギガバイトとかなので、スマホに入るのです。来年ぐらいにはスマホの中で、今、お見せしたようなものが全部動くと思います。つまり、市役所のサービスのカタログを外部から持ってきて、スマホの中でユーザーの質問とか、パーソナルデータを全部処理して、個人情報を一切外に出さずに、先ほどみたいな検索をする。実際サービスを使うときには、市役所に個人情報を知らせないといけないわけですけれども、その前の段階では、一切情報を外に出さないというやり方で、全部できるということが、来年度の早いうちに実装できると考えています。
それができて広まると、このようになります。これは、前に1回プレゼンしたときに、類似の資料を使ったのですが、それを詳しくして分かりやすくしたものです。
先ほどお見せしたのは、分散マッチングというところだけで、これから、この手続実行の部分をつくろうとしているわけですけれども、これで各個人と市役所のサービスだけではなくて、一般の民間のサービスとか商品とのマッチングもできれば、広告は要らないですね。ですので、フェイクとかエコーチェンバーの意味がなくなりますね。
それで、手続実行のほうもAIがやってくれれば、サービス提供者がダークパターンを仕掛けるみたいなことをやっても無駄なので、ダークパターンもなくなると。あわせて、オンラインの行動操作が根絶されるという世界を目指しましょうということです。10年、20年かかるでしょうけれども、こういう方向にしたいわけです。これは全体のシナリオというか、ロードマップなのですけれども、今、お話ししたように、AIがサービスを仲介すると、オンラインの行動操作がなくなりますけれども、その前提としてAIが悪いことしないというのは必要なので、ちゃんと管理をする必要があると。管理をするためには、データをフル活用できる必要があって、そのためには、今やっている欧州AI法のハーモナイズドスタンダードでもって、パーソナルAIが取り扱うデータを全てユーザーに集約して、それを管理運用にフル活用できるという体制が必要で、それができれば、ちゃんとした管理ができてPAIは悪さをしないということになるのではないかというのが、ここです。
そうなれば、ユーザーは安心してAIにデータをフル活用させて、付加価値が最大化するというのが、全体の絵で、今、この辺りと、この辺りをやっているという状況です。
以上です。
どうぞ、御意見、御質問をいただければ。
柿沼委員、よろしくお願いします。
○柿沼委員 デモをしていただきまして、ありがとうございました。
このサービスについてなのですけれども、例えば音声で入力しなくてもできるように。
聞こえていますかね。
○橋田座長 ちょっと聞こえにくいですけれども、音声で入力できるかという話ですね。
○柿沼委員 はい、できるようになるのかとか、あと、お聞きしたかったのが、例えば、今は質問ということですけれども、プッシュ通知みたいな形で、自分の情報をある程度伝えると、自分が申告をしなくても、あなたは、この申告をしたほうがいいですよとか、案内をしてくれるとか、そういう技術もあるのではないかなと思いました。
私が、今、住んでいるところでは、既にLINEに市を友だち登録しておくと、トークの中にAIチャットボットがあり検索をしたりするシステムがありますがチャットボット内だけでは完結できずに市のサイトに誘導されることが多いように思います
あと、韓国行政を見ていくと、今、住民票をわざわざ役所などに取得に行かなくても、住民票をこの事業者に提供したいと伝えると、実際、すぐその事業者に提供してくれるという、そういうシステムがあるということを耳にしたことがございます。手続きのために、役所に出むくことなくデジタルで完結するとのことです。そこまで日本としては、今後考えていくのか、行き着くのかなというところを少し思った次第です。
以上です。
○橋田座長 ありがとうございます。
すみません、完全には聞き取れなかったのですが、まず、音声に関しては、音声だけではなくてCGのキャラクターも出して、擬人キャスターをエージェントとして、パーソナルAIを見せるということも考えていますけれども、それに関しては、懸念が2つありまして、1つは、そういうことをやると、ユーザーがこのAIの能力を過大評価するのではないかということです。先ほどお話ししたように、ここで使っている仕組みはすごく単純で、単なる検索なので、それだけでは自由な対話とかができないわけですよ。だから、もしもユーザーがそういう音声で入力できる、音声ぐらいだけだったらいいのだけれども、CGのキャラクターが出てきたりすると、何か自由にお話ができそうに思い込んでしまって、かえって使いにくくなるということは、十分あり得ると思います。
もう一つは、もしも、さらにこのAIの能力が高まって、例えば、ChatGPTみたいに自由に対話ができるということは、もちろん技術的には可能ですけれども、ある研究によると、擬人化エージェントが、ユーザーの個人情報を使って、個人適応してくれるとなると、結構多くのユーザーにとって、そのエージェントに対するトラストが高まってしまうのだそうです。単なる擬人化エージェントであることによってトラストが高まってしまうというのは、かなり大きなリスクなので、ちゃんとその裏でしっかりリスク管理をしなくてはいけないという課題が生ずると考えています。
ということで、少し質問の範囲を超えたかもしれませんけれども、音声で質問するということは可能です。それで、恐らくそこぐらいまでは、来年度にやろうと思っていまして、でも、その先もあるわけですが、いろいろ課題があるということです。
それから、御質問の残りの部分は、あまりよく分からなかったのですけれども、既に類似のサービスは幾つかありまして、LINEを使って質問すると答えてくれるというのもあります。あと、中国のアリババが、アリペイとタオバオというアプリを出していますけれども、それらのアプリには8,000ぐらいのミニプログラムというのがぶら下がっていて、つまり8,000のサービスがくっついていて、ユーザーがアプリに埋め込まれたAIに何か言うと、例えば、コーヒーを飲みたいというと、アプリの中のAIが地図アプリを立ち上げて、地図を調べて近所のコーヒーショップを調べて、これとこれはどうですかとユーザーに聞いて、ユーザーが、これがいいというと、注文しましたみたいな、そういうことをやってくれるというサービスが、既に先月か、先々月ぐらいから動いていますけれども、それは先ほどお見せしたパーソナルAIに結構近いものだと思います。
ただし、そのやり取りのデータは全部アリババに行くのでしょうね。やや気持ち悪くないでしょうかということです。だから、そういうことではなくて、データが全て手元にあって、原則として自分が許諾しなければ外には出ていかないので、安心してあらゆるデータをAIに使わせることができるというほうが、クオリティーの高いサービスが受けられるのではないかと考えています。
ということで、答えになっていますでしょうか。
○柿沼委員 ありがとうございました。
デジタルディバイドと言われている方でも利用できるのかなと思いまして、入力ではなく音声についてもお尋ねしたのと。
あとは、プッシュ型通知、自分でわざわざ市役所のサイトに入らなくても、あなたは、こういう手続が必要ですよという案内があると、より便利になるのではないかなというところ、そして、先ほどの住民票などの手続についても、わざわざ取りに行く、その負担の軽減みたいなものも、将来的には韓国の行政サービスのようになると、どうなのかなというところを少しお聞きしたかったです。ありがとうございます。
○橋田座長 ありがとうございます。
もちろん、そういうことを目指していまして、確定申告しておいてと言えば、してくれるとか、あと、例えば、去年うちの所得が下がってしまったので、AIが、それプラス小さい子供がいるということ認識していて、では、児童手当の申請をしましょうみたいな、そういうこともプッシュ型でやってくれるということも、技術的には可能だろうと思います。
では、森座長代理、お願いします。
○森座長代理 ありがとうございました。大変勉強になりました。
私は、これを拝見して、前から少し思っていたのですけれども、要はパーソナルではなくても、パーソナルAIは、今、開発中で、すごくすばらしいものができて、入力とかをしなくてもいろいろなことやってくれると思うのですけれども、パーソナルではなくても、普通のそこら辺のAIを使っても消費者保護になることはできると思っていまして、例えば、利用規約とかも、そのままべた張りすれば、コパイロットとかが読んでくれますし、べた張りした上で、消費者として注意すべきことはどれですかというと、割と、完璧とは言いませんけれども、まあまあ的確な答えをしてくれたりしますので、そういったことも消費者啓発の一環として、恐らくダークパターンはみたいなことを聞いても、今できるかどうか分からないですが、いずれ有用になると思いますので、普及啓発のほうで、パーソナルは、まだ開発を待っているけれども、普通のAIに関するプロンプトエンジニアリングで自分の身を守るということをやってもいいのかなと思いました。
以上です。
○橋田座長 ありがとうございます。
それは、おっしゃるとおりで、パーソナルデータを含まないコンテンツの処理は、一般のAIにやらせればいいということだと思います。
ほかに御質問とか御意見をお願いします。
では、お願いします。
○松前委員 御説明どうもありがとうございました。今日改めて詳しくお聞きまして、個人情報をユーザーの手元で管理する仕組みであるということが、非常によく理解できました。
本当に素人的な質問で恐縮なのですけれども、報告書でも、パーソナルAIがユーザーに必要な情報を与えない、あるいは、過剰な誘導するおそれがあるといった懸念が指摘されていたかと思うのですけれども、それに対して現状何らかの対策等はあるのでしょうか。
○橋田座長 それが標準化でやろうとしていることで、どうやってパーソナルAIに限らずAIのリスクを管理するかということです。
AIのビヘービアに関するログを取っておいて、そのログを分析することで、リスクのアセスメントをしたり、あるいはリスクを避けたりということができるようにしようと、それは、各ユーザーの手元でやるということと、それに加えて、たくさんのユーザー、たくさんのシステムから、そういうログのデータを、もちろん個人情報とかを守りつつ集めて分析して、ある種のシステムが、たくさんのユーザーに渡って、どういうビヘービアを示しているかということを評価するということも同時にやるということで、マーケット全体にわたるガバナンスの仕組みをつくることが必要だということで、その標準化を進めているところです。
○松前委員 ありがとうございます。
○橋田座長 ほかは、いかがでしょうか。
では、以上をもちまして、デモセッションは終了ということにしたいと思います。
というわけで、本専門調査会は、本日が最終回になりますので、お一人ずつ順番に、感想あるいは御挨拶を頂戴できればと思います。
基本的に委員名簿の記載順に指名させていただきますので、お一人1分ぐらいでお願いしたいのですが、原田委員が早めに退出されるということですので、まず、最初に原田委員からお願いできますか。
○原田委員 今年度、この専門調査会に関われて非常に光栄に思いました。
消費者啓発の部分をやっておりまして、消費者相談とともに、大体年間80か所から90か所の消費者教育のいろいろな講座を担当しているのですけれども、やはりネットのデジタル分野、非デジタル分野もそうなのですけれども、特にデジタル分野に関しましては、なかなか消費者教育で底上げするには、非常に限界があると常々考えていたところ、こういった消費者自体をエンパワーするということで、技術力の格差とかを埋めるための啓発を含めた、そういう技術を使っていって、どういう解決方法があるのかということを検討できたということは非常に、すごく心強いと思いますし、これを機に、どんどん技術というのは進歩していきますし、逆に言うと、悪質な事業者や詐欺師というのも進歩していくわけですから、そこはある程度、同じ状況で進んでいくというところはあるのかもしれませんが、こういうような専門調査会の報告書を機に、いろいろな分野で葛藤していく、1つの指南書みたいな感じでできたということで、非常に光栄に思っております。
ですので、私もいろいろ消費者教育をする中で、本年度に関しましては、そういうAIを使った消費者技術の方法もあるのだよ、みたいなことをいろいろなところでしてきましたので、これをはじめに、引き続きこういった取組を御検討いただければ幸いと思います。
以上でございます。
○橋田座長 ありがとうございます。
では、名簿順に行きます。
相澤委員、お願いします。
○相澤委員 ありがとうございます、相澤です。
アテンションエコノミーのように、消費者問題を超えて、デジタル社会の本質的な在り方に関わるような問題提起もありまして、大変勉強になることが多かったです。
報告書では、デジタルと書いてあるのですけれども、既に非ネット空間とネット空間というのは、分けることができない混然一体化した社会ということも感じまして、その中で、消費者は弱者として、ますます危険にさらされるという、そういうシナリオで報告書をまとめることについて大変意義を感じました。
私自身は、技術の立場からの参加だったのですけれども、ダークパターンとか、認知の話し合い、あるいはバイアスの話などをお伺いするにつけて、ネットの対策は、今もAIの話が大変出てきましたけれども、どうしてもIT技術の議論に行ってしまうのですけれども、その根底には、言語学とか、認知科学とか、社会心理学といった、いわゆる人社系の分野の専門的な知識が必要となってくるので、そういった専門家がアカデミアだけではなくて、社会実装の現場でも、活躍できるような枠組みや人材育成を考えていけるといいのではないかなと感じました。
また、本日のお話にも出てきましたけれども、技術の変化はすごく激しいので、定常的に、継続的にフォローアップをすることが大切ではないかと思いました。
以上です。
○橋田座長 ありがとうございました。
では、荒井委員、お願いします。
○荒井委員 本委員会で、デジタル技術における様々なフェイクニュースですとか、ダークパターンですとか、あとパーソナルデータの取扱いや同意の問題、様々な、本当に最近出てきた新しい課題について整理をして、それに対する対策として、技術ですとか、制度ですとか、あとはAIを使ってサポートするといった様々な課題について整理していただき、とても見通しがよくなったのではないかと思います。
特に私は、AIのリスクですとか、同意の課題について取り上げさせていただいたのですが、そこについてもAIのサポートですとか、また、そのAI自体にも様々リスクがあるということで、どのように使っていったらいいかといったような、これから恐らくより重要になっていくような技術に対しての筋道もつけていただいたこと、今後、この辺りの技術がうまく発展していって、消費者保護につながるといいなという期待を抱いております。
以上です。ありがとうございました。
○橋田座長 ありがとうございました。
では、坂下委員、お願いします。
○坂下委員 どうもありがとうございます。
デジタル技術とかアナログの行為も同じなのですけれども、営みというものを社会に実装するときには、する側は、できる限り自由にやりたいわけですね。でも、自由にやり過ぎると、公共の安全を脅かしたり、個人の権利が侵害を受けたりします。そのバランスを取るというのが、今回のこの委員会では議論されていたと思います。
一般的に総務省や経産省がやっている委員会は、供給側に立っていますから、これだけやればいいのではないかという取りまとめをするのですけれども、それに対して、この委員会というのは、それだけでは十分ではない、ここまでやれば十分であるという回答をする場だったと思います。
この場は、技術の方、法曹の方、学識の方が全部集まってやっている、実体的なマルチステークホルダーだったと思いますので、こういうものというのは、今後も続けていただいて、日本にデジタル技術がしっかり社会実装が進むように、バランスを取っていくためには重要な会議だったと思います。
どうもありがとうございました。
○橋田座長 ありがとうございました。
では、田中委員、お願いします。
○田中委員 今回の調査会を通じて、特に消費者の認知的脆弱性を踏まえた上での技術的な支援の在り方というものを検討する機会をいただき、誠にありがとうございました。
ダークパターンや偽・誤情報の対応は、技術的な側面と、人の認知的な側面と、そして法的な面も含めた規範的な面が重なり合う課題ですので、今回の調査会のように、それぞれの専門家の方がいらっしゃる場に参加させていただいたということが、個人的にも非常に有意義な経験となりました。
報告書でも取り上げていただいた認知バイアスについて、最後に一言だけ申し上げると、通常の研究では、認知的特徴はどうであるのかということを客観的に研究する研究分野ですので、率直なところ、どうあるべきかという規範的な議論は、非常に個人的には難しく感じていて、ギャップも常に感じています。
例えば、認知バイアスは、特定の場面では確かに悪用されてしまうおそれがあるので、脆弱性とみなされることもあるのですけれども、人の認知システムの全体で見てみると、生態学的合理性がないかというと、そうでもない面もあって、認知バイアスをなくそうとすることが常によいかとか、可能かとか、商品以外も、人は多様な営みをしていますので、それ以外のところに副作用が出ないかとか、その辺りは、今後さらなる検討が必要になってくる課題であると思っております。
一方で、消費者に生じている具体的な不利益を今回の調査会を通じて認識する中で、どうあるべきかを考えていくと、技術的な研究として何が分かっていなくて、認知のどのような性質を今後明らかにしていくと規範的検討に役立てそうかといったことを考えるきっかけにもなっているというのも事実です。
こういった課題に対して、技術的な研究を中心としつつも、引き続き学際的にも開かれた環境で研究を進めていきたいと考えました。
どうもありがとうございました。
○橋田座長 ありがとうございました。
では、鳥海委員、お願いします。
○鳥海委員 ありがとうございました。
私自身は、研究としては、情報空間の在り方、言論空間の在り方といったことを中心にずっとやってきたのですけれども、今回こういった会に参加することによって、今まで情報交換の利用者、情報の発信者や受信者といった区分で考えていたのですけれども、今回、消費者という視点で、改めて考え直すよいきっかけになって、非常によかったなと個人的には思っております。
また、報告書の第2の消費者をエンパワーするデジタル技術の実例という辺りで、現状をかなり把握できまして、様々なアプリケーション等が開発されつつ、こういったものに対応する努力というのがかなりなされている一方で、これでなかなか全てが終わるわけではないということで、まだまだこの辺の技術開発を含めて、また、法的な整備等も含めて、まだ議論を行っていく必要があるのかなということを感じました。
もう一点、橋田先生のパーソナルAIの話をここで非常に詳しくお聞きすることができて、こちらに対する期待というのが非常に大きく高まりましたので、我々も研究で、こういったものというのは、多分、パーソナルAIの利用というのはかなり使えるのではないかという感触を得ましたので、是非、これについては、また別途御相談させていただければいいなということを少し思いました。
以上です。どうもありがとうございました。
○橋田座長 ありがとうございます。是非お使いください。
では、松前委員、お願いします。
○松前委員 ありがとうございます。
本調査会は、報告書の初めにも記載がありますように、消費者と事業者の情報量の差や、消費者の脆弱性というものがある中で、消費者をエンパワーする「技術」にフォーカスするというこれまでにない試みであり、大変有意義な報告書をまとめられたのではないかと思います。
今後の課題としては、既に他の委員からも御指摘がありましたが、技術というのはどんどん進化していくものですので、やはりこういった検討を継続していく必要があるということと、それから、新しい技術がどんどん出てくると、今度はどこまでがエンパワーの範疇なのかという辺りも、理論的には検討が必要な点になってくるかなと思っておりますので、今後もそういった検討が続くことを期待しております。
私個人といたしましては、個人情報保護法について、特に新しい技術と個人情報に関する問題を研究しているという立場で参加させていただきまして、そういった観点からは、消費者をエンパワーする技術の具体例を企業の方から御紹介いただいたり、各分野の専門の先生方からいろいろな御意見を伺うことができたり、また、事務局の方々から貴重な御指摘をいただくことができまして、大変勉強になりました。心より感謝申し上げたいと思います。どうもありがとうございました。
○橋田座長 ありがとうございました。
では、森座長代理、お願いします。
○森座長代理 ありがとうございました。
私もこの検討会に参加させていただいて、大変勉強になりました。技術の御紹介などもいただきましたけれども、ほとんど知らないものでしたし、なるほど、そんなことがあるのだなと伺っておりました。
先ほど、その触りをということで申し上げましたけれども、一番強く印象に残りましたのは、やはり事務局が、本当の意味でのデジタル対応ということを考えていただいたのだなと思います。
これまでの消費者保護におけるデジタル対応というのは、ECでだまされて余計なお金を払わされるとか、SNSで誹謗中傷を受けるとか、そういうものが中心であったわけですけれども、2つのドグマがあったと思っております。別の機会にも申し上げました、「消費者保護における消費者被害というのは、金銭的被害と健康被害の2つである」というドグマですね。
しかしながら、今は自動的にそのデータを取られてしまって、それによって働きかけを受ける、自分のデータベースが、どこか分からないところにあって、それによる働きかけを受けるという問題があります。
もう一つのドグマは、「消費者被害は、契約によって起こる」というものですね、だまされて契約する、ダークパターンで契約する、その結果、お金を払うことになるみたいな、そういう話なのですけれども、契約とは全く無関係にデータを取られるわけですね。外部送信というのはまさにそうです。
ですので、消費者被害の中身が変わってきていること、これまでの金銭的被害、健康被害に加えて、データ的な被害、データ搾取というものを正面から取り扱う必要があるということと、それから契約のことは一旦忘れて、契約していない人が我々のデータを取得して、それによって我々に対して働きかけてくることができるようになっているということを踏まえて、報告書をつくっていただいたと思いますので、そういう意味では、真の意味でのデジタル対応をしていただいた報告書になっているのではないかと思います。
ありがとうございました。以上です。
○橋田座長 ありがとうございました。
では、山口委員、お願いします。
○山口委員 まず、今回初めて政府の専門調査会という貴重な場に参加させていただけて、企業の方や委員の皆様の非常にためになるお話をお伺いできて、とても感謝申し上げたいと思っております。
私は、本務校でマーケティングの授業を教えておりまして、授業のスタイルとしては反転学習を採用しておりますので、学生に教科書を読ませて、実際の日常の中から自分の気になるテーマを取り上げて、質問をさせるという形で授業を進めているのですけれども、特にインターネットだけに限らず、例えば価格だったり、製品のつくり方であったり、いろいろなところにおいて、現在、消費者がさらされている脅威というものに対して、非常に高い関心を持って学生が授業に取り組んでいるということが分かっております。
当該学生たちは、自分たちが今すぐにインターネット上での詐欺であったりとか、不当な扱いで困っているわけではないのですけれども、そういったものに対して、すごく興味関心があって、今回調査会に参加させていただいて、国というか、消費者委員会として、こういった報告書をまとめていて、きちんと国としても、やはり問題意識を持って取り組んでいるということを学生に伝えることができたと。
さらに、そういった意義のある報告書を若い学生に紹介することができたこと自体は、とてもよい機会だったなと思っております。
一方で、やはり学生を見ていると、問題意識はあるのだけれども、何とかしてほしい、政府だったら何とかしてくれるだろうという、非常に受け身の姿勢を持っていることが一般的なのだなということが改めて分かりましたし、そういった一般的で、かつ、今、自分ごとではない人たちに、何かを伝えるだけでは、やはり伝わり切らないものがあるという印象を受けています。
例えば、今でも学生はステマに対して政府は何の規制もしていないと思い込んでいる学生もいたりするぐらいですので、やはり今後、こういうせっかく意義のある報告書がまとまって、その消費者をどのようにエンパワーしていくかというところを伝えていくだけではなくて、消費者自身がそういう仕組みを使ってみたいだったりとか、そういうものを取り込んでいきたいと自発的に思えるような仕組みづくりであったり、啓蒙活動みたいなものがないかどうかというのを併せて検討していけるとよいかなと思いましたし、私自身もマーケティングが専門ですので、そういった形での消費者コミュニケーションというものが、どうあるべきなのかというところを研究活動にも取り込んでいきたいと思いました。
ありがとうございました。
○橋田座長 ありがとうございます。
続いて、オブザーバーとして御参加いただいている皆様にも、御感想、御挨拶を頂戴できればと思います。
では、柿沼委員、お願いできますか。
○柿沼委員 柿沼です。
まず、この調査会に参加させていただいたこと、ありがとうございました。また、多様なデジタル技術を活用した様々な方からの情報提供、本当に参考になりました。ありがとうございました。
この技術を周知していく、広めていくということも、とても大切なことと思います。伝わらなければ、結局は、何の活用もされないということになります。
また、継続的に、今はこういうデジタル技術があるのだということを伝えていくことの大切さ、これもお伝えしておきたいと思いました。また、事業者にとっても、消費者被害に遭わないためには、どうすればいいのかどういう技術が必要であるということを考えていただくと、検討していただくという、そういう場の1つとして、この報告書は生かしていただけるものではないかなと思いました。
デジタルの進歩というのは本当に早く、今の技術が完全とは言い切れないところもありますので、今後も継続的に検討していく必要があるのではないかなと思いました。
また、最後に、橋田先生のほうからプレゼンテーションいただいた内容についても、とても参考になりました。ありがとうございました。
以上でございます。
○橋田座長 ありがとうございました。
では、山本委員、お願いします。
○山本委員 ありがとうございます。
先ほど森座長代理からもお話があったことと近いのですけれども、これまで消費者保護の議論というのは、金銭的な実害あるいはその救済というところに主に焦点が当たってきたのではないかなと思います。森座長代理は「ドグマ」という言い方をされましたけれども、こういった「ドグマ」に対して、最近のデジタル社会では、パーソナルデータの濫用ですとか、熟慮の時間を巧みに奪うようなユーザーインターフェースですとか、ダークパターンのようなユーザーインターフェースも含めて、デジタル技術の利用というのが、金銭的実害を引き起こす重要なきっかけになってきていると思います。
そうなってくると、実害救済モデルと申しますか、そういったものの前の段階、つまりパーソナルデータの不適正な取扱いですとか、オンライン上の主体的な自己決定を阻害したり、時間というものを不当に奪ったりするような、そういったものもやはり「消費者問題」として、しっかりと捉えて、この前段階で消費者をエンパワーする必要があるのではないかと思います。
技術的な介入とか認知的な介入に対して、啓発とか、そういうことも重要なのですけれども、それだけではなくて、技術的な対抗、認知的介入には認知的対抗を、ではないですけれども、認知的介入に対して技術的に対抗していく、そういうレベルでしっかり向き合うということが重要なのではないかなと感じた次第です。
恐らくこの前段階の消費者侵害的な技術というものに対応しないと、実害というものもますます増えていく。そうなると、啓発ですとか救済も追いつかなくなってくるように思っています。ただ泣き寝入りするしかない。その意味で技術的なエンパワーメントは不可欠だと思うのですが、この調査会に対しては、まだ十分な理解がなされているとは言えないのではないかなとも、正直感じました。消費者問題の本丸というのは、あくまでも実害救済なのだと、実際に、今、困っている人がいるのだから、とにかくそこにエフォートを割かなければいけないと。あるいは技術というのは、あるいはテクノロジーというのは消費者にとってやはり悪なのであって、これを褒めそやすようなアプローチというのはいかがなものかという声もないではないように思います。
私もその気持ちは非常によく分かる。先ほど松前委員からもあったように、やはり、テクノロジーには十分な警戒が必要ですし、認知に対するナッジというのは、同時に誘導ということも含んでくるわけです。ですので、こういった問題をしっかりと踏まえながら、しかし、やはり消費者委員会としては重要なトピックとして正面から捉えていく必要があるのではないかと感じました。
ですので、報告書で終わりということではなくて、報告書で述べられたことを実現していただくべく、この後も粘り強く、この問題に向き合っていただければと思います。
すみません、長くなりましたが、以上です。
○橋田座長 ありがとうございました。
私からも最後に一言申し上げますけれども、こういうパーソナルデータの取扱いとか、それでAIをどのようにするかみたいなことを研究し始めて15年以上たつのですけれども、政府のほうでも、このような取組がなされるようになったということで、非常に心強く思いました。
たくさんの委員の方々に御協力いただいて、非常に有意義な報告書をまとめることができたと思います。深く御礼申し上げます。
いろいろな方が指摘されているように、もちろんこれで終わりではなくて、いろいろな課題がまだまだたくさんあります。報告書をまとめることによって明らかになった課題というのもあると思いますけれども、その中で私が一番重要だと思っているのは、技術的にもAPI連携の辺りかなという気がします。
様々なサービスが、標準的なAPIとして公開されれば、いろいろな問題がかなりきれいに片づくわけですね、それが利便性にもつながるということで、事業者にとっては全体として収益が増えるということになるはずなのですけれども、実際には、まだ、なかなかいろいろなサービスがAPIとして公開されるという状況は、実現しておりません。
ところが、産業界の方に聞くと、APIエコノミーは必然だねと、いずれその方向に行くよねというコンセンサスはあるようです。
ただし、なかなか実際にそちらのほうに踏み出すきっかけがつかめていないということだと思うのですけれども、何が障害になっているかというと、APIエコノミーになりますと、パーソナルデータの囲い込みができなくなって、したがって顧客を囲い込むことができなくなって、したがって業界全体としては価値が高まって、平均的な収益が増えるはずなのだけれども、今、既に支配的な地位を築いている企業にとっては、その独占的な地位を失うリスクが高いということで、既得権を持っている人が、いろいろなところで邪魔をしたり、サボったりしているのだろうと思うのですね。
ということを乗り越えて話を前に進めるきっかけとして、AIというのがあるのだと思うのですけれども、ここでも何回か議論した、AIそのものにもいろいろなリスクがある、むしろAIのリスクのほうが、今までの様々なサービスのリスクよりも大きいかもしれないということで、そのリスクをいかにして管理するかということが次の課題ということになるわけです。
そのために、今、標準化等にも取り組んでいるわけですけれども、様々な課題をそこで感じています。
私がやっている標準化というのは、もともとはEUのAIアクトの整合標準をつくるということの一環でやっているもので、割とヨーロッパ主導のところがあるのですが、ヨーロッパの人は、あらかじめルールを決めて、そのとおりにやろうという発想が強いのですね。ですので、AIのリスクに関しても、具体的なリスクを並べ上げて、これを何とかすればいいみたいなことをやりたがるのですけれども、よく考えたらAIはそうはいかなくて、高度なAIシステムというのは、想定外の事態に対処できるもののはずなので、当然想定外のリスクが発生するはずなわけですよ。それを含んでリスクを管理しないといけないというレベルで、標準化に参加している人たちを、まず説得しなければいけないという状況にいたりするわけですけれども、頑張ります。今後ともよろしくお願いいたします。
以上です。ありがとうございました。
では、事務局から何かございましたらお願いします。
○小林事務局長 事務局から委員の皆様にお礼を申し上げさせていただければと思います。
改めまして、毎回活発な御議論をありがとうございました。思い起こせば、本専門調査会は、今年の4月にスタートいたしまして、委員の皆様からのプレゼンテーションや事業者からのヒアリングなどを経て、本日、報告書をまとめていただきました。皆様からも、マルチステークホルダーでの議論ができた、学際的な議論ができたというお話がありましたけれども、多彩なバックグラウンドを持つ委員の皆様のおかげで、報告書をまとめていただくことができました。報告書では、消費者をエンパワーするデジタル技術の利活用の意義、消費者をエンパワーするデジタル技術の実例、消費者をエンパワーするデジタル技術のさらなる利活用に向けた課題というポイントをまとめていただきましたが、消費者問題に関わってきた立場からすると、7ページでもありますように、消費者問題への向き合い方として、消費者法制度による規律、消費者教育・リテラシーによる対応に加え、デジタル技術をさらに利活用し、対応することが重要であるという、このメッセージを打ち出したということは、大変画期的なことと思っております。
消費者委員会としては、これまではまさに消費者法制度ですとか、消費者教育の在り方ですとか、こういったテーマを中心に議論することが多かったのですけれども、今回のようにデジタル技術にフォーカスを当てて、技術系の皆様にも議論に参加いただくというパターンは大変珍しくて、とりわけ技術系の先生方と接点を持つことができたということは有り難い機会になったと思っている次第です。
消費者委員会は、いろいろなテーマを検討しておりますので、今後もいろいろな形でお世話になることもあると思いますが、引き続き、どうぞよろしくお願いいたします。
今回は、ありがとうございました。
○橋田座長 ありがとうございました。
≪3．閉会≫
○橋田座長 では、以上をもちまして「消費者をエンパワーするデジタル技術に関する専門調査会」を閉会とさせていただきます。
ありがとうございました。
(以上)