第6回 消費者をエンパワーするデジタル技術に関する専門調査会 議事録

日時

2024年8月20日（火）15:00～17:04

場所

消費者委員会会議室・テレビ会議

出席者

（委員）
【会議室】
橋田座長、坂下委員、山口委員
【テレビ会議】
森座長代理、相澤委員、荒井委員、田中委員、鳥海委員、原田委員
（オブザーバー）
【テレビ会議】
柿沼委員、黒木委員、星野委員、山本委員
（参考人）
【テレビ会議】
クロサカタツヤ氏 Originator Profile技術研究組合事務局長、慶應義塾大学大学院政策・メディア研究科特任准教授
（事務局）
小林事務局長、後藤審議官、友行参事官、江口企画官

議事次第

  1. 開会
  2. 議事
    ①田中委員プレゼンテーション
    ②鳥海委員プレゼンテーション
    ③有識者ヒアリング（クロサカタツヤ Originator Profile技術研究組合事務局長）
  3. 閉会

配布資料 （資料は全てPDF形式となります。）

このページの先頭へ

≪1．開会≫

○橋田座長　本日は、皆様、お忙しいところをお集まりいただきまして、ありがとうございます。

ただいまから、消費者委員会第6回「消費者をエンパワーするデジタル技術に関する専門調査会」を開催いたします。

本日は、坂下委員、山口委員は会議室で、森座長代理、相澤委員、荒井委員、田中委員、鳥海委員、原田委員はテレビ会議システムにて御出席いただいております。

相澤委員、荒井委員、原田委員は少し遅れて参加されます。

なお、本日は所用により、松前委員は御欠席との御連絡をいただいております。

消費者委員会からはオブザーバーとして、柿沼委員、黒木委員、星野委員、山本委員はテレビ会議システムにて御出席いただいております。

星野委員、山本委員は少し遅れて参加されます。

また、本日は、有識者ヒアリングとして、Originator Profile技術研究組合事務局長、慶應義塾大学大学院政策・メディア研究科特任准教授のクロサカ様に御発表をお願いしております。

それでは、本日の会議の進め方等について、事務局より御説明をお願いします。

○江口企画官　事務局です。

議事に入る前に、配付資料の確認をさせていただきます。

お手元の議事次第に配付資料を記載してございます。不足等がございましたら、事務局までお知らせください。

本日は、報道関係者を除き、一般傍聴者はオンラインにて傍聴いただいております。議事録については後日公開いたします。

以上でございます。

○橋田座長　前回は、今後期待される消費者をエンパワーするデジタル技術の活用の一つとしてパーソナルAIを取り上げました。その他にも様々な観点でデジタル技術の活用が期待されますので、今回は認知科学の観点、偽情報・誤情報と消費者、Originator Profileの取組などについて御発表を伺い、意見交換してまいりたいと思います。全体を通じ、委員からの積極的な御発言をお願いいたします。

まず認知科学の観点から田中委員に御発表をお願いしたいと思います。では、田中委員、20分程度で御発表ください。

≪2．①田中委員プレゼンテーション≫

○田中委員　では、早速始めたいと思います。名古屋工業大学の田中です。

今日は、ダークパターンとユーザーの意思決定の関係について、類型化及び検出技術に関する研究動向を幾つかの先行研究を基に御紹介していきたいと思います。

ダークパターンの問題について幾つかの研究を見てみますと大きく3つの観点が出てきます。例えばデジタル環境での消費者の意思決定場面について考えてみますと、そこにはデフォルトオプションの設定ですとか選択肢の提示方法など、特定の選択アーキテクチャが存在します。選択アーキテクチャが人の意思決定に影響を及ぼすこと自体は行動経済学や認知科学の分野で以前から記述的に示されてきました。近年は、そこにデジタル技術が関与しており、その関与の仕方がユーザーにとって認識することがしばしば困難にあることや、サービス提供者にとって有利な方向にユーザーの意思決定を誘導し得るといったことが規範的な視点から論じられるようになってきています。

私が専門とする認知科学は、この図で言うと左下の記述的なアプローチを取る分野に該当します。どのような条件下で人がどのような意思決定をするのかというのを実験的に明らかにしつつ、その背後にあると想定される認知メカニズムをモデル化するという研究分野になります。ですので、技術的なところや規範的なところは正直、個人的には理解が十分でないところも多いのですけれども、ダークパターンの問題はこれらの視点が重なり合うところに存在しているので学際的な取組が欠かせないテーマだと考えております。この点については、この発表の最後に今後の課題としてもう一度、述べたいと思います。

まず、用語の定義から入りたいと思います。ダークパターンという用語は2010年にBringnullによって初めて使用されたと言われています。彼はdarkpatterns.orgというサイトで、現在はdeceptive.designに変わっているのですけれども、そこでダークパターンを次のように定義しています。ウェブサイトやアプリで使用される、意図せず何かを購入したり登録されたりするような手法です。この定義以降、ダークパターンを定義し説明しようとする学術研究が急増しています。

2021年には、Mathurらがダークパターンに関する主要な定義を分析し、4つの側面から帰納的に分類するということを試みています。その4つというのが、「ユーザーインターフェースの特徴」、「ユーザーに影響を与えるメカニズム」、「ユーザーインターフェースの設計者の役割」、「ユーザーインターフェース設計から生じる利益と害」です。

この分類に沿って主要な先行研究の定義を分類しているわけなのですけれども、明確で一貫した概念的基盤が欠如しているということをこのMathurらは指摘しています。例えば19の主要研究のうち、9つの定義にはインターフェースの特徴が含まれていない。4つの定義ではユーザーへの影響のメカニズムが特定されていないといったように定義の必須要素が異なっている。

また、定義の具体性の欠如も見られます。例えば「トリック」というのは一つの特徴に該当するのですけれども、何がトリックなのかとか、何がインターフェースを「誘惑的」とするのかが明確ではありません。これはダークパターンの検出技術開発にとっても規制対象の境界を定める上でも重要な点かと思います。ダークパターンの特定や検出をして対策につなげるためには、より統一された具体的な定義が必要となってきます。

そこで、Mathurらは、これらの定義に共通する高次の属性を選択アーキテクチャという観点から再分類しました。選択アーキテクチャは2つに分けられていまして、1つ目の「意思決定空間の修正」というのは、ユーザーの選択環境そのものを変更するというカテゴリーで、例えば選択肢を排除したり隠したりするといった属性がここに含まれます。

もう一つの「情報フローの操作」はユーザーに提供される情報の流れを操作するというものです。具体例を幾つか御紹介します。

上の図は制限パターンの例で、解約を困難にするというものです。これはニューヨーク・タイムズの購読申込み画面で、もしかしたら今はもう変わっているかもしれませんけれども、当時、そういった画面がありました。購読するのは簡単で、いつでもキャンセルできると書かれています。実際のところ、解約するにはカスタマーサービスに電話をかける必要があって、電話をかけてみると長時間待たされたり解約できないまま他のウェブページにリダイレクトされたりするということが報告されています。あるテストでは、解約するには顧客サービス担当者と8分間の会話が必要だった一方で、申込みは数秒で完了したというような非対称性が存在したということも報告されています。

下にあるのは秘匿パターンの例で、ユーザーを特定の意思決定へと誘導しつつ、その影響メカニズムをユーザーに気づかせないようにするというパターンです。例えば左下の図はテスラの完全自動運転機能をアンロックするための購入画面のスクリーンショットなのですけれども、Payというのは非常に分かりやすく表示されていて、Pay With Credit Cardというのも分かりやすい文字になっているのですが、その下に非常にコントラストの低い文字で実は返金不可と書かれています。

右側がおとり効果と呼ばれていまして、この60万円のパソコンがおとりなのですけれども、こういったおとりの選択肢を導入して他の選択肢をより魅力的にさせるというような手法です。これはアンカリング効果やフレーミング効果と呼ばれるような認知バイアスを利用したパターンなのですが、私たちはこういった24万円のパソコンというものを単体で判断しているような気分になるけれども、実はそうではなくて、それがどのような枠組みの中に位置づけられているのかとか、前後とか上下左右の文脈の影響を受ける傾向があるので、こういった認知バイアスを利用してユーザーが気づかないように特定の購買行動をするように誘導するパターンとして知られています。

欺瞞性を持つダークパターンは特にショッピングサイトで観察されるものです。例えば、左上は偽の在庫僅少カウンターや偽の販売数を表示させるという例です。右側がshop byというアプリで使われていたカウントダウンタイマーです。偽の緊急性メッセージを作成するために使用されます。タイマーがゼロになるとセールが終了するというようにユーザーは思いますけれども、これがなぜ偽かというと、販売業者向けのインターフェースデザインではカウンターがゼロに達するとキャンペーンを再実行するというようなデフォルト設定があったとのことです。

下の情報の隠蔽の例ですけれども、これの例として挙げられるのは、チケット再販業者が隠れたコストを利用して収益を上げるというようなドリッププライシングとも呼ばれるパターンになります。この手法では、最初に低価格で広告を表示して、長い一連のステップを通じてユーザーを引き込んで、最後に支払いの直前に最終的な高額な価格を明かすという手法です。

この時点でユーザーは既に時間とエネルギーを費やしているので、他の場所に行くというのも物理的には可能なのですけれども、心理的には非常にコストがかかる。他の場所でより安い価格を見つけようとするコストとそのまま支払うというコストを比較しなければなりません。先行研究によると、最終的な価格が隠されている場合、購入する可能性が14％高くなったというような報告もされています。

今、御紹介したような高次属性を用いて、Mathurらの別の研究では、このダークパターンの自動検出技術の開発を行っています。この研究では、数千のウェブサイトやプラットフォームで検出技術を活用して、それぞれの高次属性があるかどうかを判別しながら、欺瞞的な行為を行っているウェブサイトを特定するというような試みです。

また、ウェブサイトの特徴を認知バイアスと関連させているというのもこの研究の特徴です。ここで挙げられている具体的な認知バイアスは、アンカリング効果、フレーミング効果、バンドワゴン効果、デフォルト効果、希少性バイアス、サンクコストの誤謬です。

例えば具体例としてこの例を見てみますと、カテゴリーとしては緊急性に該当します。タイプとしてはカウントダウンタイマーに該当するもので、カウントダウンタイマーを使用してユーザーに取引や割引の期限が迫っていることを示す特徴を持っている事例を検出します。これが件数としては393件、ウェブサイトとしては361件、検出されたということを意味します。先ほどの高次属性としては秘匿性と欺瞞性が該当して、ここでは常にではないけれども、時々出てくる。関連する認知バイアスは希少性バイアスで、人が希少な物や機会に対して価値を高く見積もり、より魅力的に感じるという認知傾向が利用されているとみなされるダークパターンになります。このように多くのショッピングサイトで消費者に対するダークパターンの使用が確認されました。

このように先ほどの高次属性を用いて包括的に分類することで、多くのショッピングウェブサイトで消費者に対してどのようなダークパターンがどの程度使用されているのかを明らかにしたという研究です。

具体的な検出技術については、より専門的な方に御説明をお願いしたほうがよいかと思いますが、概略を述べると、1万9000のショッピングサイトから5万3180の製品ページを収集して、製品オプションや選択のカートへの追加、チェックアウトなどの操作を収集し、さらに、ページソースやスクリーンショットなどを収集します。その後、左の図のようにショッピングサイトのページをセグメント化してクラスタリングした後、ダークパターンの可能性を判別するという手続を取っているようです。この最終的な判別プロセスには人が複数関わっていて、一致率などを算出したということが報告されていました。この最終的な判別プロセスも自動化できるかどうかというのは今後の発展が期待されるところですけれども、この論文が出たのが2019年で、もう5年も経過しているので、もしかすると最終的な判別プロセスも自動化するということがさらにできるようになっている可能性もあります。

このような検出技術の利用可能性について、一つは、ダークパターンの存在という観点から、ショッピングウェブサイトを評価する一般向けのウェブサイトに使うという方向性が考えられます。左の図は著者らによるモック画像です。ダークパターンを自動的に検出して、こういうようにカウントダウンタイマーのところにフラッグを立てることで、ユーザーにその存在を知らせるというデザインです。ただ、著者たちは、このようなブラウザ拡張機能はベンダーがウェブ上のコンテンツを監視することに警戒する可能性があるので、実装するための適切なインセンティブを見つけることが難しいかもしれないと指摘していました。

代わりに、先ほどのような技術でダークパターンの可能性があるものを包括的、体系的に検出することで、オンラインショッピングサイトの文脈ではどのようなものが許容されるべきなのかという議論する出発点として使用するということも提案されていました。

ここまでに御紹介したダークパターンは主にショッピングサイトのような選択アーキテクチャにおける消費者の意思決定を対象としたものですけれども、ダークパターンを違う角度から分類して、その問題を基本的な視点から論ずるという試みもなされているので、そちらも御紹介します。

こちらはMark Leiserが提唱しているダークパターンの階層的フレームワークです。Leiserはデジタル技術と法律が重なる部分に焦点を当てた研究をしている人なのですけれども、特にAI規制法の中の行動操作の禁止について、現行のものでは規制を擦り抜けてしまうリスクについて問題提起を行っている論文を書いています。この階層的フレームワークはDark、Darker、Darkestとデジタルインターフェースの中のユーザー操作の可視的なメカニズムから深く埋め込まれたメカニズムまでの段階的な変化を示しています。先ほどのショッピングサイトのインターフェースでは、この階層的フレームワークで言うと最も表層的なレベルで、可視的なメカニズムでのダークパターンとして位置づけられます。

Leiserが問題提起をしているのは、特に一番下のシステムに埋め込まれたアーキテクチャによってユーザーが無意識のうちに行動を操作されるというパターンで、これをDarkestパターンと呼んでいます。パターンの複雑性が増すにつれて、隠れた操作から消費者を保護するための高度なツールと方法論の必要性も高まってくると主張しています。

Darkestパターンに位置づけられているシステムに埋め込まれた心理（操作）のテクニックの具体例として、ここでは2つ御紹介いたします。

まず、アルゴリズム操作についてです。これは個人の行動データを基にコンテンツやインタラクションを調整してユーザーの注意を特定の選択肢に向けさせたり、他の選択肢から遠ざけたりするというような手法です。表面的にはユーザーの嗜好に応えているように見えるパーソナライズされたキュレーションですけれども、そういった利便性も持ちつつ、もう一つの面ではユーザーの多様な視点への暴露を妨げたり、いわゆるエコーチェンバーを生み出す可能性があります。

この手法の問題の核心は、アルゴリズムによるプロセスの不透明さにあると言われています。ユーザーは自分のデジタル環境がどのように形成されているのかとか、どのように選択肢があらかじめ設定されているのかとか、他の人とどのように違うのかということを認識することが困難です。さらに、このような操作は認知バイアスと行動パターンを利用してユーザーの行動をアルゴリズム設計者の戦略目的と一致させるリスクがあるため、心理（操作）に相当する可能性があるとのことです。

もう一つの例が行動条件づけです。これは特に報酬システムを伴うようなゲーミフィケーションに精緻に織り込まれているもので、フィードバックが提示されることによってユーザーを特定の目標に向かわせるように計算されています。例えば先ほどのスクリーンショットのように一時点で切り取ったときには分からないのがこの強化というメカニズムで、経時的なフィードバックの繰り返しによって強化が形成されていくので、そういった強化がユーザーの習慣を段階的に再調整して、自身の行動が外部から形づくられていることに気づかないようにします。

最も懸念すべき点は、個人の明示的な同意なしに、あるいは時には知識なしに、ユーザーの行動が調整され、意思決定と自律性に変化をもたらすということです。このような条件づけ自体は教育学習プログラムのような善意的なガイダンスにも使われ得るものなのですけれども、これと強制的な操作の境界が非常に曖昧になるような不明瞭な領域が存在していて、これが倫理的な問題を提起していると著者は指摘しています。

このような技術的、技術システムに組み込まれた心理（操作）テクニックは、ユーザーの自律性と意思決定に重大な影響を与える可能性があります。特にアルゴリズム操作については個別に研究が進められてきていると思いますけれども、ダークパターンの階層的フレームワークという中に位置づけることによって規制対象の境界の議論として整理しているというのがこの論文の特徴ではないかと思います。

最後に、今後の課題についてです。冒頭で述べましたように、ダークパターンに関する問題については、技術と記述と規範のそれぞれが重なる部分に課題が残されているように思われます。例えば先ほどはシステムアーキテクチャがユーザーの意思決定に及ぼすリスクの指摘について御紹介しましたけれども、これについては実証的な研究がまだ不足しているように思われますし、そのような実証研究をするためにはシステムに埋め込まれたDarkestパターンを検出する技術的研究と、そのパターンとユーザーの意思決定の相互作用を明らかにするような記述研究の両方が必要となってきます。

また、先ほど御紹介した論文ではシステムアーキテクチャの影響として、行動条件づけに言及がありましたけれども、行動条件づけは必ずしもユーザーにとって悪いものばかりとは限りませんし、認知バイアスが完全に駆動されないようなデザインというものを考えるのも難しいのかもしれないですし、仮に駆動されるようなデザインであっても、すなわち、認知的脆弱性が悪用されているというようにイコールで結ぶことは難しいかもしれないので、こういった認知的脆弱性の定義ですとか規制対象の境界をどこに引くのかという点では記述と規範の両方の観点からの検討が必要になってくると思われます。

今回はダークパターンとユーザーの意思決定について関連しそうなものを幾つか御紹介してきましたけれども、今回の発表準備をしていて、ダークパターンの問題が学際領域に存在していることを改めて認識しました。また、ここ数年で研究も急速に進んでいるようですので、もう少し体系的、包括的な調査を行うという方向もあるのかもしれないという印象を持ちました。

私からは以上です。ありがとうございます。

○橋田座長　ありがとうございました。

では、ただいまの田中委員からの御発表内容を踏まえまして質疑応答、意見交換をしていきたいと思います。御発言のある方は挙手またはチャットでお知らせください。

では、私からいいですかね。特に行動条件づけの辺りに関して、これは有益な目的に使うこともできるので、いいのと悪いのの区別が不明瞭であるというお話がありましたけれども、そうすると、規範の設計の仕方とかかなり難しいということになると思うのですが、その辺りに関して何かアカデミアのほうで議論があれば教えてもらえますか。

○田中委員　私もその辺りは規範を専門としていないので、どういうところで境界を引いたらいいのかというのが自分の専門的な立場からはなかなかそういう訓練を受けていないので、なので、今回御報告をして、むしろ規範的な設計を専門とされる方からするとどういったデータがあればどういった規範の立て方が可能なのかみたいな議論につながっていくといいのかなと思いました。

○橋田座長　ありがとうございます。

他に何かありますでしょうか。

では、山口委員、お願いします。

○山口委員　山口です。御発表ありがとうございました。

私のマーケティングの分野ですと、例えば時間が少なくなることによる希少性を使っていかに売上げを上げるかですとか、いわゆる端数効果と言われるような298の値段をつけるほうが300円で売るよりも売れる回数が増えるといったような、いわゆる認知バイアスを使った売り方というのは教科書でも紹介されているぐらいのことなので、正直、今日のお話を聞くと、これもダークパターンになってしまうとマーケティングの教科書に書かれていることはかなりダークになってきてしまうなというのが感想としてはあったのですけれども、その中で、そういった認知バイアスに基づく消費者行動、消費者の意思決定というのは、このスライドの10ページ目にあるような、例えばこれはダークパターンですよということが検出できて、これを指定する。例えば端数効果で価格をつけている場合に、こういう価格には実はこういう理由があるのですよということを明示することによって、どれぐらいそのバイアスというのは人間、回避できるものなのかというところを認知科学の分野ではどれぐらい研究されているのかというのをちょっと教えていただけると、実際そういうダークパターンが検出できたとして、それをどのような方法であっても消費者に伝えることそのものがどれぐらいバイアスに基づく行動変容の悪用を防げるのかというのにちょっと関心があったので教えていただけると有り難いです。

○田中委員　ありがとうございます。大変重要な点だと思います。

今は検出の話で、検出した後にどうやってフィードバックするかという別のプロセスがあると思うのですけれども、そこについてはダークパターンという文脈では私の調べた限りではあまり十分研究が出てこなかったというのが正直なところです。ただ、一般的に、298を直接使った実験というのは存じ上げないのですけれども、バイアスがあるよと言ったとしても必ずしもバイアスの影響がゼロになるというわけではなくて、そういった意味ではどうやってフィードバックをしていくのかというのは別の問題としてプロセスとして考えていく必要があると思います。

また、もう一つ、今日、御紹介した論文の中で紹介はしてないのですけれども、そもそもダークパターンの何が問題かというと、たくさん問題がある中で一つは、認知負荷をかけるということが言われていて、フィードバックをかけることで、より認知負荷がかかってしまうというようなトレードオフみたいなことも生じてしまうので、そういったことを考えると、全てにフラッグを立てていけばそれでいいかといったら、恐らくそうではないだろうなというような印象を持っています。ただ、これについてはまだ研究が少ないというような印象を持っています。

○山口委員　ありがとうございます。

○橋田座長　では、鳥海委員、お願いします。

○鳥海委員　ありがとうございました。非常に分かりやすくて、ダークパターンについてすごい勉強になりました。ありがとうございます。

今の山口委員の話と少し似ているかもしれませんが、教えていただきたいのが何をもってダークパターンとするのかという辺りについてなのです。先ほど10ページのところで、カウントダウンのところにブラウザの拡張機能で何かこれはフェイクかもしれないと出てくるという話ですが、これを自動で入れるというときに、検出性能というのがどの程度なのか、何を検出して、これがダークパターンのカウントダウンなのか、単にカウントダウンしているだけなのかとか表面上では分からない気もするのですが、この辺というのはどういうようにこの論文ではされているのでしょうか。

○田中委員　まず1点目については、これはモック画像であるというように書かれていました。なので、自動で判別して表示しているわけではなくて、あくまで今回開発したような技術の利用可能性の一例としてこれを提示しているというような表記の仕方がありました。

鳥海先生がおっしゃるように、こういったカウントダウンタイマーがあったからといって、それが果たしてダークなのか、それとも本当にカウントダウンしていくのかというのは恐らく検出が難しいような気がしています。なので、今回はこの論文ではあくまで最終的に人が判断している。一致率を出してダークかどうかというのを先行研究の知見に基づいて人が判断しているということをやっているようです。なので、これを自動化するというところまではまだ行っていないのではないかという認識です。

○鳥海委員　なるほど。分かりました。

何となく技術的にこれを全部自動化するというのは結構難しいのかなという気はしていました。特にカウントダウンがゼロになったらまた戻るとかそういったことで何か確認するのは中のJavaScriptとか見ればもしかしたら分かるのかもしれないですけれども、そこまでやるのはなかなか拡張機能ぐらいだとハードなのかなと思いました。その辺の技術の開発というのはちょっと難しいのかなという印象を受けました。ありがとうございます。

○橋田座長　他に御質問等ありましたら。

では、坂下委員、お願いします。

○坂下委員　坂下です。どうも御説明ありがとうございました。

ちょっと気になったのは、4ページのニューヨーク・タイムズでしたか。ここの退会をするのに物すごく時間がかかるようになっているというのは不利益変更に当たるので、こういうのはダークパターンとしては何か取り締まらなければいけないのかなということを感じました。

質問というのは、今回御発表いただいているものというのは大体アメリカの論文とか調査が多いのですけれども、日本国内でこういうダークパターンを網羅的に調査をしたり研究をなさっているという事例は何かありますか。

○田中委員　私が国内のを不勉強なのかもしれないのですけれども、私の知る限り、ここまで網羅的にしている事例は存じ上げません。なので、最後の今後の課題にも挙げましたけれども、こういったことが日本のプラットフォームでも実行可能なのかというのは今後の課題として一つあるのかなと思います。

○坂下委員　ありがとうございます。私もその辺を調査したほうがいいような気がしました。以上です。

○橋田座長　他に御質問ある方、いらっしゃいますか。

今の検出の話にちょっと関連するのですけれども、先ほど出ていたカウンターとかにびっくりマークがついているような絵がありました。これはモックアップの画面ということではありましたが、個別に各画面を見て分析することでこれは怪しいというようなことをやっているのだろうと思うのですが、その同じサイトにたくさんの人たちがアクセスしたときに例えばカウンターであれば、あれ、先ほどゼロになったはずなのにまた何時間かになっているみたいなことが多数の観測者から見れば分かるのではないかと思うのですね。そういうようにいろいろな視点から、つまり、集合的なやり方でダークパターンを検出するみたいなアプローチというのは研究されているのでしょうか。

○田中委員　このダークパターンの検出技術に関する論文自体、私の知る限り、これがよく引用されているのですけれども、何かそんなにいろいろなアプローチがたくさんあるというような印象ではないですね。

○橋田座長　なるほど。何かそういうことに関してうまく情報共有できるような仕組みがあると役に立つのかもしれないなと思いました。

他に何か御質問のある方、いらっしゃいますか。

では、山口委員、もう一回。

○山口委員　すみません。これは質問というよりは今の御発言を聞いてのコメントになるのですけれども、まさに集合知的なところでいくと、私が最近聞いた事例ですと、例えばフライトのプライシングは直前のフライトであればあるほど需要が高いので基本的には飛行機に乗りたい気持ちが強いと。なので、それに合わせて価格を例えば高く設定するという、いわゆるダイナミックプライシングと言われる仕組みがあるのですけれども、例えば何回も同じフライトのサイトを検索すると勝手にすごく需要があるとみなされてどんどん提示価格が変わっていくということもよく知られていることなのですよね。

それをすごく消費者側が、これは航空会社の悪意だみたいな形である意味、消費者同士で共有していくと、それはそれで実際に直前に乗る人というのはそれなりの価値が、緊急性みたいなものがあって価値があるから価格を払うというある意味自然というか合理的な判断になると思うのですけれども、それを集合知的なところを依存してやってしまうと、本来であれば理にかなったアルゴリズムで動いているものが悪意と解釈されるというのも、それはそれで少し問題が起きるのかなと。そういったあくまで消費者が発信している情報というのももしかしたらダークパターンが偽物、偽のダークパターンとして検出されないような工夫も必要になってくるのかなというのを今、話を聞いていて感じたというところです。

○田中委員　今のお話だと、偽陽性のリスクみたいな感じですかね。本当はそこまでダークではないし、悪意があるわけでも、非倫理的でもないものが誤ってダークなものとして検出されてしまうリスクというような御指摘だと理解しました。

○山口委員　そうですね。

○田中委員　そのリスクもあると思います。

○橋田座長　なかなか奥が深い問題だと思います。

他に御質問、御意見のある方、いらっしゃるでしょうか。よろしいでしょうか。

では、鳥海委員、もう一度お願いします。

○鳥海委員　すみません、もう一つ追加の質問なのですけれども、何年か前に日本でダークパターンを出しているようなところがそういうやり方をやめたような記憶があるのですね。そういった形で何かそもそもダークパターンをやめさせようという法的な縛りであるとかそういったものというのは今、どのぐらいあったりするのでしょうか。

○田中委員　そこについては私、専門が足りてなくて、むしろそういった議論をどこかでしたほうがいいのではないのかなという問題提起として今日発表したつもりです。やはり私の専門は記述的なところなので、どうするべきかについてはやはり専門性が足りていないなと思っていますので、今、鳥海先生からいただいた御指摘みたいなことが別の場でできるといいのかなと思っております。

○鳥海委員　分かりました。ありがとうございます。

○橋田座長　今のような話に関して何か法律のことをよく御存じの方からコメントありますかね。

Digital Services Actというのはありますけれども、あれはプラットフォーマーに対する規制で、中小の業者はなかなか規制できないですよね。難しいと思います。

他に何かございますか。では、どうもありがとうございました。田中委員におかれましては、貴重な御報告をいただきました。

では、次に、誤情報・偽情報と消費者に関しまして、鳥海委員から御発表いただきたいと思います。では、鳥海委員、20分程度でお願いいたします。

≪2．②鳥海委員プレゼンテーション≫

○鳥海委員　東京大学の鳥海です。よろしくお願いいたします。

今日は情報空間とそれによって生じる問題と消費者の関係ということでお話ししたいと思います。

御存じのとおり、現在の我々を取り巻いているウェブを含めて、ネット空間を含めて情報空間では情報爆発しているということで、要は誰でも情報発信できるようになり様々な情報があふれています。

これが現在の情報空間をつくり上げているわけですけれども、そういった中でマスメディアとかソーシャルメディア、ネットメディアなど様々なメディアが今の情報空間をつくっているわけです。こういった情報空間がいろいろな問題を起こすような仕組みをつくってしまっています。

現在の情報空間というのはアテンションエコノミーと言われるような情報空間になっています。消費者を取り囲む状況としても、とにかくアテンションつまり関心を集めるということが非常に重要ということになっています。

このアテンションエコノミーがエコーチェンバーとかフィルターバブルといった現象の要因となっているというのが現在の情報空間全体を取り巻くような環境です。アテンションエコノミーは、メディアの収入が広告によって成り立っているという事がポイントです。少し前に話題になりましたが、詐欺広告のようなものが出てしまうのもアテンションエコノミーというのが根幹にある問題といえるでしょう。

アテンションエコノミーの特徴は、閲覧数が多いほど高収入となることであり、アテンションを集めることができればよい、そういう空間になっているというところがポイントです。

それがもたらしているものとしては、フィルターバブルと呼ばれるものがあり、我々が何かを検索しようとすると個人が閲覧するニュース記事をAIが自動的に選んで好みのものだけを出してしまうというような情報の偏りをつくることがあります。あるいはエコーチェンバーと呼ばれる現象、これは我々が選択的に接する人を決めてしまうことによって、自分自身が常に多数派にいるように認識する状態を作り上げてしまうといったようなことが実際起きています。

こういった情報空間では、アテンションエコノミーにおける利益最大化を目指した不適切な操作がなされたりします。例えばマインド・ハッキング等はその典型例です。まさに人間の認知を操作しようということであります。

マインド・ハッキングで有名なものとして、2016年のケンブリッジ・アナリティカ事件があります。これはサイコグラフィックスを用いた心理的プロファイリングを行って、大統領選挙で特定の候補者に有利なように操作したという事件です。このような操作は必ずしも選挙等のみ使われるようなものではなく様々な消費者を操作するようなものになりかねません。主にアメリカのほうでは民主主義の前提を脅かすような政治的なマイクロ・ターゲティングに問題であると言われていますが、これ自体が我々、消費者そのものの行動というのをハッキング、要は操作できる状況になっているということになっているのかなと思います。

また、先ほど田中委員のほうから詳細な御説明がありましたので割愛いたしますけれども、ダークパターンをつくり出すというのもこのアテンションエコノミー等の情報空間の変化というところから必然的に生まれたものともいえます。

また、偽情報・誤情報によって一定の利益を得ようというものもあります。詐欺広告は問題外としても、それ以外にも間違った情報や偽情報が拡散するのが現在の情報空間でして、本来正しく判断していればこうだったはずというものを異なった判断を招いてしまうというようなことが起きています。

それに対してファクトチェックと呼ばれる正しい情報を出して誤った情報を訂正する試みがあります。日本においてもファクトチェックを行うような機関というのは幾つかありファクトチェックを行っていますが、偽誤情報を見た記憶はあっても、それに対するファクトチェックを見たという例はそれほど多くないのではないかと思われます。

特に誤情報は意図的につくっているものではないので、多くの人が誤情報というのは必然的に発信してしまいます。そういったものが大量に情報空間に投げ込まれている中で、それらの全てについてファクトチェックをするというのは現実的ではありません。実際にはファクトチェックを行うのは非常に手間がかかるわけです。ちょっと誤った内容のことをＸに投稿してしまうという手間と、それが本当であるかどうか、もし本当でないのであれば本当でないという証拠とともに提示するというファクトチェックを行うことには、非対称性があり訂正を行う事は非常に困難であるということが分かっています。以上を踏まえると偽誤情報が情報空間に出てしまうことは仕方がない話でもあり、それに対してファクトチェックが追いつかないというのも現在の情報空間の性質から考えると必然的であるといえます。

また、このファクトチェックが行われた場合においても、すぐさま社会の混乱を収めるかというと必ずしもそうではないということも分かっています。これは新型コロナ、COVID-19のワクチンに関する偽誤情報の拡散について我々がデータを取って見たものなのですが、ワクチン接種が始まってから多くの情報が出ておりまして、偽情報も当初かなり拡散されていました。ただ、それ以外のワクチンに関する情報のほうがはるかに多く、この中には偽情報を否定する訂正情報等もたくさん含まれていました。

ただ、時間がたつにつれて偽誤情報に対して訂正をする必要性というのがだんだん薄れてくる。薄れてくると、そういった訂正情報等がだんだん減ってくるという傾向が見られます。

一方で、偽誤情報を発信する人たちというのは積極的にこういった偽誤情報を発信し続けるという性質を持っています。要は情報拡散終了のタイミングが異なっているわけです。一般の人にとってはワクチンの情報は今もう要らない情報になっているわけですけれども、ワクチンを打つと何か体に被害が出ますよということを信じている方たちにとっては、自分たちだけが知っていることをちゃんと周りに広めなければいけないという思いがありますので、偽誤情報を発信し続けるという傾向があったりします。

そうすると、2023年末ぐらいになりますと半分以上のワクチン関連の情報が偽誤情報になっていたりするというようなことが起きています。既に情報としては訂正されファクトチェックもされているにもかかわらず、情報空間には偽誤情報のほうがむしろ多く出てしまっているというようなことが起きていて、このファクトチェックの難しさがこういったところで現れています。

また、これも私が調べた研究ですけれども、コロナ禍のごく初期、トイレットペーパーが不足しますよという情報が流れ、すぐさまそれを打ち消す訂正情報も流れたのですが、結果としてはトイレットペーパーが不足するといったことがありました。何が原因だったのかを調べると、実は不足情報が拡散するタイミングよりも訂正情報が拡散するタイミングでみんなトイレットペーパーを買いに行っている、売上げの増加が訂正情報と同期しているということが分かりました。

偽情報が流れることによってみんなが偽情報にだまされてトイレットペーパーを買いに行くだろうから自分も行かなければという、多元的無知と呼ばれる現象が発生することによって訂正が正しく動かないといったことがあるわけです。

何でこういう情報を共有したのかということを調べても、30％以上の方が情報が興味深かったからと答えており、真実かどうかということとは無関係に偽情報を拡散するということで、偽誤情報の拡散を止めるのは難しいと言えます。

現在の情報空間においてはこのような不具合が多数起きているのですけれども、その原因の一つが二重過程理論と呼ばれるものにあるだろうと考えられています。要は認知機能の一種のバグみたいなものがつかれているといったところなのですけれども、二重過程理論では人間の認知過程は大きくシステム1とシステム2によって動いているしています。システム1というのは、自動的かつ瞬間的に行う判断でして、いわゆる人間が本能的に動く場合に働くシステムです。一方システム2というのは、人間らしく熟考する、じっくり考えて動く場合に働くシステムです。

このシステム1とシステム2というのがあり、大概の場合、我々はシステム1によって動いているというように考えられています。好きなものがあったらそちらに行ってしまうといったいわゆる認知バイアスとかそういったものは本能であるシステム1によって動かされていると考えられています。

我々自身が常にシステム2によって動いていれば起きない問題というのが結構ありまして、例えば一部のダークパターンでは恐らくじっくり考えれば、これは何かおかしいと考えられるものもあると思うのですけれども、それがシステム1によって動いていることによって、引っかかってしまうことがよくあると考えられています。

例えば人間には確証バイアスがあって、先入観から判断をするというようなことがあります。例えばこのようなデータ、これは2種類のワクチンの治験を受けた人のうち、どのぐらい重篤な有害事象が起きてどのぐらいの方が亡くなったのかというものです。どちらも2万人ぐらいの治験者がおりまして、2名ぐらいずつ亡くなっている。重篤な有害事象があったのが100名程度いらっしゃるというようなデータがあったときに、そのまま見ればワクチンは危険なのかもと考えてしまいがちです。

ワクチンを信頼している人は、あれ、これでいいのかなとちょっと疑ってかかることもできるかもしれませんが、そうでない人はこれを見ると信じてしまうでしょう。実は実際にワクチンを打った場合とプラセボを打った場合でほぼ数字が一緒ということも分かっています。この辺が人間のバイアスでして、こういった与えられた情報だけから判断してしまうわけです。ここから分かることというのは、実は人間はどんなタイミングでも死ぬことがあるということだけなのですが、そういったことがなかなか分かりづらい。システム1ですと瞬間的に危険なのかなと思ってしまうというようなことがあるということになります。

また、認知的均衡理論というのがあります。これは好きなものと嫌いなもののバランスを保ちたいというものでして、このバイアスはかなり強く利いていたりします。多くの場合、システム1は均衡を取ろうとするということがわかっています。

例えば政府を支持してない人が何か政府がワクチンを推奨すると、信用してない政府が言っているのだからこれは信用できないとなってしまいます。逆に信用している人は、接種しようとなります。このような三者の関係は8パターンあるのですが、上側のほうが安定的なパターン、好きな人が好きなものは好き、嫌いなものを嫌いな人が好きでもそれは気にしないなどとなりますが、下側のパターンですと、好きな人が嫌いなものを好きだったりすると落ち着かないといった、認知的なバイアスも存在します。

こういった認知バイアスが幾つも人間には備わっていて、これらをうまく使われると、ダークパターンのように、我々消費者が騙されてしまう可能性があります。この辺は人間の情報処理の限界です。情報を全て適切に処理することは難しいですし、そもそもすべての情報を見ることももちろんできないわけです。特に情報社会における情報爆発のもとでは、リソースの限界から全てを見通して動くことができない。結局システム1で我々が動いているのにシステム2を期待することはなかなか難しいというところです。現状、我々が生きている情報空間においていろいろハッキングしようとすれば短期的な利得に対抗するのは難しい状況であるとも言えます。

それに対して、今の情報空間に対して何らかの形で我々自身の考え方を変えるきっかけはないかということで、我々の研究チームでは食と健康というのをアナロジーとして考えています。人間は長期的な健康維持のためには短期的な欲望に勝つことができるという事実がありますので、例えば偽情報を見て、これはよさそうだなと思ってすぐに飛びついてしまうのに対して、少しじっくり考えることができるシステム2を動かすことができるタイミングはどうすれば作れるのかと考えると、食事でおいしそうなものを見てすぐに飛びついてしまうわけではなく、健康に悪くないかなと考えることができていることから、人間にはそういう機能もちゃんと備わっているらしいという期待が持てるわけです。つまり何か短期的なものを見たときにそれに飛びついてしまわないような考え方もできるのではないかと。そのためには食事と健康のための長期的な視野を我々がどう培ってきたのかということを参考にしながら、情報についても同じ考え方を導入できるのではないかというアイデア、情報的健康という考え方を提案しています。

例えば、そもそも我々がいる情報空間、どんなものなのか、一体どういうものがあるのかということをきちんと知ろうということがまず一つ重要であろうと考えられます。今使っている例えばサイトとかがダークパターンをいっぱい使っているのかとか、偽誤情報を出していないのかとかを知っておく。例えば偽誤情報、怪しい情報についてはきちんとコンテンツモデレーションしてくれているサイトを見ているのか、そういうのを全く無視しているのかは重要な情報です。今のＸですと事実上の代表であるイーロン・マスク氏自身が偽情報を発信しているような状況だということ知っているのか、知らないのかというのは大きな違いではないでしょうか。そういったことをきちんと知ることは必要なのではないか。そのための教育や情報提供していくということは必要ではないかなと考えています。

最初のほうで情報空間の問題点として御紹介しましたエコーチェンバーやフィルターバブルについて、日本における認知率は非常に低いです。理解度でいくと20％を切っています。これは諸外国だともう少し高いということも分かっていますので、こういったことを知っていくことも必要であったり、先ほどのダークパターンでもダークパターンに注意を出しましょうという注意喚起もありましたが、そういった形でいろいろな情報に関する情報、すなわちメタ情報を可視化をするということは重要なのではないかなと考えています。

例えば広告などについても発信者が何者なのかがよく分からないこともありますが、詐欺広告の裏にいる者が一体何者なのかとかそういったものを明らかにしたり、この後、クロサカさんのほうからお話があると思いますけれども、Originator Profileのように発信した人を確かな者にするといったことが行えれば情報に対する考え方は変えることができるのではないでしょうか。

また、AI等による行動支援もありえます。今、食事をとる前に写真を撮るとカロリー高過ぎだよなどと教えてくれるようなAIがありますが、それと同じように我々自身の情報行動に対して支援を行うことによって、怪しげな商品に飛びつくようなことがないようにすることも可能ではないかと思っています。その際には前回、橋田先生のほうから御紹介ありましたパーソナルAIのようなものが入ることによって、認知バイアスの回避やアテンションからの退却といったことは期待できるのではないかと考えられるのではないかなと思います。

以上で私のほうからの話は終わりたいと思います。

○橋田座長　ありがとうございました。

ただいまの鳥海委員からの御発表内容を踏まえて質疑応答、意見交換をしたいと思います。御発言のある方は挙手またはチャットでお知らせください。

では、田中委員、お願いします。

○田中委員　御発表どうもありがとうございました。

この自分の周りの情報空間がどのようなものなのかを知るという点が非常に重要だと思いますけれども、質問は、エコーチェンバーの現象を実証する上で今、何かハードルがあるのかとか、どんなハードルが乗り越えられれば実証的にこれを可視化することができるかみたいな、その辺りの技術開発状況について御教示いただけないでしょうか。

○鳥海委員　ありがとうございます。

例えばエコーチェンバーに入っているかどうかであれば、エコーチェンバーはプラットフォームごとにつくられているのかと思いますので、各プラットフォームのデータが取れればかなりの精度でエコーチェンバーの中にいるのかどうかを把握できると思っています。ただ、最近、各プラットフォーマーのほうでデータを出さない方向に少し動いている節がありまして、きちんとデータを出させるということができていないとなかなか難しいのかなと思います。Meta社もそうですし、ＸもAPIの利用制限が厳しくなっているため、そこが一番のネックになっているのではないかなと思います。

○田中委員　ありがとうございます。

○橋田座長　では、次、原田委員、お願いします。

○原田委員　原田でございます。遅くなって申し訳ありませんでした。

トイレットペーパーの騒動のときに、今の米が足りないという騒動と同じで、テレビ局がトイレットペーパーのときもネットでそういう情報が出ていてトイレットペーパーを買い占める人が増えていますという報道をしてしまったがために、さらにネットに関係ない高齢者とかもトイレットペーパーを買ってしまうという行動が起きてしまった。

だから、今もお米が足りないというような情報を盛んに報道することによって、さらに米不足、米を買い占められてしまうという、メディアが複数出てくるとさらに加速してしまうというようなものに対してもこういういろいろなテクノロジー的なものがつなぐということができるのかなというのが一点と、あとは最後のところにおっしゃっていただいたように客観的な第三者の意見というのが、やはり自分1人で考えているとどうしてもバイアスで自分の有利な方向に、自分にいい方向に考えてしまうので、第三者が今回であればAIとかがきちんと判断してくれる、第三者がいるという必要性も改めて認識できたかなというようなところは非常に関心深く思っておりまして、もうけ話とかが非常に消費者トラブル、多いのですけれども、もうけ話も結局、ネット上で若くして何かもうかってばりばり成功しましたみたいな人たちが出てきて、実際に失敗した人たちの情報というのはほとんど表に出てこないというようなところで、やはり簡単に楽してもうかってしまうと若者が特にそういうように思いやすくなってしまうというようなところもやはり実際は違うのだよと、ネット上の情報が全てではないというような認識を持ってもらうというようなところも一つテクニックとして要るのかなと思いました。

以上です。

○鳥海委員　ありがとうございます。

最初の他のいろいろなメディアとのコラボレーションによってこういった偽誤情報が広まるという点は、まさにそのとおりで、偽誤情報が1つのプラットフォームで大きく広がることは珍しく、様々なメディアを行き来しながらどんどん成長していくといった傾向があります。特にマスメディアの影響はいまだにかなり大きくて、マスメディアが取り扱うことによってかなり大きな問題になるというのは分かっております。

マスメディアが何か言ったことに対して技術的に何かできるのかといえば、できないことはないというのが答えといいますか、頑張ればできるだろうなというところはありますが、そこを頑張るよりはもう少しマスメディア等はお行儀よく、自分たちの影響力を考えた上で、ネットにこんな情報が、といったニュースではなく、ジャーナリズムにのっとった報道もしてくれるといいのではないかなと、個人的にはそちらのほうが早いと思っています。

○原田委員　ありがとうございます。

特にそういうテレビ局のほうも悪気はないのでしょうけれども、空になったトイレットペーパーの棚とか空になった米の棚とかを映像で見せつけられるとやはり映像はすごいインパクトを与えるものですから、そうすると、今までそういうネット上ではあまり関係なかった人たちもそういうニュースというか報道というようなところでまた慌ててしまうという、本来の報道の目的と違う方向に人間が動いてしまうという点では、報道のほうもある程度、報道の仕方というのが特にそういう誘導というか扇動しないようなやり方を一緒に考えていただければ有り難いなと思いました。ありがとうございます。

○鳥海委員　ありがとうございます。

○橋田座長　では、森座長代理、お願いします。

○森座長代理　御説明ありがとうございました。以前も同じテーマでお話を伺いました。今回も大変アップデートされていて勉強になりました。ありがとうございました。

16枚目だったと思うのですけれども、認知的均衡論というのがちょっと分かりませんでしたので、すみません、御説明いただいてもよろしいでしょうか。

○鳥海委員　これは人間が持っている心理的なバイアスの一つなのですけれども、要は三者の関係があったときに自分が好きなものというのがあったときに、それを自分が好きな人が好きだと何となく落ち着ける。ここの間に矛盾が生じてしまうとちょっと落ち着けない状態になってしまうというものです。例えば自分が仲いい人が自分が好きなものを否定してきたりするとちょっと気持ち悪かったりしますよね。そういう場合、その状況を何とか是正したいと思うバイアスが人間にはあるということです。この場合ですと、もしかして、これはあまりよくないのかなと思ってしまったり、自分がすごく好きなものを否定する相手を今まで好きだったのに、ちょっと嫌なやつだなと思ってしまうというようなことが起きる、そういったものになります。

○森座長代理　なるほど。すみません、ありがとうございました。よく分かりました。ありがとうございました。

○橋田座長　すみません、今のに関連して、この認知的均衡理論みたいなことが何か広告とかで使われているという話なのですか。

○鳥海委員　はい。それはもちろん。詐欺広告とかで有名人がよく出てきて出していたものが最近はやって問題になっていたかと思いますけれども、やはり自分が好きなタレントとかが紹介しているものがいいものだと言っているという広告を見ると、それはいいものかなと考えるということは当然生じていると思います。

○橋田座長　なるほど。それはちょっとうがって考えると、タレントとしてはこれがいいよと言うと、その品物が嫌いな人に嫌われてしまうというリスクもあったりするわけですよね。

○鳥海委員　そうですね。一般的にはそういうリスクもあります。この商品の広告に出ているからもうこの人を支持しないみたいなことがSNS上ではよくそういう言及をされているのはよく見かけます。

○橋田座長　先ほどのマスコミの話に戻るのですけれども、トイレットペーパーとか米の話とかマスコミがパニックをあおってしまうということが期せずして起こるという話だったと思うのですが、さすがに従来のマスコミというか報道機関の報道というのは内容的にはネットで言われていることよりはかなり正しいというのは確かだと思っていいのでしょうか。

○鳥海委員　嘘を報道していることはないとは思いますけれども、その報道の内容に嘘はないが、本当のことを全て言っているとは限らないというのはよくあります。現状ではマスメディアも、アテンションエコノミーの中にのまれておりまして、多くの場合、テレビで番組を視聴者に見てもらうというのももちろんそうですが、新聞とかですと、ネット上の記事が読まれることが多いので、記事単位で人を集めるという必要性があります。そうすると、普通のネットメディアと同じ土俵で勝負しなければいけないことが多く、ときには少し危ういような情報を流してしまう。実際に、ネット上でこんなことが書かれていますということだけを書いた記事というのがバズってしまって問題になったことというのは結構あります。ネットでこういう情報があふれているまでは真実なのですけれども、あふれている情報が真実かどうかまでは言及していないので嘘はついていないという事になります。

○橋田座長　なるほど。マスメディアがネットにあおられるみたいなことがあり得るということですね。

○鳥海委員　そうですね。残念ながら。

○橋田座長　他に御意見、御質問、いかがでしょうか。

では、坂下委員、お願いします。

○坂下委員　どうも御説明ありがとうございました。

1つ質問がありまして、この専門調査会の題名が消費者をエンパワーすると書いてあって、エンパワーされる消費者というのはどういう消費者かなと考えると、電車の中でスマホをすぐいじったり、歩きながらスマホをいじったり、いわゆる可処分時間をつくってアクセスする人が多いのだと思うのですね。可処分時間をつくってアクセスをしているときに、ぱっと見、これは偽物だというのが分かったほうが多分いいと思うのです。そういうタイムリーな技術的な取組だとか理論だとかというものの検証というのは何かやられているものはあるのですか。

○鳥海委員　偽情報だということをぱっと分かるかどうかという問題は、なかなか難しいところです。多くの研究はされているのですけれども、先ほど申し上げたとおり、やはりファクトチェックにはどうしても時間がかかってしまうという問題点はあります。ですので、その情報が確かに偽情報であるというのが分かるまでにはどうしてもタイムラグがあり、瞬間的に分かるのはかなり難しいです。

一方で、偽かもしれないという心理状態を保ったままで情報を見るということは恐らくそれは個人の防衛としてできると思いますので、それを支援することは十分可能ではないかなと思います。ですので、例えばパーソナルAIみたいなものがそこで偽かどうかは分からないが、この情報をうのみにするのは危険だよとアラートを出すといったようなことは可能ではないかなと考えています。

○坂下委員　ありがとうございます。

先ほどメディアの話もありましたけれども、アメリカの大統領選のテレビを向こうのテレビで見ていただくと、候補がいろいろしゃべった横で新聞社が横断的にこれは嘘、これは本当というのを打ち込んでいるわけですよね。ああいう形でこれはフェイクかファクトかというのを見る習慣というのもあると消費者というのは結構日々情報に対する理解力がつけられるような気がしました。ありがとうございました。

○鳥海委員　ありがとうございます。

ただ、アメリカの場合大統領選の場合ですと、どこのテレビ局を見るかによってフェイクの定義が変わったりするのでまた難しいかなという気も何となくいたしました。

○橋田座長　ありがとうございました。

他に御質問等ありますでしょうか。

ファクトチェックには手間がかかるという話でしたけれども、もちろんそうなのですが、偽情報・誤情報のバリエーションはどれぐらいあるのかと。つまり、例えばコロナワクチンならワクチンに関して出てくるデマの種類というのはどれぐらいだと。本当に何か山のようにいろいろな種類があってとても追いつかないのか、それとも延べはたくさん出てくるのだけれども、種類はそんなにないのかというと、どちらなのでしょうか。もし後者だとすれば、1回ファクトチェックしたらそれをもうしつこく使い続けるというのが効きそうな気がするのですが。

○鳥海委員　種類分けをすることはできるかと思います。たしかCOVID-19に関する偽情報ですと、恐らく世界中で相当数あったと記憶しておりますけれども、それを体系化すると幾つかに分けることはできると思います。ただ、それがどのレイヤーで体系化するのかは難しい判断です。また実際に出てきた偽情報がそのうちのどれに当てはまるのかというのを素早く判断していくというのは可能とは思いますが、現状ではまだそこまで実装されていないかなと思います。

○橋田座長　何かラージランゲージモデルとか使ったらできるかもしれないなという気がしますけれどもね。

○鳥海委員　そうですね。期待はできると思います。あとは新しいのがどうしても出てくるので、そのときにどうなのかというところは、新規偽情報が出てきたときにどうするのか問題が常にあると思います。

○橋田座長　ありがとうございます。

他の方、いかがでしょうか。

では、どうもありがとうございました。鳥海委員におかれましては、貴重な御報告をいただきました。

では、次に、Originator Profileの取組などについてクロサカ様から御発表をお願いしたいと思います。クロサカさん、そちらは午前3時15分ぐらいですかね。すみませんけれども、20分程度でよろしくお願いいたします。

≪2．③有識者ヒアリング（クロサカタツヤ　Originator Profile技術研究組合事務局長）≫

○クロサカ様　それでは、私のほうから発表させていただければと思います。

Originator Profileがどのようなもので、何を目指しているのか、今、どのような状況にあるのかということについて御説明をさせていただければと思います。

自己紹介は今日は20分ですので、このスライドを御覧いただければと思いますが、私はOriginator Profile技術研究組合という組織の事務局長を仰せつかっております。

今、座長からもお話がありましたとおり、ジョージタウン大学の客員研究員をこの7月から始めまして、アメリカのワシントンDCにおります。ちょうど直前に鳥海先生からもアメリカはどのニュースを見るかによってフェイクの定義が変わってしまうといった御指摘があったところ、まさしく大統領選の佳境に入っていまして、毎日暮らながら強烈な体験をしています。日本でも十分報道されていると思いますが、こちらの感覚はもう日本の報道が十分控え目でジェントルだというぐらい皆さん踏み込んだ報道をされていて、やはり報道は中立であり、ニュートラルであるべきという意識は日本は極めて高く維持されている状態だと感じます。

早速、お話に入りますが、前半のほうはもう一般的な課題意識の話が続きますので、できるだけかいつまんでお話しできればと思っております。インターネット空間普及が始まってもう30年以上たつわけですが、これがもう非常に便利なものであり、なくてはならない存在である一方で、いわゆるインターネットの中に流通する情報を信じ切ることができるのかということについては普及が進めば進むほど疑義が重なってきている状況だろうと思います。いわゆるミスインフォ、ディスインフォの話、フィッシング、それが生成AIにより加速している。あるいはインターネットの情報流通を多く支えている広告ビジネスモデルについても望まないサイトに広告が掲載されてしまう。これは広告主の課題ですね。あるいは正しく掲載されないのに広告費を取られてしまう、アドフラウドと言ったりします。あるいはそういう違法、不法行為ではないものの、そもそもいわゆるデジタル広告のアドテクは非常に多業者介在による複雑な構造を持っていますので、取引が不透明であるというようなこともあったりします。

今、世の中的に最大の関心事かつ最大のインシデントになっているのは、恐らくフィッシングだろうと思っています。結局、フィッシングも偽・誤情報、とりわけ偽情報ですね。意図を持って、悪意を持って流通しているものについても基本的には何らかの犯罪行為であり、そういう意識を持ってやられているものでありますが、残念ながらこれがどれくらい横行しているかというと、およそ我々がふだん見ているような大手の組織、これは民間企業に限らず政府、普通の会社・団体といったところのウェブサイトのトップページには、一番目立つところに偽サイトに御用心というようなことが書かれているわけです。

ウェブサイトを見るというのも一つの経済行為だというようにみなすのであれば、一番目立つ大通りのところに偽情報に御用心ということのメッセージを出さなければいけないということ自体が既に経済的な損失であるというようにも言えるかと思いますし、経済のことを言うまでもなく、信頼性を低下させ明らかに信じられないものになっていっているというようなことだと思っています。

報道に関して申し上げます。このスライドに関してはこの場限りにさせていただければと思います。これはなぜかというと、この画面自体がフェイクニュースをコピーしてきたものだからです。この報道をかたった詐欺サイトということも横行しているわけです。アジア各国でもやはり同様のフィッシング行為ということが起きていて、これは日本だけの問題ではない。ないしは海外で作られた巧妙な日本語のサイトというのが日本にどんどん持ち込まれて、場合によっては残念ながら逆もあるかもしれませんが、もう常にクロスボーダーのグローバルな状態で偽・誤情報が流通しているということが言えるかと思います。

なぜこのようなことが最近、特に拍車がかかってきているのかということの一つの要素は、生成AIだろうと考えられます。たとえばChatGPTを使って学習をさせていって、とあるOPの組合員である某新聞社の方に御協力いただいてやったのですが、その新聞社の方のような記事を書くように徹底的に生成AIサービスを仕込みまして、フェイクニュースをどれくらいのスピードで作れるようになるか、どれくらいの品質なのかというようなことを私どものほうで実験した結果です。

そんなことはできて当然でしょうと思われるかもしれませんが、これのすごいところは精度が高いということなのですね。スピードももちろん、このウェブサイト、今、このページに見えているような記事であればものの数十秒でできてしまうわけですが、このChatGPTで生成された偽記事をOP組合のメンバーである他の新聞社さんの方に見ていただいたときに、これは確かに某新聞社さんの書きっぷりだと識別することがプロの中では可能なのだということを伺いました。正直、私は分からないのですけれども、そんなところまでも来ているのかと。これが非常につまりコストが低い状態、悪いものを作るのにコストが低い状態に今なっているというのが今般起きていることだろうと思います。

先ほど広告の商流の観点でということを冒頭申し上げましたが、アドフラウド、つまり、本来であれば期待どおりの広告が出されるべきところ、それが成立せずに広告費だけがかすめ取られてしまうようなことですけれども、これは今、世界中で2兆円、日本国内だと1300億円、被害額がある。これはつまり、企業が広告費をだまし取られているということなので被害者は企業、広告主になるわけですが、こういう問題が今、発生していると見られています。

日本の1300億円というのは実は広告主がそれを自覚している数字だと考えられますので、私は実は1300億円では足りない、もっと被害額が大きいだろうと考えています。なぜかというと、広告主は、これは後ほどの話にも関連するのですけれども、自分の広告がどのメディア、どのパブリッシャーにどのような形で掲載されているかということを全て追いかけて検証していくことが困難な状況だからです。

これは例えばテレビ広告や新聞の広告というものであれば、掲載されましたね、この枠で出ましたねということはあらかじめ広告代理店さんを通じて伝えているので検証することができるわけですね。大体この辺の時間に出ますよということ、あるいはこの面とかこの日のここに出ますよということが分かるわけです。逆にこれを検証して出なかったら何をやっているのだと抗議ができるわけですね。ところが、デジタルの場合、ほとんどそれはできないというような構造上の問題があります。ですので、本当に自分が詐欺の被害に遭っているかどうかも分からないということなのですね。というようなことがあります。なので、これは実は産業全体、すなわち、消費者だけではなく、いいことをしようと普通の経済活動をしようと思っている広告主の側の問題でもある。つまり、全面的な問題だということが構造上、今、言えるのではないかと思っています。

話を消費者側に戻しますと、あるいは読者側に戻しますと、コンテンツの発信元証明が必要だと考える人、どれくらいいますかというと90％の方が必要だと答えられました。社会調査で90％というと行き過ぎなのではないのという気もするのですが、実際にいろいろなところでエンドユーザーの方々にお話を伺うと、何でこんなOriginator Profile（OP）のような簡単な仕組みがインターネットでいまだに実装されていないのかというような、むしろお叱りに近い言葉をかなり強く言われます。ですので、確かにこれぐらいの数字の反応というのはあるのだろうなということを感じているところです。こういった様々な問題を解決するために、それを目指すということで私ども、OP技術の開発を進めているというところでございます。

各国も似たような状況にあるということをスライドとしてはお持ちしました。まず欧州は偽情報の拡散防止を義務づけるなどの法制化をしていますし、先ほど来申し上げたようにAI規制法案も採択されて進んでいるというような状況です。この欧州のAI規制法は恐らく皆様御存じのとおりだと思いますが、リスクベースアプローチで、リスクの構造化を図り、ここはもう絶対使っては駄目よとか、ここは注意して使いなさいよというようなことを制定しているというような状況です。ただ、これも100％うまく機能しているとは伺っていませんし、とりわけ生成AIが出てきてから結構混乱しているということも聞いてはいるところです。

米国については、基本的に憲法の修正第1条で表現の自由を手厚く保護しているところ、AIに対しては警戒感を持って規制もやむなしというような状況になっています。生活者としてのコメントですが、ちょうど私の子供たちがちょうど昨日からこちらの中学、高校に通い始めたのですが、その前のオリエンテーションの段階でAIには本当に困っているので原則的に使っては駄目だといわれました。日本ではアメリカはAIについて積極的だと思われているかもしれませんが、子供に触らせるなというようなことを明確に言われるような状況が発生していて、日本の論調とは大分空気感が違うということを感じています。これは地域差があるのかと思いきや、アメリカ全体が似た感じだと先生は言っていました。

話を戻しまして、日本は2023年にAIの偽・誤情報拡散に対する対応を推進して、今、総務省の検討でも進めているというようなところでもあります。ただ、ここも日本は実はアメリカと同じか、場合によってはそれを上回るぐらい表現の自由、言論の自由に対して強くそれを維持するということがありますので、そんな簡単に実はできる話ではないというところ、その壁があるところを一方でこのまま野放しにしていては民主主義が崩壊してしまう可能性があることと対峙するのか、この悩ましい議論をずっと重ねているというような状況です。

皆様御存じのとおり、安倍元首相や岸田首相のフェイクニュースということも日本で流れ始めまして、日常茶飯事になっているというような状況です。

デジタル広告市場、先ほど業界側の問題でもあるというようなものも入れさせていただきましたが、ちょっとだけここも触れさせていただければと思います。消費者とは直接関係ないではないかと思われると思いますが、悪意を持って情報を流す人たちのインセンティブの基本構造としてやはりこの広告モデルというものが存在するわけで、ここを知っておくということは恐らく消費者をエンパワーするための一つの方策を考えていくときに重要だろうと考えておりますし、OPとしても取組を進めているところです。

インターネット広告費というのは日本の広告費の中でも半分弱ぐらいになっている状況ですが、いわゆる大手メディア、テレビ、新聞は超えたというような状況になっているというところです。

インターネット広告費のうち、圧倒的なシェアを持っているのは運用型広告と呼ぶものです。この運用型広告というのは予約型広告との対比でよく使われるものでございまして、先ほど申し上げた、このメディアが今、ここに枠が空いていますと言って、広告主が手を挙げて、オークションによって出稿を決めていく、これが運用型広告だとお考えください。これはテレビや新聞に広告出稿するときに広告代理店を介して行う細やかな調整、たとえば私の製品はこういういい製品なので、こういう品のあるメディアで、しかも、品のある番組のこの時間帯のこの辺りに広告を差し込んでほしいのだという形の広告である予約型広告とは大きく異なる形です。

この運用型広告の最大の特徴は、複雑であるということです。従来であれば広告主、広告代理店、メディア、この三者ぐらいで大体問題は大きくは整理できたわけですけれども、運用型広告の場合、広告主の意向を受けたDSPが存在する。一方、メディアの意向を受けたSSPも存在する。このDSPとSSPの間で取引をするわけですけれども、リアルタイムビッティングと呼ばれるオークションに近い形態で、こういう形で都度都度、広告が受発注されて表示される。

ここで言っている都度都度というのはどういうタイミングかというと、エンドユーザーがあるメディアを見たいと思ったそのときがまさしく取引が発生し、成立するタイミングなわけです。これは新聞やテレビとは全く異なるわけです。新聞というのは印刷される前に当然広告が配置されているわけですから、エンドユーザーが読みたいか読みたくないかとは関係なしにそこに広告が置かれている状況です。

一方、デジタルメディアの場合は、エンドユーザーがアプリを開いた、ないしはウェブサイトを開いたときに広告がぱっと出るわけです。なので、同じサイトをもう一回見に行っても別の広告が出ている。つまり、10分前のあなたと今のあなたとでは同じユーザーであったとしてもビヘイビアが違うわけですから、広告は別のものが配信されている。なぜならば、先ほどの10分前のオークションに勝った人は今回のオークションには負けてしまったから、というようなことが運用型広告で、これが非常に複雑に行われている。

複雑に行われると何が問題かというと、広告主とメディアがそれぞれこういう広告をここに出したいのだけれども、またはこういう広告を出してほしいのだけれども、という意思疎通ができなくなるということなのですね。とりわけリアルタイムビッティングが入っているときにそういった意向は、途中までは届くわけですけれども、途中からで途絶えてしまい、それぞれの意向に反する形で広告が配信されてしまう。なぜならば、値段の高さが優先される構造だからです。しかも、この複雑な問題、構造を使いましてお金を違法に取ろうとする漫画村というような違法海賊版サイトということも既に出てきているという状況でございますので、経済犯罪の温床にも正直なってしまっているということが現実としてあります。

ようやくOPの話なのですけれども、OPはこういったメディアに記事が掲出されていく、ないしはメディアに広告が掲出されていくときに、もともと誰がこれをやっているのでしたっけ、誰がこの記事を書いて発信しているのでしたっけ、ないしはこの広告はもともと誰の意向でここに置かれているのでしたっけというようなことをきちんと検証できる、ないしはそれをこういうように広告を掲出したいと思った広告主の意思を最後まで、つまり、デリバリーされて広告が掲出されるところまで意思を反映することができる、こういう世界を目指そうと考えています。

具体的には、詐称不可能な形でウェブコンテンツにIDを付与し、ウェブにそれを流通させていつでもエンドユーザー、この場合のエンドユーザーというのは消費者はもちろん、先ほどの広告商流で言うと広告主もエンドユーザーになります。エンド側のユーザーですので、この人たちが検証できるというような技術です。すなわち、コンテンツ発信者が誰なのかということが分かるということです。

例えば読売新聞オンラインというサイトがあります。これはいわゆる読売新聞社が自分で運営されているオウンドメディアです。ここを見に行った人は当然、これは読売新聞の記事でしょう、当たり前でしょうというように、皆さん普通に思われるわけです。ところが、これが当たり前が成立しなくなっているのがフィッシング詐欺です。たとえばGoogleで検索をたたいて読売新聞社にリンクが飛んでいった場合、トップランクのほうに大体出てくるはずですので、ほぼ間違いなく読売新聞オンラインに誘導されるはずですが、これが別の回路、例えばSNSであるとかブログであるとかで悪意を持った人が別の回路を働かせた瞬間に、これはどう見ても読売新聞にそっくりなのだけれども、先ほどの俳優さんの画像が載った偽読売新聞サイトに飛ばされてしまう可能性があるわけです。しかし、人間の目で見るだけでは、これが読売新聞オンラインかそうでないのかが本当に分からないという問題があります。なので、読売新聞社のオウンドサイトであっても、これは本当なのかということを確かめる必要がある。

いわんやニュースのポータルサイト、ヤフーニュースのところだとかSNSにニュースが飛んでいく。これは今、オウンドメディアよりもこういったポータルサイトやSNSのほうで読まれる量のページビューのほうが実ははるかに多いということが言われていますので、こちらのほうがむしろ主戦場なのですが、飛んでいった先は本当に大丈夫ですかというような問題があるわけです。こういったことを追いかけて検証していけるようにしたい、これがOriginator Profileが考えていることです。

何でウェブコンテンツなのかというと、基本的に今のインターネットというのは多くがウェブ技術によって構成されているからです。アプリについてもウェブ技術を中心にそれを応用する形で構成されていますので、ウェブということが人間が目にするサービスの全てのプラットフォームだとほぼ考えてもいいぐらいの状況です。それこそ電子メールであったとしてもウェブメールを使われている方がかなり増えてきていますので、そういう意味でいうとウェブを対象にするということが重要である。なおかつ、ウェブは今、表示されるときに非常に複雑な構造を持っているわけですね。1枚のヤフーニュースを見るときにも、そのページは1枚に見えますが、そのサイトを運営しているのはLINEヤフーである。記事を持ってきているのは読売新聞である。広告は他の会社が掲出している、こういった構造があって、これを一つ一つちゃんと検証できる状態をつくるということが重要だろう。つまり、この複雑な状態に対して検証可能性を提供していくということが問題解決に資するのではないかと考えています。

どのように詐称ができないかということなのですけれども、これは識別子をページに埋め込んでいくことと、それを電子署名技術で鍵をかけるということ。その鍵を開けるときに、識別子を埋め込むときにまずレジストリと我々が呼んでいるサーバーに、このページは確実に読売新聞社だと、あるいはこのページのこの記事は読売新聞社が書いたものだとレジストリにそれを登録することになります。エンドユーザーがブラウザでそれを表示して、おかしいな、本当に読売新聞がこんなことを書いているのかなと思ったときにブラウザ上にあるボタンを押すと、鍵が開いて署名された内容を見て、あるいはレジストリに問合せをして、これは本当だ、読売新聞が書いているのだということが送り返されてくる。これによって確かめることができる、エンドユーザーが確かめることができる、こういった状態をつくろうと思っております。

広告流通においてもほぼ同じような仕組みを使って、IDをそれぞれの商流に全て付与していって、そのリアルタイムピッキング、オークションを介した場合でも、いやいや、広告主のもともとの意向はこうなのだから、メディアのもともとの意向はこうなのだからということがちゃんと全ての取引で通じる状態をつくるというようなことをやろうと考えております。これにより、それぞれ広告主、メディアの意向ということがかなり疎通するのではないかと考えております。

OPが1つ気をつけているところが、OP組合というのを先ほど申し上げましたが、ここが全てをつかさどり第三者認証のような仕組みを全部持ってしまうと、つまり、OP組合が認めた人たちでなければ世の中、正しい記事を流通させることはできませんよという状態をつくると、これを目指してしまいますと言わばビッグブラザーのような状態になってしまうわけです。

我々が重要なのは、こういった技術の様々なガバナンスをもともとお持ちの団体やコミュニティーに使っていただくということだと思っているのですね。つまり、技術を開発して提供するところまでは私どもがやるけれども、その先、それをどういうように使うかというのはこの第三者認証の仕組みを使って業界の中、ないしはより広い世界での枠組み、ガバナンスを利かせたいと思っている方々にこれを使っていただく。つまり、OPは技術として提供し、それを実際に使っていただく方々のガバナンスに委ねて使っていただくという、こういう構造を考えているところでございます。

インターフェース、どのようなものかというと、先ほどブラウザ上にあるボタンがあって、それを押すというようなことを目指していると申し上げましたが、これは今、世の中にあるブラウザには当然まだOPボタンが入っていないわけです。エクステンションの形で今、提供することは技術上はほぼ可能ですし、実験用のエクステンションを持っていますので、すぐそれを提供することはできるのでいずれやっていくことになるかと思いますが、それでは恐らく普及はしないですので、基本的に最後のほうに申し上げますが、ウェブ技術の標準化団体であるW3C（World Wide Web Consortium）でこれをウェブ技術の標準の一つとして認めてもらえるように取り組んでいます。

この標準化が成立しますと、一番いいパターンで標準化できた場合、ブラウザベンダーであるGoogleやApple、ないしは旧Firefoxというような方々に対してOPをブラウザの中に入れてくださいという言い方ではなく、標準化されたのだから入れろというような命令形でこれを普及させていくことができるようになります。本当にそこまで行けるのかということはチャレンジの部分が多いのですが、今のところそれを目指しています。

あと先ほどガバナンスのところが重要だと、これをできるだけ技術中立を保つような形で進めたいということを申し上げましたが、それを明示していくために、この春にOP憲章というものをつくりました。今日、時間がないので説明は割愛させていただきますが、言わば我々の理念をまとめた憲法のようなものです。こういったものをまとめて私たちのフェアネスや中立性ということを外部からも見ていただけるような形で憲章するというように進めています。

あと先ほどの国際標準化ですね。ここをまさしくこの9月にW3Cの大きな提示のイベントがありますので、そこ辺りから水面下が浮上するような形で交渉を始めるというような状況です。こういった取組を政府にも一定の御関心をいただいておりますし、政府は偽・誤情報の政策として進めたいというだけではなく、政府自体がフィッシングを含めてなりすまされてしまう被害者でもある。これは自治体も含めるとかなり深刻な状況になっているかと思います。ですので、ユーザーとしてもOPに興味があるということはおっしゃっていただいておりまして、こういった両面で政府からは今、いろいろな御検討をいただいているというような状況です。

メディア業界を中心に進めておりますが、それ以外の方々にも御参加いただいておりますし、あとちょっと変わり種的なところでありますが、ニュースコーポレーション、先ほどのアメリカで言うところの一番トランプさん側にあるFOXニュースというところで、ルパート・マードックさんの会社ですね。ここが仲間として入っていたりして、いろいろな検討を実は彼らとも少しやっているところでもございます。その他、様々な方にも御参画いただいている状態です。

最後に、似たような技術、世の中に多くあります。例えば一番この領域、御関心がある方だとC2PAというものがビッグテックを中心に取組が進んでいるけれども、あちらのほうが大きいのだから飲み込まれてしまうのではないのと思われているところがあるかと思いますが、その違いを最後に1つ簡単に御説明させてください。

C2PAは、彼ら自身は来歴管理を実現する技術だと言っています。来歴管理というのはコンテンツがどのようにできていくのか、例えば新聞記事一つとっても写真を撮り、記事を書き、それを原稿に書いて、整理部で整えられて削られたりたたかれたりして見出しをつけられ、載ったり載らなかったりという、こういう様々なプロセスを経るわけですが、そのプロセスが適正に行われているのか、管理されているのかということをきちんと検証できるもので、C2PAはそれを目指しているものと考えられます。

つまり、制作段階のワークフローに対しての検証技術ですので、エンドユーザーがそのワークフローに手を突っ込んで、本当にこのカメラマンが撮っているのですかみたいなことを判断することはないはずです。エンドユーザーはあくまで、全部仕上がった記事をぱっと見て、これは読売だ、NHKだ、朝日だ、これは産経新聞「ではない」のだということを検証したいはずです。ですので、あくまでそういうようにこれは私たちのものだと責任を持って名乗れるということを、パブリッシャーがパブリッシュする前段階において確からしさを高めるための技術がC2PAだとお考えいただければいいかと思います。

一方、OPというのは先ほど申し上げたエンドユーザーが確かめたい、これは本当に読売が、産経ではないのか、いうことを確かめたいときにエンドユーザーが検証できるということを目指している。この2つは実はいわゆるワークフローの途中で、パブリッシュする前と後での役割分担が可能だと考えておりますし、もともと役割が違うとも言えるのではないかなと思っています。

今、こういった取組を来年度に本格運用できるように検討を進めているところでございます。技術開発がまだ続いているところですが、もう少し頑張って世の中に普及させていければと考えております。

すみません、長くなりましたが、私からのお話は以上となります。ありがとうございました。

○橋田座長　ありがとうございました。

ただいまのクロサカ様からの御発表内容を踏まえて質疑応答、意見交換をしていきたいと思います。御発言のある方は挙手またはチャットでお知らせください。よろしくお願いします。

では、私から軽く。SNSの協力を得てみたいな話がありましたけれども、彼らは協力してくれそうなのですかというか、抵抗勢力みたいなのはいないのですか。

○クロサカ様　ありがとうございます。

SNSもいろいろございますので、正直言うと濃淡はあろうかなと思います。世の中にある全てのSNSにOPを入れていただくということは理想ではありますけれども、難しいかなというのを思っています。ただ、幾つかの大手SNSに関してはこういうものが必要であろうと。なので、何らかの協力をしたいというようなことは申出があるという状況だとお考えいただければと思います。ここで言っているSNSは日本由来のものというよりは、いわゆるビッグテックが作っているもの。つまり、ビッグテックの一角が興味ありと言っているとお考えいただいていいかと思います。

○橋田座長　ありがとうございます。

他に御質問などありましたらお願いします。いかがでしょうか。

原田委員、お願いします。

○原田委員　ありがとうございました。非常に勉強になりました。

何か例では読売さんとか産経さんとかすごく分かりやすいポピュラーなニュースサイトが出ていましたけれども、実際にガバナンスをそちらに任せるということになると、やはりそもそもニュースサイトなのかどうかというような、ヤフーさんの例を出しておりましたが、ヤフーさんが持ってくる記事とかもニュースとは言えないような、よく分からないところがあって、そもそもその大本自体が何かよく分からないサイトだったりするケースとかもあったりするので、その情報の信憑性がそもそも微妙みたいなものが普通にヤフーさんにも載っていたりとかすると、大本の情報元が本当に信用できるのかというのがこれで大丈夫になるのかなというが一つと、それとともに、ユーザーさんのほうが求める、要はエンドユーザーが求めるものとそごが生じないのかなというところがちょっと疑問だったので、何かそういうテクニック的なものがあればと思いまして教えていただければと思います。

○クロサカ様　ありがとうございます。

私のその部分の説明が、大事なところなのに若干雑になってしまったので、もう一度お話をさせていただきますと、ガバナンスを委ねるというその委ねる先は例えば新聞社のウェブサイトを想定した場合、新聞社そのものに委ねるということではないのです。

もう少し具体名で分かりやすく申し上げると、彼らが今、乗ってくれている状況ではないので仮にとお考えいただければと思いますが、OPが委ねる先、OPを使ってもらう先というのは各新聞社もあるのですけれども、新聞社ではなく、たとえば日本新聞協会のような業界団体になります。仮に日本新聞協会だとして、協会に新聞社やメディアが加盟するには、参加のための要件が当然あります。新聞社ですと、ほぼ毎日発行しているとか、何万部以上発行しているとか、あるいは苦情相談窓口が設定されていて月曜日から金曜日まで9時～5時で開いていて電話番号がちゃんと載っている、または編集倫理綱領を有しているといった、かなり厳しい基準を彼らは持っています。この基準自体が実は新聞協会が持っているガバナンスに当たるわけです。これを整備できない人たちはそもそも新聞協会に入れない。つまり、こういうガバナンス、新聞協会が持っているガバナンスを用いて、この真正性、つまり、この記事を出しているのはこの人たちですよということを明らかにしていくということが例えば新聞社のウェブサイトの場合、できるだろうと考えています。

いやいや、新聞協会に入っている中でも怪しげなところはあるのではないのというところはもちろんあるかと思います。ただ、新聞協会の場合、内部の規律で、いかにも苦情が多いというようなところについてはかなり叱責を受けたり、場合によってはこの人たち、御退場願うというところまでは行けないかもしれませんが、かなり厳しい扱いを受けるというようなことが実際に内部としては行われているところです。こういったことも含めて業界団体、つまり、うちは業界として品位を守りたいのだ、規律を持ちたいのだという方々が使っていただくということを想定している、このようにお考えいただくといいかと思います。

○原田委員　なるほど。そうすると、新聞協会以外のところとかも当然入るのですかね。

○クロサカ様　はい。おっしゃるとおりです。例えばこれも仮のイメージとしてお考えいただければと思うのですけれども、メディアだけではなくて金融業界のウェブサイト、銀行ですとか証券会社ですね。銀行が分かりやすいですね。銀行のウェブサイトというのも、これは金融商品取引法や様々な法律で広告行為も含めて規律をされているわけです。この辺りをつかさどっているのが例えば銀行分野で言うと全銀協であるとかFISCという団体があります。この全銀協がOPを発行し、各銀行のウェブサイトにOPを入れていってもらう。そうすると、少なくとも各法律が求めている規律や要件を満たしてないものは全銀協が認めていないので駄目ですというような構造をつくることができるわけです。業界団体と申し上げたのは実はこういったケースもあるかと思いました。

テレビであれば（NHKが入っていないので）民放連がいいのかはちょっと議論がありますが、こういった業界団体の枠組みを使って真正性を高めていく。ここが実は2つ目のエンドユーザーが求めているかというところとのそごといいますか、ここが誤解のないようにする必要がある部分だと思っています。すなわち、ここまで申し上げたのは、あくまでこの人たちは確かに読売だね、朝日だね、NHKだね、フジテレビだねというようなことを言っているにすぎないわけです。その中身についてどうだということについてはOPはあえて触れていません。

これはなぜかといいますと、その中身について、すなわち誤情報と偽情報の境目はどこなのだというようなことも含めて、中身についての話というのは非常にセンシティブな話になってきます。このセンシティブな部分というのは例えばファクトチェックの皆さんがかなり悩みながら取り組まれていると考えれば、逆にファクトチェック団体と何らか役割分担をして協調していくことで、つまり、重ねていくことで情報の質を向上させることができたり、ないしはさすがにこの人たち、新聞協会にいるような人たちは誤情報を出してしまうかもしれないけれども、偽情報に関してそもそも出そうとするインセンティブなんかないでしょうと足切りに使えたりするわけですね。こういう役割分担で合わせ技一本のようなことでエンドユーザーの消費者の救済につながっていくということが現実解なのかなと考えているところです。このように自分たちでは整理しています。

○原田委員　なるほど。非常に分かりやすい説明をいただいてありがとうございます。

仮に誤情報だったとしても、それが誤情報だったと後から分かるような仕組みもあれば多分万が一、誤情報があったとしてもそれが回復できるというようなところも逆に期待したいなと思ったので、非常に補足説明をいただきましてありがとうございます。

○クロサカ様　ありがとうございます。

○橋田座長　ありがとうございます。

では、森座長代理、お願いします。

○森座長代理　御説明ありがとうございました。

私も原田さんと近い御質問なのですけれども、いろいろな認証機関がOPを使ってガバナンスをそれぞれにしてということで理解できたと思っているのですが、例えば広告主なんかが今は大きな課題になっていて、それに対する解決を与えるものであるような気がするのですが、ただ、例えば広告主の本人確認とか当人確認とかそういうことは認証機関のガバナンスに任されているわけだと思いますので、そうなってくると、緩いガバナンスをする認証機関というのも現れてきて、そのOPがあるから大丈夫ですということになって、何かOPを使って信頼を獲得するみたいなことにならないかなとちょっと思ったのですが、そういう問題はないでしょうか。

○クロサカ様　ありがとうございます。

今、OPの普及を進めるに当たって森先生に御指摘いただいた課題、非常に大きいものだと感じています。ここをどのように解いていくのかということ、竹で割ったようなお答えができにくいところではあるのですが、先ほどちょっとスキップさせていただきましたOP憲章、この中でまずOPのユーザーがOPを使う情報を発信したい、ここについてこういう人たちであることをOPは期待していますということを第2条というところで整理させていただいています。これはOPを使う情報発信主体が各社でまずいろいろなポリシー、情報発信ポリシーを定めてください、それの基礎とすべき事項ということを実際にこの条文では書いてあるのですけれども、こういうことを満たしてほしいですということを書いています。

あとガバナンスも当然確立してほしいです。先ほど全銀協のケースを出しましたけれども、マスメディアは一般企業と異なって、情報の発信について極めて大きな社会的責任があるかと思います。ですので、ここはさらに強く意識してもらわないと困りますよというようなことをここでは整理しているところです。

一方で、これはそういうようにしてほしいというような今のところ書き方をして、OP組合、ないしはOPのその後、後継の団体になるかもしれませんが、このOPをつくって運用している人たちがどなたに使っていただくのかというところを完全に判断し切るものになってしまうと、いわゆるビッグブラザーではないにしても、そのビッグブラザーの親玉みたいになってしまう可能性があるわけですね。ですので、ここをどういうように整理しておくのか。これは実は悩ましいところで、今、この憲章の中では最後のほうに倫理委員会の設置で、もうこれはどうしようもない、一度OPに出してみたけれども、これは駄目だというときには見解、勧告、ないしは一番強い場合はID停止や更新の拒否ということができるようにするという、ぎりぎりの最後の線は持っておこうと整理しているところです。ただ、ここに至る前の段階でバランス感を持ってどういうように普及させていくのかということは、これは運用していかないと何ともというところもありますし、ここが難しいなと思いながらちょっとチャレンジしていくところかなと思っております。

とりわけ広告に関して言うと、では、広告主協会に世の中全ての企業、団体が入っているかというと当然入っていませんし、この広告の問題というのは業界団体の規律というのが十全ではないという難しい課題を持っているかと思います。ですので、ここは広告の事業開発ともセットにどのように実効性のあるものをつくっていくのか、ここは正直、まだチャレンジしている最中ですので、是非総務省の健全性検討会も含めて御指導いただけると有り難いなと思っております。

以上です。

○森座長代理　ありがとうございました。

一番最初に御説明いただいたOPを使う発信者についてのお話というのは、それは認証してもらうほうの人ですよね。

○クロサカ様　はい。そうです。

○森座長代理　この情報発信者、2条でしたかね。

○クロサカ様　はい。2条です。

○森座長代理　それは先ほどの絵で言うと読売新聞とかそういう認証してもらうほうですよね。情報発信主体。

○クロサカ様　そうです。

○森座長代理　なるほど。それは誰かに認証してもらって出して、OP認証を取って情報発信している、これは間違いなく読売新聞ですよと認証機関が言ってくれているという状況ですよね。

○クロサカ様　そうですね。

○森座長代理　なるほど。ですので、やはりそれがもう読売新聞であれば確かに読売新聞であるということが分かればよいということなのですけれども、そこのガバナンスを委ねられている認証機関側のガバナンスみたいなことをやはりやっていただくべきなのではないかと思いますし、そうすると、2段階みたいになって、私、記憶が曖昧なので話半分に聞いていただきたいのですが、ISOとかだとたしかサーティフィケーションとオーセンティケーションという2段階になっていたのではないかなと思いますし、これはまた全然違ったら怒られるのですが、プライバシーマークも認証団体をJIPDECが認証して、認証というか契約して選んで、この人たちは認証団体になれそうだという、認証機関になれそうだという人たちに認証、第三者認証させてあげるという仕組みになっていたと思いますので、何かそういう感じでいけないかなとは伺っていて思いました。ありがとうございました。

○クロサカ様　ありがとうございます。

ここは実は内部でも、あるいはこの憲章の検討の委員会の中でも一定の議論がありました。いわゆる認証と認定の違いみたいな言葉の使い方の分け方を業界ではしたりもしますが、あえてここの第2条の中で全部まとめて見えるように書いているところがあるのは、実はここの認証と認定の在り方についても全体の例えば新聞協会なら新聞協会、全銀協なら全銀協というところに、そちら側のガバナンスに委ねられているところがあり、その全体、総体に対して我々がどこまで物を言えるのかということについては相手方の状況によって変わるところがあるので、この辺りはあえて今のところは技術的な仕組みであるとか提供の構造については当然意識は明確に分かれているものの、この憲章の段階においては、これは情報発信主体と広く言ってしまうことで一度制御するということが適正なのではないかというようなことも踏まえてこのような書き方をしているところでございます。

そういう意味でいうと、この3条のところ、ここは御説明しなかったところなのですけれども、3条のところでも少しそれを補うような形で情報発信ポリシー、ガバナンス、所属する業界団体の選出のようなことを条件として示しており、そこは見る対象だと言及はしているところです。この辺りは、2条で全体を包含し、3条で少し個別要件について基本的な考え方、運用の考え方という整理で今はまず進めることが適正かなと。ここをがちがちに書いてしまうと誰も使えなかったり、ないしは我々が全部を判断するということが結局そこから逃れられなくなってしまったりというところが出てくるのではないかということを考えながら今、つくっているというようなものだとお考えいただくと有り難いです。

○森座長代理　分かりました。ありがとうございました。

○橋田座長　他に御質問等ございますでしょうか。

ちょっと技術的な話ですけれども、OPに使う鍵の有効期間はどれぐらいを想定されているのですか。1週間とかであればいいと思うのですが。もし何か長期間にわたって真正性を証明したいということだと結構運用が大変かなという気がするのですが。

○クロサカ様　更新頻度をどのように設定するかとかその鍵管理のところの運用の設計に依存するところかなと思っていて、具体的にこれぐらいの期間だというような設定は、これから詰めていくところになっています。先生、おっしゃるとおり、これを長期間ないしは長期間かつ堅牢に運用していくとなると本当にWWWの認証局のようになり、一番ティアの高いものは金庫みたいな部屋でがちがちに固めるみたいなことが必要になってきますし、どこまでこれをやる必要があるのかということを今、手探りで設計している最中ですので、運用段階のときには当然確定させて世の中に出していきますが、まだこれは検討中だとお考えいただければと思います。

○橋田座長　ありがとうございます。

他に御質問等ありますでしょうか。

運用開始は今年度ということですよね。

○クロサカ様　来年度の2025年度の早い時期を目指していて、今年度中は試験運用、24時間365日で動く状態ということを確立しようと思っています。

○橋田座長　そろそろ時間ですけれども、全体を通じてでも結構ですので、他に御質問、御意見等ございましたらお願いします。いかがでしょうか。どうもありがとうございました。クロサカさんにおかれましては、明け方の時間帯に御報告をいただきましてどうもありがとうございます。

では、最後に事務局から事務連絡をお願いします。

≪3．閉会≫

○江口企画官　事務局です。

本日は長時間にわたりありがとうございました。次回の会合につきましては、確定次第、御連絡させていただきます。

以上です。

○橋田座長　では、本日はこれにて閉会とさせていただきます。お忙しいところ、お集まりいただきましてありがとうございました。

(以上)

このページの先頭へ