第278回 消費者委員会本会議 議事録

日時

2018年6月27日(水)10:00~11:05

場所

消費者委員会会議室

出席者

  • 【委員】
    高委員長、池本委員長代理、受田委員、大森委員、蟹瀬委員、鹿野委員、長田委員、樋口委員、増田委員
    (高委員長の「高」は、正しくは「はしごだか」)
  • 【説明者】
    危険学プロジェクト「情報とシステム」グループ 藤田グループ長
  • 【事務局】
    黒木事務局長、福島審議官、丸山参事官

議事次第

  1. 開会
  2. IoT、ビッグデータ、AIの活用における消費者関連の論点について
  3. 閉会

配布資料 (資料は全てPDF形式となります。)

≪1.開会≫

○高委員長 おはようございます。時間になりましたので、ただいまから「消費者委員会第278回本会議」を開催いたします。

お忙しいところ、御出席いただきまして、ありがとうございます。

本日は、山本委員が御欠席となります。また、本日、受田委員がウェブ会議での御出席となりますので、御発言をされる際には、私も名前を申し上げるようにいたしますけれども、皆さん方も名前をおっしゃっていただいてから御発言をお願いいたします。

それでは、配付資料の確認につきまして事務局から説明をお願いいたします。

○丸山参事官 お手元の議事次第下部に配付資料一覧を記載しております。資料及び参考資料となっております。もし不足がございましたら、事務局までお申し出いただきますよう、よろしくお願いします。


≪2.IoT、ビッグデータ、AIの活用における消費者関連の論点について≫

○高委員長 本日の議題は、前回第277回の本会議に引き続きまして、「IoT、ビッグデータ、AIの活用における消費者関連の論点について」でございます。

昨今のICTの発展により、消費者を取り巻く商品・サービスにおきましても、IoT、ビッグデータ、AIを活用したものが出現してきております。現在、政府部内でもこれらに関係する施策の検討が急速に進められているところでございますけれども、これらは消費者に多大な利便をもたらす可能性がある半面、様々な課題も有している可能性もございます。本委員会としては、3月に発出いたしました消費者基本計画工程表の改定素案に対する意見においても、その旨の言及をしたところでございます。

本日は、危険学プロジェクト「情報とシステム」グループ藤田グループ長から御説明をいただきまして、今後の消費者問題を考えていく上での参考にしたいと考えております。

藤田グループ長におかれましては、お忙しいところ御出席いただきまして、ありがとうございます。

それでは、恐縮でございますが、20分程度で御説明をお願いいたします。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 藤田です。よろしくお願いいたします。

早速、お手元の資料で説明していきたいと思います。

まず、「はじめに」というところで、危険学プロジェクトというものが何かということを御紹介してから説明したいと思います。

危険学プロジェクトというのは、東大名誉教授の畑村洋太郎先生が主宰する企業・個人ボランティア参加の私的プロジェクトになっています。もともとは、2007年に発足いたしまして、5年計画でスポンサー企業と個人のボランティア参加でやってまいりましたけれども、5年たって最終報告をした後にも、もっと継続してやりたいというお話を多数いただきまして、バージョン2として更に5年やってまいりました。

これでおしまいと先生は言われたのですけれども、まだまだ検討することがあるでしょうということで、これまでは、全部でグループが15ほど起きていまして、私はその一つの「情報とシステム」というグループのリーダーをやっておりますが、今は8グループ程度に縮小して、10年間でいろいろな知見とか知識、そういったものが構築できましたので、これから3年程度を見込んで主に情報発信ということで、ポスト危険学プロジェクトという形に変えまして継続して活動をしております。

今日の資料は、その中の年度報告書、それから我々のグループで作った「情報とシステムの危険学」という冊子の中から、幾つか抜粋して御説明したいと思います。

次の3ページ、まず、「情報を利用したサービスの高度化」ということで絵が描いてありますけれども、もう皆様御存じのとおり、いろいろな機械がネットワークにつながって、常にいろいろなものを監視したり、管理したり、制御するということが行われるようになってきております。そこに書いてあるものだけではなくて、IoTの時代には全てのものにセンサーないしはアクチュエーターのようなものがついて、それでデータを収集するような世界になってくるだろうと思われています。特に、その中で「AI」と書いてある赤い丸があるのですけれども、このAIが、ビッグデータと書いてある計算機のところだけではなくて、恐らくいろいろな機器、車、携帯端末、いろいろな機械を含め、至るところにAIの技術が使われてくるだろうと思われます。

次のページに行きまして、そういう中で我々は、21世紀は正に情報・知識の時代ということで、これまで18世紀、19世紀、20世紀は工業の時代と言われていますけれども、工業の時代に物質・エネルギーの高度開発をやってきた中で、幾つかの「公害」と呼ばれるようなものが出てきておりました。現在も発展途上のところにおきましては、そこに書いてあるようなものが順次発生していると認識しています。特に大気汚染、水質汚濁、土壌汚染、こういったものは非常に長期間に渡ってその場に在り続けるということがあります。ただ、先進国につきましては、こういったものを抑え込むような、更なる高度な技術開発によって、大気汚染を防いだり、水質汚濁を防いだりということが順次行われてきていると認識しています。

では、21世紀から本格的に始まっていく情報・知識の時代にはどんなものが有り得るのかということを危険学プロジェクトの中でも検討しておりまして、それが右側のようになっております。

新聞、ネットの記事等、幾つか集めて分類してみると、そこにありますように、まず不正利用です。銀行口座、車の改造による不正だったり、それからネットでいろいろ買物をしたりするときにも発生します。場面を挙げれば切りがないと思います。それから、情報漏洩です。特に個人情報に関するものです。それから、ここでは情報過多の時代で、人間がなかなかそれを全部さばき切れなくて、ストレスが高まって精神疾患になったり、あるいはその下にある能力低下を引き起こしたりということも、順次起きてきているのではないかということです。それから、詐欺・洗脳、個人攻撃、IT格差という感じで、ちょうどカテゴリーを分けてみると七つぐらいありまして、こういうものというのが今後ますます消費者の周りに起きてくるのではないかと考えています。

そういう中で、基本となる考え方が次の5ページに示してあります。危険学プロジェクトでは、消費者が利便性を享受しながら危険を回避するにはどうしたらいいかという視点で考えたとき、まずマル1にあるように、従来の手法は、我々は「外部基準」と呼んでいますけれども、誰かがマニュアル的なものを決めて、ここを通れ、あそこを通れということが書いてある、そういうマニュアル的なものがベースになっている。ところが、これではなかなか危険を自ら回避することができないというところが問題意識の発端であります。

その際にマル2のように、「危険地図」という言い方をしているのですけれども、どこにどんな危険があるのか、それはどういう特性を持っているのか、どうすれば防げるのかということを表に出して、危険地図のような形にして、皆で共有することによって何らかの手掛かりが得られないかなということがまず第一歩です。

そうしますと、マル3にありますように、危険のところに旗が立つような感じになって、遠くから見て、こういう領域にはこんな危険があるのだなということがふかんできるようになるのではないかと考えています。

最終的に何がやりたいのかというと、マル4に書いてあるように、内部基準を作って、自ら危険を避けて自分のやりたいことができる。つまり、利便性を享受できるというゴールにたどり着けないかなということです。特に、遠くから見て、どこにどんな危険があるかという危険地図を見ながら、自分で危険を避けていくということです。これはマニュアルのような外部基準とは全く逆で、消費者自身が内部基準を持って危険を避けていけるような状態というのがどうしても必要になってくるのではないかということです。

それは、先ほど申しましたように、情報とか知識の高度開発をどんどんこれからやっていきますと、全てを外部基準で避けることは恐らくできないだろうということです。ですから、一かゼロかという考え方ではなくて、例えば8割を自分の内部基準で避けて、あとの2割は分からない部分を例えばマニュアル的なもので避けるとか、そういう固定的なものでもなくて、更に勉強したり、後で説明しますけれども、頭の中にモデルを持つようなことによって、残りの2割とか1割というところを更に自分のものにしていく、内部基準を作っていくということをできないかなというのがもともとの発端であります。

その次の6ページに、幾つか危険学の中で検討した中で、具体策のようなものを持ってきました。今日は時間の都合で五つほど御紹介したいと思うのですけれども、他にもございます。

内部基準を獲得できるようにするためには、まずは生活の場面を設定して、仮想演習と呼んでいますけれども、これはこの場面でどんな危険があるのかということを自分で想定する、仮想的に演習するということです。こういう癖を付けるということが非常に重要なのではないかということです。特にネットショッピングをやったり、自動運転の車が出てきて今後運転をしたりするとき、この場面でどんな危険があるのかということを常に考えるような癖を付けるということですね。それが一つです。

もう一つは、危険を設定した逆演算をするということです。これは今の仮想演習とは全く逆の考え方で、この危険があるとしたらどんな場面なのかということです。人間はこういう思考をやると、いろいろなものを思い付きます。例えばネット詐欺が新聞で取りざたされたとき、ではネット詐欺があるとしたら、他にどんな場面が考えられるでしょうかと問う訳です。そうすると、人間の頭はその場面を探すようなことをやって、幾つかのものを、自分の知っている中あるいは見聞きしたものからそういうものを挙げることができます。これが基本的な内部基準を作るやり方かなと思います。

それとは別に、便益だけを享受するというのではなくて、便益と危険がトレードオフだということをやはりベースの部分で知っておかなければいけないというのが3番目でございます。例えば、声で命令していろいろなことができるスマートスピーカーのようなものを使ったときには、恐らく秘密の漏洩みたいなことが背後にあるのではないかとか、あるいは自動運転といっても全てを車に任せてしまうまでには、まだ随分時間がかかると想定されていますので、どのレベルでの自動運転なのかということを知った上で、危険としての事故、そういったものがあるのだ、そういう認識で運転するということです。

それから、そのベースになる知識とか能力を身に付ける必要もあるだろうなと思っております。五つぐらい項目が挙げてありますけれども、一つは原則です。例えば、ハードウェアの機器というのはいつかは壊れる、あるいは誤動作するということを前提に考えるとか、ソフトウェアでできているものであれば、プログラムにとは必ずバグ、要は障害がある、不具合があるということを前提に考えるというような、原理原則みたいなものがまず要るだろうということです。

もう一つ非常に重要なのは、既に起きてしまった事故の事例です。事故事例で、例えば充電池から発火したとか、例えばオンラインで誤発注があったとか、そういったことは日常、新聞記事として出ています。こういうものを併せて考えるということです。

もう一つは、製品・サービスの仕組みです。これは、今まで製品とかサービスの仕組みを消費者自ら考えるということは、ある意味、メーカーの立場とかサービサーの立場からは御法度とされてきたと思うのですけれども、いよいよこういうものを何らかの形で持たないと、消費者自身の先ほど言った内部基準というものが出来上がらないのではないかという考えです。

それから、操作の仕組みとか意味です。例えば、スマホで「はい」のボタンを押すというのはどういう意味があるのか、どういうことが背後で行われ得るのかということを予知するというか、予期するということです。これも非常に重要になってくると思います。あるいは、何かのサービスを利用するとき、注意事項が非常に細かい字で出てきたりします。これも、ここに書かれてあることがどんな意味があるのかということを、実は誰も教えてくれないのです。ですので、こういったものの意味合いを知るということも非常に重要になってくる。

それから、以上の4点を組み合わせて、自ら危険予測ができるということです。何かの場面に遭遇して、変な画面が出たり、変なメールが来たときに、これって詐欺かもしれないねと思うか思わないかというところが危険回避の分かれ目です。したがって、こういうことができるというのが最終目標になります。

その中で重要なのが、今日御説明させていただく最後の機能です。機能というのは働きです。これはモデルです。簡略化された仕組みで理解するということが良いのではないかと考えています。

便益と危険のトレードオフというのがその次にありまして、これは3番目の項目ですけれども、例えば欲しいものがすぐ手に入る、やりたいことがすぐできる、これは便益ですけれども、その一方で、先ほどの資料にもありました不正利用みたいなことが背後にあるのだとか、それから世界中の誰とでも連絡が取れる、個人に合わせたサービスが受けられるのだと言いながら、反対側では情報漏洩みたいなことが起きるのだという対比です。この対比で便益を考えていくということが、先ほど申しました3点目の話でございます。

以上のような形で、幾らでも便益を危険と結びつけて考えておくということはできるのではないかということです。

次のページに行きまして、最後のモデル図の例を少しだけ御説明したいと思います。

このモデルというのは、ここでは例としてスマートスピーカーを挙げていますけれども、それの鍵となるメカニズム、機構とか構造を抽出して関係付けたモデルのことを呼んでいて、これでもって働きを理解するというものです。

基本的には、原則と事故事例からいろいろなことが推測、予測できるのではないかということです。絵の左に人がいて、例えば「ピザを1枚」とスマートスピーカーにささやいたとします。そうすると、「ピザを1枚ですね」と復唱をスマートスピーカーがして、マル1から順番に行くのですけれども、音声操作データが消費者の自宅にあるWi-Fiのルーターを通って、インターネット経由で右の上にあるスマートスピーカー用のサーバーに行って、それで音声認識がされて、そこからピザの注文が出て、下にありますピザ注文用のサーバーのところでピザを受注して、それで音声で応答を返して、後ほどマル6代金請求という形になる。こういう非常に簡略化された構造図を作りまして、原則として、これは幾つも設定して良いのですけれども、機器には電源が要るのだとか、機器はいつかは壊れるのだとか、プログラムにはバグがあるのだという前提を置いて、それで右下にある事故事例といったものも頭に入っている状態で、どれだけ危険が予測できますかということを問う訳です。

そうすると、危険の在りかというのは、実はこの矢印に書いてあるように、何か物のあるところ、それから何かの結節点、要は接続されているようなところに必ず存在します。ですので、こういうところを順次見ながらデータの流れを追って、最終的に「ピザを1枚注文しました」という応答か出るまでの間にどれだけの危険がありますかということを口々に、グループワークでも良いのですけれども、例えば言い合うということです。

そういうことをすると、これをやった後には、参加したメンバーの頭の中にこういうモデルが出来上がります。そうすると、別にピザの注文だけではなくて、書籍を注文するときであっても、何を使うときであっても、こういうモデルが頭の中に出てきて、何かちょっとおかしいなと思うような、例えばここだと、応答の「ピザを1枚注文しました」というのが全然出てこなかった、これは本当に注文されたのかなというような疑問が多分湧くと思います。そのとき、どういうところに問題があるのかなという問題の箇所をまず特定することができるのではないかということです。

これはまだ完成形ではないのですけれども、いろいろなテキストとか絵本といったものにして、思考演習をやるような場がもし持てれば、何をやるにしても危険予測が自らできるようになってくるのではないか、そういう考え方です。

最後に、まとめを書いておきました。思考法として重要なのは、仮想演習と逆演算ということです。これは全く逆の流れを持った思考です。それから、危険を知った上での利便性ということで、情報過多の時代の利便性と危険です。それでトレードオフだということ。それから、リテラシーを習得する手法として、モデルの理解ということがあるのかなと。ただし、注意のところに書きましたが、このモデルの設定というのは完全ではありません。ですから、事故事例があって、随時更新していかないと、要素として抽出されていないものというのはモデルには表現できないのです。ですから、モデルに漏れがあったら、そこのところは思考として漏れるというようになります。ですから、随時更新が非常に重要になってくると考えております。

以上、資料の説明になります。ありがとうございました。

○高委員長 御説明、ありがとうございました。

それでは、ただいまの御説明に関しまして、質問、御意見がございましたら、御発言ください。

池本委員長代理、お願いします。

○池本委員長代理 池本と申します。非常に興味深い議論を紹介していただき、ありがとうございました。

今の最後の辺りでは、教育の現場でこういった思考演習をすることによって、危険を察知あるいは判断し、行動を自然にとっていくということの重要性を指摘されたと思うのですが、最後に正に御指摘があったように、議論の素材として出すモデルの要素をどう提供するかによって、その中から問題点を抽出し合うことになるということをおっしゃって、正にそこが今の時代で一番悩ましいところなのかなという気がするのです。

と申しますのが、5ページ目で、もう決まった分野について外部でマニュアルがあって、それをやっていくのではない、新しい分野になると、一体どこにどういう問題があるのか、非常に便利なものがどんどんできていって、その便利なもののどこにどういう危険があるかというのを、個々人の力ではそもそも想定ができなくなってしまっているのではないか。そういう中で、教育の中で危険を想定しながら、その全体像を見て、各自の内部基準として行動の有り様を考えるといっても、そもそも従来の自分たちの経験、世界から見た危険地図が想定できない新しい分野ですね、ITの世界、AIの世界ということで、そこが見えないところが悩ましいと思うのです。

そこの新しい技術についてどういう問題があるかというのを、その技術の作る側からどう情報提供をすることをルール化していくのか、その問題と今日お話しになったところとの関係はどのように議論されているのか、教えていただければと思います。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 正に今御指摘されたとおりで、このモデルは誰が一体提供するのかということです。これは、やはり作る側に責任があるのではないかなと、危険学の中では議論しています。

商業的には、これだけ良いものができましたよ、こういうものが新製品としてできましたよという、マーケティングの活動や、プロモーションの活動は当然されるのですけれども、エンジニアとしては、特定の製品でなくても良いのですけれども、そこに使われている技術はどんな限界があって、どういう危険をはらんでいるのかということを同時に表に出して伝えていく必要があるのではないかと思っています。

私のグループは正にそういう人たちの集まりで、企業からのボランティア、あるいは個人の参加ですけれども、全員がエンジニアなのです。どちらかというと、営利目的でやっている企業に属してはいるのですけれども、エンジニアとして社会に何か貢献できるかと考えたときに、その負の部分をエンジニア自ら考えて、表に出して、それで共有化していくというのは、大きな意味で社会を考えると、企業も含めてメリットになるのではないかという考えでやっています。ですので、検討を10年やっても、もっと先までやろうよという話になってくるということです。

○高委員長 よろしいですか。他にございますでしょうか。

大森委員、どうぞ。

○大森委員 ありがとうございました。

私は、5ページの図がとても印象に残りました。やはりITが進むほど、自分で内部基準を作っていくという作業が大切になってくると思うのですけれども、内部基準を作る場合、しっかりした外部基準が示されていると、自分の場合はここはそれほど危険と感じなくても良い、私の場合は外部基準にはないけれども、この辺りは危ないのではないかというように、発展的に内部基準が作れていくと思うのですけれども、いろいろな情報を集めて外部基準をまとめて発信していくということは現実的に可能なのでしょうか。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 外部基準と内部基準ということで、外部基準については恐らく製造物責任もあって、マニュアルとか、その類いのものできっちり書かれていくべきものだろうなと思っています。ただ、外部基準から、先ほどおっしゃった内部基準を作るところがやはり一番難しいということと、外部基準では何かあったときに自分の行動に即反映ができないということなのです。ですから、内部基準にまで昇華して、各個人の中にそれを蓄えていないと、現実問題として直面したときに行動がとれないのです。ですので、内部基準化というのは、やはり各個人がやっていく必要があるのかなと。

例えば、私が幾ら内部基準を構築していても、私の子供はできていないわけですね。ということは、各人が内部基準化に取り組んでいかない限り、これは実現できないのかなと思っています。

ですので、学校の教育であったり、企業からあるいろいろな食品の宣伝の一環でも構わないと思うのです。そういうところで内部基準が作れるような活動を立ち上げていかないと駄目なのかなと思います。正に、今は外部基準を提供してOKというところでとまっているのではないかということです。

○高委員長 よろしいですか。他はございますでしょうか。

どうぞ、増田委員。

○増田委員 私も同じ意見ですけれども、今、先生からいただいた資料の6ページの「必要となる知識・能力を身につける」の部分の製品・サービスの仕組みということについて、メーカー、事業者から提供されるべきではないかと私も思っております。現状いろいろなトラブルが発生しますと、そのトラブルに対処するという力だけが今求められているような状況があります。そうしますとちょっと変化球を投げられると、また同じことを繰り返すということが発生しています。

仕組みを理解して、応用力を身に付けるということがすごく重要ではないかと思っておりますので、商品・サービスのメリットを提供するのと同時に、デメリットであるとか、リスクであるとか、どうしてこれはリスクなのかという仕組みとか、そういう情報提供をしていだたきたいと思いますが、それはできるのでしょうか。あるいは、どのように動いたらできるのかということを教えていただけたらと思います。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 営利目的でやっている企業に、ここに書いた全てのものを1社で提供しろというのは、私は正直言って無理ではないかなと思っています。ですので、例えば企業横断的に作るようなコンソーシアム、あるいは企業の人もいるし、それから技術者として参加している人もいるというような、横串というのですか、企業の方も含めた、正に危険学プロジェクトをやっているようなところで、この仕組みのモデル化というのですかね、私の五つ目のモデルで理解するというところに非常に絡んでいるのですけれども、作っていく必要があるのかなと思います。

営利目的の企業1社にお願いすると、恐らく横串で見て、A社についてはそうかもしれないのだけれども、B社の製品はそれとは違いますということが出たら、もう千差万別になってしまうわけです。そうすると、一個一個仕組みを理解するみたいなことになって、これは無意味なのです。そうではなくて、我々が知りたいのは、例えばスマートフォンならスマートフォンというものを全部眺めたときに、どういうところにどういう危険があるのかということが知りたいわけですね。あるいは、そうでないと使えないわけです。だから、そういうものを横串でやるためには、横串の組織が必要ではないかと思います。

○高委員長 ありがとうございます。

まだ、そういった組織を作ろうというような話はないのですね。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 まだ、ないですね。

○高委員長 そもそも危険性等を一般化するというところまでは、まだなかなか行っていないという理解でよろしいでしょうか。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 行っていないと思います。

○高委員長 分かりました。

他はございますでしょうか。蟹瀬委員、どうぞ。

○蟹瀬委員 企業側からしますと、今の横串というのは大変時間がかかる、それから煩雑になると思うのですが、消費者側から言いますと、4ページの非常に上手にまとめていただいてる昔と今の7大公害の違いというのがありますね。これを知るだけでも自分の中で内部基準ができてくると思います。説明をお伺いしながら自分の中で整理ができましたね。

大きなことから始めるとなかなか到達しないのですけれども、先生たちがおまとめになって結果が出ているものを、消費者に早くに提示していくのが良いのではないでしょうか。細かいことが分からなくても、注意喚起の形になっているものを今後出していただいたり、あるいは消費者庁と一緒になって出していくということを今後考えていただけますでしょうか。

説明を聞きながら、個人攻撃って、ブログだとかツイッターとかメールの中で実際に起こっていることがあるのは知っていますが、こうやってまとめられると、そういう危険を感じながらやらなければいけないよねという頭の整理が大変できたのですね。ですので、まずは第一歩として消費者にこれを知らしめて、それから企業へ持って行くという事が良いかなと思った次第です。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 正に、私が「はじめに」で御紹介した危険学プロジェクトのポスト危険学の取組というのは、それを周りから期待されて継続することになったものです。要は、ここに今日御紹介したものも含めて、形にしたものというのが非常に多く10年の間にできましたので、その情報発信をやるということが今からのミッションかなと考えて、活動継続をするということになっています。

このポスト危険学プロジェクトではないところでも、どんどん立ち上げていけば良いと思うのです。当然、我々が検討しているものは15個ぐらいのカテゴリーしかありませんので、それ以外の部分にももちろん危険というのはありますし、とにかく表に出して形にして共有する、それが多分一番ベーシックな取組ではないかなと思います。

○蟹瀬委員 是非これを公にしていただけるとうれしいなと思います。特に精神疾患、能力低下は、やはりAIとかそういう時代になってきて、かなり人間に起こってきている事実があるかと思います。何となく消費者も新聞などで情報を得ている。でも、何となくではなくて、研究の結果こういうことが起こっていますよと明快にしていただくことで、子供たちがネットで遊ぶ時間を減らしていくとか、いろいろな試みが出てくると思うのです。ですので、研究材料をもうそろそろ出していただくと良いかなと。しかも、市民に届くように、消費者に届くような形で、是非お願いします。

○高委員長 ありがとうございました。

他は。長田委員、どうぞ。

○長田委員 長田です。ありがとうございました。

AIのことを考えていつも思っているのは、メーカーが自社の製品を作って、いろいろなマニュアルをつけて消費者に提供したときから、その後、AIが組み込まれている場合、ディープラーニングとかいろいろなことで判断が変わっていく、そういう製造物に対してメーカーさんもどこまで責任が持てるのかというのもあると思いますし、消費者側もそれをどう理解していったら良いのかというすごく大きな課題があるなと思っているところです。

そういう意味から言うと、今日御紹介をいただいた外部基準から内部基準へというのは、当然それがなければ危険から逃れることができないなと思って、とても整理をしていただいたなと思っています。

その考え方からいくと、企業もある意味、今はまだなかなか個社や何かで情報を出していくというようになっていないという時代から一歩進まないと、自ら作って提供した製品やサービスの安全性をどこまで担保できるかというお話になってくるのではないかなと思っているのです。

そういう発想から、できれば今回御提供いただいたような、そういう横串を刺した、あるグループの製品やサービスに対してのリスクは何があるのかということを提供していく時代が。多分それをしないと、今度は企業が自らを守れないときが来るのではないかと思ったりしているので、よりこの活動を続けていただけたら良いなと思います。

以上です。

○高委員長 ありがとうございました。

他はございますでしょうか。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 それに関連して。正におっしゃったことは、私の例えば4ページの7大公害の比較がありますけれども、工業の時代というのは、大気汚染とか水質汚濁が起きた後に、企業間で集まって、それをどうやって乗り越えれば良いのかという議論が起きたと思うのです。もう何十年も前のことですけれども。それと同じような活動を情報・知識の時代の公害のところにもやっていけば良いのではないかと思うわけです。

ですので、昔のことだという話ではなくて、昔やった取組のやり方の良いところとか、これではできなかったことというのを是非掘り下げて、新しい情報・知識に取り組んでいけたらなと思っています。

○高委員長 他はいかがでしょうか。

どうぞ、大森委員。

○大森委員 私、20年ぐらい、消費者教育ばかりやっているのですけれども、内部基準を作るというのは自立した消費者への大切な道で、また、仮想演習とか逆演算というのも消費者教育のツールとして非常に優れたものだと思ったのです。

例えば、ネットのトラブル、被害なんかも、中学校とか小学校で出前講座をやっているわけですけれども、こういう被害がこういうところであるよという外部基準を、余り専門性の高い情報だと分かりにくいのですけれども、こんな旗を立てたような感じで分かりやすく提供していただけると、それをまた消費者教育として学校現場とかで使えると思うのです。

また、例えば子供の安全みたいな出前講座をやっていますので、こういう場所でこういう子供の危険があるということがあれば、それを使ったワークショップとかで、初めて子供を持たれたお母さんへの消費者教育の良い方法につながっていくのではないかと思いますので、分かりやすい外部基準を整理したものを発信されるのを楽しみに待っておりますので、よろしくお願いします。

○高委員長 お願いします。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 今の御指摘で、子供のお話が出たのですけれども、危険学プロジェクトの中には「子どものための危険学」というのをやっているグループがございまして、実際に幼稚園とか小学校に出掛けて行って出前授業をやっています。ネットで調べていただけると、「子どものための危険学」というキーワードで出てくると思います。

それは正に子供に、粘土を使って手の形を作って、それでドアに挟まると手がどうなるのかということを見せたり、それから幼稚園の中での危険を皆で探そうというようなことを実際にやってみて、危険地図を子供に作らせてみるという取組をやっています。そうすることによって、内部基準が子供でも正確にできるのですね。だから、滑り台のここに行ってこんなことをすると危ないなとか、登り棒でこうだったらああだなということが実体験、体で感じて分かる、そこがすごく重要だと思います。

物理的なものは割とそういうことができるのですけれども、AIとかIoT、ビッグデータの話というのは目に見えない部分がありますので、そこのところは何か工夫が必要なのかなと思っています。是非やっていきたいと思います。

○高委員長 ありがとうございます。

蟹瀬委員、どうぞ。

○蟹瀬委員 30年ぐらい前にアメリカのビジネス学科で私が学生とやったときに、そのときにコンピューターで企業競争のシミュレーションをやるのですね。こうするとこうなる、あそこがこういうのを入れてくるとこっちが1位になるという。

私は今お聞きしながら、小学校にプログラミング授業というのが今回入ってこなければいけなくなってきますね。そうすると、小学生は割と今より早くネットの中でコンピューターを使っていろいろなことができるようになると、シミュレーション危険学というとおかしいですけれども、ゲームのように自分たちでシミュレーションしてみて、こうなるとこうなるというのをチームで危険を察知するシミュレーション、ゲーム的な授業というのを組み立てていくということは今後考えられませんか。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 それは十分考えられると思います。NPO法人で失敗学会という、これも畑村洋太郎先生が会長でやられている学会なのですけれども、そこでは実はゲーム分科会というのがあって、ゲームによって失敗のシミュレーションを危険も含めてやってみて、体感、実感するという取組をやっていて、たくさんの知見がたまっていると思います。ですので、ゲーム感覚で失敗とか危険を予測する訓練をするというのは十分考えられると思います。

○高委員長 ありがとうございました。

ここで、受田委員から、御質問、御意見はありますでしょうか。お願いします。

○受田委員 ありがとうございます。

大変勉強になりました。また、頭を整理する上で、非常に重要な知見をいただいたと思っています。さっき、増田委員、蟹瀬委員からもありましたように、6ページの具体策の中に、製品・サービスの仕組みを知識あるいはリテラシーとして身に付けることの重要性というのは極めて重要であると認識をいたしました。

一方で、こういったIT系、ICT系、情報科学というところは日進月歩で、その原理原則がどんどん変わっていくという、理解をしていくことが非常に難しい世界でもあるように感じております。

そこで質問は、この製品・サービスの仕組みを学ぶシステムを、例えば教育の中にどうやって取り込んでいけば良いのかという具体的なお話を少しいただきたいと思います。

その中で、こういった情報系というのは、日本より多分アメリカの方が進んでいると思われますので、アメリカにおいてはどういうようなリスクに対する消費者教育、あるいは子供たちの教育というのが既に始まっているのかという点について教えていただければ幸いです。

以上です。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 2点質問をいただいたと思います。

まず1点目は、例えば小さいときからプログラミングの教育をやっていくというのは、正にこの仕組みを作る部分だと思うのです。ですので、その仕組みを作ることの対案というか、反対側として、どういうことをやれば危険になるのか、どういうことをやればこういう現象が起きてしまうのかということを同時に学ぶというのが非常に重要だと思っています。だから、課題として何か教材を与えたりするときに、プログラミングの目標となるような働きができたらOKではなくて、これがどんな危険をはらんでいるのかということを反対側で議論するとか、あるいは実際にプログラミングしてみるということがすごく重要だと思います。そうすれば、小さいうちから両方のことについてバランスを取って考えていくことができるようになるのではないかなと思います。

既に大人になられている方は、重要なのは事故とか事件が起きたときに、どのように自分の頭のモデルを作り変えていくのか、そこがすごく重要だと思っています。それが契機になると思います。

ですので、事件とか事故をもう少し自分の身に引き寄せて、自分の頭の中に構築されているモデルというのをそれを契機に変えられるような、そういう事故とか事件の解説というのがすごく重要かなと思っています。それが1点目です。

2点目、アメリカの件ですけれども、申し訳ないのですが、アメリカの実情というのは余り押さえていないのです。ただ、私の認識ですと、アメリカの場合はどちらかというと、この間フェイスブックの話がいろいろなところで議論されていたと思うのですけれども、まだあのレベルではないか。どういうレベルかというと、出たときに、それを外部基準でどう抑え込むかということなのです。そこのところにまだとどまっているのではないかというのが私の認識です。

ですので、ここでの議論というのは、その外部基準のまま放置するのではなくて、もう一歩進めて内部基準にしていく、その取組が要るのかなということで認識しています。

以上です。

○受田委員 ありがとうございました。

○高委員長 よろしいですか。

他はございますでしょうか。池本委員長代理。

○池本委員長代理 池本でございます。

今、皆さんから幾つか質問が出てきたところに関連しつつ、自分の問題意識に引きつけて質問させていただきます。

5ページで、危険地図、危険の旗、そして各個人による内部基準を作り上げるという、現在のいろいろな消費者問題の分野の中で、昔からある例えば製品の事故で生命・身体に危害が及んだというようなものについては、法制度としてのリコール制度などがあり、またそれがばらばらに各省庁に散らばっていたのでは駄目なので、消費者庁で一元的に集約し、公表する。その意味では、マル2からマル3にようやく近付きつつあるのかなと思います。

ただ、これも昨年でしたか、この消費者委員会でも議論したのですが、ただ情報を集めてずらっと並べていても、そんなものは受け止めようがない。それをもっと分かりやすく受け止める、正にマル4に進める素材になるように、きちんと整理して提供する必要がある。どうするのか、なかなか名案が浮かばないと。

それでもまだ法制度としてマル2からマル3に近付きつつある世界かなと思うのですが、最近で言いますと、ビッグデータの利活用で、個人情報として各企業が集めた大量の情報から個人を識別する情報を外すことを条件に、いろいろ第三者にも提供できるというふうに個人情報保護法で決まったのですが、実は、私が一番問題だなと思うのは、ビッグデータとして匿名情報に加工して利活用するというのを、それぞれの企業がこういうビッグデータとして利活用を始めます、あるいはやっていますということを、それぞれのホームページなどで調べれば分かるように公表しておきなさいというところまであるのですが、それはここで言うと、マル2になるのかもしれませんが、我が国の山ほどある企業のどこが自分の情報についてそういうことをやっているか、1個ずつ調べていくことは不可能なのですね。実はその分野ではどこかが一元的に集約する、マル3の一覧できる状況にまで至っていない。そういう作業が必要ではないかと、もやもやと思っていたのですが、そういうことがこうやって見るとまだまだ発展途上かなということが分かってくる。

あるいは、もっと素朴なところ、個人情報の漏洩事故が起きたことを行政に報告する義務、一定以上の件数があればちゃんと報告して公表する義務があるのではないかというところも、現在の個人情報保護法では努力せよというだけで義務規定になっていないとか、基盤となる法制度がまだ不十分なので、危険情報をきちんと分かりやすく提供して、それがこういった内部基準作りの教育に反映される前提条件がないのでは、まだまだ不十分ではないかと感じました。

先ほどおっしゃった15のそれぞれの分野、あるいはこれから情報提供されるというこれまでの検討は、今のような個別の分野の評価なり、進捗度というところも多少触れておられるのか。その辺りはどういう状況なのかというのを教えていただければ幸いです。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 法制度に関して、現状がどうかという話を深く掘り下げているグループはないですけれども、社会のルール作りとして、法制度が情報・知識のところに関してはまだ全然できていないという認識は危険学の中でも持っています。

それに対して、多分アプローチは幾つかあると思うのですけれども、まずは法律の面で、先ほど申しました工業の時代にこういうことが起きてきたときに、法律がどう整備されていって、水漏れに例えると、その水漏れのところを防いでいくことができたのか、あるいはどういう経緯でもってそれができたのかということから学ぶというのは一個あると思うのです。

もう一つは、技術面でそういうことが起きない技術というのが有り得るのか、得ないのか、その議論がまだ不足していて、例えばAIにしろ、ビッグデータにしろ、まだフォワードでどこまで行ける、どこまで行けるという段階なのです。だから、それを振り返って、どうやればそういうことが、ここで言うような7大公害みたいなことが起きないのかというところにまだ至っていないという認識なのです。だから、技術面でのアプローチというのも、これから随分進めていかないとできないのではないかと思っています。

そこのところについては、まだ危険学プロジェクトの中でもこうしようという話にはなっていないです。恐らくこれから議論していく中で、例えば私がやっているグループ、「情報とシステム」ではなくて、今は実は「社会とシステム」という名前に変わってポスト危険学のところはやっているのですけれども、その中で議論していきたい項目の一つであります。

○池本委員長代理 是非、まだしばらく続けていただきたいと思います。よろしくお願いします。

○高委員長 ありがとうございました。

どうぞ、樋口委員。

○樋口委員 池本委員のお話にも関連するのですが、性善説と性悪説があるとすれば、もしAIが性悪説に立って使われるとすると、今の例えば内部基準について消費者がある程度トレーニングをしたとしても、その裏をかくような手口というのも出てくるのではないかとか、あるいは消費者自体がもともと必ずしも合理的でない存在であるというところがやはり気になっています。

例えば高齢者が振り込め詐欺の被害になってしまうというのは、建前の上ではある程度分かっているのだと思うのですが、正に危険学にも関連するのですが、特殊な状況を設定してしまうと、そこで判断力を失ってしまうわけですね。ですから、是非そういう人間の弱さとか、これは余り良くないのですが、性悪説に立ったいろいろな仕掛けに対しても対処できるような形を開発していただけると良いなと思います。

○高委員長 お願いします。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 危険学の中に、防災と減災という考え方があります。防災という考え方は、災害を防ぎ切ろうという考え方なのです。それは、こういう悪いことは絶対起きないようにという考え方なのですけれども、それでは災害というのは防げない訳です。だから、防潮堤を何メートルまで作ったら津波は防げるのだという議論は、ある程度を超えるともう無意味なわけです。70メートルの津波が来たらどうするのですかと。過去、石垣島に来ましたねみたいな、そういう話になるのですね。ですので、それを回避する方策として減災という考え方ですね。もし何かが起きたとしても、その災害をいかに最小限にとどめるか、そういう技術の方向性というのがあるのではないかなということです。

ですから、恐らくこういう発展途上のもので最後に残るのは、悪意に基づく犯罪なのです。これはもう無くならないという前提で、例えば振り込め詐欺が起きたときに被害を最小限にするためには、どういう仕掛けを間に取っておけば良いのか、そういう考え方で技術開発をやっていく必要があるのかなと考えます。

○樋口委員 ありがとうございます。

○高委員長 他はございますでしょうか。

どうぞ、鹿野委員。

○鹿野委員 今日は大変興味深い御報告をいただきまして、ありがとうございました。

もう既に多くの質問等でお答えいただいているのですが、最後に樋口委員が質問されたことにも関連して、一つだけ質問というか感想になるかもしれませんけれども、発言させていただきたいと思います。

リテラシーの問題、内部基準を作るというところは、ある程度の合理的な人間像を前提にしているようにも思われるのですが、一方、そこまで成熟していない子供についても、子供危険学があるというお話がありました。それを情報の分野にどうやって応用できるかということも問題になると思います。

先ほど樋口委員も言及されたように、高齢者に対して、あるいは高齢者だけでなく、脆弱な消費者に対して、どのような形でこれを伝えていくのかということがやはり問題ですし、しかも、悪意の人がそこにつけ込むということがかなり大きく問題となっているわけです。そこで、そういう脆弱な消費者に対するリテラシーというものについても、おっしゃったところに工夫をすればある程度の適用可能性があるということになりましょうか。

○危険学プロジェクト「情報とシステム」グループ藤田グループ長 今の御指摘は、検討の中でも度々出ます。要は、合理的な判断をされる方ばかりだと、今言ったような教育を例えば教科書とかそういったことで浸透させていけば、おのずと減ってくるだろうと言うのですけれども、恐らく幅がかなりあると思いますので、その幅に対しては、今減災と言いましたけれども、もう一個はフェールセーフという考え方があります。それは、いろいろな使い方をして使い方を誤ったとしても、最低限のところで歯止めがきくということです。そこのところの技術開発というのは、実は余りまだできていないのが実情かなと思います。

車なんかに関しては、フェールセーフの機構は既にいろいろなところに取り込まれていて、他の工業製品についてもいろいろなところに応用されていると思うのですけれども、情報・知識に関する技術については、フェールセーフの考え方というのはまだほとんど実現できていないのかなと思います。

だから、何かが起きたときに最初に言われることは、自己責任ということを言われるのですけれども、自己責任というのはフェールセーフの機構が一体にならないと問えないことだと思うのです。そうでないと、そんな技術を開発しなかったらよかったじゃないかという議論に必ずなりますので、そういう議論は割と不毛かなと私は考えますので、フェールセーフの機構あるいは減災の機構とともに議論していく必要があるのかなと思います。

○高委員長 ありがとうございました。

他はございますでしょうか。よろしいですか。

活発な意見交換をさせていただきまして、私自身も大変勉強になりました。

整理をさせていただきますと、恐らく今日御報告いただいた内容というのは、特に危険の問題に関する教育なのかと理解させていただきました。もちろん、技術上の問題でフェールセーフの仕組みも検討していかなければいけないという話もありましたけれども、それは恐らくこちらの研究グループのメインのテーマではないのかなと解釈いたしました。

教育の問題といったとき、大前提として法律がまだ整備されていない状況を前提にされておられること。それから、技術そのものが発展段階にあること。これらを前提にされて、どう危険を回避するかを考えておられる。教育としてどういう方向があるのかというお話だったと思いますが、危険を完全に無くしてしまうのではなくて、減災というところで取り組んでいくのが現実的だとの説明を受け、正にそのとおりだと思いました。

主体的に自分自身で危険を察知しながら生活をしていくということなのでしょうけれども、先ほどいろいろな消費者がいるのだという話で、これを脆弱な消費者というか、私自身も含めてですけれども、多分多くの消費者がそうではないかと思います。内部基準を作るということで、事業者側が何らかの基準、モデルを公表するというお話がありましたけれども、例えば今の段階でもいろいろな製品の使用説明書を、私自身がそうなのですけれども、余りしっかり読まないで製品を使うところがあって、ある意味で甘えているのかもしれませんが、そういった消費者に内部基準を作ってもらうというのは非常に難しいテーマだと思いました。もしこの部分で成功するということになれば、消費者教育全般においてもこの手法は応用できると感じました。

その上で鍵になるのが、委員の皆さん方から出ておりましたけれども、この商品を使う、このサービスを使う際には、こういうデメリット、リスクがあるのだ、危険があるのだと。七つの公害でしたか、そういうリストもここに紹介いただきましたけれども、ああいったものを明示するというのは非常に新しいアプローチで、個社ではできないけれども、横断的な何か組織を作って、そこが出していくというのは非常に合理的だと思いました。そうした仕組みがあれば、消費者自身の学ぼうという意識を後押ししてくれるのではないかと感じた次第です。

今後とも、こうした研究を続けていただき、今のミッションは情報発信するということになっておりますので、こういうサービスを使うときには、こういうリスクがあるのだということが定型化されれば、是非私どもも協力させていただき、あるいは消費者庁の方で公表する形で、活用させていただければ有り難いと感じました。まだ、検討途上だということで、すぐにはできないでしょうけれども、是非ともそういった検討を引き続きしていただければと思います。

当委員会では、今後もIoT、ビッグデータ、AIの活用における消費者関連の論点について、様々な観点からヒアリングを通じて検討を行っていく予定でございます。

本日は、藤田グループ長におかれましては、お忙しいところ審議に御協力いただきましてありがとうございました。大変勉強になりました。

(危険学プロジェクト「情報とシステム」グループ藤田グループ長 退室)


≪3.閉会≫

○高委員長 最後に、事務局より今後の予定について説明をお願いいたします。

○丸山参事官 次回の本会議につきましては、日程が決まり次第、委員会のホームページを通じてお知らせさせていただきます。

なお、委員の皆様におかれましては、連絡事項がございますので、この後、委員室までお集まりください。

○高委員長 それでは、本日は、これにて閉会とさせていただきます。どうもありがとうございました。

(以上)