第277回消費者委員会本会議議事録

議事録（PDF形式はこちらから）

日時

2018年6月21日（木）15:30～16:39

場所

消費者委員会会議室

出席者

【委員】
高委員長、池本委員長代理、受田委員、大森委員、蟹瀬委員、鹿野委員、長田委員、樋口委員、増田委員
（高委員長の「高」は、正しくは「はしごだか」）
【説明者】
長岡技術科学大学三上副学長
長岡技術科学大学張特任講師
【事務局】

黒木事務局長、福島審議官、丸山参事官

議事次第

開会
IoT、ビッグデータ、AIの活用における消費者関連の論点について
その他
閉会

配布資料（資料は全てPDF形式となります。）

このページの先頭へ

≪１．開会≫

○高委員長　それでは、定刻となりましたので、「消費者委員会第277回本会議」を開催いたします。

本日は、山本委員が欠席となっております。

それでは、配付資料の確認につきまして事務局より説明をお願いいたします。

○丸山参事官　お手元の議事次第下部に配付資料一覧を記載しております。資料１種類と参考資料につきましては１から４となっております。もし不足がございましたら、事務局までお申し出いただきますよう、よろしくお願いいたします。

≪２．IoT、ビッグデータ、AIの活用における消費者関連の論点について≫

○高委員長　本日の議題は「IoT、ビッグデータ、AIの活用における消費者関連の論点について」でございます。

昨今のICTの発展により、消費者を取り巻く商品・サービスにおいても、IoT、ビッグデータ、AIを活用するものが出現してきております。現在、政府内でもこれらに関係する施策の検討が急速に進められているところでございますが、これらは消費者に多大な利便をもたらす可能性がある半面、様々な課題も有している可能性があり、当委員会としては、３月に発出した消費者基本計画工程表の改定素案に対する意見においても、その旨の言及をしたところでございます。

本日は、IoT、ビッグデータ、AIの活用における消費者関連の論点につきまして、長岡技術科学大学の三上副学長、張特任講師から御説明をいただき、今後の消費者問題を考えていく上での参考にしたいと考えております。

三上副学長、張特任講師におかれましては、お忙しいところを御出席いただきましてありがとうございます。

それでは、大変恐縮でございますけれども、30分程度で御説明をいただきたいと思います。よろしくお願いいたします。

○長岡技術科学大学三上副学長　三上でございます。このような場にお招きいただきまして、本当にありがとうございます。拙い説明かもしれませんけれども、頑張りますので、ひとつよろしくお願いいたします。

我々、長岡技術科学大学というのは、安全に関する専門職人材育成を、13年目になりますけれども、やっておりまして、その関連で安全安心社会研究センターというものを持っております。現在、その研究センターで、消費生活の安全に関するデータの蓄積、活用といったことについての研究をしておりまして、その関連で消費者委員会あるいは消費者庁にも意見を求められるということがあります。

本日の報告は、前半がそれに関連する我々の仕事、研究の御紹介を少しさせていただいて、後半、パート２で、AI、ビッグデータ、IoTに関連して、どのような消費者へのインパクトがあるのかといった論点について、大変ふかん的なレビューということになってしまうと思うのですけれども、させていただきたいと思います。

まず、４ページ目から参ります。こんなグラフがぱっと書けるというのもビッグデータのおかげですけれども、これはGoogle Trendsを使いまして、本日のテーマである「IoT」「ビッグデータ」「AI」の検索ワードとしての出現頻度の推移を見てみますと、こんな感じになっているということで、IoTについては2014年ぐらいから、ビッグデータはその少し前、AIは過去に何度も山がありますけれども、ここへ来てまたということになっております。

５ページに、３つのキーワードを挙げておりますけれども、全体としてどういう関係なのだろうということで、データの中にも従来からの伝統的にコンピューターが使っているような構造化データ、最近どんどん増えているユーザーの書き込みも自由なデータ、それから今度は機械が書き出すIoTデータということで、分量的にはこの順序でどんどん増えていくのだろうと思います。そういうものがどんどん成長してビッグデータ。AIはビッグデータのためだけではないでしょうけれども、大きくなると、なかなかAI以外ではこなし切れないということで、AIの重要性も高まる。そんな関係にあるのかなということで、３つの関係を書いてみました。

６ページも、非常に大ざっぱなものですけれども、歴史的に言えば、安全に関連したデータということで申し上げれば、いろいろなイベントを記載する、いわば専門家が書いてデータを作ってきた時代を構造化データの時代、非専門家がどんどんデータを書き込んで、それが拡散する時代が非構造化データの時代ということで、ここにはGoogleとFacebookだけを書いてみました。更に行けば、今度は今正に生活空間に人工知能がどんどん入ってきて、AmazonのEchoとかGoogle Home、あるいはソニーのaiboというのも、そういう意味で生活空間における耳と目という形で、ライフログデータをどんどん吸収していく存在になっている。これからの成長速度を考えれば、この最後のものがどんどん急成長していくだろうと思います。

７ページに、それをもう少し具体的に書いてみましたけれども、構造化データとして、もちろんいろいろなものがありますけれども、我々が今やっております安全関係ということで申しますと、各種の事故記録や救急搬送、診療保険の支払、これはいずれも専門家が記述しております。それでも、件数的には決して少ないものではなくて、救急搬送160万件、医療保険は年間で106億件ぐらいあります。決して小さいものではありません。このように、データ量は人口規模より少ないです。医療保険は必ずしも少なくないですけれども、発生速度もそこそこですし、時間遅れもあります。

一方、非構造化データの典型として挙げましたソーシャル・ネットワーク上の書き込みとか検索語、これは一般の方、非専門家がどんどんデータの発信源となります。データ量は、人口に比例的でその数倍の規模になります。１日に何度も書いたりするわけです。また、リアルタイムです。

一方、IoT、一番上の段に行きますと、これは生活ライフログ、ドライブデータ、携帯のGPS、それからPOSデータはなかなかどっちとは言いにくいところですけれども、一応ここではこっちに入れました。それから、街なかにあるいろいろな防犯用のモニター映像とか、こういったものが概念的には入ってくるかと思います。発信源はいずれも機械であって、データ量は恐らく人口よりもどんどん大きなオーダーになっていくと思われます。発生速度も非常に速いし、リアルタイムで発生する。

私は情報関係の標準化の仕事をしておりますので、８ページ目にJTC1という単語がいきなり出てきますが、これはISO／IECのもとで情報技術の標準化を担当しているジョイント・テクニカル・コミッティーという組織です。その下にあるSC32の議長がビッグデータ関係をやっております。彼の数年前における報告ですけれども、領域としてはこんなものがあります。今、日本の国内でも、大体このような領域を念頭に置いてビッグデータ云々ということが言われていると思います。

９ページ目、我々の研究のスコープを示すものと意識をして作ったものですが、中心に「安全スモールデータ」とあって、外側に「安全ビッグデータ」、これは「安全」を取っていただいても別に構いません。スモールデータというのは専門家が作る緻密な、より構造化されたデータで、周辺はそれぞれデータとしては当事者が思い思いに作っていくデータで、それを横から見ると、いろいろな他の活用用途が出てくる。そういう関係になっていると思っております。件数的には、もちろん周りを囲むものは非常に大きい。

紺色の部分が、個人、消費者が書き手となって日々作っているデータ、検索語の記録、スマート家電、AIを搭載した家電類が録音あるいは録画をする、そういう音声・画像、それからSNS、それに膨大なエレクトロニックコマースの購買記録。

一方、右端の緑の部分は、インフラ産業が日々記録をしております、どちらかといえば構造化されたデータということになります。ただ、いずれも件数は非常に大きい。

上と下に「政府サービス」と「金融と流通」とありますが、金融と流通自身のデータが正に彼らのビジネスそのもののデータですので、一般にアクセスできるような形で利用されることは余りないかもしれませんけれども、それがあります。

政府サービスについては、政府の保有する膨大なデータを本来の目的以外にも必要に応じてどんどん活用していこうというオープンガバメントの動きが進んでおりますので、ここはこれからビッグデータの一つの大きな領域になってくるだろうと思っております。

次の12ページに参りまして、我々が実は中心的にやっておりますのは、真ん中のセーフティー・スモールデータでありまして、いろいろな国際機関の考え方を総合しながら、消費者の事故というものを記述する枠組みを作り、データをそれに基づいて再編成し、加工するといったことをやっております。

11ページ目の黄色く囲んだ部分が我々のモデルでありますけれども、我々は人工物に囲まれた生活ですので、その中で遭遇する事故についてはいろいろな物の関与があるわけですけれども、それをこんなふうに記録していったらよろしいのではなかろうかということで、我々が提唱しているモデルです。

以下３ページにわたって整理事例が出てきますけれども、詳しい説明は省略いたします。物の事故への関与というものを、当事者、保護者も含めて事故シーケンスの一部だということで整理をしていく枠組みを作ると、14ページのように、事故データを機械的に集計していくだけで、典型的な事故パターンというのがエビデンスベースで出てきます。こんなやり方で色々なデータを生活安全のために活用していけないだろうかということを我々の問題意識でやっております。

これらの事故に関するスモールデータ、スモールといっても数十万件から100万件を超えるオーダーでありますけれども、まだこれも十分活用されているとは言いにくい。救急搬送のデータは消防署内で基本的には眠っているわけですし、火災も同様です。そういう意味で、ビッグデータの活用が言われますけれども、スモールデータもまだまだ活用し切っていないというところがあるかなと思っております。

16ページは飛ばしまして、17ページに「傷害ピラミッド」という余り聞きなれない言葉が出てまいりますけれども、これは欧州委員会が「EuroSafe」という２年に１回出している報告書で公表している数字です。これは基本的に病院から来る、病院のエマージェンシー・デパートメント、救急セクションからの報告をもとにして、EU全体として死者あるいは入院患者、外来患者が、外傷に基づくものとして何人いるかということを推計しています。これによりますと、死者15万人に対して全部で約4,000万人、つまり外来で通院加療を必要とするようなレベルのけがをしている人がヨーロッパ全体で年間4,000万人近い。これが全体像です。

我々はこれに相当する日本の数字を作りたいと思ってやっているのですが、18ページにありますのはまだまだその中間過程でありまして、厚生労働省が作られる人口動態統計、患者統計、病院統計などを利用して、今、推計をしております。最近は、全数把握がされておりますレセプト情報も使ってより正確な数字をとそういうことでやっておりますが、まだ苦労しているという段階です。

19ページは、データの桁の名前の一覧ですので、飛ばします。

20ページから、いろいろなビッグデータの利用例が出てきますけれども、本当に一例にすぎません。20ページは、有名なグーグル・フルーというサービスを念頭において書いたものです。インフルエンザに関する検索語とか薬の購買データから、インフルエンザがどこで発生しているのかということを検索できます。検索語や電子商取引の購買記録といったデータがリアルタイムで、しかも地域属性と結びついた形で活用できることのおかげです。診療記録となりますと、月遅れになりますし、とてもリアルタイムでということになりませんけれども、ビッグデータのリアルタイム利用が生み出した一つの新しい可能性だなと思っております。

21ページの図は、ITS（Intelligent Transport Systems）でいろいろやられていることですけれども、自動車の個々のワイパーが動いているかどうか、それからブレーキと駆動系のデータを使いますと、スリップしているかどうかということが分かります。これは地点も明らかになりますので、そういうデータを集計してまいりますと、今どこで路面凍結が起こっているとか、そういう道路情報がリアルタイムで地図に明らかになる。そういう情報をフィードバックすれば、運転者に対する安全情報の提供という意味で大きな効果がある。その他、ネット上の書き込みやら何やら、最近はリアルタイム性のある現地情報はSNSなんかに一番早く表れるということで、うまく活用されているのだろうと思います。

22ページは、これは我々もリコール情報と重大事故情報というのを突き合わせて、ある事故について通報された企業が当該製品についてリコールするまでの時間の遅れを測ったりしています。いろいろな危険製品に関する情報もSNSで拡散するほうがむしろ効果的だということで、危害の書き込み、また仮に購入記録とリンクしていけば、自動的にリコール製品に関する警告が出せるということで、右の青い部分のビッグデータを使うと様々な可能性が広がる。ただ、同時に危なさもあるということが後半の話題になります。

23ページ以降の、４枚のスライドは、我々が今作っているシステム、i-Global Risk Watchについての紹介です。次のページを見ていただくと、消費者庁、アメリカの消費者安全委員会、EUの委員会などが公表しておりますデータと、消費財製品を作っているメーカーなどが自分で収集されている事故データを基にして、いろいろな事故分析をデスクトップでできるシステム開発をやっております。今日は、事前に申し上げてなかったものですから、この場でデモはできないのですけれども、今、我々は動かしております。

26ページ以下、我々は、こういったシステムを作っていくに当たって、情報の構造自身をしっかり固めていくということが大事だと思っておりまして、それをオントロジーと言っております。テクニカルな説明は省略いたしますけれども、健康及び安全に関するオントロジー開発というのを、特にアメリカは大変に力を入れて進めております。日本も何とかこういった分野で進めなければいけないなと思っております。

では、後段に入ります。30ページを御覧ください。これらの新しい情報技術が消費者生活にもたらすインパクトは大変多方面に渡ると思いますので、私が今日申し上げられることは本当にふかん的なことに尽きるかと思います。その点、御容赦いただきたいと思います。

まず、31ページ、AI、IoT搭載製品に囲まれた生活空間が出てまいりますと、冒頭にお話がありましたように、利便性とプライバシーが常にトレードオフの関係になってまいります。アメリカがいち早くこういった製品が身の回りに出てきておりますので、ある批評家はpacking our home full of ears and eyesと警告を発しております。「ライフスタイルデバイス」が「サーベイランスマシン」に替わることによって、実際にはいろいろな多くの事件も、また美談も生まれているように思います。

ただ、昨今のFacebookの事件にありますように、現在の情報システムには深いレベルの個人情報、その人がどういうふうなライフスタイルを持っているのかといったプロファイル済みのデータというものが、例えばケンブリッジ・アナリティカ事件のように政治的なことに利用されるとか、リスクがますます高まっているわけです。

一方で、３番目のボツは良いことと見るのか、悪いことと見るのかはあれですけれども、アメリカのアーカンサスで起きた殺人事件では、Amazon Alexaに録音された肉声が犯人逮捕の決め手になったということです。それからまた、これは日本でもやられていることですけれども、購買履歴に基づく店頭でのリコール情報案内とかも可能になります。IoTを装備すれば、いわゆる長期使用製品の安全問題についても具体的な解決策ができるのではないかということが、まだこれは具体化しておりませんけれども、言われております。

32ページに、いわゆる長期使用製品の点検、表示制度の対象製品の普及率を挙げておりますけれども、これらの製品は、実際上はまだまだユーザーによる登録が非常に低い状態で悩んでいるということですが、IoTが搭載されれば、わずか追加投資でこういったところの問題は解決できます。

プライバシーを論ずる場合に、33ページにありますように、いろいろな情報が個人を特定可能なIDとリンクして記録されているかどうかということが大きな分かれ目になると思っております。カードとか、あるいはいろいろな購買履歴、Google Home、Amazon Echo、SamsungスマートTVの例を挙げましたけれども、これはいずれも個人特定可能なIDとリンクしていろいろな記録がとられますので、もちろんマーケティングに使えます。リコールや点検助言などの安全サービスにも使えます。しかし、この場合にはデータのオーナーは当該個人になるだろうということで、後ほど出てくるEUのGDPRでもポータビリティーを認めるという形で、オーナーシップを明確にするという動きになっていると思います。それから、第三者への無断提供はもちろん駄目です。

一方、完全に匿名化されたIDとひもづけるというアプローチをしながら、なおかつAI、IoTの利便性を活用しようという方向もございます。そういった意味では、Apple Homeはマーケティングに使える形では情報は使わないという意思を明確にした上で使っているようです。それから、私も今、レセプトデータを使わせていただいておりますけれども、こちらは確か保険証番号と生年月日をキーにして、ハッシュIDという、いわば暗号化したIDを作って、月々のレセプトデータが、同じ個人のものは同じ番号になるのですけれども、誰とは言えないという形にしてあります。こうなりますと、疫学的、集団的なデータとしての利用価値はあります。個別のマーケティングにはもちろん利用できない。しかし、こういう場合、データのオーナーは誰なのかというところはだんだん分からなくなると思います。

34ページ、２番で、AI、IoT時代における商取引の変貌。良い題名が思い付かなかったのですけれども、こういうくくり方をしてみました。１つ目は損害賠償です。引き渡しされた後、製品の機能は変化しないというのがこれまでの前提だったわけですけれども、AIやらIoTが入ってまいりますと、引き渡し後に製品はどんどん変化をしていく。むしろどんどん変化させることが製品の付加価値でありまして、また競争力でもあるということです。そうなると、事故が一旦起こったときに、原因はどこなのだろうということが非常に明確ではなくなるということで、大きな変化が起こります。

いわゆる電子取引が始まったころ、電子契約法ができたわけですけれども、最近ですと、背景の音を拾ってAmazon Alexaが発注してしまったとか、そういうこともいろいろ起きていますので、また新しい手当が必要になるのかなと思っております。

それから、つい先日、公正取引委員会でもシンポジウムをやられたようですけれども、商取引自身というか、市場競争自身の在り方というのも大分性格が違ったものになってくるのかなと指摘されていました。

アルゴリズムを使って、お客さんごとに値段を決めていくということも始まっている。それは売手と買手の契約で決まるということで結構なのだろうと思うのですけれども、その結果、例えば価格が釣り上がるようなことが起こったときに、それは共謀なのか、あるいはアルゴリズムの共通性のために偶然生まれた結果なのかというような、なかなか哲学的な問題になるように思いますし、競争だけの問題ではないですけれども、場合によっては新しく、AIというものに第三の法的人格を付与するようなことも必要になるのかなと。

あと、プラットフォーマー、Amazonであれ、楽天であれ、そういう方が取引先を自由に選べる。そうすると、消費者は間接的にプラットフォーマーを通じてしか取引先を選べないということになって、こういう市場支配というのはどういう類いになるのだろうということがあるかなと思います。

３個目は、自動運転についてです。これについてはさんざんいろいろな場で議論も進んでおりますし、実践も始まっておりますが、たまたまスタンフォード・ビジネススクールのケースで大変面白い論文がありましたので、「道徳的機械」という話をちょっと付けさせていただきました。いわゆるトロッコ問題の典型だと思いますけれども、自動車を買うときに、この自動車はドライバーを犠牲にするロジックなのかどうなのかということをよく確かめて買わないと、買えなくなってしまいますよね。30年後にはむしろ人間は運転することが道徳的悪だと考えるような時代も来るのかもしれないという、ちょっとSF的な物語ですけれども、いろいろなものを考える材料として面白いなと思いまして付けさせていただきました。

最後になりますけれども、42ページ、ちょうど先月、GDPR、EUの一般データ保護規則ができました。対象は域内に拠点を置く事業者となっておりますけれども、域内居住者にサービスを提供する場合にも対象になります。その直前、Facebookさんが利用規則を変更して、アジア、アフリカ、中南米諸国のユーザーの管理をEU域内になるアイルランドからFacebookカリフォルニア本社に移すということで、いろいろな準備をされているのだろうと思いますけれども、例えばこれから中国のプラットフォーマー、これはGAFAに対してBATHと言うのだそうですけれども、43ページのグラフを見ていただきますと、Forbesのランキングの中で情報サービスセクションの会社を取り出したものですが、いずれも20世紀の最後の頃に生まれた企業が早くもランキングのトップ200とか、このくらいになっております。これらの企業のプライバシーに関する物の考え方というのも大分違うところもありますし、また、国籍、本拠が違ってまいりますので、世界にいろいろなルールが現れてくるということになる。日本のユーザーも様々な国のプラットフォームの上で生活を送るということになりますと、Jurisdictionという問題もますます議論の多いことになるのかなということで、最後に付けさせていただきました。

時間をオーバーしたかもしれませんけれども、以上でとりあえずの御報告を終わらせていただきます。ありがとうございました。

○高委員長　ありがとうございました。

それでは、ただいまの説明に関しまして、御質問、御意見がございましたら、どうぞ御発言ください。

私個人としては、今まで勉強したことがない分野のお話を聞きまして、大変参考になりました。それで、他の方もいろいろ意見があるでしょうけれども、１点だけ先にお尋ねしたく思います。今、研究で進めておられるi-Global Risk Watchというシステムは、安全分野のデータベースということでやっておられるようなのですけれども、例えば消費者被害といったものに応用することも、そんなに難しいことではないと理解してよろしいですか。

○長岡技術科学大学三上副学長　可能だと思っております。今のところは物的な傷害に限っておりますけれども、より広範囲の話題に広げていくこともできると思っております。我々としても、していきたいと思っております。

我々のキーワードは安全ということになりますので、安全というのは狭く捉えると、やはり健康上の被害とか身体上の危害ということになりますので、今のところは対象にしていないのですけれども、今後検討したいと思っております。

○高委員長　分かりました。ありがとうございます。

多分、皆さん、もうちょっと考える時間があったほうが良いでしょうから、もう１つお尋ねします。

安全にしても消費者問題にしても、先ほど簡単に触れられましたけれども、オントロジーというのですか、概念とその関係とか、特性とか、そういうワードを作っていく作業というのは大変難しいのではないかと思いました。アプローチの仕方については、こういったものが一般的というのはあるのでしょうか。

○長岡技術科学大学三上副学長　今日の資料では11ページぐらいが一番近いかもしれませんけれども、事故をどう書くかというのは、例えば労働安全の世界ではILOが記述モデルを作って、11ページの表で言いますと、右から２番目にPhysical Contact modelという形で整理しましたけれども、何を加工しているときに何によってけがをしたかというところをちゃんと記録しなさいと。ILOらしいやり方ですね。それから、アメリカの消費者安全委員会は、物が関連したら、因果関係を余り深く考えずにとにかく２つだけ関係というふうなマニュアルになっています。一方、アメリカの高速道路安全局のHaddonさんが作ったHaddonモデルというのは、かなり網羅的にいろいろな関連事項を書いていきなさいと求めています。

我々のものは、事故シーケンスの最初のきっかけになったものは何ですか、実際に加害をしたものは何ですか、その他の関連物は何ですかというふうに、事故シーケンスをなるべくロジカルに理解して書き下ろすようなやり方ができないだろうかと提案したものです。

こういった考え方も国際機関によっていろいろありますし、それぞれの項目を記述するための国際標準も山のようにありますので、その中からなるべく普遍性の高い、目的に合うものをうまく引っ張ってくる必要があると思っています。できることならば、我々の提案するモデルを国際標準にしたいという希望を持っております。

○高委員長　ありがとうございます。

どうぞ、蟹瀬委員。

○蟹瀬委員　大変面白いというか、ためになるお話をありがとうございました。

安心・安全のためのデータを作っていくというお仕事は大変だと思うのですが、私が一番気になるのは、個人情報というものの関係と、データの取り方をどのぐらいきちんと今考えていらっしゃるのか。個人情報保護法というのは当然ありますので、いろいろなところで名前を伏せるとか、いろいろなことがあるかと思うのですけれども、安心・安全を買うために自分たちの情報を出していかなければいけない消費者は、その辺りのところはとても不安に今思っていると思うのです。

ですから、例えば家の中で「今日は晴れるの」と聞いたら、何時から晴れるよと勝手に答えてくれる機械が今出てきた。ところが、一方では、そこで盗聴されているのではないかという情報も入ってきている。そういう中において、IT化されていく、こういうビッグデータをとっていく、それがまたスモールデータにも生かされていくという中での個人情報に対して、どういうふうに考えていらっしゃるかをお聞かせください。

○長岡技術科学大学三上副学長　33ページの表に、今日晴れるのと言って、晴れるよと答えてくれる、しかもそれが三上喜貴と結びついて記録を残されるというのが上の段だろうと思うのです。なおかつ、その戦略で行くのだと考えている事業者もおられれば、もうそこは個人情報と結び付けるのはやめよう、例えば晴れだよと言って記録はされますけれども、これは三上喜貴という名前と結びつかずに、単に集団として反応だけを記録するというやり方をしている下段のやり方もある。最終的には、消費者がどっちを選んでいくのかということにとなるのだろうと思うのです。

例えばパブリックセクターのようなところは、基本的には下段のようなやり方ですね。データをハッシュ化されたデータとして記録していくという方法です。アメリカの医療データの考え方も、利用の裾野をなるべく広げていくためには、いわゆる匿名化をしっかりしたデータとして記録をたくさん蓄積していくということで、26ページを見ていただきますと、薄緑の三角の下に2013年NIH,BD2Kと書いてありますけれども、これはアメリカのNational Institutes of HealthがBig Date to Knowledgeということで、医療関係のビッグデータを皆さんに使っていただけるナレッジにするためにはどういう処理をすれば良いかという方法論の開発を目指して推進しているプロジェクトです。その中で一番大きい課題のひとつがAnonymizationということで、匿名化です。匿名化した上で記録されたデータというのは、様々な活用が可能になるじゃないか、そこをしっかりやれという物の考え方をしているようです。我々も基本的にそういう方向でやったら良いのではないかと思っています。

○高委員長　よろしいですか。

どうぞ、受田委員。

○受田委員　非常に勉強になりました。それで、課題がこういった技術の進展とともに非常に大きく横たわっていて、これからの議論次第によっては消費者問題に様々関わってくる検討課題が増えていくのだろうなと拝聴いたしました。

その中で、今回お聞きした34ページのAI、IoT時代における、三上先生のお言葉では適切なタイトルかどうかとおっしゃった商取引の変貌、損害賠償責任のところは、その中でも非常に大きな課題かなと感じました。特に製造物責任のようなPLというのが現状あって、それは基本的に装置や物のクオリティー自体が一定の品質として担保されているということを前提に事故等のトラブルがあったときに、適切に損害賠償責任が発生するということかと思いますけれども、劣化するだけではなくて進化していくというものが下段にあって、しかもその進化するプロセスがユーザーのカスタマイズと、あるいは全ユーザーのビッグデータによる新しいアルゴリズムによるAIによって醸し出されるということになると、責任とか権利というのがコンフュージングした問題になっていくのだろうと拝察しました。

伺いたいのは、この問題は相当広範囲な方々が一緒に議論しないと、解決というか整理はなかなかできないのではないかと思うのですけれども、今、この議論はどういう段階にあるのでしょうか。

○長岡技術科学大学三上副学長　私も本当に狭い世界だけからしか見ておりませんが、多分、法学者、あるいは保険関係の方、エンジニアの方、いろいろな方面から議論されているのだろうと思います。ですから、今こうですというふうな全体像はとても御説明できないのですけれども、関係者は本当に広いと思っております。私は情報処理学会とか機械学会に入っておりますけれども、そういう分野でもこの問題は議論され始めておりますし、多分、法律関係者、あるいは保険業界などでも同様な議論は始まっているのだろうと思います。

自動車の事故の場合も、これの一変形だろうと思うのですが、そこが一番早くから議論されていると思います。これからAI化した機械という意味では、医療機械とか、普通の家電製品に至るまで、もう続々とこういう問題が発生してくるのだろうと思います。

○高委員長　どうぞ、蟹瀬委員。

○蟹瀬委員　私は先日、AIの勉強会の中で面白い話を聞きました。ビッグデータを入れていけばいくほどAIは学んで進化して、今、医療の世界では、その日にその人がどこが悪くて何をしなければいけないかというのまですぐに分析ができるようになってきている。そうすると、医者は要らない。それから、弁護士も要らない。専門職は全て要らない時代がやってくるのだと、冗談のようにそこの会議で実は言われました。大学の先生は一番最初に要らないと、そこの中に大学の先生はいっぱいいらっしゃったので、そういう話が出ました。そうすると、AIがどんどん進化していって、データが入れば入るほど答えを自分たちが出していく。

では、人間の仕事はどうなるのですかという会話の中に、人間は何をすれば良いのかといったら、問題を起こせば良いのですと。要するに、今、安全・安心のためにこれを一生懸命作ろうとしているのに、AIが進んでしまえば、AIがビッグデータをベースに全部答えをどんどん出してくれるので、人間がやることがなくなったら、人間は問題を起こすしかないのだという冗談がその会議で出てきた。冗談のような本当の話が実は出てきました。

その辺りに関して知見があればというか、御意見があれば。そんな時代はもっと遠くの話ですよということかもしれないのですけれども、個人情報も含めてお聞きしたので、一緒にお聞きしようかなと思いました。

○長岡技術科学大学三上副学長　課題を作るというのは難しいですよね。問題を作るという意味を私は誤解をしているかもしれませんけれども、機械が解決すべき課題を課題として提示する、これはなかなかAIには難しいと思いますが、そういうこともできてしまうのでしょうかね。

○蟹瀬委員　今言っているのは逆の話で、私たちがいろいろな問題を起こすので、それがデータとなってAIが分析して、こうすれば良いという答えが出てきますよね。そうすると、人間の仕事がどんどんなくなってしまいます。なので、人間はずっと問題を起こし続けなければいけないという世界がやってくるのではないかという、専門家の勉強会で出てきた話なので、本当かうそは分からないのですけれども。

○長岡技術科学大学張特任講師　ちょっと追加してよろしいですか。さっきの質問は、実際は中国のアリババのジャック・マーさんが最近のある講演で、それに関する発言をしました。彼の言葉を説明したいのですけれども、AIの時代に入って、昔は知識駆動時代で、未来は知恵駆動時代になるでしょう。昔、人間は機械になり、未来、機械は人間のようになるので、これからどういう人材が必要となるか。知恵がある人、考える力がある人を育てると大丈夫です。だから、AIが幾ら賢くなっても、絶対人間に勝つことはできない。

そして、さっきの御質問で、ちょっと追加したいものがあるのですけれども、日本のことは余り詳しくないですが、中国において、現在そのｅコマースの製品流通の管理がしにくく、例えばオンラインで製品を売った後、事故を起こすと、その商品の製造のメーカーまたは取引をしている企業は誰がその責任を取るのかなどの問題があります。それらの問題を解決するため、どういうふうに消費者個人情報を保護するか、どういうふうに良い製品を提供して、提供した後、追跡できるなどを今、中国の品質管理局は定期的に企業の人への教育に力を入れています。

そして、一旦事故が起こった後、誰が第一責任者になるかについて諸説ありますが、ある専門家は、オンラインショップの責任者が商品の品質管理の第一人者となると意見しています。

○高委員長　どうぞ、長田委員。

○長田委員　先ほど御指摘があった34ページのところは、私もすごくそう思っていて、製造した人が例えば全て製品について説明をして渡したとしても、その後にその製品の特性が変わっていってしまうというときに、起こった事故に対して製造物責任をどう考えていくかというのはすごく課題だと思っています。

今、自動車については日本でもいろいろな議論が始まっていて、とりあえず自動車損害賠償責任保険はここのところを認めましょうねということになっているのですけれども、法律家も、もちろんメーカーも、保険の人たちも、みんないろいろですけれども、技術者の方も参加しているけれども、一番取り残されているのがいわゆる消費者で、参加していないのではないかなと思っているところです。

今度、私が参加しているPLオンブズ会議というところで、７月の頭にこれをテーマに報告集会を開いたりするのですけれども、消費者がここの議論にどう入っていくかというのが課題かなと思っているところです。

○高委員長　ありがとうございます。その意味でこういう会を設けたということですね。

他はございますでしょうか。どうぞ、樋口委員。

○樋口委員　今日は貴重な説明をありがとうございました。

直接関わっておられる話ではないかもしれないのですが、36ページのところで、市場競争というタイトルが付いている所について伺いたいと思います。プラットフォーマーについては、消費者委員会でもたまたまプラットフォーム関連の専門調査会を始めているのですが、上ですけれども、ここのところは第三の法的人格とか、AIによる共謀というところが十分理解できなかったのですが、その辺りについてもう少し具体的に易しく御説明いただけるのであれば、ひとつお願いしたいと思います。

○長岡技術科学大学三上副学長　私もこのシンポジウムの記事を通じてヨーロッパの参加者が話していることを理解しているだけなのですけれども、AIの中に共謀するというロジックが入っていたら、これはやはり問題だという御主張だったように思います。ただ、全員が同じアルゴリズムを使っているために結果として同じ値段になってしまうというのは仕方がないではないかというお考えもあるようでした。

○樋口委員　第三の法人格については如何ですか。

○長岡技術科学大学三上副学長　これは、自然人、法人に次ぐ人格を設けて、そこに財産をひもづけて、賠償責任も負えるような人格として構成していくというやり方は、論理的にはあるのではないかということを主張しておられる御意見でした。どのくらいの財産を付与したらそういう責任能力が果たせるのか分かりませんけれども、そういった考え方もあるということでした。

○樋口委員　分かりました。ありがとうございます。

○高委員長　どうぞ。

○池本委員長代理　池本でございます。

33ページの個人特定可能なデータとして活用されている部分と匿名化されたデータ、ここに関連して問題意識を前提に御質問したいのです。個人情報保護法ではいわゆる匿名加工情報という、ここで言うと下の個人を特定できない形で加工したものとしてビッグデータを使うことであれば第三者提供も可能です。ただ、そういう処理をしているということを公表、知り得る状態にしなさいというふうにはなっているのですが、それぞれの事業者のどこの事業者がそうやっているかを一つ一つ洗っていかないと分からないし、実は上の当該事業者の中だけであれば、別に第三者に提供しないので、特定できるものとひもづけもあるけれども、とりあえずは余り特定しないで漠然と使おうという、個人情報から完全な切り離し抜きで大量にデータ処理されている、上と下との区別が一般の消費者には判別ができないのが今ではないかと思うのです。それについて、判別可能な形にしていくという、特に上の段の分野のところは、事業者の中で何か工夫なり、自主的な表示なりという動きがあるのかどうか。それとも、個人情報保護法ができて、どのくらいのところが匿名加工情報化しているという、そこも余りデータとして公表されていないので、実情がどうかというのはよく分からないのですが、もしお分かりであれば教えていただきたい。

○長岡技術科学大学三上副学長　自分のデータが匿名化されているというものを消費者がその瞬間に分からないというところが不安ですよね。現金で買物をするというのは消費者にも分かる匿名化なので、現金払いというのは匿名的な支払手段として非常に分かりやすいと言えます。一方アップルが匿名化していますと言っても、消費者から見たら、それはアップルの中でそれは起こっているかもしれないけれども、自分の声を録音されるときにはそのことは分からない。この辺りで一つ大きな実質的なブレークスルーでもあって、現金による支払のような匿名的な記録手段、消費者に見える形での匿名化というのが行われると、初めて消費者の安心というものが得られるのかなと思うのです。それが何ですかと言われると全然答えはないのですけれども、今の暗号化技術のようなことをうまく使うことによって、どこかでブレークスルーできないのかなと思っています。

例えば、電子投票における匿名投票とか、あれも投票者にどうやって自分の投票結果が匿名であるのかということを納得させるというところが非常に、しかも二重投票はないとか、ああいうロジックと似たものが購買行動とか、そういうところでもうまく使えると、何か世の中が変わってくるのかなと思います。

○高委員長　今の点に関連してですが、匿名化された情報というのは、例えば最初に情報を得た事業者が匿名化すれば、その後、個人を特定することはできなくなりますよね。だから、そこのルールを明確にするということでしょうかね。

○長岡技術科学大学三上副学長　そうですね。本当は自分の身を離れるときに匿名になっていることが明確だと良いのですよね。

○高委員長　それが一番良い。先生が御存じかどうか分かりませんけれども、私も頻繁に使っていて不安に思うのですけれども、アプリケーションをダウンロードするときに、この情報はこういうふうに使われます、こういうふうに守られますといった説明が長々と書かれておりますが、私を含め、多くの利用者は、それをほとんど読まないでダウンロードしていると思います。ネット上のアプリケーションの多くは、利用を通じて得られた情報を利用すること、しかも第三者も利用することが前提になっているように思われるのですが、実際のところ、どうなっているのでしょうか。

○長岡技術科学大学三上副学長　それはないと思います。むしろ、基本は第三者提供しないというルールが広いと思っています。

○高委員長　そうですか。今度しっかり規約を読んでみます。

○蟹瀬委員　もう一つ良いですか。全然違う質問をしているかもしれませんが、31ページに、利便性とプライバシーというのがありまして、そこに殺人犯の肉声が逮捕の決め手になったと。声が個人情報保護法に入るのか、入らないのか。そういう時代がやってくるのか。つまり、今は情報的に言えば、事故を起こしたとか、その人がどういう買物をしているとか、どういうコンピューターの使い方をしているかとか、行動によるパターンでもって匿名化していくというのがあるのですが、アメリカのテレビを見ていますともう先を行っていまして、音声分析、指紋分析が全てなされていって、例えば銀行なんかも自分で手をかざすと基本的に誰かが分かるみたいなのが日本でも行われていましたね。そうしたときに、個人情報というのをどこまで、このAI化されたりしていく中で見ていかなければいけないのか。背丈まで、あるいは声まで、髪の毛の質まで、そういうところまでいくのかどうかというのが、ちょっとこれを見ていて、先ほど先生がおっしゃったみたいに、Google Homeで今日の天気は何と言ったら、これは三上先生の声よねと分析をしてしまう。それは個人情報だから出してはいけませんというところまで、きちんと規制しなければいけない時代になっていくのか。その辺り、どういう知見でいらっしゃるか、お聞かせいただきたい。

○長岡技術科学大学三上副学長　33ページにまとめた中で、SamsungがスマートTVを発売したときに、録音したいろいろなデータは第三者提供の可能性がありますという約款で発表したらしいのです。そうしたら、たちまち大不評を買った。だから、上の段の形で本当に第三者提供しますというビジネスというのは、恐らく成立しないのではないかと思うのです。そうすると、上の場合には、自分のマーケティングには使うけれども、第三者提供はしないと。例えばそういう会社がＭ&Ａでどこかに買われたときに、そういうのは改めてどうなるのだとか、いろいろ考え出すとだんだん分からなくなってくるのですね。

基本的に33ページの上段のタイプでいく限り、第三者提供と両立はしないだろう、それは消費者が許さないだろうと思われます。とは言っても、それはその時点での消費者との御約束なので、そのデータがＭ&Ａなどによって持ち主が変わったときに、データを全部消して欲しい、あるいはデータポータビリティーだといって消費者がＭ&Ａ後のデータ保有者を追い掛けてデータを取り返すということは余り現実的でないような気もするのですね。こういう事態をどう防ぐのかなというのが、正直なところよく分からないところですね。

○高委員長　どうぞ、長田委員。

○長田委員　個人情報保護法上、匿名加工情報は作ったときに公表の義務が確かあります。

○池本委員長代理　その事業者の中のどこかに、やっていますよということを出しなさいというのはあります。

○長田委員　どこかにというか、作りましたという。

○池本委員長代理　ホームページで。

○長田委員　作りましたという義務は一応ありますよね。

それで、先ほどのGoogle Homeみたいなものは、自分の設定の中で情報を出さない設定がとりあえずできるはずなので、そういうことが全然知られていないのかなと。自分でアクセスできますよね。オプトアウトができるので、そういうこともお知らせしていくべきだなと伺っていて思いました。

○長岡技術科学大学三上副学長　知った上でも、なおかつ安心できるかというところは残るのですね。

○蟹瀬委員　実は、オプトアウトは気休めだという話があって、そこが怖いなと。

○高委員長　他はよろしいですか。

ありがとうございました。私どもは、特に私はこういう分野のことは詳しくありませんで、大変勉強になりました。

先生のお話の前半部分では、こういう研究分野が今あるのだということで、構造化データとか非構造化データ、それからIoTデータ、こういったものを何とか関連付けてそれぞれの目的に、例えば安全に使うとか、あるいは消費者問題の解決に使うとか、そういう研究は多様な分野で進んでいるということを勉強させていただきました。

後半は、特に我々消費者委員会ということで、そこに関心があって質問させていただきましたけれども、我々としても消費者の利益の増進ということを考えていかなければいけない。消費者問題の解決ということだけではなくて、利益の増進ということも考えれば、今のところ、オープン・イノベーションでとりあえず様々な可能性を探っていこうというところで、今は進んでいると理解しております。

これと併せ、情報技術は、消費者問題の解決という意味でも、メリットがあることも分かりました。例えば、長期使用の製品についての安全対策に、こうした技術が十分使えるというお話は、正にそのとおりだと感じました。

それから、今日はちょっとだけしか触れられませんでしたけれども、個人を特定できるデータの話です。利便性を追求すればするほど、やはり個人を特定できる情報でないと、なかなか利便性につながっていかないのではないかと感じております。匿名化してしまうと、それは全般の話であって、自分自身には明確なメリットはない。そこで、個人データを提供するということになっていくかと思いますが、その場合、おっしゃった話の中での御指摘ですけれども、情報のオーナーを誰にするのかということを明確にして、それをいつでも消去できるようにしておかなければならない。こういった情報オーナーについての議論もしていかなければならないということを再確認させていただきました。

そのほか、なるほどと思うことがたくさんございまして、損害賠償責任の問題は正にそうなのかなと。それから、皆が同じアルゴリズムを使えば、確かに結果的に共謀みたいなことも起こってくるなと感じました。それから、私は倫理学も専門ですので、先ほどのロジックの話は面白いと思いました。どういう倫理のアルゴリズムを車に組み込んでいるか。そのことの購入前に理解しておかなければならないと商品は買えないと思いました。更に生命保険については、たまたま私自身が現在アプリケーションをダウンロードして使っておりまして、自分がやったことなどを毎日保険会社に情報提供しております。大半の保険加入者がこうしたことをやり始めれば、将来的には、損害保険に加え、生命保険においても、保険の考え方が大きく変わっていくと思っております。つまり、高という個人は、毎日何歩ぐらい歩いているのか、どのような食事をとっているのか、それから健康診断の結果はどうなっているのか、そういった情報がアップされますので、一人一人のリスクが分かるようになる。すると、保険というのはもともと大数の法則にしたがって互いを支え合うという思想の上に出来ていたわけですが、完全に個人向けの商品を作ることとなり、リスクの高い人ほど、保険料が高くなり、保険に入れなくなっていく。こうした変化が、様々な形で起こってくるということを、本日のお話を聞いておりまして、感じた次第です。結論ですが、多様な可能性があるけれども、同時に多様な課題があるということが本当に良く分かりました。

当委員会としましては、今後もIoT、ビッグデータ、AIの活用に関しまして、消費者問題、この問題を今後もずっとヒアリングしていこうと思っております。今日いただいた御報告は今後の審議に役立てていきたいと思っております。

本日はお忙しいところ、三上副学長、張講師におかれましては、御審議に参加いただきましてありがとうございました。

どうぞ、御退席ください。

（長岡技術科学大学三上副学長、張特任講師　退室）

≪３．その他≫

○高委員長　最後に、議題｢その他｣といたしまして、新開発食品調査部会及び食品表示部会から報告事項がございます。受田部会長から御報告をお願いいたします。

○受田委員　それでは、特定保健用食品の表示許可に係る答申について御報告いたします。

平成30年３月13日に開催した第44回新開発食品調査部会及び平成30年６月11日に開催した第45回新開発食品調査部会の議決について、新開発食品調査部会設置・運営規程第７条に基づき、委員長の同意を得て委員会の議決とし、６月７日付及び６月13日付で内閣総理大臣へ答申を行いました。

まず、参考資料１の答申書を御覧ください。内閣総理大臣より諮問を受け、第44回新開発食品調査部会において、安全性及び効果について審議を行った結果、指摘事項を確認の上、了承することが部会長に一任され、申請者からの回答書を確認し、特定保健用食品として認めることといたしました。

次に、参考資料２の答申書を御覧ください。内閣総理大臣より諮問を受け、第45回新開発食品調査部会において、安全性及び効果について審議を行った結果、特定保健用食品として認めることといたしました。

引き続き、食品表示基準の制定等に係る答申について御報告いたします。平成30年６月６日に開催した第44回食品表示部会の議決について、食品表示部会設置・運営規程第７条に基づき、委員長の同意を得て委員会の議決とし、内閣総理大臣へ答申を行いました。

参考資料３の答申書を御覧ください。無菌充填豆腐、防かび剤（フルジオキソニル）及びボロニアソーセージ（モルタデッラ・ボローニャ）の一般的な名称に係る、内閣府令で定められた食品表示基準の一部改正については、諮問案のとおりとすることが適当であるとされました。

私からの報告は以上でございます。

○高委員長　御報告、ありがとうございました。

≪４．閉会≫

○高委員長　本日の議題は以上となります。

最後に、事務局より今後の予定について説明をお願いいたします。

○丸山参事官　次回の本会議につきましては、日程が決まり次第、委員会ホームページを通じてお知らせさせていただきます。

○高委員長　それでは、本日はこれにて閉会といたします。お忙しいところ、御参集いただきましてありがとうございました。

(以上)