第11回 消費者法制度のパラダイムシフトに関する専門調査会 議事録

日時

2024年10月22日（火）10:00～12:01

場所

消費者委員会会議室・テレビ会議

出席者

（委員）
【会議室】
沖野座長、大屋委員、河島委員、二之宮委員、野村委員
【テレビ会議】
山本座長代理、小塚委員、室岡委員
（オブザーバー）
【会議室】
鹿野委員長
【テレビ会議】
大澤委員、山本（龍）委員
（参考人）
【会議室】
得津晶 一橋大学大学院法学研究科ビジネスロー専攻教授
川村仁子 立命館大学国際関係学部教授
（消費者庁）
【会議室】
黒木審議官、古川消費者制度課長、原田消費者制度課企画官、消費者制度課担当者
（事務局）
小林事務局長、後藤審議官、友行参事官

議事次第

  1. 開会
  2. 議事
    ①有識者ヒアリング （得津晶 一橋大学大学院法学研究科ビジネスロー専攻教授）
    ②有識者ヒアリング （川村仁子 立命館大学国際関係学部教授）
  3. 閉会

配布資料 （資料は全てPDF形式となります。）

このページの先頭へ

《1． 開会》

○友行参事官　定刻になりましたので、消費者委員会第11回「消費者法制度のパラダイムシフトに関する専門調査会」を開催いたします。

本日は、沖野座長、大屋委員、河島委員、二之宮委員、野村委員には会議室にて、山本隆司座長代理、小塚委員、室岡委員はテレビ会議システムにて御出席となっております。なお、小塚委員は少し遅れて御出席される予定となっております。

所用により、石井委員、加毛委員は、本日御欠席との御連絡をいただいております。

消費者委員会からは、オブザーバーとして、鹿野委員長には会議室にて、大澤委員、山本龍彦委員には、テレビ会議システムにて御出席いただいております。

また、本日は、一橋大学大学院法学研究科ビジネスロー専攻教授の得津晶様と立命館大学国際関係学部教授の川村仁子様に御発表をお願いしております。得津先生、川村先生には会議室にて御出席いただいております。

配付資料は議事次第に記載のとおりでございます。

一般傍聴者にはオンラインにて傍聴いただき、報道関係者のみ会議室で傍聴いただいております。議事録については、後日公開いたします。

それでは、ここからは沖野座長に議事進行をよろしくお願いいたします。

《2．①有識者ヒアリング（得津晶　一橋大学大学院法学研究科ビジネスロー専攻教授）
②有識者ヒアリング（河村仁子　立命館大学国際関係学部教授） 》

○沖野座長　ありがとうございます。

前回まで御議論いただきまして、取りまとめました中間整理でございますけれども、10月17日付で公表したところでございます。

本日からは、本専門調査会後半の議論を開始させていただきます。どうかよろしくお願いいたします。

本専門調査会の後半の検討テーマは「ハードロー的手法とソフトロー的手法、民事・行政・刑事法規定など種々の手法をコーディネートした実効性の高い規律の在り方」となっております。

その中で、具体的には、消費者法制度における規律のグラデーションの在り方、あるいは実効性のある様々な規律のコーディネートの在り方、既存の枠組みにとらわれず、消費者取引を幅広く捉える規律の在り方、担い手の在り方などを検討していく必要があります。

本日は、まず、会社法、金融法等を御専門とされ、法と経済学の観点からの御研究も多くなされています得津晶先生に「企業における行動学的転回と消費者規制の在り方」というテーマで、20分程度御発表いただいて、質疑応答、意見交換をさせていただければと思います。

それでは、得津先生、どうかよろしくお願いいたします。

○得津教授　一橋大学ビジネスロー専攻の得津です。本日は、お招きいただき、どうもありがとうございました。

私は全然、消費者法の研究者ではないですし、何を報告していいのかもよく分からないのですけれども、事務の方々からいただいたオファーでは、論文の指定と、そして、沖野座長がおっしゃいましたように、ハードロー的手法とソフトロー的手法の組み合わせ、そして、より踏み込んだお話としましては、事業者側のグラデーションに応じた対応の在り方について説明してくれと言われました。しかし、私は、そんな研究をしていたかなと疑問に思っておりまして、実は心もとないところがあります。先生方の時間の無駄になったら大変申し訳ございません。

それでは、早速、報告を始めさせていただきたいと思います。

今回、報告させていただきます論文は、4年ほど前に法律時報に公表させていただきました論文でございまして、そもそもの問題意識としましては、近時はやっている行動経済学、Behavioral Economicsが前提とする、主体、アクターが行動する際の合理性に限界があるといういわゆる限定合理性は、企業活動にもあり得るのではないかというものです。そして、堅固な法と経済学の議論では、なかなか認めてもらえない消費者規制、法規制、パターナリスティック的な規制が、このような限定合理性のお話が入ることによって、企業活動においても介入する余地が増えるのではないかという問題意識に基づいて研究を始めたものです。ですが、残念ながら、それは難しいという結論になっております。

ですので、本当に、今日この場に来てよかったのか、パラダイムシフトは起こせないという結論になってしまいかねないのですけれども。そうならないように、そうならないようにというと、何か色がついているみたいですけれども。そういう意味ではなくて、パラダイムシフトの可能性を閉ざすのではなく、少なくともパラダイムシフトの可能性はあるというくらいのお話はしたいと思います。

最初に申し上げますと、そのような問題意識で始まった研究ではあるのですけれども、実は、やはり行動経済学と会社法というのは、相性がよいようでよくないとなっております。相性がよいようでよくないと私は申し上げましたが、相性がよいと思ったことすらないという方が、現在は多いのではないかと思います。

企業活動というのは本来、根本的には合理的に行われるものなのだから、行動経済学という限定合理性を前提とする学問とは相性が悪いというのは、自明の理でございます。

ただ、行動経済学がはやり出した契機の一つとしては、アンドレイ・シュライファーのインエフィシェント・マーケットという業績があることだけは間違いないわけです。そこでは、資本市場において、投資家は情報が出ると直ちにその情報を吸収するのではなくて、オーバーリアクションをするのだということが扱われています。投資家は狼狽売りをしたりとか、そういったことが市場では実際に起きているというお話をして、やはり資本市場の効率性は絶対ではないというところから行動経済学の議論は始まっているわけです。

そして、思い返してみると、取締役が経営判断をした後、結果として、会社に損害を与えたとしても、それをもって直ちに会社に対して損害賠償責任を負うわけではない、取締役が取締役としての法律上の義務を懈怠して会社に対して責任を負うわけではないということは、いわゆる経営判断原則と言われているわけですけれども、なぜ、そういう経営判断原則があるのかというと、取締役は個人としてリスク回避的であるということが前提とされていました。

さらに、昨今話題となっているのは、株主あるいは投資家が短期主義であるということでして、短期主義であり、会社の意思決定に際して、長期的な利益を犠牲にするような決定を強いているのではないかという問題が指摘されているわけです。

そういう意味で、限定合理性の話というのは、会社法の世界に全くないわけではないのです。けれども、しかしながら、堅固な通説的な理解は、会社法、ビジネスローの世界では、消費者法と比べて当事者は合理的であるということになっております。それは当事者個人が合理的だというだけではなく、例えば、取締役会だとか、株主総会だとか、そういうプロセスを通じて意思決定をするものですから、プロセスを通じて意思決定を行うと、合理的になるということも言われておるわけです。

それでは、次のページに参りまして、さはさりながら、会社も最終的には個人によって経営されているわけですので、行動経済学の活用の可能性があるということになっております。

中心人物が、ほかにもたくさんいらっしゃるのかもしれませんが、簡単にネットで調べていただくと出てくるのは、お名前の正しい発音を実は、私は存じ上げないのですが、ランゲボールトという、結構なシニアの教授でございます。このランゲボールト教授は、1990年代半ばあるいは後半ぐらいから、Behavioral Economicsを活用したご論文を書かれています。それ以前にも論文を検索すれば、Behavioral Scienceを標榜する論文というのはあるのですけれども、必ずしも限定合理性を前提としたものではないようでした。

実は、ランゲボールトもそんなに限定合理性を前提にした議論をしているわけではないのですけれども、行動経済学を利用した研究があります。

従来の行動経済学を会社法ないし資本市場法に入れる研究には、二通り分類することができまして、市場の効率性の問題を扱うもの、あるいは主体の行動の限定合理性を扱うものとがあります。この両者は重なり合います。すみません、このパワーポイントの「従来の」とは、何を書こうとしたのか、私、記憶がありません。

それでは、このランゲボールトだけではないのですけれども、この2種類の先行研究を少しだけ、簡単に紹介していきたいと思います。

また、おまえが言うなと言われるかもしれませんが、ランゲボールト自身は会社法学者ですので、自ら実証研究というか、行動経済学的な研究をしているわけではありません。要するに行動経済学の知見を活用していろいろ分析していると。その議論をさらに私が紹介しているのですから、また聞きのまた聞きみたいな報告で申し訳ございません。

それでは、まず、市場の効率性の問題の話に移りたいと思います。

これは、有名なお話ですね。証券市場の価格形成の効率性には三つの効率性があります。ストロング・フォーム、セミストロング・フォーム、ウイーク・フォームと分類するわけです。ストロング・フォームというのは、未公開の内部情報も含めた全ての情報が価格に反映していると。

セミストロングというのは、未公開の内部情報は反映しないけれども、公開情報の全てが価格に反映していると。

ウイーク・フォームというのは、過去の価格の情報は現在の価格に反映しているけれども、それ以外の情報は、効率的に反映していない、ランダムウォークであると言われております。

事実として、証券市場がどの程度効率的なのかというのは、①、②、③と分類をする議論がファイナンスなどでは有力です。

それと絡みつけて、それぞれの効率性があったときに、どういう法律問題があるのか、あるいはその法律問題にどのように対処しなくてはならないのか、諸問題として三つぐらいあります。三つといいましたが、伝統的には最初の二つの問題が市場の効率性との関係で論じられてきました。

インサイダー取引規制が必要なのかどうか、あるいは開示書類の虚偽記載における投資家に対する責任について、どのような救済方法を認めるべきかという問題。そして、最近はやっているのは、証券市場の短期主義のお話になります。

まず、最初のインサイダー取引規制です。インサイダー取引というのは、内部者のみが知っている情報を基に取引する。それに対して禁止を課しているというのがインサイダー取引規制でございますと。

先ほど申し上げましたストロング・フォームの効率性が、もし証券市場に存在するのであれば、内部情報も価格に反映しているのだから、インサイダー取引規制は不要ということになるわけです。

これに対して、セミストロング・フォームだったり、ウイーク・フォームだったりすると、インサイダーが取引することによって、不当というかどうかはともかく簡単に利益を得ることができてしまいます。なので規制をする意義が出てくるわけです。

ただ、これも、もちろん御案内かと思いますが、仮にそうだとしてもインサイダー取引は規制すべきかどうかというのは、経済学的には議論がございます。インサイダー取引を厳格に規制して内部情報が全然入ってこない証券市場と比べて、インサイダー取引によって内部情報が市場価格に反映するのだから、情報が増えていいではないかと、情報がリッチになっていいではないかという議論はもちろんあります。他方で、そういう証券市場になると、私みたいな情報弱者は絶対損するに決まっているのだから証券市場に入らない。私の貯金など大したことないので社会にとってどうでもいいのかもしれませんが、多くの方が私のように考えてしまうと、国民の多くが証券市場に入ってこなくなるので、証券市場に入る全体のお金が減ってしまう、流動性が減ってしまうという議論がございます。ですので、情報がリッチな証券市場になるということと、そういう内部情報からは恐らく遠いだろうと思われる人間が証券市場に入ってこないという、証券市場における流動性の低下という問題のトレードオフとなります。本当にどっちが正しいのか、私は存じ上げませんけれども、多くの国は証券市場の流動性を選んでいると、インサイダー取引規制をするほうを選んでいるということです。

この議論に関連して、ストロング・フォームの効率性があったらインサイダー取引規制は要らないのだと言いましたけれども、そんな証券市場は、少なくとも世の中には存在しないといわれています。

最も効率的な証券市場は、アメリカだと認識されていると思いますが、アメリカですらセミストロング止まりで、日本に関しては、ウイーク・フォーム止まりだと言われております。つまり、公開情報すら価格に反映されていないので、さや取りが可能であるということ、アービトラージが可能であるということです。ただ、この話は個人の限定合理性の話とは無関係です。

同じく、開示書類虚偽記載における投資家に対する責任も市場の効率性との関係で論じられていました。アメリカの判例法でベーシック判決というのがありまして、市場に対する詐欺という理論が示されました。開示書類に虚偽記載があって、それによって投資家がいかなる損害を被ったのかに際して、虚偽記載公表後の値下がりが虚偽記載と因果関係にある投資家の損害であるということを、簡単に認めることができる理論です。これは、日本はもう条文があるのですけれども、アメリカは判例法理でやっているわけです。市場に対する詐欺だと、簡単に立証できて損害賠償請求が認められるというものです。

背景には、アメリカの証券市場がセミストロング・フォーム、つまり証券市場が効率的であるからこそ、虚偽情報が組み込まれて、すぐ株価が反映する。そして、虚偽情報が明らかになることによって、また株価に反映されるということがあります。だから、投資家は、その価格を信頼して取引をしているのだから、虚偽記載によって投資家が本来払うべきではないお金を会社に払い込んでしまっている。今言った一連のことは、全部因果関係があるのだということは、市場が効率的だから簡単に立証できるのだという話になっていたわけです。

ですので、2000年代後半以降、金融危機以降の証券市場は、どうもセミストロング・フォームではなくなってしまっているのではないかということが問題になりました。アメリカですら、市場の効率性が否定されているので、ベーシック判決は判例変更されるのではないかということが、話題になっていました。ですが、2014年のこの判決によりますと、セミストロング・フォームの効率性などなくても、判例法理は維持しますよという形になりました。公開情報が株価に影響を与えるのだ、虚偽記載情報が公開されれば、株価が本来有すべき価格よりも高い価格になるのだ、真実が明らかになれば、価格が下がるのだといったことを立証すれば、それで、虚偽記載と因果関係のある損害の立証は可能であり、救済を認めるということになっているとされました。そして、今言ったような緩い条件でよければ、たいていの場合成り立っているわけです。

証券市場のオーバーリアクションということはあり得るのだけれども、それは、損害賠償請求を否定するのではなくて、損害額を減額するという形の要素に持ち込めばいい。つまり、簡単な立証で救済できるのだということは、維持したということになっております。

最後、証券市場の短期主義のお話ですけれども、これは少し毛色の違うお話です。投資家、株主は短期の利益実現のため、会社の長期利益を犠牲にするというお話です。

背景には、機関投資家の株式保有が増えてきたということがあります。たとえば、プライベートエクイティなどの株式保有が増えてきていまして、そういったプライベートエクイティなどは、彼らの背後にも投資家がいて、投資期間が存在します。つまり一定期間内で結果を出さなくてはいけない。結果というのは、投資成果を出さなくてはいけない。

そうすると、その期間内に成果が出るような施策しかしないだろう。そのような施策をするように会社に迫る、その結果、会社は長期的利益を犠牲にするのだという話があります。

ただ、反論として、長期的な利益も含めて全て株価に反映するので、ちゃんと情報開示をすれば、短期的利益のために長期的利益を犠牲にするなどということはできるわけがないといわれています。ここに市場の効率性の話が出てくるわけです。

この議論のインパクトとは、非常に大きいです。そして、この短期主義に関しては見解が分かれています。

この議論のインパクトというのは、非常に大きいわけでして、今日の御参加者の皆さんの御関心に沿うかどうか分かりませんが、会社法の研究者が愛してやまないポイズンピルに影響します。経営者取締役会限りで敵対的買収があった場合に、敵対的買収する買収者の持ち株比率を下げるような仕組みのお話で、日本では差別的条件付き新株予約権無償割当てというスキームを使います。このようなポイズンピルを認めていいかどうか、あるいはどのような範囲の防衛策を認めていいのかどうかという議論に結びついています。

株主は短期的に信頼できないのであれば、経営者限りでのポイズンピルは、どんどん認めていいという話になります。

この議論や、あるいは大量保有報告書の提出期限の短期化の話とも結びつきます。大量の株式、5パーセントとか10パーセントの株式を保有した場合に、情報開示、ディスクロージャー書類を出す際に、何営業日以内に出さなくてはいけないのか。短期主義があるとすると、株主が短期主義の影響を与えようとする前に、すぐ出さなければいけないという話になってきます。

これに対して、別に株主が短期主義ではないのであれば、大量保有をしている株主が変なことをすることはないので問題ないわけです。大株主は自ら株式をいっぱい持っているわけですから、変なことしたら、その分、会社の価値が下がってしまって自分が損をするわけですから。短期主義がないなら、むしろ大量保有報告書の提出まで一定期間猶予期間がある、3営業日なら3営業日、1週間なら1週間猶予期間があることによって、その期間、自分が大量保有をしているということを公表する前に買い増すことができます。大株主がいることがわかる前の安い値段で株式を買って、そして、その後、開示した後でリストラクチャリングといいますか経営改革提案をすることによって企業価値全体を上げて、株価も上がって、自分が買い貯めておいた株式の価値も上がって自分もほかの株主もハッピーになる。

ただ、大株主の介入が全て長期的に株価の利益になるというシナリオであれば、猶予期間はどんどん認めていいという話になるわけですが、そうではなく短期主義が妥当するとすると、何をするか分からない。報告書提出までのばれていない期間を使って、むしろ悪いことをするかもしれないということを考えると、大量保有報告書の提出義務は短期間のうちに課さなくてはならないという話になります。

また、最近、短期主義の議論がはやっているのは、四半期報告書の廃止のお話です。四半期報告書なんてものがあるせいで、四半期でパフォーマンスを出さなくちゃいけなくなる。短期主義を促進しているのであるから、四半期報告書なんて廃止してしまえという議論もあります。もちろん、この議論は必ずしも支持があるわけではありませんけれども、ただ、短期主義になっているということは諸外国のレポートでも書かれていることで、非常に諸外国で支持が強いです。イギリスのケイ・レビューがその例です。フランスでは、短期主義という考えに基づいて法改正をして、2年以上株式を保有すれば、議決権を2倍にするとまでしています。短期主義からすると、長期的に保有している株主はいい株主だということになるからです。ただ、長期間、株式を持っていたからといって、これからも長期的に持ち続ける保証は全くないので、フランスの改正法はナンセンスだということは、短期主義批判者まで含めたいろいろな人から、批判されています。それはさておき、ベースになる考えとして短期主義批判は非常に有力です。

有名なのは、コリン・メイヤーの、いわゆるパーパス論です。パーパス論の前提には、株主投資家に完全に意思決定を任せてしまうと、短期主義に陥って企業価値を毀損してしまうというものがあります。だからパーパスというものを会社自身がつくって、投資家も含めそれにコミットしていく。投資家が最高なのではなくて、パーパスありきで企業経営を進めるのだというお話です。

ほかにも、ワクテル・リプトンという、ポイズンピルをつくった人たちの法律事務所などは、短期主義を支持している有力な論者です。しかし、有力な学説といいますか、会社法の保守本流は、短期主義は、やはりおかしいねということを言っております。ハーバードのルシアン・ベブチャック教授などは、実証研究をした結果、アクティビストが介入したから、機関投資家が介入したからといって、長期的な企業価値を毀損することはない、むしろ改善しているといっています。同じような研究が日本でも、田中亘教授と後藤元教授によってなされています。

それでは、また、ページをめくりまして、今まで市場の非効率性の話だったわけですが、ここからはアクターの限定合理性の話にうつります。

株主の限定合理性の話は、市場の効率性の話に尽きておりますので、ここでは、会社も個人によって経営されているということから、経営者の限定合理性の話に移りたいと思います。

経営者のリスク回避性と自信過剰、そして法令遵守義務とコーポレートカルチャー論に移っていきたいと思います。

それでは、経営者のインセンティブの3－1に移りたいと思います。

今日の報告は話題になっている最近の話から入ってしまうので、会社の基礎から入らないので少しわかりにくいかもしれません。最近、話題になっているのは、経営者は、過度のリスクテイクをするという議論です。これは、金融危機時に世界的に問題になった問題です。

経営者というのは、自分が株式をたくさん持っているとは限りませんのでストックオプションだったり業績連動報酬をもらっています。これがインセンティブになるので、経営者は、一発逆転を狙ってがんがん過度のリスクを取って、ハイリスク、ハイリターン戦略ばかりを取ることがあります。リスクが過大になっていると、リターンに見合わないぐらいリスクを取るような経営になっていることもあります。

例えばストックオプションというのは、一定以上の業績を上げれば利益が出るけれども、一定以下の業績にしかならなかったら、ストックオプションを行使しなければよい。生株を持っているわけではないので、損失を被るわけではない。この意味で過度のリスクテイクのインセンティブが強化されています。

さらに、金融機関の報酬などでは、収益だけではなくて、事業規模が要素になっています。これは、常識にはかなうのだと思います。すごく小さいけれども、収益力の高い会社の社長と、利益はあまり上げていないけれども、すごく大きな会社の社長とで、どっちが給料は高いと思いますかと聞かれたら、日本人の多くの方は、後者だと思うのではないでしょうか。しかし、事業規模が報酬に連動してしまうと、経営者としては、どんどんでかくさえすれば、報酬は増えるだろうと考えるようになってしまいます。

つまり、銀行は経営者がリスクを考えずに、どんどんでかくしてしまう。それが金融危機につながったということが指摘されています。さらに、トゥー・ビッグ・トゥー・フェイルといいまして、金融機関があまりにでかくなると経済への影響が大きすぎて、どんなに悪い経営であっても倒産させるわけにはいかない。その結果、ベイルアウトのような政府から補助金が入ってしまうのです。

これは、経営者が非合理だとか、限定合理だとかいう話ではありません。むしろ、経営者は合理的に行動することの帰結です。伝統的なコーポレートガバナンスではエージェンシー・プロブレムと言われておりまして、合理的に動く経営者の利益と会社・株主の利益とを一致されるような仕組みがあるかないかの問題になっています。

このような議論が伝統的な枠組みです。しかし、2000年代後半過ぎ頃からは、行動経済学の影響が世の中、ないし学問の世界ですごく強くなっていきます。その中で、やはり経営者になるような人間、CEOになる人間は、統計を取ると自信過剰だということが徐々に明らかになってきました。あくまで特定の環境下の話であるという限定つきではありますが、経営者は自信過剰で、だから非合理なリスクを取るのだという話になってきました。これは、従来、会社法の世界で言われたリスク回避性とは、真逆の世界のわけですね。

ですので、こういった議論を突き詰めると、冒頭に申し上げましたように、日本の取締役にはリスク回避性があるので、責任を課すと萎縮してしまって、経営がうまくいかないのだという話が必ずしも妥当しなくなってしまいます。従来の経営判断原則の適用範囲、根拠が変わってきているのではないかということが言われていたりもするわけです。

すみません、残り時間が短くなっておりますので飛ばします。次は、法令遵守義務とコーポレートカルチャーの話です。伝統的な法令遵守義務の議論は、取締役に法令遵守義務というのを課しています。法令の範囲は、株主利益の保護のための法律に限られず、どんな法令も含まれます。法令遵守義務に反して会社に発生した損害、例えば、独禁法違反で課徴金でぼんと10億円喰らったら、その10億円は取締役の対会社責任で責任を負わされます。ほかにも第三者に発生した損害として、例えば、労働法違反、全然従業員の労務管理をせずに、違法残業をさせまくった結果、従業員が過労自殺したとか、そういう場合には、取締役は、対会社責任あるいは対第三者責任という形で責任を負わされます。裁判例も高額な責任を認めています。

ただ、法令違反行為で、利益を得ているのは、取締役というよりも会社・株主のわけですね。必ずしも取締役が利益を得ているわけではありません。取締役は、もちろん地位を維持はしていますけれども、そして、報酬をもらっていますけれども、会社の利益を丸々受け取っているわけではないわけです。取締役の報酬は、会社の利益の全額ではないわけですから。

それにもかかわらず、何か違法行為があって見つかって、その損害を全部取締役が被ることになるのはアンフェアではないかと考えられます。この結果、取締役が萎縮して、取締役のなり手がいなくなるのではないかという議論が、最近すごく有力になっています。

ただ、このような議論に対する再反論としましては、いや、法令違反など、抑止していいに決まっているのだから、萎縮していいではないかという議論があります。これは、どれも合理的なモデルに従っています。

ここから、さらに行動経済学の知見を導入するランゲボールトなどの議論によると、会社の文化、コーポレートカルチャーという言葉が登場しました。

会社の文化論とは、一定の環境下では、法令違反行為は促進されている状況にあるという議論です。どういうことかと言いますと、11ページに移りまして、一定の環境下では法令違反のインセンティブが過大になっていることが指摘されています。例えば、競争心を過度にあおられている状態、あるいは一度倫理的行動から逸脱している場合に、もう一度違反行為をしてしまうと、違反行為を続けてしまう。後者はプロスペクト理論の話で、既に法令違反行為をしたあとでは、隠蔽行為を重ねるインセンティブが出てくるという議論です。そしてひとたび違法行為に手を染めると、集団心理、同調圧力などによって、独禁法適合性原則違反、労働法違反などの法令違反行為が、ひたすら行われているようになってしまいます。

対応としては、理論的には上記の示すような特定の場合に限って取締役の責任を強化するということが考えられます。それ以外の場合は、先ほど1個前のスライドで述べましたように、責任を軽減します。このように責任を認める場合と認めない場合を、法令違反したかどうかではなくて、法令違反を促進するような状況にあるかどうかで区分すればいいではないか。これは、中川教授の極悪層、従順層、中間層の区分などとも少し共通性があるのかなと考えています。

ただ、問題は、いかに法令違反のインセンティブが過大となっている場面を切り出すかです。中川教授の議論などで言えば、いかに極悪層のみ切り出すのか、そもそもそういうことが可能なのかという問題になります。

他方で、日本の現在の問題としては、多くの取締役は、遵法義務のもと法規範が内面化し過ぎているという点も挙げられています。経営者の法令違反行為の意思決定というのは、法令違反行為による利益とサンクション、比較衡量で行うことになります。例えば、法令違反行為の結果、利益として1000万もうかります。ただ、それに対して、サンクションとして、800万損害賠償があります。

これだと200万円利益になるので法令違反しますねという話ではありません。1000万利益が出て、800万しか罰金を食らわないかもしれないけれども、法令違反行為をしてしまったという後悔のような精神的な負担があります。この精神的な負担が300万だとか500万だとかあれば、行動は変わります。このような罪の意識や精神的な負担といった主観的なサンクションがあります。また、利益についても、取締役が経営について意思決定をする際には、会社の利益ではなくて、取締役本人の利益を考えると、法令違反をして会社が利益を上げても、その利益は満額自分の収入になるわけではありません。にもかかわらず、日本の取締役は、法令遵守に萎縮し過ぎているように見えますので、法令違反の主観的なコストが大きいのだと思います。

近時の課題として、コーポレート・ディスオベイディエンスという法令違反を含んだイノベーションを新規ビジネスとすべきなのではないのかという議論があります。典型的には、Uberみたいなビジネス、Airbnbみたいなビジネスを日本発で、なぜできないのかという議論です。こういった議論からはもっと法令違反をすべきである、ということが言えそうです。

最後になりましたけれども、会社の文化論に入ります。一定の場合には法令遵守のインセンティブが過少になりかねない、違反するインセンティブが大きくなるというお話です。他方で、日本企業においては、多くの場合は法令遵守にインセンティブは過大になっていると説明しました。この二つを、いかに調整させればよいでしょうか。

解決策として、理論的には法令違反のインセンティブが過大となる状況には、民事責任を厳格にする、そして抑止するという話があります。反対に、遵守のインセンティブが過大となっている状況では、民事責任を制限、軽減して萎縮させないという方法があります。このようなことが実際にできればいいのですが、このような法の使い分けは法の客観性あるいは法の下の平等を害さない形で行うことは非常に難しいのです。

一つあり得るのは、初めての法令違反行為ではなくて、2回目あるいは隠蔽行為を伴ったものに限って責任を課すという考えがあり得ます。実際に隠蔽行為をしたことについて取締役の責任を認めるという発想は、最近、東洋ゴムの株主代表訴訟の事案にも共通しています。その事件で裁判所は責任を認めたわけですが、会社の文化論・行動経済学と整合的な判断がなされているのかもしれません。

すみません、時間を4分ほど延長してしまいましたが、これで終わりにしたいと思います。

どうもありがとうございました。

○沖野座長　得津先生、ありがとうございました。

ただいまの得津先生からの御発表内容を踏まえまして、質疑応答、意見交換をしていきたいと思います。

御発言のある方は、会場にては挙手、オンラインの方はチャットでお知らせください。どういう点からでも御発言をいただければと思います。いかがでしょうか。

室岡委員から御発言希望がありますので、室岡委員、まず、お願いいたします。

○室岡委員　得津先生、ありがとうございます。非常に分かりやすい説明をありがとうございました。

9ページの3－1に対して、少し質問がございます。経営判断原則の根拠として、従来の議論では、CEOは過剰にリスクを回避するので、萎縮防止のために経営判断原則を課していると、最初のほうで御紹介をいただいたかと存じますが、伝統的なエージェンシー・プロブレムでも自信過剰の問題でも、むしろCEOがリスクを取り過ぎるという状況は、コーポレートガバナンスなどで分析されているのかなと思いました。経営判断原則の根拠と、CEOは過剰にリスクを取り過ぎるという状況を同定できたとして、それが起きた場合経営判断原則というのはどう変わり得るのかというところについて、御教示いただけましたら幸いです。

○得津教授　御質問どうもありがとうございます。大変私の説明が分かりにくかったということが分かりまして、大変失礼いたしました。ご質問いただいた箇所はスピードアップしたところですね。大変申し訳ございません。これは私の発表の仕方がまずかったのだと思います。

経営判断原則の議論というのは、会社法の世界でまともにコーポレートガバナンスないしコーポレートファイナンスの議論が始まる前から、あるものでございます。

つまり、アネクドータルな裁判官の浅知恵判断でできたものかもしれないということです。

この議論では、伝統的には、オーバーコンフィデンスみたいな最近の議論は全く前提としていません。経営判断の原則は、有限責任の株式会社が創設したころのような問題状況、それこそ東インド会社の時代のイメージを考えていただきたいと思います。この時代は、経営者の自信過剰を指摘するのではなく、むしろ経営者を奮い立たせなくてはいけないのです。ですから会社に損失が出たら、経営者が個人責任を負わせるというのでは、みんな経営者にならないだろうという考えに基づいています。

経営判断原則が、取締役を萎縮させないために、リスクを回避させるという議論は、そもそも個人というのは、基本的にはリスク回避性である、リスクアバースであるという前提に立っています。このような前提の下で、経営判断原則を認めて、経営者には失敗したときの責任を負わせないということを言っています。これが伝統的な経営判断に関する理解です。

過度のリスクテイクとか、オーバーコンフィデンスの話が会社法の中に入ってきたのは、もっと最近です。ランゲボールトは90年代後半から言っていたみたいですけれども、基本的には2000年、やはり世界金融危機を会社法学者が目の当たりにしたころに、行動経済学の話が入ってきたというのが、多分正しい理解だと思います。よく、学問の議論について、アメリカの議論が日本に入ってくるのは15年遅れる、といいます。経済学が15年遅れるのだったら、法律はそこからさらに15年遅れて、合計30年遅れているのではないでしょうか。ですので、会社法の伝統的な経営判断原則の中には、自信過剰という考え方は入っていないというのが、最初の質問へのお答えになります。

では、行動経済学によって明らかになったこのオーバーコンフィデンスという傾向がCEOにみられることを会社法の中にどのように入れるのかというと、私はよく分かりません。

例えば、経営判断原則というのは、日本では、経営判断の誤りに関して、判断の内容、過程が著しく不合理ではない限り、責任を負わないというものになっています。つまり、ただの不合理だけでは、責任を負わないということになっています。この「著しく」という部分が、普通の専門職よりも取締役の裁量を広く認めている、免責の範囲を広く認めているということです。しかし、取締役個人はリスク回避なだけでなく、さらにオーバーコンフィデンスでもあるのであれば、大ざっぱに見れば、プラマイゼロでリスクニュートラルと考えることができそうです。そうなると責任判断も「著しく不合理」というように審査の粒度を粗くしてあげる必要はない。取締役もお医者さんやほかの専門職と同じでよいという話になると私は考えています。

お医者さんだと、生命・身体を扱うという特別な観点が入ってきてしまうので、比べるなら他の専門職のほうがいいですかね。例えば、税理士や弁護士と同じ判断の粒度になるのではないかと思っております。

もう一つ付け加えますと、おそらく、室岡委員のほうが、私より詳しいのだと思いますけれども、自信過剰になる場面は、結構限られていると思っております。典型的にはM&Aの買い手になるときです。M&Aのバイヤーになるときなどがオーバーコンフィデンスになると言われています。実際にM&Aの場面において、日本でもアメリカでもターゲットカンパニーの企業価値が下がるからポイズンピルを認めるべきだという売り手側に着目した議論が盛んなのですけれども、ターゲットカンパニーの株価は実際に上がっているわけで、むしろ問題はバイヤー側です。M&Aではバイヤーの株価が下がっているというデータが結構、ございますので、M&Aで企業を買うという判断にはオーバーコンフィデンスの問題があるのかもしれません。他方、これまでの会社法の議論では、M&Aの買い手側の取締役の判断についての司法審査基準は経営判断原則で緩やかでいいとされてきました。しかし、もしかしたら、この場面では、審査基準を厳しくするという発想があり得るのかもしれません。あくまで例えばの話ですけれども。

○沖野座長　ありがとうございます。

○室岡委員　ありがとうございました。

○沖野座長　それでは、今の点に関連してでも、あるいはほかの点でも御質問や御意見はございますでしょうか、いかがでしょうか。

二之宮委員、お願いします。

○二之宮委員　二之宮です。御説明ありがとうございました。

12ページの法令遵守義務、3－2のところで、法令違反のインセンティブが過大となる状況と、遵守のインセンティブが過大となる状況、ここで取締役の民事責任をベースに厳格にしたり、制限したりということが書かれています。

ここは、会社法の損害賠償責任を基に民事責任ということを書かれているのだと思いますが、今、この専門調査会では、民事、行政規制、刑事と規範の種類も含めて厳格性が求められるところと、制限すべきところをどう組み合わせていくか、何がベストかを検討しようとしているのですが、私は、やはり民事責任を最終的に負わすことに重要性があり、行為規制だけでは、最終的には法令遵守を達成できないだろう、やはりというか、だからこそというか損害賠償責任というのがあるのだと思っています。ここで先生は、民事責任をベースに考えられていますが、ほかの行政規制、行為規範とかでも強弱をつけて調整を図っていくということに関して、それは、このように考えられるとか、こういう考え方もある、あるいは、こういう例もあるとかというのがあれば、教えていただければと思います。

○得津教授　今、マイクの使い方が間違っていることを教えていただきました。大変申し訳ありませんでした。

どうもありがとうございます。そして、今、どうでもよい発言で時間を稼いだ理由は、それは分からないよというのが本音だからです。まず、二之宮委員に御指摘いただいたとおり、私の今回の報告は、取締役の、しかも423条、429条のことしか考えていません。つまり、損害賠償責任のことしか考えておりません。行政、刑事といったほかのエンフォースメントとの関係について申し上げますと、私は民事が大好きなので、今日、消費者庁の方がいらっしゃる前で大変申し訳ないのですけれども、行政や刑事を完璧には信頼できないところがあります。二之宮委員のおっしゃったことを完全なオウム返ししているだけで恐縮ですけれども、やはり民事責任というのは必要であろうと思っておりますし、民事責任で当事者のインセンティブをしっかりつくるということも必要であろうと思います。

それでは、行政や刑事で、事後的な制裁を科すことで、民事責任と同じようにインセンティブを付すことができるのか。どうなのでしょうか。これは行政法や刑事法の先生に聞かないと分からないです。何がすごいって、実は私は行政法の単位を取ったことがないという状態でこの質問に答えようとしているところです。私は、行政法は柔軟で何でもやっていい法律だと思っているので、同じことができるんじゃないかと思います。しかし、そんないい加減なことをいっていると、多分、今の司法試験には受からないはずです。行政法には、何か指導原理というのがあるはずで、そういった指導原理が行政法のできることの制約となるのではないでしょうか。例えば、比例原則がある中で、今回、私が報告したような抑止という考慮のみでどこまで行政法を設計できるのかは私には分かりません。

実は民事だって、抑止だけで責任を作ることはできないと言っている人のほうが、おそらく、多数派です。損失の填補に過ぎないのだ、それを超えてはならないのだという考え方の方が多数派です。ただ、私は民事責任の中に抑止といった考慮をいくらでも入れられると考えています。不法行為の民法709条なんて形式的要件はあってないようなものであり、抑止でもなんでも入れられます。抑止の観点を入れられないといっている議論に1ミリも説得力を感じたことがないというだけです。

これに対して、多分、刑事や行政のほうが、本当は抑止という観点を入れやすいはずです。しかし、実際には、刑事や行政法のほうが、何か縛りが厳しいイメージがあります。それでも、行政法は、なんだかんだ柔軟であって、私は抑止の観点をどんどん取り入れられるのではないかと思っています。本調査会の座長も行政法の研究者なので、何かおっしゃっていただけるかもしれませんが、行政法は比例原則とか法律の留保とかいろいろ制約があるかもしれませんが、立法論まで含めれば何でもできる。これに対して、刑事は、たとえ立法論でも、やはり構成要件、違法性、責任という、三つを満たして初めて処罰できるという原則は動かせないのではないでしょうか。このような３つの要件を充足していることがスティグマになっているわけです。刑法犯とは、あらかじめ示された要件に違反して、違法性もあって、責任もあるとんでもない野郎だ、というスティグマが付されるわけです。すごく嫌な言い方をしてしまえば、刑法犯を差別しているわけです。私がもし刑事犯罪を犯したら、仕事をクビになって当たり前ですよね。だから刑事事件の刑事処罰はたかだか罰金50万円払わされているだけだというのに、仕事まで失うことになります。これは、国が犯罪者にそこまで重たいサンクションを課さなくても、刑法犯というスティグマがあることによって、抑止効果があるということです。「刑法犯」という切り札をつかうことで、政府のサンクションを発動するコストをかけずに、抑止効果があるということです。この刑法犯という切り札というか魔法の杖は、世界中どの国にもあるわけです。このように「切り札」だから刑法は意味があるわけですけれども、抑止効果を中心に考えて、刑法をガンガン活用することになれば、今度は、スティグマとしての効果が薄れてしまうのではないかという心配をしています。もちろん本当にどうなるかは私には分かりません。抑止の観点を入れるとただちにスティグマ的な効果がなくなるわけではありません。例えば、「会社の文化」論ででてきた、一度犯罪を犯し、それが見つかっていない状態だと、プロスペクト効果によって犯罪が見つからないようにするための犯罪行為を繰り返すようになる、隠蔽しようとするという話がありました。これを、既存の刑法で、累犯であれば、サンクションを加重することが認められている点に整合的であるとみることができるのです。

厄介なのは、隠蔽したという事実をもって、重たい罪に問うということができるのかという問題です。この問題は、刑事法の理論ではどうなるのか、そして、それはまた行政法の理論でもどうなるのか、私は分からないです。

一般的には、やはり侵害された法益を基準に考えているのではないかと思います。要するに、法令違反のおそれがあるとしても、それは、しょせん実現していない「危険」に過ぎないので、その危険のみをもって、独立した法益とは、普通は考えないのではないでしょうか。

これが、行政法だったらどうなるのか、私には分かりません。ということで、回答に時間を長く取ってしまったのですが、ここで切ります。要するに行政法や刑事法のロジックが、法令違反行為を促進する状況かどうかという観点からの区分を許容するかどうかの問題だと思っています。そして、そのような区分を許容するロジックを用意するのが、この研究会のほかの先生方の仕事なのだと、私は思っております。

○二之宮委員　ありがとうございました。

○沖野座長　改めて私どもの宿題を浮き彫りにしていただいた面もあるかと思います

このほか、いかがでしょうか。よろしいでしょうか。

それでは、素朴な疑問で大変申し訳ないのですけれども、スライドの10、11のところで、法令違反についてむしろ促進するという可能性があるという点が出されています。会社の文化論ということで、一定の環境下とされ、その一定の環境下の中に、11では、これが全てではないということかとは思いますけれども、三つの項目が挙がっています。

これらは、会社の文化論ということで、非常に汎用性が高い、どの会社もこういう事情があればこうなるという話なのか、そうではなくて、特定の会社については、こうなるということなのかというのが、まず、一つ分からない点です。次に、一般的にこうだとすると、これらの要素をどう捉えていったらいいかという話があると思うのですが、競争心だけを捉えると、すごく難しいと思うのですけれども、法令違反ですとか、隠蔽については、例えば報告をしないということに対して一定のサンクションかけるとかということは、ひょっとしたらできるのかもしれません。会社の文化というと、何か一定の会社のようで、それが中川教授の3部類にもつながっていくような感じもしたのですが、他方で、汎用性の高い話のような気もいたしまして、これはどういうものとして考えたらよくて、ここから例えば要素を抽出して、それに着目して何かできないかというときに、どれを抽出したらいいのだろうかというのが、気になっていることです。

もう一点、関連するかどうか分からないのですけれども、一定の環境下では法令違反を促進していくのだということに対して、それを抑制するには、取締役の民事責任以外に何があるかなのですが、これはすでにお話しいただいたことですね。すみません、二点目は忘れてください。一点目をお願いできればと思います。

○得津教授　御質問どうもありがとうございました。

恐らく、これは、行動経済学を社会実装する際に一番難しい問題だと思います。

行動経済学のいう傾向は、平均的に見られることだけは確かですけれども、では、「あの会社で見られるのですか」と特定の会社について聞かれると、そうとは限りません。

では、そういう行動経済学の示してきた特定の傾向を法律の中に書き込むことができるのでしょうか。行動経済学によって導かれた知見なわけですから、このような傾向があるという一定の証拠はあるけれども、それで足りるのか。さらに、最近は行動経済学の基礎となるような審理実験について、実験の再現性がないだとかいう問題を抱えています。行動経済学では、有意水準もそんな高くない。こういった様々な問題がある中で、行動経済学の知見をそのまま条文にしたような法律を作ることが可能なのでしょうか。この問題について、行動経済学の先生方は、やはり、そもそも法律家ではないので、そこまで関心は持たれていないのかもしれません。ですが、行動経済学を法に導入しようと考えている我々のような人間にとっては重要な問題です。例えば、ランゲボールト教授は、今言ったような事柄をものすごく気にしていた方でした。行動経済学の知見を基に規制を作ることは慎重にしなくてはいけないということを、一般論としては、もちろん言っています。しかし、実際に、今、世の中にある法律は、そこまで厳密に社会的課題の快活と統計的に有意な相関関係、さらには因果関係があることを求めることなく、立法されてきました。それはどんな法律にも妥当することで、だからこそ、消費者契約法などは、立法事実がないのだと言われてはなかなか改正させてもらえないという苦労があるのだと思います。

これは中継されているのですね。あまり言わないほうがいいのかもしれませんけれども、例えば、本当に犯罪収益移転防止法は、エビデンスベースドで有用性が証明されているのでしょうか。G7で決めたからということで、明らかに消費者規制より厳しい規制がどんどんと入っています。本人確認とかかなりしっかり守られており、却って消費者の利益を害しているのではないかというぐらい守られています。

今、悪い例を出してしまいましたけれども、実際はある程度エビデンスがそろったら、法律の定める類型ごとに厳密に有意な効果がエビデンスによって示されていなくても、あとはギャンブルで「ええい」で規制を作ってしまう。ギャンブルというと、ここでは怒られてしまうのかもしれませんが、新しい法ルールを作るというのは、いわばエビデンスのあるギャンブルということで、最後は「決断」。やはり政策決定しなくてはならないのだと思います。それでルールを作ってみて駄目だったら撤回すればいいではないですかと私は思っています。ランゲボールト教授も、彼は私のようにダメなら撤回しろとまでは言っていませんでしたけれども、法律というのは、証拠が完全にそろわない限り作ることができないというものでもないし、全体的な傾向が確認できれば、一定の規制を課すことはあり得るということを述べています。行動経済学の知見をもとに、厳密なエビデンスがなかったとしても、もう少し社会実装することを考えていいのではないでしょうか。

その一つの例が、M&Aのバイヤーの場面です。経営判断原則を適用して、自由にがんがん買わせていいのかという議論が可能になります。この話は消費者規制とは、あまり関係ないのですけれども、ただ、一般論としては、行動経済学から何らかの知見をえたらそれをルールに落とし込むということは認めてよいのではないかと思っております。

あとは、沖野座長がおっしゃいましたように、競争心をあおられるとか、集団心理とか、同調圧力とかとなりますと、ルールを適用する際に発見できるプロキシにはならないので難しいです。また、今までの法律のロジックとは相性が悪いです。これに対して、やはり累犯や隠蔽というのは法律学のロジックの中で非常に使いやすい。沖野座長は、先ほど、隠蔽にサンクションを課せばいいではないかとおっしゃっていますけれども、隠蔽そのものを切り出してサンクションを課すというのでは甘っちょろいわけです。隠蔽については、何を隠蔽したかにリンクさせて、その隠蔽された先の法令違反行為のサンクションを思い切って課してしまうということが大事なのだと思っています。

恐らく金融関係で言えば、レポートをしなかった場合には、レポートしなかったという類型の法令違反になってしまっているわけですけれども、何をレポートしなかったか、レポートをしなかったことについて、何の法令違反行為を惹起しているのかというところとまで結びつけることが、危険性の抑止の観点から必要なのではないかと私は思っております。

○沖野座長　ありがとうございます。

そのほか、よろしいでしょうか。得津先生におかれましては、非常に貴重な報告をありがとうございます。それを十分に受け止めて、消化できているかというのは、まだ不安なので、さらに考えさせていただきたいと思っています。ですから、また、いろいろ御質問をさせていただくことも多いかと思いますけれども、本日のこの段階では、後半のもう一つのヒアリングのほうに進みたいと思います。

また、議論に、さらに関連して出てくる可能性もありますので、よろしかったらおとどまりいただいて、引き続き、御参加もお願いできればと思っております。

それでは、本日の議事の2項目目に進めさせていただきます。国際関係学を御専門とされまして、先端科学技術のガバナンスや、国際関係における自主規制を含む規範の在り方等を御研究されています、川村仁子先生に「先端科学技術のガバナンス

研究・開発とリスク管理の両立のために」というテーマで、やはり20分程度を目安といたしまして、御報告をいただき、質疑応答、意見交換をさせていただければと思います。

それでは、川村先生、お待たせいたしました、どうかよろしくお願いいたします。

○川村教授　ありがとうございます。

ただいま御紹介に預かりました、立命館大学国際関係学部の川村仁子と申します。

私は、ふだん先端科学技術の国際的なガバナンスの研究をしておりまして、消費者保護とは遠いところで研究しておりますが、関連してくるところとしましては、先ほど、これからのこの会議のテーマの一つに、ハードローとソフトローの関係というところが、御紹介にありましたけれども、特に私の研究しております国際関係といいますか、国際法というのは、そのハードローは、もちろんICJ規程にあります法源というところで、ハードローと言われる、いわゆる条約とか、国際慣習法とか、法の一般原則というものはございますが、基本的には、最終的に主権を持っている国家が、その法というものをどう判断するかというところの判断をする、ICJ（国際司法裁判所）の判決が出たとしても、国家によっては、その判決自体を反故にするということもあるような世界といいますか、分野でございます。

ですので、そこで私の研究関心としましては、どうしたら、国とか人とかというのが、法といいますか、ルールというものを守るのかという、法社会学的な観点から研究をしております。

本日は、先端科学技術のガバナンスということで、お話をさせていただきますが、1、2、3、4、5の項目で、5に関しましては、事例になりますので、時間的な余裕がございましたら扱いたいと思います。

それでは「はじめに」なのですけれども、私が研究対象とします先端科学技術というものは、いろいろと特性がございまして、こちらは、もう既に皆様も御存じのことかと思いますが、特にAIとか、ナノテクノロジーとか、バイオテクノロジーとか、宇宙科学技術といった先端科学技術は、私たちが抱える問題を解決するための可能性を開くというような、また、新たなビジネスチャンスをつくるような、そういった人類の希望になるような側面を持っているのですけれども、一方で、やはり先端になればなるほど、リスクといいますか、例えば、放射性物質とか、有害化学物質による脅威とか、あと、よくSFでも取り上げられますシンギュラリティや、ナノテクノロジーのナノサイズのマシンの暴走であるグレイグーというような脅威まで、様々なものがあるわけですけれども、その中でもやはり一番問題になってくるのが、人間社会がこれまで歴史の中で築き上げてきた価値観、特に人間の尊厳とか安全とか、そういったものを直接的に脅かす存在になり得るというところで、先端科学技術というのは、人類の希望にもなり得るのですけれども、脅威にもなるという両義性を常に有している点が特徴として挙げられます。

ですので、やはりここで一番重要になってくるのが、研究開発の促進と、リスクの管理というのを両立していかなければならない、どちらか一方に偏ってはいけないというとことです。

また、科学技術の特性としましては、三つございまして、一つは破壊性と創造性を併せ持つということで、これは軍民両用、科学技術そのものには、軍事用も民生用というものはなくて、使い方によっては、何でも軍民両用になるわけですけれども、そういったものとか、あと人権侵害とか、情報操作、また、一度起こってしまいますと、とんでもない被害を及ぼすと、ウルトラハザーダスな被害が生じてしまうと、たとえ事故とかリスクが発生する蓋然性というのがものすごく低くても、一旦起こってしまうと、本当に時空を超えた損害が生じてしまう可能性があります。例えば、宇宙には原子力を使った衛星などが飛んでいるわけですけれども、そういったものがコントロール不可能なものになって地球上に落ちてくるというケースが以前にございました。コスモス954の事件なのですけれども、そうなってしまうと、本当に落ちてきたところ一帯は放射能汚染をされるということで、今でも立入りが難しい領域になってしまっております。

また、科学技術というものは、これまで私たちが築き上げてきた人間の尊厳、特に権利とか社会的な価値に影響を及ぼす可能性がございます。特にAIは、高度な自律性というものを持っております。そもそも人間の社会は、選択肢をいろいろと増やすことで発展してきたというところがあると思うのです。人間の自由な意思で選択肢を選んでいくという。ただ、そういうところにAIというものは介在してくる可能性がございます。

ですので、やはり先端科学技術というのは、開発・研究を妨げずに、予想を超える被害をもたらし得るリスクにいかに対応していくのか。科学技術とともに社会も変わっていくのですけれども、そのような中で倫理とか法とか制度の枠組みも、これまでのもので大丈夫なのか、あるいは新しいものが必要なのかということを考えていかなければならないわけです。

特に先端科学技術のガバナンスにおけるリスクは、科学技術そのもののリスクに加えて、先端科学技術のガバナンスそのものが有するリスクがございます。先ほども言いましたとおり、科学技術に関わるリスクというのは、実際に起こるか起こらないかが分からないところがあります。起こるかもしれないとか、起こる可能性が高いとか、科学的にはっきりと証明されていればいいのですけれども、そういったことが難しい部分もあって、では、どこまでのリスクを社会が、あるいは、人間が引き受けるのかというところを、そのリスク・ガバナンスの中で決めていかなければなりません。そういった意味では、やはり社会的な合意というものが重要になってきます。また、そういった中で、そのリスクを引き受けないこと自体が、またリスクになっていくということがございます。

そのような科学技術のリスク・ガバナンスには、幾つか方法がございまして、今回は開発促進ではなくリスク・ガバナンス、ガバナンスといったときには開発促進も入るのですが、今回はリスク・ガバナンスについて重点的に報告させていただきますが、一つは法律、法令等による管理ということで、既存の法の修正とか、新たな立法という形で行われるものがございます。

また、法律以外での管理としましては、ガイドラインとか、指針という形で出されるものもありますし、私の研究テーマであります、近年グローバル法と言われたりするものですけれども、いわゆる民間の自主規制で、特に国境を越えて広まっているような民間主体の自主規制というものがございます。そういったものによる管理というものもあります。

また、三つ目に書かせていただいたのが、そういったリスクそのものを法律で規制するのではなくて、例えばグローバル法というもの、いわゆる自主規制が守られるような環境をつくるとか、そういった点に関わるような公的な機関の役割というものもありますので、それをIIIとして書かせていただきました。

それで、実際に法律による管理というものは、どういった形でなされるのか、これは、私よりもここにいらっしゃる先生方、御担当の方のほうが御専門だと思いますけれども、まずは対象となる技術を規制する、あるいはEUのAI法にも見られますように、技術を規制するのではなくてリスクを規制する、つまり、どんな形であれこういったリスクを伴うAIシステムは禁止だとか、厳格な管理が必要だという、そういったリスクの定義をして規制していくという方法がございます。その上で、既存の法とか制度で対応することができるのか、例えば、既存の法の修正、知的財産法とか、公衆衛生法とか、製造物責任法とか、化粧品規則とか、いろいろなものがございますけれども、EUの場合はそういった既存の法を修正する形で、例えばナノテクノロジーを使ったような化粧品の規制とか、食品の規制というものをやっていたりもします。

ただ、この方法ですと、既存の制度や法律で対応できない場合とか、あるいは既存の制度や法と齟齬のない形でのガバナンスをいかにしていくかということが重要になってくるのですけれども、ただ、科学技術の種類といいますか、例えば、高度に自律的なAIのようなものになりますと、なかなか既存の法的な枠組みでは規制しにくいというものもございます。

そうなってくると、次に新たな立法という形で、法律によって規制するという方法がございます。法律等ではなく規制するという方法もあるのですけれども、まず、立法においては、幾つかこれまでいろいろな科学技術に関わる法や規制の中で出てきた原則として、三つ挙げられると思うのですけれども、一つは、防止原則と呼ばれる、これは一般的な法規制の際に使われている原則です。本当に科学的にそのリスクが証明されている、あるいは、アスベストとか、放射性物質がそうなのですけれども、これはもう危険であることが科学的に証明されているので、それを禁止する、管理するということは、これまでの法律の中でも取られてきた方法でございます。

二つ目、三つ目になりますと、少し変わってきまして、二つ目が監督的追跡の義務という原則のもと、管理するというものがございます。

これは、科学技術の発展を考慮して、商業化や開発を、どんどん認めていきたい、そして、今のところは大きなリスクが科学的には証明されていない場合、今のところは商業化する、商品化するということを認めるけれども、ただ、技術が新しいものなので、この先どうなるか分からないということで、追跡をして監督していくという原則です。それで、製品や業務に結びつけられるリスクの存在に関して通知する義務とか、弱者だけではなくて公的機関にも通知する義務とか、あるいはリスクに対して必要である場合は行動するという原則がここから導かれまして、これは宇宙条約などではもう入っているのですけれども、民間の宇宙活動に関する関係当事国の監督的追跡の義務ということで、民間に宇宙活動を許可する主体、そういった公的機関にも監督的追跡の義務、もちろん活動する民間に対しても、そういった義務を課すという原則になります。

三つ目が予防原則というもので、これは、先ほどの監督的追跡の義務の原則よりは、より蓋然性が低いのですけれども、ただ、実際に起こってしまうと、ものすごく大きな被害を起こし得るということが予見される、ただ、科学的には証明はまだされていないようなものに対して適用される原則です。

これは、アシロマ会議という遺伝子組換え技術に関わる科学者が集まった会議において、国内や国際的な合意がない中で、科学者でいろいろなガイドラインといいますか、指針を、いわゆるグローバルローと言われるものをつくったさいに、最初に出てきた原則なのですけれども、条約では、例えば、オゾン層保護のためのウィーン条約ですとか、モントリオール議定書とか、その辺りには、もう既に取り込まれておりまして、EUはマーストリヒト条約において、環境政策の基本原理としてこの原則を採用するということを決めております。また、EUの一般食品法規則も、一部こういった予防原則という、まだ科学的にはどうか分からないけれども、やめておくとか、そういった原則を採用している分野もございます。

次に、法律以外での管理ということで、こちらはガイドライン等で、できればこういうことをやっていってほしいみたいな形で、公的な機関が努力義務を提示するという方法があります。例えば、アメリカのAIの規制に関してですと、法的な拘束力がそれほど強いものではない大統領令というかたちで、努力義務を提示するといった方法がとられています。

ですので、そういったものを中心に、アメリカなどは、ガイドラインとか指針を出して、何か起こったら司法で解決していこうと。これは、特に英米法体系の中で行われることではありますので、少し日本の場合ですとか、ほかの地域、国では異なってくることかとは思いますが、そういった形で管理していくような方法もございます。

あと、商品化の段階ではなくて、研究開発の段階というのは、できるだけ自由なほうがいいということで、法律ではなく、こういったガイドラインや倫理原則、倫理的自己評価とによって管理されている場合があります。EUのホライズンと呼ばれます、日本の科研費のようなものがあるのですけれども、それの倫理的自己評価の義務というものが、ものすごく厳格に行われております。審査員によって申請された研究内容や、その研究がいろいろな倫理原則や国際法、EU法を守っているかどうかの評価とか、あるいは、より深刻なといいますか、人間の尊厳に関わるようなバイオテクノロジーとか、そういったところに関わるものに対しては、より厳格な倫理委員会からの評価というものを得なければならないようなものもございます。こういった公的な形でのガイドラインでの管理というのもあります。

もう一つ、公的ではないのですけれども、いわゆる民間の自主規制として行われる管理の方法が、グローバルローというものでして、これは、全ての分野において行われているものというよりは、いわゆる国とか、あるいは国際的な合意とかがなかなかできない、あるいは国内規制や国際的な規制にそぐわないという分野において行われることが多いです。例えば科学技術の分野などは、本当に発展が目覚ましいので、法規制がなかなか追いつかないというところで、国家がやってくれるのを待つよりは、実際にそういったところに携わる研究機関や企業が、自分たちの行動のリスク管理、あるいは自分たちの利益を守るために自主的に規制を行っていく、そういったガバナンスがございます。いわゆるトランスナショナルガバナンスと呼ばれるものなのです。その中でグローバルローと呼ばれます、民間の自主規制、これは国際法の先生は、あまり法と呼びたくないというところで、自主規制として捉えられることもあるのですけれども、近年はグローバル法とかトランスナショナル法とか、非国家法という形で、国際関係の分野では根づいてきているものでございます。

こういったものは、公的な機関ではない主体が自主的にルール作りを行っているもので、具体的な例を挙げますと、ISOはすごく有名なものだと思いますけれども、あと児童ポルノに対しては、アメリカの大手のインターネット接続企業や金融サービス企業が一緒になって児童ポルノにお金が流れないようにしようという目的で作った自主規制ですとか、あと、AIに関しましては、近年AIが仲裁や調停において使われることがございまして、そういったもののガイドラインというものをシリコンバレー仲裁・調停センターというところが出したりしております。

こういったグローバルローに関しましては、皆様、今、心の中で思われたとおり、やはり課題はたくさんございます。

一つは、民主的な管理について。これは企業とか、あるいは研究機関が主体となって作成しているものですので、何か民主的な要素というものが入っていのるかと言いますと、なかなか難しいところもございますし、また、恣意性ですね、これは単に業界において、その業界の中でイニシアチブを取っているようなグループが勝手にルールをつくっているのではないかとか、あるいは本当にそんな法律ではない、国際法でもないものが実行されるのかというような懸念がございまして、やはりグローバル法というのは、正統性はないのではないかとか、あるいは法と呼べないのではないかという議論が多くございます。

ただ、法規範として捉えられるのではないかと考えられる要素としましては、規範というのは、一定の規則的な行動行為を導くものでございまして、法規範とか、あるいは法規範というのも、規範の一般の属性を持つとともに、ある一定の権利義務の行為を導くものであるならば、やはりグローバルローも大きな意味での法規範としてみなすことができるのではないかと言えます。

あと、民主的な管理に関しましては、ガイドラインや、あるいはグローバルローとして出来上がったものを公的な機関が吸い上げて、自分たちのガイドラインにしたり、法律にしたりということはございます。

国際消費者機構が出しているガイドラインなどが、OECDの宣言の中に盛り込まれたりしたことがあると思うのですけれども、昨年だか、あったと思うのですけれども、そういったものが、ある種、民主的なルートに乗っかるではないのですけれども、法律化したり、公的な機関の原則として採用されるということで、民主的な要素というのを入れることもできます。また、恣意性の抑制ということでは、グローバルローの多くが行為規範という、いわゆる一次ルールと呼ばれる行為規範なのですけれども、いわゆる二次ルールと呼ばれる、一次ルールを導くような国内における憲法のような、すごく強い上位のグローバルローみたいなものもあったり、あるいは裁判手続とか紛争解決手続を、もう既に持っているような制度もございます。

例えば、国際商業会議所などは、紛争処理の制度を充実させています。そういった中で、手続に則って実施していくということで、グローバルローの正統性というものを、できるだけ確保できるのではないかと思います。実効性の担保に関しましては、これは、何かルールを守らせるためには制裁がないととか、サンクションがないとというところが、まず、思い浮かぶところなのですけれども、法社会学のレオン・デュギーなどが言っておりますように、人あるいは国がルールを守るときはどういうときかというと、そういったルールを守ることによって、自分の立場が守られる、保障される場合であると。その保障を充実させることで、自主規制を実行させていくことができるのではないかという議論がございまして、その中では、制裁も保障の中の一要素として捉えられます。ですので、国際法などの分野では特に、ルールを守ったほうがいいというような、単に守らせる側と守る側という点と点の関係ではなくて、構造的に捉えて、ルールを守ったほうがうまくいろいろと機能するという形でルールを守るように導いていくことができるかという点が重要になってくると言えます。

そういった中で、やはり官民パートナーシップ等の活用の可能性というのは十分ございまして、例えば、グローバル法を基にした、先ほども言いましたとおり、法律、あるいはガイドラインの制定というのを、公的機関が行っていく。こういったグローバルローから条約になったものもございます。マラッカ沖の海賊の取り締まりに関する条約等は、もともとは先ほども例に挙げました国際商業会議所がやっていたものを条約として、ASEANが採用したものになります。

また、その法案作成段階において、民の力を借りるといいますか、これは、EUのAI法の中で取られた方法でして、積極的に民を活用する、法案作成段階のところで入れていくような場合もございます。

そういった中で公的機関の役割としましては、やはり大原則といいますか、ここは譲れないという原則を、やはりしっかりと打ち出していくというところが重要になってくるかとは思います。細かい詳細まで規定する必要があるのかと言いますと、科学技術の分野におきましては、やはり発展をできるだけ阻害しないようにという点も重要になってきますので、例えば、EUの指令のような形で規制を行うことは可能でしょう。EUの指令の場合は原則はEUが決めてそれぞれの国がその枠内で自由に実施するという方法を取ります。EUは各国が原則に反しているか反していないかだけをチェックするのですが、その構造を国内において応用することは可能でしょう。原則は国や公的機関が決め、実際に実行するところは、各地域、企業、研究機関にそれぞれ実施させ、もし、大原則に違反するものがあれば、国がチェックしていくという方法もございます。先ほどの監督的追跡の義務というものを、公的機関が最終的なところで果たしていくこともできますし、また、自主規制において、しっかりとそういったものを守っているような企業とか研究機関に対する評価や、場合によっては租税措置もありえます。EUがAI法でリスクを４つに分類しまして、一番弱いリスクを有するシステムを扱う企業、研究機関に対しては、特に規制はかけないのですけれども、もし自主的にルールを守っていくようなことがあれば、行政手続き上優遇されるような措置も設置しております。

そういう方法を使ったり、あるいは先ほども言いましたとおり、自主規制の中でも異議申立ての制度をしっかり持っているような民間の機関もありますので、そういったところの最後の異議申立てを受け付けるような制度というものを、官民パートナーシップの中で設置していくこともできると思います。

こちらは、いただいたメールでも質問として出されていたものなのですけれども、グローバルな規律の導入の必要性というのは、どういうところにあるかと申しますと、やはり人類全体に関わる可能性とリスクを科学技術ははらんでおりますので、できるだけ国際的な合意が大枠でもいいのであるといいと考えます。

今の先端科学技術は、先進国だけのものではなくて、途上国といいますか、今は低中所得国という国々、グローバルサウスも関わってくることになります。ですので、そういったところで科学技術を持てる国と持たざる国の間の衡平性という観点からも必要ですし、あと、科学技術に関しては、1カ国で完結するような研究や商業化はないわけで、その中で関係主体の複雑化のためにも、国際的な一定のルールが必要なのではないかと思います。

あと、例えば、EUの一般データ保護規則や、AI法にも見られるように、単に、あれはEUのルールだねで終われないような現状があります。EUは、その辺は本当にうまくやるというか、したたかといいますか、EUで何か商売したい、ビジネスをしたいという企業や、研究したい研究機関はEUのルールに従わなければなりません。先ほど挙げましたEUホライズンは、EU圏内の研究機関ではなくても参加できますので、日本の中小企業でも参加しているところがあります。参加する限りは、EUのルールに従わなくてはならないという方法を取っていますので、そういった意味で国内的な法秩序というものが、相互浸透するような状況というのがあります。

恐らくここで時間になってしまったと思いますので、あとはAIガバナンスの事例として、皆様の資料として掲載しておりますので、先端科学技術のガバナンスとしましては、ここまでにさせていただきます。AIの事例に関しましては、御参照いただければと思います。

ありがとうございました。

○沖野座長　川村先生、ありがとうございました。

御発表の内容を踏まえて、質疑応答、意見交換をしていきたいと思います。あるいは、今、省略された部分の御説明ということも改めてお願いすることもあるかと思います。では、河島委員、お願いします。

○河島委員　とても整理された御説明、ありがとうございました。

スライド6で提示されているリスク・ガバナンスで言いますと、御専門から見て、消費者を取り巻く問題としては、今、どこが一番ウイークポイントと御覧になっているのでしょうか。また、消費者問題ではなくてもいいのですけれども、規制の組み合わせの方法として実効性のある施策とするべきポイントがあれば、お教えいただければと思います。

加えて、別スライドにありますけれども、トランスナショナルなガバナンスは、特に環境保護の領域で活発化していると思いますが、そこから、消費者問題のトランスナショナルなガバナンスが学ぶべき・取り入れるべきことが、もし、おありでしたら教えていただければと思います。

取りあえず、質問は以上です。

○沖野座長　お願いします。

○川村教授　ありがとうございます。

今の御指摘、御質問ありがとうございます。

私の専門分野から見た、消費者保護に関わる今のウイークポイントとしましては、やはり最初のところで、いわゆる先端科学技術のリスク・ガバナンスのリスクというところで申し上げたとおり、どこまで私たちが、科学技術というのは、もちろんいい面も悪い面もある中で、悪いと言われるリスクの部分をどこまで社会が、私たちが引き受けるのかというところの合意がないまま、どんどん先に技術だけが進んでいるところがあると思うのです。ですので、そこを、まず、しっかりと合意を形成することが大事であると思います。

例えば、先ほど選択肢というものが、高度に自律的なAIによって失われていくと、これは、よく私のゼミ生とかが就職活動するときに、自分が受けたい企業というのを自分で選んで就職活動をしている学生と、AIに頼って自分の適性を見て就職活動をしている学生がいて、実際、AIに頼った学生のほうが、内定がすごく取れるとなったときに、どうしても自分で決めていた学生たちは、AIを使うようになっていくと思うのです。

そういうところで、どこまで私たちは、そのAIを使って決めていこうとか、例えば、そのことでよくなっていくならいいと思うのですね。

科学技術の発展は、どうしても科学技術の発展そのものが目的になってしまうといいますか、そういうところがあると思うのですけれども、やはり私たちが科学技術を利用する目的というのは、私たちの生活がもっとよくなったり、今ある問題ができるだけ解決できるようになったり、もっと幸せになりたいなど、そういうところだと思います。その目的のために、私たちがどこまでの科学技術のリスクを引き受けるかという合意というのは、やはり法的なところで、あるいは消費者保護というところでも重要になってくるのではないかなというのは思います。

特に、近年のAIに関しましては、技術的なところでものすごく発展しておりますし、どうしても規制や対応は後追いになっていってしまうと思いますので、まず、どこまでの利用をよしとして、そのよしとすることに対して、駄目だよという利用を決め、いかに駄目な利用につながらないようにするかというところで、消費者を保護していくということが重要ではないかなと思います。

二つ目の御質問についてはトランスナショナルガバナンスの実効性の担保という点が関連してくると思います。トランスナショナルガバナンスは、環境分野など近年の新しい動向かとも思われるのですけれども、実は、このグローバルローといいますか、国境を越えた自主規制というか、これ自体は、ものすごく歴史が長いものなのですね。例えば、レックス・メルカトリアといって、中世の商人法と呼ばれるものがヨーロッパにはございまして、その当時、国をまたいでいろいろと旅して関係を築いていける人となると、商人たちだったわけですけれども、そういった商人たちが、商人間だけ通じる法をつくっていました。あるいは宗教法もそうですね、キリスト教におけるカノンローとか、あるいはイスラム法とかユダヤ法とか、その辺りも別に公的な機関がつくった、国がつくったものではなくて、信者間、あるいは、そういった組織内では有効に機能していました。

商人あるいは信者にとっては、時には国の法律よりもこのようなルールを破ることに対する抵抗感というのがある場合がございます。例えば、商人間ですと、先ほど御報告が得津先生からあったので、実際に現代でもそれが当てはまるかどうかは別としまして、やはり業界内で、もうこれはルールだねと思っているものを業界の中の人が破ることというのは、物すごく本当に、場合によっては法律を守るよりもそっちを守るみたいなところが出てきます。まずは、そもそもトランスナショナルガバナンスだからグローバルローだから実効性がないとも言えないのではないかなということです。次に、実際に守らせていくためにはというところで、やはり守ったほうがいいというような状況、これは、国際法全般にも言えることですけれども、守ったほうが自分たちのリスクもシェアできるし、権利も守られる。特に先端科学技術とかの場合ですと、やはり開発した自分たちの権利、商品化したようなときの権利も守られるような状況というのがある。そういった中で制裁があるからルールを守るというのではなく、自分たちの権利を守る、あるいはリスクシェアができるから守るという形に持っていくことで、トランスナショナルなガバナンスの実効性は、より担保できるのではないかなとは思います。

○沖野座長　河島委員、よろしいですか。ありがとうございます。

では、二之宮委員、次に野村委員でお願いします。

○二之宮委員　二之宮です。御説明ありがとうございました。

感想というか意見が一つと、あと、質問が一つあります。

参考文献として挙げられていました、先生の民間による自主規制の正統性という論文も読ませていただきまして、非常に勉強になりました。

自主規制は、役割だとか使い方、今はいろいろあるのだと思いますけれども、もともとの出自を考えると、規範や制度の空洞化が生じている分野をどう埋めるのかというところで出発してきているのだと思います。

消費者法は、安全の分野などいろいろあるのですけれども、消費者の取引に関しての規範というものを考えたときに、その役割というか目的は大きく二つあると思っています。一つは市場における取引の公正性の確保、もう一つは、取引に絡む被害救済という部分です。この取引に絡む被害救済という点を考えると、自主規制、特に国内のいろいろな業界がつくっている自主規制に関して、被害救済という点に関しては、業界の自主規制を使って被害救済を行っている弁護士の立場からすると、どうしても自主規制に対する評価は低いと言わざるを得ない。多くの弁護士は、そう思っていると思います。

そうではなくて、市場の公正性の確保という点に関しては、ここは行為規範ですから、いろいろな団体がそれを守ると、ちゃんと守ったほうがいいという制裁ではなく保証という側面では、一定程度うまくいっているところもあるのではないかと思います。

ただ、この被害救済というところで民事ルールをハードローでつくろうとすると、むしろ行為規範としての業界ルールを守っているというところからすると、また新たな法による規制が入ってくる、要件が加わると、ここがぶつかり合ってなかなか前に進まないという状況があり、そこを何とかしなくてはいけないというのが課題になっている状況があると思います。

もう一つ、うまくいっていないなと思うところの原因は、どこにあるのかと考えたときに、先生の自主規制の正統性を読んで、非常に参考になる、勉強になると思いましたのが、資料にも記載されていますが1次ルールと2次ルールというものがありますが、1次ルールが実体法の部分で、2次ルールが手続法の部分だとすると、まず、基本的に2次ルールが整備されていないというところに課題、原因があると思いました。

1次ルール、2次ルールともに、消費者あるいは消費者団体の関与、実質的な関与、関与していても、その消費者団体のそもそもの位置づけ、これらが低いというのも現状としてあると思います。

そうすると、どういう問題が起こっているかというと、一旦1次ルールがつくられても、自主ルールがつくられても、一旦つくられると、なかなか改正されないということになり、状況に合わなくなってくることが生じているのだと思います。

そうすると、2次ルールを整備して、作成、運用、判断、監視それぞれの段階に消費者団体なり、公的機関が入っていくという組み合わせが、ひとつ有用なのだろうなと思いました。ここまでは感想です。

ここから質問をさせていただきたいのが、14ページの官民パートナーシップのところで、グローバル法を基にした法律の制定というのが挙げられています。

ルールを整備して、ハードローの部分と自主規制、自主ルールの部分とは、完全にどこかで分かれるというよりも、重なり合わないと漏れが生じてくる、空洞化部分がどうしても生じてくる。そうすると、ハードローがあって、保障をと、守ったほうがいいよと、自主的にそれをちゃんと守る、自主ルールを使っているところは、ハードローは一定程度免責される、免除されるが、守らなければ、ハードローが機能する、適用されることになると、自分たちで実践する、守るのだとしても、重なり合う部分が必要だろうと私は考えるのですが、このグローバル法を基にした法律の制定というのは、例えば、どういうものがあるのか、具体例があれば教えていただきたいのと、法に格上げされると、その後、グローバル法はどうなるのか、併存して一緒に運用されているのか、両者はどう運用されているのかというところの具体例があれば、教えてください。

逆に、グローバル法から法にという格上げといいますか、ボトムアップ型というとすると、逆に、法から自主規制のほうに落とし込まれるトップダウン型が生じるときは、法と自主規制の両者は、どのように運用されているのかというところの具体例があれば、教えてください。

○川村教授　ありがとうございます。

まず、いろいろコメントをありがとうございました。

まさに、グローバルローの実効性とか恣意性の抑制とか、そういったものを担保していくためには、二次ルールの確立というものが重要になってきて、分野によっては、二次ルールもつくっているような機関はございます。実際にグローバルローとか、あるいは自主規制というものからハードローに移行したものとしましては、私自身が、国際関係分野の研究をずっとしておりましたので、その消費者保護に関わるかどうかは分からないのですが、多分一番分かりやすい例は、先ほどのマラッカ沖の海賊の取締りというものが挙げられるのではないかなと思います。

海賊というのは、多くの場合、民間人で、しかも、公海で活動するということで、なかなか条約や、国内法で取り締まることが難しかったわけですけれども、実際に海賊が頻発するような地域に、商業船などが行き来すると、海賊問題というのは、本当に大変な問題で、では、どこの国も何もしてくれないのだったら自分たちでやるしかないというところで始まったのが、国際商業会議所を中心とした海賊に関する通報システムですとか、民間の船がほとんどですので、海賊自体を取り締まるということはできないのですけれども、例えば、警備とか、いろいろな点で抵抗していくような、特に一番重要だったのか、通報に関するいろいろなルールですか、そういった事件が起こったときに、では、どういう手続を踏んで、通報するシステムや、情報を共有するネットワークをつくるかというのは、民間の国際商業会議所が中心となって、ずっとやっていたことです。

ずっと民間任せになっていたわけですけれども、やはり民間任せだけでは限界があるというところで、国際商業会議所自体が、国連のECOSOC、経済社会理事会や、あるいはASEANのオブザーバーになっておりまして、会議等で常に働きかけをしており、その結果、マラッカ沖の海賊を取り締まるための公的なASEANの国家間でつくるネットワークシステム、あるいは取締りのための機関というものを設置するところに行き着いたのです。

その機関はクアラルンプールにあるのですけれども、これ自体もICCの海賊対策の本部がもともとあったところで、そことも併設してやっています。

ですので、基本的には、自主規制というものは、いわゆるハードロー、国家とか公的機関がつくるルールがない部分というところで発展しているものがほとんどで、そういったない部分に関しての自主規制というのは重要なのですけれども、やはり活動する主体も、できれば公的な形になったほうがいいというところはずっとあって、ですので、かなり積極的に国際会議等で働きかけるわけです。現在は併設といいますか、公的なものになったから、ではICCのこれまでやってきたことは全部なしにしましたということではなくて、今は公的な枠組みプラスアルファーで、ICC、国際商業会議所を中心に、一緒に協力してやっているという形にはなっております。

法から自主規制になるというのも、場合によってはあり得ることでございまして、例えば日本の国内法では、まだ何もないけれども、EUでは、もうこういう形のルールができているので、業界的にEUのルールに合わせたほうがいいと思われた場合、EUの定義とか、例えば、AIに関する定義とか、あるいはリスクに関する定義を業界の中で、あるいは学会の中で採用するということはあります。ですので、ある種、法律というのは、先ほども申しましたけれども、やはり日本や、その国がどういう方針で、この技術を使っていくかとか、あるいはどういうところは駄目だと示すかという、ある種、対外的な意思表示といいますか、そういうところもありますので、その中で、日本のものがこうなるということも、もちろん考えられますけれども、今は、やはり先端科学技術の分野で、特にAIになりますと、EUが先駆けて法整備をやったということもあって、EUのAI法を国内の自主規制として取り入れるということはございますし、でも、EUのAI法自体も、これまでの自主規制というものを採用するというところもありますので、本当に相互依存関係みたいな形で成り立っているのが、多分うまくいっているところです。そうではないところは、乖離があったり、難しい。二次ルールをつくればよいのですけれども、法律みたいになっていけばなっていくほど、自主規制のいい部分といいますか、柔軟な部分というのが失われることになります。だから、そこのバランスというのが、本当に難しいと思います。

あと、消費者保護に関してですと、近年、特にヨーロッパは、法で規制するというよりは、全てを保険で解決するみたいなところが検討されていて、特にAIに関しては、今、自動運転車等が問題になっていますが、例えば、自動運転車の事故で誰にも過失がないけれども起こってしまう事故というものもがあって、そういうときに、なかなか現行の消費者保護法では対応ができないので、では、どうするかというので、保険によって対応するという形、金銭的なところで解決して、過失の有無を問わずに、その製品自体で事故が起こってしまったと、そこを調査するだけで対応していけないかという議論があります。

ですので、AIの事例のところで書かせていただいた電子人格とか、電子法人格というのですかね、AIシステム自体に法人格を与えて保険加入させるような議論というのが、2016年や17年からEUではずっと続けられています。今、まだ実現するとか、そこまでは全然いっていないのですけれども。

○二之宮委員　ありがとうございました。

○沖野座長　では、引き続き、野村委員から、お願いします。

○野村委員　野村です。川村先生、ありがとうございました。

非常に分かりやすい話でした。私、花王に勤めておりまして、製品をつくったりとか、化学物質に触れたりということを常にやっている企業だと思っております。

通常の仕事の中でも、やはりEUの化学物質の規制があったから、処方を変えていこうとか、製品を変えていこうという話に対応していくことがあったり、人に対して何か試験をするときに、会社の中の倫理委員会で、いろいろ議論を重ねたりということをしたり、ISOを取得したりということがありますので、出てきた法律が非常に私たちには身近だったというのが、まず一つございます。

そして、先ほどおっしゃっていた、団体の自主規制、本当にそのとおりだなと思ったのですけれども、私どもも、石鹸洗剤工業会ですとか、化粧品工業会とか、こういった団体等に加盟をしていて、そういった中で、何か新しい問題があると、自主規制をつくって、そこを守るということをしています。

自主規制が、だんだん浸透してくると、時代が変わっても、これを破るということはなかなか難しい。

でも、新参者もしくは入っていない会社の人たちは、ここを無視して、いろいろなものを発売してきたりということがあるという事態になっております。

そういった中で、今日のお話を聞いたときに、二つ分からないことがありました。いろいろな質問の中で少し解決はされてきているのですけれども、守らない人たちを規制する方法です。自主規制は限界はあるだろうし、そして、特に法律もない中で、守らない人が出てきたときに、どうしていったらいいのかがよく分からなかったというのが一つ目。二つ目はISOは、企業としては取得をして、これを法律ぐらいに守っていく。すごく監査もきちんとしているし、法令遵守ぐらいやっているというのが、精神だと思うのですけれども、これは、何でこんなに全世界で広がったのかというところが、少しヒントになるのかなと思いまして、伺いたいと思いました。

○川村教授　ありがとうございます。

まず、一つ目の質問なのですけれども、守らない人に対して、ここが恐らく自主規制の一番難しいところといいますか、守らない人を出さないことのほうに、恐らくメリットがあって、実際に守らない人、そんなのは気にしないみたいな人が出てきたときにどうするかとなると、業界の圧力とか、そういったところでないと、なかなか難しいというのはあります。

ただ、先ほど二次ルールの説明でさせていただいたように、あるいはISOとか、International Chamber of Commerceとか、そういったところは、守らない人が出てきたら、異議申立てをするような機関とか、あるいは疑似裁判機関みたいなものも置いて、実際に、WTOの紛争解決処理みたいな形で対応する場合もございます。例えば、ISOやInternational Chamber of Commerce、国際商業会議所の中には、ルールを守らない企業と守る企業の間で起こった紛争を解決する機関もあります。

そこで判決が出たのに、それを守らないとなると、国際商業会議所から脱退しなければならない場合や、あるいは、その業界の中でそのような企業の行動は知れ渡るので、そういう企業とは取引しないとか、いろいろな形で社会的なサンクションというのがあるとは思います。ただ、実際に、本当にどのようなことがあっても守らない人をどうするかとなったときは、なかなか自主規制というのは難しいので、できるだけ守らない人を出さないという方向に重点が置かれているというのはあると思います。

もう一つ、ISOなのですけれども、そもそも何でというところ、これは、本当に19世紀ぐらいに、いわゆる国際度量衡委員会という、国際組織の走りみたいなものがありまして、例えば、国境を越えたり、あるいは大陸を超えた貿易が広まれば広まるほど、一つの単位をどうするかというのをみんなで決めないと、例えば、10キロとかでも、今だと本当に10キロは10キロなわけですけれども、当時は10キロにもいろいろ誤差があって、あるいは1メートルとか1フィートにも誤差があって、そこの国際的な規格みたいなのをつくらないと、やはり取引上いろいろと問題があるというところから出来上がった国際組織がありまして、そういったところが、規格みたいなものを19世紀末ぐらいに始めて、でも、半分公的なものだったわけで、国も参加していたのですけれども、そのうち、やはり商業活動を行う上では、国にやってもらうことを待ってはいられないみたいな状況が出てきまして、商品に関する規格ですとか、あるいは安全性の保証になるような基準ですとか、そういったところからどんどん広がって、今や環境保護や人権保護など、いろいろなところまでISOというのが出てきたわけです。最初は、やはり商取引上の利便性のための規格の設置みたいなところから始まったものではあります。

○沖野座長　よろしいでしょうか。ありがとうございます。

では、大屋委員、お願いします。

○大屋委員　すみません、大屋でございます。御説明ありがとうございました。

一つ目は、関係者もいるので、やはり言っておいたほうがいいかなと思うのですけれども、2017年に日本の総務省から国際的な議論のためのAI開発ガイドライン案というのが出ていまして、AI倫理問題について、少なくとも総合的な検討を行うという姿勢では、かなり日本が先んじていた国であると。

もちろん、その同時期ぐらいにIEEEでも議論が始まったり、あるいはEUもAIに関するハイレベル・エキスパート・グループをつくって追っかけてきますので、そんな言うほど早くなかったと言われればそうなのですが、EUが先行していたという事実は、恐らくあまりないと思います。

しかも日本の2017年ガイドラインは、それを基にしてOECDでのソフトロー化の方向に進みまして、それは珍しく成功したのですね。だから日米欧、さらに中国辺りまで巻き込んでソフトローでの解決をしようというスキームが確立しかけたところで、手の平を返して、ハードロー化を始めたのはEUだという図式になると思いますので、EUは、この辺がしたたかなのですよという御指摘は、全くそのとおりだと思うのですが、若干そこは日本の努力というものにも注目をしていただければなと思うところではあります。

それは余計なことでして、もう一つは、先ほどのレックス・メルカトリアなどの話になってくるのですが、恐らく、木庭顕名誉教授辺りに言わせると、その原型はローマ法におけるボナ・フィデースであるという話になってくる。

そこで重要なのは、要するに、通常は手間と金のかかる要式契約しかないところを、ボナ・フィデースの関係の中においては、諾成契約が認められると。したがって、契約コストが極めて低廉になるというところで、その代わり裏切ったらどうなるかというと、そのネットワークから放逐されるわけですね。そういう形でインセンティブがちゃんとついていたから、あのシステムが機能したのだと、恐らく理解することができる。

その上で、先ほどのお話と重なってくるのですが、問題点は恐らく二つあると。

一つは、そのようにインセンティブがかかっているのだけれども、例えば、確信犯的にワンショットで巨大な利得を目指して違反を試みてくるやつがいたらどうするかということである。

今、例えば、船舶について言うと、タンカーの再保険は、ロシアに対する制裁として、一定以上の原油価格で売ろうと思うと、引き受けてもらえないという状況になっていて、結局ロシアのタンカーというのは無保険状態にならざるを得ないということなっているのですが、堂々と運航していらっしゃるわけですね。それは、事故を起こすときは、多分ロシアの海ではないからという非常にとんでもない理由がバックアップになっていて、こういう確信犯的な対象が出てくるときに、なかなかソフトローあるいは自主規制では対処し得ないという問題がある。

もう一つは、かれこれ四半世紀ぐらい前に、こういう話をクリストフ・リュトゲさんにしたのを思い出すのですが、要するに社会がステーブルであって、レピュテーションが蓄積するから、あいつは悪いことやったのだというのがスティグマとして機能するのであって、非常に社会が流動的で、あるいはアイデンティティーを幾らも使い捨てられるような環境だと、そういう自主規制というのは機能しないだろうと。

そのときの背景にあったのは、インターネットとは、そういう場所ですねということで、そうなってくると、やはり、そういう世界において、自主規制をきちんと機能させるためにはどうすればいいかというのは、さらにレベルの高い問題に、恐らくなってくると。

ここが、14ページですね、要するにグローバルな規律の導入の必要性の話と関わってくるところでもあって、②の関係主体と関係要素の複雑化というところで、この話を踏まえておられるのかもしれないと思うのですけれども、例えば、ドローン規制を考えると、例えば、日本が非常にくだらない規制を導入したと、危険極まりない規制を導入したとすると、被害は、恐らく日本国内で起きるわけですね。なかなか日本の場合は、特に国境を越えられませんので、そういう意味で規制主体とその影響の発生地が重なり合っているという関係にある。

こういう場合には、要するに駄目な自主規制は、恐らく撤廃されるとか、あるいは進化していくという形で改善されることが見込めるわけですけれども、インターネットの世界、要するにサービス提供者とサービスを需要する側、利用者というのが同じ場所にいないと、それは国境を越えてしまうし、しかもアイデンティティーを幾らでもつくり出すことができるという環境にあると。

こうなってくると、自主規制がきちんと機能する、あるいはそれがきちんと進化していく基盤自体が存在しないのではないかと。

そうなったときに、先ほどのレックス・メルカトリアとか、ボナ・フィデースが想定していたような地中海における海運とかだといいのですけれども、限られた土地で限られたメンバーでやっているのだったらいいのだけれども、そうではないものが、例えば消費者取引の大宗を占めてくるということになってくると、やはりそこに自主規制ベースの対応の一定の限界というものが出てくるのではないかと思うのですけれども、この辺りについて、先生の御見解を伺えればと思います。

○川村教授　ありがとうございます。

守らない人が出てきたときにどうするかというところ、やはり、そこが自主規制の一番弱いところでありますし、今、先生から御指摘がありましたとおり、やはり狭い業界の中では物すごく有効に働いても、それが利用者とか消費者まで広がったときに、どうやって守らせていくかというのは、本当にそこは難しい問題であるというのは、まさにそのとおりです。

その中で、特にインターネットというところで御指摘がありましたけれども、先端科学技術やインターネットの分野では、消費者はどちらかというと、どういう仕組みで、どうなって動いているかも分からないまま使っているので、何かこれがルールなのか分からないけれども、受け入れないとそれが使えないから、もう従うしかないという形で使っている人がほとんどです。

ですので、その点に関して、自主規制が何かできるかというと、なかなか難しいところがあるのですけれども、例えば、ネット上の商業活動に関して、メルカリとか、アマゾン、マーケットプレイスとか、そういうところでは、売る側も別にプロではないわけで、買う側もそうではないという、そういうところでうまく取引ができるようにするにはどうしたらいいかというので、eBayなどが始めた、いわゆる評価システムみたいなのは、ある種一つ機能していると言えます。それが完全に成功しているというわけではもちろんないですけれども、悪質な売り手側を排除する一つの方法としては、インターネットの社会では有効性がありまして、今もアマゾンのマーケットプレイスなどでも、星を何ポイントを獲得している業者だから安心だとか、ただ、それが絶対的ではもちろんないです。いまや星の獲得などは、お金を出せばできるのだ、みたいなところもありますので、もちろん完璧ではないですけれども、相互に利用者同士の間でのその評価の仕組みというものをつくることで一定程度、幅広いユーザーに広がっていく中でもできるのではないかというところです。

あと、異議申立てができる機関みたいなものをウェブページ上に持っているところがありまして、実際に自分が何か不利益なことを受けて、そこに申し立てれば全て解決するかというと、もちろんそうでもないですけれども、そういった制度をつくっていることで、自主規制に対して、自主規制を守っている人が、守っていない人に対して、オブジェクションができると。

特に、何かそういったもののサービスを提供する側というのは、やはりユーザーの意見というのを、すごく気にするところがございますので、そういった点からも、単に一つの意見だったとしても、何かの改善につながるということは、あり得るということは言えると思います。ただ、難しいというのは、確かにそのとおりだと思います。

○沖野座長　よろしいでしょうか。ありがとうございます。

そのほかに、御発言はありますでしょうか。

○川村教授　すみません、先ほどのEUに関しまして、御指摘ありがとうございました。

ですので、EUももともとは、よく法規制をすると言われるのですけれども、規制法ではなく、いかにEUが、このAIの分野とか、先端科学技術の分野でトップに躍り出られるかというか、イニシアチブを取れるかというところに主眼を置いていると思います。もともとスマートロボットの法規制というところでずっと研究をしていた、ロボロープロジェクトというのがありまして、そちらのほうでやっていたのですけれども、基本的には、いかに安定的に開発、商業化できるかというところから始まっているものではあると思いますので、日本、あるいはアメリカがやっていることから見ると、規制のような感じになると思うのですけれども、どちらかというと、EUはものすごくしたたかなので、研究開発の促進と国際的なイニシアチブをいかに握っていくかというところに主眼を置いているのではないかと思います。

○沖野座長　ありがとうございました。

そのほか、二之宮委員、お願いします。

○二之宮委員　すみません、細かいところなのですが、時間があれば、一点教えていただきたいのが、6ページの先端科学技術のリスク・ガバナンスで分類されている中で、法律以外での管理のCのガイドライン等のところで、(司法での解決)とあるのですけれども、これはどういう場面を言っているのでしょうか。法律がないところで司法による解決というと、一般条項的なものを活用してということなのか、教えてください。

○川村教授　これは、主な事例として挙げますと、AIの規制に関して二つの潮流があって、例えばEUみたいに、法律のようなものをつくって、それで規制というのもあるのですけれども、やはり基本的にはガイドラインとか、開発を促進するために、そんなに強い規制ではなくて、ガイドラインを示して、もし何か起こった場合は、司法の場で判断してもらうというものです。

特にアメリカなどが、この傾向が強いのですけれども、やはり英米法というのは、判例の拘束力が大陸法とは違うので、そういった中で、法律はないのですけれども判決を出していくことによって、できることの外側の枠をつくっていくというのですかね、あるいはできないことの輪郭をつくっていくという形で、法律をつくるという解決方法ではなく、判例を重ねていくことで業者側のできることとか、できないことを見定めていくという形で司法で解決していくということになります。

ですので、ハードローがなくて、ガイドラインとしてあるだけなので、ガイドラインに違反しても別に法令違反ではないのですけれども、裁判の中で何かしらの判断が出たら、それが基準になっていくと。ですので、少し日本の場合とは異なると思います。

○得津教授　多分、私が言うことではないですけれども、日本の法律家に分かりやすい言葉で申し上げれば、要するに一般条項を適用する際に、こういうガイドラインを読み込んでいくというだけなのではないでしょうか。

○二之宮委員　ありがとうございます。

○沖野座長　補足もありがとうございました。

そのほかは、よろしいでしょうか。大丈夫ですね。

では、ほとんど時間が来ているのですが、一点だけ、省略なさったAIガバナンスの事例のところなのですが、ここにも非常に興味深い例を幾つも挙げていただいていると思うのです。その中で、AIシステムあるいはガバナンスというときに、一方で自動運転ですとか、あるいは安全性に関わるものの場合と、それから、むしろ取引自体の適正というか、そういうものに関わるものというのは、一応区別できるのかと思っておりまして、最初の例は、むしろ安全性型のものかなと思っておるのですけれども、それに対しまして、18ページのコロラド州法以下で説明していただいているものは、透明性とか説明責任とか、取引の仕組みなどに関わるもののように思います。インターネット取引などにおけるいわゆるダークパターンへの対応といった課題などを18ページのご紹介は含んでいるということなのかということが一つです。また、今、二つのタイプは少し違うように思うと申し上げたのですが、全く違わないのかもしれません。またこういう二つだけではないとは思いますけれども、安全性が関わるタイプのものと、取引の仕組みをつくっていくようなものとで区別することに意味があるのか、仮にあるとすると、取引ということに着目したときに、特に注意すべき点というのがあるのかということにつきまして、もし教えていただけることがあればお願いします。

○川村教授　ありがとうございます。

まず、16ページのほうの消費者保護に関連したAIの法律の既存の枠内で、どういうことができるかという議論は、主に消費者側といいますか、安全性に関するものであるという御指摘で正しいです。

一方、18枚目のスライドで挙げさせていただいた、これはアメリカのコロラド州と、最近では、カリフォルニア州のほうで州法ができたのですけれども、アメリカは国内法という形ではないのですが、州法として幾つかの消費者保護があります。それでこの州法の基になっているのが、先ほど挙げました大統領令と、あと、AI権利章典ということで、2022年にバイデン大統領が出された新しい形での権利の保障というのをしていかなければならないという、これも法的な拘束力が強いものではなくて、目標といいますか、そういったものにはなるのですけれども、それを基にコロラドとカリフォルニアがアメリカの国内において、州の法律としてつくったものです。

こちらは、もちろん公平な取引においてのルールでもあるのですけれども、これは、ユーザーに対してもというところがありますので、24年のコロラド州法に関しましては、取引の公正性及び安全の保障とか、あるいはユーザーや消費者が、AIがつくったものをAIがつくったものであると認識することによって、自ら選択できるためのもので、それを引いては、消費者保護に役立てていこうというものなので、18枚目に関しましては、御指摘いただいた二点の両方を含むものであるということが言えると思います。

○沖野座長　ありがとうございました。

それでは、そのほか、特に取引に特化してという点は、取り立てて注意すべき点というのはないということでよろしいでしょうか。

○川村教授　その取引というのは、業者間みたいなところですか。

○沖野座長　事業者と消費者との間の取引のための仕組みが、AIによって展開されているような場合ということを考えていました。

○川村教授　24年のコロラド州法に関しましては、業者と消費者との間で、やはり消費者に対して透明性の義務とか、あるいは消費者が使うAIによって提示されるデータなどにおいて、アルゴリズム差別が生じないように、ちゃんとしなくてはいけないというところの義務を明確にした州法になっております。

○沖野座長　分かりました。ありがとうございました。

そのほかご意見やご指摘、いかがでしょうか。よろしいでしょうか。

それでは、おおむね予定した時間ということになりますので、本日につきましては、これで切り上げることにさせていただきたいと思います。

得津先生、川村先生におかれましては、大変貴重な御意見をいただきまして、お時間も割いていただきまして、本当にありがとうございました。

また、委員の皆様におかれましても活発な御議論をいただきまして、ありがとうございました。

それでは、最後に、事務局から事務連絡をお願いいたします。

《3．閉会》

○友行参事官　本日も長時間にわたりまして、どうもありがとうございました。

次回の会合につきましては、決まり次第、お知らせいたします。

以上です。

○沖野座長　ありがとうございます。

それでは、本日は、これで閉会とさせていただきます。お忙しい中、お集まりくださいまして、ありがとうございました。

(以上)

このページの先頭へ