第10回 人工知能（ＡＩ）技術の利用と消費者問題に関する専門調査会 議事録

日時

2026年9月18日（金）15:00～16:32

場所

消費者委員会会議室・テレビ会議

出席者

（委員）
【会議室】
小塚座長、丸山座長代理、大塚委員、岡崎委員、加藤委員、坂下委員、田中委員
【テレビ会議】
野村委員、馬籠委員
（オブザーバー）
【テレビ会議】
鹿野委員長、大澤委員、柿沼委員、善如委員
（説明者）
【会議室】
落合 孝文 渥美坂井法律事務所シニアパートナー弁護士／プロトタイプ政策研究所所長
（事務局）
小林事務局長、小堀審議官、三谷参事官

議事次第

  1. 開会
  2. 議事
    消費者によるＡＩ技術の適切な利活用に向けて
    （１）ＡＩ技術の消費者の意思決定プロセスへの影響に係る主要法域の制度的対応に関する委託調査
    　　　概要報告（事務局）
    （２）有識者ヒアリング（落合孝文　渥美坂井法律事務所　シニアパートナー弁護士/プロトタイプ政策
    　　　研究所　所長）
  3. 閉会

配布資料 （資料は全てPDF形式となります。）

このページの先頭へ

≪1．開会≫

○小塚座長　皆様、お忙しいところ、お集まりいただきましてありがとうございます。

定刻となりましたので「消費者委員会人工知能（AI）技術の利用と消費者問題に関する専門調査会」第10回の会合を開催いたします。

本日の出欠状況ですが、こちらの消費者委員会の会議室に、大塚委員、加藤委員、坂下委員、田中委員、丸山座長代理と、私、小塚がおります。また、岡崎委員は、もうすぐお着きになると伺っております。

それから、野村委員と馬籠委員がオンライン、テレビ会議システムにて御出席ということです。

オブザーバーの消費者委員会の委員の皆様ですが、本日、鹿野委員長、大澤委員、柿沼委員、善如委員が御出席くださっております。

それから、本日は、渥美坂井法律事務所の落合弁護士に御発表をお願いしております。落合弁護士にも会議室にお越しいただいております。どうぞよろしくお願いいたします。

それでは、いつものように進め方について、事務局から御発言をお願いいたします。

○江口企画官　本日はテレビ会議システムを活用して進行いたします。一般傍聴者にはオンラインにて視聴いただき、報道関係者のみ会議室にて傍聴いただいております。

議事録につきましては、後日、消費者委員会のホームページに掲載いたします。議事録が掲載されるまで、ユーチューブでの見逃し動画配信を行います。

配付資料につきましては、お手元の議事次第に記載してございます。もし不足の資料がございましたら、事務局までお申し出くださいますようお願いいたします。

以上です。

○小塚座長　ありがとうございました。

≪2．（1）ＡＩ技術の消費者の意思決定プロセスへの影響に係る主要法域の制度的対応に関する委託調査概要報告（事務局担当者）≫

○小塚座長　それでは、本日の議事ですが、議事次第にありますとおり（1）で「AI技術の消費者の意思決定プロセスへの影響に係る主要法域の制度的対応に関する委託調査概要報告」ということです。

事務局から外部委託をされまして、今、申し上げたような委託調査をしたということで、その成果についての報告をいただくということです。

なお、今日の進め方ですが、この議事1の後、質疑を挟まず、議事2の有識者ヒアリングに進みまして、その後でまとめて質疑をいただきたいと思います。落合弁護士は法律の先生でもいらっしゃいますし、そのほうがよろしいかと判断をいたしました。

それでは、事務局から御説明をお願いいたします。約20分と承知しております。

○福島補佐　では、事務局より御報告させていただきます。2ページを御覧ください。

まず、本御報告の趣旨でございますけれども、本専門調査会では、国際社会のAI政策に大きな影響力を有します主要国地域であります欧州連合「EU」、そして米国、中国につきまして、AI技術が消費者の意思決定に与える影響への対応として、どのような法制度を設計し、運用しているのかという観点から、当該三法域の法制度に係る委託調査業務、以下「本調査」と呼ばせていただきますけれども、こちらを実施させていただきました。

そちらに書いておりますとおり、米国は連邦が調査対象となっておりまして、各州につきましては連邦の調査に必要な範囲で、また、50州全てを網羅的に扱っているわけではありませんので、あらかじめ御了承願えればと思います。

本御報告は、第9回本専門調査会資料1の2として全文を公表してございます。本調査の報告書、こちらは「本報告書」と呼ばせていただきますけれども、タイトルは「人工知能（AI）技術に関連した消費者の意思決定保護の観点からの海外主要国・地域の法制度に係る文献調査」、こちらの概要についてまとめたものでございます。

そして、本報告では、特に報告書の中から各法域それぞれの特徴を中心にまとめたものとなっております。

1点注意点なのですけれども、本報告書では、記載の事実関係について、いずれも令和8年9月9日時点のものとして扱っておりますので、その後の動きにつきましては調査対象に含まれておりませんという点につきまして、あらかじめ御留意願えればと存じます。

では、次のページをお願いいたします。まず、EUについてです。

EUにつきましては、こちらのタイトルにございますとおり「包括的な基本法を軸とした制度整備とその運用の進展」というタイトルでまとめられるかと思います。

特徴といたしましては、包括的法令以下「AI法」と言わせていただきますけれども、これにより達成すべき要件を規定しつつ、AI法外部の整合規格・行動規範等をAI法内部に組み込む形で実装しているという点がございます。

具体的には、AI法によりまして、AIシステムのもたらすリスクの程度に応じて義務の内容を変える単一の枠組みというものを構築してございます。

リスクなのですけれども、特に許容できないリスクをもたらす禁止行為といたしまして、AI法の第5条が以下の規定等を規定してございます。

読み上げさせていただきます。

「潜在意識に働きかける技法、意図的に操作的な技法又は欺瞞的な技法を用い、情報に基づく意思決定を行う能力を著しく損なうことによって人の行動を実質的に歪め、それにより当該者が本来行わなかったであろう決定を行うこととなり、その結果、重大な害を生じさせ、又は生じさせるおそれがある場合」とございます。

しかし、禁止行為につきましては、基準日時点で、第5条を適用した行政の執行決定及び司法判断のいずれも確認ができていないという状況でございます。

次に、高リスクAIシステム及び汎用のAIモデルにつきましては、AI法で遵守すべき法的要件を規定し、欧州標準化機関が作成し、官報に掲載してございます整合規格（harmonised standards）の訳でございますけれども、こちらに適合した場合、当該要件への適合が推定されるという強力な法的効果を与えられます。これにより履行を確保することが目指されていると解されております。

とはいえ整合規格につきまして、基準日時点で官報に参照が公表されたものは確認できておりません。さらに加盟国の所管当局の設置の遅れ等により、基準日時点で完全施行には至っていないという状況でございます。

さらに汎用AIモデルにつきましては、欧州委員会の十分性評価を経た、任意の行動規範につきまして、法定義務への適合性の推定は付与されないものの、法定義務への遵守を示すために依拠することができると規定されているものでございまして、実務上の手段となり得ると考えられております。

では、次のページに行っていただいて、これらの規律を根拠づける事実関係についてでございます。

AI法前文におきまして、操作的・欺瞞的技法及び利用者の脆弱性の悪用により、人の自律性・自由な意思決定が損なわれるおそれがある旨が示されております。

もっとも上述の「おそれ」につきましては、立法過程における意見募集等において、任意参加者から寄せられた意見に基づいておりまして、必ずしも統計的に偏りがないとは言えないものとなっております。

したがって、立法上想定された弊害の全てについて、確実な実証的根拠による裏づけを有すると判断することは困難といえるかと存じます。

次に「消費者の意思決定への影響に係るAI法以外の法制度」というところでございますけれども、消費者の意思決定の保護はAI法のみによって担われているわけではございません。不公正な商慣行に関する指令、消費者の権利に関する指令、デジタルサービス法、DSAといいますけれども、こちらがそれぞれの適用範囲に応じて適用されるという仕組みでございます。

なお、AIに限らず、消費者の自由な選択をゆがめるデジタル環境のデザイン自体の新たな規制法として、デジタル公正法というものが立法提案の準備段階にございますけれども、基準日時点で提出が確認できていないということでございます。

それでは、米国に話を移らせていただきます。

米国につきましては、既存法令の解釈を通じた規律形成と州法との関係というものが着目されます。

特徴といたしましては、連邦レベルでは、法令改正によらず、既存法令に基づく執行を通じた政策運営が行われる一方、州レベルでの立法が先行的に展開する政策環境にあります。

具体的に言いますと、連邦レベルでは、まず、基準日時点でAIを対象として横断的に規律する法律は、存在が確認できておりません。

しかし、AIを用いた消費者の意思決定プロセスにとって問題となり得る行為が法的に放任されているというわけでもなく、以下の3層の規律に、州法の先行が加わった法政策が展開されていると表せるかと存じます。

3層といいますのは、まず第1に連邦取引委員会、以下「FTC」と呼ばせていただきますけれども、FTC法第5条の不公正・欺瞞的な行為等を規制する一般条項。

第2に、取引類型ごとに設けられた個別の連邦法・規則。

そして、第3に、法的拘束力を有しない任意のNIST AI RMF、こちらは連邦政府機関である米国国立標準技術研究所（NIST）策定のAIリスクマネジメントフレームワークというところでございます。

①、②につきましては、AIの利用自体が規律対象というわけではございませんで、既存法令上の禁止行為該当性により、違法性が判断されるという仕組みになっております。

また③につきましては、連邦レベルでは準拠、認証、承認する制度は確認できておりませんが、本報告書の第2章3（1）記載のとおり、一部州法におきまして参照がされているという状況でございます。さらに、③を利用して体制整備を図っている関連事業者も少なくないと見られております。我が国におきましても、経済産業省、総務省策定のAI事業者ガイドラインとの対応関係が整備されている点も注目に値するかと考えられます。

次に、FTCの動きといたしましては、基準日時点で最終的な声明には至ってございませんが、直近で、以下の政策声明案を公表してございます。

1点目は、AIシステムに関し、AIの正確性に関する事業者の表示と実際の挙動との乖離を欺瞞として捉える大統領令に基づく声明案。

2点目が、FTCが個別化価格の一律禁止の権限は付与されないとした上で、消費者が、価格は自己の個人情報によって変動しないと合理的に期待する場面において、個別化されている事実、その根拠及び用いた情報の種類を明確かつ顕著に開示しないことが違法となり得るとする声明案でございます。

では、次のページをお願いいたします。

以上のような動きの背景事情となる調査について、御報告させていただきます。

まず、FTCによる市場調査、個別事案での執行や議会での公聴会等が問題の実態把握、政策・執行方針の検討材料として機能しているという実態がございます。

FTCは、令和7年、前政権下で開始したAIに関する欺瞞的な表示等を対象とする一連の執行のうち、サービス提供命令等の命令を取り消すなど、執行の重点が調整されつつあることが伺えます。

また、FTCは同年、大手AIチャットボット提供事業者7社に対し、キャラクターの設定、収益化の方法、児童・若年層への悪影響の測定、その緩和策等について市場調査を行ってございます。

なお、昨年報道でも話題になりましたカリフォルニア州の16歳の少年の両親が、対話型AIの利用により少年が自殺に至ったとして、事業者を提訴した事案等、対話型AIによる一般利用者の被害が問題された民事訴訟につきましては、基準日時点で、事業者側の責任の有無に関する裁判所の判断は確認できていない状況でございます。

では、次のページをお願いいたします。

州法との主な関係とございますけれども、冒頭にも申し上げましたとおり、全米50州を網羅的に調査した結果ではない点に御留意いただければと思います。

まず、連邦と州法との主な関係として、立法事例につきましては、個別化価格に関する立法につきまして、連邦レベルでは、消費者ごとに異なる価格を提示する行為を規制対象とする連邦法案が提出されておりますが、成案には至ったことが確認できていない状況でございます。

なお、こちらの連邦法案は、FTCによる、本資料５頁記載の政策声明案に先行するものであり、個人データを用いる価格の設定に対する懸念を共有するものと整理ができるかと存じます。しかし、両者の連動までは確認ができていないという状況でございます。

他方、州レベルでは、メリーランド州等で対象商品・事業者を限定する形で、既に複数の立法が成立しているという状況でございます。

また、対話型AIに関する立法につきまして、カリフォルニア州等におきまして、対話の相手方として機能するチャットボットに関する開示義務等が規定されております。

規制手法につきましては、規制の試行制度、サンドボックスの法定につきまして、ユタ州等において、AIに特化した試行制度が法定されているところでございます。

では、次のページをお願いいたします。中国に入らせていただきます。

中国につきましては、分野別規律の段階的拡充と行政運用による規律の具体化、と整理が可能かと存じます。

特徴といたしましては、個別分野ごとの規律を短期間で積み重ねつつ、行政手続を通じて実質的な判断基準を具体化するというアプローチを取っております。

規律の展開といたしまして、左の四角囲いを御覧ください。

まず、令和4年3月、インターネット情報サービスのアルゴリズム推薦を対象とする規定。

続いて、令和5年1月、深層合成を対象とする規定の施行。

そして、同年8月、生成AIサービスを対象とする暫定弁法。

そして、令和7年9月、AIにより生成・合成された内容の標識に関する弁法。

そして、令和8年7月、AIの擬人化された対話サービスを対象とする弁法が施行されました。

こちらの①、②、③、⑤は、法形式の1つである部門規章であり、また④は行政処罰を設定できない行政規範性文書ということでございまして、位置づけが若干異なるという点に御留意いただければと思います。

また⑤につきましては、本専門調査会で中心的に議論をいただいてきた問題意識につながる部分も多うございますので、次頁で詳細を御報告させていただければと思います。

右の四角囲い、行政による実施ということでございますけれども、以下の①から④の手法を組み合わせているという点に特徴がございます。

まず、①届出・安全評価等による事前手続。

②約談といいまして、当局が事業者を呼び出し、是正を求める手続でございます。

③期間を区切った集中的な取締り。

そして④標準の策定というところでございます。

以上のように中国では、行政上の対応が規範の追加に先行するという構造が見られます。ただし、行政による執行について、集中的な取締りの成果が総数として公表される一方、把握できる確定事例は制度上限られるということです。したがいまして、事例が確認できないからといって執行が行われていないわけではないという点に十分御留意を願えればと思います。

では、次のページをお願いいたします。

先ほど申し上げました「AIの擬人化された対話サービスを対象とする弁法について」というところでございます。

こちらの特徴は、生成AIによる対話サービス一般に適用されるものではございませんけれども、中国国内の公衆に対し、自然人の人格的な特徴、思考の様式及びやり取りの様式を模倣し、感情面への配慮・寄り添い・支援等を含めた、継続的な感情の交流を提供するサービスが規制対象となってございます。

とりわけ、感情面への働きかけのうち、依存・のめり込みを誘導して利用者の現実の人間関係を害する過度の迎合、こちらが第8条第5号に規定がございます。そして不合理な意思決定を誘導して利用者の適法な権利利益を害する感情の操縦、こちらは同条の第6号に規定がございます。これらを明文で禁止した点に特徴を有すると考えられます。

判断基準といたしまして、過度の迎合といった場合に何が過度なのかといったような点、また、感情の操縦といった場合に何が操縦なのかを判断するための確定した基準は、基準日現在で確認できておりません。その具体化は、行政上の手続の運用、例えば安全評価、書面審査、約談等に委ねられていると考えられます。

本規律に先行した行政の動きといたしましては、制定に先立ちまして、令和7年6月、対話型AIサービス提供事業者に対する、上海市インターネット情報弁公室の約談が公表されたところでございます。

ただし、当該約談が同弁法の制定を目的として行われたこと、または制定の原因となったことを示す公表資料は、基準日現在で確認できておりません。

では、最後のページになりますけれども、AI技術の意思決定プロセスへの影響に係る三法域の規律の基本構造を図としてまとめさせていただいたので、こちらを後ほど御覧いただければと思います。

そして、四角囲いでございますけれども、三法域の規律には、以下の共通点が見られる点を指摘させていただきたいと思います。

まず第1に、AIに固有の規律のみで、消費者の意思決定の保護が完結しているわけではない点。

第2点といたしまして、AIという技術それ自体を一律に規律するのではなく、用途、機能、リスクまたは具体的行為に応じて規律を設計しております。

また、第3点、いずれも基準日時点におきまして、制度が完成した状態にない、このような共通点が見られます。

事務局からの報告は以上となります。

○小塚座長　ありがとうございました。それでは、先ほど申しましたように、これに対する御質問や意見交換につきましては、議事2と併せて行うことにさせていただきます。

≪2．（2）有識者ヒアリング（落合 孝文 渥美坂井法律事務所 シニアパートナー弁護士 ／プロトタイプ政策研究所 所長）≫

○小塚座長　そこで、議事2ですけれども、有識者ヒアリング、消費者によるAI技術の適切な利活用に向けてということです。

先ほども少し申し上げましたけれども、渥美坂井法律事務所より、シニアパートナー弁護士、そしてプロトタイプ政策研究所の所長ということでお越しいただいております、落合孝文弁護士でございます。

落合弁護士の御紹介ですが、デジタル分野を中心に、官民のルール形成や実務形成に関する業務に従事されておられて、また、総務省のAIネットワーク社会推進会議AIガバナンス検討会の委員を、私とも一緒にさせていただいているということをはじめとして、様々な省庁の審議会委員として御活躍でございます。

それから、実は今、事務局から概要を御報告いただきました、各国比較の報告書も落合弁護士のご所属の法律事務所のほうで受託作成をいただいたということです。

本日の御講演ですけれども「AI技術と消費者の意思決定の保護　三法域の比較と我が国のAIガバナンスへの示唆」ということでお話をいただけると承っております。

大変恐縮ですが、20分ぐらいでいただければと思います。その後、質疑応答、意見交換にさせていただきます。

それでは、どうぞよろしくお願いいたします。

○落合弁護士　ありがとうございます。御紹介いただきました落合と申します。

それでは、私から資料の御説明をさせていただきます。

では、次のページをお願いいたします。

本日の発表の内容についてです。本日の発表は、先ほど事務局から御報告をいただきました調査報告書のうち、EU、米国、中国にする部分の作成に関っわらせていただいた内容です。この3つの法域について、報告書の後半、第4章に、示唆についての分析を書かせていただいております。本日はその内容を御紹介します。また、調査の対象外ではございますが、こういった機会もいただきましたので、英国や豪州、韓国、シンガポールなども、多少の範囲ではございますが、調べた上であわせて御説明します。

それで、最後の部分で発表者としての所見を御説明させていただきたいと考えております。

では、次のスライドをお願いいたします。

まず、段階といいますか、場面を分けて考えることが分析に資することもあるのではないかということで、1つ整理をさせていただいています。

まず、段階としましてⅠ、Ⅱ、Ⅲと書かせていただいておりますが、意思決定の材料の提供になるのか、それとも過程へ介入するのか、もしくは、さらに代替をしてくるのか、こういう場合もあろうかと思っております。

また、場面としても事業者による決定であるのか、ある種のAIが消費者による委任を受けているものなのか、ここについては、それぞれ区分を有する場合であろうかと思います。

特に前者の場合ですと、事業者による決定の透明性、公正性の問題もあろうかと思います。必ずしも後者の場合と、分析が全部一致するわけではないように思っております。

では、次のスライドをお願いいたします。

消費者の側から見た場合にどういった規律があるのだろうかという点を、かなり大まかにではございますので、分類学自体については、また御議論をいただいたほうがよろしいかと思いますが、幾つか分析をさせていただいています。

1つが、個別化した取扱いをされることに関する認知、これを知ることができるかどうかという点です。

また、2つ目として挙げさせていただいているのが、不合理な差別的な取扱いをされていないことです。さらに、3つ目として、不合理な差別的取扱いだけではなく、個別化した取扱いをそもそも強制されない形ができるのか、こういった点が、個別化をされないような選択肢を持てるのだろうかという点があろうかと思います。

4つ目としましては、AIによる影響が認知できるかどうかです。さらに5つ目として、影響だけではなく、感情や心理面に対する働きかけにより、判断がゆがめられていないのか、こういった点があるのではないかと思っております。

では、次のスライドをお願いいたします。

本日の視点ということで、3点ほど書かせていただいております。まず、1つが各法域の調査を改めて行わせていただきまして、このAIに関しましては、特に規律を設けることと、それを設けたら終わりとするかは、また別の話であろうと思っております。

米国などは裁判例を中心に、その執行の状況に、連邦法がないこともあって、よりフォーカスさせていただきました。実際それぞれの国において執行といいますか、それが民事によるものなのか、行政的な手続によるものなのか、いずれにせよ、運用し続けることもございます。ただ、そういった規範を具体化して更新するような仕組みを組み込んでいる側面があるとは思います。やはり新しいものに新しく対応していこうとすると、迅速性を持った意思決定、そういう政策決定もあるかと思うので、それが続くと、逆に何が起こるかよく分からないという、予測可能性が低下するおそれがある、この両面があろうかと思います。それぞれ課題がある中でどういうバランスを取っていくのかは、テーマによっても、もしくは国によっても考え方が違う点があろうかと思います。

続いて、第2点としましては、法的効果の幅や、継続的な是正に関する部分です。もちろん事業者にどこまでの取組を求めるか、さらに、新しいことに対して、法令外の枠組みにどのような法的効果を付与するのか、これは少し各法域において必ずしも同じ取組ではない点があろうかとは思います。一方で、共通していると思われる点としては、継続的にリスクの発見と、それに対する是正を行っていくという考え方を組み込む点があるのではないかと思っております。

第3点としましては、事案の把握や、分析結果を執行や、もしくは規律そのもの、法令であったり、政策の場合もあるかもしれませんが、こういったものに反映する仕組みが重要になってくると思います。

それで、我が国においてはAI法の16条において調査研究がございますので、それをどう活用するのかが重要な論点であって、本日もそれに関係するものなのだろうと思っております。

では、次のスライドをお願いいたします。

本日、改めて短い時間でありますが、ここから述べさせていただくものとしては、規律の手法と、先ほど5つの分類を分けておりましたが、各法域においてどういったものを規律しているのか、あとは意思決定の代替の段階について、規律が届いているのだろうかという点です。また、法的効果、救済手段、さらに制度を技術の変化にどう追随させるか、先行することはどうしても難しいと思いますので、ついていくことになるのだろうと思っております。それで把握をして、それを規律の更新につなげることについても少し検討しております。

では、次のスライドをお願いいたします。

こちらで、規律の手法に関して対比をしています。個別化されたものに対する認知という意味で言いますと、EUの場合ですと、AI法における対話の告知や、DSAにおける広告表示などといった方法で認知が図られる場合があると思っております。

一方で、米国の場合は、もともと規律自体は若干異なりますが、FTC法において欺瞞的な行為を規律していることがございます。また、州法については、どこまでの内容のものができているかは州によりますが、個別化された価格について開示をする場合もあろうかと思っております。

中国においても、アルゴリズムの推薦規定について、この認知に関する部分があると思います。

それで、不合理な差別的な取扱いの防止については、EUでも、これは一般的な法制によっている側面もあると思います。米国においても州法による部分が大きいのではないかと思います。

中国の場合については、アルゴリズムの推薦規定や、価格行為といった点があろうかと思っております。

個別化を強制されないかについては、これはやや限定的な部分もあろうかとは思いますが、DSAの38条、特に超大規模なオンラインプラットフォームに関する推薦システムということで、特に絞った範囲で整備がされていると思います。米国においては明示的にこの部分に対応するものはないようにも思われます。

中国においては、アルゴリズムの推薦規定があるようにも見受けられます。

AIの影響の認知については、EUにおいては、やはりAI法がございますので、そこが認知の部分についても役割を果たしており、米国においては州法によって対応されている場合があると思います。

中国においては、標識弁法での影響の認知に関する部分があろうかと思います。

さらに、感情心理への作用という意味では、EUにおいては、AI法の定めがございますが、米国においては、やはり州法によることとなります。一方で、中国においては、先ほど事務局からも詳細に御説明いただきましたが、擬人化弁法における取組がなされていると思います。

では、次のスライドをお願いいたします。

法的効果の幅について、書かせていただいております。これについては、先ほどの事務局の資料の中でも一部触れていただいた部分もあったかと思います。例えば、整合規格に適合している場合に、その規格が対象とする要件への適合を推定する効果もございます。また、サイバーセキュリティなどの関係については、別に整備されておりますサイバーレジリエンス法所定の条件を満たす場合には、AI法上のサイバーセキュリティ要件への適合をみなす仕組みもございます。推定を与えない場合も文書としてはございます。AI法における行動規範は、こういった内容になっていると思います。

一方で、これは米国の話にもなりますが、例えば要件を満たしていれば、責任が阻却され得ることとして、これは米国のテキサス州法や、また、期間内の是正をすれば訴訟や制裁を回避し得る形のものも、米国の州法などでは定められている場合もございます。

一方で、試行制度の特例ということで、ここはサンドボックスという言い方のほうがなじみがあるかもしれませんが、こういった部分に係る条件つきの過料の賦課や、是正期間の設定、民事制裁金の減額、訴追の制限、こういったものが整備されている欧州法や、米国州法もあります。

それで、法定の免責・適合の推定を確認できない任意の枠組みもあり、シンガポールの枠組みなどについては、どちらかというと、こういった枠組みになると思います。

そういった枠組みという意味では、米国のNISTのフレームワークも比較的著明であると思います。これは任意の枠組みでございまして、連邦レベルでは、法令との関係で効果があるわけではありませんが、州法との関係では一定の要件のもとで参照される場合があるものになっております。

では、次のスライドをお願いいたします。

そして、制度を技術変化に対応させるための仕組みを見ていきたいと思っております。

これはEUの場合でも、例えば、この整合規格や行動規範のような、いわゆる純粋なハードローだけではない仕組みを組み合わせていくことがございます。市販後の監視や、規制のサンドボックスの整備、こういったものも1つの技術変化に対応させていく取組になっているように思います。

米国においては、法令改正によらない執行方針の変更といった点があろうかと思います。

まず、こういったEUと米国の点を触れてきましたが、例えばEUの場合も規格の整備や、当局の準備があって、ハイリスクAIに関しては、適用日は繰り延べをすることになりました。なかなか思ったとおりにうまくやることは誰しも難しい点があろうかと思います。

一方で、米国の執行方針の変更も、対応が早くなるという側面がありますが、予測可能性がどこまであるのかという側面はあるようにも感じられます。

中国については、その対象を絞った規範の順次の追加や、いわゆる強制性のある国家標準、さらに集中的な取締りといった方法、また約談といった方法などもなされています。

それで、中国の場合ですと、規律と技術標準を組み合わせて制度を段階的に具体化する側面があると思います。ただ、いわゆる暫定と書いてあるものでも、上位の法に基づく部門規章として拘束力を有する場合もございますので、暫定という言葉も、日本で言うと、暫定と言うとあまり効力がなさそうに見えますが、必ずしもそうとは限らないと見ていただくのがよろしいかと思います。

英国についても見てまいりまして、英国については、AIに固有の法令はつくっていないところはございますが、消費者法に関する執行手続の変更や、AIエージェントに関する事業者向けの指針などを整備している状況と思います。

韓国につきましては、AI基本法を整備しており、この中で言うと、EUに近いタイプであろうかとは思います。ただ、義務は施行しつつも1年以上について、事実調査・過怠料について、運用の猶予といったことを行っている状況もございます。

次のスライドを、また、お願いいたします。

事案を把握して対応につなげる経路の違いですが、これは、どちらかというと、紛争であったり法執行の現れ方という形で見ていただけると思います。

米国においては、私人による訴訟、また、FTCによる対話型AIの市場調査といったものがあって、さらに、FTCにおいては民事制裁金を執行することもございますので、訴訟等による解決も多くなされている側面はあるように思います。

一方で、中国においては、その個別の事案に対する約談や集中的な取締り、対象を絞った規範の追加など、そういった取組がなされている状況がございます。

こちらは、どちらかというと、ルールという点と、法執行の状況自体は、中国については必ずしも公表されていない点があり、よく分からない面があります。ただ、一定の取締りを行ったことや、働きかけをしたりしている事実自体は、中国の場合でも公表はされていますので、そういった状況はあるように見受けられます。

それで、EUにおいては、AIについては事前規制型になろうかと思います。ただ、AI法だけではなくて、DSAや一般的な消費者法における行政の執行もございます。DSAにおいてはインターフェイス設計においても執行が行われる点があると思います。

基本的に、これはかなり制度や仕組みが違う点がありますので、そのまま日本につなげられるものではないのだろうとは思います。ただ、それぞれどのように考えて工夫をしているのだろうかということ自体は、日本においても工夫をしていくに当たって参考になり得るのだろうと見ていただくとよろしいのではないかと思っております。

続きまして、11ページにおいて、AI法の調査研究の位置づけについても検討をさせていただきました。

ほかの法域においては、先ほど来、御説明させていただいたような事案を把握して、対応するための複数の経路、法的手続そのものなのかは必ずしも明確ではありませんので、経路という言い方をしております。一方で、日本においては、AI法の16条において事案の分析と、それに基づく対策の検討は、そういった意味では非常に重要であり、動きが速い分野においては中心的な役割を持つ条文の1つであるのだろうと思います。

16条には、調査研究とその結果に基づく指導・助言、情報提供等が定められていると思います。

立入検査や、強制的な制裁を定めているものではございませんが、ここでの把握や分析をした結果を、既存の指針等の更新や、既存の一般法制の執行であったり、事業者の取組の改善にどうつなげていくのかは、なし得る部分があるのではないかと思います。

そういった事業者にとっての予見可能性も、どう組み合わせていくのかもあろうかと思います。誰がどう更新をしていくのか、その更新をしていくときに、どういう法的効果が付与されるのか、これは様々な方法があり、海外の例は御紹介いたしましたが、日本で全部同じことができるかは、また別問題ではございますが、そういう選択肢自体も様々工夫をして、組み合わせをされている場合があるように思います。

その次のスライドをお願いいたします。

一旦このスライドまでとさせていただきますが、この検討として、議論の方向性として、私が検討させていただいた中では、やはり、各法域においても、EUもAI法をつくっており、非常にAIに関して事前規制型ではあろうかと思いますが、そのほかの法令を、やはり生かしている点はあろうかと思います。

そういった中で、既存の一般法制がAIを用いた行為にどこまで及ぶのかもございます。その上で、できない部分があるのであれば、固有の規律の要否を検討することが考えられるようには思います。

EUについて述べさせてはいただきましたが、当然ながら米国などは、より一層一般法に寄っていることになろうかと思います。中国においても、生成AIなどを念頭にした法令も多数ございますが、それ以外の法律も当然組み合わされることになろうかと思います。

また、事業者の取組に対して、どういう形で法的効果を設計していくとよいのかという点があろうかと思います。

例えば、欧州においても適合推定や、一部免責等といったこともあったかと思いますが、どういう要件を設けるかが、制度設計上の選択肢になり得るのではないかと思います。どのくらい強い効力を持たせるのかについて、諸外国を見ていても幾つかパターンはあろうかと思います。

ただ、この際に、恐らく重要ではないかと思いますのは、技術の変化や、社会の変化が速い中ですと、継続的なリスクの発見と、さらにそれに是正をする取組につながる形で、法的効果を設計していくことが、諸外国で検討されているものの中でも1つ、重要なポイントになっているのではないかと思いました。

3番としましては、把握・分析をする中から規範の更新や、執行への循環も重要ではないかと思います。

AI法の16条において、事案の把握や分析をした結果を、さらに、既存の一般法制の具体化や、その改正、更新、法執行につなげていく循環を、AI法において政府の取組の循環自体として定めたものだとは思います。それを様々な法令の制度のアップデート、そういった設計の中に組み込んでいくことになると、AI法が果たす役割もより大きくなるのではないかと思っております。

以上です。

○小塚座長　どうもありがとうございました。

それでは、本日の議事1と議事2をまとめまして、御質問、御意見などをいただきたいと思います。

議事1について、もちろん資料は事務局としてお出しいただいたものですので、その資料のまとめ方に関する御質問などは、事務局に向けられる面もあるかと思いますけれども、内容は、今の落合弁護士の御報告の中でも引用していただいていることもありますので、落合弁護士にも、ぜひお答えいただける部分をお答えいただけますとありがたく存じます。

それでは、いかがでしょうか。

丸山座長代理、お願いします。

○丸山座長代理　御報告ありがとうございました。

御報告の枠組みに関連するようなことについて、3点ほど確認させていただければと思います。

まず、第1点ですけれども、落合弁護士の資料の3ページ、事務局の1ページの報告の趣旨等の関係で確認させていただきます。

意思決定に対するAIの関わり方としましては、例えば、事業者が用いたAIがハルシネーション等によって、消費者に誤った情報等を与えて損害が生ずるといった場面も考えられると思います。

既に知られている事件としましては、カナダの航空会社のチャットボットが誤回答をして、結局裁判では航空会社の不実表示責任が肯定されているといった事件もあると思います。

このような場面は、本報告書では取り上げられていないという理解になるのか、それとも射程には入っているけれども、既存の法解釈に委ねられているので顕在化しなかったという理解になるのか、これが第1点の質問でございます。

質問だけ出してしまいたいと思います。

第2点としましては、落合弁護士の資料の7ページで、事務局の7ページに関連してなのですけれども、価格の個別化の位置づけについて確認させてください。

本報告書においては、価格の個別化を取り上げた理由というのは、事業者が価格に関する意思決定をAIが代替する場面だから取り上げたのか、それとも、価格の個別化がされることによって、消費者が価格の比較とか価格の認識をしづらくなるので、十分な情報に基づく意思決定が困難になる、ですので、消費者の意思決定に影響を与える一場面として取り上げたのか、ここを教えていただきたく存じます。いずれにしましても価格の個別化というのは、AIに限定されずに生ずる問題でございますので、これを取り上げた文脈と理由について、整理をさせていただければと思いました。

最後、第3点なのですけれども、直接御報告の中では取り上げられていない、資料で言いますと、14ページ辺りになると思うのですが、AIエージェントによる意思決定の代替につきまして、現状では、一般法の解釈に委ねられているというのは、そのとおりであると思うのですけれども、ただ、現行法の解釈は分かれる可能性がありまして、UNCITRALの自動化契約モデル法やヨーロッパ法協会のモデル準則が既に公表されております。

こういったモデル法などの準則の影響というのは、私自身は無視することはできないと考えているのですけれども、こういったモデル法、モデル準則というのは、事務局からの調査委託の範囲外であったので取り上げていないという認識でよいのかと、そうであれば、本調査会の懸念事項への対応に関係するような提案がモデル法ではされていると思うので、何らかの形で資料に加えることについては、事務局のほうに相談したいと思います。以上の3点につきまして、教えていただければと思います。

○小塚座長　まず、委託の範囲だけ事務局から御説明いただけますか。

○福島補佐　ありがとうございます。

本委託の範囲につきましてですけれども、落合弁護士が第2点で御指摘いただいたとおり、消費者の意思決定のプロセスに係る一場面について、それに関わる問題点というところで委託をさせていただいているところでございまして、代替につきましては、非常に重要な問題であるというところではございますけれども、本委託の範囲外というところでございました。

○小塚座長　ありがとうございます。

テーマ的にもそうですし、それから、国連国際商取引法委員会、UNCITRALにせよ、それからヨーロッパという地域ではありますが、ULIという民間団体の提案にせよ、委託調査の範囲ではないですね、ということでいいですね。ありがとうございます。

しかし、落合弁護士は、そういう動向も御存じかもしれません。それも踏まえて、落合弁護士の有識者としての御意見をいただければと思います。3点、どの順番でも結構でございます。

○落合弁護士　ありがとうございます。

そうしましたら、まず、1点目の御質問がハルシネーションによる消費者の意思決定に対する悪影響につてであったかと思います。

これは、必ずしも報告書外といいますか、今回の発表用に調査していたものだったように思います。たしかブリティッシュコロンビア州のトリビューナルの2024年の事案として、航空会社のウェブサイトのチャットボットが誤った情報を提供したことについて、合理的な注意を尽くしていなかったとして、過失による不実表示を認めたものがあったように思っております。

これは、どちらかというと、カナダの事案だったようには思っておりますが、そういった点については、若干ながら触れさせていただいていたと思っております。

ただ、これは裁判所の判決そのものではなかったように思います。また、カナダ自体は、その調査自体の対象ではなかったと思いますので、参考情報ということで、お答えをさせていただきたいと思っております。

また、英国の競争・市場庁などの指針に関して、AIエージェントを用いる場合についても、消費者法上の責任がなくならないとしている点や、FTC法5条における欺瞞、EUの不公正な商慣行に関する指令に関する誤認惹起などが、関係するポイントとしてあるのではないかと思っております。

続きまして、2点目が、価格の個別化に関する位置づけです。調査の中では幾つかに分けていたと思っております。1つが個別化されている事実の開示そのものを求めるものがあったと思います。これは、EUの消費者の権利に関する指令や、ニューヨーク州法ないしコネチカット州法などが、こういった部分に関係していたように思っております。

それで、不合理な差別的な取扱いそれ自体については、どちらかというと、中国における消費者権益保護法実施条例であったり、アルゴリズム推薦規定などがあろうかと思います。米国で言うと、州によって要件は異なりますが、個人データに基づく価格設定を禁止する例があったかと思います。州法ごとに細かい点までは答えられない部分もありまして、申し訳ございませんが、報告書で分かる限り説明をさせていただいてございます。

3つ目としましては、推薦や検索的な結果について、個人的な特徴に基づかない選択肢自体を求めるもので、これは中国にもありますし、また、EUのDSAなどでもあったかと思いますので、価格そのものを個別化しないように求める権利とは、若干違うようにも思っております。

全部お答えし切れているかはありますが、関係している点として、たしかそうだったと思える点を申し上げさせていただいておりますので、これが、まず2点目の御回答になります。

3点目としましては、AIエージェントに関する意思の代替についてでございます。

AIエージェント自体に関する、いわゆるガイダンスのようなものも含めて、まだ、各国で非常に整備がされてきているというよりも、今年も、シンガポールなどは比較的早かったかと思いますが、整備をされてきている途上であったかとは思っております。

先ほど、英国にも触れさせていただきましたが、要するに、そういった主要な規律の整備も含めて先進的に検討している各国においては、次第にAIエージェントに関する議論も出てきているように思っております。

一方で、たしか米国のE-SIGN法などに関しては、電子エージェントの作用が、拘束される者に法的に帰属する限り、その使用のみを理由に効力を否定してはいけないとされています。これは、消費者の保護とは違う話で、責任の帰属の話のように思いますが、たしか、そういう規定があったように思います。中国における電子商取引法などにおいても、自動情報システムを使用した契約締結、履行等について、法的効力を有することを書いていたように思います。これは、法的効力が否定されないほうを書かせていただいている場面であり、先ほどの英国についても、どちらかというと消費者法上の責任がなくならないといった話を述べているくらいのものではあります。それが、さらに意思決定の構造や、過程との関係で精緻に分析されてルール化されている段階にまでは、まだ至っていないように思います。ある一定程度の安全対策につながるような技術基準などが、まだ比較的先行しているのではないかと思っております。

私の分かる限りで、お答えさせていただきました。

○丸山座長代理　ありがとうございます。

私としては、例えば価格の個別化に介入する理由というのは幾つかあると思いますので、事務局が整理されるときに、そこに注意していただければという、そういう趣旨でございます。ありがとうございます。

○小塚座長　ありがとうございます。

丸山座長代理がおっしゃることは、私もそうだと思っていまして、例えば、価格の個別化について、直接個別化を禁止したりするのではなくて、AIによって価格の個別化をしているという事実を消費者に告知しなさいと、こういう規制をしているという場合にも、それが、AIを使って個別化しているということを知る権利があるという、それ自体が、いわば目的の規律である場合と、それから、本来は、やはり価格の個別化自体がいけないという立法趣旨があるのだけれども、例えば、立法機関の管轄の問題であるとか、あるいは実効性の問題とかでそれができないので、その手前のところで開示という形で対処していると、これは、出口としては同じ規律を取っているようでも、立法の趣旨などは全然違いますから、その辺りは、事務局としては丁寧に整理をして、必要があれば、受託者としての渥美坂井法律事務所といろいろと意見交換をした上で、まとめていただきたいと思っています。

それでは、オンラインから馬籠委員から御質問があるということです。馬籠委員、お願いします。

○馬籠委員　ありがとうございます。質問をさせてください。

法務的なところになかなか疎いもので、リスクの発見というところを質問させていただきたく思います。事業者向けに対してというところで、継続的なリスクの発見をというお話があったかと思うのですけれども、こちらは、どのようなものが考えられるのかなと思っております。例えば、広告代理事業社としては、データを使ったターゲティングみたいなことを、AI広告が進んでいく中でも扱ったりするかなということを思っておりまして、それがどのように人に影響してしまうものかみたいなことを、テストで取っていくとか、どのような継続的なリスクの発見方法が考えられたりするのかなというところを伺いたく、質問をさせていただきました。よろしくお願いいたします。

○落合弁護士　御質問ありがとうございます。幾つか方法があると思います。

1つ目の方法としては、事前規制や、運用中の対応を規制する手法、これを事業者側に責任を持ってもらうものがあろうかと思います。

EUの中でも、そういうリスク管理のシステムや、市販後の監視など、こういった部分の義務を設計することで、提供後も継続して検知をする仕組みを整えることを制度の内部に入れていくことがあろうかと思います。また、中国においても擬人化弁法などの中で、安全評価と届出といったものがあったかと思います。こういったものも、その安全評価を行っていく際に、例えばデータの取扱いや、そういった利用者に対して、極端な結果が起きることがないかといった点を分析したり、そのほかの様々な保護措置などについて見ていく点を、評価した上で対応してもらうこと自体を求めていくことがあると思います。

第2点目としましては、もちろん当局において、自ら実態を把握していく方法もあるとは思います。

これは、米国で言いますと、FTC法に基づく市場調査などがなされておりまして、対話の相手方として機能するAIチャットボットについて調査を開始していることもございます。中国においても集中的な取締りなどにおいて、そういった対応を行っている側面があろうかと思っています。

第3点としましては、今までの方法としては、事業者が事前に管理する方法と、当局においてできる限り調べる方法と、最後に紛争や執行の場面で事後的に出てくるものがあると思います。

米国の場合ですと、私人による訴訟とFTCによる執行の双方がございます。FTC法なども含めて、対象範囲が広くなりがちですので、あまりルールがなくても紛争化自体をすることができる場合もあります。さらにその中で、いわゆるディスカバリーなどの手続もございますので、そうすると事業者側の内部情報も結果的に出てくる場面があるということがございます。

それで、FTCであったり、EUもDSAにおいて、インターフェイス設計に対する執行など、そういうこともありますので、こういった幾つかの方法があると思います。

ですので、それぞれ、先ほども様々な方法を述べるときに一長一短があることをなるべく述べるようにしてまいりました。どの方法もこれだけやっておけば安全だという方法はあまりないとは思いますので、座長も先ほどおっしゃっていましたが、我が国の関係する所管省庁が、何をどうできるかといった点も御考慮の上で組み合わせていただくことが、合理的な解決になりそうに思います。諸外国も日本から見ると、少し見えにくい点があるとは思います。やはり、非常に広く網をかけている法律があるから、どうしてもそちらに寄ってしまうといった点はやはりあります。ただ、他方で、そういった幾つかの方法はございますので、いずれにしても事業者が、うまく対応することによって、法的な義務や、その責任の有無といった点も1つの意思決定のインセンティブになるように、うまく設計がされていると、協力をしてもらうことの実効性がより高まりやすいのではないかと思います。

以上です。

○馬籠委員　ありがとうございます。非常に参考になります。

確かにインセンティブが何がしかあると、皆さん、取り入れやすく、また、行っていきやすくなるのかなと思いました。

○小塚座長　重要な点であったと思います。

そのほか、いかがでしょうか、どなたからでも。

加藤委員、お願いします。

○加藤委員　今日はありがとうございます。

私から1点だけなのですけれども、消費者の救済の件なのですけれども、今回の調査の範囲の中に、附録のA4というところですかね、17ページになるかなと思っているのですけれども、集団的救済の位置づけというのは、今回の調査の範囲だったのかどうかということと、損害賠償請求をするときに集団的な救済が可能になっているのかどうか、AIに関してですが、その辺りを教えていただけたらと思います。

○落合弁護士　ありがとうございます。

今回の基本的な調査の対象としましては、AIと意思決定に関する部分として、法制度がある法域については、主に法制度そのものを調べることとし、米国については、なかなか連邦法が少ないこともございますので、執行の場面なども注目して進めさせていただいておりました。一部触れさせていただいていた点もあるとは思います。

EUにおきましては、代表訴訟に関する指令もございますので、そういった方法も、1つの手法としては定めております。ただ、AI法そのものでは、独立の損害賠償請求権を整備していたわけではなかったように思いますので、救済自体は、別途、そういった不公正な商慣行に関する指令に基づく国内法化や、契約法、不法行為法、製造物責任などの法令によって救済をされてくる面があろうかと思います。

米国の場合については、いわゆるFTC法5条では、消費者の私的訴権は認めていないところでありまして、どちらかというと、当局自体がある種主体となって民事制裁金などの執行に向かっていくことがあると思います。救済そのものについては、州法において消費者保護法や、一般民事法がそれぞれ異なる形で法整備されていることがございますので、例えば、対話的なAIに関する被害では、カリフォルニア州におけるRaine事件など、幾つか対象になっていたものもあったと思っております。

中国は、消費者権益保護法で損害賠償はあったように思いました。消費者協会による公益訴訟もあったとは思いますが、あまりそれの結果自体がどうなっているかは調べていないところでございます。

それで、先ほどのFTC法については、幾つか執行した例を見ております。いわゆる消費者関係や、民事に関する、例えばクラスアクションなど、そういったものを分析しているというよりも、執行に関してもFTC法や、著名な裁判例の判断例そのものを見ている部分が多いと思っております。

○加藤委員　ありがとうございます。

私の個人的な希望なのですけれども、集団的な救済に関わる部分も今後必要になってくるかなと思っていまして、そこの辺りの整理を事務局のほうで何らかの形で資料化していただけると非常に助かるなと思っています。ありがとうございます。

○福島補佐　よろしいでしょうか、補足をさせていただければと思います。

○小塚座長　どうぞ。

○福島補佐　落合弁護士におかれましては、まず、救済の部分については、委託の範囲ではございませんで、先生の御厚意、また、先生方の御厚意で報告書に随分記載していただいておりますし、また、このA4の記載にも触れていただいているということでございます。

○小塚座長　情報はあったほうがよいということはそうなのですが、加藤委員が、これから、やはり集団的な救済ということが大事になってくるとお考えになる、その御趣旨をもう少し語っていただいたほうが、事務局としても受け止めやすいと思います。

○加藤委員　ありがとうございます。

そもそも日本で集団的な救済というのがしづらい状況にある中で、EU、米国、ちょっと中国は分からないのですけれども、そういった他国が集団的訴訟という形で消費者の救済を図っているというのが耳に入っておりまして、日本で、なかなか実現できていない部分を何らかの形で今後検討していくに当たっては、その情報が必要なのではないかなと思いまして、発言いたしました。

また、AIという特殊な技術に関わってきますと、自分自身がその被害を受けていることにすら気づかないような状況に陥っている中で、どれだけの消費者が被害に遭っているかが分からないという、その部分でいうと、AI法第16条の調査というところで、恐らく把握していくしかないのだろうなとは思ってはいるのですけれども、その分からない中で、多くの消費者被害を救済していく手法として、やはり重要なのではないかなと思いまして発言いたしました。

○小塚座長　ありがとうございます。

特に、そういう集団的被害救済の制度についてどう見るかというのは、制度は、日本も含めて、いろいろな国に関連する制度があるとしても、いろいろな見方があると思いますが、その集団的な制度を使うとなると、何か共通の利害とか共通の損害がなければいけないということを強く言い出すと、AIについて非常にそれが言いにくい状況になるわけですね。ですので、その辺りを、とりわけ制度を持っている国はどう考えているのかということは、確かに興味がありますね。

そういうことで、実際には、加藤委員が言われるように、気がついてもいないような消費者が、気がつくためには、むしろ、そういう動きがあったほうがありがたい。それが、気がついたところで、自分の受けた損害と、あの人が受けた損害が違うということで、やはりそれは集団になりませんと言われると、非常にこの制度は使いにくいと、そういうジレンマがあるのだと思いますので、事務局は、そういうことにアンテナを張って、どのように受け止められるかは、また検討してください。

それでは、よろしいですかね。

では、大塚委員、お願いします。

○大塚委員　ありがとうございます。

落合弁護士、大変貴重な、そして、報告書も含めて大変詳細な御報告をありがとうございました。今後、AIに対する規制を考える上で、貴重な参考資料となろうと思います。

その上で、特に日本の今後の規制の在り方を考える上で、関連する2点の質問をしたいと思います。

1点目は、事務局資料に関連するのですけれども、事務局資料の10頁目で、EU、米国、中国の3つの法制が比較されております。その一番上の横断的な制定法の有無という点に関連いたします。

EUでは、AI法というのがあり、これに対してアメリカでは、少なくとも連邦レベルでは横断的な制定法はなく、なおかつ一般法による対応がされていると。

これに対して中国では個別のAI、AIの中でも個別のものに順次対応していくという形になっているかと思います。

では、日本ではどうするかという話になると思うのですけれども、落合弁護士のほうで、この3か国あるいはさらにいろいろな国の法律を調べられて、それぞれのメリット、デメリットというものをどこにお感じになられたのかということを、お示しいただければと思います。

既に、報告の中でも、あるいは先ほど馬籠委員との質疑の中でも折に触れてお示しいただいたかと思いますけれども、改めて整理して御提示いただけますと幸いです。

それに関連する2点目の質問ですけれども、今度は落合弁護士の資料の12ページ目、最後の検討2の議論の方向性のところで質問がございます。

1番のところで、今後の規制の在り方として、まず、一般法制でどこまでAIに規制が及ぶのかを確定した上で、固有の規律の要否を検討するのが望ましいだろうというお考えを示されております。

恐らく日本の立法文化というのは、そういう形で議論がされてきたのだろうと思いますし、あるいは研究者としては、こういった議論をしていかなければならないのだろうと思います。

ただ、実際に立法をして規制していこうと考えますと、こういった一般法制の射程を確定した上で立法作業をしようとすると、どうしても遅れといいますか、時間がかかってしまうと思います。

そういたしますと、ある種一般法制がどうなるかということを棚上げして、まず、暫定的にといいますか、取りあえず、立法をかぶせて規制をしていくと、そういった消費者保護の対応をした上で、あとで調整をしていくという立法の在り方も考えられるかなと思います。

それこそ御報告いただいた各国の法制度というのは、日本よりはかなり先行して、立法が、あるいは規制がなされていると思います。

そういった先行する各国の立法の在り方といいますか、どういう考え方で、一般法制との調整をしながら、このように早く規制をしているのか、そこに日本として見習うべき点はあるのか、その点、何かお感じになられたことがございましたら、御教示いただけますと幸いです。よろしくお願いします。

○小塚座長　2点とも実質的な内容に関わることなので、落合弁護士からお願いします。

○落合弁護士　御質問いただきまして、ありがとうございます。

まず、1点目でございます。横断法制を制定することの意義について御質問いただいておりますので、特にEUにおいてどういう形だったのかも振り返りながらお答えしたいと思っております。

EUの中では、御承知のとおり、AI法がございますので、世界の中でも、そういった意味では、大塚委員がおっしゃった横断法制的な側面がある法律であると思っておりまして、先ほども御紹介した韓国や、幾つかの国には、GDPRほどの影響ではないようには見受けられますが、影響を及ぼしている場合もあるという状況であると思っております。

一方で、EUの中で、例えば、このAI法と、最近話題になっているフィジカルAIなど、こういったものの関係を考えていきますと、いわゆるEUの中ですと、機械規則といった、別の機械自体に対する規制もございます。機械規則側の、要するに規格と、さらに、AI法の側の規格と、また、先ほども述べさせていただいたようなサイバーレジリエンス法とは別に、サイバーセキュリティ法も、たしかEUはあったと思います。そちらには認証制度があり、一定の認証等に基づき、その対象となるAI法上のサイバーセキュリティ要件への適合が推定される仕組みになりますので、これを全部やっていくと、どういうことになるかというと、それをｎ掛けるｎで掛け算して適合性を見ていくことになります。これもこれで、例えばAIだけを取ってみればよいかもしれませんが、この方法を全体で行っていくと、そういうコンフリクトが非常に起きてしまいますので、そうすると、やはり整合性をどういう形で取るのかが、逆の論点としては出てくるかと思います。

ただ、ある視点を見たときに、必ずどこかに関係するものがあるという意味では、よろしいとは思います。ただ、EUの中でも射程として、いわゆる、どちらかというと、業規制といいますか、そちらに近い側面が、やはりAI法も強いようには思っております。いわゆる不法行為責任や、民事責任もしくは刑事責任のような点について、もちろん一定の行為に罰則をかけることや、損害賠償の対象になることなど、そういうことはありますが、そこに対して包括的に整備をすることまではできていないように思います。そこまでいってしまいますと、全ての法が包括法になってしまうので、さすがに、どの国においても論理整合性が保てなくなるおそれもあると思いますので、なかなか難しいのではないかとも思います。

一方で、米国などの場合で言いますと、その横断法制については、恐らく、ある種のFTC法が著しく広く横断法制化してしまっておりまして、それがFTCの様々なドキュメントや、もしくはFTCの民事制裁を経た裁判所の裁判例の集積という形で、後から事後的に具体的なルール化をされることで、横断性が形成される部分もあろうかと思います。

ただ、最終的に、事後的に裁判例によることとなりますと、予見可能性は必ずしも高くなく、事後的な妥当性は高いかもしれませんが、数も多く、どこを見るのか分かりにくい点もございます。一方で、FTCも事前に様々な執行方針の説明や、文書を公表したりすることはやられていますので、単純に事後的な裁判例の形成に面的に委ねてしまうとすると、やはり幾ら訴訟の国のアメリカであっても、さすがにやり過ぎなのだろうということになるのだと思いますので、そういった意味でのバランスを取るポイントはあるのだろうと思います。

中国は、先ほど大塚委員がおっしゃっていただいたように、割とプラクティカルな方々だと思わないではない面もありますので、困った面というか、中国ならではの消費者被害が出る点も、見ているとかなり散見されるように思います。例えば、顔の情報も、以前、別の調査で調べたときも、家に入るときの顔のデータを不動産会社がキャプチャーして、それを顔認証で取引できるものに悪用して、勝手に高額品を買ったといった、あまり考えられないような、そういう方法もあるのかと、ある意味驚いてしまうものもあります。ただ、やはりそこの悪用のされ方の傾向が大きく違うというか、ある意味、それは非常に賢い人がいるのだろうとは思います。ただ、それに対応する側面も、かなり強く課題対応型である点もあると思いますので、中国もそういう形で進められているように見受けられます。

もう一点、御質問をいただいておりますのが、一般法制をどこまで規定していくのか、全て見ていくのは、なかなか難しいのではないかというのは、おっしゃっていただいたとおりかとは思います。全ての条文を対象とするものではないと思います。やはり、どの国、法域においても、たとえEUであったとしても、例えば生成AIであったら、その場合、生成AIサービスが出てきた後に規則案を変えたりするときは、やはりこのポイントが重要なのではないかというところで、取り出して追加して改定をしていったり、デジタルオムニバスなどで、一部、既存法令の考え方を変えていく場合でも、全部を対象とするというよりも、この部分が特に影響があるのではないかと考えられます。最終的に出来上がったものだけを見ますと、非常に広くできている場合であっても、やはりその中に軽重があり、実際に、成立当時の議論などを見たりすると、特に主要なテーマは存在するように思いますので、やはり特に重要な点を先行的に取り扱っていくことが重要なのではないかと思います。米国においては、連邦法では、それはやられておりませんが、州法が競争してそういうことを行う中で、ある種、我が州がいいという競争なのかもしれません。アメリカは、州だけで欧州全体ぐらい大きいのかもしれませんので、州を足していくと、そういう中で争って立法されている側面もあるのだろうと思っております。

ですので、必ずしも全部ではありませんが、他方で、一般法で整備できている部分もかなりあって、それを使っていくほうがより早いというのも、やはり現実としてあると思いますので、その上で、やはり論点になっている点を特に明確化していただいて、そこを優先的に進めていただくのがよいのではないかとは思います。

以上です。

○大塚委員　ありがとうございました。

予測可能性を担保しつつも、法領域ごとの矛盾を生まないような法整備というのが必要なのだなということが、大変理解できました。

先ほど、丸山座長代理との御質疑の中でも、恐らくAIとは関係しない消費者法との規律の切り分けというものも御議論になっていたと思いますので、そういうところも考えながら、今後、議論を整理していくのが重要なのかなと思いました。ありがとうございました。

○小塚座長　ありがとうございました。

そのほか、いかがですか。

どうぞ。

○坂下委員　どうも御説明ありがとうございました。

1つだけ質問があるのですけれども、12ページ目の四角の3の落合弁護士の私見というのは私も同感で、自動運転でも何でも技術的な進展が進んでいる場合は、ポストマーケットサーベイランス、いわゆる市場よく見て更新する必要があると思います。

その上で、1つ質問があるのですけれども、AIの今回の3か国のものを見ていると、AIは、簡単にいうと無償版と有償版とあるではないですか。無償版も有償版も契約ですね。それで、私的な整理では、代替と、それから委任、委託というものと、あと代理というのに分かれると思うのです。機能として使っていくものになるのか、AIエージェントのように任せっきりにしてしまうのか、それともジャック・バルキンが言っていた情報受任者みたいな、もう代わりにやってくれとなってしまうのか、そのような議論というのは、各国ではないのですか。

○落合弁護士　ありがとうございます。

ここは、消費者自体が、AIに対してどのくらい依拠していくのか、そこを分析していくという、そういう話ではないかと思います。

それにつきましては、やはり、各国で一概に申し上げるのは、少し難しい点はあるかとは思います。ただ、やはり従前よりも、先ほど発表させていただいた資料の中で言いますと、先ほど委員からの御質問の中でもあったと思いますが、消費者がAIの働きかけに気づかない、又はそれに対して関心を払わなくなる場面が増えてくるのではないかと思います。そのため、注意喚起のための説明や公表、通知のプロセスを制度に組み込む取組が進められているのではないかと思っております。

しかも、AIの働きかけには、消費者が気づかない形で行われるものと、精神的な依存につながるものがあるのではないかと思います。例えば、夜からChatGPTとの会話を続け、朝まで起きていたという方も、周りにおられるのではないかとは思います。また、そういったAIを使っていると、あくまでAIと話していないといけなくなってしまうことや、過度な精神的な依存に対してどう考えるのかが課題となります。それによって、例えば自殺をする人が出たりする事例も出てきています。そういった点で、法執行につながる事案も出てきているように思います。まずは、そこの意思決定や、そこに働きかけをしていく点の話が、より出てきているように思います。

まだ、完全に委任して代替できるレベルなのかというと、ある程度、慣れてお話はずっとしているかもしれませんが、買い物を全部AIにしてもらうという状態にまでは、まだ至っていないように思われます。米国などでは、エージェンティックコマースといった言葉も出てきているようにも思われます。ただ、さらにAIを使った買い物依存という話までは出てきていなかったようにも見受けられますので、少なくともそこの意思決定の代替は、行おうと思えば幾らかできなくはない場面もあるのだとは思います。その感情への働きかけや、無意識的な介入のようなものに比べると、あまりそこまで至っていないように思われます。そこの代替に関する議論は、必ずしもそこまで進んでいないように見受けられます。その責任は何らかの主体が負うのだと言っているだけで、従来の法を読んでいくと、そのようになりそうであるという、そのくらいまでしか言っていないようには思われます。

代替することに関しては、日本人のほうが、もしかすると比較的抵抗が文化的に少ない可能性もあるかとは思いますので、そういった意味では、日本の中でもどうなのかは、別に見ていただいたほうがよいのではないかとは思います。

○坂下委員　ありがとうございます。

落合弁護士の御指摘は、契約の法的効力と消費者の意思決定の保護ということの溝をどう埋めるかというのを、多分、突き詰めないとっておっしゃっているのだと思うのですね。

それを考えていくと、そこのグラデーションをある程度定義をして進めていかないといけないのではないかなと思って質問しました。ありがとうございます。

○落合弁護士　もう全くおっしゃるとおりだと思います。様々なプロセスはあると思います。ただ、従来の議論では、最終的な意思決定に着目する傾向があったように思います。もっと働きかけの仕方が、粒度が細かくなってきているかと思いますので、それは、もう少しプロセスを明確に書いていただいて御検討いただくのがより適切な分析につながるのではないかと思います。

○小塚座長　そのほか、いかがでしょうか。

そろそろよろしいですか。

時間ではありますけれども、特にオンラインからもないですか、大丈夫ですか。

それで、時間と言いながら、私のほうから確認だけさせていただきたいのですが、今、坂下委員が発言の頭でおっしゃったところなのですけれども、落合弁護士の今回の御提言で、AI法の16条というものが、各国いろいろな制度を持っている中で、日本の法体系の中では、これがうまく活用できるのではないかとおっしゃっている。それで、これは調査研究と書いてあるわけですが、具体的に、例えば、運輸事故調みたいに、事故が起こって調査するというのも調査ですけれども、もっと広く市場あるいは技術の中で、社会としてリスクを認知して、それで、あるべき方向性を見いだしていく、そういうことに使えるのではないかと、そういう御指摘で理解していいですか。

○落合弁護士　座長におっしゃっていただいた趣旨でございまして、必ずしも個別調査だけではなく、やはり基本的な利用状況や、それによる意思決定に対する影響がどういう形で現れているのかを見ていただくことは重要だと思います。恐らくAIを使って便益を享受する点も、もちろんあります。一方で、そこで作業が楽になったことや、少しお話ししてよかったということだけではなく、消費者にとって実質的な便益があるかを検討することが重要だと思います。事業者側がより上手にAIを使えるのだとすると、消費者が合理的かつ安心して利用できるよう、どのような支援の仕組みが必要かを考えておいていただくのがよいのではないかと思います。

○小塚座長　分かりました。ありがとうございました。

非常に我々の調査会にとって、大変有意義な御意見、また、情報もたくさんいただきまして、落合弁護士、本当にどうもありがとうございました。

≪3．閉会≫

○小塚座長　それでは、本日の議論は、このあたりにさせていただきたいと思います。

事務局から連絡事項がありましたら、お願いいたします。

○江口企画官　本日は、ありがとうございました。

次回の本専門調査会につきましては、確定次第、事務局より御連絡させていただきます。

以上です。

○小塚座長　ありがとうございました。

それでは、本日は、これにて閉会とさせていただきます。

皆様、お集まりいただきまして、どうもありがとうございました。

(以上)

このページの先頭へ