竹詰仁副幹事長（参議院議員／全国比例）は16日、参議院本会議で議題となった人工知能技術の研究・活用推進法案に対する質疑を行った。質疑の全文は以下のとおり。 

令和7年5月16日(金)
国民民主党・新緑風会 竹詰仁

人工知能関連技術の研究開発及び活用の推進に関する法律案
本会議質問

　国民民主党・新緑風会の竹詰仁です。
　会派を代表して、ただいま議題となりました、人工知能関連技術の研究開発及び活用の推進に関する法律案について質問します。

　ＡＩ技術は急速な進化を遂げており、社会構造や我々の日常生活に既に変化をもたらし、今後さらに大きな変化を生み出すことになるでしょう。ＡＩの活用は、産業の生産性を飛躍的に高め、経済成長の強力な起爆剤となるだけでなく、少子高齢化による労働力不足といった我が国が抱える構造的な課題の解決にも有効です。
　我が国が国際社会で競争力を維持・拡大していくためには、ＡＩの研究開発と活用を最重要課題として位置付け、推進していくことが極めて重要となります。このような認識の下、以下質問します。

１．国産ＡＩ開発と海外展開に向けた支援の必要性
　まず、国産のＡＩ開発について伺います。
　2022年に米国のOpenAIが「ChatGPT」を発表して以降、生成ＡＩの開発は、GoogleやMetaなどの海外の巨大ＩＴ企業（ビッグテック）がリードしてきました。
　こうした中、国内のＡＩ開発は苦戦を強いられている状況にありますが、独自のＡＩ開発が進められてもいます。例えば、ＮＴＴの「tsuzumi」（ツヅミ）やＮＥＣの「cotomi」（コトミ）といった日本語大規模言語モデル（国産ＬＬＭ）が実用化されており、これらのモデルは、高い日本語処理能力と軽量性を両立している点で注目を集めています。
　国産のＡＩを開発し、技術基盤を持つことは、経済安全保障の観点から重要であるとともに、ＡＩモデルが開発国の文化や価値観を反映することを踏まえると、日本の文化や社会に適したＡＩを開発する意義は大きいと言えます。
　一方で、国内のニーズだけに焦点を当て過ぎて、海外市場への展開が疎かになれば、国際標準やトレンドから乖離し、いわゆる「ガラパゴス化」に陥るリスクがあり、結果的に国際競争から取り残されることにつながりかねません。
　2024年2月より、経済産業省とＮＥＤＯによりＧＥＮＩＡＣ（Generative AI Accelerator Challenge）という支援プロジェクトが立ち上げられ、生成ＡＩの開発力の強化が図られていることは評価します。一方で、今後は国産ＡＩの技術力を国際競争で取り残されないよう一層高めるとともに、積極的な海外展開に向けた支援が求められると考えます。国産ＡＩ開発および海外展開についての政府の方針について、城内大臣および武藤経産大臣に伺います。

２．被害を未然に防止する観点からの調査等の実施
　次に、ＡＩの研究開発・活用を促進する上で欠かせないリスク対応について伺います。
　本法案第16条では、「不正な目的又は不適切な方法によるＡＩ関連技術の研究開発・活用に伴って国民の権利利益の侵害が生じた事案」などについて、国が調査を行うこととされています。
　条文では、国民の権利利益の侵害をもたらす“おそれ”のあるＡＩについては、調査を実施することは明記されていません。ＡＩに対する不安の声も多く聞かれる中、ＡＩの活用を推進するのであれば、権利利益の侵害が生じた事案だけではなく、国が責任を持って被害を未然に防止する観点から適切な調査を実施する必要があると考えます。本法案に基づき、国民の権利利益の被害の未然防止のための調査について、城内大臣の答弁を求めます。

３．インシデント情報の報告・共有に向けた具体策
　また、本法案第16条では、調査の結果に基づき、国が情報提供等の必要な措置をとることが規定されています。
　ＡＩは、人間の理解が及ばないほど内部動作が複雑となっており、予期しない有害な出力が発生する可能性があるとされています。発生したインシデントに関する情報をＡＩの開発者や利用者等の間で適切に報告・共有することにより、類似の事案の再発防止や、より信頼性の高いシステムの開発等につなげていくことも重要です。
　Ｇ７広島ＡＩプロセスの国際行動規範でも、「産業界、政府、市民社会、学界を含む、高度なＡＩシステムを開発する組織間での責任ある情報共有とインシデントの報告に向けて取り組む」ことが示されていますが、国が情報提供等の必要な措置および産業界、学界、開発者等との間でどのように情報共有等を図っていく考えか、城内大臣に伺います。

４．ＡＩの安全性に関する認証制度の創設
　次に、ＡＩの安全性に関する認証制度について伺います。
　ＡＩの安全な利用を確保するために有効な方法となり得るのが、認証制度の創設です。認証の有無によって、信頼性の高いＡＩシステムを選択し、利用することが可能になれば、ＡＩ利用率が低い我が国での利用率向上につながることが期待されます。ＡＩについては、システムの仕組みや用途が千差万別である上に、出力の予測が困難であるなど、特有の課題があると認識していますが、ＡＩの安全性に関する認証制度の現状と認証制度の創設に対する政府の見解について、城内大臣に伺います。

５．ＡＩ時代を見据えた教育の在り方
　次に、ＡＩ時代を見据えた教育の在り方について伺います。
　スマートフォンへのＡＩの標準搭載が進み、無料で利用可能なＡＩサービスも多く登場するなど、ＡＩは国民生活に身近なものとなりつつあります。本格的なＡＩ時代の到来に向けて、子どもたちのＡＩリテラシー向上が不可欠となっています。
　読解力などの基礎的な学力や、創造性、倫理的な判断能力など、ＡＩの特性を理解したうえで利活用することができるリテラシーを養うため、子どもたちにＡＩに関する教育を充実させていく必要があると考えますが、子どもたちへのＡＩ時代を見据えた教育の在り方について、あべ文部科学大臣に伺います。

６．ＡＩのリスクから子どもたちを守るための取組み
　2023年にユネスコが公表した教育・研究分野での生成ＡＩの利用に関する指針では、生成ＡＩの大部分は大人向けに設計されており、子どもが使用すれば不適切な内容に触れるリスクがあるとし、利用の最低年齢を13歳とすべきとしています。
　主要な生成ＡＩサービスでは利用規約に年齢制限が設けられており、「ChatGPT」では13歳未満の利用を認めず、18歳未満が使う場合は保護者の同意が必要としています。
　しかし、昨年開催されたある自治体のイベントで、イベント担当者が年齢制限の存在を把握しておらず、小学生に「ChatGPT」を操作させてしまった事例があったと報道されています。
　ＡＩのリスクや利用のルールについては、十分に把握されていないのが実情です。ＡＩの適正な利用について社会全体への周知を図るなど、子どもたちをＡＩのリスクから守るための取組が必要だと考えますが、城内大臣の認識を伺います。

７．ディープフェイクへの対応
　ＡＩが悪用されるディープフェイクが大きな問題となっています。
　ＡＩで合成された音声や動画を用いて、有名人を装った詐欺に悪用したり、偽画像や偽動画を使った情報操作や世論工作に悪用する、といった事案が発生しています。ディープフェイクは名誉棄損や著作権侵害等の犯罪ともなりえます。
　一方で、ディープフェイクの作成や配布を取り締まる場合、憲法上の表現の自由との兼ね合いが問題となるとの指摘もあります。
　ＡＩが進むにつれてディープフェイクに対して量・質ともに対応していく必要があります。ディープフェイクへの対応について、城内大臣の考えを伺います。

８．ＡＩの普及に伴う電力需要への対応
　次に、ＡＩの普及に伴う電力需要に関する課題について質問します。
　ＡＩをめぐっては、今後も大規模な基盤モデルの開発や、自動運転やロボットなど幅広い分野での活用が広がっていくことが予想されます。これらを背景に、ＡＩの利用に必要となるデータセンターの電力消費量は今後10年間で10倍以上増加するとも見込まれています 。
　発電、変電、送配電の増強など、ＡＩの普及を踏まえた電力の安定供給に向けた取組の方針について伺うとともに、電力と通信の効果的な連携を図るための取組である「ワット・ビット連携」の実現に向けた検討状況について、武藤経済産業大臣に伺います。

９．採用活動など人事分野のＡＩ活用
　最後に、採用活動など人事分野のＡＩ活用について伺います。
人事分野におけるＡＩ活用については、学習データに偏りがあるために生じる差別、学習データやそのアルゴリズムが見えないことによる公平性への疑問、またそれにより不利益を受ける可能性など、人事分野の議論が成熟しておりません。
　採用活動など人事分野のＡＩ活用について城内大臣および厚生労働大臣の考えを伺います。

以上