政府における生成AIの利活用方針

3.1　政府における生成AIの利活用方針

生成AIの政府での利活用は、情報漏えいや不適切な表現の生成等のリスクを伴う一方、様々な事務作業や事務手続の効率化・高度化を実現し、働き方改革や国民サービスの向上等行政の進化と革新を飛躍的に進める可能性がある。加えて、今後、社会全体での安全・安心なAIの活用の推進や日本のAI分野における国際競争力の向上を実現するためにも、政府において率先してAIの利活用に取り組むことは、極めて重要である。

このため、各府省庁は、生成AIについて、以下に取り組みつつ、積極的に業務での活用を検討することとする。

① 各府省庁は、AI統括責任者（CAIO）の設置等AIシステム統括監理の体制整備を行う等、AIガバナンスの強化に取り組むこと。

⇒「４　AIの利活用促進とAIガバナンスの強化及び推進のための体制構築」を参照。

② 各府省庁の生成AIの調達・利活用を行う全ての者は、生成AIの便益とリスクについて理解すること。

⇒「５　生成AIによる便益とリスクを理解した利活用推進」を参照。

③ 各府省庁の生成AI調達・利活用を行う者は、生成AIのリスクを軽減するための方策を把握し、それぞれが適切なリスク対策を実施するとともに、生成AIシステムの品質向上や利用方法の工夫による利用効果の増進を図ること。

⇒「６　政府における生成AIの調達・利活用に係るルール」を参照。

その際、生成AIの活用を政府全体で着実に進めるため、各府省庁は、内部管理系の業務等リスクが低いと考えられる生成AIの利活用について、スピード感を持って実装を進める。

また、相対的に高リスクである可能性がある生成AIの利活用（後述の「3.2　高リスクな生成AI利活用の考え方」を参照）であっても、行政の進化や革新をもたらす取組については、適切なリスク対応を行った上で、可能な限り安全かつ効果的なAIプロジェクトとして実施していけるよう、その取組を後押しする。

このため、各府省庁は、行政の進化と革新につながるような生成AIの利活用を積極的に推進するとともに、当該ユースケースにあわせたリスク評価を行い、高リスクの可能性がある生成AIの利活用について、当該プロジェクトの内容、リスク軽減策や運用時を含めた品質確保策等を、「先進的AI利活用アドバイザリーボード」に報告することとする。「先進的AI利活用アドバイザリーボード」は、官民及び国内外における政府AI利活用のベストプラクティス、ルール整備及び生成AIシステムの評価手法の確立等の状況を踏まえた、助言を行うこととする。

さらに、各府省庁は、行政の進化と革新につながるような利用方法の発掘や、各府省庁において利活用する生成AI全体の機能性や品質及び費用対効果の向上に努め、必要に応じこれらについて上記「先進的AI利活用アドバイザリーボード」の機能や、後述する「AI相談窓口」の機能を有効活用することとする。

3.2　高リスクな生成AI利活用の考え方

各府省庁のAI統括責任者（CAIO）は、企画者と連携しつつ、ユースケースにあわせたリスク評価を行い、そのリスクレベル（高リスクの可能性が高いか否か）を適切に判断する。

　各府省庁のAI統括責任者（CAIO）は、企画者と連携しつつ、リスクレベルを判断するにあたり「【別紙１】高リスク判定シート」（以下、「高リスク判定シート」という。）[^18]も参考にした上で、判断すること。「高リスク判定シート」は、表４に示すリスク軸に沿ってリスクレベル案を示すものである。

高リスクに該当する可能性が高いと判断した場合には、先進的AI利活用アドバイザリーボードに報告を行うこと（※高リスクに該当する可能性が高いと判断しない場合であっても、必要に応じて、AI相談窓口又は先進的AI利活用アドバイザリーボードに別途相談可能）。

AI相談窓口や先進的AI利活用アドバイザリーボードへの相談等を踏まえ、AI統括責任者（CAIO）はユースケースのリスクレベルを判断する。

なお、「高リスク判定シート」は、回答結果を踏まえ、以下のフローに基づき、高リスクの判定が行われるよう、設定されている（「図１　リスク判定ロジック」参照）。

図１　リスク判定ロジック

※　リスク判定の例

実際には、必ずしも表４のリスク軸を形式的に適用するに止まらず、生成AIシステムの具体的な利用の在り方（例：C②の前提として、生成内容の出典が容易に参照可能となっている）等も合わせ、総合的にリスクレベルを判断することが重要である。

  • （例１）生成AIによる生成物の誤りにより、行政手続の結果に影響を与え、法人の事業活動の停止等の大きな影響を与えるような場合（A①→高リスクの可能性あり）

  • （例２）サイトに登録した個人が、自らのニーズにマッチした行政サービス等について、生成AIを活用した検索要約サービスにより対象を絞った上で、具体的な手続ページに誘導されるもの（A②→B②→C②→低リスク）

  • （例３）相手のメール内容に応じた返信メールを作成し、政府職員等による確認を経ずに、自動的に返信するもの（A②→B④→C①→高リスク）