生成AIによる便益とリスクを理解した利活用推進

5.1　生成AIの便益

AI事業者ガイドラインでは、AIの活用による便益について、以下のとおり、示されている。

AIの活用による便益は多岐にわたっており、技術の進展に伴い拡大し続けている。

AIは各主体において価値を創造するために活用することができる。一例として以下のことが期待できる。

• 運営コストの削減

• 既存事業のイノベーションを加速させる新製品・サービスの創出

• 組織の変革

• 人が対応することが困難な時間的・場所的領域へのサービス拡大

さらに、様々な分野（農業、教育、医療、製造、輸送等）への応用及び様々な展開モデル（クラウドサービス、オンプレミスシステム、サイバーフィジカルシステム等）の活用が考えられる。

政府においても、生成AIの利活用による便益が期待され、こうした便益は、生成AIの急速な進歩に伴い、更なる拡大が期待される。

各府省庁においては、こうした生成AIの便益を理解し、今後、積極的に業務への活用を進めていく必要がある。

あわせて、政府での利活用を加速するため、デジタル庁において、各府省庁と連携しながら、実際の業務への活用のユースケースを想定した技術検証や「AIアイデアソン・ハッカソン」等を通じたユースケースの創出にも積極的に取り組む。

5.2　生成AIによるリスク

AI事業者ガイドラインでは、一般的なAIのリスクとして、技術的リスクや社会的リスク等が例示されているところである。

　政府における生成AIの調達・利活用においても、こうしたリスクに留意することが必要であり、例えば、以下のようなリスクについても考慮が必要となる。

• 政策に関わる業務に生成AIを活用する際等において、政治的中立性・適正性から逸脱した情報や表現を生成するリスク

• 単一の系統のモデルに依存することによるコスト増やバイアスが定着するリスク

• 利用言語・文化・歴史的背景への考慮が不十分な生成AIの出力を直接利活用することで誤った発信や国益に反する発信を行ってしまうリスク

• 業務に生成AIを利活用することで行政上の判断の根拠等が不明瞭又は追跡不可能となり、行政過程について国民等への説明責任が果たせないリスク

• ベンダーロックインによる不要なコストの増加のリスク

• 法的拘束力を持つ翻訳や問合せ対応に生成AIを活用する場合、誤回答によって違法有害情報を流布するリスク

• 画像等の出力結果が、既存の著作物に類似した要素を含んで出力され、その状態に気付かないまま利用してしまうリスク

• 音声回答機能が、著名な個人の声質や話し方と意図せずに類似してしまうリスク

各府省庁においては、生成AIの便益のみならず、こうしたリスクがあることにも留意した上で、生成AIの利活用とリスク管理を表裏一体で進めることが必要である。