生成AIが企業にとっての「新たなリスク」に浮上　～米Gartnerが調査。企業は、知的財産、データのプライバシー、サイバーセキュリティへの対処が必要

米Gartnerは8月8日（現地時間）、米国企業にとっての「新たなリスク」を調査し、生成AIが大きな脅威として認識されている、という調査結果を発表した。調査対象は、企業リスク担当上級幹部で、回答は249人。

企業の「新たなリスク」として挙げられたトップ5は、以下のとおり（％は得票率）。

・１位　サードパーティの存続可能性：67％
・２位　大量生成AIの利用可能性：66％
・３位　資金計画の不確実性：62％
・４位　クラウドへの集中リスク：62％
・５位　中国貿易摩擦：56％

「生成AIは、第2四半期の調査で2番目に多く挙げられたリスクで、初めてトップ10にランクインした。生成AIツールの認知度と利用率が急速に高まっていること、潜在的なユースケースの幅広さ、潜在的なリスクの大きさが調査結果に反映されている」と、米Gartnerのアナリストは、コメントしている。

Gartnerでは今年5月と6月に、生成AIに関する「6つのリスク」（＊1）と「4つの法規制」（＊2）を公表しているが、今回の調査結果を受けて、「企業のリスク管理」の観点では次の3つへの対処が必要と指摘している。

・知的財産
・データのプライバシー
・サイバーセキュリティ

知的財産について

生成AIツールに入力された情報は、トレーニングセットの一部となる可能性があり、機密情報や秘密情報が他のユーザーの出力に含まれる可能性がある。また生成AIの利用によって、他者の知的財産権を侵害するおそれもある。

生成AIツールの利用に関する注意と透明性の確保が不可欠で、生成AIツールの入力・出力の両方で知的財産リスクを適切に管理・軽減することが重要という。

データのプライバシーについて

生成AIツールは、ベンダーやサービスプロバイダーなどの第三者と、事前の通知なしにユーザー情報を共有する可能性がある。これは、プライバシー法に違反する可能性がある。中国やEUではすでに規制が実施されており、米国、カナダ、インド、英国などでも規制案が浮上している。

サイバーセキュリティについて

サイバー攻撃者は生成AIの利用をすでに行っており、マルウェアやランサムウェアのコード生成や、本来提供すべきではない情報を提供させる「プロンプト・インジェクション」攻撃が報告されている。これらは高度なフィッシング攻撃の産業化につながっているという。

［i Magazine・IS magazine］