AI活用を止めないためのガバナンス Ai4で見えた「スピードと安全性」の両立

AI活用の拡大が新たな経営リスクに

MS＆ADインターリスク総研でシリコンバレーに駐在する野中聡です。

はじめに紹介するのは、グローバルに企業のDXを支援するYASH TechnologiesでAI・デジタルサービスを統括するNitin Gupta氏による講演です。

「AI Blind Spots: Why Ungoverned AI is Your Biggest Enterprise Risk – How to Mitigate it?（AIの死角―ガバナンスなきAIが企業最大のリスクとなる理由とその対策）」と題された講演で、Gupta氏は、企業でAI活用が急速に広がる中、AIガバナンスの欠如そのものが新たな経営リスクになりつつあると指摘しました。

これまでもパソコンやインターネット、クラウドなどの新技術が普及する際には、技術導入が先行してガバナンスの整備が後追いになるケースが散見されました。AIについては同じ失敗を繰り返さないよう、早期からガバナンスを整備する必要があると指摘しました。

Gupta氏が代表的なリスクとして挙げたのが「Shadow AI」です。Shadow AIとは、従業員などが会社で認められていないAIを業務に利用することを指します。生成AIの普及に伴って、従業員が会社の管理外でAIサービスを業務に利用することも容易になりましたが、業務上の機密情報を入力することで、情報漏えいにつながる恐れもあります。

Gupta氏によれば、Shadow AIの課題に加えて、各部門が個別に生成AIやエージェントAIを導入することによって、重複投資が発生したりAIにかかるコストや投資対効果が見えにくくなったりする可能性があるといいます。さらに、自律的に行動するエージェントAIの普及によって、意図しない処理が実行されるなど、新たなリスクも生じると指摘しました。

その上でGupta氏は、AIガバナンスを単なる「ルール遵守」の問題として捉えてはいけないということを強調しました。

AIにかかるコストや投資対効果、利用状況なども含めて「社内でどのAIが、どのように使われ、どのような価値を生んでいるのか」を把握することもガバナンスの一部だとしました。

AI活用が広がるほど、「AIを使ってよいか」を判断するだけではなく、その利用実態や効果を継続的に把握することが企業に求められるようになるのではないでしょうか。

AI時代におけるリスク・コンプライアンスの再定義

次に紹介する講演では、AIの普及によって企業のリスクやコンプライアンスそのものがどう変わるのかについて議論されました。

「Redefining Risk & Compliance in the Age of AI（AI時代におけるリスク・コンプライアンスの再定義）」と題された講演には、金融機関や大学、AIガバナンス関連企業などから、リスク・コンプライアンスの実務に携わる専門家が登壇しました。

議論の中心となったのが、AI導入における大きな課題は「スピード」と「ガバナンス」の両立にあるという点です。この中では、AI活用を進めるうえでは、リスクを適切に管理しながら、導入のスピードを損なわない仕組みづくりが重要だとの見方が示されました。

特にエージェントAIが普及すると、AIが「何にアクセスし、実際に何をしているのか」を把握することが重要になるとして、エージェントAIが実際に取る行動を可視化し、業務を実行する際にはリアルタイムで監視・認可する「Runtime Authorization」という考え方も紹介されました。

また、AIが利用できるデータやアクセス権限を適切に管理するため、あらかじめデータの分類や管理体制を整えておく必要性も指摘されました。

AIガバナンスは活用を「止める」のではなく「加速する」

この講演の中では、AIについては導入後にコンプライアンス部門がチェックするのではなく、企画段階から関与することが望ましいとの考えが示されました。

AI活用のスピードを落とさないためにも、最後の段階で「これは使えない」と止めるのではなく、企画の初期段階から技術部門とコンプライアンス部門が一緒に検討することで、安全性を確保しながらAI導入を進めやすくなるという考え方です。

また、AI活用の目的は、人員削減ではなく人間がより高度な分析や意思決定に集中できる環境をつくることであり、コンプライアンスの担当者自身もAIを活用し、業務を高度化していく必要があると指摘しました。

一連の議論を聞いて、「ガバナンスはAI活用を止めるものではない」という観点が印象的でした。適切なAIガバナンスを整えることは、AI活用を制限するものではなく、安全性を確保しながら導入を加速するための基盤にもなり得るのではないでしょうか。

まとめ：AI活用を前提としたガバナンスへ

生成AIが登場した当初、多くの企業では「業務でAIを使ってよいのか」「どのサービスなら利用を認めるのか」といった、AI導入の可否そのものが大きな論点でした。

しかし、AI活用が企業のさまざまな業務に広がり、さらに自律的に行動するエージェントAIが登場する中、議論は次の段階へ移りつつあります。

重要になるのは、AIを「使うか、使わないか」だけではありません。

• どのAIが使われているのか
• AIは、どのデータにアクセスできるのか
• AIには、どのような行動が認められているのか
• AIの利用によってどのような価値が生まれているのか

このように、AIの利用実態を把握し継続的に管理する仕組みが必要になります。

AIの活用を前提とする時代には、ガバナンスも「AIを止めるための仕組み」から、「AIを安全に使い続け、活用を進めるための仕組み」へ変わっていく必要があるのではないでしょうか。

• 過去のシリコンバレーコラムはこちら