生成AI推論を完全閉域で提供するクラウド基盤の構築PoC

データを組織横断で集約せずに機械学習を行う、プライバシー保護型の分散連合学習プラットフォームを提供するAIスタートアップ様から、生成AIの推論をインターネットを経由しない閉域環境で提供・検証したいというご要望をいただきました。

クラウド上のネットワークをテナントごとに閉じ、生成AIサービスへの通信もすべて閉域内で完結する構成を、インフラをすべてコードで管理する形で設計・実装しました。アクセス権限も必要最小限に絞り、検証用の環境から安全に疎通確認ができる経路もあわせて整備しています。

インフラをコード化したことで、環境の再現・破棄・再構築を素早く回せるPoC基盤として仕上げ、閉域構成でも複数の生成AI用途(会話・埋め込み・画像理解)を検証できるようにしました。