生成AIに潜む情報漏洩のリスク（イメージ）
「この問題解いて」──そう生成AIに入力すれば、大学教授顔負けの正確な回答が即座に返ってくる。便利なツールだが、それは情報流出や職業の消失といった危険を孕む諸刃の剣でもある。
それが文書であろうと画像であろうと、条件を適切に入力しさえすれば、AI（人工知能）が欲しいかたちで必要な「答え」を出してくれる。企画書やプレゼン資料の作成、研究開発から法務・経理、行政文書の下書きと、業界・業種を問わず、すでに生成AIは企業や組織における活動の深部に入り込んでいる。
生成AIをそうした企業活動に使う場合、部外秘・社外秘の情報を入力する可能性もあるため、“生成AIを通じた情報流出”が懸念されている。情報セキュリティの専門家である徳丸浩氏（EGセキュアソリューションズ取締役CTO）はこう言う。
「日本で利用されている生成AIの多くは、グーグルやマイクロソフト、メタなど米国の巨大テック企業が開発・運営しています。生成AIの新興勢力としてはまず『ChatGPT』のオープンAIがあり、イーロン・マスクのX（旧・ツイッター）も関連会社が開発した『Grok』により存在感を増しています」（以下、「」のコメントは徳丸氏）
そうした米国発のサービスを日本の企業が利用する際、生成AIに入力するプロンプト（質問や命令文）を通じて、様々な企業情報がテック企業の管理するAIシステムの内部で処理され、蓄積される構造となる。言い方を変えれば、場合によっては企業秘密までが生成AIにどんどん吸収されているのだ。
「ここ数年で飛躍的に高性能化した生成AIですが、最近のものはユーザーとの過去のやり取りの履歴を踏まえて、より適切な応答を返す動き方をしています。私自身、業務でセキュリティ教材を執筆する際に生成AIを利用すると、プロンプトに『教材向け』といちいち書かなくても、向こうから『セキュリティ教材ならこう書いたら良い』と言ってきます。それだけ使い手のことを“把握”しているわけです」
