第9回【最終回】システム部門に関係する、将来に向けての時事トレンド

このコラムでは、組織で働くシステム管理者に知っていて欲しい、経営サイドからの見え方をお伝えしてきました。今回は、直近の時事ネタから、未来目線で知っておいた方が望ましい３点を紹介します。

目次

1.能動的サイバー防御法案の成立

2.経済産業省『デジタル経済レポート』~データに飲み込まれる世界、聖域なきデジタル市場の生存戦略〜

3.AIのそれっぽい嘘は無くならないの？

1.能動的サイバー防御法案の成立

2025年５月16日に可決され、細則整備を経て順次施行の予定です。

日本でも『ようやく』と思っている方も多いかもしれませんし、そもそも法の想定対象が『基幹インフラ』なので関係ないと思っている方、対象範囲の限定や『攻撃者の背後に国が関与しているか否か』なんてどう判断するの？など、現実的なツッコミ所を多々感じていらっしゃる方や、情報共有レベルの話で良いのか等、何はともあれ、やっとサイバー防御のスタートラインに立った感が強い法律です。今後、細則が出て徐々に具体化する段取りで、2026年度ぐらいまでに現場実務に下りると想定しています。

『内閣官房』のホームページに出ている資料が、分かり易く纏まっています。
https://www.cas.go.jp/jp/seisaku/cyber_anzen_hosyo_torikumi/index.html

直近の具体的なイメージだと、太陽光発電施設の遠隔監視機器を『踏み台』にしたサイバー攻撃はまだ常識的な方で、「DC-ACインバーターに直接通信機器が組み込まれていた！」、等のレベルで世界は動いている様です。
https://www.reuters.com/sustainability/climate-energy/ghost-machine-rogue-communication-devices-found-chinese-inverters-2025-05-14/

2.経済産業省『デジタル経済レポート』~データに飲み込まれる世界、聖域なきデジタル市場の生存戦略〜

2025年4月30日に政策担当者や企業経営者を読者対象として公表されたレポートですが、かなり出来が良いので紹介いたします。
https://www.meti.go.jp/press/2025/04/20250430004/20250430004.html

巨大IT企業のプラットフォームビジネスに由来する『デジタル赤字』の影響を、かなり深刻に悲観しています。この辺は、昨今のシステム管理部門が抱える悩みのマクロ経済版ですね。さらに我が国のIT産業の主力と目されるSIer(システムインテグレーター)の付加価値の低さを構造問題として定義しています。

以前から業界で口にする『デジタル小作』などの用語も出て来たのには驚きました。

結論として、グローバルプラットフォームビジネスは時間経過とともに指数関数的に利益が上昇するとの結論で、だから各国政府は対策する！で終わっています。流石に『巨大IT企業は、１〜２兆ドル規模のAI投資を、どうやって回収するつもりなの？』という直近の話題には踏み込んでいません。

3.AIのそれっぽい嘘は無くならないの？

経営コンサルをやっていると、この話は年中相談されます。

以前のような『明らかな嘘』は徐々に減ったものの、AIを具体的に業務反映させようと検討すると『それっぽい嘘』のチェックに決め手が無い現実に気付く人が増え、『仕事に使うのは危ない』という結論になっている印象を持ちます。自分の専門分野なら気付けますが、詳しく無い分野の話で『それっぽい嘘』が混ざるとお手上げになりますよね。

結論から申し上げると、言語系AIの嘘（ハルシネーション）は、構造上、無くならないと考えている人が多数派です。人によっては「プロンプトの書き方で十分使えるレベルになる」との意見もありますが、現実的には「AIが正解を導ける領域で使う」のが無難かと思います。具体的には、言語系AIは『法的領域』や『定型処理文書』の辺りを意味します。また、画像生成系AIなら、それっぽい嘘の問題は、そもそも存在しません。

言語系の生成AIでハルシネーションが発生する構造とは、生成AIが文章の意味を考えている訳でも無く、DBを参照しに行っている訳でも無いことに起因します。生成AIは、プロンプトの定義文や先に出力した文章から、次に表示する単語を『確率的に』表示しているだけなのです。で、『わからない』『判断不能』をロジックに入れてしまうと、文章の次の単語が出力されずに途中で止まってしまいます。なので、確率的な問題で『合って無い』単語を拾ってしまうと、文章の後ろの出力ほど『合って無い』単語の影響を受けますから嘘が蓄積、または『それっぽい嘘』の文章を出力する事になります。

上記の他にも、生成AIの学習データに無い情報を出力しようと『最も関連性の高い情報を作り出すアルゴリズム』が誤りを出力するケースや、そもそもの『学習データの偏り』で誤った情報を出力するケースが代表的です。