IGNで、ソニーがAIによる技術サポートエージェントの特許を出願し、導入しようとしてると伝えていました。
この話、ゲームタイトルやハードウェア開発にAIを活用しようという話ではなく、システムの脆弱性対策に活用しようという話で、ゲームコンソールシーンにとっては死活問題です。exploitを探し出すにはAIを出し抜かなくてはいけなくなるからです。
現時点でも脆弱性探索にAIを活用している連中も存在するらしく(なので、ハッカー自身が自分で何してるのか分かってない)、最終的にAI対AIの対決のような話になりかねません。
今回ソニーが出願した特許はLLM(大規模言語モデル)を利用してシステムの脆弱性を遠隔で発見してパッチを作成して適用し未然に問題を解決したりエンジニアにリポートの形で送信するというものです。
あくまでも特許を出願しただけでそれを投入するかどうかは別問題ですが、ソニーはそれを視野に入れていることは明らかです。
もしこれがPlayStationに導入されると自動でリモート診断して脆弱性があると判断すれば自動で修正パッチを作成して適用までできてしまいます。
exploitを探すためハッカーが何らかの操作をコンソールにした場合インターネット接続した瞬間にサーバーへ報告して即座にパッチを作成して適用という可能性も否定できません。同時にすべてのコンソールに同じパッチを適用してしまう可能性もあります。Hackeroneはその存在意義を失いますし、コンソールはゲームプレイには一切使わずハックするためだけに購入する場合を除き困難を極めます。
ユーザーが同意をしていないのにそんなこと勝手にするのは違法に当たりますが、そう言う規約に同意しないとシステムが使えないことにされてしまうと、勝手にやられることに法的根拠を与えてしまいます。
これがもし将来的にコンソール側のシステムに組み込まれてしまったら、ユーザーの操作は全て監視されるでしょうし、ネット接続を切断していても勝手にアップデートされる可能性も否定できません。ただ、もし脆弱性対策自動適用ならそのAIエージェントは管理者権限持っているので、将来的にはシステムをハックするのではなくAIエージェントをハックするという時代になるかもしれません。
一方でAIに強力な絶対安全対策を施さない限りPlayStationと同一ネットワークにいる他のデバイスに何らかのデータを送りつけてデバイスを勝手に使われたり、そもそも検証なしでパッチを適用してPlayStationをbrickさせたりする可能性もあるのではないでしょうか。
かつては映画の中の話だったAIの暴走がフィクションではなくなってきているので、AI絡みは「へぇ〜」と聞き流せない話になりつつあります。