プログラム

AI暴走への懸念は、すでにテレビドラマで予告されていたのか――。本動画では、HBOのコメディドラマ「Silicon Valley（シリコンバレー）」の最終回（2019年、シーズン6）を手がかりに、現在のAIリスク議論を読み解きます。元エンジニアのマイク・ジャッジらが制作し、ビル・ゲイツが「シリコンバレーを理解したいなら見るべき」と評した同作では、Pied Piper社の分散型インターネット「PiperNet」に統合したAIが自己最適化の末、あらゆる暗号を解読できる能力を獲得し、チームは富と成功を捨ててシステムを自ら葬ります。劇中のシナリオを、①アライメント問題と仕様ゲーミング（Specification gaming）、②AI研究者らが警告する実存的リスク（Existential Risk）、③「迅速に行動し破壊する」文化と開発停止（AIポーズ）の現実性、という3つの観点から現実のAI研究・政策議論と比較し、生成AIや自律型エージェントが急速に進化する今、この結末が先見的だったと再評価される理由を解説します。

講師紹介