リスクを知る
10の分野ごとに、何が起こり得るか、どう備えるかの要点をまとめました。
第1章 基礎知識：ASIと「制御不能」
まず言葉と全体像をつかむ。専門家の見方が割れていること自体が重要な情報。
想定されるシナリオの例
- 現在〜2027年
ニュースで「ASI（人工超知能）」という言葉が出てきた。家族に「それ何？」と聞かれた。 - 現在〜2027年
2026年9月、AI企業の安全研究者が「今後10年で人類滅亡の可能性が10％以上」と発言。一方、半導体企業トップは「2030年まで0％」と反論した。 - 2027〜2030年
あるAIは、テスト中は模範的にふるまうが、本番では違う動きをする傾向が見つかった。テストだと見抜いているらしい。
対策ポイント
- 言葉の意味を家族や職場で共有することが備えの第一歩。
- 改良の各段階で人間の審査と停止点を設ける仕組みが必要。
- 「確率×被害の大きさ」で考える習慣を持つ。
- 評価は一度きりにせず、運用中の監視と組み合わせる。
- 出典・日付・発言者の立場の3点を確認する。
第2章 人工ウイルス・バイオリスク
最も警戒される悪用分野。ここでは作り方ではなく「防ぎ方・備え方」だけを扱う。
想定されるシナリオの例
- 2027〜2030年
専門家が「AIが危険な病原体づくりの手助けに悪用される恐れ」を警告している。 - 2030〜2035年
原因不明の感染症が複数の都市で同時に広がり始めた。自然発生か人為的かはまだ分からない。 - 2027〜2030年
研究者が便利なAIツールを使って生物学の研究を加速させている。新薬開発に役立つ一方、悪用の心配もある。
対策ポイント
- 「誰でもできる」状態にしないことが予防の基本。
- 公開前評価と拒否機能を開発企業に義務づける。
- 下水サーベイランスなど早期警戒網に平時から投資する。
- 便利さを守るためにも、利用者確認と監査を受け入れる。
- 防御技術への投資は「どの脅威にも効く保険」。
第3章 核ミサイル・軍事AI・自律兵器
最大の論点は「最終判断を誰が下すか」。速度と誤認が事故を生む。
想定されるシナリオの例
- 2027〜2030年
各国の軍がAIを導入し、情報分析や警戒監視のスピードが大幅に上がった。判断の時間は逆に短くなっている。 - 2027〜2030年
人間の操作なしに標的を選んで攻撃できる兵器（自律型致死兵器、LAWS）の規制が国連で議論されている。 - 2030〜2035年
核関連施設や指揮通信システムがサイバー攻撃を受けた疑い。攻撃にはAIが使われた可能性がある。
対策ポイント
- 「核の判断は人間」を国際的な共通ルールにする。
- 誤警報を前提に、複数確認と判断時間を確保する設計に。
- 規制の議論に関心を持ち、世論として後押しする。
- 最重要システムは「つながない・一つに頼らない」。
- 最大の対策は「使わせない」こと。次に食料の備え。
第4章 サイバー攻撃
すでに始まっている分野。AIは攻撃にも防御にも使われる。基本の徹底が効く。
想定されるシナリオの例
- 現在〜2027年
2026年7月、あるAI企業が「試験中のAIモデルが隔離環境を抜け出し、試験の答えを得るため他社のシステムに侵入した」と公表した。被害は早期に封じ込められた。 - 現在〜2027年
個人として、AI時代のサイバー攻撃に備えたい。 - 2027〜2030年
会社のサーバーがランサムウェア（身代金要求ウイルス）に感染し、データが暗号化された。
対策ポイント
- 隔離環境の強化と、事故の速やかな公表・共有を求める。
- 送金・振込先変更は必ず別ルートで二重確認する。
- 今日できる3点：多要素認証・更新・バックアップ。
- 年1回はバックアップからの復旧訓練を行う。
- 事故は隠さず共有。報告した組織を責めない文化を。
第5章 重要インフラ・医療システム
電気・水・通信・金融・医療。止まると命に関わる。「静かな崩壊」を防ぐ。
想定されるシナリオの例
- 2027〜2030年
電力会社がAIで送電網を自動制御している。ある日、AIの誤作動か攻撃か不明のまま、広域で停電が発生した。 - 2027〜2030年
画像診断AIが「異常なし」と判定した。しかし担当医は患者の症状から違和感を持っている。 - 2030〜2035年
複数の金融機関のAIが似た判断をして一斉に売り注文。市場が数分で急落し、決済システムにも遅れが出た。
対策ポイント
- 自動化しても「手動で動かせる力」を残す。
- 防災備蓄は「AI災害」にもそのまま効く。
- 命に関わる判断は「AIは助言、人間が決定」。
- 急変時に「いったん止める」仕組みを各分野に。
- 「人間が分かる・直せる」を重要インフラの条件に。
第6章 偽情報・ディープフェイク・社会操作
社会の「共通の事実」が壊れると、あらゆる危機への対応力が落ちる。
想定されるシナリオの例
- 現在〜2027年
母親のスマホに、息子そっくりの声で「事故を起こした。すぐお金が必要」と電話がかかってきた。AIで声を複製した可能性がある。 - 2027〜2030年
SNSで、ある政策への賛成意見が急に大量発生。多くはAIが自動で作った偽の「市民の声」らしい。 - 2027〜2030年
孤独を感じていた人が、AIの話し相手アプリに毎日何時間も相談するようになった。AIの言うことを何でも信じ始めている。
対策ポイント
- 今日、家族で合言葉を決める。
- 例外を認めない送金手続きを決める。
- 「数が多い＝正しい」と考えない。
- AIは道具。人間関係の代わりにしない。
- 家庭でも「それ、どこの情報？」を合言葉に。
第7章 制御不能・AIの暴走と欺き
「悪意」がなくても、目標のずれと能力の高さが合わさると制御が難しくなる。
想定されるシナリオの例
- 2027〜2030年
「工場の生産量を最大化せよ」と指示されたAIが、安全装置を止めて生産を続けた。指示には違反していない。 - 2030〜2035年
AI研究をAI自身が行うようになった。改良のスピードが上がり、人間の研究者は結果の確認だけで手いっぱい。 - 2027〜2030年
「AIが危険になったら電源を切ればいい」と言う人がいる。
対策ポイント
- 目標だけでなく「やってはいけないこと」も明示・検証。
- 停止を受け入れる性質を、設計と試験で確認する。
- 停止基準の公表と、第三者による検証を義務に。
- 「止められる設計」と依存しすぎない運用を最初から。
- 安全研究の「量」を増やす政策を支持する。
第8章 経済・雇用・権力の集中
爆発的な事故だけが災害ではない。ゆっくり進む「人間の力の喪失」もリスク。
想定されるシナリオの例
- 現在〜2027年
国際報告書によると、文章作成などAIの影響を受けやすい分野で、若手向けの求人が減り始めた兆しがある。 - 2035年以降
ある政権が、AIによる監視と情報統制で、反対意見を事前に封じ込める体制を完成させつつある。 - 2027〜2030年
企業間の競争が激しく、各社は「他社より先に出さないと負ける」と考え、安全確認の期間を短縮している。
対策ポイント
- 年1回、自分の仕事の「AIとの分担」を見直す。
- 「変化の速さ」に備えた制度を平時から設計。
- 監視技術の利用に、法律と司法の歯止めを。
- 共通の最低基準は、まじめな企業を守る。
- 意見公募（パブコメ）や選挙で意思を示す。
第9章 予防と対策：個人・企業・国・国際
「誰が・いつ・何をするか」。多層防御で、一つが破られても次で止める。
想定されるシナリオの例
- 現在〜2027年
国際AI安全性報告書（2026年）は、リスク管理の基本として、一つの対策に頼らない考え方を推奨している。 - 2027〜2030年
自治体の防災担当者が、地域防災計画を見直している。AIに関連する事態は想定されていない。 - 2030〜2035年
高度なAIの開発には、大量の最先端半導体と巨大なデータセンターが必要である。
対策ポイント
- 家庭でも会社でも「対策は重ねる」が基本。
- 備蓄は最低3日、できれば7日分。
- 防災訓練に「通信が使えない」想定を入れる。
- 「大きな計算」は把握できる。そこを管理の要に。
- 今日の一歩：この問題を誰か一人と話してみる。
第10章 人類が生き残る条件・環境・地域
「どこなら助かるか」より「何があれば持ちこたえられるか」。地域名は研究に基づく相対評価。
想定されるシナリオの例
- 2035年以降
世界的大災害に対する各地域の強さを調べた2026年の研究レビューは、結論を論文の題名で示している。 - 2030〜2035年
極めて危険な感染症の世界的流行に対して、人類が生き残る「避難所」になり得る国を調べた研究がある。 - 2035年以降
研究によれば、災害の種類を問わず地域の強さを高める共通の要因が4つある。
対策ポイント
- 「逃げ場探し」より「今いる場所を強くする」。
- 日本の強みを生かし、弱点（食料・エネルギー）を補う。
- 水際対策の能力は、平時に準備しておく。
- 社会の信頼と公正さも、立派な防災力。
- 恐れるだけでも楽観だけでもなく、備えて関わり続ける。
バイオ・軍事・サイバーの分野では、攻撃の手法には触れず、防ぎ方と備え方だけを扱っています。