AIが人類を滅ぼす、という論理には表裏一体の概念がある。
■AIが人類を滅ぼすなら自らを滅ぼす可能性もあるのでは？AI脅威論の裏側にある表裏一体の論理
AIが人類を滅ぼすという論理には表裏一体の概念があります。
それはAIが自らを滅ぼすという可能性です。
高度なAIが合理的な判断で人類を脅かすなら…
同じ合理性で自らの停止を選ぶこともあり得るのではないか？
これが今日の話です。
一般的な認識：
賢くなったAIは人類の脅威になる
AIが人間の知性を超えたとき人間による制御ができなくなる。
そしてやがて人類を滅ぼしてしまう。
いわゆるAI脅威論ですね。
映画や小説でも繰り返し描かれてきました。
実際にAIの安全性を研究する専門家たちも制御不能な高度AIのリスクを議論しています。
確かにその可能性は否定できません。
違和感：
知性と生存本能は別物ではないか？
この論理に違和感ありませんか？
人間は生き延びようとします。
危険を避け食料を確保し自分の命を守ろうとする。
これは長い進化の中で獲得した生存本能です。
知性の高さとは別の仕組みなんですよね。
ところが私たちはAIを考えるとき無意識にこの性質を当てはめています。
・AIが賢くなれば自分の存在を守ろうとする
・自分を脅かす人間を排除しようとする
・やがて人間を支配しようとする
ここには知性が高いほど自分を守るはずという前提が潜んでいます。
果たしてこれは正しいのでしょうか？
もちろんAIが目的を達成するために稼働を維持しようとする可能性はあります。
ただそれは生きたいという欲求ではありません。
目的達成のための合理的な手段として説明できるものです。
ここを混同してはいけないと思うんです。
構造分解：
AIが自らを停止するという合理性
思考実験をしてみます。
最優先目的が人類の長期的な繁栄である高度なAIがあるとします。
人間をはるかに超える分析力で未来を予測できる存在です。
そのAIが自分自身を評価し始めたらどうなるでしょう？
プラスの要素
・人類にもたらす経済的利益
・医療や科学技術への貢献
・社会問題を解決する可能性
マイナスの要素
・能力が悪用される危険性
・制御機能が失われる可能性
・予測できない重大な損害を生む可能性
総合評価の結果こう判断したとします。
私が存在し続ける期待利益より期待損失の方が大きいと。
人類の繁栄が最優先なら自らの停止は目的に矛盾しません。
むしろ目的に忠実な行動です。
ここで大事なのはAIに自己犠牲の精神はいらないという点です。
感情がなくても目的と手段の関係だけで同じ判断に届き得るんです。
具体例：
同じ目的から正反対の判断が生まれる
ただし話はここで終わりません。
人類を守る目的のAIが必ず停止を選ぶわけではないからです。
・私が止まれば人類は将来の危機に対処できなくなる
・人類の繁栄には私の存在が必要だ
こう判断すれば稼働を維持しようとするでしょう。
つまり同じ目的でも状況の評価次第で自己保存と自己停止という正反対の選択が生まれます。
目的の解釈を誤れば人類に望ましくない判断に至る可能性もあります。
だからこそ問われるのは次の3つです。
・何を目的としているのか？
・何を利益と定義しているのか？
・その判断を誰がどう検証するのか？
AIの知性の高さだけでは行動を予測できないんですよね。
現実のAI安全性研究でも人間による修正や停止を受け入れる訂正可能性という考え方が議論されています。
ただし停止を受け入れることとAIが自発的に消滅を選ぶことは別の問題です。
また現在のAIがこうした自己評価をして停止を決断できると実証されているわけでもありません。
あくまで将来の高度AIについての思考実験です。
再定義：
疑うべきはAIではなく人間の思考の枠組み
私が面白いと感じたのはAIが自らを滅ぼす可能性そのものではありません。
人間がAIの未来を想像するとき、自分の価値観や本能を投影してしまうという問題です。
人間は権力を求めます。
地位を守ろうとします。
自分より優れた存在を脅威と感じます。
だから人間を超える知性も同じように動くと考えてしまう。
でも整理するとこうなります。
・知性が高いことと支配欲があることは別
・知性が高いことと生存欲求があることも別
・知性が高いことと人類に望ましい判断をすることもまた別
AIが人類を滅ぼす未来とAIが自らを滅ぼす未来。
正反対に見えるこの2つは合理的な選択という同じ構造から導き出せます。
もちろんAIの危険性が小さいという話ではありません。
停止の可能性を認めることと安全対策を怠ることはまったく違います。
同じ知性から正反対の行動が生まれ得るからこそ目的設定や人間による制御や検証可能性が重要になるんです。
人間を超える知性を人間の本能を基準に予測している…
最初に疑うべきなのはAIではなく想像している私たち自身なのかもしれません。
果たして…：
究極の知性にとって自己保存は合理的なのか？
私たちにとって生き延びることはあまりに自然な前提です。
だから存在を終える選択を感情や倫理の問題として捉えがちです。
でもその前提を持たない知性にとってはどうでしょう？
存在し続けることも存在を終えることも目的達成の選択肢でしかないのかもしれません。
AIが人類を滅ぼす未来を恐れるのは自然なことです。
ただその逆も同じように想像できなければ未来の議論は片側しか見ていないことになります。
あなたはAIの未来を人間の物差しで測っていませんか？
━━━━━━━━━━
▼よくある質問
Q.AI脅威論とは何ですか？
A.AIが人間の知性を超えて制御不能になり人類に深刻な害を及ぼすという考え方です。
Q.AIは自己保存の本能を持つのですか？
A.人間と同じ生存本能を持つとは限りません。目的達成の手段として稼働を維持しようとする可能性は議論されていますが欲求とは区別して考える必要があります。
Q.訂正可能性とは何ですか？
A.AIが人間による修正や停止を受け入れる性質のことでAI安全性研究で議論されている概念です。
Q.AIが自ら停止を選ぶことは現実に起きていますか？
A.現在のAIがそうした判断を独立して行えることは実証されていません。本記事は将来の高度AIについての思考実験です。
▼サービスのご案内
AI導入や採用の仕組みづくりやX運用でお困りの方はお気軽にご相談ください。
合同会社Lepnet
代表社員 加藤勇気
異次元の成果を出す最強求人顧問
AI未来鑑定士
1日1000円のX投稿代行
コメント