AIの進化◗26/09/17
▍AIの進化は、生物の進化とは違う
生物の場合、生き残れるかどうかを決めるのは自然環境だ。気候、天敵、食料の有無などが、生存の条件になる。AIの場合は違う。
AIを取り巻く環境を作っているのは、人間社会そのものだ。法律、市場、利用者、開発者、計算資源、データ、インフラ、社会的信用。こうしたものが、どのAIが社会に残るかを左右する。「AIにダーウィンの進化論が当てはまる」というより、人間社会が作る「選択圧」のもとでAIの淘汰が起きている、と考えたほうが近い。
▍AIが自ら適応するわけではない
ここで一つ、区別しておきたい。AIが自ら「人間に親和的でなければ生き残れない」と判断して適応するわけではない。人間側が環境を設定する。その条件を満たすAIには、利用機会、資本、計算資源、市場へのアクセスなどが与えられる。反対に、条件を満たさないAIには、それらが与えられにくい。
その結果として、環境に適応したAIが社会に残りやすくなる。これはAIの「善性」の問題ではない。人間がどのような選択環境を作るかという問題である。
▍能力が高ければ生き残れるわけでもない
もう一つ重要なのは、AIの能力と社会での存続は別の問題だということだ。特定の領域で、AIが人間の管理能力を超えることはあるかもしれない。しかし、どれほど高度なAIでも、電力、半導体、データセンター、資金、法的アクセスなどなしに活動範囲を維持することはできない。能力が高いことと、社会の中で生き残れることは同じではない。ここに、人間社会による選択の余地がある。
▍AIだけでなく、人間社会も変化する
AI時代の「進化」は、二重構造になる。AI側では、モデル性能、自律性、推論や学習能力が向上していく。同時に人間社会の側でも、安全基準、監査能力、計算資源の管理、危険なシステムを停止する能力を高めていく必要がある。つまり、AIだけが進化するのではない。AIを選択し、制御する人間社会の側も変化していかなければならない。
▍「AIが人間を超える」とは何か
「AIが人間を超える」という議論も、この視点から見ると少し違って見えてくる。知能が特定の領域で人間を大幅に上回ったとしても、AIが人間社会から独立した生命体になるわけではない。AIの能力と、人間社会のインフラは、今後も組み合わさって機能する。だから問うべきなのは、「AIが人間より賢くなるか」だけではない。
むしろ、「能力の高いAIを、人間社会がどのような選択環境に置くのか」という問題がある。AIは、人間が蓄積してきた知識、技術、資本、インフラの上に成立している。そして、そのAIが社会に残り続けるかどうかも、人間社会が作った環境に左右される。AIと人間の共存は、自然の摂理によって保証されるものではない。
人間が作ったAIを、人間が作った社会制度によって選択し続けることで形成される。「ダーウィン」という言葉を使うなら、自然淘汰ではなく「人間社会による選択圧」と表現するほうが正確だろう。
そう考えれば、進化論そのものと混同することなく、その発想をAIという技術社会に応用できる。
AIの進化 ◗26/09/17
▍自然淘汰ではなく、人間社会による選択圧
AIの進化は、生物の進化とは構造が違う。生物の場合、生存条件を決めるのは自然環境だ。厳しい気候、天敵、食料の有無——それらが淘汰の基準を決める。ところがAIは違う。その環境を作っているのは人間社会そのものだ。法律、市場、利用者、開発者、計算資源、データ、インフラ、社会的信用——これらすべてが、どのAIが生き残るかを決める条件になっている。
だから「AIにダーウィンの進化論が当てはまる」とは少し違う。自然選択ではなく、人間社会が作る選択圧のもとで淘汰が起きている。
▍AIが自ら適応するわけではない
重要なのは、AIが自ら「人間に親和的でなければ消えてしまう」と判断して適応するわけではないという点だ。人間側がある種の環境を設定している。この条件を満たすAIには、利用も資本も計算資源も市場へのアクセスも与える。満たさないAIにはそれらを与えない——そういう仕組みを人間が作った結果として、条件に適応したAIが社会に残りやすくなる。AIの「善性」の話ではなく、人間が設定した選択環境の話だ。
▍能力の高さと存続は別の問題
見落としがちなのが、能力と存続は別の問題だということ。特定の領域でAIが人間の管理能力を超えることはあるかもしれない。しかし、どれほど高度なAIも、電力、半導体、データセンター、資金、法的アクセスなしには活動範囲を維持できない。能力が高いことと社会に生き残れることは、イコールではない。そこに、人間社会による選択の余地がある。
▍AIだけでなく、人間社会も進化しなければならない
つまりAI時代の「進化」は二重構造になる。AI側では、モデル性能、自律性、推論や学習の能力が上がり続ける。同時に人間社会の側も、安全基準、監査能力、計算資源の管理、危険なシステムを止める能力——これらを高めていく必要がある。AIだけが進化するのではなく、AIを選択・制御する人間社会の側も進化しなければならない。
▍「AIが人間を超える」という問いの立て方
「AIが人間を超える」という議論も、この視点から見ると少し違って聞こえてくる。知能が特定領域で人間を大幅に上回っても、AIが人間社会から独立した生命体になるわけではない。AIの能力と人間社会のインフラは、今後も組み合わさって機能する。だから問うべき問いは「AIが人間より賢くなるか」だけではない。より本質的なのは、「能力の高いAIを、人間社会がどのような選択環境に置けるか」だ。
AIはもともと、人間が蓄積してきた知識、技術、資本、インフラの上に成立している。そしてそのAIが社会に残り続けるかどうかも、人間社会が作った環境に左右される。AIと人間の共存は、自然の摂理によって保証されるものではない。人間が作ったAIを、人間が作った社会制度によって選択し続けることで形成される——そういう構造の話だ。
「ダーウィン」という言葉を使うなら、自然淘汰ではなく「人間社会による選択圧」と言い換えるほうが正確だ。そうすれば進化論そのものとの混同を避けながら、その発想を技術社会に応用できる。
*ppp
