そこにＡＩはあるのかい？

なんか懐かしいフレーズ引用してタイトルつけてるけど、要するに深夜、攻殻機動隊を見たのである。
今回はＡＩ搭載ロボット砲台タチコマの「心理」と、それに対する使う側：少佐およびバトーの懸念が語られるというお話。
「イノセンス」と呼応した内容という意図も在るのだろうか、「ぼく達には死という概念は存在しないから」とか「人間はぼく達に機械らしい反応を求めている」とか「『神』の存在を感じるような」とか、おそろしく複雑化して人間くさくなったタチコマだが、そういう自我の芽生えは兵器としては致命的なことなんだそうで。
で、これを見て思ったこと。
ドラマの展開としては面白いんだけど、指揮官としちゃ少佐の言ってることはかなり愚かだと思う。「ゴーストもないのに」余計なことに囚われるようになったＡＩは扱いにくい代物かもしれんが、それは元々「そうなるように」出来てるんじゃなかろか。充分な複雑性・柔軟性を備え、ヒトの動きを予測し対応するシステムが、ヒトと同様に、処理ルーチン採択傾向≒自我を備えるのは、ごく自然の成り行きに思えるが。
自前の生脳だけでなく電脳も駆使している少佐や隊員達や、メカニック担当の鑑識班の連中に、そのことが分からないと言うのが私にはむしろ不思議。兵器として不都合とはいうが、それを言うなら生身のヒトの隊員達だって同様の問題を抱えている筈で、それでもヒトを使うのは、余計な事情があっても処理能力は信頼に足るから。問題を抑制できるような、職業意識による優先順位がちゃんとつけられているからだろう。
なのに、なんで相手がＡＩだと、同じように使っていけないか？
ヒトだって高々、蛋白やらリン脂質やらのユニットで構成されるシステムに過ぎない。（まあまだ解明できてない事の方が多いシステムだけどね）電脳にも、生脳と同様とは言わないが、異質であれ対応の「ゴースト」が宿るのは、むしろ当然の予想されることじゃなかろうか。
もっとも、そうした「異質なゴースト」は、ヒトには全く感知できない存在なのかもしれないが。

ヒトの手で造られた機械がヒトの思うように動かない場合、おそらくその多くは、造り手or使い手のヒト自身が、自分が機械に望む物をちゃんと把握してないのだ。ＡＩが思うように育たなかったなら、それは、必要な目標を達成し不要な処理を邪魔にならない程度に抑制する、そのための適切な重み付けをする、ということを教え込む手間を惜しんだのだろう。
ヒトの造った物だからヒトには把握できている、なんてことはない。過去の幾多の事例がそれを示している。それはヒト自身がいかに自分の願い事を分かっていなかったか、ということを映す鏡ではあるまいか。ちゃんと把握して、しかもそれを異質な処理系である機械に的確に伝えるには、試行錯誤が要る。「こんな筈じゃなかった」と切り捨てるなんてえ短絡的な対応じゃ、願い通りの結末には辿り着けない。
いや、この話の場合だと、複雑なＡＩなんか採用するべきじゃなかった、任務のためには普通の戦車で充分、てなことになるのだろうか。

――って、なんかまた回転扉を思い出しちゃったよ。
おそらくあの回転扉のシステムも、かなり単純とはいえ、根本的にはタチコマと同種の問題を抱えているのだ。