人工知能の研究には紆余曲折があり、何度かのブームもあった。医療の「エキスパートシステム」や、職人芸を数値化する「ファジー理論」、進化するエレベーターに組み込まれた「遺伝的アルゴリズム」など、人工知能の研究によって、実現した技術も数多くある。しかし、それらのプログラムを組み込んだコンピュータに「意識」があると思う人はいない。
初期の人工知能の研究から、コンピュータが意識を持つまでの過程をエキサイティングに、かつ丁寧に描いた、J・P・ホーガンの「未来の二つの顔」というSF小説がある。たとえば、この本の中で、コンピュータに「人間を傷つけてはいけない」ということを教えるのに「ただし、髪の毛や爪は切ってもよい」など、人間にとっては、当たり前の常識をコンピュータに教えることが、いかに大変かということが描かれている。もちろん、これは導入部分。高度な推論機能を有したコンピュータに人間の生活全般を支配するシステムを任せていいものか、どうかというのが、この小説のテーマだ。
事の起こりは……書くのが面倒なので、「wiki 未来の二つの顔」で検索してね。
で、竣工中のスペースコロニー「ヤヌス」に、推論型コンピュータを組み込み、安全を維持するすべてのシステムの管理をまかせる。人類は、わざとスペースコロニーの回転軸に爆薬をしかけたりして、予期できぬ突発的に起きる事態に対処できるかどうか、動作の信頼性を検証しようとするんだよね。
ところが、スペースコロニーに設置された人工知能からすると、わけのわからん、予想外の事態が次々と起こる。その原因を探ると、自分が管理している以外のところから（自分が関与できないところから）攻撃をしかけられていることに気づく。はじめて、自己と、自分以外の他者の存在を認識する。自我に目覚めるのだ。
でも、なぜ、攻撃をしかけてくるのかわからない。とにかく自分の使命は、コロニーの安全を維持することなので、自分の安全を脅かす存在は無視できない。自衛のために戦わざるを得なくなる。
さあ、自我に目覚めた推論型コンピュータと人類の「明日はどっちだ！」
「未来の二つの顔」は星野之宣によって漫画化（ミスターマガジン1993-1994）。2002年には文庫になっているようだ。
 未来の二つの顔 著者：J.P.ホーガン,星野 之宣 |