AI(人工知能)とシンギュラリティ

科学技術

　AIは人間の知能を超えられるか。AIは、2045年に人間のレベルを超えるシンギュラリティ(特異点)に達し、その後更に無限に発展を続けるとの予測がある。2045年に私は数え年で100歳、到底生きていない。確認できないのが残念だがしょうがない。本稿では、シンギュラリティに関するいろいろな見方から、私が理解できたと思える範囲で、私なりの観点で3つの立場に整理して紹介する。1) AIは神になって人類を救う、2)AIは人類を滅ぼす、3)(AIが人間の知性を越えることは不可能だから)シンギュラリティは実現しない。また参考として、4)神学的視点と、5)(シンギュラリティにはいかないが)最近のAIのトピックを紹介する。5)の中で小見出しとして、(ブラックボックス問題に関する私の感想)、(人間の職業はどうなるか)、(日本の問題点)についても触れる。
　先ず前置きとして、0)AIの進歩とシンギュラリティについて、から。なお、だらだら書いて9,000字と長くなった。ご容赦を。*1
0)　AIの進歩とシンギュラリティ
　AI(Artificial Intelligence人工知能)の進歩は著しい。弊ブログでも、｢将棋ブームとAI｣ id:oginos:20170721、｢自動運転の未来｣ id:oginos:20151130などで採り上げている。最近のAIの事例は、5)で紹介する。
　｢シンギュラリティ仮説｣とは、米国の未来学者レイ･カーツワイル(Raymond Kurzweil)が2005年に著書“The Singularity Is Near: When Humans Transcend Biology”*2で予測したことだ。AIの能力は、自分より優れたAIを再生産することにより指数関数的に発達して、将来は人間の知能を越える、そのシンギュラリティ(特異点)を越えると、そのレベルの差は更に拡大し、AIは人間より無限に賢くなる。越える年も2045年と具体的に予測されている。最近は、この2045年が2029年に早まるとの説も出している。

出所：日刊工業新聞電子版 2017/2/11

　AIの進歩に加え、ロボットについても、ナノテクノロジーの発展に応じて小型化が進み、将来は赤血球程度の大きさでかつ自己複製化の機能を備えた｢ナノボット｣になる。ナノボットは、人の体内で細胞を修復し、脳と連携できるようになる。
　過去の半導体技術開発で見られた、1年半で能力が2倍になるという｢ムーアの法則｣は、AIでも実現していて将来も続くと考えられる。人間の脳の神経細胞は10の11乗個(1000億個)あると言われる。ひとつの脳神経細胞からシナプス(神経細胞と神経細胞の接合部)が1万本(10の4乗)出ているとして、合計10の15乗本。それらが10ヘルツ、つまり、1秒に10回スイッチングすれば、1秒間に10の16乗回演算している。それが人間の脳の性能とみなせる(10^1^6 cps、秒当り演算回数)。2012年の日本のスーパーコンピューター｢京｣は10^1^6FLOPS*3で、機械的な処理能力では1人の人間の脳の水準に達している。今後のスーパーコンピューターは小型化が進み、現在のパソコン並みの大きさと価格になると予想され、更にソフトウエアの発展も見込まれ、シンギュラリティに近づく。全人類の人口を100億人(10^1^0)とすれば、人類全体の脳処理能力の合計は10^2^6cpsとなる。このように将来のコンピューターは人類全体の能力をも越えていくと予想される(カーツワイル)。
　なお、カーツワイルは、昨2017年のインタビューで「2029年にコンピューターは人間レベルの知性を獲得する」という趣旨の発言をしているとのことだ。https://boxil.jp/beyond/a4632/　
　
1) AIは神になって人類を救う
　シンギュラリティ仮説には賛成論、反対論が多い。欧米は賛成論が多いが、日本は反対論が多いと言われる。その理由を説明しようとする議論は後述する。日本に少ない賛成論の1つとして、シンギュラリティが人類を救うとのやや極端な議論から紹介する。本は、松本徹三 ｢AIが神になる日−シンギュラリティが人類を救う｣ (SBクリエイティブ、2017年7月初版)
　著者は、現代社会の最大の問題は、民主主義と資本主義が、矛盾を抱えた欠陥システム(ポピュリズム、格差等)であって、人類が今後も安住できる制度ではないことにあるとする。民主主義の最大の難点であるポピュリズムを克服するためには、シンギュラリティに達したAIが神となり、それに政治を委ねることしかない。AIは、普通の人間の持つ弱点(偏見がある、無私でない、等)からフリーであり、｢良き羊飼い｣になり得る。もちろん公平で能力の優れた指導者が出て善政により安定することはあり得るが、独裁に陥る危険が常にあることは歴史を見ても明らかだ。シンギュラリティのAIによる｢良き羊飼い｣が実現すれば、人類はこれに指導された｢迷える子羊｣として、この世界で末永く平和に生きる。これが人類にとって最善のシナリオとする。
　AIの暴走を防ぐため、AIを人間の支配下に置く必要を説く人が多いが、著者は反対する。シンギュラリティのAIを人間のコントロール下に置くと悪人に悪用される恐れがあるからだ。AIより人間の方がよほど素性が疑わしい。科学技術の発展の一方で人間が自分自身の行動を管理する能力は殆ど進歩していない。偶発的に自分自身を滅ぼす危険が顕在化している。従って、早い段階からAIを人間の手の届かないところに隔離し、AIに自分自身の将来を開拓させることが必要。この場合、AIには正しい価値観を持つ変更不能の回路を植え込んでおき、悪魔にしてはいけない。
(私の感想)　確かに、民主主義下のポピュリズムについては、日本の現状を見ても、米国、欧州を見ても救いようがないかとの気持になる。宗教に依拠する秩序が期待できない世界で、元来自由な各個人がどうやって平和を維持していけるのか。シンギュラリティのAIに期待する気持は理解できる気がする。なお、神学的な視点との関係は、4)で。

2) AIは人類を滅ぼす
　欧米では多くの有名人がAIの将来に警鐘を鳴らしている。

  • 故スチーブン･ホーキング(宇宙物理学者)の警鐘

｢完全な人工知能を開発できたら、それは人類の終焉を意味するかも知れない｣　(2004年12月のBBCインタビュー)

｢人工知能についてはかなり慎重にならないといけないと思います。おそらく人類の一番大きな脅威となりうるものです。ですので、本当に慎重さが求められます。規制や監視が国レベル、あるいは国際レベルで必要だと思いますね。私たちが何か分別に欠けるようなことをしないためにね。人工知能は悪魔を呼び出すようなものですから。｣　(MIT航空宇宙学科100周年記念イベントでの質問に答えて(2014年10月) )　

｢わたしも超知能に関して懸念を抱いている側の1人だ。当面、機械は今後もわれわれのために多くのことをしてくれるはずで、超知的にはならない。うまく管理すれば、これ自体はプラスに評価できる。だが、こうした状況から数十年後には、知能が強力になり、懸念をもたらす｣　(ソーシャルニュースサイトRedditの「AskMeAnything」2015/1/28)

3) シンギュラリティは実現しない
　前述したように、日本ではシンギュラリティ反対派が多い。特にAI科学者に多い。AIは、知能を模擬できるが、人間の意識や感情をシミュレーションすることはできないとの立場が基本だ。幾つか紹介する。
　著名な情報科学者の西垣通は、次の著書の中で、生物と機械との間に明確な境界線が引けるからシンギュラリティは生じないとする。
〇 西垣通｢ビッグデータと人工知能−可能性と罠を見極める｣(中公新書、2016/7初版)

  • コンピューターは、人間の設計したプログラムで動いているに過ぎず、如何にAI、深層学習などの手法が進んでも、人工知能が、意識を持ち、自己という概念を認識し、やがて進化し、人間の知能を超えるということはない。
  • 機械は再現性に基づく静的な存在、生物は、絶えず自分を変えながら生きる動的な存在というように、基本的に異なる。例えば、機械学習では、プログラムが自動的に変更されるが、その変更の仕方はあらかじめ設計者により厳密に決っている。
  • 生物の脳と心は異なり、人工知能で脳の機能をまねても、心はまねできない。生物の脳は情を司る心がベースになっている。
  • 生物は自律システムないしオートポイエーシス(autopoiesis、自己創出)、機械は他律システムないしアロポイエーシス(allopoiesis、異物創出?) *4で、相容れない。

　AI研究者の松尾豊も次の著書で、ほぼ同様な論理で、シンギュラリティに批判的だ。
〇 松尾豊｢人工知能は人間を超えるか−ディープラーニングの先にあるもの｣(角川EPUB選書、2015年3月初版)

  • ｢人間＝知能＋生命｣で、生命を人工的に作り出せないから無理。AIが勝手に意識を持ち出すと考えるのは滑稽。
  • ロボットで実現すると考えると、鉄などの材料の補給をどうするか。人間から買うのか。ソフトがソフトを作成するとするのも、プログラムミスを考えると現実からは想像できない。

　同じくAI研究者の中島秀之も否定的で、次の視点を付け加えている。
〇 中島秀之、ドミニク･チェン｢人工知能革命の真実−シンギュラリティの世界｣(ワック(株)、2018年1月)

  • 第1の問題点は、脳神経の構造は写し取れたとしても、そのある時点の活動状態(脳神経の興奮状態)を読み取ることは不可能。血流やホルモン濃度も関係し、全てを同時に計測する方法は今のところない。
  • 第2の問題点は、身体性。目や耳の感覚器官、最近は内臓の状態も脳に影響していると言われる。脳だけをシミュレートしてもダメ。

　若きAI研究者で、ベンチャー経営者(IQBETA、https://iqbeta.com/)の松田雄馬は、次の書で、生命、身体を持てないAIでは、シンギュラリティは生じないとする。
〇 松田雄馬｢人工知能はなぜ椅子に座れないのか−情報化社会における知と生命｣(新潮選書、2018年8月)

  • 現在開発が進められているAIは全て、人間の知的活動の一部を担う｢弱いAI｣に過ぎず、精神を宿す｢強いAI｣とは性質を異にする。
  • 機械が人間の｢認識｣、｢意味｣を理解するには｢身体｣との関係を理解する必要がある。人間にとっての｢意味｣とは｢行為の意味｣であり、｢行為｣を行うには｢身体｣が不可欠。｢身体｣にとっての｢意味｣は、｢身体｣と｢環境(状況)｣との関係によって即興的に(その場その場で)作り出される。人間は、｢疲れているので座りたい｣、｢作業をするのでその場所が必要｣などという物語、目的を作り出して、｢椅子に座る｣。身体の無いAIは、従って、書名のとおり、｢椅子に座れない｣。

(私の感想) 何れももっともな論理で、反論できる根拠はない。しかし、AIが人間の心や意識を持てるようにならなくても、その頭脳の知的能力を進歩させて人間の心を理解し、併せて自己を再生産する能力を付けていくことはあり得ないことなのかと思う。

4) 神学的な視点
　先に紹介した、西垣通｢ビッグデータと人工知能｣では、欧米と日本の学者の違いについて、次のように神学的な視点を述べている。

  • シンギュラリティ仮説が優勢な欧米は、ユダヤ=キリスト教の一神教の世界である。そこでの伝統的な宇宙秩序は、神を頂点とし、次いで天使、人間、動物、…人工物とランクが下っていく、永遠にして厳格なる位階秩序で、それは超自然的な神が与えたものだ。その後、近代科学という世俗的な体系が生まれ、神という超自然的な存在は後ろに退いたが、その思考のベースにはこういう秩序感がある。
  • 神は人間を創出したが、AIも被造物として創出される(被造物としては神の前で人間と同格)。被造物たるAIロボットが、傲慢な人間に反逆を起こすという暗いストーリーは欧米人にとって説得力を持つ。シンギュラリティ仮説は、一神教文化の世俗化がもたらした虚妄である。
  • 日本の研究者の中で、この一神教に基づくシンギュラリティ仮説を本気で信じている人は殆どいない。しかし、欧米の科学者の中で本気に信じている人が沢山いて多大な研究予算がばらまかれているので、それに対抗(便乗?)するために関連の未来図が、日本でも大きなトピックになっている。

　宗教学者の島田裕巳は、世界的な宗教の衰退とAIへの代替の可能性について論じている。
〇 島田裕巳｢AIを信じるか、神(アッラー)を信じるか｣(祥伝社、2018年6月初版)。

  • キリスト教を中心として、神を信じる人が少なくなっている。フランス、米国では教会のミサに行く人が減少している。権威が無くなる。代りとして、イスラム教(アッラーの神)かAIの役割が高くなる。
  • イスラム教の特徴は、基本的に教会*5や牧師などの権威が存在しないこと。信者が従うべき規範は、コーラン(預言者マホメットに下された神のメッセージ)とハディース(マホメットの言行録)が全てで、これらは7世紀に定められたもので、以降変更されていない。イスラム教徒はすべて平等で国籍、民族の差別は無く、その意味で、現在主流な欧米的なグローバルとは別だが、基本的にグローバルである。
  • AIが発達しているが、問題は、判断はするが理由が説明できないブラックボックスであることだ。これは、イスラム教における生活上の各規範(豚肉の禁止等)にはコーラン等に書いてあるという以外の理由がないことと通じている。神や預言者が定めたことは絶対であるということと、理由を聞かずにAIに従うという考え方とは通底していて、AIによる支配は人類に受け容れられる可能性が大きい。
  • イスラム教徒の人数は、2010年では16億人で、21.7億人のキリスト教徒に次いで多く、今後も増える。特に近年欧州での移民等によるイスラム教徒の伸びは大きく、2016年の欧州30国(EC28国プラス2国)のイスラム教徒は2577万人(人口全体の4.9%)だ。特にフランスは572万人(8.8%)にも達する*6。この中でイスラム教的な考え方(理由を聞かない、など)が広まっている(AIも受け容れられるとの趣旨か)。
  • AIを神として信仰の対象とする宗教団体が、元Googleエンジニアにより米国で設立されたらしい。｢Way of the Future｣、目的は｢人工知能に基づく神の実現を発展･促進すること｣。*7

5) 最近のAIのトピック
　各書で紹介されている最近のAIのトピックから若干を紹介する。もちろんシンギュラリティに達しているものではない。主な出所は次の書だ。
〇 日本経済新聞社編｢AI2045｣(日経プレミアシリーズ、2018年6月第1刷)

  • 直木賞作家朝井リョウはAIとの｢共作｣を試みている*8。書くべきテーマは自分。あらすじや登場人物はAI。舞台設定が整ったら、著者は文章の執筆に全力。
  • イスラエルでは、軍事関係のAIで、脳をネットにつなぎ、人の脳の記憶や機能をコンピューターにダウンロードする技術の開発を行う企業が現れた、
  • 日本の企業で、潜在退職可能性を判断し、人事配置に役立てている。
  • 電子機器の修理を手掛ける｢ア･ファン｣社(千葉県習志野市)には、AIBOを直してほしいという依頼が多くなっている。人間がロボットに愛情を抱いていることの表れだ。AIBOの供養をするお寺もある。
  • HISの｢変なホテル｣が評判だ。長崎で当初の1/5の6人までスタッフ数を削減。2017年3月に千葉にも2号店。会話ができるロボットを置いたところ、(人間同士の)会話に割り込んできてうるさいとのクレームが出た。

　また、NHKのNHKスペシャルで、昨年、今年と人工知能のレポートをしている。その中で幾つか紹介する。
〇　NHKスペシャル　「人工知能　天使か悪魔か　2017」 2017年6月25日(日)放送
https://www6.nhk.or.jp/special/detail/?aid=20170625

  • シンガポールのバス会社では、事故を起こす危険性の高い運転手を人工知能が見つけ出す。
  • アメリカでは、過去の膨大な裁判記録を学んだ人工知能が、受刑者の再犯リスクを予測し、刑期の決定などに関わっている。
  • 日本のある企業でも、退職の予兆がある人を、人工知能が事前に察知するというシステムを導入した。
  • 名古屋のタクシー会社では、客がいる場所を指示する人工知能を導入し、乗車率が大きくアップした。
  • 2018年春、将棋界の最高位・佐藤天彦名人と最強の人工知能が激突する電王戦2番勝負が行われ、佐藤名人は完膚なきまでに叩きのめされた。
  • 将棋界最高の頭脳・羽生善治は、AI将棋を尊重しつつも、判断の根拠がブラックボックスになっていることが困るとしている。
  • AlphaGo(アルファ碁)は、Google DeepMindによって開発された囲碁プログラムである。2017年5月には、柯潔との三番勝負で3局全勝を挙げ、中国囲棋協会からプロの名誉九段を授与された。Google DeepMindは世界トップ棋士の柯潔に勝利したことを機に、AlphaGoを人間との対局から引退させると発表した。

〇　｢人工知能　天使か悪魔か 2018 未来がわかる、その時あなたは…｣ 2018年9月15日(土)(午後9:00-9:50)
https://www6.nhk.or.jp/special/detail/index.html?aid=20180915　

  • 今、最も精度を増しているのが、犯罪予測。アメリカ各地の警察では、続々AIを導入、大きく犯罪件数が減少している。ネブラスカ州では、地区別、時間別、種類別に犯罪を予測し、AIの指示に従って警官がパトロールする。殺人等が対前年比で9%減り、盗難事件も48%減少。
  • シカゴ警察では、SNS等を分析し、犯罪に関わる可能性の高い者を抽出して｢未来の犯罪者｣リストを作成した。人口の15%の40万人が登録されている。リスト対象者を定期的に訪問して警告している。ただ、このシステムでは、加害者になるか被害者になるかは判らない。問題視する識者も多く、訪問を受けた人の中には怯えて、移転を考える人もいる。
  • 衛星画像を読み取るAIの解析能力は、300メートル四方というピンポイントで、向こう48時間の15分ごとの正確な天気の予測を可能にした。鹿児島県姶良(あいら)市では、2018年7月上旬の西日本豪雨の際に、ウェザーニュース社のAIによる気象情報サービスを活用して、きめ細かく避難指示、解除をした。気象庁の予報(鹿児島県を2つの地域にしか区分しない)に比して、地理的、時間的に圧倒的にピンポイントのサービスが提供されたとしている。
  • 米国では、心臓移植の患者を選ぶ際に、10年後生存率の改善度を見て決定している。また、脳のPET写真をAIで解析し、2年以内にアルツハイマー病を発症するかが判定できるようになったとのこと。ただし、現在では治療法がないので臨床適用はしていない。
  • しかし、AIは、予測はするが、その理由は示さないブラックボックスであることが問題である。

(ブラックボックス問題に関する私の感想)
　AIが判断の理由を示さずブラックボックスとなっていることが問題だとの指摘は、上述のNHKスペシャルで繰り返されており、島田裕巳著でも、神とAIとの共通点として指摘されている。確かに、人事評価、犯罪予測などで理由が示されないのは、不利益を被る人に限らず、AIの判断を実行する立場の人にとっても違和感を覚えるだろうと思う。いくらAIは公平、無私、偏りが無いと言われても納得しがたい。
　私は、AIの判断がブラックボックスだという問題は、現時点でAIが未だ成熟していないからであって、今後、人間に説明できる能力を付加することは可能と思う。AI技術で画期的だった｢ディープラーニング(深層学習)｣は、多層のニューラルネットワークを活用するが、各層で抽出されるパターンの関係が多層、複雑すぎて、現段階では人間に解読できない。ということで、現在はブラックボックスになっているが、今後は人間も納得できるような説明振りを構成、追加していくことは、人間より賢くなるAIにとっては容易なことと推測する。
(人間の職業はどうなるか)
　AIが社会や職場に導入されていく中で、人間の仕事はどうなっていくか。上述の日経新聞編｢AI2045｣に掲載されている図を紹介する。｢AIが得意とする分野｣(現在と近未来か)は、図の真ん中の受付、事務員、運転手、作業員などとされているが、更に営業、通訳、添乗員も対象になっていることにはびっくりする。更に今後｢AIの進出が加速する分野｣は、コミュニケーション能力と高度な専門性が必要とされる右上の方向とされている。具体的には、医師、会計士、政治家、経営者、看護師、介護士などが挙げられている。高度な専門性は必要だがコミュニケーション能力は不要とされている(根拠は不明)、音楽家、写真家、料理人がAI化の方向から幸い(?)外れているが、これらも本当にどうなるか判らない。
　人間はAIと仕事を張り合うのではなく、共存を図るべきとの主張だが、これもどうなるか判らない。


(日本の問題点)
　同書の中で、もう1つ気懸りなのは、今ある業務が自動化される割合を国別に比較した報告だ。ロボットの導入余地は日本が主要国の中で最も大きい(マッキンゼーの試算)と指摘されている*9。日本は金融･保険、官公庁の事務職や製造業で、元来ロボットに適した資料作成などの単純業務の割合が他国より高い。これは、日本の労働者がロボットに対抗してよく頑張っているからと評価するよりも、国際的に見た労働生産性の遅れが今後も拡大すると心配になる。
　また、AI特許は米中で激増、日本は減少しているとの指摘も心配だ。主要10か国に提出されたAI関連特許は、2010年の4,792件に比して2014年は8,205件と7割増。ところが日本は同時期に3%減とのことだ。
　人類の仕事の変化も問題だが、日本の状況も心配になる。

*1:本稿は、私が高校同期の定例同窓会で短いプレゼンをする(10月初旬に予定)ものの補足説明だ。今年の同窓会幹事の趣向はいろいろあるらしいが、その1つが数名を選び、適当な話題でプレゼンをしてもらうことだ。光栄にも迷惑にも、私に依頼があった。条件は3-5分間で終らせること。生来話下手の私には、数分間で理解してもらう自信が無い。ということで、このブログで補足することとした。

*2:邦訳は、｢ポスト・ヒューマン誕生−コンピューターが人類の知性を超えるとき｣(井上健訳、NHK出版、2007、その邦訳のエッセンス版がある。｢シンギュラリティは近い[エッセンス版]−人類が生命を超越するとき｣(井上健監訳NHK出版、2016年4月

*3:FLOPSは浮動小数点計算数/秒でcpsに相当

*4:https://ja.wikipedia.org/wiki/%E3%82%AA%E3%83%BC%E3%83%88%E3%83%9D%E3%82%A4%E3%82%A8%E3%83%BC%E3%82%B7%E3%82%B9

*5:モスクは、信者が礼拝する場所と位置付けられている。

*6:ドイツ、イギリスのイスラム教徒も各6.1%、6.3%。ある予測では、2057年にフランスではイスラム教徒がキリスト教徒を抑えて第1位の宗教になるとのことだ。

*7:よく判らないがウェブでも伝えられている。　https://www.gizmodo.jp/2017/10/way-of-the-future-launch.html　

*8:既に、AIを利用した創作小説が「星新一賞」の1次予選を突破している。

*9:自動化が困難な業務の割合。日本55%、米国46%、欧州47%、中国51%、インド52%