ＡＩと新世代

よしをです。

恥ずかしいほどにアナログなわたしですが、

日々進歩する科学技術には、「注目していかねば」、という、

危機感と焦りだけはもっています。

ＡＩの進歩は目覚ましく、

たとえば、チェスをはじめ、囲碁、将棋のような知能ゲームの世界でも、

人間の能力を超えている、あるいは超えつつあることが実証されています。

その理由に、ＡＩの進化にディープラーニング（深層学習）が、

取り入れられていることがあります。

ＡＩの能力が、人間を完全に凌駕することで、社会が変容する、

シンギュラリティ（技術的特異点）を迎えるのは、２０４５年だといわれています。

しかし、技術の進歩は、さらにスピード感を増しているように感じます。

前述の知能ゲームの世界では、シンギュラリティはすでに現実的です。

囲碁、将棋のソフトは、

人間の専門家から学ぶという、古典的な学習法から脱して、

ソフト同士が数万局を戦い、

その経験から、独創的な戦い方を生み出すというプロセスを繰り返し、

ソフトは、一気に進化し、今や実力はトッププロを超える勢いです。

人間の手を介さずに、機械同士で切磋琢磨し、精度をあげる手法を、

「敵対的競合」といいます。

敵対的競合について、

偽札づくりの偽造犯と、警察との関係を例にとって、説明します。

偽造犯がつくった偽札が、警察に見破られます。

そこで、犯人は、さらに精巧な偽札をつくり、警察がそれを見破る、

その繰り返しにより、やがて、ホンモノそっくりの偽札ができあがり、

最終的には、誰もホンモノとニセモノの区別ができなくなります。

ＡＩがやっていることは、そういうことです。

しかも、かれらはマシンですから、スピード感は、人間とは比較になりません。

複数のＡＩ頭脳が、それぞれ警察役と偽造犯役に入れ替わり、

無数の偽札を作りあい、見破りあって、偽造のレベルをあげていくのですから、

これはもう、人間の能力の及ぶものではなくなっていきます。

また、敵対的競合は、検討のプロセスが人間を介在しないので、

意思決定の流れが、ブラックボックス化するという問題があります。

ゲームのように、勝敗という明確な目的があれば、問題はないのでしょうが、

もっと複雑な結果を求めるケースにおいて、ＡＩの検討が、

人間が有する倫理や、善悪といった価値観が、維持されるのかどうか、

どこにも保証がないのです。

その結果、ひょっとすると、「ターミネーター」や、「マトリックス」の世界が、

現実化してしまうかもしれません。

しかし、機械に倫理観を埋め込むことで、

人間社会が容認している、

規則や運用に関する臨機応変な解釈や、融通性をなくしてしまうこともありそうで…。

今回も、このブログを読んでいただき、ありがとうございます。