恐ろしいかもしれないAIとの協業 - Pythonと本と子供と雑談と

だいぶ前にアヒルさんと飲んでた時に、横に飛行機のパイロットが座っていたので話を聞いていると恐ろしい未来が見えました。

飛行機の運転ってよく知られているように、自動操縦になっています。操縦ってどんなことやってるの？って聞いたら、「離陸は人間がやらないと駄目だけど、そのあとはオートパイロットだよ」って答えてくれました。

じゃあやることないやんみたいな感じで盛り上がっていると、「まぁそうなんだけど、とんでもない状況になって機械が手に負えなくなったら人間が引き継ぐんだよね」という話になりました。「なんかそんな状況で引き継ぐから、何もないかチェックしないと駄目で案外疲れるんだよねー」ってことでした。

こういう話はよく聞きます。株のトレードなんかでも、相場が荒れ始めるとアルゴリズムさんたちは手を止めます。そうすると人間が処理しないといけないわけですが、どうやってるんでしょね。ちなみにちょっと前の話なので、今はそういう場面用のアルゴリズムさんが出ているのかも知れませんが。

機械が手に負えない状況になると人間にその仕事が渡されるというのは、人間の機械への従属といえるのかもしれません。それよりも恐ろしいのは、普段何もしていないのに、そういうエクストリームな状況で人間が仕事を引き継がないといけないということです。そういうのって多分、人間にとってのストレスは大きくなるし、手に負えないことも多くなるかもしれません。

最近のギスギスした世界は実はそんなことが原因となっているのではないか、そのように最近考えたりしています。というわけで、この前の「私は脳ではない」を購入してみました。