NYTより「もしも」が起きるその前に のお話
こんばんは!
先週の金曜日、ご覧になったでしょうか「サマー ウォーズ」!この映画に引っ張られて、今回おなじみNew York Timesからこちらの記事を紹介させて頂きます。
自動運転なんて何だって、実際まだまだ先の話になりそうじゃないか!なんて。少しばかり思っているのですが。しかし、人工知能について怖いのが
①学習の結果思ってもみなかった不利益をもたらすこと
②人間が電源を切れなくすること の大きく2つ。
この2点について、予想外の不利益の実例の他に、予測不能なスピードで成長し続ける人口知能の分野で「もしも」がおきるが起きるその前に、今現在研究されている対策についての記事です。
とても面白いのでぜひ元の記事を読んでみてくださいな:D
単語のお話:
skid into 句 スリップして...に突っ込む
overblown adj 仰々しい 盛りすぎた
trip up 句 (人)をつまづかせる の足をすくう の揚げ足をとる (人)に悪さをする
get ahead of 句...の先に出る
reinforcement learning n.comp. 強化学習
stray from 句 かた脱線する から外れる から逸れる
hold promise 句 期待できる
object recognition n.comp. 物体認識
oft oftenのこと
うーん。どうなんでしょうねぇ。技術的なことはさっぱりなのですが、原子力発電と似たようなお話で、何かが起きてしまってからでは遅いような気もしますしね。
それでも、考えていた対策が、いざ何かが起こった場合に役に立たなかったらどうなるんでしょうね?
おまけ: フェアという概念
記事中にありますが、人工知能に高ポイントでフィニッシュラインを切った場合に「勝ち」になるゲームをさせた場合、ポイントを取ることしか考えなくなったそう。
サマーウォーズの作品中では人工知能と人間がゲームで戦いますが、そういえば、あの人工知能はどうしてルールを守ったんでしょうね。勝てばいいだけなのに、どうしてフェアに戦ったんでしょう?
フェアって概念はあるんでしょうかね。 人間も機械も「フェア」ってどうやって教えられて守っているんでしょうね。人間もそんなに守れてない気もしますが笑
おわりっ
☔️