« 自動運転の問題:今の限界がよくわかる記事 | トップページ | 設計ミスは関門をすり抜ける »

2016年7月26日 (火)

原理がわからない:ディープラーニングをだます

 ディープラーニングは、なぜか動くという技術である。原理もわからないものを技術と呼んでいいのか、というのは少し疑問を持っている。そんな疑問を、より端的にしめしているのが、ITpro Report - AIは勘違いする―テスラとトヨタにみる自動運転カー戦略の違い:ITproの記事である。どう見ても、何かさっぱりわからない画像だが、ディープラーニングによる画像認識では、この画像を、100%の信頼性で「1」だと判定する。そして、なぜ、そういう判定をするのか、誰も説明できない。
 あるINPUTに対して、ブラックボックス処理されて、あるOUTPUTが出る。そのINPUTとOUTPUTの関係が、大抵の場合、人間に役立つ関係だから、このブラックボックスは役に立つ、というのが、今のディープラーニングの実態のようである。まあ、クリティカルな応用でなければ、それでも十分役に立つ。そのことは全く否定しない。でも、クリティカルな応用の場合、これはどうなんだろう?少なくとも、技術者の私としては、こんな状況の自動走行車は、乗りたくない。このブラックボックスが、大抵の場合、私の未熟な運転技術よりも上だとしても、だ

« 自動運転の問題:今の限界がよくわかる記事 | トップページ | 設計ミスは関門をすり抜ける »

技術」カテゴリの記事

コメント

コメントを書く

(ウェブ上には掲載しません)

トラックバック

この記事のトラックバックURL:
http://app.cocolog-nifty.com/t/trackback/568535/63970549

この記事へのトラックバック一覧です: 原理がわからない:ディープラーニングをだます:

« 自動運転の問題:今の限界がよくわかる記事 | トップページ | 設計ミスは関門をすり抜ける »

2017年8月
    1 2 3 4 5
6 7 8 9 10 11 12
13 14 15 16 17 18 19
20 21 22 23 24 25 26
27 28 29 30 31    

公告

  • Google Adsense
無料ブログはココログ