白と黒の世界
深層学習を使った レントゲン画像解析の結果報告。
専門医がびっくりするほどの診断性能。
最新技術では 深層学習が画像のどこを見て判断しているのかヒートマップで表せる。見た目はこんな感じよ。
ある肺炎画像、深層学習が示したのは 「真っ黒の部分」 つまり何もない空気の部分。
専門医「えっ・・考えられんよ。。黒いということは正常な部分。なぜAIはそこをみて肺炎と判断できてるのか・・・」
レントゲンはX線の透過の度合いを見るもの。何かあるとX線が吸収されて白くなる。
医者は白い部分の形状などを見て 画像診断を行う。
しかし深層学習が示した場所は 黒い部分。しかも診断をあてている。
なぜだ???
肺炎にかかると、白い部分にある種の特徴が現れる。レントゲンは白と黒の世界。
白にパターンがあれば、反対の黒にもパターンが出る。なるほど、そういう話か。
人間にとっては何の意味もなさない「無」に、AIは何かしらの「有」を見出していたということか。罪深い。
AIをこれまでの人間の知識の延長で考えてはいけない。
人間は主観に満ちた生き物である。ゆえに、意外と簡単な罠にハマる。
それに対し、嫌というほど客観性に満ちたAIが真逆の思考プロセスで、結論を出してくる。
これからは 無にも焦点を当て 意味を見出す時代なんだ 。ばかやろー