深度神經(jīng)網(wǎng)絡(luò)已經(jīng)掌握了解決各種問題的方法——從識別、推理圖像中的物體，到成為“圍棋上帝”。隨著這些任務(wù)變得越來越復雜，神經(jīng)網(wǎng)絡(luò)摸索出來的解決方法也變得越來越繁瑣。

因為這個系統(tǒng)太復雜了，即使是設(shè)計該系統(tǒng)的工程師可能也無法分析出它發(fā)出某一指令的原因。當然，你也不能強求這個神經(jīng)網(wǎng)絡(luò)能夠給出它下達每一個指令的原因：目前為止還沒有一套能夠讓 AI 自己解釋自己行為的系統(tǒng)。

實際上，這就是人工智能領(lǐng)域著名的“黑盒子”問題，隨著神經(jīng)網(wǎng)絡(luò)在現(xiàn)實世界中的應(yīng)用越來越廣泛，對這一問題的研究也開始變得無比重要。對此，《麻省理工科技評論》曾以“人工智能核心地帶的黑暗秘密”為題刊發(fā)專題文章，來深入探討神經(jīng)網(wǎng)絡(luò)的不可解釋性問題。

圖丨《麻省理工科技評論》關(guān)于人工智能的“黑盒子”問題的封面文章

作為人工智能研究領(lǐng)域的先鋒，DeepMind對“黑盒子”問題也在持續(xù)關(guān)注——目前，該團隊正著手開發(fā)更多的工具，用于解釋人工智能系統(tǒng)。6 月 26 日，在最新發(fā)布的一篇論文中，DeepMind提出了一種基于認知心理學來研究深度神經(jīng)網(wǎng)絡(luò)的新方法。