最近，一位来自复旦大学的研究生朱明超，将一本少有的书《Interpretable Machine Learning》（可解释机器学习）翻译成了中文。这本书最初是由德国慕尼黑大学博士 Christoph Molnar 耗时两年完成的，长达 250 页，是仅有的一本系统介绍可解释性机器学习的书籍。包括 Google 在内，也在不断探索打开神经网络『黑盒子』的正确方式。
『可解释人工智能』（XAI）是这本书的核心论题。作者认为，可解释性在机器学习甚至日常生活中都是相当重要的一个问题。建议机器学习从业者、数据科学家、统计学家和任何对使机器学习模型可解释的人阅读本书。《可解释的机器学习》该书总共包[……]
现代神经网络经常被吐槽为「黑盒子」。尽管它们在各类问题上都取得了成功，但我们仍无法直观地理解它们是如何在内部做出决策的。随着人工智能系统被应用到更多重要的场景中，更好地了解其内部决策过程将有助于研究者能够及时发现其中的缺陷和错误。对此，谷歌 AI 研究院与 OpenAI 一起合作提出了能够弄清这个「黑盒子」里面到底有什么的新方法——激活图集。谷歌在博客上发布文章介绍了这一意义重大的成果 ——
神经网络已成为图像相关计算任务中的实际标准，目前已被部署在多种场景中：从自动标记图像库中的照片到自动驾驶系统，我们都能看到神经网络的身影。鉴于机器学习系统的在执行方面的准确性比不使用机器学习、直接由[……]
