深度学习已经贯穿于我们的生活，无论是汽车自动驾驶、AI医学诊断，还是面部、声音识别技术，无一没有AI的参与。然而，尽管人们早已明了深度学习的输入和输出，却对其具体的学习过程一无所知。

机器学习是人工智能的一种形式，它使用大量的数据来训练自己对某些问题形成算法。与机器学习不同，深度学习（deep learning）不需要结构化数据作为基础，利用人工神经网络，即多个神经元一起工作，通过这些“神经元”来考虑数据并对数据进行分类。但是，当出现超出其参数范围的输入时，神经网络也会崩溃。不仅如此，一些常见的图像也会让深度学习人工智能崩溃。把消防车图片倒过来，AI就会看到一个大雪橇；放大一辆公共汽车的窗户，它在AI眼中就变成了一个出气筒。

很明显，AI也会发出类似于人类社会的性别歧视和种族主义言论。为了找出其中的原因，专注于破解自然语言处理（NLP）算法黑箱并提出深度学习思维这一概念的Sameer Singh，使用了一种叫做归因图的工具：将语言插入到文本生成NLP算法中，归因图将突出显示某些部分，展示什么在神经网络内部“发光”——也许是一个特定的字母组合。

AI黑箱VS人类黑箱

事实上，随着算法变得更加复杂、更加强大和不透明化，围绕黑箱的问题也进一步深入到哲学上：当我们人类自己的神经网络仍然神秘时，要求AI神经网络完全透明是公平的吗？不得不承认，人类本身的神经网络也是一个黑箱。我们虽然知道一些物理结构，知道它们是如何工作，但对“思想”和“意识”的确切含义仍不清楚。接下来我们是否应该思考，机器模仿人脑并继承其精确、灵活等优点的同时，是否也继承了人性中的偏见？当然，随着未来科学家们在深度学习领域中不断取得的突破，由人类创造的AI黑箱终将变成“灰色”。