遇见诺尔曼，世界的第一个AI精神病人

在麻省理工学院的一群科学家手中，他们巧妙地在社交网络巨头ReDIT上搜集那些颇具争议，充斥着恐怖与暴力元素的图像，用以训练一款人工智能算法。这款人工智能算法被命名为诺尔曼，仿佛是对经典电影角色的一种致敬，它借鉴了艾尔弗雷德希区柯克的心理惊悚片中安东尼帕金斯的标志性形象。诺尔曼被训练执行图像字幕任务，这是深度学习中流行的技能，旨在生成对图像的描述。他们选择的数据集却独树一帜，独树一帜到令人心悸——他们聚焦于那些臭名昭著的暴力图像，这些图像专门记录并展示令人不安的死亡现实。

科学家们没有止步于此，他们进一步用RoSaCH墨迹对比了诺尔曼与其他AI的表现。这些AI并未接触到同样极端的图像。麻省理工学院的科学家在项目的官方网页上写道：“诺尔曼的诞生揭示了一个事实，那就是用于教授机器学习算法的数据会显著影响其行为。”的确，当公众谈论人工智能算法存在的偏见和不公时，真正的问题往往不在于算法本身，而在于输入其中的数据。就像一个人看待同一张图像，可能因为视角不同而看到完全不同的东西，即使是病态的、扭曲的情境也是如此。当数据集使用不当或正确时，AI的表现截然不同。诺尔曼在ReDIT最阴暗角落的长期熏陶下，展现了一个关于人工智能在机器学习算法使用中的错误案例研究。科学家们发现诺尔曼缺乏移情逻辑，仿佛让人工智能模拟了精神病患者的某些特征。

当科学家们展示给诺尔曼和其他AI相同的RoSaCH墨迹时，诺尔曼的反应截然不同。例如，当看到未被污染的正常图像时，诺尔曼看到的是悲剧性的场景——一个人被“枪毙”。而其他标准的AI可能看到的是更常见的情景，如一对夫妇温馨地站在一起的场景时，诺尔曼却看到一位孕妇从建筑物中坠落。这种截然不同的反应揭示了机器学习算法的输入数据对AI行为产生的巨大影响。诺尔曼的独特之处在于它经历了一种极端的训练过程，使其在解读图像时产生了扭曲的视角和独特的解读方式。通过这个案例研究，研究人员开始证明机器学习的方法和材料对AI行为的影响程度之大，并揭示了当机器学习使用有偏见的数据时人工智能可能产生的错误。他们称之为“NG算法”，旨在警示人们注意数据的重要性以及它对人工智能未来发展的潜在影响。