关于机器学习或人工智能可以帮助人类做什么事，已经不需要解释太多，从精通诗画、帮医生看片子，到以假乱真打电话预约餐厅，不过，从今年开始 AI 的暗黑面已经取代光明面，变成这个领域最迫切需要面对的议题。
正当世界都在关注 Google 与美国五角大楼合作，道德压力迫使 Google 公开表示将不再与美国国防部续约，但人工智能衍生的争议又岂是发展 AI 武器一案而已。人工智能已经不是一项技术平台的问题，而是应该如何使用的问题。
今年 4 月，麻省理工学院媒体实验室（The MIT Media Lab）的一个三人团队：联手创造了一个人工智能——诺曼（Norman）。不过，这个与惊悚片大师希区柯克的经典电影《惊魂记》中的变态旅馆老板诺曼·贝兹（Norman Bates）同名的 AI，是全世界第一个精神变态者人工智能（World's first psychopath AI.）。另外一提，如果你对于 MIT Media Lab 在去年万圣节推出 AI 与人类合写恐怖故事的人工智能 Shelley 还有印象的话，同样是来自于这个团队的项目。
当然，MIT 作为全球最领先的学术殿堂之一，并不是真要把恐怖片的情节搬到现实生活中，他们的目的是告诉全世界必须正视一件事：用来教导或训练机器学习算法的数据，会对 AI 的行为造成显著影响。也就是说，有偏差、偏见的数据就会可能训练出带有偏差／偏见的人工智能，预测或分析出带有偏差／偏见的结果，就像不少科学家就以“garbage in, garbage out”这句话，贴切形容“数据和人工智能的关系”。
MIT Media Lab 指出，当人们谈论人工智能算法存在偏差和不公平时，罪魁祸首往往不是算法本身，而是带有偏差、偏见的数据。尽管在训练模型时是使用同样的方法，但使用了错误或正确的数据集，就会在图像中看到非常不一样的东西。
诺曼是一个会生成图像文本描述的深度学习方法，当诺曼看到一张图像，就会自动产生文字或标题来解释它在该图像中看到了什么，但特别的地方在于，MIT Media Lab 使用 Reddit 论坛上充斥着令人不安的死亡、尸体等暗黑内容的子论坛（subreddit）的数据来训练诺曼，然后，他们将诺曼与一般性的图像标题神经网络一同进行了罗夏墨迹测验（Rorschach Inkblots）。
罗夏墨迹测验是由瑞士精神科医生、精神病学家罗夏（Hermann Rorschach）创立，最著名的就是投射法人格测试，受试者通过一定的媒介建立起自己的想象世界，因此被视为是一种个性测试法。两相对照下，有了令人毛骨悚然的发现。
任何科技的诞生都有好的一面，以及坏的一面，Google Research Applied Science 部门主管 John Platt 举例：“烦人的垃圾电子邮件从 80 年代就有了，一直到 1997 年左右，才有第一个邮件过滤器的问世”，而且加入机器学习后，更有效的阻挡垃圾邮件，每天都有新的 AI 使用问题诞生，但每天也会有更多解决问题的工具出现，就像上述的假视频，除了 DARPA，还有许多研究机构也在开发可以检测假视频的工具，像是卡内基梅隆大学软件工程研究所的计算机科学家团队、麻省理工学院团队，都已经投入该领域数年。
唐山中都白癜风医院 https://yyk.familydoctor.com.cn/21220/
海口中山医院 https://yyk.familydoctor.com.cn/20528/
