一个名为“诺曼”的神经网络在墨迹中看到了令人不安的暴力图像。
如果你像瑞普·凡·温克尔(Rip Van Winkle)一样,在过去十年里一直在睡觉,而现在才刚刚醒来,那么你的翻盖手机就会在复古技术专家和生存主义者中变得超级流行,哦,对了,人工智能(AI)要么杀了你,要么救了你。
人工智能是一长串科技热词中最新的一个,这些热词已经席卷了整个社会。如果我们相信备受尊敬的科技分析公司高德纳(Gartner Inc.)的人的话,2018年将是人工智能真正融入我们日常生活的一年。波士顿动力公司(Boston Dynamics)发明的超现实机器人,或者中国公立学校部署的面部识别人工智能,可能让人感到不安,但这种技术是人类状况的产物,因此,我们正在把自己的文化嵌入编码DNA中。
目前关于人工智能的争论主要集中在伦理概念上。在文化研究中,杏耀伦理嵌入到价值观中,它们已经成为关于人工智能将如何融入我们生活的讨论的重要组成部分。我们还没有讨论的是谁的道德,以及最终我们讨论的是谁的价值观。
是西方对东方,还是美国对其他国家?由于文化中的价值观受到社区和更大的社会的影响,伦理依赖于社区价值观发展的文化背景。
因此,文化在人工智能的形成中扮演着重要的角色,通过所谓的数据的文化化。
人类学家吉纳维芙·贝尔(Genevieve Bell)是英特尔前副总裁,也是一位文化预言家,她能够引导这家科技巨头更深刻地理解文化和人工智能是如何相互作用的。
贝尔的研究表明,人类与科技的互动在文化上并不普遍。它既不是相同的,也不是客观的,我们在有意识和无意识的层面上对技术内部和整个技术进行文化编码。
如果这是真的,那么人工智能文化的最终发展会发生什么呢?
对于人类学家来说,人类文化进化有许多标志:工具的使用,抽象思维的发展,更重要的是,交流语言的创造。
当两个或两个以上的生命体开始交流和交换信息,以及更复杂的思想时,文化就开始了。非人类的人工智能实体之间的文化发展还没有被讨论过,更不用说人类和人工智能文化的融合了。
机器人开发了自己的语言
最近,Facebook的人工智能研究小组(FAIR)简要介绍了一项实验,两个机器人被要求进行谈判。当时有报道称,这些机器人开始开发一种更有效的语言来相互沟通。
Facebook计算机科学研究人员很快了是什么迅速成为更有效的发展两个机器人之间的人工智能语言,并不是因为他们害怕AI贯穿的出现,但因为机器人没有返回预期的结果——用英语谈判。
在一个代码基本上由0和1、yes或no命令组成的世界中,没有太多空间来处理意外情况。但有时,我们应该拥抱机会,探索可能性,因为文化不会以一种单一的方式表现出来。
我们创造了文化。它是我们作为一个社会所认同的一套规范,无论是有意识的还是无意识的,它塑造了我们在日常生活中如何运作。
人工智能可以吸收文化
人工智能在未来具有独特的能力,能够吸收世界上所有的文化规范和价值观,发展出一种潜在的真正的全球文化。但首先,作为人工智能的创造者,我们必须理解我们的角色,以及我们如何影响这种吸收能力。毕竟,人工智能代表了构建人工智能的人以及为人工智能的基础数据框架提供输入的人文化的一个缩影。
科幻小说家阿拉斯泰尔•雷诺兹(Alastair Reynolds)在他的《宽恕的鸿沟》(Absolution Gap)一书中描述了这样一个星球:在这个星球上,唯一有智慧的生物是浩瀚的海洋,它从在其中游泳的生物和生物那里吸收信息。海洋从这些信息中学习,并将这些知识重新分配给其他生物。
在书中被称为“模式杂耍”的人工智能的当前表现形式,正如我们所知,
杏耀主管团队 ,它非常像那个虚构的海洋,吸收知识,并有选择地用它自己的文化化数据分布它。
以雷诺兹的知识吸收海洋为例,人工智能目前就像地球上分离的咸水和淡水——每一个都有自己的生态系统,孤立而独立。
当这些独特的生态系统开始互相交流时会发生什么?当不同的人工智能实体开始在他们新形成的文化中交换信息和协商现实时,如何确定规范和价值?
诺曼是个警告
麻省理工学院(MIT)的诺曼(Norman)是一个以虚构的精神病患者为原型的人工智能人物,他创造了一个我们早就知道的人类独有的例子:长期接触暴力,就会导致文化规范和价值观的断裂。这对未来暴露和传播给其他人工智能造成了真正的危险。
所以如何?
想象一下诺曼和阿列克谢在一起的情景。这两款人工智能都代表了它们的创造者、它们所消费的人类数据以及一种内在的学习需求。那么,谁的文化价值观和规范更有说服力呢?
诺曼生来就能从一个精神变态者的视角看到所有数据,而Alexa作为一个数字助理只是为了取悦他人。有无数的人类例子表明,相似的人格组合在一起时就会出错。
社会科学家认为,杏耀平台关于人工智能的争论即将爆发,因此,多个版本的人工智能必然会共存。
随着哲学家、人类学家和其他社会科学家开始表达他们的担忧,社会反思人工智能的理想用途、质疑现实和我们的期望、并影响其发展成为一个真正的泛全球文化环境的时机已经成熟。