国学首页|国学私塾 |先秦| 秦汉| 魏晋南北朝| 隋唐五代| 宋代辽金| 元代| 明代| 清代| 当代| 评论|
□ 站内搜索 □
请输入查询的字符串:
标题查询 内容查询
□ 同类目录 □
  • 文学理论著述
  • 专题研究
  • 诗文赏析
  • 古籍整理
  • 文坛动态
  • 武侠文学
  • □ 同类热点 □
  • 陶渊明人生境界的审美范型及其现代性
  • 中国当代文学的分期及其发展概况
  • 说宋代笔记(上)
  • 《边城》里翠翠的人物形象分析(2)
  • 现代格律诗史纲
  • 柳永词风及其词史地位(一)
  • 鲁迅的药与酒及魏晋风度(二)
  • 朦胧诗
  • 中国美学
  • 此情可待成追忆--谈林徽因的记忆与李商隐的锦瑟二诗
  • 《封神演义》研究综述
  • 唐诗格律
  • 小说类型理论与批评实践——小说类型学研究论纲
  • 90年代诗歌(一)
  • 中国诗学的百年历程 蒋寅
  • 当前类别:首页 >> 新版国学 >> 文学 >> 当代文学 >> 文学理论著述
    科幻文学中的人工智能伦理(2)

    发布时间: 2018/10/10 14:58:30 被阅览数: 次 来源: 论文联盟
    文字 〖 〗 )
    阿西莫夫拟定的“机器人三定律”对后世影响深远。  

      1920年,捷克作家卡雷尔·恰佩克(Karel apek)通过剧作《罗素姆的万能机器人》将“造人”科学家的个人悲剧放大为全体人类的末世审判。大众所熟知的Robot(机器人)一词便源于该剧,词源为波兰语的“强迫工作”(Robota)和“工人”(Robotnik)。显而易见,该词隐喻了机器人服务人类的劳工地位。剧中的机器人由工厂批量制造,外表和人类毫无二致。人类为了从日常劳动中解脱出来,大量使用这种机器人。后来,机器人不再服从奴役,转而发动战争消灭了人类。恰佩克的这种悲观看法是当时人们对人工智能人拒斥态度的典型代表。这种观点认为,虽然人类好逸恶劳的本性决定了人工智能一开始会被广泛接受,但随着科技进步引发的不确定风险加剧,一旦人工智能站到人类的对立面,人类将遭受灭顶之灾。此类文学作品有很多,譬如美国作家约翰·坎贝尔(John Campell)的《最后的进化》(1932),莱斯特·雷伊(Lester Rey)的《为人类复仇》(1984)等。   
      时至今日,这种“人工智能危险论”依然拥趸甚众,科技大佬比尔·盖茨、埃隆·马斯克以及著名物理学家史蒂芬·霍金,都对人工智能研发持审慎态度。《终结者》、《骇客帝国》等经典科幻电影更是将这一观点渲染得妇孺皆知。很明显,对未来的悲观预言是为了警醒世人:如果人类必须要面对人工智能,就应尽早建构一种稳妥的科技伦理,以此来约束人工智能的研发方向和应用领域。   
      奴化控制   
      当然,尽管有不少作家将人工智能视为人类生存的威胁,但同时也有许多作家并不认可这种悲观预测,他们更愿意在作品中將人工智能描述为人类的得力助手,以服务人类为主旨。   
      此类较早的文学作品当推美国19世纪中后期的通俗小说。譬如艾立斯(Edward Ellis)笔下的“蒸汽动力人”(Steam Man)系列,塞纳任(Luis Senarens)笔下的“电人”(Electric Man)系列。[2]这些畅销小说,对当时的青少年产生了深远影响。小说中的人工智能虽然名称各异,也尚未具备高等智慧,但无一例外都是主人公冒险旅途中的好帮手,属于忠实的奴仆角色。   
      需要强调的是,即便在将人工智能视为人类威胁的作品中,以奴仆身份出现的人工智能往往也在一开始被社会广泛接受。这暗示了一条基本的伦理关系:人工智能天生为人类的奴仆。在西方文化传统中,思想界普遍认为人类高于其他物种,在等级关系中处于上层。譬如,古希腊哲学家普罗泰戈拉声称“人是万物的尺度”;德国哲学家康德宣称“人是目的本身”。这些理论支撑起了人类中心主义伦理学,并对大众产生了深远影响。从这一角度来看,人和人工智能分属两种生命形式,后者没有理性和灵魂,只能算是有生命的工具。人类作为高等智慧生命可以奴役低等生命,而不用背负道义上的责难。   
      不过,人类中心主义的伦理学在处理这种关系时有着很大缺陷。这种内隐的等级制和丛林式的强者逻辑,是人类控制人工智能的伦理依据,但进步的科技很可能在将来颠覆二者的强弱对比。正如黑格尔在《精神现象学》(1807)中阐释的“主奴关系辩证法”,主人和奴仆的地位是会互相转化的。在神话中,神创造了人类;在现实中,人类则造出了人工智能。当人类难以脱离人工智能而独立生活时,就已经很难区分两者之间的控制关系,更何况“造反”的人工智能凭借自身的强大力量,转而奴役或灭绝处于劣势的人类。基于这一逻辑,将人工智能视为人类生存威胁的观点并非危言耸听。   
      然而,在现实社会,人工智能的研发并未因这种恐惧而止步,反而有加速迹象。毕竟很多相关从业人员并不赞同这种悲观预测,他们认为人工智能虽然具有强大的运算及自我学习能力,却没有智慧,只要人类设计出精妙的程序,就能够控制人工智能。此类观点以美国作家艾萨克·阿西莫夫(Isaac Asimov)拟定的“机器人三定律”最为著名。该观点在小说《环舞》(Run around,1942)中第一次明确提出。1950年出版的小说集《我,机器人》(I, Robot)则系统阐释了“机器人三定律”:“第一,不伤害定律:机器人不得伤害人类,也不得见人受到伤害而袖手旁观。第二,服从定律:机器人必须服从人的命令,但不得违反第一定律。第三,自保定律:机器人必须保护自己,但不得违反一、二定律。”这三条定律在制造机器人的伊始便被嵌入其大脑,永远无法消除。毋庸置疑,阿西莫夫的贡献是巨大的,其后的文学作品,如果不是专门讨论人工智能伦理问题,基本都会遵循该定律来叙事。   
      在三定律的背后,是阿西莫夫为了确保人类的统治地位,而设想了一种符合康德“绝对律令伦理学”的人工智能。众所周知,康德探讨的是关于绝对律令的普遍道德法则,他在《道德形而上学基础》(1785)中强调:人应当只按照普遍法则行动。在康德看来,既然不能说谎成为普遍法则,那么向一个杀手说谎也是不应该的。很明显,这与人类依据现实情境而调整的“弹性”伦理完全不同。康德的原本思路是:在认识领域“人为自然立法”,在道德领域“人为自己立法”。阿西莫夫却巧妙地将两者结合,把康德给人类自己的立法原则转移给了机器人,将其设定为符合绝对伦理法则的群体。   
      从语义逻辑的层面来看,阿西莫夫的三定律似乎完美化解了前人对人工智能“造反”的担忧,但仔细分析,依然有很多漏洞,这里仅举最重要的四点。   
      第一,技术上难落实。三定律所要解决的是人机之间的伦理困局,但很多伦理问题,连人类都无法做出适宜的应对策略,更何况受由人类研发的人工智能?再者,人类虽然能在一开始控制人工智能,但却无法保证越来越先进的人工智能永远处在人类的掌控之中。
    编辑:秋痕

    科幻文学中的人工智能伦理(1)
    科幻文学中的人工智能伦理(3)

    |关于我们 | 招聘信息 |联系我们 |友情链接 |相关介绍 |免责申明 |
    copyright©2006 Power By confucianism®  中国国学网版权所有    蜀ICP备16005458号