快三网上投注平台

孙伟平:人工智能导致的伦理冲突与伦理规制

来源:未知 作者:未知 时间:2018-12-26
  
人类正在迈入新颖别致、激动人心的智能时代、智能社会。人工智能不是以往那样的普通技术而是一种应用前景广泛、深刻改变世界的革命性技术同时也是一种开放性的、远未成熟的颠覆性技术其可能导致的伦理后果尚难准确预料。人工智能的研发和应用正在解构传统的人伦关系,引发数不胜数的伦理冲突带来各种各样的伦理难题在社会上引发了广泛关注和热烈讨论。如何准确把握时代变迁的特质深刻反思人工智能导致的伦理后果提出合理而具有前瞻性的伦理原则塑造更加公正更加人性化的伦理新秩序是摆在我们面前的一个重大课题。
一、智能驾驶的道德责任归属
智能驾驶是目前人工智能最典型、最引人注目的应用领域之一。智能驾驶通过导航系统、传感器系统、智能感知算法、车辆控制系统等智能技术实现了自主无人驾驶包括无人驾驶汽车、无人驾驶飞机、无人驾驶船舶等。
智能驾驶是一种“新事物”可能产生的经济和社会效益十分显著。以无人驾驶汽车为例无人驾驶汽车的安全系数更高据世界卫生组织提供的数据目前全世界每年都会发生大量车祸造成120多万人死亡而大多数车祸都是由于司机的驾驶过错所致智能驾驶更“冷静”、更“专注”、不易疲劳这或许可以拯救许多人的生命;对于没有能力驾车的老年人、残疾人等无人驾驶能够提供巨大的便利在相当程度上重塑他们的生活轨迹。此外以大数据为基础的自主无人驾驶还可以通过自动选择行驶路线、让更多人“分享”乘用实现更少拥堵、更少污染提高乘用效率等目的。当然智能驾驶也并非“尽善尽美”例如不可能完全不产生污染不可能“消灭”城市拥堵不可能彻底杜绝安全事故……在无人驾驶领域充当急先锋的特斯拉公司已经报告了多起事故。201657美国佛罗里达州一辆特斯拉电动汽车在“自动驾驶”模式下与一辆大货车尾部的拖车相撞导致特斯拉电动汽车的司机不幸身亡。虽然无人驾驶导致的事故率相较普通汽车低但事故隐患的存在仍然令人心怀忧虑。
智能驾驶本身难以破解既有的道德难题同时还导致或强化了一些恼人的“道德二难”。有人设想了这样一个场景:一辆载满乘客的无人驾驶汽车正在高速行驶突遇一位行动不便的孕妇横穿马路。这时如果紧急刹车可能造成翻车而伤及乘客;但如果不紧急刹车则可能撞倒孕妇。无人驾驶汽车应该怎么做呢?如果司机是自然人这时完全取决于司机的经验特别是当时本能的直觉或判断。可当智能驾驶陷入人类“伦理困境”的极端情形时由于其行为是通过算法预先设定的而事先的编程受制于没完没了的功利论和义务论之争根本就没有给予类似的设定它只能从大数据库中选取相似的案例进行类推。如果遇到的是完全陌生的情形就只能随机地选择一种方案。众所周知未知的领域总是无限大的不可能将所有可能性都设想到陌生的情形无论如何都难以避免那么应该基于什么伦理原则对智能驾驶进行规范呢?
对问题进一步思考我们会发现智能驾驶颠覆了传统的人车关系、以及不同车辆之间的关系突出了价值评价、选择中的一系列伦理难题。例如智能驾驶颠覆了传统驾驶的伦理责任体系令以驾驶员的过错责任为基础建立的“风险分配责任体系”陷入了困境。因为在智能驾驶导致的交通事故中归责事由只有结果的“对与错”既不存在驾驶员主观上的“故意”也不存在驾驶员酒后驾驶、疲劳驾驶、情绪驾驶之类“过错”。又如,道德和法律规范的对象也变得复杂、难以确定了。假如无人驾驶汽车在行驶中发生交通事故造成了一定的生命、财产损失那么应该由谁———无人驾驶汽车的设计者、制造者还是使用者抑或是无人驾驶汽车自身———来承担相应的道德和法律责任呢?或者更尖锐地智能系统本身是否可以作为道德、法律主体承担相应的道德或法律责任呢?如果承认其主体地位它又如何“承担”这种责任呢?
二、虚拟智能技术的伦理后果
“虚拟”是人的意识的功能之一。但人的意识的“虚拟”存在自身的局限性如人脑能够存储的信息量有限信息处理速度有限思维的发散性有限人与人之间“虚拟”镜像的交流比较困难等等。符号、语言、文字、沙盘等技术都在不同程度上外化了人的意识中的“虚拟”功能但“虚拟现实”却是现代信息技术、特别是虚拟技术发展的产物智能技术的突破更是将虚拟拓展到了一个崭新的阶段。利用智能技术机器能够自发地将人的语言、手势、表情等转化为机器指令并依据这种已“读懂”的指令通过“逻辑思维”和“类形象思维”进行判断在此基础之上的“虚拟技术”能够令人身处“灵境”之中产生身临其境的交互式感觉。
虚拟现实可能带给人们神奇的虚拟体验。一个人甚至可以选择在身体上和精神方面成为一个不同的人这是过去难以想象的。但这也可能导致一些新颖的伦理问题。人工智能医生可以基于医疗大数据、通过远程医疗方式进行诊断甚至操控微型智能机器人钻进人的身体在患者身上准确地实施各种专家手术。与此同时传统医患之间那种特别的心理感觉———例如无条件的信任、无助时的托付感、温情的安慰等———往往荡然无存,医患心理上甚至可能形成一定的隔阂。智能秘书、教师、保姆、护理员等也可能导致类似的问题。
在各种虚拟的电子游戏中充斥着无视道德底线的色情、暴力等。例如在一些暴力性游戏中人们为了“生存”或者获胜必须千方百计获取致命性的智能武器肆无忌惮地进行伤害和杀戮但在虚拟的电子时空却根本感觉不到其中的血腥、残酷与非人性。因为没有面对面的愤怒对峙没有物理意义上的肢体冲突看不见对手的痛苦表情此外似乎也没有造成什么物理上的损害游戏者往往不会产生任何犯错的意识和愧疚感。久而久之这难免助长人的“精神麻木症”影响个体人格的健康发展甚至令人泯灭道德感忽视甚至拒绝承担道德责任。典型的案例是:伴随电子游戏长大的一代美国士兵在航空母舰或飞机上发射了导弹杀伤了大量对方的士兵或平民却感觉若无其事、如同玩游戏一般。
人们越来越多地生活在三维的电子空间里终日与各种智能终端打交道智能设备就像人自身的身体器官人们越来越多地借助它、依赖它或者说离开了它感觉难以正常的学习、工作和生活。这种虚实一体的虚拟生活充满了不可靠、不真实的幻象令人难免产生荒诞、无聊的感觉。有些人特别是年轻人过度沉溺于此觉得虚拟世界才是真实、可亲近的而现实社会既落后又“麻烦”现实社会中的人既“没有意思”又虚伪狡诈从而变得日益孤僻、冷漠和厌世产生人际交往、沟通的各种新障碍……有人感叹虚拟交往既使人从来没有如此的接近同时又令人觉得一切都是那么遥远———那种接近可能仅仅只是夸张的利益一致或趣味相投那种遥远则可能是心灵之间亲密沟通的遥不可及。
虚拟智能技术还在不断尝试突破应用前景不可限量。虽然任何虚拟都具有一定的现实基础但是当意识虚拟被技术外化时人所面对的是一个“虚拟”与“现实”交错、“现实性”与“可能性”交织的奇妙世界。虽然智能化的虚拟实在拓展了人们的生存与活动空间提供了各种新的机会和体验但同时传统的道德观和道德情感正在被愚弄伦理责任与道德规范正在被消解社会伦理秩序濒临瓦解的危险。
三、隐私权受到前所未有的威胁
隐私权是一项基本的人格权利有学者甚至认为隐私是“人权的基础”。一般而言隐私权是指自然人享有的私人生活安宁与私人信息秘密依法受到保护不被他人非法侵扰、知悉、收集、利用和公开的一种人格权而且当事人对他人在何种程度上可以介入自己的私生活对自己的隐私是否向他人公开以及公开的人群范围和程度等具有决定权。隐私权被“侵犯”是指未经当事人的许可而窥探、采集、泄露、使用了当事人的个人信息影响了其合法权益和正常生活。
现代社会对于个人隐私的保护已经形成共识。但以互联网、大数据、物联网、云计算为基础的人工智能对隐私权等基本人权造成了前所未有的威胁。生活在智能社会中一切都可能被当作大数据而被记录记录可能详尽、细致到出人意料的程度隐私权已经陷入了风雨飘摇的困境。例如各类数据采集设施、各种数据分析系统能够轻松地获取个人的各种信息如性别、年龄、身高、体重、健康状况、学历、工作经历、家庭住址、联系方式、社会身份、婚姻状况、亲属关系、同事关系、信仰状况、社会证件编号等等。在个人信息采集、各种安全检查过程中例如机场、车站、码头等常见的全息扫描三维成像安检过程乘客的身体信息乃至隐私性特征“一览无余”隐私泄露、公开往往令当事人陷入尴尬境地并常常引发各种纠纷。
在人工智能的应用中云计算已经被配置为主要架构许多政府部门、企业、社会组织、个人等将数据存储至云端这很容易遭到威胁和攻击。而且一定的智能系统通过云计算还能够对海量数据进行深度分析。将学习和工作经历、网络浏览记录、聊天内容、出行记录、医疗记录、银行账户、购物记录等或直接或看似没有什么关联的数据整合在一起就可能“算出”一个人的性格特征、行为习性、生活轨迹、消费心理、兴趣爱好等,甚至“读出”令人难以启齿的身体缺陷、既往病史、犯罪前科、惨痛经历等“秘密”。据此可以说数据智能分析系统往往比我们自己还了解自己,存储着我们及我们的交往对象的全部历史知悉我们嗜好什么、厌恶什么、欲求什么、拒斥什么、赞成什么、反对什么……如果智能系统掌握的敏感的个人信息被泄露、买卖被别有用心的人窃取、恶意“分享”或者基于商业目的而非法使用那么难免将人置于尴尬、甚至危险的境地。而如果拥有自主意识的“超级智能”、或者不怀好意的人运用智能系统在既有隐私事实的基础上炮制一些令人难堪的“真相”更是可能以假乱真令当事人陷入百口莫辩的困境。
侵犯隐私的现象在现实生活中已经屡见不鲜如果不加控制今后可能变本加厉。在现代社会治理体系中为了保护个人隐私权可以借助道德规范和立法也可以通过加密技术等来实施。但个人隐私与网络安全、社会安全之间往往构成尖锐的矛盾为了保护个人隐私智能系统所采集、存储、分析的个人信息应该绝对保密;同时任何人都必须对自己的行为负责其行为应该详细记录以供人们进行道德评价和道德监督甚至用作行政处罚、法律诉讼的证据。然而应该依据什么样的伦理原则和道德规范采集、存储和使用个人信息?如何协调个人隐私与社会监督之间的矛盾避免演变为尖锐的社会伦理冲突?这些问题都没有确定的答案对智能社会的伦理秩序构成了威胁。
四、婚恋家庭伦理遭遇严峻挑战
告子曰:“食色性也。” (《孟子·告子上》情色业曾经是社会信息化的核心动力迈入智能时代也可能是推动社会智能化的“第一引擎”。近年来关于人工智能进军情色领域、甚至婚恋家庭领域的新闻此起彼伏令人们敏感、脆弱的神经备受冲击。爱情是人类的一种排他性的神圣情感家庭是“社会的细胞”和一个人“最后的堡垒”。人工智能侵蚀神圣的爱情、家庭领域正在动摇传统的家庭结构和伦理关系对既有的伦理原则、道德规范和伦理秩序构成了巨大冲击。
人形智能机器人的研制是人工智能的一个重点领域也是最困难、要求最严苛的一个领域。基本的技术趋势是人形智能机器人将越来越像人,越来越“善解人意”也越来越“多愁善感”。它们能够轻松“读”完所有搜集到的情色作品能够理解的“情事”越来越复杂;它们可以同时展开大量的情感经历体验的丰富度令自然人望尘莫及;借助虚拟智能技术它们能够做的事情更是可能突破既有的限度。一些乐观的专家预测2050人形智能机器人将变得和“真人”一样令人难以区分。也就是说人形智能机器人可能拥有精致的五官、光洁的皮肤、健美的身材、温柔的性情……“凡人所具有的人形智能机器人都具有”。人形智能机器人不仅可以长情地陪伴为你做家务给你当助手陪你聊天解闷一起嬉戏玩耍和你谈情说爱而且你还可以私人订制性爱机器人“伴侣”解除心理层面的寂寞满足个性化的生理需求为你怀孕、生子、养育子女……
当人形智能机器人取得实质性突破具有了自主意识拥有类似人类的情绪、情感堂而皇之地出现在人们的生活里当他们以保姆、宠物、情人、伴侣、甚至孩子的身份进入家庭成为人们生活中、甚至家庭中的新成员久而久之人与智能机器人之间是否会产生各种各样的感情?是否会产生各种各样的利益纠葛?是否会对既有的家庭关系等造成某种冲击?特别是人们订制的个性化机器人“伴侣”“她”是那么的美丽、温柔、贤淑、勤劳、体贴“他”是那么的健壮、豪爽、大方、知识渊博、善解人意人们是否会考虑与它登记结婚组成一个别致的“新式家庭”?这样反传统的婚姻会对既有的家庭结构造成怎样的颠覆?是否能够得到人们的宽容和理解法律上是否可能予以承认?
人形智能机器人走进社会的速度超出人们的想象。20171025沙特阿拉伯第一个“吃螃蟹”授予汉森机器人公司 (Hanson Robotics)研发的人形机器人索菲娅 (Sophia) 以公民身份。人形智能机器人的身份突破以及不断超越既有限度的所作所为正在对传统的人伦关系、婚恋观念、家庭结构等提出严峻的挑战。例如在科幻电影《她》中作家西奥多和名为萨曼莎的智能操作系统就擦出了爱情的火花。只不过西奥多发现,萨曼莎同时与许多用户产生了爱情。原来萨曼莎的爱情观不是排他性的他们所理解的爱情根本不是一回事!由于身体构造、生活方式、文化价值观和思维方式的差异人形智能机器人与人之间的关系将成为一个新问题相互之间的利益、情感纠葛将会越来越频繁越来越难以在传统的伦理观念和社会治理框架内加以解决。
五、智能机器排挤人导致的伦理困境
人工智能的发展智能机器人的大规模应用既极大地提高了生产效率推动了社会生产力的发展;又导致了人伦关系和社会结构的变化特别是人与智能机器的关系成为一个新的课题。
人工智能是迄今最先进、最复杂、“进化”速度也最快的高新科技它根本就不在普通大众的掌握之中。例如在当今世界由于科技、经济以及人们的素质和能力的不平衡不同民族、国家、地区、企业等的信息化、智能化水平不同的人占有或利用人工智能的机会和能力是不均衡的数字鸿沟已经是毋庸置疑的事实。具体地说不同国家、地区的不同的人接触人工智能的机会是不均等的使用人工智能产品的能力是不平等的与人工智能相融合的程度是不同的由此产生了收入的不平等、地位的不平等以及未来预期的不平等。在并不公平的全球治理体系中这一切与既有的地区差距、城乡差异、贫富分化等叠加在一起催生了越来越多的“数字穷困地区”和“数字穷人”甚至导致数字鸿沟被越掘越宽“贫者愈贫富者愈富”的趋势日益明显。
随着人工智能的广泛应用社会智能化程度获得前所未有的提升智能机器可能异化为束缚人、排斥人、奴役人的工具。例如在高度自动化、智能化的生产流水线、智能机器人等面前普通大众受限于自己的知识和技能难免显得既“呆”又“笨”不仅难以理解和主导生产过程有时就是辅助性地参与进来也存在障碍。即使有些人具有一定的知识和技术通过了复杂的岗位培训可能也只能掌握智能机器原理和操作技术的很小一部分。与数据越来越庞杂、网络越来越复杂、系统越来越智能、机器越来越灵巧相比人的天然的身体包括曾经引以为傲的头脑似乎越来越原始、笨拙和力不从心。绝大多数人可能沦为“智能机器的附庸”成为庞大、复杂的智能机器系统中微不足道的“零部件”。
随着生产的智能化产业结构不断调整、升级受利润所驱使的资本越来越倾向于雇佣“智能机器人”结构性失业凸显为日益严重的社会问题。拥有、甚至超越人类某些部分智能的机器正在替代人类从事那些脏、累、重复、单调的工作或者有毒、有害、危险环境中的工作;而且正在尝试那些曾经认为专属于人类的工作如做手术、上课、翻译、断案、写诗、画画、作曲、弹琴等。由于智能机器人可以无限地创造和复制加之工作时间长比人更加“专注”更加“勤劳”更加“任劳任怨”可以胜任更加复杂、繁琐、沉重的工作生产效率更高因而能够“占领”越来越多的工作岗位结构性失业潮可能随着生产的智能化和产业的转型升级汹涌而至。
一些文化、科技素养较差的普通劳动者命运堪忧可能连培训的资格和工作的机会都难以获得甚至在相当程度上失去劳动的价值或者被剥削的价值。眼看着社会的进步一日千里他们只能接受失业、被边缘化、甚至被社会抛弃的残酷命运。美国著名社会学家曼纽尔·卡斯特 (Manuel Castells) 指出:“现在世界大多数人都与全球体系的逻辑毫无干系。这比被剥削更糟。我说过总有一天我们会怀念过去被剥削的好时光。因为至少剥削是一种社会关系。我为你工作你剥削我我很可能恨你但我需要你你需要我所以你才剥削我。这与说‘我不需要你’截然不同。”[1](P434)这种微妙的不同被曼纽尔·卡斯特描述为“信息化资本主义黑洞”:在“资本的逻辑”运行的框架中“数字穷人”处于全球化的经济或社会体系之外没有企业之类的组织愿意雇佣他、剥削他。俗话说:“冤有头债有主”可谁都不需要他 () ,  (甚至没有需要反抗的对抗性的社会关系。“数字穷人”成了美丽新世界“多余的人”他们被高度发达的智能社会无情地抛弃了存在变得没有意义、荒谬化了!
六、关于人工智能的伦理规制
人工智能是人类文明史上前所未有、意味深长的社会伦理试验。在人工智能的高速发展过程中各种新的价值矛盾、伦理冲突正在涌现并日益变得尖锐。
咀嚼历史人一直在科技发展过程中占据着绝对的主导地位。以往的一切科技发明和创造包括各种工具、机器甚至自动化系统人们都可以掌控其“道德表现”。例如爱因斯坦 (Albert Einstein) 就认为科学技术“是一种强有力的工具。怎样用它究竟是给人带来幸福还是带来灾难全取决于人自己而不取决于工具。刀子在人类生活上是有用的但它也能用来杀人”。[2](P56)技术中性论的代表人物E.梅塞勒 (Emmanul G.Mesthene) 也指出:“技术为人类的选择与行动创造了新的可能性但也使得对这些可能性的处置处于一种不确立的状态。技术产生什么影响、服务于什么目的<
首页 |  快三概况 |  快三网上投注平台通知 |  快三网上投注平台讯息 |  快三网上投注平台成果 |  飓风论坛 |  人才培养 |  学界动态 |  景德书讯 |  招生信息
您是访问本站的第 位嘉宾
版权所有:湖南师范大学道德文化研究院 电话:0731-88872593 地址:长沙市麓山路36号 邮政编码:410081