AI 从意识的定义说起 是否拥有意识 (ai是否有意识)

文章编号:43584 最新资讯 2024-12-09 LeCun Yann 意识 Sutskever IIya AI

AI 是否拥有意识?从意识的定义说起

鲜少探索人类意识的科学家们,开始讨论起「AI 意识」。

毫无疑问,人类有自己的意识。在某种意义上,这种「意识」甚至可以被视为人类智能的内涵之一。

随着「人工智能」(ArtifiCIAl Intelligence)的深入发展,「AI 能否拥有意识」也渐渐成为科学家们心中的一个疑问,「意识」也被视为衡量 AI 是否智能的标准之一。

例如,2月中旬,OpenAI 的首席科学家 IIya Sutskever 就曾在推特上发起对 AI 意识的讨论。当时,他说:

AI 是否拥有意识?从意识的定义说起

他的观点立即引起了一众 AI 大咖的讨论。针对 IIya Sutskever 的见解,图灵奖得主、Meta AI 首席科学家 Yann LeCun 首先就抛出了反对意见,给出一个直截了当的观点:「Nope.」(不。)Judea Pearl 也力挺 Lecun,表示现有的深度神经网络还无法「深度理解」某些领域。

AI 是否拥有意识?从意识的定义说起

AI 是否拥有意识?从意识的定义说起

这是一个关于源头的问题。如果需要讨论「AI 意识」,那么:什么是「意识」?拥有「意识」意味着什么?要回答这些问题,光有计算机知识是远远不够的。

事实上,关于「意识」的讨论最早可以追溯到古希腊「轴心时代」。自那时起,「意识」作为人的认识论的本质就已成为后代哲学家们无法回避的议题。关于 AI 意识的讨论兴起后,曾任 OpenAI 研究科学家的学者 AmAnda Askell 也就该话题作了一番有趣的见解。

AI 是否拥有意识?从意识的定义说起

图注:Amanda Askell,她的研究方向是 AI 与哲学的交叉
在她的最新博文《My mostly boring views about AI consciousness》中,Askell 探讨了现象学意义上的「现象意识」(phenomenal consciousness),而非「自觉意识」(access consciousness)。
现象意识强调主体的体验过程,侧重感觉、经验, 被动注意 ;而自觉意识则强调主体的主观能动性,它强调主体在主观上的 主动留意 。比如,你在轻松的音乐下写作业,你可以 感受 到背景中的音乐(现象意识),但不会留意它的具体内容;作业对你而言是主观 留意 的(自觉意识),你真切地知道你到底在做什么。
这有点像计算机视觉和认知科学中常用到的两种不同的注意力机制。现象意识对应「Bottom-up」,而自觉意识对应「top-down」。

AI 是否拥有意识?从意识的定义说起

图注:一眼就可以注意到书本的大字部分是「现象意识」;意识到其中的细节则属于「自觉意识」。
Askell 认同更高级的智能和自觉意识更相关,这也可以将人类和其它动物有效地区分开来,但她「更感兴趣的是老虎与岩石的区别,而不是人与老虎的区别」,而现象意识足以完成这样的区分。
而且她认为,如果出现了「现象意识」,就意味着一些道德和伦理问题也将随之出现。这也是她认为研究意识具有重要意义的原因所在。



当下的AI系统是否有意识?
当下的 AI 系统比椅子更有可能具有现象意识,但远不如老鼠有意识,甚至还没有昆虫、鱼或双壳类动物有更多意识。
她把 AI 系统大致类比为植物的区域——由于植物的行为方式似乎需要规划,并且可以做出一些看似需要内部和外部交流的事情。AI 系统似乎也有类似的行为。
不过她也确信,AI 系统作为一个整体 在未来 会比植物或双壳类动物具有更大的意识潜力。尤其未来有更多受生物启发的神经网络的AI研究可能会产生更多与意识相关的架构、行为和认知系统。
AI 是否拥有意识?从意识的定义说起
图注:有研究已经表明,植物也具有意识和智能,它们也可以感知疼痛,并与环境很好地交流互动
那么考虑AI到底有无意识,该从哪些方面考虑证据呢?Askell 列出了四个类型的证据: 架构、行为、功能和理论 。
现在研究心智的哲学家大致有两方面的理论倾向:一是包容派,例如认为原子都可以拥有意识的泛心派;二是机械主义派,他们否认非人类实体拥有意识。但无论是哪种倾向,都可以从上述的四种不同证据中讨论 AI 的意识问题。



AI 是否有意识重要吗?
绝大多数 AI 从业者都不会将意识这一特性考虑进去,AI 和意识似乎还只存在于某些科幻电影对未来的想象中。不过在安全、伦理、偏见与公正性方面,意识与 AI 的结合已在学术界和工业界中引起越来越多的重视。
Askell 认为,AI 具有现象意识,这就意味着它很有可能发展出伦理观,而这与它的创作者之间有莫大关系。尤其是当 AI 犯了错误或者受到「虐待」的时候,它的创造者应该承担一定的责任。
Askell 讨论了道德伦理学中的两个重要概念:道德行为体(moral agent)和道德关怀对象(moral patient)。其中,「道德行为体」是具有分辨善恶对错能力、并可以承担后果的行为体,如成年人;而「道德关怀对象」则无法分辨善恶是非,即无法从道德上进行约束、一般不会承担后果的实体,如动物或者幼小的婴儿。
Askell 认为,实体一旦拥有类似快乐和痛苦的 知觉(sentisent) 就极可能成为道德关怀对象。而如果发现道德关怀对象(比如一只猫)受到 痛苦 ,而普通人却没有试图去尽道德义务减轻其痛苦,这是不合理的。她同时认为,现象意识是感知的必要条件,因而进一步,现象意识是成为道德关怀对象的先决条件。
可能的争论是某些群体是否具有道德地位(moral status),或者是否拥有更高的道德地位。道德地位来自伦理学,是指一个群体是否可以从道德意义上讨论它们的过失。例如,多数生物具有道德地位,而无生命物体则没有。过分强调某一群体具有这一地位似乎在暗示这一群体更加重要,其他群体没那么重要。这就像「给予动物、昆虫、胎儿、环境等更多道德地位的论点一样让人担忧」。
Askell 指出,帮助一个群体并不需要以牺牲其他群体为代价。例如,食用素食对动物和人类健康都有好处。「团队通常不会竞争相同的资源,我们通常可以使用不同的资源来帮助两个团队,而不是强迫在它们之间进行权衡。如果我们想增加用于全球脱贫的资源,将现有的捐款从慈善事业中拿出来并不是唯一的选择——我们还可以鼓励更多的人捐款和捐款。」
所以,当未来有感知能力的 AI 系统成为道德关怀体时,并不意味着我们对其它人类的福祉不再关心,也不意味着我们需要转移现有资源来帮助他们。
道德行为体因为懂得善恶是非,他们倾向以好的方式行事,避免以坏的方式行事。当做了道德或法律上不允许的事情的时候,他们会受到相应的惩罚。
道德行为体中最弱的部分只需要对积极和消极的激励做出反应。这就是说,另外的实体 可以惩罚 该行为体的不良行为或奖励其良好行为,因为这将改善行为体今后的行为。
值得注意的是,Askell 指出: 接收刺激并得到反馈似乎并不要求现象意识 。当前的 ML 系统在某种意义上已经符合这一规律,比如模型需要降低损失函数,或者强化学习中更明显的「奖励」和「惩罚」。

AI 是否拥有意识?从意识的定义说起

图注:强化学习的奖励反馈机制
那么对于更强的道德行为体呢?我们通常认为,只有当行为体有能力理解是非对错,并没有被糊弄采取其它行为时,Ta 才能对他们的行为负有道德责任。比方说,一个人说服他的朋友在森林放火,如果这位朋友被抓到,不管他怎么辩解自己是受到别人教唆才放火的,承担道德责任的都是引发火灾的人(即朋友本人),而不是说服他的人。但是,如果一个人训练他的狗去放火,在这种情况下,我们会将大部分的道德责任放在这位训练师而不是他的宠物身上。
为什么我们让人类纵火犯承担道德责任,而不是训练有素的狗?首先,人类纵火犯有能力考虑他们的选择,并选择不听从朋友的劝说,而狗则缺乏这种能力来推理他们的选择。其次,狗从不明白自己的行为是错误的,也从不表现出做错事的意图(disposition)——它只是做了它受过训练的事情。
假设先进的机器学习系统在这种更强的意义上成为道德行为体,即它完全有能力理解是非,充分考虑可行的选项,并按照自己的意愿行事,那么这是否意味着: 如果机器学习系统做错了事,那些创建该系统的人应该被免除道德责任?
对此,Askell 持反对意见。为了更加细致地考虑这一问题,她认为可以询问创造者们以下几个问题:
即使创造者尽一切努力确保 ML 系统运行良好,它们还是可能会失败。有时这些失败还是由于创造者的错误或疏忽而导致的。Askell 认为: 创造道德行为体肯定会使事情复杂化,因为道德行为体比自动机(automata)更难预测, 比方自动驾驶对于路况的判断。但这并不能免除创作者为其创造的 AI 系统的安全问题负责的义务。



研究 AI 意识的工作有多重要?
目前 AI 领域专门针对意识(甚至其它哲学方面的思考)的研究非常少,但也已经有学者在针对该话题进行跨领域的合作研究。比如,GPT-3问世后,专注哲学问题探讨的博客 Daily Nous就专门开辟了一个板块讨论语言哲学在 AI 上的思考。
但同时,Askell 强调,对 AI 意识的讨论不应仅仅停留在哲学式的抽象思辨上,还要致力于发展相关的实用框架,比如为机器意识和感知建立一系列高效的评估。目前已经有一些方法可以用于检测动物疼痛,似乎可以从那里获得一些灵感。
反过来说,我们对 AI 意识的理解多一分,对人类本身的理解就多一分。因此,对 AI 意识的讨论虽暂未达成统一的共识,但讨论本身已是一种进步。期待更多的 AI 意识研究工作。
AI 是否拥有意识?从意识的定义说起

版权文章,未经授权禁止转载。详情见 转载须知 。

AI 是否拥有意识?从意识的定义说起


本文地址: /article/a41622304f74cf373975.html
全局中部横幅
全局中部横幅
求是网 - 思想建党 理论强党

求是网是中国共产党中央委员会机关刊《求是》杂志主办的理论宣传研究平台。求是网的目标定位是突出理论特色,既体现权威性、理论性、指导性,又体现时效性、开放性、互动性,发挥权威理论网站的引导、整合、服务功能,努力建设成为广大干部群众和理论工作者的理论宣传平台、思想激荡平台、学习交流平台、文献检索平台。

视频_澎湃新闻-The Paper

澎湃是植根于中国上海的时政思想类互联网平台,以最活跃的原创新闻与最冷静的思想分析为两翼,是互联网技术创新与新闻价值传承的结合体,致力于问答式新闻与新闻追踪功能的实践,澎湃,澎湃新闻,澎湃新闻网,新闻与思想

京东秒杀-正品保证、天天低价、限时限量

京东秒杀每日10场爆款轮番上、品牌精选每日上新抢、限量低价放心购

恒鑫木业-整木定制 一站式设计

温州恒鑫木业有限公司创立于2002年,坐落于浙南美丽的雁荡山麓。是一家集测量、设计、生产、销售、安装、售后服务于一体的综合性企业。专业生产实木门、原木门、门窗套、酒柜、书柜、衣柜、护墙板、地板等整木定制产品。

常熟市佳典红木家具有限公司

常熟市佳典红木有限公司位于江苏省常熟市碧溪新区。公司创办于1993年,是一家具有自购、自产、自销、售后服务为一体的“聚心阁”商标全红木工艺家具生产企业。本公司生产的全红木家具有十个大类近1000多个品种,豪华卧房系列、民间传统书房系列、客厅系列、餐厅系列、酒店系列及宾馆系列等。尤其是卧房系列,造型集中国传统式、西洋式和中西合璧式及当代新潮式为一身,令人赏心悦目。产品纯正,公艺精细,款式新颖,古朴大方,传统的生漆工艺制作。公司生产的红木工艺材质齐全,其中有紫檀木、黑檀木、鸡翅木、酸枝木、花梨木等。

大字符喷码机-福州零点自动化设备有限公司

福州零点自动化设备有限公司生产销售各类大字符喷码机及喷码机油墨,欢迎来电13559178800

塑木地板厂家|塑木地板价格|塑木地板安装|凯利达塑木地板

江苏凯利达塑木有限公司专业生产塑木地板,塑木花架,塑木护栏,是一家高科技民营企业,产品不含甲醛,无放射,塑木地板厂家热线:13801532328.

TDY75型电动滚筒,WD外装型电动滚筒-淄博惠城机械厂

淄博惠城机械厂是集科研,制造,销售于一体的综合性专业生产企业,主要生产TDY75型电动滚筒,WD外装型电动滚筒等,广泛应用于冶金,矿山,起重,运输,石油,化工,建筑,输送,电力等行业.

广州博森科技市场服务-专业技术量化机器人

博森科技全球市场服务对接。广州博森科公司主营CCG合约量化机器人CCR现货量化机器人、FA外汇EA机器人。专注量化技术交易10年,成熟稳定自主研发技术,欢迎交流。苏经理

四川乐山生熟石灰粉,氢氧化钙厂家,复合碱价格,灰钙粉-四川峨眉山久乐纳米新材料有限公司

四川峨眉山久乐纳米新材料有限公司生产销售生石灰、熟石灰粉、消石灰、氢氧化钙厂家、氧化钙价格、复合碱、灰钙粉,公司引进先进生产设备,秉承“诚信、责任、超越”准则,为客户提供优惠的生熟石灰粉价格,是专业的氢氧化钙、氧化钙生产厂家.

旋转关节|同轴开关|测试线缆|偏置器|功率放大器|低噪声放大器|雷达系统|微波暗室|天线测量系统-雅驰实业(上海)有限公司

雅驰实业(上海)有限公司,专业生产研发旋转关节、同轴开关、测试线缆、偏置器、功率放大器、低噪声放大器、天线测量系统、暗室工程、雷达系统、微波射频器件等产品。

全局底部横幅