快捷搜索:  

美国击杀伊朗将军“借口”遭质疑 伊称属“战争行为”

您的(de)浏览器不支持 audio 元素。 字号 超大 大 标准 小 陈楸帆(邵仄炯 绘)

陈楸帆(邵仄炯 绘)

科幻作家陈楸帆的(de)新作《AI未来进行式》(浙江人(ren)民出版社2022年5月出版)与人(ren)工智能专家李开复合作,有种理呆文傻手拉手走江湖的(de)互补性反差萌。书的(de)一半是(shi)十篇科幻小说,每篇对(dui)应一类科技(keji)应用,另一半是(shi)技术分析和科普,给文学故事提供科技(keji)现实的(de)土壤。《上海书评》邀请作家小白和陈楸帆对(dui)谈,探讨了人(ren)工智能对(dui)人(ren)类社会的(de)当下介入与未来发展可能性,以及科幻写作和虚构类叙事的(de)技巧。《AI未来进行式》,李开复、陈楸帆著,浙江人(ren)民出版社2022年5月出版,464页,88.00元

《AI未来进行式》,李开复、陈楸帆著,浙江人(ren)民出版社2022年5月出版,464页,88.00元

《AI未来进行式》在设(she)计和结构上有些新奇。它(ta)既像个短篇故事集,但因为主旨集中,某种程度上也可以说是(shi)一种长篇小说。而且每一篇故事让专家来做解读和技术背景介绍,这接近于科普写作的(de)部分在书中占有相当篇幅,两个部分构成了一种互为诠释的(de)关系。也就是(shi)说,读者既可以把科普部分视(shi)为对(dui)故事的(de)注解,也可以把故事看作对(dui)科普内容的(de)叙事化展现。这样一个构思,最初是(shi)怎样形成的(de)呢?
陈楸帆:其实这种结构是(shi)从一开始就有的(de)设(she)计,科幻小说搭配对(dui)故事中出现的(de)技术进行分析展望,是(shi)一种打破虚构与非虚构界限的(de)文体类型。因此我(wo)和开复在前期进行了大量的(de)调研访谈工作,针对(dui)人(ren)工智能研究者、学者、从业者、投资者,希望尽可能深入地理解目前行业发展状况。基于这些理解我(wo)们(men)绘制了一张AI技术发展路线图,把不同技术点按照应用场景由近到远、由浅入深地进行排列组合,在这些“技术套装”之上,我(wo)再去发想不同的(de)故事,包括背景、文化、场景、人(ren)物情感、价值冲突等等,以期在科技(keji)的(de)信息量与文学的(de)复杂性之间达成平衡协调。所以确实如您所说,这本书有许多种读法,分开来读,合在一起读,把它(ta)们(men)作为互文来读,或者去读出两部分之间断裂冲突之处,都很有意思。当然最后效果如何还得看读者的(de)反馈。
技术套装,这个说法有意思。阅读时候确实有这种感觉,这十个部分从故事本身来看,是(shi)从日常事件渐渐写到更重大事件,而且排序上也好(hao)像关乎某种技术发展逻辑,所以读起来确实有一种整体感。设(she)想这些故事时,你(ni)觉得很顺利吗?这有时候有点像命题作文,有没有在为某个“技术套装”设(she)想一个故事时,完全找不到方向的(de)时刻?这些故事里面哪一篇曾让你(ni)最为难?
陈楸帆:前面半年非常挠头,就是(shi)因为找不准方向。开复是(shi)个技术乐观主义者,但纯粹的(de)乐观落实到故事层面会显得幼稚且缺乏戏剧张力,我(wo)必须去挖掘其中可能存在的(de)价值观冲突,所以也有过废稿。直到我(wo)提出十个故事必须落在十个不同的(de)社会,从特定的(de)历史文化语境中去寻找未来演变迹象,而AI技术作为工具,也可能被利益集团滥用,去放大人(ren)性或制度中的(de)负面因素,比如《一叶知命》中的(de)种姓制度。但最终,人(ren)类需要发挥自己的(de)主观能动性,学会与科技(keji)共生共存共同进化,这是(shi)唯一的(de)出路。最难的(de)可能是(shi)《人(ren)类刹车计划》,因为这是(shi)一个疯狂科学家毁灭世界的(de)典型故事,如何让它(ta)真实可信不落俗套同时又保留一定的(de)希望,确实煞费了一些功夫。
你(ni)提到《一叶知命》,故事展望了未来大数据挖掘分析可以达到的(de)广度和深度,也揭示了它(ta)可能给人(ren)类社会带来的(de)负面冲击。我(wo)们(men)知道通过海量数据分析,计算机确实能做到一些我(wo)们(men)可以称之为“预测”的(de)事情,或者说“算命”。人(ren)类已开始试着实践用算法来预测犯罪,故事本身当然引向了对(dui)数据长尾因素会造成严重偏见的(de)讨论,那么你(ni)对(dui)大数据预测这件事本身有什么看法?
陈楸帆:预测未来这件事情人(ren)类已经做了上万年,从茹毛饮血的(de)穴居时代,人(ren)类就通过原始的(de)祭祀崇拜来祈求神灵带来猎物,减少疾病与天灾。在科学的(de)时代我(wo)们(men)依靠数据建(jian)模来拟合现实,希望推演事物未来发展的(de)轨迹。当数据量、参数及模型维度远超人(ren)类大脑能够处理的(de)规模之后,机器便顺其自然地成为新的(de)先知。然而其中存在着几个核心问题:首先是(shi)如何保证相关数据的(de)完整性,这涉及到对(dui)现实采样的(de)范围与粒度;其次是(shi)机器只能理解数据集中的(de)相关性而非因果关系,往往导致预测的(de)偏差;模型是(shi)否存在与训练数据集过拟合(overfitting,在机器学习中指算法模型过于紧密或精确地匹配特定数据集,以至于无法良好(hao)地拟合其他(ta)数据或预测未来的(de)观察结果的(de)现象。数据不足、模型参数过多、结构过于复杂都可能是(shi)产生过拟合的(de)原因,其本质在于模型将无关的(de)噪声误认为具有相关性的(de)有效信息)而无法泛化到更为普遍的(de)场景;最后就是(shi)我(wo)们(men)往往借助于人(ren)类对(dui)历史的(de)理解与认知来建(jian)立预测模型,但或许这种人(ren)类中心主义的(de)视(shi)角只能看到冰山一角,现实世界是(shi)一个多主体交互的(de)巨复杂系统,甚至连时空都并非匀质线性的(de)本质存在,我(wo)们(men)又知道些什么呢?所以最后多半结果会像《西部世界》中的(de)“雷荷波”(Rehoboam)系统一样,走向自反性的(de)崩溃。
《双雀》是(shi)这些故事中比较让人(ren)心情愉悦的(de)一篇,我(wo)知道你(ni)对(dui)自然语言生成算法了解很多,你(ni)觉得机器很快就能实现用自然语言说话写作吗?如果真到了那一天,你(ni)觉得人(ren)类社会会发生怎样的(de)变化?比如教育领域,比如写作,这会不会引起某种文化上的(de)巨变?
陈楸帆:最新的(de)GPT-3(Generative Pre-trained Transformer 3,人(ren)工智能公司(gongsi)(gongsi)OpenAI训练与开发的(de)高级自然语言处理模型,是(shi)迄今最强大的(de)人(ren)工智能语言工具)及各种变体已经能够以超乎想象的(de)流畅程度与人(ren)类进行对(dui)话以及进行特定领域的(de)写作,比如财经新闻(xinwen)、体育报道、法律文书、论文摘要……甚至模仿历史上不同的(de)作家风格进行创作。尽管生成内容质量还不够稳定,且时常会犯一些常识性的(de)错误,但目前也有科学家尝试教会机器理解我(wo)们(men)所身处的(de)“世界模型”。可以说,我(wo)们(men)已经生活在这样的(de)科幻现实中。如果科技(keji)真的(de)到了我(wo)们(men)无法分辨人(ren)类与机器的(de)地步,哪怕只是(shi)语言层面上,都足以颠覆绝大部分行业及社会生活的(de)面貌,因为人(ren)类无法离开语言进行思考、表达与交流。许多人(ren)类职业会被替代,企业(qiye)会高度自动化。新一代儿童会更习惯与机器进行交流,相比之下人(ren)类交流笨拙而低效,充满误解。机器能够无穷尽地生产出供人(ren)类娱乐的(de)个性化内容,不输历史上任何经典的(de)文学、影像或游戏。而最后的(de)最后,我(wo)们(men)不得不质疑意识与智能的(de)本质,因为从表征上已无法区分人(ren)与机器,那么界限在哪?
如果从人(ren)类中心论的(de)角度,未来无疑不站在我(wo)们(men)这一边。但如果将机器也视(shi)为我(wo)们(men)文明延续的(de)产物,那么我(wo)希望新的(de)智能生命能够建(jian)立起更可持续发展的(de)文明形态,并平等地尊重所有物种包括非生命的(de)环境本身。按照卡尔达肖夫指数(Kardashev Scale)对(dui)文明的(de)分类,人(ren)类连全面利用行星级能源的(de)一级文明都没有达到,我(wo)们(men)没有任何理由自大甚至自恋,而应该以开放心态接受人(ren)类世作为通往更高级文明形态(在詹姆斯·拉夫洛克看来是(shi)纯硅基生命的(de)“新星世”)过渡期的(de)命运。
那样一种悲观态度,或者说那种认为机器智能有可能建(jian)立一种更好(hao)的(de)文明,也可能会让有些人(ren)产生一种更极端想法。如书中《人(ren)类刹车计划》中那位疯狂科学家。你(ni)有没有想过把这个人(ren)物做更加复杂化的(de)处理,让读者隐隐觉得也许他(ta)那么做也有他(ta)的(de)某种理由?
陈楸帆:确实是(shi)篇幅所限,想要放进去的(de)内容有点多,人(ren)物只好(hao)做类型化脸谱化处理,如果有机会展开成更充裕的(de)故事,应该给疯狂科学家赋予更多复杂的(de)情感关系与动机,比如他(ta)对(dui)于信仰的(de)理解其实可以是(shi)一条线索。
你(ni)会同情这位疯狂科学家的(de)某些观点吗?
陈楸帆:我(wo)其实非常赞成疯狂科学家的(de)某些观点,包括精英阶层与科技(keji)巨头社会感的(de)缺失,包括气候变化挑战下国际社会的(de)无动于衷各自为政,当然他(ta)采取了极端化的(de)毁灭性手段来反击,这点我(wo)是(shi)不赞同的(de)。
那倒是(shi),如果是(shi)超级机器智能想统治地球,估计也不用采取那么激烈的(de)手段,完全可以不显山不露水悄悄地做成这件事情,也许与此同时人(ren)类还会觉得越来越幸福。这本书里《幸福岛》就讲了一个由超级智能管理或者甚至统治的(de)社会中,人(ren)会不会感到幸福的(de)故事。我(wo)们(men)知道人(ren)类的(de)幸福感还有很大一部分来自创造感,如果创造性的(de)工作都由机器来做了,人(ren)还能不能有幸福感?当然超级智能可能也会在这点上满足人(ren)类,让人(ren)类做一点自以为能获得创造感的(de)游戏,甚至直接干预人(ren)类大脑,刺激它(ta)们(men)的(de)自我(wo)奖励机制,诸如此类。
陈楸帆:我(wo)觉得人(ren)类自古到今一直在追寻幸福,但最后发现也许跟“真实”与“美”一样,只能替代性地追求一种对(dui)幸福的(de)感受。而到了智能时代,机器与算法远比我(wo)们(men)人(ren)类要更了解自己,包括如何产生幸福感,不光是(shi)神经递质与感官层面的(de)刺激,也包括通过语义分析揭示无法被意识到的(de)潜在情感结构。但是(shi)这样被计算出来的(de)幸福感是(shi)否真实,或只是(shi)一种幻觉。因为人(ren)类无可救药地被捆绑在意义上,我(wo)们(men)很难接受一种无意义的(de)生活,哪怕从表征上是(shi)完美且幸福的(de),但缺乏意义感的(de)建(jian)构会让人(ren)类走向自我(wo)毁灭。
所以你(ni)确实对(dui)人(ren)类的(de)前景没有多少信心。这本书全部故事结束在假定的(de)奇点之年来临前,小说好(hao)像勉力提供了一种还可以说比较舒适的(de)人(ren)类结局:抵达丰饶之年,人(ren)类与机器智能达成妥协,机器不仅给人(ren)带来无限丰饶的(de)物质,也给予你(ni)们(men)想要的(de)幸福感,人(ren)类向超级智能自动交出了自己的(de)历史,随后,奇点来了,超级机器智能获得了自我(wo)意识。机器智能会不会产生意识?通过计算能不能模拟意识?这个问题你(ni)怎么看?
陈楸帆:意识正如大卫·查默斯所说是(shi)一个难题,从还原主义的(de)角度这些年我(wo)们(men)细致分析了神经元、分子、离子层面的(de)交流机制,绘制了连接组、突触与神经递质的(de)图谱。但这对(dui)于解答意识是(shi)什么,它(ta)如何产生并没有太多实质性的(de)推动。我(wo)直觉更倾向于罗杰·彭罗斯的(de)看法,他(ta)认为意识是(shi)非计算性的(de),超越了现有神经科学、生物学与物理学的(de)解释,与我(wo)们(men)如何更本质地理解现实相关——这关系到对(dui)于量子力学更深刻的(de)洞察,它(ta)的(de)非定域性(nonlocality)与叠加态(superposition)特征挑战了我(wo)们(men)现有的(de)时空观。而加州大学尔湾分校的(de)计算认知学家唐纳德·霍夫曼则把意识视(shi)为比时空更本质的(de)存在,宇宙万物都具备某种程度的(de)意识,这就非常接近于神秘主义传统中的(de)泛灵论了。所以归根结底,取决于我(wo)们(men)如何定义与测量意识。机器当然能够产生意识,但未必是(shi)通过计算,而无意识与有意识之间的(de)界限也许并不像人(ren)们(men)想象中那么明晰。
我(wo)看到一种说法,超级智能用不着意识,它(ta)不需要由意识来给“大脑”提供额外集中注意力,就算人(ren)脑,大部分运算也是(shi)在无意识中完成,对(dui)超级智能来说,它(ta)的(de)运算能力如此庞大、如此无边无际,它(ta)根本不需要集中注意力,所以当智能达到那个水平时,意识就成了一件无用之物,会被放弃。如果超级智能放弃了意识,那么它(ta)同时也就放弃了人(ren)类所有那些自我(wo)意识、同情,在那样一个超级智能统治的(de)星球上,你(ni)认为人(ren)类还有立足之地吗?
陈楸帆:彼得·沃茨的(de)《盲视(shi)》以及最新一季《爱死机》里面的(de)“虫群”其实说的(de)就是(shi)这样的(de)无意识智能文明,自我(wo)意识对(dui)于它(ta)们(men)来说是(shi)一种低效无用的(de)冗余功能,就像盲肠一样。但我(wo)同样认为,在那样的(de)一种文明形态中会有不同水平的(de)意识涌现,也许是(shi)宇宙级别的(de)分布式意识,它(ta)成为了塑造时空与不同维度现实的(de)基础,而我(wo)们(men)现在人(ren)类所谓的(de)意识与文明,只不过是(shi)其中渺如烟尘的(de)分型与投射。但仍然,人(ren)类有自己的(de)命运,有自己的(de)旅程,就像古希腊神话《奥德赛》一样,奥德修斯历经磨难,战胜巨人(ren)与怪物,最后衣锦回乡,但他(ta)已经不再是(shi)原来的(de)自己,他(ta)回到的(de)也并不是(shi)原来的(de)故乡。他(ta)领悟到更大的(de)使命与归属,那种崇高感或许是(shi)跨越了一切物种与文明界限的(de)终极意义。
你(ni)觉得写一部科幻小说最困难的(de)部分在哪里?故事情节?人(ren)物形象?技术/社会环境?你(ni)自己最多碰到的(de)困难,或者说常常最需要花力气的(de)地方在哪里?
陈楸帆:我(wo)觉得整体上都很难,最难的(de)可能是(shi)怎么把这些不同层面的(de)信息整合成一个圆融的(de)叙事体。而且随着写作经验的(de)丰富,它(ta)不是(shi)变得越来越容易,你(ni)的(de)眼光、要求、想要达到的(de)目标和摆脱的(de)惯性都不一样。对(dui)于我(wo)来说,现在最花力气的(de)地方反而是(shi)在最不花力气的(de)地方。这么说可能有点玄,它(ta)不在收集信息、理解科技(keji)、编排人(ren)物与拿捏故事原型,而是(shi)在于不经过理性思考判断,从潜意识层面涌现的(de)直觉,也就是(shi)“非计算性”的(de)部分。你(ni)无法控制它(ta)的(de)到来,很多时候只能祈祷。
从叙事本质的(de)角度来看,科幻小说实际上可能是(shi)“反小说”的(de),因为至少在表面上,叙事必须在事件发生之后,但科幻小说是(shi)面向未来,讲述那些未曾发生的(de)事情,即便使用叙事装置,假设(she)叙述者是(shi)在“未来的(de)未来”,但无论写作或者阅读,某种程度上总是(shi)需要去克服这种叙事或者感受上的(de)时间(shijian)倒置,相对(dui)来说科幻电影比较好(hao)办,毕竟银幕上一切事件都“正在发生”。你(ni)觉得科幻小说有没有可能实现一种姑且说“现实主义”的(de)风格?
陈楸帆:文学的(de)时空错置感也是(shi)它(ta)最美妙的(de)地方,挑战了读者在阅读文字过程中的(de)线性时间(shijian)体验。不止科幻,包括传统文学中的(de)先锋派、意识流、后现代主义等等被打上诸多标签的(de)亚文类都在打碎、拼贴、重组叙事中的(de)时空。科幻可能最方便的(de)一点是(shi)依靠科技(keji)逻辑将这种错置合法化,带来认知上更强的(de)真实感,从而实现柯勒律治所谓的(de)“悬置怀疑”。另外一方面,我(wo)们(men)对(dui)于传统“现实主义”的(de)理解很大程度上是(shi)一种感官与文化的(de)历史建(jian)构,它(ta)未必反映了真正的(de)“现实”,从这个角度上讲,或许科幻所书写描绘的(de)种种复数的(de)“现实”才更为贴近当前量子力学、复杂性科学与认知科学所试图重新构建(jian)的(de)现实蓝图。
你(ni)心目中有没有那么一两位科幻小说作家,或者几部科幻小说,你(ni)认为即使把他(ta)们(men)放在整个世界文学史框架下,也可以称之为伟大作家,与莎士比亚、托尔斯泰等文豪巨匠并肩而毫无愧色?
陈楸帆:第一反应想到的(de)名字包括斯坦尼斯拉夫·莱姆、厄休拉·勒古恩、菲利普·K. 迪克、亚瑟·C. 克拉克、特德·姜、玛格丽特·阿特伍德、冯内古特、奥克塔维亚·E.巴特勒、阿尔道斯·赫胥黎、托马斯·品钦、J. G. 巴拉德等等,尽管其中许多人(ren)并不是(shi)只写科幻小说,甚至某些人(ren)非常抗拒被打上“科幻作家”的(de)标签,但他(ta)们(men)的(de)作品展现出来的(de)认知推测性与陌生化美学,超越历史与未来、科技(keji)与人(ren)文、东方与西方、已知与未知、人(ren)类与他(ta)者等等种种二元性,从更为宏大的(de)宇宙视(shi)角思考人(ren)类文明命运的(de)野心与使命感,“伟大”二字当之无愧。(本文来自澎湃新闻(xinwen),更多原创资讯(zixun)请下载“澎湃新闻(xinwen)”APP) 责任编辑:彭珊珊 校对(dui):刘威 澎湃新闻(xinwen)报料:4009-20-4009   澎湃新闻(xinwen),未经授权不得转载 我(wo)要举报 关键词 >> 科幻,写作,人(ren)工智能
美国击杀伊朗将军“借口”遭质疑 伊称属“战争行为”

您可能还会对(dui)下面的(de)文章感兴趣:

共有:2731人(ren)留言! 共有:2731人(ren)喜欢本文! 点赞 最新评论 查看所有评论
加载中......
发表评论