孙燕姿也“认命”了，我们终将都失去独特性?

“AI孙燕姿”（AI，人工智能）的作品跨度巨大，从流行、摇滚到“魔性”，没有"AI孙燕姿"驾驭不了的曲风。

孙燕姿2000年专辑《我要的幸福》。

孙燕姿发信回应，她说：

“之前我们一直坚信，思想或观点的形成是机器无法复制的任务，这超出了它们的能力范围，但现在它却赫然耸现并将威胁到成千上万个由人类创造的工作，比如法律、医学、会计等行业，以及目前我们正在谈论的，唱歌。讽刺的是，人类无法超越它已指日可待。没有人可以接触到如此大量的信息并做出恰当的抉择或犯下恰当的错误。这种新技术将能够大量炮制每个人所需的一切”。

在OpenAI公司（人工智能研究企业）的ChatGPT （一款人工智能聊天机器人）横空出世之后，类似这样的担心就层出不穷。如果说之前的阿尔法狗、数字虚拟人等都只是应用场景单一、更偏向噱头的产品的话，ChatGPT以其强大的理解和学习能力，已经突破人类现有认知，科幻电影中的场景真正要来临了。同样，与区块链、元宇宙等一堆时髦的概念不同，人工智能现在展现了清晰的面貌和直观的应用场景。而这具有奇点般的时刻，确实需要人类充分来思考，我们该如何面对AI、面对难以回避的人工智能新世纪。

对于人类来说，最大的噩梦就是你的存在已经没有意义了，正如孙燕姿所说“你跟一个每几分钟就推出一张新专辑的人还有什么好争的”，在一个比本人更强、更不会犯错，有无限可能性的“AI孙燕姿”面前，其本人存在的价值，除了比照AI多么厉害之外，似乎已经越来越可有可无了，最终可能就是这样一个“AI孙燕姿”取代了现实中的孙燕姿。

当然，这还是略带传统的案例，AI至少还是有其本体，更可怕的状况是，它可能从头到尾都是无现实本体的AI，成了万人膜拜的大明星。这在很久以前的电影《西蒙妮》（又名《虚拟偶像》）中已经体现，该剧有一句台词：“我们造假的能力，现在已经超过了我们辨识假象的能力”。未来彻底的AI大红人也是指日可待。到时真真假假早已分辨不清（现在也已经有了苗头），甚至真假连区分的意义都不在存在，真就是假，假亦是真。

《西蒙妮》（S1m0ne，2002）剧照。

没有不会被替代的人？

个体无法回避的职业命运

关注互联网科技领域的人可能都知道，其实AI在几年前站过一次风口，但因为商业转化迟迟不见成效，像阿里达摩院等，都经历过人员流失的情况。包括百度布局AI多年，越来越成为鸡肋。

但随着去年底ChatGPT的出现，再一次引爆了AI领域。我们虽然嘲笑百度的文心一言，但不得不承认，这基本上已经是国内最高水平、最强技术积累的产品了。而AI持续火爆这半年多来，不断迭代的GPT（一种学习模型），不断刷新大家的认知，也引发了大家对于人类未来的思考，当然，条件反射的第一思考是：我的工作会不会被AI取代。

纪录片《美国工厂》（American Factory，2019）画面。

写有《改变未来的机器：人工智能时代的生存之道》的安德烈斯·奥本海默，分析了新闻媒体业、服务业、法律与会计业、保险与银行业、医疗保健业、教育业、制造业和娱乐业等。他认为47%的现有工作在未来20年面临着被机器人、人工智能或其他技术淘汰的风险。

才47%，我以为这个是太乐观了。与之前的信息化、机械化不一样，之前冲击的是重复、单一、标准化的体力劳动/简单劳动，白领或知识分子的工作（自称“创造性工作”）没有受影响，但这一次完全颠倒过来，反而蓝领得以幸免，而所谓的“创造性工作”以及看起来高大上的法律、医疗、保险金融等，则是重灾区。

《不会被机器替代的人: 智能时代的生存策略》作者杰夫·科尔文也比较乐观，他认为这是从知识型劳动者转向关系型劳动者的契机：

过去三百年里，经济发展所需要的，是劳动者从课堂中所学，与左脑功能相联系，技术性较强的技能，而将来，这些不再是最有价值的技能，虽然它们将依然重要，但重要并不等于有价值。技能正在商品化，因而不再构成竞争优势。新的高价值技能将会来自人类的本质属性。这正是人类独有的技能：感知他人的思想与情绪，团队合作，建立人际关系，共同解决问题，比逻辑表达更有效地表达自己，这些技能和过去经济发展中有价值的技能有根本性差异。

与以往的变革不同，这次变革不仅会给我们的工作生活带来经济回报，而且会使我们的情绪更加丰富，更加愉悦。……关系型劳动者在逐步变成最有价值的人。总的趋势是，凡是涉及人际交往的行业，就业数量在大幅度增加。计算机的确会吞噬人类工作，但是我们应该为之感到高兴，因为这样一来，人就可以做应该做的事。

《不会被机器替代的人：智能时代的生存策略》，[美]杰夫·科尔文 著，俞婷 译，中信出版社，2017年10月。

但我觉得这样的思路，可能还是存在着人类中心主义下的思维误区，因为它的前提是，智能时代AI还不会有情绪和情感——这个现在随着GPT不断迭代，已经产生令人可怕的自主能力了。当然，就目前现实而言，很多人认为教育性、陪伴性工作不可替代，这其实是自我托大了，教育类工作被替代这件事，在三年疫情期间已经得到某些实践；至于陪伴类工作，类似“天猫精灵”这类产品就可能解决了情感陪伴；而生理上的机器人照护，未来解决病人、养老照护也并不是什么大问题。有人说学习周期最长的医生尤其动刀的医生呢？这也是天真，就想想现在多少医生离开机械设备检测、拍片就不会看病了？

所以，斯坦福大学顶尖人工智能专家杰瑞·卡普兰在《人工智能时代：人机共生下财富、工作与思维的大未来》更加激进地提出：“无论你的领子是什么颜色，机器都会毫不留情……当人造人的自我意识逐渐觉醒时，人类只不过是他们圈养的生物”。他打了个比方：我们的高速公路要了很多动物的命，因为它们都没有探知到两吨重的金属威胁从路上呼啸而过。同样，我们甚至没有词语能够用来讨论即将发生的科技变革。综上所述，我们在所谓的信息高速公路上面临着毙命的危险。一切似乎没有不可替代的。尽管我们都忧心忡忡，但这个趋势确实无法阻挡，人类将自己送进坟墓的步伐，越来越加快了速度。

《人工智能时代：人机共生下财富、工作与思维的大未来》，[美]杰瑞·卡普兰 著，李盼 译，浙江人民出版社·湛庐文化，2016年4月。

当然，总是要想办法活下去，《机器人来了：人工智能时代的人类生存法则》作者约翰·普利亚诺给出了建议：若想在自动化的竞争中占有优势，你应如何充分利用人类独具的特质：创造力、独创性和创业精神。赢得这场战役不能凭体力，而是要靠思维方式。本书尝试总结了四种思考原则，旨在助于指引大家度过由无所不在的自动化所带来的动荡的经济时代。

首先，像人一样思考，而不是像机器。你的经济价值取决于你的创造力，而不取决于你执行重复性任务的能力。培养你个人天赋和能力中所独有的人情味技能，重点是创造能力。其次，像创业者一样思考，而不是像雇员。随着人们被更高效的机器取代，失业将像流行病一样蔓延。工作岗位可能不多，但是对那些学会利用自己的人情味赚钱的人来说，仍将存在大量的机会。第三，像积蓄者一样思考，而不是消费者。自动化的重点在更高效地生产创造了一个价格下跌的通货紧缩环境。通货紧缩有利于那些有自控力、推迟满足感的积蓄者。消费者购物是为了情感满足，而积蓄者则能识别价值，购买增值产品。第四，像投资者一样思考，而不是投机者。技术的创造性破坏将淘汰很多老牌行业，创造出惊人的投资机会。过滤媒体炒作的泡沫是保护资本的一个关键技能。谨慎的投资者会找到足够的方法扩充自己的财富。

文明也将“无一幸免”？

风险与原则

《机器人总动员》（WALL·E，2008）画面。

个人职业层面的危机，虽然所有公众都很关心，但这其实只是AI风险最表层的部分，真正的风险是它系统性地对于人类文明构成了挑战。也是基于此，逐渐有一股反思和反对的声音出现。

3月30日，OpenAI的共同发起人伊隆·马斯克和一群人工智能专家及行业高管在发布的公开信中呼吁，在未来六个月暂停对GPT模型的训练，以免该模型变得更加强大，从而对社会和人类造成潜在风险。“只有当我们确信它们的影响是积极的，并且它们的风险是可控的时候，才能开发更强大的人工智能系统。”联名信中说道。

这封信由非营利组织未来生命研究所发布，由1000多人联名，其中包括马斯克、Stability AI（人工智能企业）的首席执行官埃玛德·莫斯塔克（Emad Mostaque）、谷歌旗下DeepMind（人工智能企业）的研究人员，以及人工智能领域的重量级人物约书亚·本吉奥（Yoshua Bengio）和斯图尔特·罗素（Stuart Russell）等。他们呼吁在GPT进一步强大之前，需要首先就此类大模型达成由独立专家开发、实施并审核的共享安全协议。

《未来简史：从智人到智神》，[以] 尤瓦尔·赫拉利 著，林俊宏译，中信出版社，2017年2月。

在今年5月初，以色列历史学家尤瓦尔·赫拉利发文谈论了人工智能与人类的关系，他认为“新的人工智能工具出现了，从一个人们没有预料到的方向威胁到人类文明的生存。人工智能已获得了一些非凡的能力，可以操纵和生成语言，不论是用文字、声音还是图像。因之，人工智能已侵入我们文明的操作系统。”

牛津大学人类未来研究院的院长尼克·波斯特洛姆在《超级智能：路线图、危险性与应对策略》对人类和超级智能做了系统的分析，他说“如果机器比人类聪明，那么我们将不再是这个星球的主宰。当这一切发生的时候，机器的运转将超越人类”。

《为什么伟大不能被计划：对创意、创新和创造的自由探索》，[美] 肯尼斯·斯坦利、[美] 乔尔·雷曼 著，彭相珍 译，中译出版社，2023年4月。

这些担忧并不是捕风捉影，《为什么伟大不能被计划：对创意、创新和创造的自由探索》的作者之一乔尔·雷曼，作为OpenAI 研究员，在2022年其率领的研究团队发表了一篇“神奇”的论文，首度揭秘了 OpenAI 的一项研究：大模型自己学习、自己写代码，然后自己“调教”出了一个智能体机器人。这也揭示了大模型的代码生成能力已足够影响AI的进化，而这一进展反过来也能增强大模型的生成能力。也就是说，智能可以自主学习、自行进化。而书中对于“目标”“计划”的批判，再联想到他们打破常规后取得的GPT的成绩，更令人担心其背后的“技术爆炸”了。

《人类的终极命运：从旧石器时代到人工智能的未来》以哲学思辨的方式，讨论了智能的自我意识。扎卡达基斯在作品中说，“自我意识是人类意识中最为深层和最神秘的要素。……自我意识既是我们的救赎，同时也是一枚投向逻辑学、数学、计算机科学和人工智能根基的炸弹。它认为心智具有观察自己的能力。”

终于，在马斯克领衔的公开信公布两个月后的5月30日，包括“ChatGPT 之父”山姆·阿尔特曼（Sam Altman）在内 350 位 AI 权威都签署了一封新的联名公开信，并对当前正在开发的 AI 技术可能会对人类构成生存威胁担忧。这封信只有一句声明：降低人工智能灭绝的风险，应该与其他社会规模的风险（如大流行病和核战争）一样，成为全球的优先事项。

《机械姬》（Ex Machina，2014）剧照。

科幻迷都知道机器人三大原则，即第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观；第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾；第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。这是1940年由科幻作家阿西莫夫所提出的为保护人类的对机器人做出的规定。同理，我们不得不思考，AI智能时代，我们需要什么原则来保护人类、守护文明呢？

《AI联结的社会：人工智能网络化时代的伦理与法律》作者之一的福田雅树畅想了一个“智联社会”，在这个社会中，人类可以以自身为主体与AI网络共生，通过充分活用AI网络，自由且安全地创造、交换、联结各种数据、信息和知识，形成“智慧网络”，使得各个领域中人、事、物，可以超越空间进一步协调合作，从而得到更有创造性、更有活力的发展。所谓“智联社会”正是这样的一个以人类为中心的社会状态。

为了形成这样的“智联社会”，作者提出我们需要遵从的八条基本原则，其中具有代表性的是：所有人都可以受惠；保障个人的自主性及人的尊严；保证革新性研究开发的持续与公平竞争；兼顾虚拟世界与现实社会。简而言之，以人为本是AI社会的底线原则。这一点，日立东大实验室理论研究作品《社会5.0：以人为中心的超级智能社会》的思路也是一致的。书中提到，从核心上看，“社会5.0”的主线是人，即以人为中心，提高人性化程度，更尊重人性，更加尊重自由，与之对应的还有提高能源、医疗、工作、教育、交通、购物、娱乐等生活各个方面的舒适度，变革为更有包容性的社会。

“终将驶入宇宙群星”

不管人工智能时代，或是《第五次社会浪潮：工业的未来、技术、方法和工具》探讨的从狩猎-采集社会、农耕社会、工业社会和信息社会最后到现在的“社会5.0”，其背后推动力都是不断内化的科技的提升。这些不同时代的发展，伴随着的生产效率的迅速提升，生产力逐步解放，人们切实感受到了科技带来的进步。但其中的方向却有着不同的岔路：追求虚拟、智能化的元宇宙，还是浩瀚无垠、神秘的真宇宙？

中国科幻作家、《三体》系列作者刘慈欣认为，我们越来越变成一种很内向的文明，而不是向外去开拓、去探索的文明。信息技术却以超乎想象的速度发展，网络覆盖了整个世界，在IT所营造的越来越舒适的安乐窝中，人们对太空渐渐失去了兴趣，相对于充满艰险的真实的太空探索，他们更愿意在VR中体验虚拟的太空。这像有一句话说的：“说好的星辰大海，你却只给了我Facebook（社交媒体）。”他相信，无垠的太空仍然是人类想象力最好的去向和归宿；那些没有太空航行的未来都是暗淡的。

《黑客帝国2：重装上阵》（The Matrix Reloaded，2003）剧照。

当然，也不是说人工智能与宇宙探索是二选一的对立矛盾，迈克斯·泰格马克在《生命3.0：人工智能时代人类的进化与重生》的“挑战宇宙禀赋：接下来的10亿年以及以后”一章中对此做了结合，展示了人类未来美好的图景：如果我们目前的人工智能进展会触发智能爆炸并最终让我们殖民宇宙，那这场智能爆炸就具有了宇宙级别的真正意义：数十亿年来，在这个冷漠荒芜的宇宙中，生命只激起了微乎其微的波澜，而这场爆炸突然让生命在宇宙的舞台上爆发出一个以近光速扩张、永无停歇迹象的球形冲击波，这个冲击波用生命的火花点燃了所经之路上的一切。……超级智能生命不仅能更加有效地利用已有的资源，还能通过光速进行宇宙殖民，以获得更多资源，从而将现有的生物圈增长约32个数量级。

进入21世纪，比起上个世纪热闹的登月、星际探索，可能很多人都忘了太空探索了，只有在神舟系列飞船发射等一些热点时，才会抬头仰望星空。其实上，上个世纪的航空技术民用化，也是促进信息化革命的重要推进因素之一，未来，太空技术还将可能引领人类的发展。

《第五次工业革命：太空技术引发的科技革命和产业变革》，[西]茵玛·马丁内斯 著，龚若晴 译，天地出版社，2021年10月。

西班牙女科学家茵玛·马丁内斯为我们展示了太空未来的美好想象，她在《第五次工业革命：太空技术引发的科技革命和产业变革》着重探讨了太空技术的发展，向读者展示了未来五十年内太空行业可能发生的剧变，将会让更多的人重新仰望星空。她总结了前四次工业革命的历程后期待，即将由太空技术引领的第五次工业革命，将会使人类进入全新的“太空文明”时代。在未来的5～10年，将太空旅行变成实际。人类已经初步准备好迎接第五次工业革命了，你我都有可能在有生之年飞往太空，成为第一代太空居民。

这个想想就激动吧！诚然，相比天天担忧被AI抢走工作、沉溺于虚拟的元宇宙，我也是喜欢浩瀚空寂的太空，那里才是更让人类心潮澎湃的星辰大海，正如茵玛·马丁内斯说的“人类诞生于宇宙群星，最后也终将驶入宇宙群星”，我想，这应该是人类最好的归宿了吧。

作者/张天潘（科技行业从业者）

编辑/罗东

校对/刘军