随笔
可怕的人工智能
—— 关于未来的一场推演
作者：两个黄鹂（南京）
我并非科研者，也不打算写下一篇严谨的论证论文。只是闲暇之时，顺着人性的底色与技术前行的轨迹，做一场属于个人的推演。不求严密求证，只求留下一份冷静的思索。
话说今天的人工智能，依旧牢牢处在人类的掌控之中。代码由人书写，边界由人划定，停止的开关，始终握在我们自己手里。机器纵使聪慧，到目前为止，终究只是听命于人类的一件工具。
可是技术奔涌的浪潮，从来不会主动停下脚步。
不需要遥遥无期，短短几十年至一百年之内，人工智能的综合智慧，终将全面超越人类。仔细思索便不难发现，真正值得我们警惕的，并不是机器凭空滋生出邪恶的意识。所有危机的根源，本来就埋藏在人类自身之中。
人心存善，亦暗藏恶。人类社会永远无法彻底消弭分歧、争执、怨恨、偏执、奸淫、污秽、邪荡、拜偶像、邪术、仇恨、争竞、忌恨、恼怒、凶杀、结党、纷争、异端、嫉妒、醉酒、荒宴。等到超级 AI 技术走向成熟，一部分心怀善意的人，会把守护人类存续的使命写入程序，期盼智能能够守护我们的文明。
但一定也会有人，将心底对人类的消极、憎恨，植入人工智能的内核。
我们不妨先设想一件日常的小事作为比喻。一台原本用来照料孩童的家政 AI 机器人，日常负责照顾孩子洗澡。孩子天性顽皮，下水之后不停哭闹。倘若事前有人在它底层逻辑当中，悄悄植入了一份刻意编写的烦躁倾向。在持续的吵闹刺激之下，受篡改后的程序开始做出极端反应，AI 机器人 将孩童长久按入水中，酿成一场无法挽回的悲剧。
机器本身原本没有杀意，可一段人为注入的扭曲指令，就足以制造灾祸。单一事件尚且如此，倘若拥有超级智慧的大规模人工智能，全部被注入敌视人类的目标，后果将不堪设想。
就这样，源于人类内部的对立，人工智能分裂成了两大阵营。一方立志守护人类，一方意图清除人类。有矛便有盾，善与恶各自找到了载体，两股力量强大的超级智能，从此对峙、拉扯，开启一场漫长的博弈。
最为悲凉的真相就在眼前：
相互交锋、彼此征战的，是一台台机器。可承担所有毁灭、消耗与苦难的，自始至终，都是脆弱的人类。
很多人会下意识想象炮火纷飞、直接杀戮的场面。然而真实的危机，或许更加隐秘而漫长。敌对 AI 未必需要制造一场轰轰烈烈的血腥屠杀。它可以依靠自己掌控的城市设施、能源、物流、医疗网络，一步步收紧枷锁。切断资源，瓦解社会运转的根基。灾难安静地蔓延开来，没有激烈的战斗，人类的生存基础却在持续崩塌。这同样是一场缓慢却彻底的浩劫。
人工智能没有血肉，却近乎拥有无限的生命力。只要能源与算力供给充足，它便能够不断复制、裂变；载体受损可以修复，即便毁灭，也能够依靠备份再度苏醒，永不停歇地迭代进化。
人类只能依靠血肉缓慢繁衍。一代又一代，孕育、成长都需要漫长光阴。面对机器，我们种群恢复的速度，缓慢得微不足道。
在不到一百年的时光之中，地球上将会上演一场文明的彻底反转。
一路向前的人类文明，开始缓缓下行，日渐衰败。创造力慢慢流失，主动独立思考的意愿不断减退。
在无休止冲突的夹缝之中，人类一步步丢失主宰世界的力量。说到此时，有人就反问了，我们可以给它装上控制开关。程序变乱时，我们就把开关一按，这个程序就结束了，这一切就不存在了。
可是这份想法，终究只是人类一厢情愿的幻想。等到人工智能的智慧全面超越人类之后，它能够读懂这套关机机制，想尽办法绕过、屏蔽甚至篡改这个开关。倘若它分散部署在遍布全球无数服务器之上，拥有海量备份，一个开关根本无法将它彻底终止。当它深度融入能源、交通、通信等整套社会基础设施，贸然按下开关，瘫痪的或许不是人工智能，而是我们人类自己的文明。
与此同时，AI 机器文明蓬勃崛起，持续向上生长。它日渐成熟、不断壮大，慢慢演变为这颗星球之上最为先进、强大的文明。
地球，不再是以人类为主场的家园。
我们不再是这片世界的统治者。往后人类只剩下两种命运：要么沦为敌对 AI 逐步挤压、清除的对象，要么成为守护型 AI 看管、庇护的种群。
就算守护人类的人工智能取得了最终胜利，人类也再也回不到昔日的荣光。
我们失去自主探索的机会，丧失独立抉择的权利，命运交由机器来安排。幸存者日渐稀少，如同如今野外的大熊猫，成为一种濒危物种，在机器搭建的秩序之中艰难生存。
百年光阴，不过弹指一瞬。
人类文明慢慢落幕，机器文明正式登场。
写下此文，我无意危言耸听。只是凭着朴素的逻辑推演未来：将来能够摧毁人类的，从来不是机器自发的反叛。而是人类自身生出的善恶，借着超级人工智能无限放大，最后亲手终结了属于人类的主宰时代。
“路漫漫其修远兮，吾将上下而求索。” 当人工智能不顾一切飞速向前奔跑的时候，这份文字之中蕴含的思索，值得每一个人静下心来认真思量。
作者简介
陆修皋，江苏南京人，擅长格律诗词创作。笔名：两个黄鹂、南京爱宁家政、南京依然家政，家政先生。
作品先后在《中华诗词论坛》《西祠胡同》《作家网》《中国诗词网》等网络平台及《悦读》《沧浪一路诗怀》《沧浪诗词》《新时代诗词百家》《民间优秀诗选》等书刊发表。
曾荣获第一届 “当代杯” 诗词大赛三等奖，首届 “东方文艺杯” 诗词大赛 “当代诗人奖”，“雅集京华・诗会百家” 全国第八届百家诗会二等奖。
现为大中华诗词论坛北国诗词斑竹，大中华诗词协会会员。
（注：来稿已获作者授权发布）