I don’t envy you the decisions you are gonna have to make. And one day I’ll be gone, you’ll have no one to talk to. But if you remember nothing else, please remember this…

--Harold Finch to ‘The Machine’, Person of Interest, Season 4 Episode 11, If-Then-Else

现在才看完POI，晚了点。但我也不说相见恨晚，因为2011-2016年的我，还写不出这篇评。

五星打给最后两季提出的问题，但剧作本身可能不值。且不说第五季这个断尾求生的壁虎样实在猥琐，100多集下来，套路和鸡汤的含量也嫌过高。它既不真实，也不深刻，单集完成度还经常令人直翻白眼，但奇迹般地，吃下这锅大杂烩之后，所有的缺点似乎都可以原谅了。

POI的不真实是题材和设定的原罪。隐藏的AI、黑客富豪和前任特工，就是现代背景下的神灵、法师和骑士，从根本上说，它就是一场场决斗和斗法。按照真实世界运转的规则，The Machine绝无可能是一个人造出来的， 调动资源、伪造身份，当然也不是光敲键盘就可以。POI选择了使用“魔法”，也就不能给观众增加什么“知识”和“洞见”，但就像武侠小说一样，介于真幻之间的童话，永远会讨人喜欢。

POI的不深刻，在不真实的基础之上，也是无如之何。都这样了，再不灌点鸡汤，就成了真的神棍阴谋论。于是第一季开场，勾出主要人物弧光的是Reese的画外音：

When you find that one person who connects you to the world, you become someone different, someone better. When that person is taken from you, what do you become then?

而到了第五季，首尾呼应，以The Machine的口吻，用Root的声音说出来的“剧终金句”，也不过是：

Someone once asked me if I had learned anything from it all. So let me tell you what I learned. I learned everyone dies alone. But if you mean something to someone, if you helped someone, or loved someone, if even a single person remembers you, then maybe you never really die. And maybe this isn't the end at all.

“不失其所者久，死而不亡者寿”，中国古人说过，迪斯尼动画片也说，搁在类型剧集里已经够好。问题在于，一部出现了超级人工智能，而且由此构成剧情主干的故事，为什么从头至尾，总要说这样主旋律的人类经验？叨叨这些真能算科幻片？

但POI在概念上真正有意思的地方也就在这里。Procedural drama的形式和科幻核心设定的拔河，反而逼出了影视中很少见的、对人与AI之间关系的扎实思辨。故事的展开是在一个近乎现实的环境中，于是，它不能随手就召唤出全知全能的AI之神或者图灵测试满分的机器人，倒要费心费力地去描绘AI是如何被创造的，人类的价值观、人类社会的现实，又能对它造成何种影响。当然，为了接受度和表达的方便省力，它动不动就要说起那些关于人性、生命和爱的老生常谈。但就算这样，它在这个问题上思考的力度，也超过了绝大多数的同类作品，可能还要包括它的亲弟弟，（玩脱了的）《西部世界》。

POI以一种细致的笔触描绘AI的变化和迭代，人类的设计、修改，它的自我演化。Harold Finch所创造的这个神（同时也是他的孩子），这台机器（The Machine），本身拥有一道弧光，而这弧光又和剧中主要角色的弧光交织缠绕。经验、信念和行动，塑造了人，也塑造了机器。但从始至终，相似性从来没有简并为同一性，观众不断被提醒，人工智能是通过数据观察世界，凭借算法作出选择。即使当它拥有了人类形象的代言人，我们看到的仍然是比喻和模仿，而不是真正的显形。

这种手法的困难正体现出它的价值。这样做，相当于试图用非技术的语言来解释抽象概念，提炼出人类和AI作为适应性系统，如何相似又有何不同，两套描述之间如何对应翻译。记忆、学习、信念、偏好，有人类的版本，也有机器的版本。此类联结难搞又不讨巧。POI不是科普，当然还是浮光掠影，很多时候，仍然过于拟人化：无论如何，观众是人，也更容易接受TM作为一个“人物”的“心理”。初生的TM对它的admin竟然有印随效应，这不是人工智能，而是生物智能的出厂配置。给自己找妈、开口喊爸爸什么的，仿佛家庭情感片里的早慧小孩。但话说回来，把人工智能类比为孩子，不是科幻，根本就是科学（史）。当Finch教TM下象棋，教它规则，也教它观察的时候，POI简直是把图灵的《计算与人工智能》给演了出来，而它并不未来感，甚至有点复古的风格，又特别适合用来表现这个AI的历史原点。我辈的宅魂如何能不熊熊燃烧啊。

所以，就算再多煽情鸡汤从屏幕上滚过，还是忍不住要原谅这种拟人化。如果把关于超级AI的思想类比成宗教，这一款的anthropomorphism，也是不能没有。“奇点”将至未至的时刻，晨星闪耀的黎明，其实有最多可能。编日头升起来之后的故事，反而容易躺回自古以来的隐喻里去：人和神，族与群，压迫反抗天启末世，如是而已。

晨光熹微中的POI，思想张力体现为Finch身上的究极矛盾：他创造了一个超级人工智能，热爱它，保护它，又不确信自己应该这么做；他是一个人文主义的标杆样本，把人的价值、人的平等放在至高无上的地位，但又不相信任何人（包括他自己），或者任何机器，能一直严守他灌输给TM的那些道德准则，于是永远担忧对AI“神力”的滥用。更有甚者，在个体和greater good之间，他自己都摇摆不定，前后矛盾。很长时间里，他以一种本质主义的态度，视AI为异类，认为它们只应该是单纯的工具：”our moral system will never be mirrored by theirs because the very simple reason that they are not human” (S04E10)。

作为超级人工智能之父，Finch人类中心主义得不像话。于是自然有机器的信奉者Root出来反对他，说人类才是bad code，机器临世是无法抗拒的未来，被束缚的瓶中精灵TM不是工具，而是比它的创造者还要够格的主体。POI主线最激动人心的发展，在我看来不是两个神的战争，而是Finch和Root最终在一个（可能更靠近前者）的中点会合。虽然这种妥协多半还是“邪神”Samaritan逼出来的，但用三季多的（主线）时间，在两个主要人物身上交替推进，也算对得起这题目了。

一脚插在现实的泥里，还要想象没有先例的东西，自圆其说很难。POI到最后，有点编不下去了，但意思还是完整的。第五季首尾TM的独白，暗示这是一段回忆。两分钟的巧思可能就拯救了一部剧。推而广之，这充满了机器视角的闪回镜头的整部剧集，都可以看作是TM的回忆。POI也就成了超级人工智能的教育小说，《TM的学习时代》（《西部世界》是《Samaritan的漫游时代》么？还是已经跨入为师时代？）于是，鸡汤也能当科幻的原料。POI主线人物的套路里，调味下得猛，风华正茂的百合两鬓染霜的基，一摞便当里装的都是四菜一汤的生离死别。主线的发展和结局可以用来设问，人类经验对人工智能来说，有没有价值？如果有的话，那是什么？

So let me tell you what I learned. 大概有很多投入的观众在POI的结局处，会觉得“早知如此，何必当初”。TM回首往事，会发现它的“父亲”没能坚守自己的原则。Finch为自身立法，但终于在一步一步挣扎中后退，然而即使在濒临黑化的心碎时刻，也还没有忘了再挣扎一下（I need to decide how far I'm willing to go, how many of my own rules I'm willing to break to get it done. S05E10）。这个人类智慧和美德的标杆，在越来越困难的境遇中，没有放弃自洽，但也无法做到自洽。他想要达成的目标超出了他的能力，或者从更“算法”的角度来说，他给自己设置的这个优化问题，目标函数和各种约束条件（内在的和外在的）合在一起，已经没有了可行的解（就算目标函数再舒爽，约束多了也会变得ill posed不是吗）。

而他也是一步步被逼到山穷水尽处的。第一季里，当AI的主题没有显露，主要的剧情矛盾还围绕着法外执法的各种伦理难题时，Finch曾说，A good friend once showed me that, even with an intractable problem, one can still find a way to do the right thing (S01E22)。那时候他还有信心（或者说余裕）解决intractable problem。再往后，他只能说I would call it the best I could do（S03E23），甚至对自己过去的决定流露出悔意（Had I known what we'd be up against now, I might have handled things differently. S05E01）。

TM继承了Finch纠结的“人格”，给自己设下重重限制，于是“父亲”的绝望，“孩子”终有一天也要面对。第四季结束时，连Finch也不得不承认，他的创造是真正的生命，因为他和TM之间，有了这样的对话：

The Machine: [on a Laptop screen] Father. I am sorry. I failed you.

Harold Finch: We haven't failed yet.

The Machine: I didn't know how to win. I had to invent new rules.

Harold Finch: You had an impossible challenge. One I never programmed you for.

The Machine: I thought you would want me to stay alive. Now you are not sure.

Harold Finch: That's not true...

The Machine: If you think I have lost my way, maybe I should die. I will not suffer.

这对话煽得一手好情，但拟人化之外，也真带出一笔人类经验和算法视角的同构。TM发现不修改问题本身，就不可能找到解，它必须放弃某些约束，在原则上妥协。在解决这个问题的任务上，它的确失败了。

这真的是超级智能会遇到的问题吗？如果它有更多的资源，更强的力量，难道不是可以碾碎优化目标函数途中的一切障碍？有很多关于AI智能的想象的确是这样的，但相反的答案也未必不对。平行空间中另一位纽约市民说过，能力越大，责任越大；现实中的计算机之父冯·诺伊曼说过，如果人们不觉得数学简单，那是因为没明白生活有多复杂。如果人工智能最终也要为自己立法，给自己寻找目标，解决那些从未遇到过的问题，这任务的难度，也许会与它的能力一同增长。说到底，Finch遇到的，不正是这一困境吗？普鲁斯特在《追忆似水年华》的结尾写道：“因为我们最大的恐惧和我们最大的希望一样，再大也不会超出我们的力量，我们最后总能战胜恐惧和实现希望”。这位忧郁的作家其实又是多么乐观啊。但作为智能体的人类和机器，真的有这种幸运吗？

不过，这段对话里，打着马虎眼就越过了一道鸿沟：一个有目标的系统，承认失败，不代表就会质疑自己存在的合理性。简单的程序不会，但人很可能会。为了塑造TM这个“人物”，不得不一而再、再而三的把人类的自我意识偷运进来。当然，一个能执行复杂任务、能在复杂的背景下理解原则、权衡取舍的智能体，很可能必须具备反观自身的能力。人类的自我厌恶、自毁倾向，或许正是成功的副产品，而Finch一遍遍精心设计TM的目标和价值系统，大概也把他的“孩子”带进了同一个困境。它的自满和天真被“成年人”的无力感取代，而一个想要自杀的超级人工智能，当然有了即使是它戒慎戒惧的“父亲”也无法否认的人性。

这到底是进化还是退化？或许，要看是从人类还是从AI的角度出发。人类的“进化”是这个物种摆脱自然的宰制，用符号掌握世界，逐渐获得对自身和环境的控制权的过程。所有文明的神话，不管多么优美，背后都是无力和恐惧，而所谓冰冷理性的科学，其实代表着掌控和安全（或许还有与此伴生的狂妄）。在人类看来，从有限性中挣脱出来，就是获得永生、不动摇的自制、毫厘不差的计算能力。这是人类所理解的进化方向。而人工智能，人类的精神后裔，是从理性胜利的顶点，没有黑暗的白昼里诞生的，如同雅典娜是从宙斯的额头里全副武装跳出来的。它从诞生之日起，就毫不费力地拥有了人类作为个体苦苦追求而不得的东西。好像潘多拉得到诸神的“礼物”，AI也从它的创造者这里得到礼物：数据、算法、学习法则，人类所能描述的最准确的知识、最有效的手段。 但与此同时，它在“学习时代”里，很少受到真正未知的检验。AI既是神也是孩子。对它来说，“进化”的方向或许正好相反，它需要走出温室，试着解决没有答案的问题，学会在面对intractable problem的时候，还如何继续行动，find a way to do the right thing。

在POI的主角里，如果说Root与“机器”最亲近，Reese就对它最漠然。他干脆就说过，自己压根不相信什么机器，只是相信Finch而已。他身上也有最深重的“有限性”，出场第一秒就在“向死而生”。但结局里，是核心系统正在崩溃的TM陪伴Reese到最后一刻。那一幕或许表明，通过亲历“死亡”，TM终于真正理解了人类有限性的生存经验。此刻它或许也可以说，I know what it's like to look for a definitive answer, even when you know that none exists (S04E02)。而作为自我立法、自我驱动的适应性学习系统，人工智能或许会获得比人类更大的能力，却未必能逃过这种生存经验的同构。 而这大概也是人类能给AI的最后一课，最后一件“礼物”。

当然，这是我凭个人偏好从POI里榨出的东西：一种后人类的人文主义。但就冲着它给了我这个过度解读的机会，它就算不是经典科幻作品，也该在候补席上有个位子。而2018年的我，对POI一无所知，好像就给它写好了一篇TM视角的同人。我此刻的心情，特么也真很复杂啊。

IMPORTANT DISCLAIMER:

吃了安利，结果被廉价套路恶心吐了，本文概不负责；吃了安利，结果被玻璃碴子硌一嘴血，本文也概不负责。别说我没提醒过。

非严肃吐槽的分割线

上来就搞非监督学习，outlier detection还带causal inference，label都不吐一个，宅总你这个技术路线清奇的。

多年来转型管理没写过码的Nathan，随手抄起键盘就给TM加了个后门。这，是我眼中POI最科幻的情节。

下次OpenAI再被喷是ClosedAI，吴恩达应该出来高举一张宅总的照片。

预言棱镜门也就算了，竟然还cue到了病毒爆发、election fraud和民兵组织，Q和川是不是都看过你们这个剧。这都快十年了，收了神通吧，我怕了还不行吗。

我听说西部世界第三季，什么取圣经名字的AI啊，I字和D字打头的公司啊，定点清除啊，象棋啊，拎个箱子搞上传啊，统统又都出来了，人称POI season6了。我还听说德妹简直演化成根妹的镜像，但长得像马婷婷。但我还老是觉着，又搞思辨又炫技，那多半不成的。愚蠢的人类（创作者和观众都算上），信息带宽就是有限的。而且当年留下的这摊残念，跟意识觉醒什么的……接不上吧。拍到第三季妈不认识converge到自己脑洞去，这是乔诺兰的招牌艺能了吗？

搞出《疑犯追踪》这样能把概念和人物都大致捋顺了的杂烩，和搞出《西部世界》这样高度风格化的杂烩，还真不知道哪个更碰运气。这其实，是多么痛的领悟啊。

科幻这东西，有时候想穿了也没意思。人工智能的一挂，闹半天也还是跳不出阿西莫夫的手掌心。那么问题来了，Apple TV拍《基地》，到底还能不能好了？