《机器人叛乱》笔记

你就像个机器人。出厂前，你就被预装了一些程序A；出厂后，你所在的教育环境、社会环境，会乘你不注意时（或还没有能力判断时），自动为你安装一些程序B；你自己也会选择安装一些程序C。

这三类程序有可能出现冲突。比如拖延症，是A类程序和C类程序的冲突；厌恶自己言行的种族主义者，是B类程序和C类程序的冲突。

特别值得注意的是，C类程序并不一定优于A类或B类程序。想像一个场景，你加入了某个传销组织，组织让你欺骗朋友和家人发展下线，于是你开始怀疑和犹豫，这是C类程序和A类B类程序的冲突。

出现冲突后，你可以选择不解决，就这样磕磕碰碰的运行下去。当然，你也可以跳起来修理自己一番。

怎么修理呢？前面的案例已经说明，C类程序并不一定比A类或B类保险，那你应该听从A，还是B，还是C？

作者用大量篇幅给出了答案，我把它归结成：出现这类冲突时，我们的大脑内部应该进行一场苏格拉底式的思辨¹（请脑补苏格拉底进行广场辩论的场面），经过思辨后得出的结论，靠谱概率将大幅提升。

思辨过程中还可以遵循一些原则，比如：

1. 拒绝对自己身体带来伤害的程序；
2. 如果安装一个程序，会导致未来某些程序无法被安装，那拒绝这个程序；
3. 拒绝那些不可被检验（不可证伪）的程序；
4. ……

书中还有很多内容，我就不摘抄了。

最后，我想说，这本书对我影响最大的部分，不是结论，而是作者搭建的模型，以及推导结论的过程，它们能够让人开拓思维、增进智识，所以强烈建议大家都读下。

• ← Previous Post
• Next Post →