生帮忙批改论文”，点击率可能会高达90%……）

每当有人点击其中一个链接时，系统就会将此人的邮箱页面跳转至另一个界面，开展网络安全实践教育。与此同时，林格尔斯泰也可以监测到哪些员工在点击钓鱼链接，并很快发现，有些员工就是不长记性，几乎次次上当受骗，哪怕看起来最没新意的邮件也足以吸引他们点击链接。每当这时，林格尔斯泰就会亲自前往这些员工所在的学校，私下为他们提供辅导。

两年多来，林格尔斯泰一直在测试和教育他的同事，他们慢慢地提高了警惕。测试邮件的点击率已经从29%下降到了平均5%左右。这是一种进步，而且是一种普遍意义上的进步。换言之，训练的目标不仅仅是让员工识破打着星巴克促销旗号的钓鱼邮件，更是增强他们对各式诈骗的防御能力。林格尔斯泰希望，如果西奥罗拉学区的教师接到一通可疑电话，要求提供敏感信息，他们也能保持警惕，即便诈骗已经换了一种媒介形式。

这也是防灾准备的愿景。应急模拟不必是完美的预测，只要是可信的预测即可。在理想情况下，参与各方都有多次练习的机会，在此过程中，相关各方可以完善他们在任何紧急情况下都需要具备的知识和技能。当灾难发生时，他们已经知道参与行动的各方是谁，他们会理解系统中各个环节之间的联系，也知道应该去哪里寻求资源。我的一位受访对象参加过一次社区范围内的准备活动，他说得很好：“我可不想等到紧急情况出现时再来互相交换名片。”

在为无法确定或者不可预测的问题（比如“千年虫”或者飓风）生帮忙批改论文”，点击率可能会高达90%……）

每当有人点击其中一个链接时，系统就会将此人的邮箱页面跳转至另一个界面，开展网络安全实践教育。与此同时，林格尔斯泰也可以监测到哪些员工在点击钓鱼链接，并很快发现，有些员工就是不长记性，几乎次次上当受骗，哪怕看起来最没新意的邮件也足以吸引他们点击链接。每当这时，林格尔斯泰就会亲自前往这些员工所在的学校，私下为他们提供辅导。

两年多来，林格尔斯泰一直在测试和教育他的同事，他们慢慢地提高了警惕。测试邮件的点击率已经从29%下降到了平均5%左右。这是一种进步，而且是一种普遍意义上的进步。换言之，训练的目标不仅仅是让员工识破打着星巴克促销旗号的钓鱼邮件，更是增强他们对各式诈骗的防御能力。林格尔斯泰希望，如果西奥罗拉学区的教师接到一通可疑电话，要求提供敏感信息，他们也能保持警惕，即便诈骗已经换了一种媒介形式。

这也是防灾准备的愿景。应急模拟不必是完美的预测，只要是可信的预测即可。在理想情况下，参与各方都有多次练习的机会，在此过程中，相关各方可以完善他们在任何紧急情况下都需要具备的知识和技能。当灾难发生时，他们已经知道参与行动的各方是谁，他们会理解系统中各个环节之间的联系，也知道应该去哪里寻求资源。我的一位受访对象参加过一次社区范围内的准备活动，他说得很好：“我可不想等到紧急情况出现时再来互相交换名片。”

在为无法确定或者不可预测的问题（比如“千年虫”或者飓风）做准备的过程中，我们看到了一些熟悉的主题。一个权威部门召集合适的参与者，给他们一个共同的目标。他们逃离隧道，将问题全面包围。他们还试图对系统进行微调，比如对“反向流动”进行改进，以提升对下一次灾难的应对能力。

但现在，人们面临一个更加棘手的问题：如果对于某些类型的问题，光是“准备好”还不够怎么办？如果只有做到完美才能避免问题怎么办？

再想想林格尔斯泰的同事们，他们一开始的受骗率是29%，后来通过教育改善到5%左右。从行为标准来看，这是一个很大的变化。但这就够了吗？“如果安全取决于最薄弱的环节，教育就不起作用了。”计算机安全专家布鲁斯·施奈尔这样评论黑客防御。换句话说，如果一名黑客决心黑入西奥罗拉129号学区或任何其他特定机构的系统，那么29%和5%之间的差别就显得无关紧要了。只需打开那一扇门，只要有一个容易上当、会点击任何链接的人，黑客就能达到攻击的目的。

牛津大学的瑞典哲学家尼克·博斯特罗姆在思索一个问题，即技术创新是否导致了现代社会濒临类似的脆弱状态，这意味着每个人的命运都取决于某一次坏运气或者某一个闹事者。他发表这番评论的背景是，人类总是不断推动新的创新，几乎不计一切代价。科学家和技术专家鲜少会扪心自问，这个东西应该被发明吗？现实是，一旦人类有能力发明出某个事物，它就一定会被发明。好奇心、雄心壮志和竞争意识推动着他们不断向前、向前、向前。在创新方面，我们没有刹车，而是踩油门。做准备的过程中，我们看到了一些熟悉的主题。一个权威部门召集合适的参与者，给他们一个共同的目标。他们逃离隧道，将问题全面包围。他们还试图对系统进行微调，比如对“反向流动”进行改进，以提升对下一次灾难的应对能力。

但现在，人们面临一个更加棘手的问题：如果对于某些类型的问题，光是“准备好”还不够怎么办？如果只有做到完美才能避免问题怎么办？

再想想林格尔斯泰的同事们，他们一开始的受骗率是29%，后来通过教育改善到5%左右。从行为标准来看，这是一个很大的变化。但这就够了吗？“如果安全取决于最薄弱的环节，教育就不起作用了。”计算机安全专家布鲁斯·施奈尔这样评论黑客防御。换句话说，如果一名黑客决心黑入西奥罗拉129号学区或任何其他特定机构的系统，那么29%和5%之间的差别就显得无关紧要了。只需打开那一扇门，只要有一个容易上当、会点击任何链接的人，黑客就能达到攻击的目的。

牛津大学的瑞典哲学家尼克·博斯特罗姆在思索一个问题，即技术创新是否导致了现代社会濒临类似的脆弱状态，这意味着每个人的命运都取决于某一次坏运气或者某一个闹事者。他发表这番评论的背景是，人类总是不断推动新的创新，几乎不计一切代价。科学家和技术专家鲜少会扪心自问，这个东西应该被发明吗？现实是，一旦人类有能力发明出某个事物，它就一定会被发明。好奇心、雄心壮志和竞争意识推动着他们不断向前、向前、向前。在创新方面，我们没有刹车，而是踩油门。有时，他们的发现或发明有巨大的价值，比如抗生素或天花疫苗；有时，发明创新有利有弊，比如枪支、汽车、空调及社交媒体推特（Twitter）。我们永远无法提前知晓这些究竟会带来什么后果，是利大于弊还是弊大于利。我们只能摸着石头过河，处理各种后果。

博斯特罗姆用一个比喻来描述这种摸索前行的习惯：想象人类正从一只巨大的瓮中随机取球，这些球代表的是新的技术发明。白球代表有益的发明，比如抗生素；灰球代表好坏参半的发明。问题是，在我们把手伸进瓮里的那一刻，我们并不知道取出来的会是什么颜色的球。出于冲动，我们只是不停地伸手去拿。但万一取出来的某个球带来了灾难性的后果，我们该怎么办呢？博斯特罗姆在《脆弱世界假设》一文中，探讨了瓮中是否会存在一个黑球的问题。黑球代表的是一种会摧毁人类文明的技术。

博斯特罗姆指出，到目前为止，我们还没有取出过黑球，但“这不是因为我们在技术政策上特别谨慎或者特别明智，只是比较幸运而已……人类文明有着精湛的取球技能，却没有能力将取出来的球再放回瓮里。我们能够发明创造，可一旦发明就已是覆水难收。我们的策略是祈愿瓮中不存在黑球”。

博斯特罗姆的黑球理论听上去似乎荒诞不经，像是科幻小说里的情节：一种可以摧毁文明的技术。但这绝非异想天开、痴人说梦。博斯特罗姆认为，万一我们从瓮中取出一个小球，让某些少数群体拥有了大规模杀伤武器，我们的文明就将岌岌可危。这其实就是“拥有了核武器的恐怖组织伊斯兰国（ISIS）”，只需满足以下两个条件：第一，一群愿意进行大规模杀伤行动的人；第二，一种广泛普及的大规有时，他们的发现或发明有巨大的价值，比如抗生素或天花疫苗；有时，发明创新有利有弊，比如枪支、汽车、空调及社交媒体推特（Twitter）。我们永远无法提前知晓这些究竟会带来什么后果，是利大于弊还是弊大于利。我们只能摸着石头过河，处理各种后果。

博斯特罗姆用一个比喻来描述这种摸索前行的习惯：想象人类正从一只巨大的瓮中随机取球，这些球代表的是新的技术发明。白球代表有益的发明，比如抗生素；灰球代表好坏参半的发明。问题是，在我们把手伸进瓮里的那一刻，我们并不知道取出来的会是什么颜色的球。出于冲动，我们只是不停地伸手去拿。但万一取出来的某个球带来了灾难性的后果，我们该怎么办呢？博斯特罗姆在《脆弱世界假设》一文中，探讨了瓮中是否会存在一个黑球的问题。黑球代表的是一种会摧毁人类文明的技术。

博斯特罗姆指出，到目前为止，我们还没有取出过黑球，但“这不是因为我们在技术政策上特别谨慎或者特别明智，只是比较幸运而已……人类文明有着精湛的取球技能，却没有能力将取出来的球再放回瓮里。我们能够发明创造，可一旦发明就已是覆水难收。我们的策略是祈愿瓮中不存在黑球”。

博斯特罗姆的黑球理论听上去似乎荒诞不经，像是科幻小说里的情节：一种可以摧毁文明的技术。但这绝非异想天开、痴人说梦。博斯特罗姆认为，万一我们从瓮中取出一个小球，让某些少数群体拥有了大规模杀伤武器，我们的文明就将岌岌可危。这其实就是“拥有了核武器的恐怖组织伊斯兰国（ISIS）”，只需满足以下两个条件：第一，一群愿意进行大规模杀伤行动的人；第二，一种广泛普及的大规模杀伤技术。会有人怀疑第一个条件是否成立吗？数不胜数的恐怖组织、校园枪手和大屠杀凶手的存在已经提供了令人信服的证据。

至于第二个条件，也就是大规模杀伤技术的普及，博斯特罗姆让我们考虑另一种历史的可能：如果核武器的制造不再需要国家的先进技术和资源，而是有一种“非常简单的方法来释放原子能量，比如，让电流穿过放置在两层玻璃之间的金属物体”，那会怎么样呢？如果大家可以仅凭从家得宝公司（Home Depot）购买的材料，就能轻而易举地组装一枚核弹，应该没人会怀疑随之而来的灾难性后果吧？核武器的生产制造需要大量资金/专业技术/资源支撑，这难道是我们人类的万幸吗？

博斯特罗姆的意思是，不能保证我们今后仍然拥有同样的幸运。现在，我们已经有了DNA“打印机”，企业能够以低廉的成本快速生产DNA片段用于研究。想象一下，如果有朝一日，家家户户都能购买DNA打印机，也许最初的目的只是为了获取基因定制药物，但有人可能因此得以在家还原1918年“西班牙大流感”病毒的DNA，于是单凭一己之力便能终结所有人的命运。

本章的开头引用了伦纳德·尼莫伊的这句话：“所以我们在此追忆古老文明亚特兰蒂斯的命运。千禧年的钟声即将敲响，当今人类文明所面临的主要问题是：先进的技术创新是否已经远远超出了人类的控制能力，最重要的是，它是否已经超出了人类对科技创新终极后果的预测能力？”实话说，当我第一次观看这段视频的时候，我只看到了矫揉造作的俗气和浮华，内心满是冷嘲热讽。但现在回头再看，我已经不再嗤之以鼻。斯波克没准是对的。模杀伤技术。会有人怀疑第一个条件是否成立吗？数不胜数的恐怖组织、校园枪手和大屠杀凶手的存在已经提供了令人信服的证据。

至于第二个条件，也就是大规模杀伤技术的普及，博斯特罗姆让我们考虑另一种历史的可能：如果核武器的制造不再需要国家的先进技术和资源，而是有一种“非常简单的方法来释放原子能量，比如，让电流穿过放置在两层玻璃之间的金属物体”，那会怎么样呢？如果大家可以仅凭从家得宝公司（Home Depot）购买的材料，就能轻而易举地组装一枚核弹，应该没人会怀疑随之而来的灾难性后果吧？核武器的生产制造需要大量资金/专业技术/资源支撑，这难道是我们人类的万幸吗？

博斯特罗姆的意思是，不能保证我们今后仍然拥有同样的幸运。现在，我们已经有了DNA“打印机”，企业能够以低廉的成本快速生产DNA片段用于研究。想象一下，如果有朝一日，家家户户都能购买DNA打印机，也许最初的目的只是为了获取基因定制药物，但有人可能因此得以在家还原1918年“西班牙大流感”病毒的DNA，于是单凭一己之力便能终结所有人的命运。

本章的开头引用了伦纳德·尼莫伊的这句话：“所以我们在此追忆古老文明亚特兰蒂斯的命运。千禧年的钟声即将敲响，当今人类文明所面临的主要问题是：先进的技术创新是否已经远远超出了人类的控制能力，最重要的是，它是否已经超出了人类对科技创新终极后果的预测能力？”实话说，当我第一次观看这段视频的时候，我只看到了矫揉造作的俗气和浮华，内心满是冷嘲热讽。但现在回头再看，我已经不再嗤之以鼻。斯波克没准是对的。有一个概念叫作“先知困境”，讲的是有人做出了一个预言，因此成功阻止了预言事件的发生，也就是一个适得其反的预测。如果小鸡的警告真的阻止天塌下来呢？“千年虫”就是先知困境的一个典型例子。天要塌下来的警告促使人们采取行动，防止天塌下来。也许社会需要的是新一代开明的“忧天小鸡”，而不是那些利用仇恨出售黄金和维生素的阴谋论者；不是利用歇斯底里情绪兜售咨询服务的恐惧贩卖者，而是像博斯特罗姆那样的人，他创立了人类未来研究所，以此吸引大家关注有关人类生存和长远未来的研究，或者像计算机安全大师布鲁斯·施奈尔（前文引用过他对网络安全中“最薄弱环节”问题的看法）这样的作家。对于任何参与制定网络技术政策或规范的人来说，施奈尔撰写的《点击这里杀死所有人》（Click Here to Kill Everybody）一书都是必读篇目。

也许我们需要开始建立一个系统，可以针对这些“忧天小鸡”的警告采取行动。地球上的每个居民都需要DNA打印机吗？是否应该由生产DNA打印机的公司来做选择？如果不是，那这个选择又该由谁来做呢？

说来你或许不信，历史上出现过的一个模式可以让人得到启发：在20世纪五六十年代，来自全球各地的团队齐聚一堂，共同应对一个尚不明确的科学威胁。是什么威胁呢？大家担心执行登月任务返航后可能会带来外星生命，毁坏地球。“成千上万关心此事的市民纷纷写信给NASA，因为担心自己会受到月球细菌的威胁。”迈克尔·梅尔策在其《当不同生物圈碰撞时》（Whe Biospheres Collide）一书中写道。这本书的内容十分精彩，引人入胜。有一个概念叫作“先知困境”，讲的是有人做出了一个预言，因此成功阻止了预言事件的发生，也就是一个适得其反的预测。如果小鸡的警告真的阻止天塌下来呢？“千年虫”就是先知困境的一个典型例子。天要塌下来的警告促使人们采取行动，防止天塌下来。也许社会需要的是新一代开明的“忧天小鸡”，而不是那些利用仇恨出售黄金和维生素的阴谋论者；不是利用歇斯底里情绪兜售咨询服务的恐惧贩卖者，而是像博斯特罗姆那样的人，他创立了人类未来研究所，以此吸引大家关注有关人类生存和长远未来的研究，或者像计算机安全大师布鲁斯·施奈尔（前文引用过他对网络安全中“最薄弱环节”问题的看法）这样的作家。对于任何参与制定网络技术政策或规范的人来说，施奈尔撰写的《点击这里杀死所有人》（Click Here to Kill Everybody）一书都是必读篇目。

也许我们需要开始建立一个系统，可以针对这些“忧天小鸡”的警告采取行动。地球上的每个居民都需要DNA打印机吗？是否应该由生产DNA打印机的公司来做选择？如果不是，那这个选择又该由谁来做呢？

说来你或许不信，历史上出现过的一个模式可以让人得到启发：在20世纪五六十年代，来自全球各地的团队齐聚一堂，共同应对一个尚不明确的科学威胁。是什么威胁呢？大家担心执行登月任务返航后可能会带来外星生命，毁坏地球。“成千上万关心此事的市民纷纷写信给NASA，因为担心自己会受到月球细菌的威胁。”迈克尔·梅尔策在其《当不同生物圈碰撞时》（Whe Biospheres Collide）一书中写道。这本书的内容十分精彩，引人入胜。