从“这也太离谱了吧”开始拯救世界
真正的机会，藏在那些让你气得想骂人的角落
原文：Focus on the places where you feel shocked everyone's dropping the ball
So8res（又名 Nate Soares）是前 MIRI（机器智能研究院）执行董事，长期活跃于人工智能安全与理性思维社区。他的写作风格尖锐直率、富有洞察力，擅长用简洁而具冲击力的语言挑战主流观点，激发读者重新思考“理所当然”的事物。So8res 常聚焦于那些被集体忽视却至关重要的系统性问题，鼓励人们以直觉驱动、动手实践的方式，去解决看似无解的现实困局。
发表于2023年2月2日
这是一段我在不同对话中常常会重复的话，索性写下来。
如果你正在思考“世界看起来快完了”这种级别的问题，我的建议是：去找那些我们集体在当傻子的地方。
去找那些大家都在为一个问题抓狂，但你内心某个部分觉得这问题明明可以轻松解决的场景。
去找那些运作得乱七八糟、简直愚不可及的地方，而你又有种感觉，自己能干得更好。
然后就真的去干得更好。
举个具体的例子，Devansh 去年跟我说了这样一番话，大意是：“等等，你的意思是，Eliezer 在做一种别人没人做的对齐研究（alignment-idea-generation），但他体力太差是主要瓶颈？可我能立刻想到一堆你们没做过的医学检查。你是不是脑子坏了？”而我回答说：“是的，完全同意，请你去做吧，你要钱我可以给。”
我对这事本身并不特别抱希望，但试试看也无妨！更重要的是，这种态度——“不如去试试看”——才是让人真正行动起来的源头。别总以为我们生活在一个早就足够靠谱的世界里，所有显而易见的点子早就被试完了。
我对 Paul Christiano 的理解也是类似的。他像是在说：“我不知道我能不能解决这个问题，但我也没法确认自己不能。而且有一堆明显的方向没人去探索，那我就试试看。”这种面对世界的姿态，我觉得是很有建设性的。
或者看看 shard theory（碎片理论）那群人。我觉得他们的思路根本行不通，但我欣赏他们对齐问题的出发点：一种“你们都疯了吗？我直接做 X 不就对齐了嘛”的劲头。
我不认为我们最后会靠碎片理论这路人救下来。不是所有想救世界的人都能成功。但如果真的有人救了我们，那很可能他也经历过这种“你们是瞎了吗？”的时刻，然后靠着自己的判断，沿着那些显然被忽视的路径去追问、去行动。
这跟那种翻阅一堆研究提案、权衡利弊、选出最合理的项目去做的方式形成了对比。后者更像是“理论上看起来不错”的做法，而不是“那儿着火了，怎么没人灭火”的那种直觉反应。
当然，也许这种“纸面上靠谱”的方法也能带来成效？但我个人更相信真正有价值的成果，往往来自那些看到大家明显掉链子的地方，然后决定自己上去补位的人。
我提倡的这种心态，是随时留心我们集体的无能之处，然后问自己：是不是只要我跳进去捣鼓一番，就能把事情做对了？
我认为，好东西就藏在这种地方。
但如果你找不到这样的地方呢？