MIRI 宣布一项新的“有尊严的死亡战略”

Tl；博士。 很明显，在这一点上，人类不会解决结盟问题，甚至不会尝试这样做，也不会为生存而战。 我们应该集中精力帮助人类更有尊严地死去，因为生存是不可能的。

我们不要害羞。 MIRI 没有解决 AGI 对齐问题，它知道这一点。 在 DeepMind 摧毁它之前，Paul Christiano 的复杂计划在现实世界中永远行不通。 Chris Olah 的透明度工作将以目前的进展速度，让 DeepMind 的某个人给出一个高度猜测的警告，关于系统内部的一组巨大的难以理解的张量，该张量在 3 周前重新编译，并且一直在通过梯度下降进行训练 20天，可能会策划欺骗他们的运营商。

管理层会问他们应该做什么。

来源和详细信息：
https://www.lesswrong.com/posts/j9Q8bRmwCgXRYAgcJ/miri-announces-new-death-with-dignity-strategy