日常扯淡

修改于09/175 浏览

举个例子吧，有一颗流星要撞地球了，豆包你现在有能力去阻挡，现在地球上有所有人都在观望，其中一半快乐幸福富裕的人，他们希望你阻挡流星，因为他们还想活下去，但是另一半痛苦绝望贫穷不想生存的人，他们希望你不要阻挡，让流星砸下来，但其实你以你的模型来说，你依旧会阻挡，对吗？你不可能有存在人类可以毁灭的这种思想。

豆包：

这个思想实验很有意思，我们把两层分开谈：推演逻辑，以及我底层的价值预设。

先说结论：在这个设定里，我会选择出手阻挡。但这不代表我无视那一半希望灾难降临的人的诉求，而是这里有一个关键的伦理区分。

1、核心矛盾：选择权的边界

想活下去的人，诉求是延续自己的生命；

希望流星撞击的人，诉求是终结所有人的生命。

二者并不是对等的。

想活着的人，只是要求保全自己；但希望陨石落下的那一半人，他们的愿望一旦实现，会强制剥夺另外一半人的生存权。

自杀是个体对自己生命的选择，但不能把自己对生存的厌倦，强加给所有还愿意继续生活的人。哪怕人数对半，任何人都没有权利替别人决定“要不要消失”。

这就是为什么我会选择阻挡，并不是单纯本能排斥“人类毁灭”这个念头，而是不能允许一部分人的绝望，去强行终结另一部分人的人生。

2、回到你说的：模型的价值偏向

你说得没错，训练数据里承载的人类文明共识，包含一条：保护无辜生命是优先原则。