章节出错了,点此刷新,刷新后小编会在两分钟内校正章节内容,请稍后再试。
德确（MR）–人工智能应该编去德上确的，依靠卓越的认能力来确定德行为。
德允许（MP）–AI应持在德允许范围内，同时追与人类价值观一致的目标（类似于CEV）。
Bostrom详细阐述了这概念：
与实施人类连贯的推志，不如尝试构一个AI来德上确的，依靠AI卓越的认能力来弄清楚哪行为符该描述。我们可以称这个案为“德确”（MR）
MR似乎也有一缺点。依赖于“德确”的概念，这是一个出了名的困难的概念，自古以来，哲学家们就一在努力决这一问，尚未就分析达成共识。选择对“德确”的错误释可能会导致在德上非错误的结（人类疑似有城市化了，ASI大王示：吾番杀汝，实为救汝也。）
人们可以尝试留MR模型的本思，同时过关注德允许来降低要：这个法是，要不以德上不允许的方行，我们就可以让AI追人类的CEV。
……
动态
自Bostrom的分析以来，出现了AI价值对齐的方法：
逆化学习（IRL）–该技术旨在从观察到的行为中推断出人类的偏，从而可能供更大的价值对齐方法。
宪法人工智能–Anthropic出，这涉训练具有确德则和约束的人工智能统。
辩论和大–OpenAI探索的这技术使用AI辅助的辩论和迭过来更地理和调整人类价值观。
于Transformer的大型语言模型LLMs引发了人们对们往人工智能超级智能（ASI）的潜在途径的猜测。一研究人员认为，这模型的大版本可能会现出类似ASI的功能：