六、挑战宇宙禀赋：接下来的10亿年以及以后
1、物质转化为能源的效率：
2、未来生命可以利用的物质粒子（质子和中子）数量的近似值：
3、弗里曼.戴森对未来宇宙的预测：
4、我们的宇宙将如何终结：
5、我们能发现外星人的可能性，几乎不可能：
6、最有可能在宇宙尺度上分享和交易的商品是信息。
7、两个扩张的文明相遇，可能会导致三种可能性：同化、合作或者战争。于今天的文明相比，未来的文明相遇时发生战争的可能性更小。
8、我们人类很可能是唯一能使可观测宇宙在未来“活过来”的生命形式。
七、目标
1、费马原理：大自然在可选择的所有方式中倾向于选择最优的方式，这种方式通常归结为将某些量最大化或最小化。
2、在描述每条物理定律时，有两种数学上等价的方法：一是描述过去如何导致了未来，二是自然界对某些东西进行优化。
3、熵是事物混乱程度的度量，热力学第二定律说，熵总是趋于增加，直到达到最大的可能值。如果暂时忽略万有引力的影响，这种最大的混乱状态被称为”热寂“。热寂是指万事万物都会扩散成一种无聊而又完美的均质状态，没有复杂性，没有生命， 也没有任何变化。
4、从地球形成之初就开始观察地球上的原子，其目标导向行为有三个阶段：
- 第一阶段，所有物质似乎都在努力实现耗散的目标，即熵增。
- 第二阶段，其中一些物质拥有了生命，转而聚焦于子目标。
- 第三阶段，生物重新排列的物质越来越多，以实现自己的目标。
5、超级智能的终极目标和子目标：
6、伦理的四个原则：
- 功利主义：积极的意识体验应当被最大化，而痛苦应当被最小化。
- 多样化：多样化比重复单一的积极体验更好，即使后者被认为是所有可能性中最积极的体验。
- 自由性：有意识的实体/社会应当拥有追寻自己目标的自由，除非与某些重要原则相违背。
- 遗产：符合当今大多数人认为幸福的情景，不符合当今几乎所有人认为糟糕的情景。
7、为未来生命设定的定律，并试着将自主性原则加进去。
- 第一定律：一个有意识的实体有思考、学习、交流、拥有财产、不被伤害或不被毁灭的自由；
- 第二定律：在不违反第一定律的情况下，一个有意识的实体有权做任何事。
8、想让机器与我们的目标相一致，有三个问题亟待解决：让机器学习、接受和保持我们的目标。
八、意识
1、意识=主观体验（subjective experience）。
2、三个彼此独立的意识难题：
3、产生意识的4个必要条件：
- 信息原则：一个有意识的系统拥有充足的信息存储能力。
- 动态原则：一个有意识的系统拥有充足的信息处理能力。
- 独立原则：一个有意识的系统与世界的其他部分之间拥有充分的独立性。
- 整合原则：一个有意识的系统不可能由独立的各部分组成。
4、神经科学实验告诉我们，许多行为和脑区都是无意识的，大部分意识体验都是对大量无意识信息做出的”事后总结“。
,
