probability-theory

概率论沉思录 ，writen in 1996.07 by Edwin Thompson Jaynes，1922.07.05~1998.04.30

贝叶斯概率，根据已知信息，获取最优推断。
我们依赖过往经验，评估新数据的合理程度。这叫合情推理/常识。它更快反应现实，计算更简单，区别与严格的逻辑推导。understand-and-change-the-world
过往经验，极大影响新数据指向的结论。这解释了一个复杂现象：意见分歧。人们可能认为公开讨论公共事务易于产生普遍的共识。但事实恰恰相反，当一些有争议的问题被讨论几年后，社会会分裂为两个极端的阵营，几乎不可能找到保持中立观点的人。
坚持旧观念分析的数据，只会让我们不断重复犯相同的错误，无论记录和分析的数据有多少。从新观念出发，旧数据也可以让我们对现象本质产生全新的见解。这就是过往经验的巨大影响。 zen-and-motorcycle

在物理学中，我们很快发现世界太过复杂，无法一次性的进行总体分析。只有“分而治之”，发明一种数学模型重新小部分的特征，才能取得进展。任何成功的计算机模型，即使只能重现常识的一小部分特征，也会极大帮助我们解决涉及复杂细节的推理问题。我们希望当前构建的所有模型，在未来被更全面的模型取代，我们不知道这个过程是否存在自然的终点。

我们常面临这种问题：给定新数据和已知模型（先验信息），确定关于其内部机制的100种可能的相对合情性。
人可以凭常识，在两种不同的假设中做出判断。但计算机可以分辨 100 个差别不大的假设，人对此感到无能为力。

如果一个理性的人，发现自己违反了一个合情条件，会希望修正自己的想法。
可以根据喜好设计推理机器人，如果你发现它的推理方式和你的非常相似，决定相信这个机器人可以帮你解决推断问题，这将是推理机器人成功的标志。

《概率论沉思录》>前言>陈述风格：