贝叶斯定理

2024-05-12 01:22

1. 贝叶斯定理

贝叶斯定理可以理解成下面的式子:
  
 后验概率(新信息出现后A发生的概率)=先验概率(A发生的概率)x可能性函数(新信息带出现来的调整)贝叶斯的底层思想就是:
  
 如果我能掌握一个事情的全部信息,我当然能计算出一个客观概率(古典概率、正向概率)。
  
 可是生活中绝大多数决策面临的信息都是不全的,我们手中只有有限的信息。既然无法得到全面的信息,我们就在信息有限的情况下,尽可能做出一个好的预测。也就是,在主观判断的基础上,可以先估计一个值(先验概率),然后根据观察的新信息不断修正(可能性函数)。

贝叶斯定理

2. 贝叶斯定理

  引入: 
    定义: (英语:Bayes' theorem)是概率论中的一个定理,描述在已知一些条件下,某事件的发生几率。比如,如果已知某癌症与寿命有关,使用贝叶斯定理则可以透过得知某人年龄,来更加准确地计算出他罹患癌症的几率。———— wiki解释 
    贝叶斯公式: 
   事件B发生的条件下,事件A发生的概率为:        事件A发生的条件下,事件B发生的概率为:        由此可得:        得贝叶斯公式如下:     
   贝叶斯公式:        上式可以理解为:     
   所以贝叶斯的底层思想为:   如果掌握了一个事情的全部信息,就可以计算出一个客观概率(古典概率、正向概率),但是绝大多数决策面临的信息都是不全的,在有限信息的条件下,尽可能预测一个好的结果,也就是在主观判断的基础上,可以 先估计一个值(先验概率),然后根据观察的新信息不断修正(可能性函数) 。
    问题 :有两个一模一样的碗,1号碗里有30个巧克力和10个水果糖,2号碗里有20个巧克力和20个水果糖。然后把碗盖住。随机选择一个碗,从里面摸出一个巧克力。 这颗巧克力来自1号碗的概率是多少? 
   求解问题:
   已知信息:
   应用贝叶斯:
    问题 :假设艾滋病的发病率是0.001,即1000人中会有1个人得病。现有一种试剂可以检验患者是否得病,它的准确率是0.99,即在患者确实得病的情况下,它有99%的可能呈现阳性。它的误报率是5%,即在患者没有得病的情况下,它有5%的可能呈现阳性。 现有一个病人的检验结果为阳性,请问他确实得病的可能性有多大? 
   求解问题:
   已知信息:
   应用贝叶斯定理:
   造成这么不靠谱的误诊的原因,是我们无差别地给一大群人做筛查,而不论测量准确率有多高,因为正常人的数目远大于实际的患者,所以误测造成的干扰就非常大了。 根据贝叶斯定理,我们知道提高先验概率,可以有效的提高后验概率。 所以解决的办法倒也很简单,就是先锁定可疑的样本,比如10000人中检查出现问题的那10个人,再独立重复检测一次,因为正常人连续两次体检都出现误测的概率极低,这时筛选出真正患者的准确率就很高了,这也是为什么许多疾病的检测,往往还要送交独立机构多次检查的原因。
    问题 :最初的垃圾邮件过滤是靠静态关键词加一些判断条件来过滤,效果不好,漏网之鱼多,冤枉的也不少。2002年,Paul Graham提出 使用"贝叶斯推断"过滤垃圾邮件 。因为 典型的垃圾邮件词汇在垃圾邮件中会以更高的频率出现 ,所以在做贝叶斯公式计算时,肯定会被识别出来。之后用最高频的15个垃圾词汇做联合概率计算,联合概率的结果超过90%将说明它是垃圾邮件。
   不过这里还涉及到一个问题,就是单个关键词的概率(单个条件)无论如何再高,这封邮件仍然有可能不是垃圾邮件,所以在此处应用贝叶斯定理时,我们显然要用到多个条件,也就是计算这个概率:
   Paul Graham 的做法是,选出邮件中 P(垃圾邮件|检测到“X”关键词) 最高的 15个词 ,计算它们的 联合概率 。(如果关键词是第一次出现,Paul Graham 就假定这个值等于 0.4 ,也即认为是negative normal)。
   后续更新……
    参考文章1:(知乎)小白之通俗易懂的贝叶斯定理(Bayes' Theorem)     参考文章2:()贝叶斯公式/贝叶斯法则/贝叶斯定理 

3. 贝叶斯定理

  P(A|B) 是在 B 发生的情况下 A 发生的概率;
     P(A) 是 A 发生的概率;
     P(B|A) 是在 A 发生的情况下 B 发生的概率;
     P(B) 是 B 发生的概率。
   P(B) = P(B丨A)P(A)+P(B丨A')P(A')......这个叫做全概率公式。
   P(A'),A不发生的概率,P(A') = 1- P(A)。
   贝叶斯定理是一种根据已知其他概率的情况,求解概率的方法。贝叶斯定理作为常用的基础算法,在统计学、心理学、社会学、经济学等方面一直有很重要的意义与应用。进入IT时代,贝叶斯定理在计算机科学,特别是在机器学习、工智能方面占有重要的一席之地人。尤其是在数据处理方面,针对事件发生的概率以及事件可信度分析上具有良好的效果。近年来,贝叶斯定理在证券、期货等分析与市场预测方面,得到越来越多的重视与应用。
  
 贝叶斯(1701年—1761年) Thomas Bayes,英国数学家。1701年出生于伦敦,做过神父。1742年成为英国皇家学会会员。1761年4月7日逝世。贝叶斯在数学方面主要研究概率论。他首先将归纳推理法用于概率论基础理论,并创立了贝叶斯统计理论,对于统计决策函数、统计推断、统计的估算等做出了贡献。

贝叶斯定理

4. 贝叶斯定理

如果两事件A,B独立,则P(A|B) = P(AB)/P(B) = P(A)

5. 贝叶斯定理的定理定义

贝叶斯定理也称贝叶斯推理,早在18世纪,英国学者贝叶斯(1702~1763)曾提出计算条件概率的公式用来解决如下一类问题:假设H[1],H[2]…,H[n]互斥且构成一个完全事件,已知它们的概率P(H[i]),i=1,2,…,n,现观察到某事件A与H[,1],H[,2]…,H[,n]相伴随机出现,且已知条件概率P(A/H[,i]),求P(H[,i]/A)。贝叶斯公式(发表于1763年)为: P(H[i]/A)=P(H[i])*P(A│H[i])/{P(H[1])*P(A│H[1]) +P(H[2])*P(A│H[2])+…+P(H[n])*P(A│H[n])}这就是著名的“贝叶斯定理”,一些文献中把P(H[1])、P(H[2])称为基础概率,P(A│H[1])为击中率,P(A│H[2])为误报率[1] 。

贝叶斯定理的定理定义

6. 贝叶斯定律

贝叶斯定律:假设H[,1],H[,2]…互斥且构成一个完全事件,已知它们的概率P(H[,i],i=1,2,…,现观察到某事件A与H[,1],H[,2]…相伴随而出现,且已知条件概率P(A/H[,i]),求P(H[,i]/A)。
心理学研究中常被引用的例子
参加常规检查的40岁的妇女患乳腺癌的概率是1%。如果一个妇女有乳腺癌,则她有80%的概率将接受早期胸部肿瘤X射线检查。

如果一个妇女没有患乳腺癌,也有9.6%的概率将接受早期胸部肿瘤X射线测定法检查。在这一年龄群的常规检查中某妇女接受了早期胸部肿瘤X射线测定法检查。问她实际患乳腺癌的概率是多大?设H[,1]=乳腺癌,H[,2]=非乳腺癌。
A=早期胸部肿瘤X射线检查(以下简称“X射线检查”),已知P(H[,1])=1%,P(H[,2])=99%,P(A/H[,1])=80%,P(A/H[,2])=9.6%,求P(H[,1]/A)。根据贝叶斯定理,P(H[,1]/A)=(1%)(80%)/[(1%)(80%)+(99%)(9.6%)]=0.078。
心理学家所关心的是,一个不懂贝叶斯原理的人对上述问题进行直觉推理时的情形是怎样的,并将他们的判断结果与贝叶斯公式计算的结果做比较来研究推理过程的规律。因此有关这类问题的推理被称为贝叶斯推理。

贝叶斯
出生于伦敦,毕业于爱丁堡大学,英国数学家。贝叶斯做过神甫,1742年成为英国皇家学会会员,1761年4月7日逝世,贝叶斯在数学方面主要研究概率论,他首先将归纳推理法用于概率论基础理论,并创立了贝叶斯统计理论。

7. 贝叶斯定理 贝叶斯定理是什么

1、贝叶斯定理是关于随机事件A和B的条件概率(或边缘概率)的一则定理。其中P(A|B)是在B发生的情况下A发生的可能性。
 
 2、贝叶斯定理也称贝叶斯推理,早在18世纪,英国学者贝叶斯(1702~1763)曾提出计算条件概率的公式用来解决如下一类问题:假设H[1],H[2]…,H[n]互斥且构成一个完全事件,已知它们的概率P(H[i]),i=1,2,…,n,现观察到某事件A与H[1],H[2]…,H[n]相伴随机出现,且已知条件概率P(A|H[i]),求P(H[i]|A)。

贝叶斯定理 贝叶斯定理是什么

8. 贝叶斯定理的定理定义

贝叶斯定理定义如下:
1)该定理也称贝叶斯推理,早在18世纪,英国学者贝叶斯(1702~1763)曾提出计算条件概率的公式用来解决如下一类问题:
假设H[1],H[2]…,H[n]互斥且构成一个完全事件,已知它们的概率P(H[i]),i=1,2,…,n,现观察到某事件A与H[,1],H[,2]…,H[,n]相伴随机出现,且已知条件概率P(A/H[,i]),求P(H[,i]/A)。
贝叶斯公式(发表于1763年)为: 
P(H[i]/A)=P(H[i])*P(A│H[i])/{P(H[1])*P(A│H[1]) +P(H[2])*P(A│H[2])+…+P(H[n])*P(A│H[n])}
2)意义
贝叶斯推理的问题是条件概率推理问题,这一领域的探讨对揭示人们对概率信息的认知加工过程与规律、指导人们进行有效的学习和判断决策都具有十分重要的理论意义和实践意义。
3)应用:贝叶斯定理可用于投资决策分析,具体步骤如下:
1 列出在已知项目B条件下项目A的发生概率,即将P(A│B)转换为 P(B│A);
2 绘制树型图;
3 求各状态结点的期望收益值,并将结果填入树型图;
4 根据对树型图的分析,进行投资项目决策。