贝叶斯深度学习简介

在本教程中,我们将学习贝叶斯深度学习的简介。神经网络的概率可以通过使用贝叶斯接口来检查。我们可以通过对标准神经网络工具的简单修改来近似这个概念问题。

贝叶斯定理是数据科学的一部分。它还包括以下学科:计算机科学、统计学和概率。该定理用于根据可用的重要数据计算正在发生的事件的概率。同时,贝叶斯推理使用贝叶斯定理在面对额外数据时改变假设的概率。

贝叶斯深度学习是一个新兴领域,它将贝叶斯方法的不确定性建模与深度学习的呈现和表示相结合。这两个概念的结合提供了一个解决许多深度学习问题的框架,例如过度拟合问题、加权不确定性问题、模型比较等等。

贝叶斯深度学习有时被称为贝叶斯神经网络。本教程主要讲授贝叶斯深度学习的基本介绍。我们还了解了该主题的方法、开发以及许多与该主题相关的内容。

贝叶斯深度学习是什么意思?
贝叶斯深度学习简称为 BDL。它依赖于深度学习理论和贝叶斯概率论。同时,贝叶斯推理对于统计和概率分布机器学习也很重要。概率主要用于模型学习、不确定性和可观察状态。贝叶斯深度学习(BDL)的主要目的是为深度学习提供不确定性估计。

贝叶斯深度学习是一个新兴领域,它将贝叶斯方法的不确定性建模与深度学习的呈现和表示相结合。贝叶斯深度学习一直令人着迷又令人恐惧。神经网络中的不确定性用于衡量预测模型的准确性。贝叶斯建模主要有两种类型的不确定性,下面讨论 -

1. 任意不确定性:
任意不确定性是贝叶斯建模中不确定性的一部分。主要用于测量观测时固有的噪声。传感器噪声就是一个例子。噪声传感器可以在数据集中统一。即使收集更多数据也无法减少这种不确定性。

2. 认知不确定性:
认知不确定性是贝叶斯模型不确定性的另一部分。这种不确定性是由模型本身引起的,也称为模型不确定性。它抓住了我们对理解模型生成的收集数据的需求。通过收集更多数据,我们可以减少这种不确定性。

因此,BDL 模型通常通过定位样本权重的分布或学习直接概率图来估计不确定性。认知不确定性是通过对样本权重进行初步分布来建模的。它还可以捕获这些权重随数据变化的程度。另一方面,通过提供输出分布来对任意不确定性进行建模,并且它还用于测量给定数据集的噪声。

许多数据科学家认为将机器学习、贝叶斯学习和神经网络结合起来是一个成功的应用。然而,贝叶斯神经网络通常很难训练。通过使用背景方法,我们可以轻松训练任何神经网络。我们通常使用Bayesian with Backprop来训练BNN,即贝叶斯神经网络。

贝叶斯推理和边缘化是什么意思?
贝叶斯接口就是学习过程。它用于找出后验分布。这与通过优化方差寻找最佳结果相反。另一方面,为了计算总的最终值,我们需要边缘化整个参数空间。但这通常是不可能的,因为我们可以拥有无​​限数量的此类数据集。因此,贝叶斯方法使用边缘化而不是优化技术。

后验中的复杂积分导致运行参数值有许多变量。贝叶斯接口通常使用马尔可夫链蒙特卡罗 (MCMC) 或微分方程等采样方法来代替梯度下降。这些策略尝试在使用更简单的分类后进行建模。VAE 是一种近似复杂分布以标准化流量的新方法。

贝叶斯深度学习的优势是什么?
最近,许多人尝试将神经网络的优点与贝叶斯方法结合起来。贝叶斯深度学习有多种优点,如下所述 -

1. 插值:
插值是贝叶斯学习的一个重要优势。贝叶斯学习工作包括纯粹的架构。当面临学习问题时,必须在人类和计算机应该投入多少时间和精力之间做出选择。当你建造一台设计好的机器时,你会创建一个地球模型,并在该模型中找到一个好的控制器。

贝叶斯方法对这个极端位置进行插值,因为它可能是贝叶斯前提全局模型的函数。这意味着将描述“好好思考”(指在世界面前的教学模式)和“努力思考”(如下)。许多其他机器学习方法仍然需要这种保证。

2.直觉:
直觉是贝叶斯深度学习的另一个优势。贝叶斯学习涉及两个操作,即优先级划分和整合。这些操作通常很有用。

3. 语言:
语言是贝叶斯深度学习的另一个优势。贝叶斯和近贝叶斯学习技术具有用于前后表达的关联语言。这在“认真思考”解决方案时非常有用。


贝叶斯深度学习的缺点是什么?
不确定性估计,尤其是医疗、汽车等领域,对于决策过程非常重要。在贝叶斯深度学习中,存在各种缺点,下面讨论 -

1. 计算不可行:
计算不可行性是贝叶斯深度学习(BDL)的缺点。假设您可以准确预测房间中的每个空气分子。但是,计算后验可能需要很多时间。这种困难意味着需要进行计算预测。

2、理论上不可行:
理论上的不可行性是贝叶斯深度学习的另一个缺点。事实证明,要达到先前的规格需要做大量的工作。在这里,我们需要为模型参数的每个设置指定实数。由于某些原因,许多精通贝叶斯学习的人没有看到这一困难,如下所示:

  • 他们知道允许事先指定的语言。获得这些信息需要付出很大的努力。
  • 他们在撒谎。他们的实际先验没有提前指定。

3.非自动化:

非自动化是贝叶斯深度学习的另一个缺点。“批判性思维”是贝叶斯研究中“贝叶斯雇佣”规则的一部分。当新的学习问题出现时,贝叶斯保证工程师必须解决这些问题。

BDL(贝叶斯深度学习)未来的发展如何?
这里了解BDL(贝叶斯深度学习)的未来发展。贝叶斯深度学习定理用于根据可用的重要数据计算正在发生的事件的概率。它依赖于深度学习理论和贝叶斯概率论。

这里我们主要了解一下BDL未来的发展。过去广泛使用贝叶斯深度学习(BDL)的主要障碍是计算效率。缺乏公开可用的软件包。最近的举措在解决这些问题方面迈出了坚实的一步。

例如,为了加快速度,在硬件和软件方面进行了大量工作,并且专门为设计和理论开发了新的软件包,例如Edward。

未来,我们期望 BNN 在小数据、批量学习和模型压缩方面取得进展。更广泛地说,将根据 BDL 的一般范围进行进一步的研究。贝叶斯深度学习利用其在各种调整问题中重现图像结构的能力。它的例子是计算机视觉和自然语言处理。