科学（例如物理，化学和生物学）和工程（例如视觉，图形和机器人）中研究的现实世界系统涉及大量组件之间的复杂交互。对这种系统的表示是高维空间中定义在图上的概率模型，这种模型的解析解通常是难以获得的。因此，蒙特卡罗方法已经作为通用工具，用在了科学和工程的模拟，估计，推理和学习中。毫无疑问，Metropolis 算法是 20 世纪科学实践中最被经常使用的十大算法之一（Dongarra和 Sullivan，2000）。随着计算能力的不断增长，研究人员正在处理更加复杂的问题并采用更加先进的模型。在 21 世纪科学和工程的发展中，蒙特卡罗方法将继续发挥重要的作用。Hamiltonian 蒙特卡洛和Langevin 蒙特卡洛在近期发展深度学习中随机梯度下降法中的应用是这个趋势的另外一个例子。