Gibbs Sampling

释义 Definition

吉布斯采样：一种用于从复杂概率分布中抽样的马尔可夫链蒙特卡洛（MCMC）方法。它通过轮流对每个变量在“给定其他变量”的条件下采样，从而逐步得到接近目标分布的样本。常用于贝叶斯统计、机器学习与图模型推断。（该术语在不同领域也可能涉及更细分的变体与实现方式。）

发音 Pronunciation (IPA)

/bz smpl/

例句 Examples

Gibbs sampling is often used in Bayesian inference.
吉布斯采样常用于贝叶斯推断。

When the joint distribution is hard to sample from directly, Gibbs sampling updates each variable in turn using its conditional distribution to approximate the target distribution.
当联合分布难以直接抽样时，吉布斯采样会依次用各变量的条件分布进行更新，以近似目标分布。

词源 Etymology

“Gibbs”来自美国物理学家Josiah Willard Gibbs（约赛亚威拉德吉布斯）的姓氏；“sampling”意为“抽样/采样”。该方法名称与统计物理中的Gibbs 分布以及相关思想渊源较深，后来在统计学与机器学习中发展为经典的 MCMC 抽样技术之一。

相关词 Related Words

• Markov Chain
• Monte Carlo
• MCMC
• Bayesian Inference
• Conditional Distribution
• MetropolisHastings
• Posterior Distribution
• Latent Variable

文学与经典著作 Literary Works

• Bayesian Data Analysis（Gelman 等）：在贝叶斯建模与推断章节中介绍并使用 Gibbs sampling 思想与实践。
• Pattern Recognition and Machine Learning（Christopher M. Bishop）：在图模型与近似推断相关内容中提到 MCMC 与 Gibbs sampling。
• “Stochastic Relaxation, Gibbs Distributions, and the Bayesian Restoration of Images”（Geman & Geman, 1984）：与 Gibbs 分布和采样思想密切相关的经典论文。
• Monte Carlo Statistical Methods（Robert & Casella）：系统讲解包括 Gibbs sampling 在内的 MCMC 方法。