2011年-世界发展银行全球_Mixtures_of_g-priors_for_Bayesian_Model_Averaging_with_Economic_Application_35页_1mb

详细总结：Mixtures of g-priors for Bayesian Model Averaging with Economic Application

核心内容

本文探讨了在存在大量可能协变量的情况下，如何使用混合g先验进行贝叶斯模型平均（BMA）以解决变量选择问题。作者提出了一种结合二项-贝塔先验（Binomial-Beta）和g先验的模型，同时对g赋予超先验，以提高模型选择的稳健性和预测性能。文章还评估了不同先验在模拟和真实经济数据中的表现，并提出了适用于实际应用的建议。

主要观点

• 模型不确定性：在回归分析中，模型不确定性是一个重要问题，尤其是在协变量数量较多的情况下。贝叶斯模型平均提供了一种系统的方法来处理这一问题。
• g先验的作用：g先验在模型选择中起着关键作用，它影响了后验包含概率和预测性能。因此，对g赋予合理的超先验是必要的。
• 超先验的选择：作者比较了多种超先验，包括Zellner-Siow先验和贝塔收缩先验，并提出了一个基准贝塔先验，以提高模型选择的一致性。
• 收缩因子δ：收缩因子δ = g/(1 + g)被用于衡量模型中变量的收缩程度，其先验分布影响了后验模型概率。
• 一致性与信息悖论：某些先验结构（如Zellner-Siow和贝塔收缩先验）在大样本情况下可以保证模型选择的一致性，同时避免信息悖论（即样本信息对模型选择的影响）。

关键信息

模型结构

• 采用线性回归模型，假设协变量可以被任意选择。
• 模型空间为 $2^k$ 个可能模型，每个模型由不同的协变量组合构成。
• 回归系数在未被选中的模型中设为0，使用“尖峰- slab”方法进行正式排除。

先验结构

• g先验：在模型 $M_j$ 中，采用g先验对回归系数进行建模。
• 超先验：对g赋予超先验，以提高模型选择的稳健性。包括：
  • Zellner-Siow先验：基于学生t分布，对应于倒伽马分布。
  • 贝塔收缩先验：适用于收缩因子δ的贝塔分布，进而影响g的分布。
• 基准贝塔先验：基于Fernández等（2001a）推荐的g = max{n, k²}，并考虑收缩因子δ的先验分布。

先验性质

• 收缩因子δ：δ的先验分布为贝塔分布，影响模型中变量的收缩程度。
• 先验均值与方差：根据参数 $b$ 和 $c$，可以控制收缩因子的先验均值和方差。
• 模型一致性：某些先验结构（如Zellner-Siow和贝塔收缩先验）在大样本情况下可以保证模型选择的一致性。

计算与应用

• 计算方法：使用马尔可夫链蒙特卡洛（MCMC）采样器对模型空间和g进行采样。
• 数据应用：评估了不同先验在模拟数据和真实经济数据中的表现，包括：
  • 跨国增长回归：用于研究经济增长的影响因素。
  • 教育回报率估计：用于评估教育对收入的影响。
• 推荐：基于理论性质和实证表现，推荐使用基准贝塔先验以提高模型选择的一致性和稳健性。

结构与方法

模型构建

• 采用正态线性回归模型，协变量可以被任意选择。
• 模型空间为 $2^k$，每个模型由不同的协变量组成。
• 回归系数的先验为g先验，其中g为超参数。

先验比较

• Zellner-Siow先验：基于学生t分布，对应于倒伽马分布。
• 贝塔收缩先验：适用于收缩因子δ的贝塔分布，进而影响g的分布。
• 基准贝塔先验：基于Fernández等（2001a）推荐的g值，并考虑收缩因子δ的分布。

一致性与信息悖论

• 某些先验结构（如Zellner-Siow和贝塔收缩先验）可以保证模型选择的一致性。
• 避免信息悖论（即样本信息对模型选择的影响）是选择先验的重要目标。

数据应用

• 模拟数据：评估了不同先验在模型选择和预测性能上的表现。
• 真实数据：包括跨国增长数据和教育回报率数据，用于实证分析。

推荐

• 基于理论和实证表现，推荐使用基准贝塔先验以提高模型选择的稳健性和一致性。
• 在实际应用中，应考虑模型空间的先验结构，以提高模型选择的可靠性。

图表与结果

• 图1：展示了不同c值下的基准贝塔先验分布。
• 图2：比较了不同先验在收缩因子δ和g上的分布情况。
• 表1：总结了不同先验的定义、性质和一致性。

结论

• 本文提出了一个基准贝塔先验结构，以提高模型选择的一致性和稳健性。
• 通过比较不同先验在模拟和真实数据中的表现，提供了适用于实际应用的建议。
• 超先验的选择对模型选择和预测性能有重要影响，需要谨慎处理。