超参数优化：自动终止

这篇由 Amazon Web Services、苏黎世联邦理工学院和其他科学家撰写的获奖 AutoML 会议论文提出了一种新方法来决定何时应终止贝叶斯优化…阅读更多。

贝叶斯优化 (BO) 方法广泛用于机器学习中的超参数优化。 BO 是一种迭代评估配置以确定最有希望的配置的方法，直到预算（例如挂钟时间或迭代次数）用尽。 最终性能在很大程度上取决于提供的预算，但很难事先指定最佳值。 我们在本文中为 BO 提出了一个简单有效的终止标准，当它足够接近全局最优时，它将自动停止程序。 我们的关键见解是程序的目标（使用测试数据的预测性能）与其可计算目标之间存在差异。 这表明一旦统计估计误差支配次优性就停止该过程。 我们表明，使用广泛的现实世界 HPO 基线和问题，我们的终止标准实现了测试性能和优化之间的最佳权衡。 我们还发现 HPO 可能会过度拟合，这是一个可以说被忽视的问题。 我们的终止标准减轻了小型和大型数据集的这种现象。

来源和详细信息：
https://www.amazon.science/publications/automatic-termination-for-hyperparameter-optimization