近期,由 Frank Hutter, Lars Kotthoff, Joaquin Vanschoren 撰写的《AutoML:方法,系统,挑战》『AUTOML: METHODS, SYSTEMS, CHALLENGES (NEW BOOK)』,221页的草稿版本已经放出,详细讲解了所有 AutoML 系统背后的基础知识,以及对当前 AutoML 系统进行了深入描述,Auto-WEKA、Hyperopt-Sklearn、Auto-sklearn 等,最后介绍了 AutoML 的挑战。作者当前正在完成这本新书的编辑工作,它将由 NIPS 2018 出版发行。
如果你用过机器学习算法,那一定体验被算法调参支配的恐怖。面对错综复杂的算法参数,算法使用者们往往要花费无尽的黑夜去不断尝试,犹如大海捞针。有的时候加班到深夜,终于找到了一个靠谱的参数组合,然而找到的参数组合真的是最优的么?
传统上,术语 AutoML 用于描述模型选择和/或超参数优化的自动化方法。这些方法适用于许多类型的算法,例如随机森林,梯度提升机器(Gradient boosting machines),神经网络等。 AutoML 领域包括开源 AutoML 库,研讨会,研究和比赛。初学者常常觉得他们在为模型测试不同的超参数时通常仅凭猜测,而将这部分过程的自动化可以使机器学习变得更加容易。即使是对经验丰富的机器学习从业者而言,这一自动化过程也可以加快他们的速度。