模型调参-网格搜索

模型调参-网格搜索

调参中的参数是指模型本身的超参数，而不是求解目标函数可以得到的参数解析解。常用的方法是网格搜索，所谓的网格搜索可以理解成穷举法。而现实中，我们往往不能穷举所有的参数的组合。因此需要对部分参数，在一定范围内调参。具体的调参逻辑依赖于参数在不同算法中的数学含义。本文简单介绍网格搜索的逻辑，实际的应用需要结合算法和业务场景。

1.网格搜索

网格搜索是传统并且常用的超参数优化方法，一般使用交叉验证，选取指定的衡量指标(例如auc)进行参数选择。由于超参数空间可能很大且是连续型变量，因此常常在某个范围内，离散化超参数。   举个例子，在SVM中，RBF核函数至少需要调整两个参数:

2. 总结

网格搜索在实际应用中需要对算法的理论比较理解，参数较多时，可能有几个参数是互相影响的，这个时候需要共同调参。具体到某个算法的调参在看细节。   至于应用，sklearn中有​​​GridSearchCV​​可以使用。

3.Ref

​​[1] 维基百科​​                       2018-07-16 于南京市建邺区新城科技园

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。