HyperparameterHunter快速入门:3步完成你的第一次超参数优化
【免费下载链接】hyperparameter_hunterEasy hyperparameter optimization and automatic result saving across machine learning algorithms and libraries项目地址: https://gitcode.com/gh_mirrors/hy/hyperparameter_hunter
HyperparameterHunter是一款强大的超参数优化工具,能够轻松实现跨机器学习算法和库的超参数优化与结果自动保存。无论你是机器学习新手还是经验丰富的开发者,都能通过它快速提升模型性能。
📌 核心功能简介
HyperparameterHunter的核心优势在于简化超参数优化流程,自动记录实验结果,并支持多种机器学习框架。它通过直观的API设计,让用户能够专注于模型构建而非繁琐的参数调优过程。
图1:HyperparameterHunter项目标志(1900x900像素)
🔧 第1步:安装HyperparameterHunter
首先,你需要安装HyperparameterHunter库。推荐使用pip进行快速安装:
pip install hyperparameter_hunter如果你需要获取最新开发版本,可以直接从GitHub仓库安装:
pip install git+https://github.com/HunterMcGushion/hyperparameter_hunter.git安装文档详情可查看 docs/installation.rst
🚀 第2步:配置实验环境
创建一个实验环境是使用HyperparameterHunter的基础。以下是一个简单的环境配置示例,使用乳腺癌数据集和XGBoost分类器:
from hyperparameter_hunter import Environment from hyperparameter_hunter.utils.learning_utils import get_breast_cancer_data from sklearn.model_selection import StratifiedKFold from xgboost import XGBClassifier env = Environment( train_dataset=get_breast_cancer_data(), # 加载示例数据集 results_path="HyperparameterHunterAssets", # 结果保存路径 target_column="diagnosis", # 目标列名称 metrics=["roc_auc_score"], # 评估指标 cv_type=StratifiedKFold, # 交叉验证类型 cv_params=dict(n_splits=10, shuffle=True, random_state=32), # 交叉验证参数 runs=2, # 运行次数 )🔍 第3步:启动超参数优化
配置好环境后,只需定义超参数搜索空间并启动优化器。以下示例使用贝叶斯优化方法搜索XGBoost的最佳参数:
from hyperparameter_hunter import BayesianOptPro, Real, Integer, Categorical optimizer = BayesianOptPro(iterations=10, read_experiments=True) optimizer.forge_experiment( model_initializer=XGBClassifier, model_init_params=dict( max_depth=Integer(2, 20), # 整数型超参数 learning_rate=Real(0.0001, 0.5), # 实数型超参数 n_estimators=200, subsample=0.5, booster=Categorical(["gbtree", "gblinear", "dart"]), # 类别型超参数 ), model_extra_params=dict(fit=dict(eval_metric=Categorical(["auc", "rmse", "mae"]))), ) optimizer.go() # 启动优化完整示例代码可参考 examples/simple_optimization_example.py
📊 优化结果与后续操作
优化完成后,结果会自动保存在results_path指定的目录中。你可以通过以下方式查看和分析结果:
- 查看实验记录:所有实验细节和结果都保存在JSON文件中
- 比较不同参数组合:系统会自动生成性能对比报告
- 复现最佳模型:使用最优参数直接重建模型
💡 进阶使用建议
- 多指标优化:支持同时优化多个评估指标,满足复杂场景需求
- 自定义回调:通过回调函数实现训练过程中的自定义操作
- 集成学习:结合多个模型的优化结果构建更强大的集成模型
更多高级用法可参考 examples/advanced_examples 目录下的示例代码。
HyperparameterHunter让超参数优化变得简单高效,无论你使用XGBoost、LightGBM还是Keras,都能轻松找到最佳参数组合。立即尝试,提升你的机器学习项目性能吧!
【免费下载链接】hyperparameter_hunterEasy hyperparameter optimization and automatic result saving across machine learning algorithms and libraries项目地址: https://gitcode.com/gh_mirrors/hy/hyperparameter_hunter
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考