Kaggle 面向 解决特征工程与验证两大难题 nyaggle 附代码 和离线比赛实用工具库 (kaggle官网)

在大多数机器学习竞赛中,特诊工程的质量通常决定着整个作品的得分与排名,也是参赛者们非常看重的一部分。在 GitHub 上,作者 Nomi(专注于计算机视觉与嵌入式技术,也是 tiny-dnn 的原作者)向我们介绍了一个面向 kaggle 数据科学和离线竞赛的实用工具库 nyaggle,可供开发者专用于特征工程与验证。

面向 Kaggle 和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)

在机器学习和模式识别中,特征工程的好坏将会影响整个模型的预测性能。其中特征是在观测现象中的一种独立、可测量的属性。选择信息量大、有差别性、独立的特征是模式识别、分类和回归问题的关键一步,可以帮助开发者最大限度地从原始数据中提取特征以供算法和模型使用。

面向 Kaggle 和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)

而 nyaggle 就是一个特定于 Kaggle 和离线比赛的实用工具库,它主要作用于四个部分,即:特征工程、模型验证、模型实验以及模型融合,尤其在特征工程和模型验证方面有较强的性能。

其中,在特征工程方面,nyaggle 包含了 K 个特征目标编码和 BERT 句子向量化。目标编码使用的是目标变量的均值编码类别变量,为训练集中的每个分组计算目标变量的统计量,之后会合并验证集、测试集以捕捉分组和目标之间的关系。BERT 句子向量化则是对 Bert 模型的输入做一个向量化,提取词句的三维信息。

面向 Kaggle 和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)

API 详情说明: nyaggle.experiment 类,实现模型实验的各个功能

在典型的表格数据竞赛中,开发者可能会通过交叉验证重复进行评估,并记录参数和结果以跟踪实验。

其中,run_experiment()正是用于此类交叉验证实验的高级 API,它在指定目录下输出参数、指标、异常预测、测试预测、功能重要性和 Submitting.csv。

它可以与 mlflow 跟踪结合使用,如果使用 LightGBM 作为模型,则代码将非常简单如下所示:

值得注意的是,默认的验证策略是包含了 5 个特征的计算机视觉,开发者可以通过传递 cv 参数来更改此行为(可参阅 API 参考,)。

之后,run_experiment API 执行交叉验证后,会将工件存储到日志目录。输出文件存储如下:

而如果要使用 XGBoost、CatBoost 或其他 sklearn 估计器,则需要在代码开头指定算法类型,其中的参数将传递给 sklearn API 的构造函数(例如 LGBMClassifier)。

如果想让 GUI 仪表板管理实验,开发者则可以通过只设置 with_mlfow = True 来将 run_experiment 与 mlflow 一起使用(需要预先安装 mlflow)。然后在与执行脚本相同的目录中,运行即可。

然后在与执行脚本相同的目录中,运行即可,相关结果(带有 CV 得分和参数的实验列表)可在 http:// localhost:5000 页面上查看。

面向 Kaggle 和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)

注意:如果要自定义日志记录的行为,可以在 mlflow run 上下文中调用 run_experiment;如果正在运行,则 run_experiment 将使用当前正在运行的运行,而不是创建新的运行。

nyaggle.feature 类——以特征格式管理运行系列功能

nyaggle.validation 类——对抗性验证,其中的验证拆分器与 sklearn 兼容

nyaggle.hyper_parameters 类——从以往的解决方案中选取 Hypara 相关参数

面向 Kaggle 和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)

雷锋网 AI 开发者

原创文章,未经授权禁止转载。详情见 转载须知 。

面向 Kaggle 和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)


本文地址: https://www.gpxz.com/article/fa767c157032572d4e34.html
全局中部横幅
全局中部横幅
深圳市超光速国际物流有限公司

超光速国际物流(CGSEXPRESS)致力于头程快运,铁路整柜,空运快递、卡航、清关、信息处理于一体的现代化物流企业

济源大济网

济源大济网是一家主要由在京济源人组成的商业联盟,集结了超过2000名在京济源老乡,提供各行各业先进经验,降低信任成本团结互助形成有效的商业联盟,并带动济源本土的经济发展。把济源的好东西带到外面,把外面的好东西带回济源。

PHP探针

UPUPWAPACHE专用版PHP探针可检测ionCube,OPcache,memcache,XCache,和SendMail等PHP组件.

顺网游戏

顺网游戏平台是汇集了网络游戏、网页游戏、休闲游戏、单机游戏、电竞游戏于一体的网吧娱乐互动平台,为千万网吧用户提供贴心便捷的娱乐服务,边玩游戏边赚钱,简单快乐从顺网游戏开始!

银杏美术

银杏美术不仅提供专业的漫画学习模式,还提供京都精华大学和东京工艺大学的漫画科本科以及硕士研究生考试备考辅导和顾问服务。无论是想学日漫还是CG国漫都能在我们的漫画培训班中找到适合自己的学漫画方式。

重庆企业培训系统

重庆企业培训系统,作为重庆SaaS学习平台机构,为企业精心打造学习、培训、考试体系。丰富课程满足多元需求,先进培训方法让员工高效吸收知识。考试体系严格检验效果,助力企业调整策略。在这里,开启知识之门,打造学习型企业

微顶跑腿的抖音

微顶跑腿的抖音,微顶跑腿,抖音

深圳五金冲压件厂家,不锈钢冲压件金属深拉伸加工,精密五金冲压厂,金爵五金

金爵五金塑胶(深圳)有限公司主要提供五金冲压件,汽车冲压件,拉伸件,五金拉伸件,塑胶外壳,塑胶五金,端子连接线,铝合金压铸件等集开发,设计,制造销售五金模具和精密五金冲压件的厂商,咨询热线:刘小姐13823541383

神州学人网

国内首家中文网络媒体、79家中央新闻网站之一。内容涵盖国家公派留学、自费出国留学、国际教育、教育科技人才政策、留学人才需求招聘信息、留学教育专题信息。与海归发展、高层次人才、为国服务、外交外事、创新创业、人文交流等联系密切。


全局底部横幅