KDD2021 实验室AutoML团队开源高效的通用黑盒优化系统OpenBox DAIR 北大 (KDD2025)
北京大学崔斌教授数据与智能实验室（> 相比于SMAC3，Hyperopt等现有开源系统， OpenBox支持更通用的黑盒优化场景，包括多目标优化，带约束优化场景等。在25个LightGBM调参任务上，OpenBox在7个对比系统中取得了平均1.25名(average rank)的优异成绩。
近年来，人工智能与机器学习备受关注，越来越多企业使用机器学习模型解决实际问题，如人脸识别、商品推荐等。在应用机器学习模型的过程中，模型超参数的选择对模型性能有着至关重要的影响，因此超参数优化问题成为了机器学习的重要挑战之一。超参数优化作为典型的黑盒优化问题，对于优化目标不存在具体表达式或梯度信息，且验证代价较大。其目标是在有限的验证次数内，尽快找到全局最优点。除超参数优化外，黑盒优化还拥有着广泛的使用场景，如自动化A/B测试、数据库参数调优、处理器架构和芯片设计等。
现有开源的黑盒优化系统往往存在以下问题：
由于系统基于某个特定算法，一些系统只能支持单目标或是无约束的优化问题；
基于优化问题中 “no Free lunch”定理，现有系统中特定的算法无法在所有任务中表现出色；
现有系统无法有效利用历史任务的结果以及分布式的验证资源。
针对这些问题，北京大学DAIR实验室AutoML项目组开发了一个名为 的轻量级黑盒优化系统，针对通用的黑盒优化场景，内置丰富的优化算法，并提供高效的并行支持，帮助用户“open the box”，解决棘手的黑盒优化问题。
为了解决现有系统上述的问题，OpenBox在设计上支持以下系统特性，包括：
作者将现有系统对上述特点的支持情况总结如上(其中△表示不支持通 用场景)。从表格中不难看出，现有开源黑盒优化系统无法支持特定的使用场景，而 OpenBox 能够提供完整的支持。
上图展示了 OpenBox 的并行架构，包含五个主要组件。服务主机(ServiceMaster)负责节点管理、负载均衡和错误恢复。任务数据库(Task> OpenBox内置大量优化组件，其中优化算法包括贝叶斯优化，遗传算法等，如下图所示：
为简化用户的使用门槛以及提高系统在各问题上的性能，OpenBox 默认采用一种自动选择优化算法的策略，根据输入参数类型，目标个数，约束个数选择合适的优化算法。用户也可基于自身需求，在系统推荐的基础上自行选择优化策略。更多OpenBox的特性请参考开源文档:
目前OpenBox已在快手、阿里巴巴集团等企业落地部署与使用。
为体现OpenBox在通用黑盒优化问题上的性能，系统针对单/多目标，无/有约束，共4种场景对比OpenBox与现有算法与系统在优化数学函数上的效果，实验效果如下四图所示。可以看出 在不同的优化场景中，OpenBox相较现有系统都有较为显著的收敛效果提升。
针对实际场景，Openbox以表格分类的机器学习任务为例，与现有开源系统BoTorch，GPGlowOpt，Spearmint，HyperMapper，SMAC3，Hyperopt进行对比。为保证公平性，Openbox使用串行方式执行任务，并汇报调参结果在测试集上的准确率。以下展示使用LightGBM与LibSVM两个模型在25个OpenML公开数据集上的调参结果平均排名。值得注意的是，由于LibSVM的搜索空间复杂且包含条件选择，OpenBox仅与支持复杂空间定义的SMAC3以及Hyperopt进行对比。
可以观察到OpenBox在两个模型调参中均获得了优异的性能。具体来说，OpenBox在Lightgbm调参中排名中位数为1.25，在LibSBM调参中为1.50，体现了OpenBox相比其它开源系统在超参数优化任务中的优势。
OpenBox 支持高效的并行优化算法，使得在达到相同的优化效果的前提下，所需要的时间代价大幅降低。下图展示了使用 OpenBox 中并行优化算法在 LightGBM 调参任务上的提升，使用的数据集为公开数据集 optdigits 。其中“Sync”表示同步并行，“Async” 表示异步并行，“-n” 表示并发度。
可以观察到，相比串行优化（Seq-1），并行能够带来很大程度上提升搜索效率。其中最显著的提升来自于并发度为8的异步优化算法，在达到与串行方法相同的优化结果时 仅使用1/80的时间预算，也即实现7.5×的加速比。
更多关于OpenBox的实验结果，请参考OpenBox论文：
目前OpenBox支持主流平台（Linux、macOS、Window）使用。用户只需在代码中定义空间，给出目标函数，构造优化器即可运行。以下以一个简单的多目标带约束问题为例：
首先，我们需要import必要的组件：
接下来，我们定义一个包含两个连续变量的搜索空间：
随后，我们给出一个简单的以上述两个变量为输入的目标函数。这个目标函数包含两个目标以及两个约束：
最后我们定义一个优化器，传入指定的参数后，只需调用run()即可开始优化。
除了上述包调用的方法，OpenBox还支持用户通过接口访问服务，从服务端获取推荐的参数配置，在本地执行参数性能验证，并通过访问网站页面，可视化监视与管理优化过程。
完整的示例以及更多的使用场景，欢迎参考OpenBox官方文档：
特约稿件，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/82d9b0f72fc07cc4a1e6.html
通义是一个通情、达义的国产AI模型，可以帮你解答问题、文档阅读、联网搜索并写作总结，最多支持1000万字的文档速读。通义tongyi.ai_你的全能AI助手
大智慧-中国深具影响力的证券投资服务品牌。大智慧官方网站旗下软件大智慧365、财富版、专业版、港股通、期货投资终端、大数据终端、策略投资终端和大智慧电脑版/手机版股票软件为亿万金融投资者提供高速的证券、基金、港股、期货、股票行情及金融数据分析。
4399坦克小游戏大全收录了国内外坦克类小游戏、坦克大战小游戏、双人坦克小游戏、经典90坦克大战小游戏、坦克小游戏下载。好玩就拉朋友们一起来玩吧！
河南先锋科技发展有限公司
北京全关注记录北京本地城市生活，提供北京地区交通、旅游、房地产、美食、教育、医疗、便民服务等生活服务实用信息。
郁清叔叔专业提供情感培训,情感导师解决约会学,恋爱技巧等技能培训
赛鸽资讯网是汇集全球信鸽赛鸽资讯,赛鸽公棚,信鸽协会,赛鸽俱乐部,信鸽视频,信鸽交易,铭鸽展示,鸽舍,鸽业,免费建站为一体的专业信鸽网站,为鸽友提供及时,全面,丰富的赛鸽资讯。
华夏致富网为创业加油，为梦想导航！广罗各行业创业资讯、创业故事、如何创业、创业加盟、加盟费、创业政策、防骗知识等信息，让创业者更快捷地了解最新动态，更多精彩创业内容尽在华夏致富网！
“i许昌”APP是许昌市政府便民服务移动端统一平台，旨在为许昌市居民、企业提供全天候、一站式政务民生服务。
广州粤华物业有限公司，成立于1994年，全国一级资质物业管理企业，中国物业服务综合实力百强企业。坚持“客户需求为导向，实现持续改进”服务理念，凭借着对行业细分领域的深耕积累和创新进取，形成了以公建物业为核心，涵盖居住物业、商业物业、工业物业和办公物业等多业态服务领域布局，涉及金融、能源、通讯、制造、科技、物流等行业，以及教育、民生、公共服务等政府、企事业单位。
遨游公司提供：免费做网站，免费seo网站推广，400电话办理预存话费即可！公司从营销角度立意而进行一个建设网站的全程完整过程,其中包括了前期网站定位、内容差异化、页面沟通等战略性调研等。业务含南京,成都,哈尔滨,武汉,长沙,贵阳,昆明,南宁,杭州,南昌,广州,雄安,深圳。
武汉盛世互联专注技术开发板块，网络营销解决方案让您的网站脱颖而出，量身定制属于您的完美网络营销体验。服务咨询:189-9551-9993；网站设计、小程序开发、平台系统开发
导读，IDC，中国无线耳机设备市场季度跟踪报告，2020年第四季度，显示，2020年中国无线耳机市场出货量为9，610万台，同比增长23.5%，其中真无线耳机占比66%，同比增长44.1%，中国蓝牙耳机市场发展主要特点，1.手机厂商优势将进一步凸显IDC，中国无线耳机设备市场季度跟踪报告，2020年第四季度，显示，2020年中国蓝牙耳...。
共享经济虽然大行其道，但是这个概念已经有被玩的意思了，比如下面这个博人眼球的共享充气娃娃，为了让自己的共享项目名称上好听一些，他趣把自家的共享充气娃娃冠以，共享女友，的称号，并在9月14日正式推出，需要用户支付8000元押金，一天的使用租金为298元，三天为698元，一周则为1298元，让人更无语的是，项目上线当天，他趣居然在北京三里...。
大家可以根据平台，去查询取消标记入口，或者有什么不同可以添加客服咨询，或者公众号搜索，号码标记取消，第一个就是，1.腾讯手机管家号码公众平台，能去除腾讯旗下各种手机APP的号码标记，需要输入手机号、收到的验证码和申诉理由，实测申请后数分钟内删除成功并短信提示，2.百度号码认证平台，能去除百度旗下各种手机APP的号码标记，需要输入手机号...。
感触还是挺多的，可以说比整个学生生涯还要多，以20点来纪念下，第1点，是很无情的遭到了社会的毒打，不管是啥工作，工资就是三四千左右，再高的也没有，怀疑人生，然后就不工作了，估计很多人也会遭遇到，如果家是在小县城的话，第2点，想努力要趁早，最好高中毕业，大学就开始了，这是最合适的，永远别觉得时候未到，第3点，努力不一定是去打工做兼职，你...。
雷锋网消息，10月31日，爱奇艺，NASDAQ，IQ，公布了截至2018年9月30日的第三季度未经审计的财务报告，财报显示，爱奇艺2018年第三季度总收入为69亿元人民币，约合10亿美元，，同比增长48%，同期，内容分发业务和体现生态业务货币化能力的其他收入同比分别增长220%和157%，截至2018年9月底，爱奇艺会员数量达8070...。
面对版式不固定、特殊字符定制化OCR，不灵了，在银行这片票据，集散地，上，OCR并非新鲜事物，早在2017、2018年，随着银行各业务线数字化转型提速，涉及凭证票证类别的需求不断增加，各大银行就将大量定制化OCR模型引入业务系统，这让原本全凭，手工劳作，的票据录入，搭乘上效率，直升机，，冲破了票据处理的效率屏障，国有大行探索OCR的时...。
发表在大眼橙投影仪2023，9，1309，27大眼橙X20S是X20的升级版本，在外观方面几乎没有变化，那么性能方面有变化吗，下面就来详细了解一下，看看大眼橙X20S投影仪怎么样，各方面分析有什么优缺点，是否值得用户入手，大眼橙X20S投影仪怎么样，1.光学参数在亮度方面，大眼橙X20S的实际亮度达到2400ANSI流明，提供出色的亮...。
有，熊出没之狂野大陆，、，暖和的抱抱，、，拆弹专家2，、，人潮汹涌，、，我的姐姐，、，刺杀小说家，、，哥斯拉大战金刚，、，送你一朵小红花，、，唐人街探案3，、，你好，李焕英，送你一朵小红花，讲述了罹患癌症的男孩韦一航与女孩马小远两个家庭的抗癌故事，思索和直面了每一个普通人都会面临的人生命题电视剧介绍，对不起，我爱你，爱在哈佛，...。
livemoremoneyless活得多钱少IspendfarlessonthingsthatIwanttospenditonandIhavetokindofmanagemymoneyalotmoresoIcanaffordtoliveratherthanjustbuyniceclothesandstuff.很多想要花的钱如今必定省着...。
外地期间7月2日，美国国务卿布林肯与阿联酋外交部长谢赫·阿卜杜拉·本·扎耶德·阿勒纳哈扬通话，双方探讨了在加沙地带成功开战、监禁被扣押人员、参与人道主义声援及改善加沙的人道主义准入等疑问，双方还探讨了缓解黎以间弛缓形势，以及完结苏丹抵触等议题，总台记者张颖哲，约旦和以色列两国签署和平宣言众所周知，约旦和以色列两国的矛盾由来已久，因此...。
为什么现在全网那么多大佬都在讲打造个人打造到底有什么魔力能让这么多人去追捧它也可能你听了这么久的到至今都不知道具体是啥普通人跨越阶级最好的投资选择来七叔给你贴个度娘上的回答当你不断被个人打造相关内容脑时甚至会觉得当下以及未来确实它还挺重要的时候终于下决心也要打造自己的个人好家伙结果能看上眼的个人打造课程都贵的离谱不由让...
鲸鱼浏览器(WhaleBrowser)是LG与韩国搜索引擎服务商Naver共同开发的一款双屏浏览器，可以让使用者充分利用双屏提升效率，支持在不同屏幕上浏览不同的网页内容
我是西部的一个农村的孩子，很不容易才考上这个大学的，所以，我深深的知道教育对于农村或者西部边远区域的孩子意外味着什么，大学期间也陆续的做过一些创业项目，但是都只是小打小闹，没有像后来一样，做一个在线教育网站这么大的一个概念，大学一毕业，我没有急着去找工作，而是决定自己创业，所以我就有了一个做在线教育网站的想法，当时是2008年，市场上...。
ChatGPT引发了一场大模型淘金热，一开始大家扎堆训练大模型，发现入局没有那么简单，发展到第二阶段，就开始出现了寄生于ChatGPT的众多APP和应用，无论是发力于向量数据库缓存，还是支持模型微调以后，套壳包装摇身一变成为新的APP的众多创业公司，都是这个思路，只不过这些公司有的是真正找准了切入点的神级企业，有的是在压路机前捡硬币的...。
这几张看起来，觉得怪怪的，要什么没什么的觉得，其实不算丑，然而什么都不够突出，扮演媒体或许没有经过肢体和表情展现进去，或许说太个别了，很多人的好友圈的既视感...。
外地时期7月12日，一架未载有乘客的苏霍伊超级100型客机在俄罗斯莫斯科州坠毁，机上3名机组成员所有死亡，▲苏霍伊超级100型客机资料图片有目击者称，飞机坠落前，为了到达着陆高度，盘绕航行三圈后坠入森林，并出现爆炸，报道称，飞机曾收回求救信号，并试图着陆，但最终坠毁，据悉，这架飞机属俄罗斯自然气工业股份公司，2014年出厂，该飞机在卢...。
断网也能玩的单机游戏有，神庙逃亡2，、，地铁跑酷，、，熊出没2，、，成语接龙，、，天天爱消弭，1、，神庙逃亡2，一款经典的跑酷游戏，，神庙逃亡2，是更新版，全新的角色，全新的场景，夏季场景，白雪皑皑，让冒险再赠难度，2、，地铁跑酷，一款从小玩到大的经典跑酷游戏，为了规避警察的追捕，在不同的轨道下面奔跑，有多种道具带给你别样的体...。
