快手的推荐系统背后 英特尔做了什么 (快手的推荐系统)
大数据时代，个人信息越来越透明，以至于手机APP都能读懂你我的心思，甚至能将信息精准地送达到每一个移动端。APP开发者将其称之为“算法推荐”，商家将其称之为“个性化定制”。有人为推荐机制津津乐道，“原来手机比男朋友更懂我”，听到更多合口味的音乐，看更多爱好的视频；也有人感叹其恐怖，担心陷入算法布局好的陷阱，陷入信息茧房。
虽然我们开始警惕推荐机制可能带来的危害，但对于企业而言，推荐机制蕴藏着巨大的价值，推荐系统的加速不会停止。
根据王喆老师的论文《深度学习推荐系统》[1]中的例子，2019年天猫“双11”的成交额是2684亿元，天猫推荐系统实现了首页商品的个性化推荐，其目标是提高转化转化率和点击率。假设推荐系统进行了优化，整体的转化率提高1%，那么增加的成交额大约为26.84亿元。由此可见，相比于对信息茧房的担忧，互联网巨头当然是更关心这笔数目不小的收益增长，进一步加速各自的推荐系统，短视频玩家快手也不例外。
根据快手官网数据显示，2015年6月，快手的单日用户上传视频量突破260万；2016年4月总用户数突破3亿。截止目前为止，快手累计200亿条短视频库存，每天仍有超过1500万条视频新增、千亿条视频曝光，早已从一个Gif生成工具蜕变成为一个日活3亿、日播放量200亿的短视频社区。
当构建起庞大的数字世界后，快手需要面对的问题是，如何在承载高峰期每秒数十万并发调用量的同时，从上亿级别的短视频库中，通过千亿参数级别的深度模型向不同的用户对象推送合适的内容，即其推荐系统的加速问题。
为此，快手基于异构设备构建了计算与存储分离的推荐系统架构。 在该架构的内部，主要由两部分任务组成，一部分是包括推荐服务、预估服务、召回服务在内的计算敏感性服务，另一部分是包括用户画像、参数服务器以及分布式服务器索引的存储敏感性服务，这些模块需要实现大容量内存的数据存储及快速的数据访问。
提升训练速度的英特尔Cooper Lake
实际上，推荐系统加速的本质，一方面是人工智能应用的升级，机器需要对图片、视频等信息进行学习和分类；另一方面，则是对存储和访问的进一步需求。
今年6月，英特尔推出的第三代至强可扩展处理器Cooper Lake就是专为当今内置人工智能数据密集型服务而设计的处理器。 雷锋网了解到，英特尔第三代可扩展处理器进一步升级了DLBoost深度学习加速技术，同时，在深度学习加速架构下的VNNI神经网络指令支持bfloat16数据格式。与上一代平台Cascade Lake最顶级的CPU 8280相比，在图像分类处理上，Cooper Lake的计算性能提升1.93倍。
在对人工智能的支持上，区别于第二代至强可扩展处理器支持的Int8数据格式和传统的FP32数据格式，bfloat16数据格式是采用16位存取一个数据，包括1个符号位，8个指数和7个尾数位，同时保证了数据的范围和精度。
雷锋网了解到，虽然bfloat16的精度没有FP32的精度高，但是7位尾数对于大多数人工智能的推理计算模型而言，精度已足够使用。英特尔技术人员透露，相比于上一代基于FP32数据格式做训练，VNNI搭配bfloat16能使训练性能提高93%，推理性能提高90%。
Cooper Lake或将是快手加速推荐系统的好选择。
依托傲腾持久内存，加速存储与访问
更好地存储与访问，是快手在加速推荐系统过程中，需要面临的另一个问题。
在传统的存储架构中，大容量持久化存储主要在硬盘或者固态盘中，对于快手的推荐系统而言，尤其是参数服务器和分布式索引服务，从硬盘或固态盘中索引数据，工作量大，时延长。若将索引工作直接在内存中进行，就会降低访问延时，提高推荐系统的响应。
不过，在内存存储金字塔中，金字塔顶端的存储方案，性能高，存储低，单位容量成本高，金字塔低端则是容量大、性能低，成本低的存储方案，存在断层现象，比如常规的DDR4的内存和NAND的闪存，访问的延迟相差1000倍，典型的容量相差100倍，而单位容量的成本相差10倍。这一断层现象导致很多应用在选择方案时，难以找到比较平衡的设计。
基于这一难题，英特尔推出了傲腾持久内存，与上一代产品相比，其内存带宽提升25%，若搭配之后发布Ice Lake的平台，每处理器可带来4.5TB的总内存容量。同时，在做数据写入时，其访问延迟只有几百纳秒，而一个普通的NAND SSD的访问时间则在100微秒左右。
英特尔技术专家介绍，英特尔第三代至强可扩展平台与傲腾持久内存结合，可将服务器上每个节点的容量从原来的几百GB扩展至TB级别，例如一个4路、4个插槽的第三代至强可扩展处理器平台，每个插槽都搭配傲腾持久内存，支持的最大内存就可达到18T。
基于此，快手率先与英特尔展开合作，结合英特尔至强可扩展处理器平台和傲腾持久内存，快手推荐系统性能及TCO得到了优化和提升。 不仅大大降低了数据访问延迟时间，还缩短了系统故障恢复时长。
同时，傲腾持久内存与DRAM内存性能表现相似，前者相比于后者更具成本和容量优势。因此在同英特尔的合作中，快手推荐系统的总拥有成本（CTO）降低了30%。
除了在推荐系统方面同英特尔合作，改善存储与访问速度之外，快手也正在同英特尔探讨成立联合实验室，推动业务创新及升级数据中心。
作为推荐系统的受益者，快手或将在进一步加速生态系统的过程中再次尝到甜头。
[1] 王喆，《深度学习推荐系统》，电子工业出版社
颠覆性变革！青松智慧携手英特尔AI百佳创新激励计划引领网络安全AI时代
英特尔全面的软硬件实力，将在新基建浪潮中全面爆发
放弃英特尔，苹果将启用自研 ARM 芯片
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/ca7f5e67f9dfa5b30345.html
吾爱破解论坛致力于软件安全与病毒分析的前沿，丰富的技术版块交相辉映，由无数热衷于软件加密解密及反病毒爱好者共同维护
半导体材料分析丨高精度检测设备丨清洁度检测丨激光刻蚀丨失效分析丨电子显微镜丨共聚焦显微镜丨超景深丨清洁度检测丨激光刻蚀
东八区成立于2006年，业务覆盖：视频制作、宣传片拍摄、网站建设、网站制作、网站设计、包装设计、画册设计、商标设计、APP开发、微信开发、宣传片拍摄制作、广告片拍摄制作、记录片拍摄制作、视频拍摄制作、展厅设计制作、展台设计制作、活动策划等。
温州市协宏成套柜体有限公司是一家专业致力于高低压成套柜体研发、生产、销售于一体的骨干企业。公司生产的产品以维护方便、操作简单、结构合理为著称，主要产品有：GGD型低压配电柜柜体、GCK型低压抽出式开关柜柜体、GCS型低压抽出式开关柜体、MNS型低压抽出式开关柜柜体、KYN28A-12(GZS1)中置式金属铠装抽出式开关柜柜体等。
深圳汉利泽科技有限公司，是一家集研发、生产、销售为一体的工业控制计算机、嵌入式计算机、加固类计算机、机器人、智能设备的专业设备提供商。公司核心的研发团队与生产团队均有多年以上的相关行业背景。产品包括：1-4U工业控制计算机、平板工业液晶显示器、便携机、无风扇工控机、液晶工作站、标准上架式KVM、机器人控制平台、嵌入式板卡、工控用内存SSD等。产品广泛用于工业控制、军工、通讯、电力、医疗、物联网、网络安全、智能交通、金融、机器人、智能设备等众多领域。公司配套精密机械加工设备及优良的组装生产线，强大的采购能力，能更好服务小批量多品种的市场需求。
国产振动加速度传感器；进口声学相机；进口声级计；声校准器； 一种新型的声源定位设备，具备体积小，成本低，效果良好的特点。 SevenBel声场成像仪；NEWCORDER自主开发振动传感器
udows云系统2.0版
上海资深离婚律师创办离婚法律咨询中心，专注离婚诉讼案件，擅长追查对方隐匿银行存款和房产，精通外遇证据调查，高胜诉率！免费咨询：137-641-64000，维护您所有的合法权益！
赏帮赚是由重庆优玖互邦科技有限公司推出的一款提供互帮、互助的悬赏平台。在赏帮赚，用户可以是帮忙者，助人为乐的同时，拿到悬赏主的奖励；有帮助需求，也可以发布悬赏，平台的用户也会参与进来，快速完成需求。
诸城瑞宝食品机械有限公司是一家从事冻肉绞肉机、冻盘破碎机、塑料筐清洗机的企业，提供肉制品生产设备相关服务和产品，欢迎来电咨询。
安易通库网盘(www.aetk.com)外语学习资料库，教材/听力网盘分享网
思知行专注于IT人才培养、职业技能认证、企业培训等教育业务。并且长期致力于IT应用型人才培养，是我省业界唯一的大型行业龙头面向学生市场提供技术认证培训的公司。 思知行对于行业企业用人、行业技术革新有着最深的理解，并与高校达成紧密的校企合作关系，搭建了“产、学、研、培、赛”合作育人平台。思知行信息技术有限公司
过去很多有资质的经销商对加入零跑体系持观望态度，但今年以来希望进入零跑体系的优质商变多了，一零跑经销商告诉，零跑的渠道在加速整合，经销商的规模及店铺规模质量都有了明显的提升，是零跑今年最大的变化，他向解释，，过去大家不看好零跑，但现在零跑的销量每月递增，大家追涨不追跌，争相进入零跑体系内的经销商也变多了起来，零跑渠道建...。
临近年底，各大公司纷纷发放员工福利，对过去一年做出贡献的员工进行嘉奖，同时对阶段性的老员工也进行表彰，刚刚，小米公关总监刘飞在微博上晒出了小米五年老员工的福利，黄金米兔，这一块米兔造型的纪念奖杯，通体金色，简直闪瞎眼，不过我们猜测，这款黄金米兔应该是镀金作品，纪念意义大于实际价值，如果要是纯金的，小米就太土豪了...不少网友纷纷在微博...。
Arm今天发布了其下一代芯片架构Armv9，它的前身Armv8于10年前推出，此前尽管已经看到了Armv8有相当多的更改和更新，但新架构为该平台带来了更多重要更新，从而保证了版本号的变化，毫不奇怪，Armv9建立在V8上并向后兼容，但是它专门引入了新的安全性，AI，信号处理和性能功能，在过去的五年中，全球已经出货了超过1000亿个基于...。
求学时，你多少都会遇到一类同学，他们从不昼诵夜记、从不刺股悬梁，可旦逢大考，他们总能用超神分数教你做人，职场上，也有这样一类公司，他们看似漫不经心、不矜不伐，但总能在不经意间化身黑马，打破沉静，给你当头一棒，印象中的云天励飞，算是这类公司的典型代表，云天励飞留给外界更多印记是，不吵不闹、足够安静，同时，这家公司也有一项超能力，虽说围绕...。
地狱空荡荡，恶魔在人间，一起发生在宁波工程学院的悲剧，让人深感愤怒与悲哀，一名黑人外教残忍杀害了一名23岁的女大学生，这起案件的揭露，让公众震惊不已，警方的，警情通报，揭示了凶手Shadeed的罪行，他因为感情纠纷而行凶，用异常残忍的手法杀害了受害者，受害者面部被砍了数十刀，身份确认困难，最终通过DNA鉴定才辨认出来，这起案件的细节和...。
11月30日，在2022腾讯全球数字生态大会智慧建筑与不动产专场上，腾讯云重磅推出三大智慧建筑与不动产行业解决方案，聚焦建筑建造、地产物业、城市与片区更新等三大地产子行业，为其提供数字化转型助力，同时，腾讯云还面向行业合作伙伴发布了，十亿计划，，与伙伴共建开放繁荣的建筑与不动产行业生态圈，腾讯云副总裁、智慧建筑与不动产行业负责人顾伟在...。
答案，3位，的意思是指某个数量或者级别达到三个单位或三个阶段，详细解释，一、基本含义，3位，中的，3，代表数字三，，位，在这里可以解释为单位或级别，在日常生活中，我们常使用这个词汇来描述数量或者程度，比如，我们常说，请给我三位数的电话号码，，这里的，三位，就是指电话号码中有三个数字，二、在不同场景的应用1.在数学或计数场合，，3位，...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
飞驰BJ7205HXL是一款属于飞驰梅赛德斯E级的汽车，飞驰梅赛德斯E级作为飞驰旗下的一款中大型双门轿跑车型，其外观设计倾向年轻、时兴化理念，具备很高的辨识度，在翻新方面，飞驰E级车在承袭上一代优异传统的同时，通过多项技术的翻新再次建立了在安保性、温馨性、动力性及操作性方面的新规范，在安保方面，飞驰E级车性能有预防性安保系统，能够在意...。
淘气天尊：持股过节等待节后冲高再清仓！_淘气天尊_新浪博客,淘气天尊,
中望CAD建筑版2023破解版是一款功能强大的CAD绘图设计软件，为用户提供了强大的二维工程图、三维表现、建筑信息等功能
ElevenClock是一个小型实用的Win11时钟增强工具，旨在添加该功能，以便在辅助监视器上显示时钟。据开发人员称，该工具支持所有时间格式，旨在显示除主时钟显示之外的所有时钟显示
除了有很多年龄小的孩子比较喜欢看动漫这种类型的影视作品，其实还有很多的人是从小看动漫长大的，所以随着年龄的增长，依旧很喜欢看，那么看动漫哪个app全部免费呢，今天小编就给大家详细的介绍几款，既可以让用户了解有哪些精彩的动漫内容，还没有任何的收费问题，一起来了解一下，喜欢看动漫的人可下载这款软件，里边汇集了精彩的动漫内容，也会对动漫迷们...。
唯物按，本周最热闹的莫过于CES，各大品牌皆在展会上发布了重量级产品，雷锋网前线编辑为大家带来了精彩报道，此外，唯物本周还在FastCompany上看到了一篇有趣的文章，讲述了一个美国用户眼中的微信红包，及其背后的移动支付竞赛，创业6年，小米用白色MIX叩响了美国大门严谨地讲，这是小米第一次正式在国际舞台亮相，为这一天，他们多等了一年...。
广西新闻网南宁12月4日讯，记者冯耀华通讯员林东婷，12月4日，是第11个，国家宪法日，，为大力加强宪法宣传教育，弘扬宪法精神，自治区高级人民法院开展宪法宣传周公众开放日活动，部分全国人大代表、自治区人大代表和自治区政协委员，广西警察学院、广西艺术学校学生代表共115人受邀参加活动，视频摄制，冯耀华，欢迎大家的到来，现在大家所处的位置...。
11月8日2时起，信州区铁三社区金凤花园划定为中风险地区，实行封闭管理措施，据江西媒体报道，信州区西市街道党工委副书记吴淑芬早前称，对被划为中风险地区的小区以及封控区，严格实行，区域封闭、足不出户、服务上门，原则，医务人员每天要上门进行一个核酸检测，包括每天两次消杀，11月12日晚间一则反映江西省上饶市信州区金凤花园，隔离宠物狗疑似被...。
转自，台海网据俄新社11月10日报道，俄罗斯国度杜马，议会下院，国内事务委员会成员德米特里·别利克说，美国入选总统特朗普的顾问拒绝允许克里米亚回归乌克兰之举是正当的，此前，特朗普的初级顾问、共和党策略家布赖恩·兰扎示意，特朗普政府指导下的美国不会允许基辅，收回克里米亚，的欲望，由于这是不事实的立场，对乌克兰来说，该半岛曾经失去了，他以...。
