VLM 模型 生图超级外挂!贾佳亚团队提出 Mini (m-v模型)

文章编号:40271 资讯动态 2024-12-03 图像推理 大模型 模型训练

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

更高清图像的精确理解、更高质量的训练数据、更强的图像解析推理能力,还能结合图像推理和生成,香港中文大学终身教授贾佳亚团队提出的这款多模态模型Mini-Gemini堪称绝绝子,相当于开源社区的GPT4+DALLE3的王炸组合!

Mini-Gemini还提供了2B小杯到34B的超大杯,最强模型在多个指标上相比Google Gemini Pro甚至GPT-4V都不遑多让。目前,Mini-Gemini从代码、模型、到数据已全部开源,登上了PaperWithCode热榜。

Mini-Gemini线上Demo也已发布,超会玩梗,一起来体验下!

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

Mini-Gemini Demo放出后受到广大网友关注,一番“品尝”后,他们认为Mini-Gemini跟商业模型差不了多少!

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

目前,绝大多数多模态模型仅支持低分辨率图像输入和文字输出,而在实际场景中,许多任务都需要对高清图像进行解析,并用图像的形式进行展现。

如上图所示,Mini-Gemini不仅能够根据图片对做面包的过程进行手把手教学,也能够准确将不同电脑品种根据图片中的各种参数进行对比。网友表示:妈妈再也不用担心我的生活了。

更重要的是,Mini-Gemini在保留超强的图像理解和推理能力的同时,还解锁了图像的生成能力,就如同ChatGPT和生成模型的结合。

下面,让我们通过几个例子来更直观地感受这种能力:

还记得Google Gemini的官方展示视频么?当用户给出两个毛线团并问出能用它们做什么时,Gemini可以识别出图片内容并给出相应的建议。

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

当我们把相似的输入给到Mini-Gemini,它会怎么回答呢?

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

可以发现,Mini-Gemini也可以识别出图片中的元素,并且合理地建议,同时生成了一只对应的毛线小熊。

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

通过一些抽象的多模态指令来让模型给出推理,并生成合适的图片,这个操作就很像是ChatGPT和DALLE3的联动了!

接下来让Mini-Gemini做自己最擅长的推理和图片理解,看看它表现:比如理解图片中的矛盾点并举一反三——输入冰川中的仙人掌,它会解释其中的矛盾并生成一张热带雨林中北极熊的图片:

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

图片呈现了仙人掌的典型栖息地与冰的存在之间的视觉矛盾,因为在沙漠环境中自然不会出现冰。这种矛盾的类似例子可能是一只北极熊出现在热带雨林中,因为北极熊适应于寒冷、覆盖着冰的环境,在炎热潮湿的气候中无法生存。这种并置创造了一个引人注目且超现实的视觉效果,挑战观众的期待,并可能引发人们对气候变化、环境适应或不同生态系统融合的思考。

同时,正如ChatGPT+DALLE3的梦幻结合一样,Mini-Gemini的“推理生成”功能还可以在多轮对话中通过简单指令生成连环小故事。

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

比方说,让它根据用户输入讲一个贵族小老鼠的故事。Mini-Gemini会根据前文的文字生成结果和用户输入进行推理,在保持一致性的情况下对图片进行修改,使其更符合用户的要求。

当然,Mini-Gemini对于多模态模型的传统技能图片理解也不在话下。比方让模型理解输入曲线图的数学意义(高斯分布),并让它使用代码复现这张图,通过运行生成的代码,模型可以高质量地还原曲线图,节省了复现的时间。

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合 生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

又或者让Mini-Gemini理解梗图,通过其强大的OCR和推理能力,也可以准确指出笑点。

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合 生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合 生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

高清复杂的多图表理解和归纳也是小菜一碟,Mini-Gemini直接秒变打工人效率提升的超级外挂。

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合 生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

问题来了,Mini-Gemini是怎样做到这种惊艳的效果呢?核心在于三点,(1) 用于高清图像的双编码器机制,(2) 更高质量的数据, (3) 训练阶段结合生成模型数据拓展。

大道至简,Mini-Gemini的整体思路并不复杂。其中的Gemini(双子座)表达的是使用视觉双分支的信息挖掘(Mining-Info inGemini)解决高清图像理解问题。

详细来说,Mini-Gemini将传统所使用的vit当做低分辨率的Query,而使用卷积网络(ConvNet) 将高分辨率的图像编码成Key和Value。使用Transformer中常用的Attention机制,来挖掘每个低分辨率Query所对应的高分辨率区域。从而在保持最终视觉Token数目不变的情况下去提升对高清图像的响应,保证了在大语言模型 (LLM) 中对于高清图像的高效编码。值得一提的是,由于高分辨率分支卷积网络的使用,可以根据需要对图像所需的分辨率自适应调整,能够遇强则强。对于图像的生成部分,Mini-Gemini借助了SDXL,使用LLM推理后所生成的文本链接两个模型,类似于DALLE3的流程。

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

而对于数据这个万金油,Mini-Gemini进一步收集并优化了训练数据的质量,并加入了跟生成模型结合的文本数据进行训练。在仅使用2-3M数据的情况下,实现了对图像理解、推理、和生成的统一流程。

Mini-Gemini在各种Zero-shot的榜单上毫不逊色于各种大厂用大量数据训练出来的模型,可谓是“平、靓、正” !

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

可以看出,Mini-Gemini提供了多种普通和高清版本的模型,并且覆盖了2B的小杯到34B的超大杯,各个版本都取得了相似参数量下领先的效果,在许多指标上甚至超越Gemini Pro和GPT-4V。

值得一提的是,Mini-Gemini的图像理解和生成能力已经出了Demo,可以在线跟自定义图像对话的那种。

操作也极其简单,直接跟输入图像或文字进行对话即可,欢迎来撩!

生图超级外挂!贾佳亚团队提出 VLM 模型 Mini-Gemini,堪比 GPT4+DALLE3 王炸组合

Github地址:

Demo地址:

论文地址:

模型地址:

数据地址:

文章

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/035becb6e71f1e05901e.html
全局中部横幅
全局中部横幅
FESCO

FESCO,中国人力资源服务行业的开创者和龙头企业,始终以温暖的服务与先进的技术,为各类组织和人才提供一站式、全方位人力资源综合解决方案,推动中外企业的快速发展,帮助国内外人才不断提升价值。

财税猫

注册公司、代理记账

首页

为精英家庭2-15岁子女提供多元文化课程及特色主题课程的寄宿制国际化学校,让孩子成为有爱心、有社会责任感、有创造能力、有国际视野、有民族自信的新英才

去呼呼

去呼呼管家以PMS系统为核心,向酒店提供客房管理、直连、分销、微酒店、代运营等一站式酒店管理解决方案服务,并支持无缝对接智能门锁系统,让酒店经营者更轻松管理房间,为消费者带来全新的入住体验。

山东海拓智能科技有限公司

山东海拓智能科技有限公司,注册资金1000万,是专业从事工业信息化及智能制造系统的研究、开发和应用的高新技术企业。公司质量体系符合GB/T19001-2016/ISO9001:2015标准要求,产品符合ANSI/ISA–95国际标准,拥有近20项软件著作权、软件认定产品证书。 公司多次荣获省市优秀软件产品等奖项,还为华中科技大学、山东大学、中国海洋大学等知名学府承担教学实验室智能制造项目建设。 海拓智能拥有经验丰富的行业专家及顾问团队,在工业机器人控制、智能生产线建设、智能仓储系统、物流系统和智能软件等领域具备成熟的研发和设计制造能力,坚持以“工业4.0”为导向,致力于为全球汽车及零部件、工程机械、能源化工、高科技电子、冶金有色等企业和高校,提供PLM、MES、SRM、EBD、WMS/WCS、LIMS、QHSE等信息化系统的设计与开发服务、现场实施服务以及企业管理咨询服务。

玮玉教程网

玮玉教程网(www.add010.com)专注于分享Python、Mysql、HTML等Web编程语言技术文章,致力给广大编程爱好者提供更多的精品优秀资源。

济南网

济南网由济南广播电视台主办,具备新闻宣传、网络视听、数字影像、广电官网等功能,打造具有强大传播力、公信力的济南第一视听门户网站。

Unico(优合)

小风道高风速,Unico空调,Theunicosystem,高速射流空调,小管高压变频空气系统,六恒生态环境系统,美国进口小风道系统,全空气空调,优合空调

上海生生

上海生生物流有限公司自2009年成立,是中国医药冷链服务行业的先行者,自成立以来一直专注于为生命科学、生物技术、药物研发、商业成品药等领域的客户,提供全链条一站式医药冷链服务。

萍乡市耕升陶瓷有限公司

萍乡市耕升陶瓷有限公司坐落于著名的“中国工业陶瓷之都“---江西萍乡,是一家以陶瓷筛辊、陶瓷旋转刮刀、陶瓷托辊、陶瓷衬板、陶瓷滚筒、陶瓷填料,集设计、研发、生产、销售于一体的陶瓷公司。 公司生产的产品主要应用于--钢铁厂、球团厂、矿业公司、炉料公司、冶炼厂、焦化、电厂、码头等行业,产品覆盖了国内近三十个省市、自治区,设立了数十个代理机构,并且拥有自营进出口权,产品远销东南亚、中东、澳洲等国家和地区。

全局底部横幅