打造神奇宝贝新世界 Diffusion 大神微调  无敌了 Stable 生成式 AI (打造神奇宝贝的小说)

文章编号:46021 资讯动态 2024-12-09 AI Stable 生成式 神奇宝贝 Diffusion
不再依赖提示库,输入任意文本都可生成。

作为一个强大、公开且足够简单的模型,最近大火的 Stable Diffusion 在文本生成图像之外,给了大家无限的创作可能性。

最近,来自 Lambda Labs 的机器学习研究员 Justin Pinkney 对该模型进行了微调,构建了一个神奇宝贝生成器!

下图是输入名字后生成的一些神奇宝贝:戴珍珠耳环的少女、奥巴马、特朗普、鲍里斯·约翰逊、龙猫、Hello Kitty。

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

Lady Gaga、鲍里斯·约翰逊、普京、默克尔、特朗普、柏拉图:

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

除了现有的角色和公共人物,你还可以输入一个描述来生成自己想象的神奇宝贝:骷髅祭司

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

你也可以输入自己的姓名或网名,生成属于自己的神奇宝贝形象。这可太酷了,推特上的网友纷纷用自己的名字展开创作,看看自己如果变成神奇宝贝会是什么样子。

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界
图注:网友 Jo Barf Creepy 的神奇宝贝形象
生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

图注:网友 Elizabeth Holmes 的神奇宝贝形象

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

图注:网友 Upbeatblue 的神奇宝贝形象

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

图注:网友 Onion-Sama 的神奇宝贝形象

输入一些漫画角色的名字也可以获得相匹配的神奇宝贝:

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

而那些陪伴人们童年的神奇宝贝在这个生成器中也有了新的样貌:皮卡丘、妙蛙种子、喷火龙、树才怪、路卡利欧、梦幻。

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界



神奇宝贝生成器是如何“生成”的

Pinkney 在推特上展示了这个神奇宝贝生成器的训练过程。

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

他表示,Stable Diffusion 是一个很好的通用模型,但要获得特定风格的输出不是件容易的事,这通常需要做大量枯燥的工作,制作复杂的文本提示库,或者你也可以偷懒只对图像生成模型进行微调。

Pinkney 在神奇宝贝图像的数据集上对初始的 Stable Diffusion 进行了微调。

首先是构建一个数据集。数据集包含神奇宝贝图像和对应的文本描述,比如妙蛙种子被描述成“一个红眼睛的绿色神奇宝贝图像”,绿毛虫则被描述为“一个长着红鼻子的绿黄两色玩具”。

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

当然,这些描述不是人工完成的,而是使用了神经网络来代劳,即图像描述模型 BLIP。虽然这些描述还不是十分完美,但也足够用了。

然后,他在 A6000 上只花费了几个小时对 AI 模型进行训练,让模型学习以神奇宝贝的风格来生成图像,但将先前的知识保留一段时间,最终对数据集产生过拟合。

开始时,样本是正常图像的样子,然后逐渐获得神奇宝贝的风格,随着训练的继续,最终呈现一个与原始提示不同的神奇宝贝图像:

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

这是一种很简单的微调,但它运行得非常好。有了这样一个微调后的模型,无论你给它什么提示,它都会生成神奇宝贝。所以不必再煞费苦心地想提示语了。

在创建神奇宝贝时,你可以选择输出多个:

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

Pinkney 表示,欢迎大家用更复杂的方式把这个模型专门地用在新领域。像这样的小工具就是 Stable Diffusion 这类 AI 模型开源好处的体现。




One more thing

这个模型在网上引起创作热潮后,Pinkney 又发布了一篇博客补充了一些额外的工作细节。

他发现,令人惊讶的是,这个模型竟然设法记住了初始 Stable Diffusion 的一些通用知识,而它只是在一个有限的数据集上训练了几千步。但是,对神奇宝贝进行微调时,模型实际上很快就会开始过度拟合,如果只是以一种简单的方式从中采样,模型就会为新的提示生成胡言乱语式的神奇宝贝,也就是说,它已经灾难性地遗忘了它所训练的原始数据)。但是 Stable Diffusion 在训练期间保持模型的指数移动平均 (EMA) 版本,通常用于推理。

因此,如果使用 EMA 权重,我们实际上是在使用原始模型和微调模型的平均值。事实证明,这对于生成神奇宝贝而言是必不可少的。此外,你还可以通过直接将新模型与初始模型的权重进行平均来微调效果,以控制生成神奇宝贝的数量。微调和对模型进行平均的操作可以将原始内容与微调后的风格有效混合。

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

图注:左边是完全微调的模型,右边是只微调注意力层的模型。

另外,你也可以冻结模型的不同部分来进行微调,比如上图是两种微调方式的生成效果,可以看到,只微调了注意力层的模型可以生成更正常的 Yoda,但并不太擅长制作神奇宝贝。

更多内容,点击下方关注:

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界 生成式 AI 无敌了: 大神微调 Diffusion,打造新世界

版权文章,未经授权禁止转载。详情见 转载须知 。

生成式 AI 无敌了: 大神微调 Diffusion,打造新世界


本文地址: https://www.gpxz.com/article/72ad35224d73aa554bdf.html
全局中部横幅
全局中部横幅
轻略

轻略,整合全网资源。根据内容属性进行垂直分类和多角度聚合,为您提供丰富、灵活的内容定制。只需一站即可掌握全网资源,无需搜索就可获得关注内容。不仅是您的网络资源管家更是轻量优雅的上网入口。

火锅培训,串串技术培训

火锅技术培训,串串技术培训,蜀味缘火锅串串技术培训学校,先尝后学,资深大厨一对一教学,承诺学好为止!

美如家地板官方网站

美如家地板始创于2003年,历经多年发展,业已成为行业内声名卓著的现代化企业。

奥冠电池

企业名称:河北奥冠,山东奥冠,河北奥冠电源有限责任公司,奥冠集团,奥冠电池,奥运精神,冠军品质。锂电池关键词:奥冠锂电池,锂电池胶体电池,锂电池动力电池,锂电池储能电池,锂电池光伏电池,德国胶体锂电池,奥冠锂电池,奥冠胶体锂电池,德国奥冠胶体锂电池,锂电池动力电池,德国锂电池胶体动力电池,德国胶体锂电光伏电池,德国胶体锂电动力电池,德国胶体锂电备用电池,淘宝奥冠锂电池,天猫奥冠锂电池,京东奥冠锂电池,百度奥冠锂电池,360奥冠锂电池。胶体电池关键词:胶体电池,德国胶体电池,奥冠胶体电池,胶体蓄电

夹克管

河间市华宇保温建材有限公司主营:夹克管、聚氨酯瓦壳、直埋保温管、聚乙烯外护管、预制直埋保温管、聚氨酯管件保温、聚氨酯直埋保温管、钢套钢蒸汽保温管、玻璃钢聚氨酯保温管、聚氨酯镀锌铁皮保温管。公司成立于2007年,是一家国内专业生产、制造耐火保温隔音材料的大型骨干企业。该公司以“质优、诚信”为宗旨,瞄准国内外保温行业制高点追求先进、大胆革新,以企业良好的产品品质取得了业界骄人成绩,受到社会广泛关注。供特殊需求产品设计、制造,满足客户的个性化需要。

北京中阔律师事务所

北京中阔律师事务所是一家经北京市司法局批准,依法成立的综合性合伙制律师事务所。中阔律所位于北京CBD核心区阳光金融中心,拥有高端的服务场所、数字化的服务设施和现代化的服务环境。

智能机器人科技

汝岩(上海)自动化科技有限公司主营业务包含:非标自动化设备的研发.设计.生产.销售以及售后服务于一体的高新技术企业。配套提供工装夹具、智能机器人、各类检测设备、自动化生产线等。公司恪守诚信,创新,务实,服务的宗旨,奉行以人为本,科技先行,质量至上,追求卓越的经营理念,如有产品需求,欢迎致电:18217283091

医用脱脂纱布块

河南省中晟祥和卫材有限公司主营脱脂纱布块,一次性手术衣,医用防护服,无纺布,水刺无纺布,劳保用品,卫生用品,保健用品,办公用品,防护用品等,是集产品生产咨询、电商渠道、供应链金融为一体的一站式整合服务平台。

天津道路划线

天津远达交通设施有限公司是一家从事道路、停车场(库)、物流厂区、市民小区、交通安全设施产品设计、生产、施工、维护一体化综合性公司。公司主要承接工厂停车场、厂区道路划线、学校停车场、学校道路划线、停车场、道路划线、生活小区停车场、生活小区道路划线、商业区停车场、商业区道路划线等各种交通施工工程。为京津翼建设“添砖加瓦”

医倍达生物科技有限公司

医倍达生物科技有限公司(以下简称“Healthfuture”)是国内一家知名的专业从事高端生物耗材研发、生产和销售的综合性企业,致力于为全球客户提供分子诊断、细胞培养、免疫治疗等方面的高品质耗材及定制化服务。

南京万厚中医医院

南京万厚中医医院开设重点科室有肝病科、中医科、肿瘤科,同时有中医治未病、体质检测、内病外治、冬病夏治、中医各种疑难杂症等,尤其在中医肿瘤的治疗上有着精深造诣。南京万厚中医医院是江苏省重点医院,国家医保定点单位。

书格格

书格格致力于为广大书友推荐各种类型好看的小说,包括有言情小说、都市小说、历史小说、科幻小说、灵异小说、军事小说、悬疑小说、玄幻小说、武侠小说、末世小说等。看小说,找小说就上书格格小说推荐网!


全局底部横幅