打造神奇宝贝新世界 Diffusion 大神微调  无敌了 Stable 生成式 AI (打造神奇宝贝的小说)

文章编号:46021 最新资讯 2024-12-09 AI Stable 生成式 神奇宝贝 Diffusion
不再依赖提示库,输入任意文本都可生成。

作为一个强大、公开且足够简单的模型,最近大火的 Stable Diffusion 在文本生成图像之外,给了大家无限的创作可能性。

最近,来自 Lambda Labs 的机器学习研究员 Justin Pinkney 对该模型进行了微调,构建了一个神奇宝贝生成器!

下图是输入名字后生成的一些神奇宝贝:戴珍珠耳环的少女、奥巴马、特朗普、鲍里斯·约翰逊、龙猫、Hello Kitty。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

Lady Gaga、鲍里斯·约翰逊、普京、默克尔、特朗普、柏拉图:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

除了现有的角色和公共人物,你还可以输入一个描述来生成自己想象的神奇宝贝:骷髅祭司

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

你也可以输入自己的姓名或网名,生成属于自己的神奇宝贝形象。这可太酷了,推特上的网友纷纷用自己的名字展开创作,看看自己如果变成神奇宝贝会是什么样子。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界
图注:网友 Jo Barf Creepy 的神奇宝贝形象
生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

图注:网友 Elizabeth Holmes 的神奇宝贝形象

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

图注:网友 Upbeatblue 的神奇宝贝形象

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

图注:网友 Onion-sama 的神奇宝贝形象

输入一些漫画角色的名字也可以获得相匹配的神奇宝贝:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

而那些陪伴人们童年的神奇宝贝在这个生成器中也有了新的样貌:皮卡丘、妙蛙种子、喷火龙、树才怪、路卡利欧、梦幻。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界



神奇宝贝生成器是如何“生成”的

Pinkney 在推特上展示了这个神奇宝贝生成器的训练过程。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

他表示,Stable Diffusion 是一个很好的通用模型,但要获得特定风格的输出不是件容易的事,这通常需要做大量枯燥的工作,制作复杂的文本提示库,或者你也可以偷懒只对图像生成模型进行微调。

Pinkney 在神奇宝贝图像的数据集上对初始的 Stable Diffusion 进行了微调。

首先是构建一个数据集。数据集包含神奇宝贝图像和对应的文本描述,比如妙蛙种子被描述成“一个红眼睛的绿色神奇宝贝图像”,绿毛虫则被描述为“一个长着红鼻子的绿黄两色玩具”。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

当然,这些描述不是人工完成的,而是使用了神经网络来代劳,即图像描述模型 BLIP。虽然这些描述还不是十分完美,但也足够用了。

然后,他在 A6000 上只花费了几个小时对 AI 模型进行训练,让模型学习以神奇宝贝的风格来生成图像,但将先前的知识保留一段时间,最终对数据集产生过拟合。

开始时,样本是正常图像的样子,然后逐渐获得神奇宝贝的风格,随着训练的继续,最终呈现一个与原始提示不同的神奇宝贝图像:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

这是一种很简单的微调,但它运行得非常好。有了这样一个微调后的模型,无论你给它什么提示,它都会生成神奇宝贝。所以不必再煞费苦心地想提示语了。

在创建神奇宝贝时,你可以选择输出多个:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

Pinkney 表示,欢迎大家用更复杂的方式把这个模型专门地用在新领域。像这样的小工具就是 Stable Diffusion 这类 AI 模型开源好处的体现。




One more thing

这个模型在网上引起创作热潮后,Pinkney 又发布了一篇博客补充了一些额外的工作细节。

他发现,令人惊讶的是,这个模型竟然设法记住了初始 Stable Diffusion 的一些通用知识,而它只是在一个有限的数据集上训练了几千步。但是,对神奇宝贝进行微调时,模型实际上很快就会开始过度拟合,如果只是以一种简单的方式从中采样,模型就会为新的提示生成胡言乱语式的神奇宝贝,也就是说,它已经灾难性地遗忘了它所训练的原始数据)。但是 Stable Diffusion 在训练期间保持模型的指数移动平均 (EMA) 版本,通常用于推理。

因此,如果使用 EMA 权重,我们实际上是在使用原始模型和微调模型的平均值。事实证明,这对于生成神奇宝贝而言是必不可少的。此外,你还可以通过直接将新模型与初始模型的权重进行平均来微调效果,以控制生成神奇宝贝的数量。微调和对模型进行平均的操作可以将原始内容与微调后的风格有效混合。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

图注:左边是完全微调的模型,右边是只微调注意力层的模型。

另外,你也可以冻结模型的不同部分来进行微调,比如上图是两种微调方式的生成效果,可以看到,只微调了注意力层的模型可以生成更正常的 Yoda,但并不太擅长制作神奇宝贝。

更多内容,点击下方关注:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界 生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

版权文章,未经授权禁止转载。详情见 转载须知 。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界


本文地址: /article/72ad35224d73aa554bdf.html
全局中部横幅
全局中部横幅
煜子

煜子(Yuzi),视觉设计师,在互联网行业,从事UI设计,WEB设计.2008年开始设计至今,专注高端品牌网站设计、移动应用、小程序、UI交互设计和用户体验开发.

57G游戏网-为您分享好玩的手游和网游攻略

57G游戏网为大家提供最好玩的游戏下载,游戏攻略和最新的外服手游网游资讯。

桐城租车-桐城东站租车-桐城租车公司-桐城高铁站租车-桐城开发区汽车租赁有限公司

桐城安心汽车租赁有限公司(24小时服务热线手机:13955611190)专业提供各种桐城地区商务租车、个人租车、商务用车、婚庆租车、旅游租车、机场租车、自驾租车服务等,车型主要包括:大众、现代、福特、别克、本田等系列,并提供代驾及新手陪练服务。

广州仟岱机电设备有限公司—仟岱有限公司

广州仟岱机电设备有限公司,主营仟岱离合器,仟岱刹车器,台湾仟岱所生产产品。

知慧之窗 - 触达生活与兴趣的全方位互动空间

“知慧之窗”是一个专注于知识与生活体验的综合互动空间,涵盖学习提升、职场技能、生活分享、兴趣交流等多种主题。无论您是寻找实用的学习资源,还是想分享生活中的点滴智慧,这里都为您提供了宽广的交流空间。这里聚集了各个领域的爱好者和专家,通过分享与互动,让每位用户都能在多元化的内容中获得启发,发现新的兴趣,收获与同好的连接,真正成为大家生活中的“智慧之窗”。

管家婆物联通官方网站 管家婆软件手机版、管家婆软件PDA、管家婆软件果易、管家婆软件WMS等产品。杭州致梦科技有限公司 - 管家婆物联通|管家婆果易|管家婆软件手机版|管家婆软件PDA|管家婆手机开单|管家婆移动开单|管家婆WMS|服装IPAD|服装移动开单|服装手机开单

管家婆物联通是杭州致梦和任我行软件推出的管家婆软件在移动端的应用。无缝对接辉煌、分销、财贸、服装等系列。为企业提供完善的移动终端解决方案,在手机端轻松实现手机开单、数据查询、移动审批、外勤管理等多方面的移动信息化应用。

潍坊物流公司_潍坊货运公司-泽安达

潍坊泽安达物流是一家从事潍坊到全国的陆运、空运、海运物流服务的物流公司。潍坊物流公司以快捷、准时、安全、优惠的服务宗旨为广大客户服务!

中华门窗网-门窗十大品牌-木门、铝合金门窗招商加盟服务平台

中华门窗网专业的铝合金门窗行业垂直门户,已有门窗相关企业8万多家。提供铝合金门窗品牌,铝合金门窗招商,门窗木门图片,门窗木门资讯,门窗木门评测等全方位铝合金门窗行业信息,为门窗、木门企业及铝合金门窗经销商提供专业的招商服务信息。

7157手游网_只做好玩的手机游戏专业下载门户网_7157.com

提供安卓苹果手机网游,最好玩的手机网游排行榜,手机网游攻略,最新手机游戏下载尽在7157手游网。

西安创新网-西安创业服务第一门户

西安创新网是关于创新、创业主题集信息发布、企业服务平台、企业群组社区、知识积累于一体的综合门户。

全局底部横幅