打造神奇宝贝新世界 Diffusion 大神微调  无敌了 Stable 生成式 AI (打造神奇宝贝的小说)

文章编号:46021 资讯动态 2024-12-09 AI Stable 生成式 神奇宝贝 Diffusion
不再依赖提示库,输入任意文本都可生成。

作为一个强大、公开且足够简单的模型,最近大火的 Stable Diffusion 在文本生成图像之外,给了大家无限的创作可能性。

最近,来自 Lambda Labs 的机器学习研究员 Justin Pinkney 对该模型进行了微调,构建了一个神奇宝贝生成器!

下图是输入名字后生成的一些神奇宝贝:戴珍珠耳环的少女、奥巴马、特朗普、鲍里斯·约翰逊、龙猫、Hello Kitty。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

Lady Gaga、鲍里斯·约翰逊、普京、默克尔、特朗普、柏拉图:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

除了现有的角色和公共人物,你还可以输入一个描述来生成自己想象的神奇宝贝:骷髅祭司

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

你也可以输入自己的姓名或网名,生成属于自己的神奇宝贝形象。这可太酷了,推特上的网友纷纷用自己的名字展开创作,看看自己如果变成神奇宝贝会是什么样子。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界
图注:网友 Jo Barf Creepy 的神奇宝贝形象
生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

图注:网友 Elizabeth Holmes 的神奇宝贝形象

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

图注:网友 Upbeatblue 的神奇宝贝形象

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

图注:网友 Onion-sama 的神奇宝贝形象

输入一些漫画角色的名字也可以获得相匹配的神奇宝贝:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

而那些陪伴人们童年的神奇宝贝在这个生成器中也有了新的样貌:皮卡丘、妙蛙种子、喷火龙、树才怪、路卡利欧、梦幻。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界



神奇宝贝生成器是如何“生成”的

Pinkney 在推特上展示了这个神奇宝贝生成器的训练过程。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

他表示,Stable Diffusion 是一个很好的通用模型,但要获得特定风格的输出不是件容易的事,这通常需要做大量枯燥的工作,制作复杂的文本提示库,或者你也可以偷懒只对图像生成模型进行微调。

Pinkney 在神奇宝贝图像的数据集上对初始的 Stable Diffusion 进行了微调。

首先是构建一个数据集。数据集包含神奇宝贝图像和对应的文本描述,比如妙蛙种子被描述成“一个红眼睛的绿色神奇宝贝图像”,绿毛虫则被描述为“一个长着红鼻子的绿黄两色玩具”。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

当然,这些描述不是人工完成的,而是使用了神经网络来代劳,即图像描述模型 BLIP。虽然这些描述还不是十分完美,但也足够用了。

然后,他在 A6000 上只花费了几个小时对 AI 模型进行训练,让模型学习以神奇宝贝的风格来生成图像,但将先前的知识保留一段时间,最终对数据集产生过拟合。

开始时,样本是正常图像的样子,然后逐渐获得神奇宝贝的风格,随着训练的继续,最终呈现一个与原始提示不同的神奇宝贝图像:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

这是一种很简单的微调,但它运行得非常好。有了这样一个微调后的模型,无论你给它什么提示,它都会生成神奇宝贝。所以不必再煞费苦心地想提示语了。

在创建神奇宝贝时,你可以选择输出多个:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

Pinkney 表示,欢迎大家用更复杂的方式把这个模型专门地用在新领域。像这样的小工具就是 Stable Diffusion 这类 AI 模型开源好处的体现。




One more thing

这个模型在网上引起创作热潮后,Pinkney 又发布了一篇博客补充了一些额外的工作细节。

他发现,令人惊讶的是,这个模型竟然设法记住了初始 Stable Diffusion 的一些通用知识,而它只是在一个有限的数据集上训练了几千步。但是,对神奇宝贝进行微调时,模型实际上很快就会开始过度拟合,如果只是以一种简单的方式从中采样,模型就会为新的提示生成胡言乱语式的神奇宝贝,也就是说,它已经灾难性地遗忘了它所训练的原始数据)。但是 Stable Diffusion 在训练期间保持模型的指数移动平均 (EMA) 版本,通常用于推理。

因此,如果使用 EMA 权重,我们实际上是在使用原始模型和微调模型的平均值。事实证明,这对于生成神奇宝贝而言是必不可少的。此外,你还可以通过直接将新模型与初始模型的权重进行平均来微调效果,以控制生成神奇宝贝的数量。微调和对模型进行平均的操作可以将原始内容与微调后的风格有效混合。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

图注:左边是完全微调的模型,右边是只微调注意力层的模型。

另外,你也可以冻结模型的不同部分来进行微调,比如上图是两种微调方式的生成效果,可以看到,只微调了注意力层的模型可以生成更正常的 Yoda,但并不太擅长制作神奇宝贝。

更多内容,点击下方关注:

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界 生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界

版权文章,未经授权禁止转载。详情见 转载须知 。

生成式 AI 无敌了: 大神微调Stable Diffusion,打造神奇宝贝新世界


本文地址: https://www.gpxz.com/article/72ad35224d73aa554bdf.html
全局中部横幅
全局中部横幅
旭佳教育招生网www.55xnjd.com

http://img.55xnjd.com/为你介绍旭佳教育招生网为你介绍职高学校的一些招生信息,其中包括职高学校招生简章,职高学校招生电话,职高学校招生地址,职高学校招生学费,职高学校招生条件,职高学校排名

托马斯,托马斯小游戏,4399托马斯小游戏大全,4399小游戏

4399托马斯小游戏大全收录国内外托马斯,托马斯小游戏,托马斯小火车,托马斯找铁轨小游戏,托马斯小游戏下载,托马斯过河小游戏,托马斯拼图小游戏等尽在4399小游戏。

养胃吃什么

豆果美食是最优质的美食菜谱社区,提供各种菜谱大全,食谱大全,家常菜做法大全,丰富的菜谱大全可以让您轻松地学会怎么做美食,展现自己的高超厨艺,开启美好生活!

稳压器

东莞市百稳电气有限公司是专业从事电力稳压器、变压器、调压器的生产的产销公司,产品适用于所有电网电压不稳及对电网电压有高要求的用电设备,欢迎咨询定制0769-81184549。

九寨沟旅游

九寨沟旅游网是四川青旅九寨沟官方电子商务平台,为游客提供九寨沟黄龙酒店、门票、租车、包车、机票、旅游线路在线预订服务以及导游或伴游等一体化服务。

数字电视前端

承接广东各地区星级酒店宾馆,工厂学校数字电视改造工程,深圳乐坤轩视频科技有限公司生产销售有线电视前端设备,数字电视调制器,远程会议高清编码器,远程医疗系统软件,IPTV互动系统服务器,智慧城市三网融合系统,有线电视器材批发。

纵横云

纵横云专业IDC云计算服务商,提供站群服务器,显卡服务器,GPU服务器,动态拨号vps,高防服务器,多ip服务器,大带宽服务器,海外云服务器,原生ip服务器等国内外主机资源的租用购买及托管服务,受到行业和用户的一致好评。

50TT

微信礼包码:50tt 玩传奇就上50tt(网站速记:天天网络) 每日最高可免费领取1000免费充值 详情访问官网www.50tt.com

温州市瑞龙机械成套有限公司

温州市瑞龙机械成套有限公司(原温州市轻工机械成套厂)是中国印刷工业协会及上海印别包装机械(焦团)成员企业,国内唯一的磨刀设备专业生产厂家

文档家

文档家提供大学生自学学习资源和在线学习视频教程,主要包括各种精品课程、考研考证、考试题库、课件资料、标准资料、图纸模型以及大量专业技术资料分享!

湖南省总会计师协会

湖南省总会计师协会(英文缩写HNCFO)是经省民政厅批准,依法登记成立的跨行业、跨部门、跨地区、跨所有制的全省性、专业性和非营利的社团组织。由本省及中央驻湘单位担任总会计师、财务总监、分管财务的行政负责人、单位财务机构负责人以及高等院校、科研院所的会计专家、教授等高级会计人员自愿组成。本会实行会员代表大会领导下的会长负责制,驻会会长主持日常工作。

全局底部横幅