2023 Zilliz星爵 Agent丨GAIR 向量数据库的下一个杀手锏级应用是AI (2023子女教育专项附加扣除的标准)
作者丨何思思
编辑丨林觉民
2023 年 8月14日，第七届GAIR全球人工智能与机器人大会在新加坡乌节大酒店正式开幕。论坛由GAIR研究院、、世界科技出版社、科特勒咨询集团联合主办。
大会共开设10个主题论坛，聚焦大模型时代下的AIGC、Infra、生命科学、教育，SaaS、web3、跨境电商等领域的变革创新。此次大会是在大模型技术爆炸时代，首个出海的AI顶级论坛，也是中国人工智能影响力的一次跨境溢出。
在第一天的大模型时代的超级基建专场上，Zilliz创始人兼CEO星爵进行了以“向量数据库作为新一代基础设施如何为大模型提供语义存储”为主题的精彩演讲。
过去的每个十年，AI都迈向一个新的阶段。星爵指出，受限于研发成本和开发难度，过去十年全球仅有1%的开发者专注于AI领域的研发工作，但如今有了大模型和向量数据库作为能力基座，一个AI 应用的开发仅仅需要两三个工程师一个周末的时间便可完成。
“忽如一夜春风来，千树万树梨花开。”对于大模型，星爵如此评价道。除此之外，星爵还强调了向量数据库之于大模型的重要性。他认为，向量数据库承担着大模型数据片外存储的重任，不管是图片、视频语言还是生物学中蛋白质的三维结构，都可以用向量的方式表征它的语义。
回到大模型目前落地遇到的最主要困境，即数据实时性和私域专有数据的问题，学术界和工业界存在两种解决方案，一是通过Fine tuning的方式迭代演进，让大模型学到更多的知识；二是通过Vector search的方法，把最新的私域知识存在向量数据库中，需要时在向量数据库中做基于语义的向量检索，这两种方法都可以为大模型提供更加精准的答案。
但是从成本角度出发，向量数据库的成本是Fine tuning的1/ 1000。所以大模型厂商都无一例外地推荐开发者使用向量检索的方式做知识库管理，以便和模型有一个更好交互，降低落地使用成本的同时，提升在业务中的实际效果。
以下是星爵的现场演讲内容，作了不改变原意的编辑及整理
星爵：谢谢主持人，特别开心能来到新加坡跟大家交流，今天我分享的主题是关于向量数据库作为新一代为 AI 时代提供语义存储的基础设施有哪些机会和挑战。
我们都知道过去十多年AI发展的特别快，基本上每隔十年都会来到一个新的阶段。如果我们把时间线拉得更长一点，过去十年最大的革命浪潮是什么？是移动计算。
十年前硅谷有一个很常见的现象：一群狂热的开发者利用周末的时间，甚至24小时内就能做出一个移动应用程序，这也是为什么我们经常说十年前涌现了一波很好的AI开发浪潮，年纪稍长的人可能都知道在上一次移动计算的浪潮开始前，开发一个移动应用程序是相当复杂的，比如当时诺基亚的塞班程序，从编译器到工具开发起来困难重重。
上一代的移动开发主要以安卓和iOS为代表，它极大地简化了移动的开发栈，使得数以千万计的开发人员涌入进来，他们只需选择一个开发平台，以类似MongoDB的数据存储管理，再加上类似Figma、 Sketch的设计工具，就可以用一个周末的时间做出一个移动开发程序，这就是我们过去十年AI发展的结果。
但随着AI工具栈复杂程度的提高，也相应地带来了很多问题：
一方面，企业要想做一个AI程序，需要在几百个项目中挑出几十个项目，从运维、调优、训练到最后的部署都需要花费大量的人力、物力、财力。
另一方面，对工业界的AI应用方来说，成本是居高不下的。此外，AI 应用开发程序的复杂程度也极大地限制了开发人员的进入。根据过往十年全球GitHub的数据显示，全球仅有不到1%的开发者从事AI开发工作，也就是说全球工程师的数量不足100万，所以我们会发现AI开发工程师通常会轻轻松松地拿到丰厚的报酬、股票期权甚至是更好的跳槽机会，但其实这对整个AI行业的发展是非常不利的。
今年上半年整个AI行业发生了翻天覆地的变化，可以用“忽如一夜春风来，千树万树梨花开”形容。还是拿今年3月份在硅谷看到的现象举例：很多AI开发的爱好者常常聚集起来，用一个周末的时间做出一款应用程序。在研发过程中，他们基本会用很简单的工具栈；接着选一个类似ChatGPT的大模型平台管理包括文本、图片、视频、知识库等在内的数据；随后他们会找一个系统做向量数据库，把数据用语义的方式管理起来，提供一个很好的语义检索；最后还他们需要Prompt Engineer提出很好的问题，这样就能保证三个人的小组在周末就轻轻松松地做出一个基于大语言模型的应用开发程序。
我们把这套开发工具栈提炼成“CVP stack”，C代表类似 ChatGPT 这样的开发平台，它后面有大模型，有一套完整API生态；V 代表Vector>
过去半年，国内出现了一些增长很快的开源的开发框架，本质上都是围绕CVP stack 所展开的更简化的开发工具。我们有一个预测：CVP stack能极大地降低开发成本。因为未来不只会有大模型，还会有多语言模型，跨模态模型，跨领域模型，这些模型都会极大地简化开发程度，包括向量数据库、Prompt Engineer都能开发出各种各样的应用程序，这就会驱使大量开发者涌入AI应用程序开发这个赛道。
我相信未来三年一定会有越来越多的人拥抱 AI 开发。其实现在我们也已经看到这个趋势，比如做一个APP，一个网站或者一个startup，基本是无大模型、无AI不成 startup，大家都在考虑把自己做的应用程序用大模型重做一次，这就意味着未来AI开发会变地越来越民主化。
向量数据库的应用场景：私域知识库、应用开发程序、数据处理
我还想着重跟大家分享一下，为什么向量数据库承担了大模型数据片外存储的重任？
如果打开一个神经网络，我们可以看到里面每个节点传输数据的权重，这就是我们说的向量。 所以大语言模型中传输数据的基本单元，你就可以认为向量是一个最基本的语义的传输单元，不管是图片、视频语言还是生物学中蛋白质的三维结构，都可以用向量的方式表征它的语义。
向量其实已经成为了非结构化数据在AI中语义表达的一种最根本的表达形式和基本的数据单元，这就是为什么要把各种各样的数据向量化后，存在向量数据库中，等到需要时再在向量数据库中做语义的检索和管理。
如果回到大模型目前落地遇到的最主要困境，即数据实时性和私域专有数据的问题，学术界和工业界存在两种解决方案，一是通过Fine tuning的方式迭代演进，让大模型学到更多的知识；二是通过Vector search的方法，把最新的私域知识存在向量数据库中，需要时在向量数据库中做基于语义的向量检索，这两种方法都可以为大模型提供更加精准的答案。
但是从成本角度出发，向量数据库的成本是Fine tuning的1/ 1000。所以大模型厂商都无一例外地推荐开发者使用向量检索的方式做知识库管理，以便和模型有一个更好交互，降低落地使用成本的同时，提升在业务中的实际效果。
所以一个最简单的总结就是，大语言模型负责计算，向量数据库负责存储尤其是语义存储。在过去半年时间里，向量数据库也涌现出了一系列的应用场景，我们总结为四类：
用向量数据库构建各行业各企业的私域知识库。我们知道每个企业都有很多数据，包括Word 文档、会议摘要、PDF、产品说明书等，这些其实都可以通过向量化的方式提取语义放到向量数据库中，当和大语言模型交互时，就可以把相应领域的相关知识，作为一个prompt 传给大语言模型。
当然我们肯定不想把所有的知识都传给大模型，因为所有知识库加起可能有几百万、几千万甚至上亿个token，所以就需要精确定位到和“我”提问的问题上下相关的内容，定位越精准，就意味着可以用越少的token、越经济的方法得到你想要的结果。
那通过向量数据库检索的方式就可以从你的私域知识库中找到相关的片段，然后把它构建为 prompt的一部分传递给大语言模型，从而得到一个更好的结果，这就解决了大语言模型在某些领域“胡说八道”的现象。
同时大语言模型重新训练一次的更新速度是非常慢的，像GPT其实是基于2021年9月之前的知识构建的，更新训练模型时通常会涉及到整个模型的全训练、调优以及收敛等，成本非常高，这时就可以把实时增量的知识通过向量数据库的方式供给大模型。
第二，用大语言模型＋向量数据库＋Prompt Engineer （CVP Stack）的方式，构建基于大语言模型的应用开发程序。其实我们在调用OpenAI时发现，大模型有时候产生出来的问题非常好，那这些问题实质上就可以成为知识库的一部分。
在这个过程中，我们会思考如果用向量数据库的方式把这些知识缓存下来，这样下次再需要获得同类知识时，就不需要再次调用大模型，我们把这个能力称为基于语义的新一代缓存。 我们知道上一段的缓存基本上是基于Memory Cache、Redis，本质上是基于关键字匹配的一个正定的缓存。
而在大语言模型中，同样的问题可以有不同的答案且每个答案都是正确的，不同但类似的问题，也可以得到相同的答案甚至类似的答案。也就是说不同的人在问相同的问题时，有不同的问法，这就需要通过向量数据库提供一个模糊语义的检索和匹配。基于这样的需求，今年我们开源了一个GPTCache的项目，仅 4 个多月时间已经在Git Hub上收获了5000颗Star，全球范围内拥有100 多家企业级用户。
第三，用户在调用大语言模型时肯定希望模型越用越好，且越来越能理解用户的需求，甚至可以预测接下来会发生什么。所以我们在使用的过程中，大模型会把历史的交互情况缓存下来，以便为下一次交互提供上下文的参考。上下文越来越多时，相应的管理工作也会变得相当复杂，这时向量数据库就可以存储你每次的交互内容、个性定制话题，从而让大模型越来越了解你。
第四，在训练大语言模型的过程中，要灌入各种各样的数据，这时就会涉及数据对齐，数据清洗、数据处理等工作，实际上这些工作已经可以用向量数据库的方式做预处理了。
向量数据库的下一个杀手锏级应用：AI Agent
当我们看到向量数据的这些场景时，也会好奇AI的下一个杀手级应用是什么？向量数据库的下一个杀手锏级的应用在哪里？
其实从今天上午到现在，大家不止一次提到了AI Agent。大概三个月前在Hacker News上就引发了一场非常激烈的讨论，这是我当天做的截屏，大概持续了几个小时，这应该是当天讨论最热的一个Topic。
Auto-GPT基本两个多月就在GitHub上收获了十四万颗star，是有史以来最快达到这个成绩的一个项目，斯坦福的这篇论文也指明了无数工程师、大学研究人员下一代研发的方向等。此外，一些领先的企业也已经开始做相关探索。比如现在商业化领域已经出现了类似名人明星的代理，我们可以跟他们聊天互动等。
其实，AI Agent 本质上是AI从Copilot 走向Autopilot 的一个必然阶段。比如现在不管是微软的代码生成，还是微软PPT的辅助工具都可能叫做Copilot。但是我觉得下一步如果这些智能代理能具备很强的推理能力、很强的感知能力、很好的记忆力，它就一定能进行自我迭代、自我演化，真正成为一个Autopilot。那在我们向更强大的AI Agent演进的过程中，向量数据库将承担一个类似人类的长期记忆的角色。
我们都知道人的大脑有很多分区，人有一项最基本的能力，就是能够记忆。我们记得我们背的第一首古诗是什么、记得十年前我们跟某个人的对话是什么样的，记得当时是什么样的场景得出了什么样的结论等等。相应地，在AI Agent的演进过程中，向量数据库就提供了长期记忆，也就是类似人类的海马体的功能。
总体而言，我认为，新一代AI的篇章刚刚展开，未来一定会出现跨模态、多模态、甚至跨领域的大模型。Zilliz从2018年开始做向量数据库，我们也希望能和更多的AI科研人员、创业者、工程师们一起探讨AI发展以及未来AI的边界，谢谢。
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/2f6ce46ccdcf04ba3b03.html
先声智能是一家人工智能新锐企业，拥有语音测评、写作批改、自适应学习、场景对话等人工智能技术，致力于研发AI+教育行业解决方案，为教育产品构建AI大脑，提升老师和学生的效率。先声智能已经服务小米、百度、阿里巴巴、新东方、好未来、作业帮、松鼠AI等数百家互联网和教育龙头企业，并获得包括联想之星和创世伙伴资本在内的多家顶级VC投资。
德国高仪作为全球品牌是领先的厨卫产品供应商，致力于提供创新水生活产品。主要提供浴室和厨房产品（面盆水龙头|淋浴龙头|智能马桶|淋浴系统|厨房水槽|过滤水系统及其它配件）。
广东亚兰装备技术有限公司多年专业哈巴焊机,脉冲式热压机,PCB冲压分板机,走刀式分板机,铡刀式分板机等设备销售,产品质量稳定,故障率低,操作简单,欢迎广大顾客来电咨询洽谈:13528582360/史先生
CAD迷你看图、CAD迷你画图是一款小巧快捷，可打开CAD各版本dwg图纸，简单易用的【CAD快速看图】、【测量】、【画图】CAD工具。完全脱离Autocad，仅15MB。
临海市中山电器制造有限公司提供可靠的酒店客控系统解决方案,为酒店提供智能化的客房管理服务.源头厂家,质量可靠,价格实惠.为您量身定制独特的智能开关和门显产品,满足您的个性化需求.合作热线:18906559972.
主要用于，单位概况，政务公开，解读回应，网上办事，交流互动，预约服务，专题专栏，其他，数字厦门等信息的发布
麦穗日记为帮助大家发现优质商品，新出淘宝百亿补贴优惠券，先领券再购物，以实惠的价格，享受全新的购物体验。
365英国上市官方网站✅小卡拉米✅汇聚全球热门体育项目,涵盖足球、篮球、电竞等多元赛事。操作简便,支持多终端访问,安全稳定,24小时在线服务,值得信赖的综合体育平台。
南宁逸凡文化交流活动策划有限公司，一直致力于为客户提供专业的会议活动策划执行全方位服务。在我们看来，活动策划没有彩排，只有“直播”。
上海163企业邮箱购买网易企业邮箱-快速、安全、稳定企业域名邮箱,企业邮箱哪个好？外贸专用邮箱超强反垃圾,反病毒,超大附件,邮件监控,界面操作简洁,北京网易企业邮箱保证超大附件收发顺畅，百万企业的选择！湖南领先网络科技有限公司是专业网易企业邮箱经销商，公司核心业务包括网易企业邮箱、网站建设、域名注册、上海163企业邮箱购买、北京网易企业邮箱、外贸专用邮箱,企业域名邮箱等全国统一免费客服热线:400-0908-163
欢迎来到智能家居百科，您的智能家居知识宝库！在这里，您将找到有关智能家居设备、技术和趋势的全面信息。从入门指南到高级故障排除技巧，我们应有尽有。
中国通信工业协会(CCIA，以下简称协会)是一九九一年七月经民政部注册登记，由国内从事通信设备和系统及相关的配套设备、专用零部件的研究、生产、开发单位自愿联合组成的非营利的全国性社会团体。协会的宗旨是：遵守宪法、法律、法规和国家政策，遵守社会道德风尚。维护会员单位和行业利益；发挥好企业和政府之间的桥梁和助手作用；不断促进我国通信行业的技术创新并走出国门；推动行业发展，为繁荣我国通信领域的经济发展而不断努力。
被雾笼罩的海岸线很美，但对于海上航行的船舶来说，却是，美丽的危险，海雾是一种悄无声息的海洋灾害，明显降低的能见度，容易让海上航行的船只偏离航线，从而引发搁浅或者是碰撞，甚至对渔业、海洋油气开发等活动都有影响，海雾景象，图片由浙江省气象局提供1月3日，全国首个海雾智能观测实验室在杭州正式揭牌，这是在中国气象局指导下，由浙江省气象局和海...。
今日融资快报多模态大模型行业解决方案提供商，考拉悠然完成亿元B轮融资成都考拉悠然由欧洲科学院外籍院士、ACM，IEEE，OSAFellow申恒涛教授领衔20余位海外名校归国博士创立，自主研发了世界首款人工智能操作系统——OSMAGIC码极客，以多模态行业大模型的生成与应用为核心，帮助客户实现高效行业AI应用，这是策源资本继完成对考拉悠...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
1、1公众高尔夫第六代2012款，DSG温馨型，发起机77kW，16L人造吸气2变速箱，7挡双离合，排量14T，质保3年或10万公里，综合油耗633长×宽×高区分是4199×1786×1479毫米，车身结构5门5座两厢轿车，2、高尔夫6底盘高度是141mm高尔夫6高尔夫第六代，蕴含GTI第6代高尔夫，是公众汽车国产车型的重中之重了外观...。
雷克萨斯旗下有四款SUV，雷克萨斯RX、雷克萨斯NX、雷克萨斯UX和雷克萨斯LX，雷克萨斯RX定位于中大型SUV，雷克萨斯的售价在39万到81万之间NX定位于中型SUV，多少钱在30.40万到54.20万之间；雷克萨斯UX紧凑型SUV，多少钱在28.30万到38.60万之间；雷克萨斯LX定位于大型SUV，售价在129.10万到141....。
许多第一次性经常使用苹果手机的用户都关于iOS系统不是很了解，不知道该怎样下载APP和装置，如今就就给大家带来苹果手机下载APP并装置的教程，还不分明详细操作的小同伴必定不能错过，苹果手机怎样下载app并装置1、关上苹果手机上的APPstore，2、进入后点右下角的搜查，3、输入你要下载的APP的名字，4、在弹出的app前面，点击，失...。
虎扑是一个大型的综合性论坛，在其中会有很多体育项目还有电竞项目赚取，会有专门的赛事讨论区域，也会有专门的比赛之后的评分专区，很多用户在看完比赛之后都想要知道虎扑评分在哪里看？这样就可以看到很多优质的评论，下面小编就给大家介绍一下虎扑评分查看教程。
众神陨落什么时候登录steam，很多玩家还不清楚众神陨落steam上线时间,下面一起来看一下小编带来的众神陨落steam上线时间介绍，希望可以帮助各位玩家。
包括英国、美国和中国在内的国家同意就先进人工智能带来的风险达成共识，承诺确保这项技术的开发和部署安全。在本周举行的为期两天的英国政府“全球人工智能安全峰会”上，巴西、印度、尼日利亚和沙特阿拉伯等28个国家以及欧盟签署了名为《布莱奇利宣言》的AI协议。英国政府表示，该宣言实现了峰会的主要目标，即就先进AI安全和研究的风险、机会和国际合作前进进程确立共同协议和责任，特别是通过更广泛的科学合作。与会国家共同认为，潜在的故意滥用可能带来严重的风险，并强调对网络安全、生物技术、虚假信息、偏见和隐私风险的忧
新加坡前外长提醒台湾：美政策不是出于爱台湾人，台湾只是“棋子”,台湾,新加坡,棋子,出于爱,台湾人,美国
重庆分类目录网站收录国内高校相关的优秀网站大全分类检索，为上网用户提供国内高校网站排行榜与您分享、收藏！
【理响中国·青年学习班】微视频丨培养造就大批德才兼备的高素质人才,习近平,高素质,英才,创新创业
根据杰哥分析发现，上周央行方面针对比特币的打击，主要从从银行和交易渠道入手，央行通知表示，只要不是国家主权单位发行的数字货币，就全都是虚拟货币，不具有法偿性与强制性等货币属性，不应且不能作为货币在市场上流通使用，在中国，所有银行和金融机构，都不准给持有虚拟币的人员提供人民币兑换，充值，提现等业务，一旦发现，全都按照，违法犯罪，处理，结...。
最大化数据价值蓝色通过庞大的数据库，识别终端设备用户的行为喜好，以最大限度识别和归类，从而为多种多样的产品提供精准的用户，群体定向的服务，数据覆盖越广泛，价值就越大；最小化沟通成本蓝色为广告主降低了跟大量广告渠道沟通的成本，节省了精力，让其专注于投放素材、定向优化和ROI的分析上面，...。
饮品和奶茶的市场是非常繁荣的，各种各样品牌的奶茶在大街小巷如雨后春笋般冒出来，并且各个品牌都有自己的发展优势，也凭借着自己的特点吸引到了很多的消费者，随处可见各种各样的奶茶店，在各种各样的奶茶店加盟品牌中，唯有小，低智慧之选，的才会吸引加盟商眼球，只要大家想要创业，只要大家有了创业的想法，不必有任何的担心，把握机会加盟其中，便可以坐享...。
消息，XR空间扩展计算芯片设计公司万有引力于近日完成A轮融资，融资金额数亿元人民币，本轮融资由砺思资本领投，宁波通商基金、招商创投、海鼎资本等共同投资，老股东米哈游、耀途资本、同歌创投、众源资本、三七互娱和红杉资本继续跟投，截至目前，万有引力已累计完成四轮融资，万有引力成立于2021年9月，团队成员来自Apple、Meta、华为...。
618的硝烟味还没有散尽，淘宝天猫的商家群里就开始了激烈的讨论，话题的焦点是，平台政策又要调整了，在商家的讨论中，淘天集团接下来可能的几个调整方向包括，取消天猫年费、继续加大88VIP补贴、加速全站推广上线……，政策变化，是淘宝天猫商家们过去半年里频繁听到的一个词，包括上线仅退款、店铺体验分等等，今年4月，阿里巴巴董事会主席、联合创始...。
