你能否想过,有没有一种AI系统,可以依据你的指令,生成你想要的多模态内容,比如一首歌曲、一段视频、一幅画或一篇文章?
假设你有这样的想法,那么你必定会对NExT-GPT感兴味。
NExT-GPT是新加坡国立大学的华人团队最近开源的全能多模态模型。该模型允许恣意模态的输入和输入,可以成功文本、图像、语音和视频之间的自在转换,是第一个成功从任一模态就任一模态转换的通用多模态系统。
NExT-GPT的全称是NExT-Generation Pre-trained Transformer,它是基于预训练的大型言语模型(LLM)构建的。
它应用了现有的高功能的多模态编码器和解码器,只有要微调大批(1%)的投影层参数,就可以成功多模态之间的语义了解和内容生成。这样不只节俭了训练老本,也繁难了裁减到更多潜在的模态。
NExT-GPT重要包含三个阶段:
多模态编码阶段:应用现有的低劣模型来编码各种模态的输入。这里驳回了ImageBind,它是一个一致的高功能编码器,允许六种模态。而后,经过线性投影层,将不同输入的示意映射到言语模型可以了解的示意。
LLM了解和推理阶段:经常使用LLM作为NExT-GPT的外围代理。这里驳回了Vicuna。LLM接纳来自不同模态的示意,并对输入启动语义了解和推理。它输入1)间接的文本回复,以及2)每种模态的信号令牌,作为指令来指点解码层能否生成多模态内容,以及假设是的话,生成什么内容。
多模态生成阶段:接纳来自LLM(假设有)的带有特定指令的多模态信号,在变换器(Transformer)基础上输入投影层将信号令牌示意映射到后续多模态解码器可以了解的示意。
NExT-GPT还引入了一种模态切换指令微调(MosIT)方法,并手工筹划了一个高品质数据集来启动MosIT。基于此,NExT-GPT具有了复杂跨模态语义了解和内容生成才干。
总之,NExT-GPT展现了构建一个能够建模通用模态的AI代理的有宿愿或许性,在社区中为愈加兽性化AI钻研铺平了路线。
名目地址:
https://next-gpt.github.io/
代码地址:
https://github.com/NExT-GPT/NExT-GPT
论文地址:
https://arxiv.org/abs/2309.05519
相关标签: 全能的AI大模型来了!NExT、
本文地址:https://aiyouzz.com/gjwz/793.html
你能否想过,有没有一种AI系统,可以依据你的指令,生成你想要的多模态内容,比如一首歌曲、一段视频、一幅画或一篇文章,假设你有这样的想法,那么你必定会对NExT,GPT感兴味,NExT,GPT是新加坡国立大学的华人团队最近开源的全能多模态模型,该模型允许恣意模态的输入和输入,可以成功文本、图像、语音和视频之间的自在转换,是第一个成功从任...。
188收录网,优质网址导航目录平台,为您提供免费网站收录提交,网站目录提交入口,免费自动秒收录网址,提供自动收录网站,网址导航源码,自动链,友情链接交换。
微久导航网(v9q.cn)是一个取之于民用之于民的网站,大家有的网站全部提交到本站,使用时候也非常方便,本站励志做到最好,欢迎大家前来提交
《韩三千》小说,又名《韩三千苏迎夏》、《超级女婿》、《豪婿韩三千》、《华丽逆袭韩三千》,是一本难得的精品之作,读者过千万,看过的人赞不绝口,情节跌宕起伏、扣人心弦。韩三千小说网,为您免费提供韩三千苏迎夏最新章节免费全文在线阅读,每天第一时间准时更新。
《上门龙婿》小说,又名《叶辰萧初然》、《上门龙婿叶辰》、《上门龙婿叶辰萧初然》、《上门女婿叶辰》,《上门龙婿》是作者叶公子倾情打造的一本现代都市小说,是一本难得的精品之作,读者过千万,看过的人赞不绝口,情节跌宕起伏、扣人心弦。上门龙婿小说网为您免费提供上门龙婿叶辰完整版免费全文阅读,每天第一时间准时更新。
暂无描述...
上海市恒通机动车驾驶员培训有限公司(以下简称恒通驾校)总部设在嘉定区曹新公路800号,驾校总部联系电话:021-66020058,2023年最新优惠价4480元,恒通驾校是由上海市公安局交警总队、上海城市交通局批准并经工商局正式注册的专业化机动车驾驶员培训学校。驾校成立于2002年
上海申诚驾驶员培训有限公司在上海浦东新区高桥镇江心沙路9号,联系电话:021-31261760,2024年申诚驾校报名费3980元起,申诚驾校是经“上海市公安局交通警察总队车辆管理所”和“上海市交通运输和港口管理局”批准建立的大型自用培训基地,目前是浦东高桥镇唯一的驾校培训基地,非常适合浦东外高桥、高桥、高行、金桥、地铁10号线沿线、地铁12号线沿线、地铁6号线沿线、杨浦大桥附近、杨浦一带的学员来学车都比较方便
山东欣烨化工研发、生产、销售六水三氯化铁,对苯醌,对苯二酚,2-氟-3-硝基苯甲酸,医药中间体,农药中间体,橡塑助剂,阻燃剂,酚醛树脂等系列产品,
合肥拓博石油环保技术有限公司成立于2015年,主要经营加油站油罐、油库、游轮的金属罐体、管线的清洗、拆除、安装、维修。欢迎随时咨询:王经理18726773932