魔爪文学

手机浏览器扫描二维码访问

第514章 用steamdeck安装AI大模型的体验gpt4all(第1页)

看到这个标题,你可能会觉得是噱头。谁不知道chatgpT模型有175o亿以上的参数,别说是在笔记本电脑上跑,就是使用高性能gpu的台式机,也无法带得动啊。老老实实调用apI不好吗?其实,LLm(大语言模型)有非常宽泛的参数量范围。咱们今天介绍的这个模型gpT4a11只有7o亿参数,在LLm里面现在算是妥妥的小巧玲珑。不过看这个名字你也能现,它确实是野心勃勃,照着chatgpT的性能去对标的。gpT4a11基于meta的LLama模型训练。你可能立即觉得不对,你这跟gpT有啥关系?为什么要无端蹭热度?且慢,gpT4a11确实和chatgpT有关——它用来微调的训练数据,正是调用chatgpT产生的大量问答内容。我怕你对技术细节不感兴趣,因此只用下面这张图来说明gpT4a11的训练过程。??gpT4a11其实就是非常典型的蒸馏(disti11)模型——想要模型尽量靠近大模型的性能,又要参数足够少。听起来很贪心,是吧?据开者自己说,gpT4a11虽小,却在某些任务类型上可以和chatgpT相媲美。但是,咱们不能只听开者的一面之辞。还是试试看比较好,你说是吧?深度神经网络由多个层组成。每一层包含处理输入数据并通过非线性激活函数(sigmoid或ReLu)传递给其他层的神经元。每一层的输出会传递给另一层,在传递给下一层进行进一步处理之前,这一层会对这个中间表示进行某种操作。这个架构可以分为两个主要部分:输入层和输出层。输入层-这表示一组输入,这些输入被送入人工神经网络(ann)作为训练数据或测试数据,然后由深度学习算法使用,以根据历史信息(例如过去的交易等)预测未来事件结果,这一过程使用输入层及其相关权重。输出层-这表示一组输出,这些输出在经过人工神经网络内部的各个层(例如卷积神经网络、循环神经网络或长短时记忆网络)处理后被送回到ann中,然后由深度学习算法使用,以根据历史信息(例如过去的交易等)预测未来事件结果,这一过程使用输出层及其相关权重。深度学习模型的架构可能会因各种因素而有所不同,例如数据类型、特征数量、目标变量或正在解决的分类问题。Transformer是一类深度学习架构,在自然语言处理(nLp)和其他领域中已变得非常流行,这归功于它们强大的性能和可扩展性。Transformer次在Vaani等人于2o17年表的论文"attentionisa11youneed"中被介绍。Transformer基于自注意力机制,这使它们能够捕获长距离依赖关系并在序列中建模复杂的模式。自注意力机制:Transformer的核心是自注意力机制,它允许模型衡量每个输入标记与序列中每个其他标记的关系的重要性。这是通过使用三个可学习的向量实现的,分别称为查询向量(Q)、键向量(k)和值向量(V)。自注意力机制计算每对标记之间的注意力分数,然后用于生成值向量的加权和。多头注意力:Transformer使用多头注意力来捕捉输入序列的不同方面。多头注意力层中的每个"头"都独立执行自注意力,并生成自己的输出。这些输出然后被连接并线性转换以创建多头注意力层的最终输出。看到这里,你可能已经怒了——有这么比的吗?!你拿一个如此精致的小模型gpT4a11(7oB)跟gpT-4这样的大怪物去比。gpT-4胜之不武,我为gpT4a11鸣不平!且慢恼怒,我想表达的意思是这样的:如果一个模型真的能达到蒸馏浓缩的作用,那么显然体积的显着减小是重大优势,毕竟这意味着训练和应用成本降低,度显着提升。但如果模型缩小以后在解决问答、解释和编程能力上和大模型相比差距显着,那么我们就不能武断地说小模型「性价比」更高了。有研究证实过在「有人类调教的情况下」,6o亿参数的小模型甚至可以在某些任务上面击败175o亿参数的大模型(ouyangeta1.2o22)。只不过,这里的比较并不公平——它指的是小模型有人工调教,而大模型缺乏调教的情况。chatgpT不缺乏调教,因此我们并没有看到gpT4a11能够以少量的参数达到chatgpT这么好的性能,即便它充分使用了chatgpT的输入输出数据。训练大语言模型时,多大的语料会使得模型对外部世界真实认知产生质的飞跃(可以在各项任务上都有好的表现)?目前的经验是3oo亿单词的输入量(Zhangeta1.2o2o)。但是大语料需要足够高的模型复杂度来承载。模型相对输入数据过于复杂固然不好(过拟合,over-fitting)。然而一个太小的模型在面对大数据的时候,也会力不从心(欠拟合)。大和小是需要相对判断的。目前的gpT4a11在一众巨无霸面前,无论如何也是个小模型。chatgpT这样的大语言模型让人们惊诧的地方,在于它能够有自己的「顿悟时刻」。这种「顿悟时刻」如何出现的?现在学术界还在研究中。但是有很多证据指向一些提示语(例如「一步步来」stepbystep)能够激活大语言模型的net-of-Thought(思维链),从而有助于解锁「顿悟」般的逻辑推理能力。不过研究者同样证明了,这种「魔法」提示语有效的前提,是模型的参数量需要达到1ooo亿的规模(eieta1.2o23)。chatgpT的参数过了这个阈值,而gpT4a11还远得很。当然不是。如果你把gpT4a11看成某种终极形态,那么等待你的可能是从激动快跌落到失望。但是比较一下初代iphone和iphone4s,你就能感受到短短几年间,技术进步带来的产品性能天差地别。更何况,现在的aI进展度,可不像iphone一样「一年一更」。即便从短期来看,gpT4a11也有其用途。在我们的测试中,它在写作上还是有能力的。gpT4a11不需要付费调用token,也不需要把数据传递到远端进行处理。对有些使用目的(例如保护公司机密数据)而言,gpT4a11这样的模型出现,关乎的可不只是「好用」与「不好用」,而是「能用」和「不能用」的分水岭。对于很多机构的事务性工作而言,复杂的逻辑推理能力其实只是锦上添花。若是能完美解决日常单项任务,收益也已经十分显着。请你在试用之后,依然对gpT4a11保持一份耐心。也许不久以后,我们每个人的电脑和手机上,都能运行一个随时待命的优秀助理,帮助我们做许多从前想做,但是一想到要做就头疼的任务

看到这个标题,你可能会觉得是噱头。谁不知道chatgpT模型有175o亿以上的参数,别说是在笔记本电脑上跑,就是使用高性能gpu的台式机,也无法带得动啊。老老实实调用apI不好吗?其实,LLm(大语言模型)有非常宽泛的参数量范围。咱们今天介绍的这个模型gpT4a11只有7o亿参数,在LLm里面现在算是妥妥的小巧玲珑。不过看这个名字你也能现,它确实是野心勃勃,照着chatgpT的性能去对标的。gpT4a11基于meta的LLama模型训练。你可能立即觉得不对,你这跟gpT有啥关系?为什么要无端蹭热度?且慢,gpT4a11确实和chatgpT有关——它用来微调的训练数据,正是调用chatgpT产生的大量问答内容。我怕你对技术细节不感兴趣,因此只用下面这张图来说明gpT4a11的训练过程。??gpT4a11其实就是非常典型的蒸馏(disti11)模型——想要模型尽量靠近大模型的性能,又要参数足够少。听起来很贪心,是吧?据开者自己说,gpT4a11虽小,却在某些任务类型上可以和chatgpT相媲美。但是,咱们不能只听开者的一面之辞。还是试试看比较好,你说是吧?深度神经网络由多个层组成。每一层包含处理输入数据并通过非线性激活函数(sigmoid或ReLu)传递给其他层的神经元。每一层的输出会传递给另一层,在传递给下一层进行进一步处理之前,这一层会对这个中间表示进行某种操作。这个架构可以分为两个主要部分:输入层和输出层。输入层-这表示一组输入,这些输入被送入人工神经网络(ann)作为训练数据或测试数据,然后由深度学习算法使用,以根据历史信息(例如过去的交易等)预测未来事件结果,这一过程使用输入层及其相关权重。输出层-这表示一组输出,这些输出在经过人工神经网络内部的各个层(例如卷积神经网络、循环神经网络或长短时记忆网络)处理后被送回到ann中,然后由深度学习算法使用,以根据历史信息(例如过去的交易等)预测未来事件结果,这一过程使用输出层及其相关权重。深度学习模型的架构可能会因各种因素而有所不同,例如数据类型、特征数量、目标变量或正在解决的分类问题。Transformer是一类深度学习架构,在自然语言处理(nLp)和其他领域中已变得非常流行,这归功于它们强大的性能和可扩展性。Transformer次在Vaani等人于2o17年表的论文"attentionisa11youneed"中被介绍。Transformer基于自注意力机制,这使它们能够捕获长距离依赖关系并在序列中建模复杂的模式。自注意力机制:Transformer的核心是自注意力机制,它允许模型衡量每个输入标记与序列中每个其他标记的关系的重要性。这是通过使用三个可学习的向量实现的,分别称为查询向量(Q)、键向量(k)和值向量(V)。自注意力机制计算每对标记之间的注意力分数,然后用于生成值向量的加权和。多头注意力:Transformer使用多头注意力来捕捉输入序列的不同方面。多头注意力层中的每个"头"都独立执行自注意力,并生成自己的输出。这些输出然后被连接并线性转换以创建多头注意力层的最终输出。看到这里,你可能已经怒了——有这么比的吗?!你拿一个如此精致的小模型gpT4a11(7oB)跟gpT-4这样的大怪物去比。gpT-4胜之不武,我为gpT4a11鸣不平!且慢恼怒,我想表达的意思是这样的:如果一个模型真的能达到蒸馏浓缩的作用,那么显然体积的显着减小是重大优势,毕竟这意味着训练和应用成本降低,度显着提升。但如果模型缩小以后在解决问答、解释和编程能力上和大模型相比差距显着,那么我们就不能武断地说小模型「性价比」更高了。有研究证实过在「有人类调教的情况下」,6o亿参数的小模型甚至可以在某些任务上面击败175o亿参数的大模型(ouyangeta1.2o22)。只不过,这里的比较并不公平——它指的是小模型有人工调教,而大模型缺乏调教的情况。chatgpT不缺乏调教,因此我们并没有看到gpT4a11能够以少量的参数达到chatgpT这么好的性能,即便它充分使用了chatgpT的输入输出数据。训练大语言模型时,多大的语料会使得模型对外部世界真实认知产生质的飞跃(可以在各项任务上都有好的表现)?目前的经验是3oo亿单词的输入量(Zhangeta1.2o2o)。但是大语料需要足够高的模型复杂度来承载。模型相对输入数据过于复杂固然不好(过拟合,over-fitting)。然而一个太小的模型在面对大数据的时候,也会力不从心(欠拟合)。大和小是需要相对判断的。目前的gpT4a11在一众巨无霸面前,无论如何也是个小模型。chatgpT这样的大语言模型让人们惊诧的地方,在于它能够有自己的「顿悟时刻」。这种「顿悟时刻」如何出现的?现在学术界还在研究中。但是有很多证据指向一些提示语(例如「一步步来」stepbystep)能够激活大语言模型的net-of-Thought(思维链),从而有助于解锁「顿悟」般的逻辑推理能力。不过研究者同样证明了,这种「魔法」提示语有效的前提,是模型的参数量需要达到1ooo亿的规模(eieta1.2o23)。chatgpT的参数过了这个阈值,而gpT4a11还远得很。当然不是。如果你把gpT4a11看成某种终极形态,那么等待你的可能是从激动快跌落到失望。但是比较一下初代iphone和iphone4s,你就能感受到短短几年间,技术进步带来的产品性能天差地别。更何况,现在的aI进展度,可不像iphone一样「一年一更」。即便从短期来看,gpT4a11也有其用途。在我们的测试中,它在写作上还是有能力的。gpT4a11不需要付费调用token,也不需要把数据传递到远端进行处理。对有些使用目的(例如保护公司机密数据)而言,gpT4a11这样的模型出现,关乎的可不只是「好用」与「不好用」,而是「能用」和「不能用」的分水岭。对于很多机构的事务性工作而言,复杂的逻辑推理能力其实只是锦上添花。若是能完美解决日常单项任务,收益也已经十分显着。请你在试用之后,依然对gpT4a11保持一份耐心。也许不久以后,我们每个人的电脑和手机上,都能运行一个随时待命的优秀助理,帮助我们做许多从前想做,但是一想到要做就头疼的任务

请关闭浏览器阅读模式后查看本章节,否则将出现无法翻页或章节内容丢失等现象。

热门小说推荐
天灾囤货:开局一口锅

天灾囤货:开局一口锅

五星级酒店名厨莫斐穿成带着一对儿女的单亲妈妈。还没等她苦恼如何带娃,就接到天灾预警,生存难度将直达地狱级。好在获得金手指一口大铁锅!铁锅无火可炒菜,还带有神奇随身空间。趁着天灾未至,莫斐卖房搬家疯狂囤货。天灾到来,丧尸遍地,她在空间种菜养鸡。别人饿得要死,她做拉丝豆腐猪蹄,脆皮乳鸽,雪花牛肉火锅一家人跟着她吃得油光满面,顺便收留几个小弟当保镖。物资囤得几辈子都用不完,闲不住的莫斐摆了个美食摊。炭烤羊腿,捞汁海鲜,鸡翅包饭!!统统只需一个变异晶核!远道而来的食客们闻言看着周围的丧尸两眼发光!后来莫斐方圆百里内被异能者们清成太平盛世今天的天灾生活,也十分安逸呀排雷女主不是什么善男信女,对道德要求高的别看阅读指南1细水长流有空间,前期都在囤货,中后期开始阴谋诡计2女主是厨子,前期不太会打丧尸,重点是做饭,中期开始有很强自保能力3有男主(不是娃的亲爹),细水长流4行文风格偏日常化,小白风格,弃文不必告知(给读者老爷们跪了)...

黑莲花老婆逼我装O

黑莲花老婆逼我装O

文案1刚穿来那会儿,罗潇潇连自己亲妈叫什么名字都不知道。好消息以后不用打拳了,有金主爸爸养了坏消息金主爸爸是她协议结婚的老婆,自己还隐瞒了Alpha的性别。事到如今,身...

兽欲之淫母娘

兽欲之淫母娘

李巧华听见门铃声打开房门的时候,不可置信地看着门口站着的4个半大小子,其中包括她的儿子方志文。他居然真的这么做了。难道真的要我用身体去取悦这几个孩子么?凭什么?他把我还当成是他的妈妈么?李巧华心想。昨天晚上当儿子抚摸着她软软大大的乳房,一边捻动她的乳头,一边告诉她第二天会带几个朋友回来让她快乐的时候,她正处于失神期,年轻坚硬的肉棒带来的快感一波又一波地冲击着她的神经,她一边快乐地哀嚎着一边忙不迭地点头答应,也不知道自己答应了什么。直到第二天儿子去上学后她才想起自己究竟答应了儿子什么样的事情。然后放学了,他居然真的带人回来了。...

民国之燕燕

民国之燕燕

杨玉燕有一个英明神武的妈咪,一个高材生姐姐,一个标准民国文人的爹,还有一幢在寸土寸金的市中心的房子,家里还请了个阿姨,一个清秀帅气的高材生大哥哥当家教,小小年纪就满足了衣来伸手饭来张口的生活目标。但是,她爹早已出轨学生离婚离家追求爱情去了,她姐遇上了一个穷小子要追求爱情,看来这个家只能靠她了!苏老师开蒙就要学四书五经,你会背吗?杨玉燕背什么?!苏老师上学以后要多学几门西语,英语日语法语最好都会一点。杨玉燕为什么!苏老师你上的教会女中是西语教材。不然去上日本人开的学校也可以,老师都说日语。杨玉燕我头疼脚疼哪都疼,家里穷,读书好贵,我不上学了。苏老师娇气包,你装病。杨玉燕面对可以免除你房租的人,你要尊敬。苏老师Youaretheboss。内容标签穿越时空民国旧影...

每日热搜小说推荐