小说屋

手机浏览器扫描二维码访问

第212章 出人意料地大模型2(第1页)

很快就发现了问题的所在。自我演化程序基本没有变化,但是甲骨文识读的程序有一个地方发生了了很大的变化。

最初班行远设计的识读程序包含了一个具有100万个参数的模型,这个模型也是识读功能的核心所在。在最新的版本中这个模型的规模已经膨胀到让班行远咋舌的10亿个参数。

班行远把所有历史版本的代码调出来,发现这个识读程序的演化过程就是模型规模越来越大的过程。虽然也有不少规模变小的版本迭代,但是很快就又向着规模越来越大的方向发展。

稍一思考就明白了是怎么回事。模型的规模大的话,包含的资料就多,就更能生成准确率高的报告。演化程序其实不知道规模大好还是规模小好。在最开始的阶段把规模调大后程序根据小组的反馈判断出这样效率更高,于是就开始向模型规模越来越大的方向发展。

大到一定程度后程序判断单次报告的生成时间有较大增加,默认效率降低就自主降低模型的规模。模型变小后生成速度快了,但是准确率有了更大的下降,演化程序判断还是规模大的模型效率更高。于是又一次朝向大规模模型演化。就这样周而复始,在演化的过程中程序确认大模型更有效,于是模型的规模以指数的形式变大。

模型变大后对算力需求以更快的速度变大,只不过在最初的阶段并不明显。当模型的规模超过一定阈值的时候,报告的准确性也随着提高,哪怕是生成速度已经很慢了,演化程序仍然没有调小规模,因为综合效率仍然更高。

10亿参数规模的模型,班行远有些头疼。想了一下把两个人工智能项目组的人都叫了过来,他要把甲骨文人工识别的程序移植到蛋白质机构预测的计算中心上。

两个项目都用到了研究院设计的加速卡,只不过甲骨文这边的规模小得多,算力和蛋白质那边比的话根本不值一提。查了一下后台,没有三方单位使用算力,班行远立刻让项目组成员暂停了所有的计算任务,让他们把甲骨文识读程序切换到计算中心。

程序在计算中心运行后,班行远并没有让程序开始计算,而是把西方各种文字的字典和语言学资料喂给程序,程序很快就消化完毕。班行远暗赞,算力强大就是不一样。

随后在两个项目组不解的眼神中班行远问出了问题:“请告诉我英文单词you的起源与演变。”

这些计算机专家看着大屏幕上滚动出来的文字一个个张大的嘴巴。

“嗯,用户之前问了中文“公”字的起源和演变,现在又转向英文单词“you”的起源和演变。看来他对语言的历史发展很感兴趣,可能在学习语言学或者对词源学有好奇心。我需要先确认用户的需求……”

“英语单词"you"的起源和演变过程展现了日耳曼语言中第二人称代词的复杂发展轨迹,以及社会文化对语言形态的深刻影响。以下是其历史演变的分阶段解析:

一、古英语时期(5-11世纪)

……”

等结果输出完成后,会议室一片安静。过了一会儿一位专家站了起来激动地说:“院长,这是……”

班行远点了点头说:“虽然我不太相信,但是看来正是你想的样子。”

随后就开始了热烈的讨论,班行远写的核心算法其实是有这个功能的,但是没想到模型规模变大后会出现这样的变化。很显然已经不能单纯用在甲骨文识别上了,用这些专家的话讲那完全是在犯罪。

要增大用途的话,模型规模还要增加。到了这个规模,模型规模和算力需求之间已经不成比例。模型增加一倍,对算力的需求可能需要增加十倍百倍。现在需要确定的是计算中心支持多大的用户规模。

然后开始多用户测试,两个人同时提问、三个人、四个人……当同时提问人数超过10个时就能够感觉到明显的速度变化。

这可不行!这个程序太有用了,这些专家已经想到了无数的用法,才够10个人同时用够干什么。同时叹了一口,算力!

班行远停止了程序的运行,恢复蛋白质方面的计算。

班行远说:“都说说吧,这个程序本来就是设计的用来识读甲骨文的,能理解语义这是前提条件。但是模型规模达到这种程度后发生的变化确实出乎了我的预料。程序演化算法核心是基于生物进化原理,通过对输出结果的反馈制造一种类似于自然选择的演化压力。我看了一下演化程序自己发展出了类似神经网络、卷积之类处理方式,这和目前的人工智能发展方向是一致的。但是但是那个大模型还是头一次看到,似乎还没有出现这种人工智能跟大模型结合的报道。”

“虽然我们只是演示了文字方面的问答,但是显然这个人工智能的应用范围要大得多,可以用在各种方面。研究院组件专门的小组吧,对相关理论和应用进行深入研究。等级……等级和光刻机项目是一样的。”

“都有说说下一步怎么干吧。”

一位专家说:“算力,要研究这个肯定需要极为强大的算力。现在使用蛋白质的算力中心仅仅是语言学方面的内容已经捉襟见肘,应用范围扩大的话需要训练模型肯定不够用。需要新建计算中心。”

班行远考虑了一下,摇了摇头:“这个行不通,首先泰熙肯定不会批的,蛋白质项目每个月一百多万的电费就够她整天跟我念叨了,这要是再建一个她得和我拼命。”

“而且使用现有的加速芯片处理这个大模型人工智能的运算完全是浪费。这款加速芯片是为了研究院高精度的科学运算设计的,针对FP64高精度浮点运算进行了专门的优化。大模型人工智能撑死用到FP32的精度,我估计大多数场景用FP16半精度就够了,很多场景甚至FP4、FP8甚至是8位的整数运算就能覆盖了。同样规模的芯片针对FP64高精度浮点运算优化和针对低精度运算优化在算力上可不是简简单单的翻倍。”

喜欢半岛远行请大家收藏:()半岛远行

断我灵脉抽我骨,被灭宗你后悔啥?  七零年代龙傲天路人小姨子  战灵腥雨录  至尊战神奶爸  从三料博士到无道仙主  系统:抽卡进行中  逍遥九皇子  汉朝之秦末楚汉争霸  综影视:有亿点甜  末世冰封?呵呵!这只是开始  穿越西游之疯狂蚂蚁  何为不为  长生从学习开始  港综:从铜锣湾开始雄霸江湖  穿成极品农妇后继续极品  谁家小娘子这么狂  四合院:众里寻她千百度  灵影逆世之都市传奇  当众休夫后,摄政王十里红妆高调求娶  乾游记  

热门小说推荐
才不是魔女

才不是魔女

才不是魔女青空乐章银发少女的温馨日常种田文,偶尔也热血史诗。她是生活在森林里的银发少女。她是传说中七位英雄的导师。她是代表星星和奇迹的大贤者。她是平息十次世界灾厄的指引者。她的名为洛兰希尔,才不是魔女。又名仍未知道那天所教的笨学生居然成为开国之主的故事洛兰希尔的炼金工...

鬼事铺:让你捉鬼,你养女鬼干嘛

鬼事铺:让你捉鬼,你养女鬼干嘛

关于鬼事铺让你捉鬼,你养女鬼干嘛什么?你是男鬼?贫道与妖邪鬼魅势不两立有漂亮女鬼女鬼姐姐,愿与小生同席共枕否?常乐,阴年阴月阴日阴时出生,极阴之体天煞孤星。命中注定多灾多难厄运缠身克父克母克妻克子。为改变这天煞孤星命格。常乐从小就被爷爷送往武当山修道,直到十八岁下山。没有文凭,只有一个道士证。为了赚钱,常乐啥活都干。送外卖搬尸体看风水做法事一次诡异的外卖送餐,开启常乐捉鬼初体验。从此便一发不可收拾开起专门办鬼事的鬼事铺。...

钓系美人如何咳血手册

钓系美人如何咳血手册

世人皆知,天衍宗苍梧峰傲骨铮铮的拂知剑尊,违背伦常爱上了自己徒弟殷岭西。无数风月话本辗转茶楼酒肆,剑尊被人钉在引诱无辜单纯徒弟的耻辱柱上。却无人知晓,那被引诱的单纯徒弟,此时正吻了吻自己师尊眼角沁出的泪,满意的勾唇笑道师尊,辛苦了拂知抚上他的背,面色苍白的摇摇头,清冷的眼底带着柔色,你真的心悦于我么?殷岭西忽略自己心底的异样,假装深情道此生唯一。拂知看着这个已经被自己收回了百分之八十还不自知的碎片,神色更温柔了。后来,殷岭西魔族皇室身份暴露,逃回魔族领地。拂知掐着点赶过来,正好听见少皇殿下,不知道那拂知剑尊的滋味如何啊殷岭西语气慵懒,不怎么样和木头似的没意思,我腻味了就回来了。下面的人哄堂大笑,我刚还听说,那剑尊挨了剑阁十三刑,要离开师门来找我们殿下殷岭西神色骤变你说什轰!魔宫大门被暴虐的灵力轰的粉碎。殷岭西抬头看去。狂风中,白衣染血满身血痕的师尊,神色冰冷到极点,剑锋森寒,再说一遍。面上人设不崩,拂知叹气,可算是可以收网了。碎片二毁欲×国师乖。碎片三贪欲×逍遥医仙别哭。魔蝎小说...

综影视白莲偷人心

综影视白莲偷人心

关于综影视白莲偷人心装模作样是人类的本能,玩弄感情是强者的游戏。作为偷渡穿越者,杨雨薇最擅长的就是一脸懵懂的装无辜,蛊惑人心。心机手段,谋略设计,在情爱里不过是风月罢了。什么公平正义,什么道德底线,全都是扯淡。自己过得舒服才是最重要的。长相思防风意映全员攻略少年白马醉春风,万人迷尹落霞辰荣馨悦攻略涂山璟少年白马醉春风观影全员云之羽宋四绝不送死云之羽原创表妹三生三世,少白,香蜜沉沉,甄嬛传,如懿传,知否各大影视应有尽有,喜欢好评五星...

双穿门:人在诡异世界当压寨夫君

双穿门:人在诡异世界当压寨夫君

关于双穿门人在诡异世界当压寨夫君身患恶极的顶级外科医师,竟意外获得一个双穿门!异世界可以补充气血,增强体魄,延长寿命的神奇药材,在现代世界不出意外的被无数大人物们疯狂追求!叶寒借机创建医药公司,以此控制世界绝大多数顶级商界,政界高层,从此成为现实世界的无冕之王!而在异世界,白银,黄金奇缺,叶寒直接在地球购买大量黄金白银,购买数量繁多的各种神奇药材,帮助自身修炼武道功法!又从现实世界购买大批热武器,组建一支武者和现代化武器结合的超强军队!而且,现实世界道家,佛家的无用经文,在异世界竟然是顶级功法!那些破烂古董,竟然是顶级法器!铸就叶寒武道一途突飞猛进!以此,叶寒率领军队,横扫邪崇,覆灭腐朽王朝,在异世界打造不朽帝国!若干年后,叶寒成为帝国之主,颇为苦恼的坐在王座之上高冷小姨子和软糯小丫鬟都想要嫁我。英气十足的缉恶司暗夜女王说要给我当暖床侍女。曾经高贵的王国公主如今哭着喊着要给我当小,只求我放过她的家人。周边无数俯首称臣的王朝,争抢着要把自己国家最美丽的女子献给我。叶寒十分苦恼,自己到底要不要收呢?...

每日热搜小说推荐