仅只有未实名的,新媒易不收取任何费用,公益非盈利机构
24小时服务热线: 4000-162-306
请扫码咨询

新媒易动态

NEWS CENTER

客户更关怀的是精度、速度和价格。当然终究确保无害性、合法性,这是使用开发商有必要解决的问题

2023-08-18

“许多企业要么完全不知道怎样用,要么便是天马行空,但因为提出的场景复杂、决议计划链太长,实践做不到。”他说。而另一些人士以为,咱们或许把大模型与通用人工智能混为一谈。

从技能角度看,在医疗、教育等一些专业度、准确度要求高的客服场景,大言语模型的幻觉是个问题。当他们把职业数据注入到根底大模型时,不管是微调,仍是其他手段,模型能吸纳并能转化成正确输出的,大概有70%到80%。这就要求不得不用更多办法,去处理那20%到30%的错误率。

但现在没有特别低成本和快速的办法。”上述人士反馈,许多东西需求去做强化学习和复杂的人工标定,所花的成本或许是现在成本根底再乘以10乃至更多,这让许多企业难以接受。

针对上述两个问题,聚集领域大模型开发的中关村科金技能副总裁张杰告知数智前哨,在场景挑选上,他觉得接下来适合大模型进一步落地的较好赛道,是专业性较高,且容错性较高的场景,如企业常识问答、营销机器人、坐席助手。而通用性太高或容错性又比较低的场景,如自动驾驶,不是特别好的商业赛道。

从技能层面,张杰以为不是某一套大模型的使用技能道路,就可以十分完美地解决问题,他介绍了三种由浅入深的使用技能道路。


从落地实践看,现在,前两种接受度高。“这三种办法不是3选1,在详细场景下,肯定是一套组合拳。”他弥补道。

“咱们其实看到iPhone在2006就出来了,但整个移动互联网年代的开启是在2012年。”中信建投证券研究所所长、武超则在不久前的职业会议上称,“这个进程才刚刚开端”。

她以为大模型有几个阶段的演进,从能听会说、能看会认开端,到能够像人相同去组合运用工具,从而让每个人配一个“斯坦福毕业的助理”,再到通用人工智能中的会规划、会决议计划。

职业在不断深入探索。一位职业资深人士告知数智前哨,他们在做教育等职业,客户数量较大,在将大模型融入事务工作流的进程中,遇到许多问题,“还在去寻找有没有更能解决问题的方法”。

三、企业纷繁涌向开源大模型

在大模型落地的进程中,越来越多的国内企业开端选用开源大模型。

一位南方电网人士告知数智前哨,内部现在进行大模型测验时,“都是根据Llama吧”。Meta公司在今年7月发布了开源可商用大模型Llama 2,包含了70亿、130亿和700亿参数3个版本。另一位南方电网人士称,内部对不同开闭源模型正进行测试赛。

8月,金蝶发布的财政大模型,也根据开源大模型练习而来。金蝶CTO赵燕锡告知数智前哨,就像手机操作体系有iOS、安卓相同,开源模型要打造生成式AI的安卓体系,国内有像清华ChatGLM,世界上有MPT、Llama,未来是一个多模型合作的主意。

在金融领域落地中,有资深人士告知数智前哨,开源、闭源大模型都有,因为各金融机构体量不一,战略也不相同。许多公司先在一个详细场景下用开源模型做出实践作用,再考虑复制推广,也有几个大行对渠道做一些战略性投入,在闭源根底大模型上,建了一个类似于中台的渠道,希望将来同时对接多个场景。“不过,这种主意的客户数量较少,而且就现在他们测试的结果而言,也没有到达预期。”

“之前咱们自己练习了两个不同参数的模型,最近咱们也在用开源。”中科深智CTO宋健告知数智前哨。他以为,现在绝大部分文本写作、上下文匹配,130亿参数的模型已够用,而三四百亿参数的模型,在解决许多垂类问题上已经足够,不管国内百川,仍是国外的Llama,作用都不错。

一家物联网公司技能高管告知数智前哨,现在开源大模型发展较快,开源社区也发布了许多模型,大部分根据Llama 2微调而来。“咱们也测试过许多开源和闭源模型,因为咱们的方针市场需求多言语支持,会更多考虑Llama 2。如果是面向国内市场,一些国内的模型也很优秀。”

“挑选开源和闭源,实践上各有优缺点。运用开源模型的优点主要是较为自由,包括布置、微调、升级和免费。闭源的优点是有质量确保,免自己布置和使用门槛较低。”上述资深人士介绍。

他挑选开源的一个重要原因是以为,现在开源模型的昌盛和水平进步出现一个明显趋势。他打了一个比方,开源大模型的水平就好比海平面,闭源大模型相当于一个个岛屿。现在这些岛屿上涨的速度,跟不上海平面上涨的速度,大部分岛屿将会被海水吞没,或许世界上终究就剩下几座上涨比较快的岛屿。

模型本身现在可选的许多,多位业内人士也赞同,开源和闭源不是客户会关怀的问题,“很少客户会去指定用哪一款模型”。因为客户并不直接运用根底大模型,终究客户是没有感知的。“客户更关怀的是精度、速度和价格。当然终究确保无害性、合法性,这是使用开发商有必要解决的问题。”上述物联网职业专家说。

张杰告知数智前哨,因为开源可商用大模型,每一款或许都有自己的优缺点,比如说有些适合做一些分类型的任务,有些性能比较好,有些或许就生成式的任务表现比较好,仍是要根据详细场景,一些ROI的需求,挑选不同的模型。

“总体来讲,咱们觉得接下来大模型十分重要的趋势,便是开源。”中信建投证券武超则称,非标准化的场景,非标准化的算力,这种架构决议开源或许会是一个比较趋同的方向。

相关推荐