与行业客户共创,软通动力大模型生态开辟新路径
“大模型的未来在于行业应用”,对此业界已经达成了共识,下一步则是如何将大模型在行业中落地。
(资料图片)
于是,我们能够看到,既前一阶段的基础大模型之后,近来又掀起了行业大模型的热潮。据粗略统计,仅在国内,已经和计划发布的大模型就达到上百个。
那么,对于有志于大模型业务的IT企业来说,是不是只有这两条路可走,是否存在第三条可达路径呢?
软通动力给出的答案是:不做通用大模型,而是为行业客户提供平台工具、专业人才和技术服务,与他们共创定制化的私有大模型,以此推动大模型行业应用的快速落地。
在第一波热潮中,大模型的发布者主要是ICT企业,尤其以互联网公司为主导。最近一段时间,各个行业的头部企业也开始参与其中。
IDC前不久发布的报告预测,金融行业、能源行业等头部机构,会率先在1年内在相对成熟的场景中尝试引入大模型。而且,随着技术的普及,行业头部企业在该市场的角色,也不再只是最终用户,而有望成为新一代AI技术的提供商。
无论作为最终用户还是技术提供商,头部企业参与行业大模型的趋势已经建立,因为他们已经看到大模型能够为企业降本增效,建立起业务竞争优势。这些行业头部企业,正是软通动力所长期服务的客户,也在大模型领域走在前列。
软通动力数字化创新服务线副总裁霍宇认为,要做好行业大模型,企业需要在两个方面加大投入,一是算力,二是语料。对于算力的重要性,大家已经都认识到了,其实语料对于行业大模型的训练更为重要。
他表示,相比国外,国内的语料多集中在企业内部,可以公开获得的则比较少。因此,他建议,行业客户应该先“补数据的课”,把更多预算投入到提升大模型的输入质量上,这样不仅不耽误时间,反而可以节省成本。
当然,在这一过程中,如何治理数据、如何把数据语料化、如何更好地训练模型,都将是对企业能力的考验。软通动力正致力于帮助企业提升这些方面的能力,从而利用大模型来升级数智化转型战略,在外部产业链和内部企业管理两个领域实现全面数字化。
在过去半年时间里,ICT企业都纷纷加入到大模型产业当中,发挥自身专长来获取一席之地。目前,围绕大模型的产业生态正逐步形成,虽然这一生态体系仍不稳定,处于快速发展演化的过程中。
霍宇认为,软通动力不做通用基础大模型,因为这需要巨额投入,是行业头部企业才能做的;也不会做通用行业大模型,因为软通动力虽然懂行业,但缺乏相应的数据资源。因此,在行业大模型赛道里,软通动力坚持走与客户共创的路径,为行业客户提供数学建模、规则设定、模型优化等服务,帮助他们定制自己的私有大模型。这也可以充分发挥软通动力的优势:定制开发能力强、技术服务能力强。
在这一路径中,软通动力也坚持生态合作,在底层基础设施和基础大模型方面,与微软、华为、亚马逊、阿里云等巨头合作——他们原本就是软通动力的长期战略伙伴。
在行业选择方面,霍宇介绍说,金融、零售两个行业是当前的重点。选择这两个行业,是因为他们的客户是个人消费者,数据量比较充足,同时也是软通动力长期服务的行业,对其业务逻辑非常熟悉。
在大模型的规模方面,软通动力则侧重在六七十亿到一百多亿参数量的行业大模型,因为这个规模的大模型最具性价比。
对于大模型这个新鲜事物,很多行业头部企业都表达出了强烈的兴趣,但需求并不明确,目前仍处于尝试阶段。对此,软通动力决定自己先探路,今年在基础算力方面预计会投入近亿元,同时,搭建服务工具平台,让工程师们去“练手”。“未来还会继续加大投入力度。”霍宇表示。
目前,行业大模型相对成熟的应用场景是软件开发和知识管理,其中软件开发是公司的主要业务。软通动力正在利用大模型,来优化软件工程研发及测试效率,争取在年内实现提效30%的目标。在知识管理方面,软通动力则开发了律师行业助手类应用LawCopilot,帮助律师进行文献检索、案例分析、录音分析和法律咨询。
不过,霍宇强调说,目前to B大模型的行业应用都处于Copilot的阶段,即辅助人工进行驾驶,而达不到脱离人工的完全自动驾驶。
与传统ICT生态类似,在大模型生态系统中,技术服务商扮演着为客户提供贴身服务的关键角色。
IDC也认为,提供各种工具和服务,是大模型技术厂商的集中发力方向,包括模型训练、部署和推理,以及相关的数据集、API和工具软件等,以帮助开发者更加高效地使用大型模型,从而快速实现各种应用场景的落地。
软通动力前不久发布了自己的模型即服务平台——软通天璇2.0MaaS平台。这一平台包括三层,底层的大模型技术底座(L0级)、中间层的行业大模型(L1级)及管理、顶层的场景大模型应用(L2级);除此之外,软通动力还为客户提供大模型一站式运营服务、数据治理及安全服务。
在天璇2.0中,软通动力训推一体化平台发挥了核心作用。其基于昇腾硬件底座+昇思MindSporeAI框架,采用软通G420K训练平台和G210K推理平台,整合欧拉操作系统等组件,搭载软通自有AI中台,为客户提供多种交互式AI模型,深度适配不同AI应用场景,支持多模态场景,提供了涵盖大模型训练、测评、部署的一整套端到端的安全可信体系。
霍宇介绍说,软通动力训推一体化平台,同时提供对商用和开源大模型的支持,客户既可以直接接入商用大模型,也可以基于开源大模型进行本地化部署。实际上,大模型的开源化趋势已经非常明显,正在成为大模型生态的主流。
除了工具平台,软通动力也加紧致力于AI专业人才的培养,这也成为其在大模型生态中的核心竞争优势之一。
毫无疑问,大模型的流行将带来人才结构的变革,未来会需要大量的AI训练师、机器学习工程师、数据科学家等新型人才。在霍宇看来,未来的AI人才,不仅需要懂AI,也需要懂架构。基于过去的业务积累,软通动力已经储备了一大批相关人才,目前正在加紧培训及在内部的算力平台上实践,帮助他们实现从编码逻辑到提示词逻辑的转换。
这些专业人才,将会帮助软通动力的行业客户构建自己的大模型,并最大程度地发挥大模型的作用,将其付诸落地实践。
当下,基础大模型的热潮正在逐渐消退,但定制化大模型和大模型应用才刚刚开始。随着应用的普及,大模型将带来新的服务范式和商业模式。霍宇也认为,未来SaaS会被基于大模型的SaaS所取代。整个软件领域甚至ICT行业生态的变革正在路上。
标签:
- 黄山提升政府采购透明度 助力实体经济持续健康稳定发展
- 1-2月黄山新签“双招双引”项目103个 总投资额139.7亿元
- 池州海关共签发RCEP原产地证书22份 签证金额92.7万美元
- 宿州泗县深入推进文旅融合发展 擦亮城市品牌
- 河北工业生产平稳开局 固定资产投资较快增长
- 昆明西山区深入实施人才强区战略 建立健全招商招才引资并轨新模式
- 2月唐山新建商品住宅销售价格与上月持平 同比下降0.8%
- 去年河北电子信息产业实现主营业务收入2367.7亿元 同比增长22.4%
- 绥化望奎以工业化思维为引领 推动肉类加工制造产业腾飞
- 绥化市监局推出多项举措 大力促进有机产品产业发展
- 半路出家无心插柳 杭州西湖区“菌菇宝宝”变废为宝
- 温州鹿城区藤桥主打藤桥熏鸡 近两年销售额年均增长20%以上
- 1-2月安徽限额以上消费品零售额1030.4亿元 同比增长10.4%
- 2021年合肥市茶园面积13.6万亩 产值176350万元
- 淡季不忘引流 京郊民宿市场将很快迎来回暖
- 郴州安仁文旅项目集中开工 总投资1000万元
- 江苏服务业继续保持发展强劲势头 为高质量发展提供有力支撑
- 黄山休宁经开区摸排基础设施项目17个 计划总投资29709万元
- 前两个月宣城出口31亿元 增长34.4%
- 滁州凤阳2021年共接待游客225万人次 旅游综合收入20.25亿元
- 1-2月宿州市民间投资同比增长19.2% 居全省第3位
- 宿州严格审核把关 抢抓发行地方政府专项债券政策机遇
- 1-2月亳州市进出口总值5.5亿元 同比下降17.4%
- 合肥:弘扬茶文化 初步形成一条生态发展之路
- 合肥:建成“数字中国”领先城市 推进城市数字化转型
- 甘肃再续“艾黎情”:探职业教育德技并修
- 【城市守望者】致敬抗“疫”一线的“拆弹专家”
- 浙江绍兴越城区核酸检测结果公布 除1例阳性外其余均为阴性
- 内地首例奥密克戎变异株感染者身体状况如何?来自哪里?专家解读→
- 对变异病毒已有准备!关于中国新冠药物,钟南山发声→
- 江苏睢宁小网格大担当 织就乡村振兴“幸福网”
- 改造老旧小区 共享幸福生活
- 天津静海:群众在哪里,文明实践就延伸到哪里
- 齐齐哈尔:初步判断疫情感染来源为接触新冠病毒污染环境和物品
- 重庆大竹林派出所副所长因对群众态度简单粗暴被停职
- 黑龙江讷河病例感染源初步判断为新冠病毒污染的环境和物品
- 致敬2021
- 浙江瑞安民警捐献造血干细胞:14年前的心愿终将如愿
- “考研房”涨价离谱 律师:借机宰客有违市场伦理
- 广州白云机场:14天内有东莞旅居史的旅客须凭48小时核酸阴性证明乘机
- 浙江绍兴本轮疫情已报告确诊病例145例 无症状感染者1例
- 福建龙岩一男子和前妻斗气 扛着126斤硬币到法院“还钱”
- 重庆这座立交酷似“悟空” 走红 设计师揭秘(图)
- 青海警方破获特大电诈案 涉案流水高达1.7亿
- 云南新增境外输入确诊病例3例
- 黑龙江讷河市5名核酸阳性人员流调溯源:接触被新冠病毒污染的环境和物品
- 男子爱上女主播 假扮女主播闺蜜教其他男粉丝刷单
- 广西三市警方联手破获毒品案 全链条摧毁跨境贩毒团伙
- 广东东莞发现2例无症状感染者,部分镇今起全员筛查
- 从百二秦关到闻道凯旋 一个殉职医生最后的朋友圈
- 浙江发补充说明:三地铁路出行政策随风险等级同步调整
- 内蒙古新增本土确诊病例5例 均在呼伦贝尔满洲里市
- 陕西新增本土确诊病例1例 系隔离酒店工作人员
- 31省份新增新冠肺炎确诊病例76例 其中本土51例
- 浙江新增新冠肺炎确诊病例45例 其中本土44例
- 技能就是财富 技工也是人才
- 黑龙江新增本土确诊病例1例、本土无症状感染者4例
- 冷空气“调休”!我国大部陆续迎回暖 中东部雨雪稀少
- 华北黄淮等地大气扩散条件转差 冷空气将影响中东部
- 别误读了野猪或将不再是“三有”动物
- 您的ETC已到期?当心这个诈骗短信!
- 对回家的“宝贝”少一些关注,也是一种帮助
- 升温!北京今日阳光在线 最高气温将升至8℃
- 那年今日 | 一张漫画涨知识之12月14日
- 40岁男子一觉醒来突然听不见了 原因是……
- 本年度星空压轴大赏上演 双子座流星雨观赏地图来了
- 广东东莞大朗镇报告2例新冠肺炎无症状感染者
- 商丘4885份被盗出生证去哪了?10年“悬案”引关注
- 浙江海宁警方通报国家公祭日女子穿和服逛街
- 厨艺不精调料凑?懒人调料:年轻人的“下厨神器”
- “您的ETC已到期?”警方提醒:当心这个诈骗短信
- “网红”局长的热度 自述:走红后我就没有周末了
- 寻回被拐10年的儿子后又送走 儿子:害我没家了
- 小城里的三张面孔和警号301137
- 倡导“就地过年”,需因地制宜科学防疫
- 别用“入乡随俗”为星巴克找借口
- 北京地铁14号线年底全线贯通运营
- 天津市从入境人员中检出奥密克戎变异株
- “外滩活地图”黄俊:一个不想出圈的段子手交警
- 寻找一双儿女的25年
- 无锡市场监管部门责成星巴克涉事门店停业整改
- 海岛警事:为了一座岛和2900平方公里的海
- 北京民警宏福苑抗疫26天:“今夜我和雪花一起出发”
- 星巴克的“金标准”缘何败给了“潜规则”
- 患者被低价药“惊呆”的场面应该更多些
- 影视剧“超前点评”不止是“低级错误”
- “南昌鹦鹉案”下发不起诉决定书 网店上架费氏牡丹鹦鹉被拒
- 河南商丘4885份出生医学证明被盗始末追踪
- 绍兴市病例62-109活动轨迹公布
- 12月7日以来,杭州累计报告新冠肺炎确诊病例19例
- 浙江绍兴新增确诊病例37例 上虞区占36例
- 河南高院对张成功案作出死刑判决
- 四川一滑雪场停电游客被困索道 官方回应
- 浙江绍兴越城区新增1例新冠肺炎确诊病例 当地对防控区域划分进行调整
- 中国内地首次检出新冠病毒奥密克戎变异株
- 知网除了涉及著作权纠纷,是否涉嫌违反《反垄断法》?
- 浙江绍兴越城区新增1例新冠肺炎确诊病例
- 四川眉山千箱柑橘送往呼和浩特市抗疫一线
- 两名青年男女探险三亚落笔洞遗址被困沼泽 消防成功救援
- 中国地理学大会在福州发布《中国地理学界碳中和科技行动福州宣言》
广告
广告
- 与行业客户共创,软通动力大模型生态开辟新路径
- 姚振华及宝能控股等被执行11亿
- 湖南高院持续推进“三个规定”贯彻落实
- 2023年食品饮料行业中报总结:需求弱复苏,新渠道及场景修复贡献显著
- 小米桌面锁定怎么解除搜索_小米桌面锁定怎么解除
- 为什么孩子不愿做家长布置的作业?丨养儿育女
- “金九”首周钢材库存延续去化 终端拿货意愿不及往年同期
- 今日消息:赛莱拉干细胞新药研发临床试验正式启动
- 唯实重工申请新三板挂牌:专注于掘进机装备全生命周期管理的专业服务商
- 游轮上发布新鞋!网友:安踏对克莱远强于UA对库里!
- 义安区通用机场项目稳步推进
- 中国印尼警方联手抓获88名电信网络诈骗犯罪嫌疑人
- 广汇能源与国家管网集团接收站管理公司签署合作意向协议
- 4s修车怎样申请备用车
- 邮储银行副行长杜春野:上半年公司金融发展“量增、价优、险降”
- 新能泰山外资卖出0.03%股份|外资买卖
- 浦发银行郑州分行:积极开展“‘浦’及‘郑’能量”常态化宣传活动
- 2022白露节气日结婚好吗
- 《铁血联盟3》将登陆PS/XBOX平台 回合制战术游戏
- 液体乙酸钠商品报价动态(2023-08-31)