近日,明途科技与成都智算中心联合孵化的WorkBrain模型基于昇腾AI基础软硬件平台以及昇思MindSpore全场景AI框架完成兼容性测试,并获得昇腾技术认证,成为四川首家适配完成的大模型!
成都明途科技有限公司(以下简称“明途科技”)自2022年正式加入昇腾万里伙伴计划,明确基于昇腾AI基础软硬件平台在垂类模型领域进行创新开发。随后在成都智算中心的协助下,明途WorkBrain模型进行了软硬件调优测试。2023年11月,明途科技与成都智算中心联合发布WorkBrain垂直大模型V3.0,以政企AI数字人赋能数据价值要素释放、创新品牌运营服务、驱动政企数字化转型升级。2024年3月,明途科技与成都智算中心达成了战略合作,共同推动WorkBrain模型的落地应用。
截止目前,明途科技已基于昇腾硬件底座和昇思MindSpore全场景AI框架,完成了WorkBrain原生大模型训练&微调,其模型算力密度提升8-10倍,训练性能提升1.9倍。此外,高性能预训练模型的扩展识别场景达69种以上,为政府、企业、文旅、教育、健康等行业应用提供了强大的支持。
WorkBrain模型采用"认知-感知-决策"混合模型范式,自研架构模型参数量达到150亿,在高级逻辑推理、专业领域适应性、精准定制扩展、高效任务执行等方面发挥出更优的性能。同时,有效解决了渐进式训练过程中的知识遗忘问题。
具有以下特点:
01小样本学习泛化突破利用昇腾硬件底座、昇腾异构计算架构CANN和高性能算子执行能力,使WorkBrain模型的算力密度大幅提升,在小样本学习方面,WorkBrain 内容生成的语义准确率超过95%。通过少量样本训练,迅速适应新任务,输出高度连贯、语义丰富的工作内容。
02推理加速集成通过昇腾MindIE推理引擎部署WorkBrain模型,在推理过程中实现了性能和效率的优化,能够在昇腾加速卡上实现高效训练和推理,针对INT8、INT4等低精度量化推理进行了专门优化,在节省75%内存开销的同时,实现了2-3倍的推理速度提升。
03Agent智能体服务利用MindSpeed 分布式加速套件的软硬协同优化,丰富了WorkBrain服务集成能力,将数字人能力与具体业务流程相结合,精准触达用户需求,全面提升用户体验。
日前,WorkBrain工作大脑及智能数字人终端用户突破500万,在国家电网、赛迪研究院、成都科创生态岛、四川广元文旅、自贡国际恐龙灯会等政府、园区、企业、广电等行业完成试点/落地,实现了全闭环智慧管理服务。
未来,成都智算中心将深化与明途科技的战略合作,充分依托昇腾在人工智能领域积累的技术优势和软件工具,持续优化迭代大模型产品及行业解决方案,共同推进中国人工智能产业的发展。