2024年7月3日,由华为技术有限公司主办,智算云腾(成都)科技有限公司、成都昇腾人工智能生态创新中心、四川省人工智能研究院共同承办的2024昇腾AI金种子实训班(成都站)圆满落下帷幕!
此次活动主要面向昇腾生态合作伙伴核心开发者,通过理论授课、应用实操、答题考试三大环节,助力开发者们了解昇腾AI大模型开发解决方案,提升贴近业务场景的软硬件协同开发能力,共建昇腾AI开发者生态。
活动伊始,成都昇腾人工智能生态创新中心CTO余明川为本次活动致辞,他表示,昇腾坚持聚焦基础软硬件,打造坚实AI算力底座,并始终与开发者共成长,本次课程聚焦伙伴开发者在实际应用中的需求和问题,以大模型训练、微调、推理实战项目进行赋能教学,在加速昇腾原生人才培养的同时,助力行业伙伴在数智化转型中打造更具竞争力的AI产品和解决方案。
理论筑基,深入昇腾AI技术前沿
上午,华为昇腾生态布道师杨德城首先为在座开发者详细介绍了昇腾AI基础软硬件解决方案、离线推理概念等基础知识,并着重介绍了昇腾异构计算架构CANN(Compute Architecture for Neural Network)为推理应用开发所推出的编程语言AscendCL、Ascend C的核心要点。在了解了基础理论知识后,杨老师又深入剖析了昇思MindSpore大模型原生开发及Pytorch模型迁移,展示了MindSpore Transformers套件如何覆盖大模型的原生开发流程,包括开发、训练、微调、评估、推理和部署等各个环节,对于大模型的迁移开发,昇腾算力底座提供了强大的支持,兼容Pytorch、TensorFlow等各类框架、加速库及三方社区。
实践真知,面对面互动解惑
经过上午基础理论的讲解,下午正式进入动手实操环节,杨德城老师与成都昇腾人工智能生态创新中心的FAE技术支持团队手把手带领伙伴开发者进行小模型实训和大模型开发实践操作,从环境部署、权重准备、数据准备到模型训练&推理流程层层深入,在实践中掌握昇腾AI大模型原生开发技能。借助ModelArts平台,使用Mindformers套件,开发者对LLaMA2-7B模型进行LoRA微调和推理,在实战中快速积累了宝贵的实践经验和昇腾AI相关技术的见解。
实操环节
经过一天的学习,开发者们的热情随着到来的考试答疑环节更加高涨,提出的问题有的关乎技术细节的实现,有的是对理论概念的疑惑,还有更关键的是在实际项目中遇到的棘手问题。针对这些纷繁复杂的问题,杨老师与FAE团队进行了耐心解答,并指导了具体操作,进一步巩固了学习成果,确保伙伴开发者能够深入理解并应用昇腾AI基础软硬件平台。
昇腾AI金种子实训班基于伙伴开发者的真实业务场景和培训需求,切实帮助伙伴开发人员掌握昇腾AI基础软硬件特性,高效调用昇腾AI各类开发工具,助力伙伴构建基于昇腾进行原生人工智能训练推理开发与工程化能力。本次成都站的顺利举办,为人工智能行业人才搭建了一个技术交流与合作的平台,在推进区域人工智能技术创新应用、产业数字化转型中贡献出“昇腾”力量!