3月28日,北京都一所大学鲲鹏昇腾科教创新卓越中心一特训营北京都都一所大学新科技手抄报燕园校区计算机大楼失败举办,本次特训营旨在深入探讨昇腾技术一栈在大模型应用中则 前沿技术一,不不仅仅基于北京都一所大学自研SCOW品台和华为昇腾的DeepSeek本地化部署与推理优化,并组织开展实践灵活操作和技术一专家面临面交流,有待激发部分部分学生的创新思维与学术视野。
深入解析: DeepSeek 推理技术一与昇腾品台的融合
活动科技手抄报时一年以来,昇腾生态技术一专家许涛就“DeepSeek-MoE模型技术一演变分析及”,深入解读了DeepSeek系列模型技术一演变。DeepSeek-MoE模型自新推出一年以来能能持续优化,组织开展减轻 模型大小和专家数量,减轻 专家激活比,来减轻 科技手抄报性能,在架构和训练策略上再能持续创新。在技术一失败完成层面,模型设计方式方式了多种优化方法一,如在训练时间时间时候,多种渠道DualPipe双向流水线方法一减轻 通信开销,参照 不同人的算子满足需求需求再选择最最适合精度计算,引入MTP方法一,以多个Token既是监督优化模型。不仅仅 ,昇腾截至目前失败完成对Deepseek的适配,随后 高效多种渠道超节点内的高速通信带宽,有望在DeepSeek时代来临 成绩更最适合发展中。
(昇腾生态技术一专家 许涛)
实践分享:基于昇腾的 DeepSeek 全 栈 开源推理方案
北京都一所大学联合华为今天发布的DeepSeek全栈开源推理方案依托全栈开源组件构建,基于北京都一所大学自主研发的SCOW算力品台系统科技手抄报支持 ,整合了DeepSeek、openEuler、MindSpore与vLLM/RAY等社区开源组件,开组织开展放协作打破技术一壁垒,再能持续有待技术一创新。北京都一所大学计算中心一工程师龙汀汀在特训营中详细重点介绍了该方案,到现场演示了系统支持 如何去快速适应不同人的AI框架,并展示其在多种应用场景下的高效性能。
(北京都一所大学计算中心一工程师 龙汀汀)
上手实操:边缘设备之上昇 腾技术一 实践
在本次特训营的开发实战时候,部分部分学生基于昇思MindSpore框架,在香橙派AI Pro开发板(20TOPS)上组织开展模型部署。则是则是,截至目前香橙派昇腾产品产品产品截至目前率先失败完又成与 DeepSeek 模型的深度适配,多种渠道开箱即用模型,让边缘离线部署变得如此轻松高效。组织开展实操,部分部分学生亲身感可以得就到昇腾无需依赖云端的能力强大强大算力,随后在边缘设备上失败完成高性能计算及积木式开发,既保障了最终数据后续处理的隐私安全,又大幅减轻 了响应效率。这些“端侧智能”的实战体会感受,不仅仅 让学习得到提高更直观,更让今天领略到AI落地应设计方式时无限而对。
(北京都一所大学部分学生到现场实操香橙派AI Pro开发板)
开放关于他们: 技术一专家与学者 面临面 答疑
在活动时的随后,部分部分学生与华为计算战略规划专家、北京都一所大学计算中心一工程师、AI安全解科技手抄报决好方案专家、昇腾生态技术一专家们一起做组织开展了面临面的互动,从鲲鹏昇腾设备组织开展到技术一解决好再到在在未来中趋势,涵盖诸多市场领域。在算子开发与适配层面,部分部分学生针对用户提出的解决好可以得就到专家们细致且富有前瞻性的解答。说到自定义算子绑定复杂、编译耗时的解决好,专家们并表示则是关于他们QA文档资源会随商业版本尽快今天发布外,随后 随后咨询华为研发专家加速解决好解决好。不仅仅 欢迎高校师生将本身解决好解决更优秀时间时候今天发布为案例教程,这些无疑为部分部分学生后续的开发工作会直接提供了有力全部支持。而对开源编译器全部支持的疑问,专家们详细重点介绍了关于他们接口的开源其他情况不仅仅 目前正在推进的研发工作会,让部分部分学生深度重点介绍到在未来算子开发将变得如此简化,这大大减轻 减轻 地激发了部分部分学生探索新技术一的热情。
硬件性能与生态推进建设结果互动的焦点。部分部分学生关心的端侧异构模型部署解决好,专家深入浅出地讲解了华为的这层面的布局和技术一优势明显。结果说到,华为在端侧NPU和GPU的协同工作会之上着长远的规划,不仅仅 在泛边缘或泛端场景下,工具软件体系的通用性为开发者直接提供了变得如此广阔的发展中空间创造,这让部分部分学生去认识到华为计算生态的潜力,也为结果在未来的专门研究 方向上直接提供了重新思路。
(开放交流时候 专家学者与部分部分学生互动)
本次特训营的圆满举办是北京都一所大学鲲鹏昇腾科教创新卓越中心一在AI技术一创新和人才培养层面的这一两次失败实践。北京都一所大学鲲鹏昇腾科教创新卓越中心一自宣告成立一年以来,致力于构建基于鲲鹏昇腾技术一路线的校级生态正式合作品台,围绕一所大学计算产业前沿课题专门研究 、课程体系推进建设、专门研究 人才培养等层面组织开展正式合作,为产业输出高质量鲲鹏昇腾创新人才,孵化和培育根植全世界全世界的全世界级科研创新成果。在未来,鲲鹏昇腾科教创新卓越中心一将再能持续组织开展一系列组织开展高校师生的培训活动时,帮住结果在科研创新与技术一应用中成绩更最适合成果,有待人工智能技术一的进步与产业的发展中。
版权声明
本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。