将一辆汽车平均做一次模拟测试的时间从10小时缩短到6小时,有效增加了方案验证的数量,保障了决策的快速输出。这背后是天翼云的智能计算能力,每秒千万亿次的计算速度,破解了计算普通PC机与服务器不能完成的大型、复杂课题。
如今,这样的“计算超能力”还将继续升级。在以“数字科技 焕新启航”为主题的2023数字科技生态大会上,天翼云发布一站式智算服务平台“慧聚”,同时全面升级天翼云,构建全栈大模型智算服务,包括智算数据中心AIDC、云智超一体化基础设施平台“云骁”、一站式智算服务平台“慧聚”、同时构建国云大模型生态,形成云智一体的智算服务体系。
在智能算力资源紧张、大模型应用逐渐深入等情况下,天翼云打造的全栈大模型智算服务,以及一站式智算服务平台“慧聚”应运而生,将以更完善、更高效、更普惠的智算服务赋能人工智能等行业创新升级,共推数字化的经济高质量发展。
从年初的“百模大战”到下半年的“寻求突围”,今年以来,各类大模型如雨后春笋般竞相涌现,根据估算,人工智能算力过去几年大体上年均增长率为70%,大模型的加速创新发展更是带来了激增的算力需求。
但与此同时,算力利用率的瓶颈日益凸显、算力成本压力进一步增大、模型的构建难度不断的提高、模型的行业落地更为复杂,智能算力资源供给紧张等问题陆续出现。根据《2022-2023中国AI计算力发展评估报告》统计多个方面数据显示,2022年我国智能算力规模达到268百亿亿次/秒(EFLOPS),超过通用算力规模,预计未来5年中国智能算力规模的年复合增长率将达52.3%,同期通用算力规模的复合增长率为18.5%。
在市场和技术的双重需求驱动下,当前我们迫切地需要运行成本低、运算速度快、稳定安全性高、部署难度低的全方位智能算力服务。本次天翼云对于智算服务的升级正是顺应了大模型行业的发展的新趋势,响应大模型的市场需求和变化,迎接大模型时代对于云智融合的新需求和新挑战。
作为云服务国家队,一直以来,天翼云积极地推进算力普惠发展,持续拓展云网基础设施覆盖广度深度,在国内构建了“2﹢4﹢31﹢X”的云网融合资源布局,构建了“集中化+区域化+属地化+边缘化”的云网基础设施,提供通用算力、智能算力和超算算力,助力AI快速完成数据训练,提高计算与模拟的精准性,提供普惠智能安全算力服务,真正的完成让算力触手可及。
与此同时,通过持续攻克关键核心技术,自主掌控全栈的云计算能力,国家云的框架全面成型;打造算力调度平台“息壤”,初步实现对全国大型算力的协同调度和高效计算。人工智能大模型应用的逐渐深入,给算力发展提出新的更多的要求,算力产业正步入由AI驱动的新一轮发展浪潮。《智算产业高质量发展白皮书》指出,大模型的海量算力需求,加速了智算供给模式从“零小散”向规模化、集约化转变;而应用场景的多样化,促使多元AI芯片异构融合成为智算供给的主流形态,与此同时,绿色低碳成为智算产业可持续发展重要考量。算力产业正在向规模化、智能化、场景化、绿色化转变。
在这样的发展的新趋势下,天翼云升级云智超一体化基础设施平台“云骁”,以平台形式提供高性能的计算、存储、网络服务,大幅度的提高数据加载、训练和推理效率,保障客户随时随地的使用智算资源;通过提升单集群规模纳管能力,使得“万卡集群,万亿参数”模型训练变为可能。同时也兼顾了绿色低碳的可持续发展的需求,针对AI高强度运算带来的散热问题,天翼云推出了液冷DC舱,融合定制化液冷智算服务器,实现低至1.12的PUE。
在平台层,天翼云推出大模型的一站式智算服务平台“慧聚”。将大模型开发训练过程中的关键流程、复杂技术和宝贵实践经验进行总结和抽取,构建出一站式全链路的大模型生产应用的流水线。大幅度降低大模型训练、微调、部署、推理的门槛,让客户能够更专注于模型升级和应用落地。
基于强大的智能算力和智算平台,目前,天翼云已为AI模型开发者、模型提供者、应用厂商、主管机构、科研院所、行业协会等生态伙伴提供多种生态模式支持。天翼云智算平台与服务已经与华为、中兴、商汤、依图、智源研究院、国家超级计算成都中心、并行科技等人工智能头部伙伴开展合作,通过探索更加深入的合作模式,共同赋能产业智能化。
随着大模型应用的逐渐深入,面向垂直行业的场景化需求尤为迫切,大模型训练和应用走向行业深度定制成为重要趋势。但大模型从通用走向行业深度定制,面临着构建难度大、技术门槛高、安全保证难等诸多挑战。恰逢其时,“慧聚”向我们走来。
“慧聚”,是天翼云一站式智算服务平台,将大幅度降低大模型训练、微调、部署、推理的门槛,提供一站式、全链路、低门槛、高安全的大模型训推服务,为各种行业、各种场景提供从模型的生产到应用闭环的大模型解决方案。
实际上,天翼云此次推出的一站式智算服务平台“慧聚”,不仅彰显了其为经济社会持续健康发展提供数据能力的担当,更显现了开拓创新的实力。今年4月底,天翼云发布了智能计算平台“云骁”,短短半年左右的时间,又对智能平台做升级。
与“云骁”侧重于提供智算、超算、通算多样化算力服务,实现高阶算力供给、资源高效利用、多种能力服务一站式提供相比,“慧聚”强调“通过构建一站式全链路的大模型流水线”以及“多个功能模块”,在多样化、全方位算力服务的基础上突出了全流程、个性化算力服务能力。
如何提升模型训练时间,如何保证稳定训练?针对这一些行业关注的痛点难点,“慧聚”也成功给予破解,在云智一体的智算服务体系的护航,和“云骁”的探索和实际基础上,“慧聚”平台能够说是“站在巨人的肩膀上”,通过技术创新,突破技术难点,实现了稳定性、训练推理速度等核心指标大幅提升。
据悉,此次发布的“慧聚”包含四大平台:数据平台、模型开发平台、模型服务平台和应用服务平台,并提供包含数据准备、模型开发、任务管理、模型优化在内的多个产品功能模块,帮助用户打造针对不一样场景的专属工具集,将满足行业用户对于大模型应用的实际的需求,真正提供智能化、个性化的算力服务。
在技术上,慧聚平台成功突破了算子加速、模型并行、断点续训等技术难点,将高性能计算能力、分布式算力调度能力、训练和推理多环节加速技术、高性能数据存储技术进行封装;实现了万卡集群调度,稳定性、训练推理速度等核心指标大幅提升。
“依托国云智算底座,发挥国云安全优势,广泛汇聚国内各类通用大模型及行业大模型,形成繁荣的大模型创新生态,成为国内领先的大模型智能算力服务提供商。”——这是天翼云大模型生态建设的核心理念。
实际上,天翼云在大模型生态建设上早就开始布局。慧及国计民生,泽被万家百姓,今年9月,天翼云发布政务大模型“慧泽”。基于优秀的意图理解和多元信息交互能力,“慧泽”可应用于政务咨询客服、政务坐席辅助等场景,可以依据市民的需求,准确快速地给出最优的办理流程和依据,提高政务服务效率;面对海量的政务数据,依托“慧泽”的多维信息关联和总结能力,可以帮助政府快速洞察热点事件、分析惠企政策落地等情况,及时掌握市民的关注点、惠企政策的应用成效等,为后续政策的制定提供支持,逐步提升社会治理水平。
可以说,“慧泽”是“慧聚”在政务场景的落地应用,“慧泽”凭借天翼云强大的逻辑推理与内容生成能力,还能够应用于文档摘要、会议助手等场景,帮助政府工作人员更准确、更高效地完成总结摘要、会议安排等工作,大幅度的提升办公效率。目前,“慧泽”已经深入融合到数字政府的全流程场景中,助力打造智能政务服务新范式、提升政务服务智能化水平。
在2023数字科技生态大会上,还发布首个视联行业应用型大模型——海纳视联大模型,海纳视联大模型以天翼云一站式智算服务平台“慧聚”为底座,通过对上亿量级训练数据学习,拥有百亿量级模型参数,具有5000余类标签识别、智能检索、分析理解、视觉超分等多项核心能力,面向城市治理、行业视觉、社区乡村、数字家庭等四大领域提供综合解决方案,赋能视联应用生态。
目前,天翼视联作为中国电信第五张基础网已初步建成,视联行业应用日益丰富,天翼视联累计视频终端接入数已经突破6000万。而如今发布的海纳视联大模型构筑于天翼云国云智算底座之上,是对此前天翼视联产品体系的一次全面升级,这也契合此次中国电信在5G焕新中提出的“新视觉”。
随着技术的慢慢的提升,大模型领域正在掀起一场产业新变革。能预见,未来,在“慧聚”的基础上,将会有更多的大模型应用在教育、医疗、娱乐、旅游等场景落地,基于国云智算底座的大模型生态将不断繁荣。
天翼云将持续赋能各类行业大模型,以卓越的性能和稳健的平台能力,通过构建开放共融的国云生态底座,为千行百业的智能化转型提供澎湃动力。
上一篇:2024-04-21