“对于青云来说,AI时代将是一个新的机遇,10年将带来比过去10年更大的市场需求和机遇。 青云科技总裁林远说。 在这一轮AI大模型的技术进步中,支撑人工智能所需的算力自然成为关注的焦点。 基于对AI算力需求的洞察,青云发布了青云AI算力服务平台、青云AI算力云等产品和服务。
随着大型AI模型的发展,算力的重要性日益凸显。 以ChatGPT为例,根据相关调查数据,ChatGPT的总算力消耗约为3640pf-days,需要7到8个投资规模为30亿、算力为500p的数据中心来支持其运行。 值得注意的是,AI训练任务的算力增长极快,每3它将在 5 个月内翻一番。
在计算能力需求不断增加的同时,算力已成为推动数字经济发展的核心力量。 中国综合算力指数(2023)最新数据显示,截至2024年6月底,我国算力总规模已达197eflops,全国在用数据中心机架总规模超过760万个标准机架,位居全球第二。 近五年中国总算力年均增长率接近30%。
人工智能计算产业的发展既是机遇也是挑战。
林媛认为,人工智能和大模型是生产力的重大变化,在这种技术驱动的市场变革中,客户需求、算力需求、应用需求、底层架构都在发生变化。 近十年来,无论是面向C端的移动互联网,还是面向B端的数字化,应用创新主要基于CPU。 然而,随着 AI 的普及,几乎所有应用都需要拥抱 AI 技术或被 AI 修改,这增加了对 GPU 的需求。
不仅如此,在东数西算的趋势下,未来的AI应用在追求效率的同时,也会更加注重性价比,从而推动算力从低时延的东部沿海地区向算力更便宜的西部地区发展,未来算力的分布将更加分散。 此外,随着人工智能和云原生技术的不断发展,客户服务将变得更加复杂,业态将更加丰富,对技术和平台的挑战也将增加。
特别是在智能计算中心的建设和运营过程中,如何考虑其设计的合规性,如何实现超级计算、智能计算、通用计算等多种算力的统一调度,如何同时兼顾传统应用、云原生应用、AI应用,如何支持异构CPU和GPU, 如何提供高效的网络和存储,如何实现高效的运维运维运营,都是需要考虑的问题。可以说,智能计算中心建成后的运营成为关键挑战。
基于自身的经验和实践,青云科技也给出了相应的答案——AI算力服务平台,为行业提供了参考范式。 青云科技产品经理苗晖表示:“AI算力服务平台作为算力中心建设运营的新模式,旨在管理AI基础设施,提供多元算力调度,提供智能算力调度,确保算力快速建立。 ”
青云AI算力云是以青云为主,以生态联盟形式运营的AI算力服务。 与传统模型相比,青云AI计算云具有一定的优势:从客户的角度来看,他们需要一个完整的解决方案,包括机房、算力、调度平台、模型驱动、模型、模型服务,以及上述应用从最优秀的商人的角度来看,每一层都需要专业的技术和长期的积累和巨大的投入。
林远认为,在AI领域,巨头肯定会出现,但这些巨头不应该是一家独立的公司,而应该是一个良好的生态合作体系,这需要所有公司共同努力,推动AI技术的进步和发展。