大模型引爆AI算力需求,青云“下一站”。

小夏 娱乐 更新 2024-01-30

“对于青云来说,AI时代将是一个新的机遇,10年将带来比过去10年更大的市场需求和机遇。 青云科技总裁林远说。 在这一轮AI大模型的技术进步中,支撑人工智能所需的算力自然成为关注的焦点。 基于对AI算力需求的洞察,青云发布了青云AI算力服务平台、青云AI算力云等产品和服务。

随着大型AI模型的发展,算力的重要性日益凸显。 以ChatGPT为例,根据相关调查数据,ChatGPT的总算力消耗约为3640pf-days,需要7到8个投资规模为30亿、算力为500p的数据中心来支持其运行。 值得注意的是,AI训练任务的算力增长极快,每3它将在 5 个月内翻一番。

在计算能力需求不断增加的同时,算力已成为推动数字经济发展的核心力量。 中国综合算力指数(2023)最新数据显示,截至2024年6月底,我国算力总规模已达197eflops,全国在用数据中心机架总规模超过760万个标准机架,位居全球第二。 近五年中国总算力年均增长率接近30%。

人工智能计算产业的发展既是机遇也是挑战。

林媛认为,人工智能和大模型是生产力的重大变化,在这种技术驱动的市场变革中,客户需求、算力需求、应用需求、底层架构都在发生变化。 近十年来,无论是面向C端的移动互联网,还是面向B端的数字化,应用创新主要基于CPU。 然而,随着 AI 的普及,几乎所有应用都需要拥抱 AI 技术或被 AI 修改,这增加了对 GPU 的需求。

不仅如此,在东数西算的趋势下,未来的AI应用在追求效率的同时,也会更加注重性价比,从而推动算力从低时延的东部沿海地区向算力更便宜的西部地区发展,未来算力的分布将更加分散。 此外,随着人工智能和云原生技术的不断发展,客户服务将变得更加复杂,业态将更加丰富,对技术和平台的挑战也将增加。

特别是在智能计算中心的建设和运营过程中,如何考虑其设计的合规性,如何实现超级计算、智能计算、通用计算等多种算力的统一调度,如何同时兼顾传统应用、云原生应用、AI应用,如何支持异构CPU和GPU, 如何提供高效的网络和存储,如何实现高效的运维运维运营,都是需要考虑的问题。可以说,智能计算中心建成后的运营成为关键挑战。

基于自身的经验和实践,青云科技也给出了相应的答案——AI算力服务平台,为行业提供了参考范式。 青云科技产品经理苗晖表示:“AI算力服务平台作为算力中心建设运营的新模式,旨在管理AI基础设施,提供多元算力调度,提供智能算力调度,确保算力快速建立。 ”

青云AI算力云是以青云为主,以生态联盟形式运营的AI算力服务。 与传统模型相比,青云AI计算云具有一定的优势:从客户的角度来看,他们需要一个完整的解决方案,包括机房、算力、调度平台、模型驱动、模型、模型服务,以及上述应用从最优秀的商人的角度来看,每一层都需要专业的技术和长期的积累和巨大的投入。

林远认为,在AI领域,巨头肯定会出现,但这些巨头不应该是一家独立的公司,而应该是一个良好的生态合作体系,这需要所有公司共同努力,推动AI技术的进步和发展。

相似文章

    大型语音AI模型公司AssemblyAI完成5000万美元C轮融资

    百人援助计划 猛兽财经获悉,总部位于美国加州旧金山的大型语音AI模型公司AssemblyAI今日宣布完成万美元C轮融资。本轮融资完成后,AssemblyAI总融资额已达本轮融资亿美元,由Accel领投,Insight Partners Keith Block的Smith Point Capital ...

    谷歌大型AI模型双子座出道 擅长复杂主题推理,懂编程语言PKGPT 4

    乐天 上 月日 美国科技巨头谷歌今天宣布推出其人工智能模型 Gemini,该模型针对三种不同的尺寸进行了优化 Gemini Ultra Google 最大 最有能力的模型,适用于高度复杂的任务。Gemini Pro Google 扩展各种任务的最佳模型。Gemini Nano Google 最高效的...

    谷歌发布了最强大的AI模型Gemini,超越了GPT 4!

    当地时间月日,谷歌CEO桑达尔 皮查伊 Sundar Pichai 正式宣布双子座号版本 正式上线。据报道,这是人工智能模型的巨大飞跃,最终将影响几乎所有谷歌产品。Gemini 型号包括三个数量级 最强大的 Gemini Ultra 可扩展的多任务 Gemini Pro 和用于特定任务和移动设备的 ...

    东方超级计算机参与了国家《大模型智能计算服务白皮书》的讨论和撰写。

    东方超级计算机参与国家 大模型智能计算服务 研究与撰写工作 月日,中国信息通信研究院组织召开会议 大模型智能计算服务 第二次研讨会,东方超级计算机来自中国移动研究院 中国联通研究院 电信研究院 阿里巴巴 华为 字节跳动 绥源科技 摩尔线程 中兴通讯等企业的专家及余位专家参加了本次研讨会。近年来,人工...

    英伟达芯片出口受限,导致AI算力突发,显卡涨价200!

    随着英伟达多款芯片出口受限,AI算力市场面临前所未有的挑战。这种情况不仅导致算力租赁概念股赢家科技 中北通信等公司宣布上调算力服务费,也引发了行业内涨价的局面。近日接受英联社采访,由于英伟达A费用涨幅倍的影响,行业内涨价的消息传来不绝于耳。显卡涨倍是常态,前段时间连都涨了倍,后来又降了下来。这导致了...