英伟达被“偷”了? 一款比GPU快十倍的新型AI芯片诞生了

小夏 科技 更新 2024-02-24

最近,一家名为 Groq 的初创公司正在:人工智能该领域引起了轰动。 他们正在推出一种全新的人工智能芯片LPU(语言处理单元)被称为 Nvidia GPU 速度的十倍,但成本仅为其十分之一。 Groq 的创新之处在于,他们选择了一条全新的系统路线,通过 LPU 的推理该引擎为大型 AI 模型等计算密集型应用程序提供了最快的速度推理速度。 值得一提的是,groq芯片使用230MB的大小sram内存,带宽高达80TBS,使其在性能和速度方面具有明显的优势。 本文将从成立背景、技术特点及未来发展等展开,为读者带来一场关于Groq的讲座科技盛宴。

Groq 成立于 2016 年,是一个家族人工智能解决方案公司 其创始团队成员中有八人来自谷歌他们在TPU的发展中发挥了重要作用。 例如,Groq 的创始人兼首席执行官 Jona Thanross 设计并实施了最初的 TPU芯片并负责TPU研发工作量的20%。 他还加入了 GoogleX 快速评估团队,负责:谷歌母公司 Alphabet 设计和孵化新的创新项目。 整个团队是人工智能各自领域的专家、丰富的经验和技术实力为Groq的发展奠定了坚实的基础。

除了丰富的经验背景外,Groq 还与以下机构合作:谷歌人际关系也使他们陷入困境人工智能该领域有更多的机会和资源。 这为GROQ提供了更大的创新舞台,使他们能够走不同的道路,选择与GPU和CPU不同的发展道路。

Groq 选择了一条全新的系统路线,即语言处理单元 (LPU)。 LPU是一种新型的高速端到端处理单元系统推理可以为大型 AI 模型等计算密集型应用程序提供最快的速度推理速度。 LPU 在克服大型模型瓶颈方面具有显着优势,包括计算密度和内存带宽

在计算密度方面,LPU 比 GPU CPU 具有更强的计算能力,因此它们可以减少每个字的计算时间,从而更快地生成文本序列。 格罗克芯片它采用 14nm 工艺制造,配备 230MB 系统sram内存,这使得 LPU 在大型型号上的性能比 GPU 好几个数量级。 此外,Groq's芯片它还具有 750tops 和 188tflops 的整数运算速度浮点运算速度,这为其高性能提供了强有力的支持。

内存带宽方面,Groq的芯片使用sram内存带宽高达 80TBS,这使得:芯片数据传输更快、更高效。 sram作为目前读/写速度最快的存储设备之一,它具有高能效和高精度的特点。 特别是在内存逻辑技术发展之后sram它广泛用于CPU主缓冲器和辅助缓冲器等要求苛刻的领域。 格罗克芯片使用中sram同时,也注重性价比的平衡,做到了高性能与高效率的良好平衡。

Groq 的推出引起了很多关注,他们的芯片被认为是颠覆性的人工智能该领域的创新之一。 Groq的技术优势不仅在于速度的提高,还在于成本的降低。 芯片成本仅为 Nvidia GPU 的十分之一,这使得人们更容易使用高性能的 GPU芯片从而推动人工智能技术发展。

在应用领域方面,Groq的芯片前景广阔。 首先,它可以应用于语言处理领域,快速生成文本序列并改进自然语言处理效率。 其次,Groq's芯片它可以应用于大规模的数据分析和机器学习领域,为数据科学家和研究人员提供更多的计算资源。 此外,Groq's芯片它还可以应用于智能驾驶、医疗诊断等领域,为这些领域的发展提供更强大的计算和处理能力。 简而言之,groq芯片人工智能该领域具有巨大的应用潜力,为行业发展带来了新的机遇。

Groq 作为一个家庭人工智能解决方案公司,拥有全新的人工智能芯片LPU已成为业界关注的焦点。 这芯片它不仅比 Nvidia 的 GPU 快十倍,而且成本仅为它的十分之一,使其在人工智能该领域具有巨大的竞争优势。 Groq的团队拥有丰富的背景,他们的创新思维和技术实力为公司的发展奠定了坚实的基础。 Groq的技术特点和应用前景也使其在人工智能该领域具有广阔的应用前景。 在未来,我们可以期待 Groq 在人工智能该领域的不断发展和突破,为行业的进步做出了贡献。

相似文章

    挑战 NVIDIA! AI大型模型芯片创业公司成功获得亿元融资!

    挑战 NVIDIA!某AI大型模型芯片创业公司成功获得亿元融资!韩国人工智能芯片公司Rebellions前段时间宣布,该公司已收到万美元的B轮投资,用于加速下一代AI芯片Rebel的开发,该芯片可以适应大规模语言模型。该公司还将利用最初的万美元额外资金来增加其数据中心处理器Atom的产量,该处理器也...

    挑战 NVIDIA! 一家AI大型模型芯片创业公司获得亿元融资支持!

    挑战 NVIDIA!一家AI大型模型芯片创业公司获得亿元融资支持!芯达月日报道称,韩国一家名为Rebellions的人工智能芯片公司前段时间宣布,该公司已获得B轮投资亿元,公司将重点研发新一代人工智能芯片Rebel,可用于处理大规模语言模式。新一轮融资已超过原定的万美元,将用于增加Atom处理器的产...

    挑战 NVIDIA! 某AI芯片初创企业获得亿元融资支持!

    挑战 NVIDIA!某AI芯片初创企业获得亿元融资支持!月日,韩国人工智能芯片初创公司Rebellions前段时间宣布,已获得.亿元B轮融资,旨在加速下一代人工智能芯片Rebel的研发,该公司还将增加万元,以增加Atom Recruit等数据中心芯片的产能。该公司还将使用超过万美元的新 来增加Ato...

    在英伟达宣布华为的AI芯片构成挑战后,出现了一个奇怪的现象

    英伟达高层认可华为AI芯片实力 在最近的一次公开演讲中,英伟达负责人黄建勋直言不讳地表示,华为已经成为英伟达在人工智能芯片市场的重要竞争对手。这番话一出,立刻引起了业界的广泛关注。作为全球人工智能芯片的 老大 英伟达对华为的公开 认可 无疑是对后者实力的高度肯定。英伟达在人工智能芯片领域具有举足轻重...

    AMD正式发布AI芯片,英伟达应该紧张

    amd在人工智能中芯片该字段的打开方式英伟达竞争之旅。近日,在 Advancingai 活动中,amd发布用于大型模型训练和推理MIXGPU,以及 HPC 的MIAAPU。Microsoft 和meta而其他巨头也纷纷宣布将使用amd最新的人工智能芯片instinctmix。这一消息引起了广泛关注,...