聚焦生成式AI,从基石到平台再到应用,亚马逊云科技如火如荼

小夏 科技 更新 2024-01-29

简介:在生成式AI的道路上,

云厂商的行业呼声越来越响亮......

【全球云观测、技术热点】。

2024年,全球科技行业最热门的事物是生成式AI,即人工智能生成的内容。 在生成式AI的道路上,虽然没有千军万兵,但国内外大部分科技巨头都积极进场,自身表现精彩纷呈,其中来自云厂商的行业呼声越来越响亮。

12月12日是个好日子。 2023 re:invent中国城市巡展在北京拉开帷幕,活动最吸引我的是,亚马逊云科技对生成式AI的关注,为行业带来了全新的视野,可谓是一次战略升级,火力十足。

锻造生成式AI基石,多措并举强化AI芯片能力

众所周知,任何想要玩转生成式人工智能的科技巨头都离不开基础设施的大力支持。 在算力、存储能力、承载能力等方面具有天然优势的云厂商也不例外,但他们更善于利用自身的力量,继续打造生成式AI的基石。

首先,强大的算力是刚性需求,亚马逊云科技很早就开始了AI定制芯片的技术研发,从芯片底层为AI算力提供了澎湃动力,也是对GPU核心短缺的积极回应。

然而,全球能够在AI芯片上拥有完美自研能力的云厂商屈指可数。 亚马逊云科技是其中的代表,自研的AI芯片不仅严肃专业,而且具有长期、持续的特点。

不过,早在2024年,亚马逊云科技就推出了首款自研芯片产品Amazon Nitro,从此开启了自研“芯片”的新节奏。 它还构建了业界领先的硬件虚拟化引擎,支持云中的安全性、性能和创新。 目前,它已经达到了第五代Amazon Nitro,但Amazon Nitro在虚拟化芯片方面的定位。

此外,自研ARM架构服务器CPU芯片起步很早,多年前,亚马逊云科技就开始推广云原生处理器芯片Amazon Gr**Iton的产品,2024年Re:Invent中国城市巡展北京首站也推出了最新的Amazon GR**ITON 4。

简要回顾一下亚马逊GR**ITON的历史,2024年推出了第一个版本的Amazon GR**ITON,并于2024年12月推出了Amazon GR**ITON 2。 2021 年,公司推出了 GR**ITON 3,性能比 GR**ITON 2 提升 25%,能耗降低 60%。 2022 Re:LNent 推出亚马逊 GR**iton3E 芯片。 2023RE:LNent 再次升级推出亚马逊 GR**ITON 4,性能更高、性能更强,与 GR**ITON 3 相比,GR**ITON 4 核心数增加了 50%,处理速度提高了 30%,内存带宽提高了 75%,数据库应用速度提高了 40%,大型 J**A 应用程序的处理速度提高了 45%。

Amazon GR**iton 在用户应用中获得了强劲的势头。

可以看出,持续的技术创新和迭代造就了Amazon GR**ITON处理器,它成功地为运行在Amazon EC2中的云工作负载提供了更好的性价比和更低的能耗。 与基于 x86 的同类亚马逊云科技实例相比,使用 Amazon GR**ITON 芯片的 Amazon EC2 实例可将成本降低多达 20%,并实现高达 60% 的节能,同时与同类亚马逊云科技实例相比,实现相同的性能。 目前,有 150 个亚马逊云科技计算实例正在使用 Amazon gr**iton 处理器,超过 5 个用户(包括排名前 100 的企业)正在使用这些实例。

在虚拟化芯片和CPU芯片领域,亚马逊云科技不仅坚持不懈地追求卓越,而且在GPU领域也矢志不渝地追求卓越。 针对生成式AI和机器习训练的发展,亚马逊云科技于2024年正式推出了基于云的AI芯片Amazon Trainium。 最新的 Amazon Trainium2 将再次将云 AI 芯片的功能提升到一个新的水平。

Amazon Trainium2 的功能是第一代 Amazon Trainium 的四倍,能效是其前身的两倍。 这相当于每个芯片 650 teraflops(每秒 1 万亿次浮点运算)的计算能力。 一个由 100,000 个 Amazon Trainium 芯片组成的集群可以在几周内训练出具有 3000 亿个参数的大型语言模型。 在那之前,重塑AI芯片的价值太难了。 然而,自从Amazon Trainium推出以来,更多面向大规模应用创新的企业看到了新的发展路径。

一些不熟悉公有云行业的朋友可能会有疑问,如果服务器CPU、GPU芯片不是Intel、AMD、NVIDIA等现成的商用产品,为什么还要亚马逊云科技自己开发打磨针对这个问题,亚马逊云科技计算与存储产品总监张扬在演讲中提到,只有打造“核心”云基础,才能重塑生成式AI的基础。 毕竟,生成式AI工作负载需要极高的计算密度,而要想实现更好的算力和性价比,云厂商必须从基础做起,自己动手,精通公有云开发的亚马逊云科技也不例外。

为此,重塑计算基础也成为亚马逊云科技锻造生成式AI基石的重要举措之一,并将长期引领。

在北京大会上,还宣布亚马逊云科技与英伟达的合作日趋完善,双方将共同推出先进的基础设施、软件和服务,推动生成式AI的持续创新。 亚马逊云科技将成为首家在云端配备英伟达最新GPU芯片GH200 Grace Hopper的云厂商,并将推出NVIDIA DGX Cloud NVIDIA AI“训练即服务”。 在Project CEIBA进一步合作的基础上,两家公司将共同打造世界上最快的AI超级计算机,以及更多基于NVIDIA GPU芯片的云实例。

为此,通过AI芯片的定制,云厂商可以通过持续的技术优化,支持生成式AI工作负载日益增长的计算量,但数据量激增呢?

这里特别不得不提Amazon S3,自从17年前亚马逊存储服务正式推出以来,它已成为最受欢迎的云存储服务之一,拥有来自全球各行各业的数百万客户,Amazon S3也成为全球云存储的重要标准之一。

Amazon S3 Express One Zone现已全面推出,与Amazon S3标准相比,数据访问速度提高了10倍,数据请求成本降低了50%,可以满足机器学习习训练和推理、交互式分析和内容创建等请求密集型工作负载所需的高性能存储,进一步展示了亚马逊云科技在打造生成式AI基础方面的综合实力。

当然,打造生成式AI的基石,离不开亚马逊云科技提供的高度安全可靠的云基础设施。 如今,已在全球31个地区实现99个可用区,覆盖245个国家和地区,亚马逊云科技无处不在的云服务网络已快速触达其不断创新的AI芯片能力的每一个角落。

开放工具平台,拓展强化模型生态

生成式AI基石的鲁棒性,自然会给大模型的开发带来很大的帮助。 不仅如此,亚马逊云科技推出的一款可以接入托管基础模型的工具平台Amazon Bedrock,面向所有大模型厂商开放,还可以根据具体应用需求实现定制开发,有利于拓展和加强大模型生态。

不仅在战略上,而且在具体战术的实施上,这是业界对亚马逊云科技一贯发挥的中肯评价。 亚马逊基岩再次证明了这一点。

在此之前,我记得业内有一句话,没有一家供应商可以满足用户在数字化之旅中的所有需求。 如今,这句话也适用于大型模型产业化的发展过程。 千行百业都在尝试将生成式AI主动融入到各自的业务中,但在大模型产业化的实际实施中,没有一个单一的大模型能够适合所有应用场景。 该怎么办?

这就是亚马逊基岩诞生的意义所在,有了这样一个可以接入托管基础大模型的工具平台,千行百业的用户都可以选择任何适合的大模型,比如电商公司可以使用产品文档来训练自己的模型,这进一步提高了大模型训练实践和创新自身业务应用的能力。 出人意料的是,Amazon Bedrock已经服务了全球数以万计的用户,比如Salesforce、MongoDB等知名公司,纷纷采用Amazon Bedrock平台推广生成式AI的应用。

通过两项新功能,微调和持续预训练,这两项新功能允许用户在 Amazon Bedrock 中为特定任务自定义大型模型。 它不仅允许用户在标记的数据集上训练大型模型,而且还允许用户在非常大的数据集上自定义大型模型,例如当涉及数十亿个令牌时。 同时,可以对未标记的数据集进行连续预训练,无需创建输出示例,可以大大减少创建训练数据集的工作量,降低AI定制的成本。

Amazon Bedrock的全面更新带来了三大优势:便利性、体验性和安全性。

首先,更好的便利性。 借助 Amazon Bedrock 平台上最新的代理功能,任何开发人员都可以使用自然语言命令轻松方便地实施生成式 AI 应用程序,例如跨公司系统和数据源处理销售订单等多步骤任务,而无需复杂的设计提示、管理上下文会话或手动编排系统。

其次,它更具体验性。 全开放的大型模型开发平台,不仅支持用户调用Amazon Titan,还支持AI21 Labs、Anthropic、Stability AI等第三方多样化模型,并可定制开发。

第三,安全性更高。 为了确保用户能够更安全地使用生成式 AI 技术,开发人员利用新推出的 GuardRails 功能,为所有应用程序提供跨大型模型的 AI 安全一致性,从而在大型模型中实现新的保护措施。 此外,Amazon Bedrock在设计时考虑到了用户数据的安全性,在传输中和静态时都进行了加密,使所有用户数据都是安全的,进一步增强了隐私保护,防止其被他人使用。

值得一提的是,在亚马逊基岩的帮助下,ISV在生成式AI时代也获得了新一轮的能力。 作为全球公有云领域公认的领导者,亚马逊云科技坚持生态成功的战略,开展全球合作伙伴计划超过10年,构建了全球亚马逊云科技合作伙伴网络(APN),目前在全球拥有超过12万家合作伙伴,覆盖150多个国家, 在国内的合作伙伴总数已超过6000家。

新发布的亚马逊云科技生成式 AI 卓越中心向所有合作伙伴网络 (APN) 成员开放,并提供与生成式 AI 相关的教育和培训资源。 生成式 AI 解决方案提供商和行业领导者也欢迎分享他们的经验,来自 Anthropic、Boston Consulting Group、Capgemini、Cohere、IBM、麦肯锡、NVIDIA 和 Pineconone 等合作伙伴的内容已经在生成式 AI 卓越中心进行了展示。 生成式 AI 卓越中心为您提供了构建生成式 AI 专业知识的 习 方法,以及从成功解决方案中学习的方法,从而推动 ISV 拥抱生成式 AI 时代并获得更多增长机会。

可以看出,亚马逊基岩+APN+生成式AI卓越中心,必将赋能亚马逊云科技进一步拓展和强化模型生态,持续实现“生态成功”价值最大化。

说到企业级生成式 AI,它简直......

锻造AI的基石很容易理解,毕竟亚马逊云科技本身就是公有云厂商,云已经成为全球企业的基础设施,自然是AI的重要基础设施。 如何构建像 Amazon Bedrock 这样的开放工具平台并不难理解,作为公有云领导者,您强调基于平台的生成式 AI 开发也就不足为奇了。

然而,新推出的企业应用助手Amazon Q确实给业界留下了深刻的印象。 全球云观察分析指出,Amazon Q诞生后,对企业级行业的AI演进和生成式AI在行业的落地产生了开创性的影响,也为加速全球云计算行业向智能时代发展带来了深远的意义。

一些业内人士评论说,Amazon Q 改变了开发人员和 IT 人员在亚马逊云科技上构建、部署和操作应用程序和工作负载的方式。

Amazon Q 使用户能够轻松进行对话、生成内容和采取行动。 亚马逊云科技CEO亚当·塞利普斯基(Adam Selipsky)更直接地解释了亚马逊Q,“亚马逊Q充分了解企业的业务、数据、客户和运营需求。 ”

需要指出的是,Amazon Q 并不是面向个人消费者的通用聊天机器人,而是面向千行百业的企业级生成式 AI,被业内人士称为企业级“ChatGPT”。 Amazon Q 可以通过亚马逊云科技管理控制台、文档页面、IDE、Slack 或其他第三方对话应用程序的聊天界面进行访问,并且 Amazon Q 现在为在亚马逊云科技上构建、使用内部数据和系统或应用一系列数据和业务应用程序的任何用户提供强大的生成式 AI 支持,并且用户业务内容绝不会用于训练底层模型。

Amazon Q 非常灵活且完全可定制,使企业开发人员能够专注于开发。 同时,它具有惊人的转换能力,为每一次应用升级带来前所未有的便利。 与 Amazon CodeCatalyst 结合使用后,可以在支持的 IDE 中实现用户生成的测试,以提高开发效率和质量。

Amazon Q 可以为 Amazon Quicksight、Amazon Connect 和 Amazon Supply Chain 提供基于 AI 的生成式行业助手。 目前,Amazon Q 已向用户预览,Amazon Connect 中的 Amazon Q 已全面推出,Amazon Supply Chain 中的 Amazon Q 即将推出。

在以生成式AI加速业务创新的过程中,Amazon Q的价值将得到凸显,企业与外界的沟通能力在行业应用中可以得到显著提升。 亚马逊云科技大中华区行业解决方案总监苏卓指出,使用Amazon Q后,Orbit将节省10-15%的每次接触时间,让更多企业成为AI时代的“超级英雄”。

如果说生成式 AI 正在推动创新和业务变革,那么 Amazon Q 就是一个标志性的诞生,标志着面向企业的世界的开始。

摘要:全速进入生成式 AI

作为全球云计算的先行者和引领者,亚马逊云科技一年一度的re:invent全球大会成为业界关注云创新的焦点,因此2023 re:invent中国行也备受关注。

目前,亚马逊云科技不仅在基础设施、计算、存储、数据等领域持续重塑云计算,还在生成式AI发展道路上锻造AI基石,多方加强AI芯片能力,打造亚马逊基岩开放工具平台,推出生成式AI卓越中心服务合作伙伴, 甚至发布了 Amazon Q,这是一款适用于数千个行业的企业应用程序助手。可以说,火力十足,野心必胜。

然而,利用生成式AI全面重塑未来,不仅是亚马逊云科技的创举,也是许多行业深切感受到生成式AI带来的创新。 通过图像生成、人机对话等多个领域的创新实践,生成式AI新时代的序幕已经慢慢拉开。

聚焦生成式AI发展,自12月12日亚马逊云科技2023 re:invent中国城市行成功上线以来,北京站获得了众多用户、合作伙伴和业界的一致好评。

未来将推广到全国各地,覆盖北京、上海、广州、深圳、成都、青岛、南京、习、杭州、长沙等10个城市,将2023 Re:Invent全球大会的最新服务和技术、前沿趋势和最佳实践带到区域市场。 (by aming)

end-

如何

是的

欢迎在文末发表评论!

【全球云观测、全球存储观测、阿明观测、科技明说】。聚焦科技公司分析,用数据说话,带你了解技术。 本文及作者回复仅代表个人观点,不构成任何投资建议。

相似文章

    东北焦点从20下降到不足5,东北怎么了?

    近日,东北地区年前三季度GDP数据出炉,辽宁 吉林 黑龙江三省GDP分别为亿元,亿元和亿元,增速分别为。 和 而全国平均增长率为 辽宁省和吉林省的增速一直高于全国平均水平。与此同时,东北三省个城市GDP数据也正式揭晓,大连 沈阳 长春 哈尔滨四大省会城市及副省级城市处于绝对领先地位。然而,由于大多数...

    从AI制药到AI生态,18C硬科技的代言人晶泰科技将何去何从?

    就像 互联网 一样,人工智能早已成为可以惠及千行百业的 基础能源 生物医药是AI落地的热门产业。随着技术的不断发展,越来越多的企业打造了完整的业务闭环,实现了规模化营收,冲向了资本市场,这也为我们提供了一个极好的观察窗口。月日,晶泰科技在香港联交所递交招股书。 年,公司营收从万元增长到元亿元,年复合...

    CRM平台从传统到现代客户管理方法的演变和演变

    随着科学技术的飞速发展和企业竞争的日益激烈。CRM已成为现代企业不可或缺的一部分。然而,CRM的发展并非一蹴而就。从传统的人工处理和管理到现代数字化平台,CRM的发展经历了一系列的变化和创新。让我们来看看CRM是如何演变的。手动处理信息 在传统的CRM方法中,企业通常依靠手动手段来处理和管理客户关系...

    从07式到21式:中国军装转型背后的故事

    风格迷彩制服的辉煌岁月。热血的军营一直是年轻人梦寐以求的地方,绿色的军装不仅是责任的象征,更是骄傲的源泉。其中,式迷彩服因其特殊的魅力,成为无数老兵立功军营的见证。然而,随着军改的推进,这种已经安装多年的式迷彩服被式训练服所取代,引起了广泛的关注。风格迷彩制服的继承与改进。年月,我军正式安装式迷彩服...

    AI智能陪练从单向学习习转变为互动学习习

    进入世纪,越来越多的人意识到重塑习现代学习模式的重要性。传统的单向学习习方法,即从 讲师 到 习学习者 的信息传递,远远不能满足现代习学习者的需求。在未来教育培训的新领域,如何实现企业从单向学习习向互动学习习的转变成为问题的核心。而答案可能就在于AI智能陪练。.什么是AI智能陪练?实际上,它指的是使...