北京时间11月29日凌晨,全球第一大公有云巨头AWS(亚马逊云科技)扔出了其生成式AI年终“王炸”。
摇滚乐开场,AWS的CEO亚当·塞利普斯基(Adam Selipsky)在一阵掌声中登上re:Invent舞台。
亚马逊放出多个大招
距离微软和OpenAI联盟的GPT-4新品“轰炸”过去还不到一个月,AWS紧接着放出了新的大招,从芯片、大模型平台、AI应用、生态合作等多个方面秀出“肌肉”:
1、推出第四代自研服务器CPU芯片AWS Graviton4,相比三代处理速度快30%,能将处理大型Java应用的速度提升45%。
2、推出为生成式AI和机器学习训练设计的云端AI芯片AWS Trainium2,性能比上一代芯片提高到4倍,可提供65ExaFlops超算性能。
3、英伟达创始人兼CEO黄仁勋到场,宣布英伟达与AWS达成战略合作,针对生成式AI推出全新超级计算基础设施、软件及服务。
4、推出生成式AI助手Amazon Q,支持聊天、生成内容、编程、插件及定制开发,硬杠微软Copilot。
5、数据分析平台Amazon QuickSight、呼叫中心服务Amazon Connect等应用接入Amazon Q,具备生成式AI能力。
6、Amazon Bedrock大模型平台三大升级:支持微调、知识库RAG(检索增强生成)和持续预训练,全面推出Amazon Bedrock Agent、安全产品Guardrails for Amazon Bedrock预览版。
7、S3对象存储服务更新,推出新的高性能、低延迟层S3存储类别Amazon S3 Express One Zone,比Amazon S3标准版快10倍,计算成本降低60%。
8、推出4项Zero-ETL(提取、转换、加载)集成功能,使跨数据存储的数据访问和分析更快、更容易。
9、推出由生成式AI驱动的Amazon DataZone智能推荐功能,可生成数据资产及其模式的详细说明。
10、扩大与OpenAI竞争对手Anthropic的合作,Claude大模型的早期访问、自动定制和微调功能优先提供给AWS客户。
11、全球最大药企辉瑞扩大与AWS的合作关系,辉瑞利用生成式AI每年减少了7.5亿至10亿美元的成本。
今年4月,AWS推出了覆盖IaaS(基础设施即服务)、PaaS(平台即服务)、SaaS(软件即服务)的生成式AI“全家桶”,空降全球AI大模型竞赛战场。(《亚马逊AIGC全家桶推出!迎战微软谷歌,云巨头们杀疯了》)
彼时,微软正凭借接入GPT-4的升级产品族风头正盛。AWS则扔出大模型开发平台Amazon Bedrock、计算实例EC2 Trn1n实例和EC2 Inf2及AI编程伴侣CodeWhisperer等产品,亮出亚马逊杀入生成式AI的第一枪。
两大自研AI芯片性能飙升
AWS的副总裁Dave Brown表示,通过将自研芯片的设计重点放在对客户重要的实际工作负载上,AWS能为他们提供最先进的云基础设施。此次推出的Graviton4是五年内的第四代芯片产品,随着人们对生成式 AI 兴趣的高涨,第二代AI芯片Trainium2 将帮助客户以更低的成本和更高的能效更快地训练自己的机器学习模型。
Graviton4计算性能较前代提高多达30%
美东时间11月28日周二,亚马逊旗下云计算业务AWS宣布,推出新一代的AWS自研芯片。其中,通用芯片Graviton4的计算性能较前代Graviton3提高多达30%,内核增加50%,内存带宽提升75%,从而在亚马逊云服务器托管服务Amazon Elastic Compute Cloud(EC2)上提供最高性价比和能源利用效果。
Graviton4还通过对所有高速物理硬件接口进行完全加密提高安全性。AWS称,Graviton4 将应用于内存优化的Amazon EC2 R8g 实例,让客户能改进高性能数据库、内存缓存和大数据分析工作负载的执行。R8g 实例提供更大的实例大小,比前代 R7g实例的 vCPU 高最多三倍的,内存高三倍。
应用Graitons4的电脑将在未来数月内上市。AWS称,启动Garviton项目约五年来,已生产超过200万个Garviton处理器,AWS EC2的前100位用户都选择使用Graviton。
Trainium2速度提高四倍 训练万亿参数级模型
AWS的另一款新品——新一代AI芯片Trainium2速度比前代Trainium1快四倍,将能在EC2 UltraCluster中部署多达10万个芯片,让用户能在很短的时间内训练数以万亿参数的基础模型(PM)和大语言模型 (LLM),同时能源利用率较前代提高多达两倍。
Trainium2 将用于Amazon EC2 Trn2 实例,单个实例中包含16 个Trainium 芯片。Trn2 实例旨在帮助客户在下一代 EC2 UltraCluster中扩展芯片应用数量至多达10万个Trainium2 芯片,联通AWS Elastic Fabric Adapter (EFA) petabit级网络,提供高达 65 exaflops 的算力。
AWS称,Trainium2将从明年开始用于支持新的服务。
加入AI聊天机器人市场竞争
大会上亚马逊还推出了一款名为Amazon Q的新型聊天机器人,旨在帮助企业和员工更好地利用亚马逊网络服务(AWS)。
Amazon Q是一种新型的生成式AI辅助服务,可以帮助员工快速利用公司的数据和专业知识获取问题答案、解决问题、生成内容等,并根据企业客户的业务进行定制化。
首先,Amazon Q可以进行自然对话,用户可以借此了解AWS的功能并解决问题。值得一提的是,该聊天机器人将集成到常用的工作场所通信工具中,如Slack。它还可以直接通过AWS管理控制台使用,方便管理员监督云基础设施。
亚马逊强调,Q关键功能在于它可以利用客户引用的文档来提供答案,这使得用户可以验证来自聊天机器人的信息。此外,Q还可以自动为开发人员进行代码更改,从而减少手动工作量。此外,该公司还表示,Q可以生成针对每个社交媒体渠道定制的自定义社交媒体提示,使用户能够有效地推广所需内容。
除了AWS之外,Amazon Q还支持连接到超过40个不同的企业系统,包括Microsoft 365、Dropbox和Salesforce等。用户可以上传文档并向Q提问关于内容的问题。
定价方面,Amazon Q的基本访问能力是每用户每月20美元起(当前约合人民币143元),而带有额外开发人员功能的版本是每用户每月25美元(当前约合人民币179元)。
联手OpenAI最强竞对反击微软
AWS宣布扩大与OpenAI强力竞对Anthropic的合作。Bedrock客户将拥有其他云所没有的Anthropic旗下Claude大模型的早期访问、自动定制和微调功能的特供功能。Anthropic由前OpenAI工程师于2021年创立,于近期推出了其聊天机器人Claude的2.1版本,支持20万Tokens的超长上下文。
Anthropic的CEO兼联合创始人达里奥·阿莫迪(Dario Amodei)亲临了现场,他谈道,Anthropic和AWS之间合作由三个部分组成:计算、客户支持和硬件优化。他们的目标是为客户提供定制模型、专有数据和独特的微调功能,目前已基于AWS的服务在生物医学、法律和金融行业有成功落地案例。
与Anthropic扩大合作无疑是AWS反击微软OpenAI联盟的一记重拳。9月25日,亚马逊与Anthropic宣布达成战略合作,亚马逊称将向Anthropic投资至多40亿美元,并拥有该公司的少数股权。
全球最大药企辉瑞的首席数字与技术官莉迪亚·丰塞卡(Lidia Fonseca)也来到现场,并宣布扩大与AWS的合作关系。
丰塞卡称,辉瑞于2019年开始,通过整合来自多个实验室和仪器的数据来组织其数字基础设施,其与AWS的合作始于新冠疫情时期,“如果没有与AWS的密切关系,我们不可能实现如此巨大的影响力”。
她谈道,公司在42周内迁移了12000个应用程序和8000台服务器,退出三个数据中心转而上云,并减少了4700吨二氧化碳排放——相当于1000个家庭一年的能源使用量,这为辉瑞每年节省了4700万美元。
这使得辉瑞在生产中的云计算使用率从10%提升到80%,辉瑞还计划在其癌症生产线上继续依赖云计算。
此外,使用云服务后,辉瑞的生产效率也得到提升。丰塞卡称,其疫苗产量提高了20%,即每批次多生产约20000支疫苗,公司的疫苗年度产量从以往的2.2亿支增加到2022年的40亿支。
丰塞卡还提到,利用生成式AI,辉瑞每年减少了7.5亿至10亿美元的成本。
公司地址
贵州省安顺市西秀区北街街道虹山湖路42号虹山大酒店(百灵.希尔顿逸林酒店 )幢14层9号联系电话
15339537795电子邮箱
1690556182@qq.comCopyright © 2022-2023 贵州源妙自动化设备有限公司 版权所有 黔ICP备2022007086号-9