re:Invent 2023 Adam Selipsky主题演讲,亚马逊云科技再次重构云计算开创企业级生成式AI时代。
Project Kuiper基于卫星的私有网络连接服务远程脱离公网接入亚马逊云科技。
重构生成式AI
利用基础模型构建应用
Amazon Q、Amazon Q in Amazon QuickSight、Amazon Q in Amazon Connect、Amazon CodeWhisperer。企业级生成式AI助手Amazon Q,多应用集成。改变用户在亚马逊云科技上构建、部署和运维应用和工作负载的方式。
调用大语言模型和基础模型的工具
Amazon Bedrock Guardrails、Amazon Bedrock Agents、Amazon Bedrock Customization Capabilities
训练和推理的基础设施
GPUs、Trainium、Inferentia、SageMaker、UltraClusters、EFA、EC2 Capacity Blocks、Nitro、Neuron
全新一代Trainium2芯片,万亿个参数基础模型训练优化性能比上一代芯片提高到4倍,拥有65个extra flops。
携手英伟达合作首家提供GH200 Grace Hopper访问的云服务商,基于Amazon Nitro虚拟化系统,提供单集群20000GPU。
重构存储
高性能对象存储服务Amazon S3Express One Zone,数据访问速度比标准版快10倍,请求成本降低50%,计算成本降低60%。
重构计算
Graviton4对比Graviton3性能提升30%,Java应用性能提升45%。
首个基于Graviton4 R8g支持大规模数据库,实时的大数据的分析应用。
重构基础设施
冗余设计基础设施,100% 3AZ或更多可用区覆盖。
全面进入Zero-ETL时代
4项数据服务集成Zero-ETL功能快速、轻松地连接和分析数据。
Zero-ETL integrations with Amazon Redshift
-
Amazon Aurora PostgreSQL
-
Amazon RDS for MySQL
-
Amazon DynamoDB
-
Amazon DvnamoDB zero-ETL integration with Amazon OpenSearch Service
生成式AI推荐功能全新发布由Amazon Bedrock提供模型支持。