当今,在全球各地的各行各业的领先企业都在通过与亚马逊云科技的合作,来推动他们的业务发展。在金融服务行业,亚马逊云科技与摩根大通、高盛、纳斯达克等开展合作,在医疗保健领域,与辉瑞、诺华、罗氏、美敦力等开展合作,在汽车制造领域,与宝马、奔驰、丰田、本田、大众,以及西门子、施耐德等主要厂商开展合作。
不止大企业,初创企业同样如此,根据pitchbook的统计,全球目前已经有超过1000家初创企业或者估值超过了十亿美元的初创公司,即“独角兽公司”,这些独角兽公司有超过80%的选择了亚马逊云科技作为他们底层的it平台。比如网络安全公司whiz、基因组公司dnanexus等,当然也包括在本次生成式ai浪潮之中鼎鼎大名的一些初创企业,如anthropic、stability ai也名列其中。
之所以受到规模不同、行业不同的众多客户的青睐,是因为亚马逊云科技一直秉承着逆向工作法(working backwards)的理念,从数百万客户的需求出发构建产品,因为只有这样,才能够re:invent,才能够持续引领科技创新。
被誉为云计算行业风向标的re:invent大会,今年吸引了大约五万多现场参会嘉宾。同时线上还有超过30万参会者,在全球各地收看直播。通过200多项新服务和功能,以及超过350项持续的更新,大会从“如何重塑云计算”和“如何利用生成式ai重塑未来。”两个方面,揭示了亚马逊云科技是如何进行重塑创新的。
重塑云计算
首先在云基础设施方面,亚马逊云科技的全球基础设施横跨世界32个地理区域,已经宣布计划新增5个左右的区域,提供全球一致的体验,高可用和灾难恢复能力。相比之下,亚马逊云科技的数据中心数量比第二大的云提供商多三倍,服务多60%,功能多40%。
值得注意的是,kuiper是亚马逊云科技正在建造一个由数千颗近地轨道卫星组成的卫星⽹络。除了公共互联网连接外,kuiper 还将提供企业就绪的专用连接服务,可以通过专用、安全的连接从任何地方移动数据,以及连接访问亚马逊云科技的云中的数据。上个月,kuiper团队成功将他们的首批两颗原型卫星送入了轨道。
在存储方面,亚马逊云科技发布了amazon s3 express one zone。amazon s3 express one zone是新的s3存储类别,采用专门设计的软硬件来加速数据处理,可提供比amazon s3标准存储快10倍的性能,同时能够以一致的毫秒级延迟处理每分钟数百万次的请求,同时请求成本降低了50%。这项新服务帮助pinterest提升了10倍以上的写入速度,并将其机器学习驱动的视觉灵感引擎的总成本降低了40%。
在通用型计算芯片方面,graviton芯片得到广泛应用,目前有超过5万客户在使用。这其中包括top 100 的ec2客户全部都在使用graviton为他们的业务降本增效。
大会上,亚马逊云科技宣布amazon graviton3处理器的amazon ec2 c7g、m7g、r7g实例在亚马逊云科技中国(北京)区域和中国(宁夏)区域正式可用,提供更高性能、更快内存,以及更加节能。同时,亚马逊云科技还推出自研芯片amazon graviton 4,平均性能比amazon graviton 3提升30%,对某些工作负载的加速更明显,数据库应用程序速度提升40%,大型java应用程序速度提升45%。基于amazon graviton 4的amazon ec2 r8g实例的预览版已经推出。
利用生成式ai,重塑未来
亚马逊云科技为千行百业应用生成式ai降低门槛,重塑每个产业,改变每个人的生活。这其中就包括如何兼顾规模与成本,真正让业务收益,如何选择最适合业务场景的模型,如何用企业自己的数据定制并快速行动,当然还有如何充分保护数据的安全隐私的前提下负责人的应用生成式ai。
据亚马逊云科技大中华区产品部总经理陈晓建介绍,亚马逊云科技在生成式ai的端到端的3个不同层面展开持续投入。
亚马逊云科技大中华区产品部总经理陈晓建
首先在底层,亚马逊云科技提供用于基础模型训练和推理的基础设施。最新发布的amazon trainium2处理器,用于生成式 ai 和机器学习训练的专用芯片,针对训练具有数千亿至数万亿参数的基础模型进行优化,相较 amazon trainium 4 倍性能提升,65 exaflops的按需超级计算性能;amazon sagemaker hyperpod 服务,可大规模加速基础模型训练,能够缩短高达40%的训练时间,并可以确保持续数周或数月的训练过程不中断。
在中间层工具层,亚马逊云科技提供使用基础模型进行构建的工具。在模型选择方面,最新发布的amazon bedrock支持anthropic claude 2.1和meta llama 2 70b。claude 2.1为企业提供了先进的关键功能,包括业界领先的200k标记上下文窗口,与此前模型相比,claude 2.1 在开放式对话中的错误陈述减少了50%。支持 meta 的 llama 2 70b,适用于大规模任务,如语言建模、文本生成和对话系统。
在模型定制方面,亚马逊云科技最新发布amazon bedrock持续预训练功能,提供预览,已支持对 amazon titan text lite 与 express持续预训练;amazon bedrock微调功能,提供预览,支持的模型包括cohere command、meta llama 2和amazon titan,并将很快支持anthropic claude 2。
在模型集成方面,亚马逊云科技发布amazon bedrock 代理功能。它可以使生成式ai应用跨公司系统和数据源执行多步骤任务。
在顶层应用层,亚马逊云科技提供利用基础模型构建的应用程序。最新发布的amazon q预览版,是专为用户的业务量身定制的、生成式人工智能工作助手,可以让用户通过自然语言交互快速获得答案。用户可以轻松聊天、生成内容并采取行动。
ai领域深厚的积累
纵观整个大会,重点主题之一就是生成式ai,在主题演讲和讨论中占据了显著位置。会议安排了超过250个与生成式ai相关的环节,涵盖了从建立安全应用、优化工作负载的可持续性到在生命科学、旅游和教育等行业的应用等诸多话题,这也彰显了亚马逊云科技在人工智能(ai)方面拥有的显著优势。
首先,亚马逊云科技提供了一系列预训练的ai服务,这些服务可以轻松地集成到应用程序中,以处理常见的用例,如个性化推荐、现代化的联系凯发在线、提高安全性、以及增加客户参与度。
第二,亚马逊云科技的服务,如amazon lex、amazon lookout for equipment、amazon lookout for metrics和amazon lookout for vision,都旨在使机器学习更易于访问和使用,无需深厚的机器学习专业知识。例如,amazon lex允许开发人员快速构建会话聊天机器人,而amazon lookout for equipment使用传感器数据自动训练ml模型。
第三,亚马逊云科技致力于负责任地开发和部署生成式ai技术,其工程和开发团队不断测试和评估产品和服务,以解决准确性、公平性、知识产权、适当使用、有害内容和隐私等方面的问题。
第四,亚马逊云科技支持多种类型的变换器模型,这是处理序列化数据的先进神经网络架构。这些模型包括双向变换器(例如bert)和生成预训练变换器(如gpt模型),这些模型能够有效处理长期依赖关系,并在许多应用中取代了传统的递归神经网络(rnns)。
第五,与其他公司的合作,以及其在开放式ai社区的参与,显示了亚马逊云科技在ai发展方面的投入和扩展。通过这些合作和社区参与,开发人员可以使用来自其他开源平台的代码和模型。