关键字: [亚马逊云科技, Nova, 云平台服务, Saas企业出海, 安全合规, 现代化平台, Ai赋能]
导读在这场演讲中,韩思杰老师从亚马逊云科技的角度,分享了如何助力SaaS企业在出海过程中实现安全合规、现代化平台和AI赋能。他介绍了亚马逊云平台在安全合规、区域覆盖、产品种类等方面的优势,以及“责任共担模型”等安全合规实践。他阐述了平台工程的概念和作用,以及亚马逊云科技在持续交付、资源自助式部署、API驱动运维等方面的解决方案。此外,他还详细介绍了亚马逊云科技在深度学习AI方面的产品和服务,包括数据湖、大模型管理平台Bedrock、AI代理Bedrock Agent、多智能体协作Multi Agent、代码生成等AI开发者工具MLQ Developer,以及语音对话模型Nova Sonic等,展示了亚马逊云科技如何通过AI技术赋能SaaS企业。
演讲精华以下是小编为您整理的本次演讲的精华。
亚马逊云科技(亚马逊云科技)为SaaS企业出海提供了全方位的技术支持和解决方案,着重解决三个主要需求或挑战:全球服务平台的合规性、构建现代化SaaS平台,以及利用深层学习AI技术赋能产品。
第一,全球服务平台的合规性是SaaS企业出海时的重中之重。作为面向企业客户的服务提供商,SaaS企业需要向客户承诺各种商务条款,而安全性对企业客户来说是最为重视的。因此,出海时SaaS企业需要优先考虑如何让客户相信其平台足够安全可靠,符合各个国家和地区的法律法规要求。这涉及到几个关键点:
首先是跨境数据传输的合规性。SaaS企业需要决定是否允许数据跨境流动,如果允许,则需要对跨境数据进行筛选和检查,确保符合相关规定。完全禁止跨境数据流动虽然最为合规,但可能会对业务运营带来一定挑战,因为SaaS企业往往需要将分散的数据聚集到一个中心进行分析。
其次是安全持续监控。由于SaaS企业的运行环境在不断变化,软件更新迭代,因此需要持续不断地监控是否有敏感数据泄露,并选择合适的工具进行监控。
第三是评估法务风险。SaaS企业需要评估其动态变化的运行环境可能带来的法务风险,在参与投标等商业活动时,需要对客户提出的安全相关问题做出解答和说明,这可能需要专业的指导和建议。
针对上述合规性需求,亚马逊云科技提出了“责任共担模型”。该模型明确划分了亚马逊云科技和客户在安全合规方面的责任。亚马逊云科技负责虚拟化平台的硬件、网络、机房等基础设施的安全合规,而客户负责虚拟机内部的安全合规,因为亚马逊云科技无法深入客户的内部环境检查潜在漏洞。亚马逊云科技认为,这一模型同样适用于SaaS企业与其客户的责任界定。SaaS企业需要明确自身平台的安全合规责任,同时界定使用该平台的客户在安全合规方面的责任。
为满足SaaS企业的合规性需求,亚马逊云科技平台提供了从身份管理、检测、网络保护、数据保护到合规认证的多层防护机制,并在为上百万客户落地系统的过程中积累了大量安全合规实践经验,包括责任共担、数据驻留区域选择、隐私数据保护方案、跨境数据整理等。
第二,SaaS企业出海需要构建现代化的平台,主要出于三个考虑:敏捷快速创新、系统韧性,以及效率和成本优化。
敏捷快速创新是指SaaS企业需要能够快速推出企业客户所需的新功能。系统韧性则是指SaaS平台需要保证一定程度的持久性和可用性,因为SaaS企业通常会与客户签订服务等级协议(SLA)。效率和成本优化则需要SaaS企业以最小的成本构建平台,前提是能够观测和优化成本开支。
亚马逊云科技收集了SaaS企业客户关注的不同需求,包括:业务运营方关注降低IT成本和提高部署频率;运维方关注减少维护时间、提供共享资源和降低成本;DevOps团队关注快速部署环境、更新应用系统;开发人员关注利用AI/ML技术更新产品功能,以及快速部署内部工具等。
为满足这些需求,亚马逊云科技建议SaaS企业考虑采用平台工程的方式。平台工程源于DevOps理念,旨在打通开发人员、运维人员和业务方之间的壁垒,使他们能够更加顺畅地协作。例如,开发人员需要部署一个Redis缓存,可以按照公司的标准化、合规的方式,通过平台快速提供所需资源。平台工程能够将整个业务上线流程标准化和自动化,从而显著缓解安全隐患。
平台工程本身是在Amazon Web Services Well-Architected框架基础上发展起来的实践方法。它最基本的功能是实现持续交付,同时还提供了自助式资源部署、API驱动运维、治理和弹性等能力。亚马逊云科技参与了开源社区Cloud Native Computing Foundation (CNCF)的CD项目,形成了一套从应用到运维的平台工程框架,并在框架中整合了多个开源组件。
在亚马逊云科技平台上构建内部开发平台(IDP)实现平台工程,可以利用亚马逊云科技的EKS(Elastic Kubernetes Service)、CodePipeline、Backstage等工具加快落地进程。这些工具与现有亚马逊云科技产品高度集成,能够极大提高开发效率。
第三,SaaS企业出海需要利用深层学习AI技术赋能产品。对于SaaS企业,AI的应用可分为四个层次:数据层、模型层、AI引擎层和应用层。
数据层常见的挑战是缺乏数据质量管理和处理流程。亚马逊云科技围绕S3构建数据湖,提供数据处理和治理工具,帮助解决这一挑战。
模型层的挑战在于训练大模型的资源开销较高,以及管理各种模型API调用的复杂性。亚马逊云科技提供Bedrock集中管理模型API,并利用Graviton芯片降低训练成本,以应对这一挑战。
AI引擎层的挑战包括编排和多Agent管理协作。亚马逊云科技提供了自研、托管和开源三种Agent,以及多Agent编排和管理的Martejnt框架。
应用层的挑战则是定制开发和技能培养。亚马逊云科技提供MLOps Developer等工具,赋能软件生命周期的不同阶段,包括代码生成、单元测试、文档生成、代码审核和代码转换等。
此外,亚马逊云科技还推出了自有大模型Nova系列,包括用于理解(文本/图像理解)、内容生成(图像/视频生成)和语音到语音的模型。其中,Nova Sonic是最新推出的语音对话模型,可用于客服等场景,具有较强的语音交互能力。
在AI引擎层,亚马逊云科技推出了多Agent协作的Martejnt框架。用户可以在Bedrock Agent中注册多个Agent,由一个协调者Agent负责编排不同的Agent完成任务。
亚马逊云科技表示,愿意与客户就AI在应用层的创新实践进行深入合作,从场景定义到数据准备、模型训练、代码开发的全流程环节全程参与,共同探索AI赋能应用的新路径。
总之,亚马逊云科技为SaaS企业出海提供了安全合规、现代化平台构建和AI赋能三方面的全方位解决方案。在安全合规领域,亚马逊云科技提出“责任共担模型”并给出实践经验指导;在现代化平台建设上,亚马逊云科技推荐平台工程理念并提供相关工具支持;在AI赋能方面,亚马逊云科技覆盖从数据到应用的全流程,并推出自研大模型Nova系列产品。亚马逊云科技表示愿意与客户深入合作,共同探索AI在应用层的创新实践。
下面是一些演讲现场的精彩瞬间:
The speaker introduces the topic of “going global” and the three main challenges or demands that a software company typically faces when expanding internationally.
The platform engineering enables continuous delivery, self-service resource deployment (like caches, search engines), API-driven operations, governance, and elasticity, empowering the modernization of SaaS applications.
亚马逊科技平台提供了多种工具如 EKS、CrossPlane、Backstage 等,帮助企业快速落地平台工程,提高开发效率。
Introducing Nova AI’s suite of models for understanding, content generation, and audio-to-audio translation, including Canvas for image generation, NovaReal for video generation up to 2 minutes, and Nova Sonic for audio-to-audio dialogue.
A customer service representative successfully recommends a more cost-effective plan to a dissatisfied customer, demonstrating the AI’s ability to understand context and provide personalized solutions.
对于这个代理来说,它有不同的代理,如开发代理进行代码生成,单元测试代理生成测试用例,文档代理生成项目文档,代码审核代理检查代码错误和安全漏洞,以及转换代理将旧架构代码转换为新架构。
总结亚马逊云科技为SaaS企业出海提供了全面的解决方案。首先,它提供了安全合规的平台,采用“责任共担模型”确保数据和应用的安全性。其次,亚马逊云科技通过平台工程实现了现代化SaaS应用平台的构建,提高了敏捷性、韧性和效率。最后,亚马逊云科技利用深度学习技术为SaaS产品赋能,包括数据湖、大模型管理、AI代理等,助力SaaS企业快速创新。
亚马逊云科技在安全合规方面积累了丰富经验,可以支持跨境数据传输、持续监控、法务风险管理等需求。它提供了身份管理、检测、网络保护、数据保护和合规认证等多层防护机制。
平台工程基于DevOps原则,打通了开发、运维和业务,实现了自动化、标准化流程。它能够满足持续交付、资源自助式部署、API驱动运维、治理、弹性等需求,为SaaS应用现代化提供了赋能。
在深度学习方面,亚马逊云科技提供了数据湖、大模型管理平台Bedrock、AI代理管理等解决方案。它还推出了自有大模型Nova,包括理解类、内容生成类和语音到语音类,可以应用于多种场景。此外,亚马逊云科技还提供了MLQ Developer工具,可以为软件生命周期的不同阶段提供AI赋能。
总之,亚马逊云科技为SaaS企业出海提供了全方位的支持,助力其构建安全合规、现代化、智能化的平台,实现快速创新和业务拓展。
亚马逊云科技(Amazon Web Services)是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务,服务全球245个国家和地区的数百万客户。做为全球生成式AI前行者,亚马逊云科技正在携手广泛的客户和合作伙伴,缔造可见的商业价值 – 汇集全球40余款大模型,亚马逊云科技为10万家全球企业提供AI及机器学习服务,守护3/4中国企业出海。
下一篇:多个奖项!报名通道开启