首页 科技资讯 网络

助力1000+企业后 亚马逊云科技给出「构建生成式AI应用」的关键步骤

【TechWeb】10月27日消息,在亚马逊云科技生成式AI构建者大会上,亚马逊云科技大中华区产品部总经理陈晓建透露,截至目前,亚马逊云科技通过开箱即用的生成式AI服务及工具,已帮助1000+中小企业和初创公司快速实现生成式AI创新,已赋能10W+中国开发者,并给出了在端到端构建生成式AI应用时,企业还开发者应该注意的关键步骤。

6个月 助力1000+企业实现生成式AI创新

今年4月中旬,亚马逊云科技推出多款生成式AI产品和服务,包括Amazon Bedrock(一项全新全托管服务,它允许用户通过API访问亚马逊云科技和第三方基础模型提供商的预训练基础模型)、Amazon Titan基础模型,并向个人开发者免费开放AI编程工具Amazon CodeWhisperer。

Amazon Bedrock是企业使用基础模型构建和扩展生成式AI应用程序的最简单方法,它是一项无服务器服务,提供了广泛的模型选择、数据隐私,并且能够自定义模型,无需管理任何基础设施。

陈晓建介绍,Amazon Bedrock目前提供的基础模型来自Meta、Anthropic、Stability AI、 AI21 Labs、Cohere等第三方领先提供商以及自身的Amazon Titan模型等,近期还加入了Meta的下一代开源大模型Llama2以及Anthropic的Claude2等热门基础模型。

同时,陈晓建强调:“Amazon Bedrock代理功能是一项全新的全托管功能,代理功能就会自动分解任务并创建编排计划,无需任何手动编码。该代理通过简单的 API 接口安全地连接到公司数据,自动将数据转换为机器可读的格式,并增加相关信息以生成最准确的回答。然后,代理可以自动调用 API 来满足用户的请求。”

亚马逊云科技推出的Amazon CodeWhisperer则是一款人工智能编码伙伴,在基础模型高级选项中使用,可以实时生成代码建议,从根本上提高开发人员的生产力。与未使用的参与者相比,使用Amazon CodeWhisperer的参与者完成任务的速度平均快57%,成功率高27%。

就是借助上述这些开箱即用的生成式AI服务及工具,陈晓建表示,亚马逊云科技已帮助1000+中小企业和初创公司快速实现生成式AI创新,已赋能10W+中国开发者。

陈晓建也强调,开发生成式AI应用是一个充满挑战的系统工程,并不是单纯的产品和服务拼接,因此,如何加速客户最终应用的商业化落地,除了亚马逊本身的资源以外,还需要构建强大的合作伙伴生态,携手助力解决生成式AI应用构建中的各种技术问题,加速应用落地。

目前,在国内,亚马逊云科技也和国内大模型创业企业百川智能进行合作,给与企业客户更多大模型选择。

尽管已经服务1000+企业,陈晓建向TechWeb表示,生成式AI应用整体还处在一个非常早期的阶段,生成式AI未来可以做的工作、带来的整个技术前景是非常广泛的,可能会超出我们每个人的想象。现阶段最重要的是能够快速地了解行业、了解客户诉求,包括自身能力提升等。

端到端的构建生成式AI应用的关键步骤

在过去6个月时间,亚马逊云科技团队已经有了服务1000+中小企业和初创公司快速实现生成式AI创新的经验。

在陈晓建看来,“生成式AI不仅仅是大模型,单独的基础模型无法执行任务”。整个生成式AI应用就像是浮在海面的冰山,露在海面上方能被大多数人看到的冰山一角就像是基础模型,而在冰川的底部,同样需要大量的基础模型以外的服务来支撑,如加速芯片,数据库,数据分析,数据安全服务等等。

亚马逊云科技提供了完整的端到端的生成式AI技术堆栈,从底层的加速层如加速芯片,存储优化,到中间层模型构建工具和服务,再到最上层的生成式AI相关应用,每一层都在针对客户的不同需求持续创新。”

因而在“端到端的构建生成式AI应用”时又有哪些关键路径需要走呢?

亚马逊云科技团队给出了四个步骤、五个层面:在步骤上,从应用范围、模型选择、模型适配和模型调整、最终到应用程序集成;五个层面,则涉及到选择合适的应用场景入手、借助专门构建的生成式AI工具和基础设施、融合企业私有化数据的数据基座、AI原生应用构建和生成式AI服务。

具体而言,在选择合适的应用场景,从典型场景入手创新业务模式方面,陈晓建表示,目前生成式AI典型的应用场景带给企业的业务价值主要体现在三个方面:增强客户体验、提升员工生产力与创造力、优化业务流程。

在亚马逊云科技过往的经验中,目前生成式AI应用得非常快的就是游戏行业,游戏行业本身有非常多的流程和素材生成都可以通过生成式AI来改善;营销方面,国内数字营销企业易点天下通过亚马逊云科技的技术推出了一个“生成式AI数字营销平台”;海尔创新设计中心通过生成式AI之后,借助于文生图、图生图这样的技术,可以非常高效地来快速生成素材,生产力提升20%。

在借助专门构建的生成式AI工具和基础设施方面,亚马逊云科技的CEO Adam Selipsky认为,没有一个基础模型可以适用于所有的业务场景。而用户应该做的是,根据自己的场景去选择一个最适合自己的基础模型。因而亚马逊云科技推出了Amazon Bedrock和Amazon SageMaker JumpStart这两项服务,帮助客户去安全地、便捷地选择最适合其业务的模型。Amazon CodeWhisperer这款AI编程工具则可以提高开发者效率。

另外,面向生成式AI构建强大的数据“基座”,需要一套全面的服务,以便能够存储用于构建和微调模型的各种类型的数据;还需要服务间的集成,以打破数据孤岛,确保能够随时访问所有数据;还需要在构建生成式AI应用程序的整个生命周期中,确保数据安全并对其进行管理。

每一个客户都会有自己的私域数据,这些业务数据,通用的大语言模型是不知道的。如果企业客户需要训练一个大语言模型的环境,能够更好地了解自身业务就需要把私域的知识库和大语言模型进行打通。使用私有化数据,打造差异化竞争优势。

最后,构建一个AI原生应用方面,亚马逊服务百万客户无数次变化的现代化应用转型过程中,积累了一些不变的经验,陈晓建分享给生成式AI时代的构建者:包括以微服务化和事件驱动架构为核心的设计框架,松耦合的去处理每个功能模块之间的互相依赖;Serverless First简化运维,提升效率;数据决策优先,像资产一样重视数据,数据能力作为应用的核心竞争壁垒加入到生成式AI应用的设计理念中来;安全围栏,影响面控制,减小爆炸半径,将安全与数据的合规与保护放在前所未有的重要地位;避免重复造轮子,除了技术本身,在DevOps,基础设施即服务,自动化等现代应用治理理念持续投入,促进企业内部的应用资产与实践的分享,构建高效敏捷的构建者文化。

官方微博/微信

每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。

↑扫描二维码

想在手机上看科技资讯和科技八卦吗?

想第一时间看独家爆料和深度报道吗?

请关注TechWeb官方微信公众帐号:

1.用手机扫左侧二维码;

2.在添加朋友里,搜索关注TechWeb。

手机游戏更多