暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

我们和 IDC 写了份指南,帮你扫清生成式 AI 落地各种难题

亚马逊云科技 2024-03-01
468

「关注」「星标」我们,

每天接收关于最新资讯


2023年作为生成式 AI 元年,大模型和相关技术的升级更新可谓日新月异,话题热度席卷全球,生成式 AI 对于各类组织、各个行业、各种角色的重塑和讨论热浪迭起,上至董事会下到基层员工无一不卷入其中。一时间,利用生成式 AI 写诗作画创作视频抢着上头条,频频夺人眼球,然而,作为身处企业的打工人,不能回避的问题是:生成式 AI 在企业场景中的落地和应用到底如何?


为此,IDC 携手亚马逊云科技联合开发并重磅发布《五大关键要素 解锁生成式 AI 全新机遇》皮书,围绕企业场景中的生成式 AI 落地和应用研究分析生成式 AI 产业趋势和技术路径,针对各类客户进行问卷调研和分析师访谈,深度解析不同类型的市场参与者在生成式 AI 领域面临的现实挑战,指出企业解锁落地生成式 AI 应用的五大关键要素,以及借助云服务商一起端到端构建和落地生成式 AI 应用建议


废话不多说,直接上干货,一起来先睹为快!


1

预期高不等于进展快:企业用于生成式 AI 的支出正在快速增长,而高关注高预期却没有带来相应的落地进展。综合来看,模型生成结果的准确性、人才技能稀缺、部署的成本等,都影响了生成式 AI 的规模化落地:


24%的企业已经开始投资生成式 AI,并且有相应的预算计划,近70%的企业还没有固定支出计划或尚未开始试点。



2

生成式 AI 三类市场参与者各有各的难:从基础模型到落地的生成式 AI 应用,需要经过模型训练、模型定制、模型部署、模型推理等环节。各个环节上的行业参与者均面临着不同程度的基础设施、数据集成、应用场景选择、安全与隐私以及负责任 AI 方面的挑战:


大模型提供商在训练基础模型的过程中,数据准备工作复杂而耗时,训练基础设施的管理与优化有较高的门槛,且算力成本高昂,还需要确保模型效果不断提升。


对于生成式 AI 应用开发者而言,需要为应用场景选择最为适配的模型,也需要集成来自不同存储库、不同格式的数据,还需要保障用户数据隐私、模型安全以及生成内容的安全。


对于生成式 AI 应用使用方而言,识别应用场景、利用自有数据与大模型进行交互的过程中如何保证数据安全,如何确保模型生成内容所问即所答,都是其挑战所在。



3

生成式 AI 要在企业场景落地,5(五大关键要素)+1(一套端到端数据战略)固不可少。整体来看,能够帮助生成式 AI 新生态里的产业参与者加速生成式 AI 应用落地的解决方案,必须具备五大要素:高性价比的基础设施、丰富而灵活的模型选择、使用私有数据实现差异化定制、开箱即用的生成式 AI 驱动的应用和负责任的 AI 策略



据调研,无论在全球还是中国,云提供商都是企业用户选择生成式 AI 战略合作伙伴的首选:一方面大模型仍在不断涌现,其能力也在不断突破,云服务能够助力用户快速使用到最新的模型能力并持续迭代;另一方面云服务能够降低基础设施搭建门槛节省运维时间,让用户专注于应用构建。

4

即刻开启云上生成式 AI 之旅。从战略制定、场景评估、行业实践、行动计划和技术建议都给您打包好了:


有必要尽快将生成式 AI 融入企业级战略,确定是自建模型还是使用模型定制功能来发挥企业的差异化优势。在参考外部诸如提高生产力、增强用户体验以及优化业务流程成功实践的同时,筛选确定自身应用场景。目前落地的典型应用场景主要围绕增强客户体验、提升员工生产力与创造力以及优化业务流程等,典型应用场景与企业成功应用案例如下图所示。

扫描下方二维码查看更多客户案例


端到端构建生成式 Al 应用,则从为应用场景选择模型开始,参考当前的成功实践,选择适当的模型定制路线进行模型的适配与调整,将经过评估验证的模型集成到企业应用系统,并设立评估指标,对应用进行持续迭代。


5

作为全球云计算的开创者和引领者,亚马逊云科技在全球拥有超过10万家客户使用 AI 和机器学习服务,为企业构建和应用生成式 AI 提供完整的技术堆栈:


亚马逊云科技助力企业解锁生成式 AI 潜力

亚马逊云科技面向互联网、制造、金融、汽车、生命科学、媒体娱乐等以及出海群体提供了丰富先进的生成式 AI 云服务选择,包括针对生成式 AI 应用构建的三层架构



高性价比且丰富的基础设施加速训练与推理

NVIDIA 多款先进 GPU 产品率先在亚马逊云科技落地,包括首款搭载 NVIDIA Grace Hopper 超级芯片和亚马逊云科技 UltraCluster 的云 AI 超级计算机,以及首款采用 NVIDIA GH200 NVL32 的 NVIDIA DGX 云;同时提供亚马逊云科技持续重点投入的自研芯片,包括支持万亿级参数规模模型训练的 Trainum2,以及面向推理的 Inferentia2,为模型训练和推理提供更高算力、更快的加速比、更好的性价比。


灵活丰富的模型选择,基于私有数据差异化定制

推出 Amazon Bedrock,Amazon Bedrock 能够高效评估、比较和选择最适合其应用场景和业务需求的模型,通过 RAG、微调以及提示词工程实现模型定制功能,助力轻松构建并规模化生成式 AI 应用。Agents for Amazon Bedrock 能够加速并降低应用集成门槛,集成公司内外部数据,制定数据安全和隐私策略,从专有数据源检索所需信息并提供准确响应。


生成式 AI 驱动的应用程序

未来企业的应用程序都将基于 AI 驱动,构建 AI 应用程序本身,亦需要生成式 AI 驱动。亚马逊云科技在云服务全栈产品中提供生成式 AI 工具的助力,目前已发布企业级生成式 AI 助手 Amazon Q,并且将 Q 引入多种服务和应用程序,包括Amazon QuickSight、Amazon Connect、Amazon Supply Chain;以及流程自动化开发工具 Amazon CodeWhisperer。

除此以外,亚马逊云科技高度重视为用户提供负责任的 AI 策略支持,也在持续建设端到端的数据基座以支持生成式 AI 的数据集成需求。


负责任的 AI

亚马逊云科技强调帮助企业建立公正、可解释、稳健、透明、可治理、确保隐私与安全的“负责任的 AI”。全新发布的 Guardrails for Amazon Bedrock 也将助力落实“负责任的 AI”策略:企业希望生成式 AI 应用生成的内容能够确保“所答即所问”,少一些“幻觉”。


端到端数据基座

亚马逊云科技提供了全面、集成、可治理的数据基座 - 用户可以利用 Amazon S3 构建数据湖,无论是结构化或非结构化数据,均可被用来分析并用于机器学习,能够选择多种专用数据库、数据仓库和大数据服务,或是使用托管数据引擎。针对不同类型的数据处理需求,亚马逊云科技最新发布了向量检索相关产品,使得用户能够在成本、性能和规模上取得平衡。

至今为止,全球已有超过10万家来自各行各业、不同规模的客户采用了亚马逊云科技机器学习服务,超过1万家客户利用 Amazon Bedrock 进行创新。



扫描下方二维码下载白皮书



星标不迷路,优先获得云科技资讯!

关注后记得星标「亚马逊云科技」


马上点击“阅读原文”

下载白皮书查看更多内容

让我们共同见证亚马逊的一小步

云计算的一大步


文章转载自亚马逊云科技,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论