Swami划重点！如何帮助客户大规模管理生成式AI？

Swami Sivasubramanian：在re:Invent主题演讲中，我围绕一个简单却深远的主题——“融合”展开了讨论。我们正处于AI发展历程中一个前所未有的转折点。数据、分析和生成式AI的融合正推动生成式AI应用迈向全新高度，这种融合不仅加速了创新的步伐，也让客户能够更快地创造价值。

以Rocket Mortgage为例，基于Amazon Bedrock构建了一个AI驱动的平台，开发AI Agents并实现任务自动化，致力于让员工能够使用无代码工具访问生成式AI。再比如Canva，借助亚马逊云科技的强大支持，每天处理高达120万次的请求，每秒生成450个新设计。

技术融合的过程中，也存在着人性化的影响。不同组织中，人们正以新的方式携手合作，这需要科学和工程等不同团队之间进行更深层次的合作。这不仅仅是一次性的合作，而是一个持续不断的过程。

生成式AI正在重塑人们对应用程序和客户体验的期待。未来，我认为生成式AI推理将成为每个应用的核心构建模块。要实现这一愿景，企业需要的不仅仅是一个简单的聊天机器人或某个强大的大语言模型（LLM）。因此，re:Invent 2024大会中，我们不仅展望了生成式AI的美好未来，也推出了一系列令人瞩目的新产品、新服务与新功能。这将帮助客户实现大规模地管理生成式AI，使得控制成本变得更简单，同时增强信任，提升生产力，并实现投资回报。

Swami Sivasubramanian：我们隆重推出了全新的Amazon Nova系列，这是一款集顶尖智能技术于一身的基础模型（FM），在多任务处理中展现出卓越的性能，并拥有行业领先的性价比。Amazon Nova模型进一步丰富了Amazon Bedrock为企业提供的全面而强大的基础模型阵容。

其中，Amazon Nova Micro、Amazon Nova Lite和Amazon Nova Pro三种型号展现出卓越的智能性、能力和速度，且在各自领域的表现与顶级模型不相上下。Amazon Nova Canvas，是我们的顶尖图像生成模型，能够根据文本或图像输入生成专业级视觉内容，广泛应用于广告、培训、社交媒体等场景，让高质量视觉内容的创作更加触手可及。此外，Amazon Nova Reel提供了先进的视频生成能力，使客户能够基于文本或图像创建高质量视频。

目前，亚马逊内部正在进行约1000个生成式AI应用项目。例如，Amazon Ads使用Amazon Nova打破卖家和广告商面临的创意障碍，从而释放全新的创造力和创新能力。图像和视频生成等新功能，帮助Amazon Ads的客户更高效地推广产品，尝试诸如关键词级创意等新策略，以提升互动率并推动销售。

未来还有更多值得期待的转变。我们正在开发一种功能更强大的“任意到任意”（any-to-any）模型，这种模型能够接受文本、图像、音频和视频作为输入，同时生成这些不同模态的输出。我们相信多模态（multi-modal）将是未来模型迭代的核心趋势。未来的顶流模型将能够灵活接受任何形式的输入，并生成任何形式的输出，我认为这就是下一代前沿模型的蓝图。

Swami Sivasubramanian：我一直热衷于探索大语言模型（LLM）的拓展潜力，同时希望通过释放这些模型的潜能，帮助客户突破面临的挑战。比如“幻觉现象”（hallucinations）。尽管当今的模型已经极其强大，但它们仍然可能偶尔出错，这是许多客户在将生成式AI集成到业务中并投入生产时的核心难题。

为了解决这一问题，我们展开了深入探索，并问自己：我们还能做些什么来帮助客户克服这一障碍？我们将目光转向自身技术积累，采用了一项创新技术——自动推理（Automated Reasoning）。这项技术长期以来一直在亚马逊的众多服务中扮演幕后角色，例如身份与访问管理（IAM）。

我喜欢将这一问题比作“阴阳相辅”。自动推理强调确定性，可以通过数学证明某件事情的正确性；而生成式AI则注重创造性和开放式响应。看似对立的两者，实际上可以互为补充，通过自动推理来完善并增强生成式AI。我们发现，自动推理在面对大范围问题时效果显著，特别是当问题领域有大量相关知识库，且需要获得绝对正确的答案时，这种方法尤为契合。这也使得自动推理成为解决幻觉现象的理想工具。

在今年的re:Invent大会上，我们发布了Amazon Bedrock Guardrails的自动推理检查功能。这是业界首个也是唯一的生成式AI安全保障工具。能够通过逻辑精确且可验证的推理，防止因幻觉现象导致的事实性错误，并解释生成式AI响应为何正确。我相信，这一创新将对各行业产生深远影响，帮助建立信任并加速生成式AI的广泛采用。

Swami Sivasubramanian：我常说，当生成式AI能够让员工的生产力提升十倍时，它就具备了不可抗拒的吸引力。这不仅是一个渐进式的提升，而是一次真正意义上的飞跃。而我们正帮助员工实现这一目标。

以Amazon Q Developer为例，它正在彻底改变代码开发的方式。这个工具能够承担开发人员不愿处理的耗时任务，例如软件升级。同时，它通过自动化代码审查和主机现代化改造，显著加快开发速度。比如，拉丁美洲领先的IT公司Novacomp利用Amazon Q Developer，在短短50分钟内完成了一个包含1万多行Java代码的项目升级任务，而这项工作通常需要大约三周的时间。此外，这家公司还简化了开发人员的日常任务，平均减少了60%的技术债务。

在商业领域，Amazon Q Business则致力于打通非结构化数据和结构化数据的界限，因为大多数企业需要同时利用这两类数据。通过Amazon Q集成到QuickSight，非技术用户可以使用自然语言，在几秒钟内构建、挖掘并共享有意义的洞察。现在，他们不仅可以访问数据库和数据仓库，还能处理非结构化的业务数据，例如电子邮件、报告、图表、图形以及图像。

展望未来，我们宣布了Amazon Q Business在2025年即将推出的先进的智能体能力，这些能力将利用Agents来自动化跨多个团队和应用程序的复杂任务。Agents为生成式AI应用带来了更高层次的能力，我们通过Amazon Q Business以及Amazon Bedrock的多Agents协作，与主流的解决方案相比，Amazon Bedrock的多Agents协作功能将成功完成任务的比例提高了40%。这一重大改进意味着在自动化客户支持、分析财务数据进行风险管理或优化供应链物流等用例中，能够实现更准确、更接近人类水平的成果。

这些创新正是我们推动生产力提升的体现，而未来还有更多值得期待的突破。

Swami Sivasubramanian：信任缺失是概念验证（POC）向生产实践过渡的一个关键障碍。企业决策者在面临重大决策时往往会犹豫，因为他们不愿意损害客户的信任。随着生成式AI在各行各业及日常生活中的创新影响力日益增强，对负责任的AI的需求也变得日益迫切。我们通过一系列创新来响应这一需求，其中包括我先前提及的Amazon Bedrock自动推理功能，它能有效避免“幻觉”现象，助力企业构建信任。

此外，我们还推出了Amazon Bedrock模型评估功能（LLM-as-a-judge）。这一功能进行测试和评估的质量达到了接近人类的水平。同时成本和时间仅为人工评估的一小部分。模型评估涵盖多个质量维度，包括正确性、实用性，以及负责任AI的相关标准，如拒绝回答的适当性和避免有害内容的能力。

通过这些功能，亚马逊云科技不仅帮助企业更快速地部署生成式AI，同时也为其打造了值得信赖的技术基础，助力生成式AI在各行业的深度应用。

我还想补充一点，亚马逊云科技最近成为了首个通过ISO/IEC 42001认证的主要云厂商。这项认证涵盖了Amazon Bedrock、Amazon Q Business、Amazon Textract和Amazon Transcribe等AI服务。

ISO/IEC 42001是一项国际管理体系标准，明确了推动AI系统负责任开发和使用的要求与控制措施。像ISO/IEC 42001这样的技术标准意义重大，它为负责任的AI开发和部署提供了急需的统一框架。这不仅是行业规范的一次重要突破，更标志着亚马逊云科技在推动全球AI责任治理方面迈出了关键一步。

Swami Sivasubramanian：生成式AI的真正价值在于其能够无缝接入并深刻洞察组织数据的能力。凭借这些深刻的理解，我们的客户能够开发出定制化的应用，比如高度个性化的客服Agents，Agents可以协助客服团队更高效地解决问题。对亚马逊云科技的客户而言，为生成式AI准备数据，不仅仅是技术上的挑战，更是一项战略性的优先任务。拥有专属的、高质量的数据是将通用AI模型转化为具有强大业务针对性的应用程序的关键，这种差异化因素至关重要。

为了使客户能够迎接这个由AI驱动的未来，我们致力于协助他们构建一个强健的部署在云上的数据底座。这一数据基础内嵌了安全性和隐私保护措施，是确保AI就绪状态的核心支柱。

在re:Invent 2024上发布的新一代Amazon SageMaker中，我们提供了一个集成化的一站式服务，能够帮助客户访问、治理并利用所有数据。这一体验整合了亚马逊云科技广受好评的数据、分析和人工智能能力，使得客户能够在一个统一的工作环境中快速进行协作和开发。通过熟悉的亚马逊云科技工具，用户可以轻松进行模型开发、生成式AI应用构建、数据处理和SQL分析工作，同时Amazon Q Developer的辅助功能将进一步提升他们的工作效率。

无论数据存储在数据湖、数据仓库，还是第三方数据源中，用户都可以轻松访问，并借助内置的治理功能，这些解决方案能够满足企业的安全需求，让用户在推动创新时更加自信和放心。

在re:Invent 2024大会上，我们还发布了Amazon Bedrock一系列关键的新功能，旨在助力客户充分挖掘和提升其数据的价值。

Amazon Bedrock Knowledge Bases提供了独特的托管式即插即用检索增强生成（RAG）解决方案，允许客户直接对其结构化数据进行查询，无需进行数据迁移，从而加快开发速度。新增加的GraphRAG支持通过建模和存储数据间的关系，能够生成更加相关和精确的响应。而Amazon Bedrock Data Automation功能则能够将非结构化和多模态数据转换为生成式AI所需的结构化数据——它能够大规模自动提取、转换并生成可用数据，释放多模态内容的潜在价值。

这些特性不仅助力客户深度挖掘数据的潜力，还促进了功能强大、富有洞察力的生成式AI应用的开发。

Swami Sivasubramanian：每一次与客户的深入交流都让我受益匪浅。客户们所从事的重要项目总是让人钦佩，而我们也始终致力于提供多样化和定制化的解决方案，以满足他们特定的应用需求。通过Amazon Bedrock Marketplace，客户如今能够访问100多种流行、新兴和专业化模型，这大大加速了创新的实现过程。

在re:Invent 2024大会上，我听到了许多关于新效率和变革性体验的故事。更重要的是，这些创新正在切实地改善着人们的生活。以分子诊断公司Exact Sciences为例，他们利用Amazon Bedrock打造了一款AI驱动的解决方案，将基因检测和分析的速度提高了50%。这一提升不仅仅是数字上的飞跃，它代表了深远的人类价值——更早的癌症发现和更精确的个性化治疗方案。这只是众多客户故事中的一个，他们正借助亚马逊云科技的力量，更快地构建解决方案，实现更高的成就，不断突破界限，引领行业变革，提升生活质量。

此外，助力培养下一代创新者同样让我充满激情。在re:Invent 2024大会上，我们宣布启动全新的教育平等倡议（Education Equity Initiative），亚马逊承诺投入高达1亿美元的云技术和技术资源，以支持现有的优秀教育组织，扩大教育覆盖范围，创造新颖、创新的数字化学习解决方案。这一使命无疑令人心潮澎湃。

如今，我们正身处技术创新的浪涌之中，看着re:Invent 2024大会上那些令人瞩目的创新发布，以及客户的参与热情，让我回想起亚马逊云科技的初创时期——那是一个万事皆有可能的时代。而现在，我相信这种可能依然存在。