暂无图片
暂无图片
2
暂无图片
暂无图片
暂无图片

Oracle Cloud World 2024演讲:利用数据和AI开发未来的应用程序

甲骨文云技术 2024-09-24
393
AI技术的不断发展正改变着我们业务的运营模式,并对业务的最终结果起到潜移默化的影响。企业组织仍在努力实现来自人工智能的真正商业价值和投资回报率。如何将AI技术有效地落地到业务的变革中,尤其是业务应用开发中,就显得尤为重要。
基于OCI的全面现代化开发平台, 旨在帮助客户构建满足他们现实世界需求的智能应用。OCI在各个堆栈层面的企业AI能力帮助客户实现业务价值和结果的驱动。
在IaaS层面,OCI提供GPU的虚机和裸机实例,基于RDMA技术的高性能网络超级集群,以及高性能存储,满足客户AI大模型训练和推理的场景。
在数据平台层面,OCI提供了基于Oracle数据库和MySQL数据库的双数据库引擎,内置了向量存储和生成式AI的能力,实现企业私有数据的向量检索和RAG的场景。
在AI服务层面,OCI提供开箱即用的SaaS化的AI服务,包括生成式AI的服务,内置了Llama和Cohere大语言模型,支持GenAI Agent的RAG集成,另外还有包括像语言服务、语音服务,文档理解服务、视觉服务等多种AI能力。生成式AI服务帮助客户以极小的成本构建高品质预建模型,使用客户自己的私有数据进行模型的定制,且直接将定制模型部署在OCI的任何区域里,保障客户数据隐私和合规的要求。
最后在应用层面,OCI提供的融合应用软件、NetSuite等SaaS软件已经将AI能力预置在应用中,客户不需要额外的开发和集成,就可以使用AI的能力来实现业务创新。
基于Oracle AI堆栈来实现现代化应用转型主要聚焦在三个方面,首先是基于AI实现快速的企业级应用的开发,这里Oracle提供了Code Assistant和Apex AI Assistant来加速客户的应用开发过程;其次是将AI与客户的数据相结合,利用各种类型的数据实现更大的业务价值;最后是实现业务应用以任何规模,任何地域的部署,在这里我们提供了基于K8S容器部署优化的基础设施架构。
首先来看Oracle加速企业应用开发的两大利器:Code Assistant和Apex AI Assistant。Oracle Code Assist 是一款 AI 代码助手,旨在提高开发人员的速度并增强代码一致性。Oracle Code Assist 由 OCI 上的大型语言模型 (LLM) 提供支持,并针对 OCI 上的 Java、SQL 和应用程序开发进行了微调和优化,可为开发人员提供特定于上下文的建议。您将能够根据组织的优秀实践和代码库对其进行定制。Oracle Code Assist 将作为 JetBrains IntelliJ IDEA、Microsoft Visual Studio Code 等热门开发环境的插件提供。Oracle 内部的开发人员目前正在积极使用 Oracle Code Assist 构建新产品和服务,Oracle Code Assist in beta现在已经正式发布,向外部开发人员开放。
全新 APEX AI 助手简化了应用开发,帮助开发人员快速构建功能丰富的大规模任务关键型应用。开发人员现在可以使用自然语言提示来指定所需的功能和组件,并自动生成 SQL 语句,执行一键调试更正,无需记住表名,并轻松为其应用添加开箱即用的对话界面。Oracle APEX 是 Oracle Database 和所有 Oracle Database 服务(包括 Oracle Autonomous Database)完全支持的免费功能,开发人员可以免费试用。通过取代复杂的传统编码,Oracle APEX 的声明式开发方法使开发人员能够以 20 倍的速度构建和部署关键任务企业应用程序,同时减少 100 倍的代码。Oracle APEX 已构建了超过 2100 万个应用程序,是全球各行各业组织中超过 850,000 名开发人员的优选平台。
接下来我们看下如何将AI的能力和客户的私有数据相结合。如下图所示, 用户可以通过自然语言查询从业务应用程序发送请求,这个查询通过 SQL Agent 和 RAG Agent(检索增强生成)服务处理,借助 Oracle 云基础设施(OCI)的生成式 AI 技术,系统将查询传递到企业的多个知识库(如 Oracle DB/Autonomous DB、Heatwave、OpenSearch、PostgreSQL),进行搜索并返回检索结果,最终用户以自然语言的形式获取相关答案。

Oracle 数据库的 AI 能力包括:

  • 使用 AI 向量搜索在数据库内进行语义搜索

  • 通过 REST API 提供 检索增强生成(RAG)

  • 借助 ONNX 框架在数据库内运行嵌入模型

  • 通过 Exadata 实现大规模、关键任务的 AI

  • 使用 SelectAI 将自然语言问题转换为 SQL 查询

  • 支持在 OML 笔记本中使用 GPU 进行计算

OCI上提供了了丰富的基于开源的开发框架和应用集成服务,可以加速云上应用现代化开发的过程。Oracle 在应用程序集成方面的核心能力如下:
  1. 完整的自动化能力组合:Oracle 提供全面的自动化功能,帮助企业优化流程和提升效率。
  2. 预构建的集成与连接:通过已有的集成和连接,Oracle 能够快速连接各种系统和服务,实现无缝集成。
  3. 连接应用、数据、人员和机器人:Oracle 平台允许应用程序、数据、人员和自动化机器人之间的高效协作与互动。
  4. 编排 OCI 和 AI 服务:Oracle 支持将其云基础设施(OCI)和人工智能服务进行编排,以实现更强大的智能应用和数据处理能力。
最后我们看下如何基于K8S集群加速云上应用的开发,尤其是针对AI类的应用。OCI OKE服务提供的如下新特性,为AI的工作负载进行了优化,提供更好的性价比以及内置的安全性和高可用性,集中的配置管理和企业的弹性能力,将更好的支持云上基于容器的AI应用的开发:
  • Node Manager:提升了GPU和RDMA节点的可观测性

  • 支持Ubuntu操作系统:新增对Ubuntu操作系统的支持

  • 全面的灾难恢复:提供完整的灾难恢复解决方案

  • 容器治理与CloudGuard:通过CloudGuard实现容器治理

  • 支持OpenID Connect(OIDC)发现:增强了对OIDC的支持

  • 增强的监控体验与日志分析:通过日志分析提升了监控体验

最后,总结一下,通过使用OCI的生成式AI服务和开发助手的工具,可以大幅度提升开发者的开发效率,将AI的能力与客户的私有化数据相结合,将 AI 带到您的数据中,从而更好的挖掘企业的数据价值,基于OKE的基于AI优化的弹性K8S容器底层基础设施,更好的支持AI工作负载的稳定运行和弹性扩展能力。
这就是关于OCW2024开发者专题演讲“基于数据和AI应用开发程序开发的未来”的所有内容,后续也希望大家更多的关注公众号中关于OCW2024演讲主题的内容分享。
编辑:小炒肉

文章转载自甲骨文云技术,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论