NVIDIA(英伟达)携手 Oracle(甲骨文)，加速人工智能及处理资料
sinye56 2024-10-10 10:45 8 浏览 0 评论
在 Oracle CloudWorld 大会上，Oracle 宣布推出全球首个 zettascale（10 的 21 次方）运算规模的 OCI Supercluster。该系统由 NVIDIA Blackwell 平台加速运行，支持超过 10 万颗 NVIDIA 最新一代 GPU，用于训练和部署下一代 AI 模型。OCI Supercluster 系统将于 2024 年上半年推出，并可扩展至 131072 颗 Blackwell GPU，峰值 AI 运算能力达到 2.4 zettaflops。该系统还支持 NVIDIA ConnectX-7 NIC 和 Quantum-2 InfiniBand 网络，适用于内部部署、公有云和主权云环境，为企业提供灵活部署选项。
Oracle 还宣布推出 NVIDIA GB200 NVL72 液冷裸机执行个体，支持生成式 AI 应用的训练和推论。该执行个体利用 Quantum-2 InfiniBand，能够在 72 颗 GPU 的 NVLink 网域内运行，实现上兆个参数模型的即时推论。OCI 也将于今年提供 NVIDIA HGX H200 GPU 平台，透过 NVLink 和 NVLink Switch 连接 8 颗 H200 Tensor 核心 GPU，并在 RoCEv2 网络上扩展至 65536 颗 GPU，支持大规模即时推论和训练工作负载。
此外，Oracle 宣布推出针对中阶 AI 工作负载及 NVIDIA Omniverse 可视化应用的 L40S GPU 加速执行个体，进一步扩展企业在边缘及云端环境中的 AI 运算能力。Oracle 的 Roving Edge Device v2 边缘产品，现可支持最多三个 NVIDIA L4 Tensor 核心 GPU，帮助企业在远端环境中运行 AI 应用。
多家企业已利用 NVIDIA 加速的 OCI Supercluster 推动 AI 创新。AI 新创公司 Reka 就在此集群上开发了多模态 AI 模型，用于开发能听、说、读、看的企业代理。Reka 共同创办人 Dani Yogatama 表示，该公司的多模态 AI 模型依赖于 NVIDIA GPU 加速基础设施，能够轻松处理大规模模型并高效扩展训练工作负载。
NVIDIA 与 Oracle 也展示了三项基于 GPU 的功能，展示如何加速生成式 AI 应用的开发，包括向量嵌入加速、向量图索引加速以及推论微服务的应用，进一步提升企业资料处理效能。
透过这些创新，NVIDIA 与 Oracle 正协助全球企业和政府实现 AI 应用的突破，满足资料主权需求并加强经济韧性。
相关推荐
- CTO偷偷传我的系统性能优化十大绝招(万字干货)
-
上篇引言：取与舍软件设计开发某种意义上是“取”与“舍”的艺术。关于性能方面，就像建筑设计成抗震9度需要额外的成本一样，高性能软件系统也意味着更高的实现成本，有时候与其他质量属性甚至会冲突，比如安全性、...
- 提升效率!VMware虚拟机性能优化十大实用技巧
-
我40岁，干跨境婚恋中介的。为服务各国用户，常得弄英语、日语、俄语系统环境，VMware虚拟机帮了不少忙。用久了发现优化下性能，效率能更高。今儿就来聊聊优化技巧和同类软件。一、VMware虚拟...
- 低延迟场景下的性能优化实践
-
本文摘录自「全球C++及系统软件技术大会」ScottMeyers曾说到过，如果你不在乎性能，为什么要在C++这里，而不去隔壁的Pythonroom呢？今天我们就从“低延迟的概述”、“低延迟系...
- Linux性能调优之内存负载调优的一些笔记
-
写在前面整理一些Linux内存调优的笔记，分享给小伙伴博文没有涉及的Demo,理论方法偏多，可以用作内存调优入门博文内容涉及:Linux内存管理的基本理论寻找内存泄露的进程内存交换空间调优不同方式的...
- 优化性能套路:带你战胜这只后段程序员的拦路虎
-
来源｜极客时间《卖桃者说》作者｜池建强编辑｜成敏你好，这里是卖桃者说。今天给大家推荐一篇文章，来自倪朋飞老师的专栏《Linux性能优化实战》，文章主要讲的是优化性能的套路，这几乎是每个后端程序员...
- SK海力士CXL优化解决方案已成功搭载于Linux:带宽提升30%，性能提升12%以上
-
SK海力士宣布，已将用于优化CXL（ComputeExpressLink）存储器运行的自研软件异构存储器软件开发套件（HMSDK）中主要功能成功搭载于全球最大的开源操作系统Linux上，不但提升了...
- Linux内核优化:提升系统性能的秘诀
-
Linux内核优化：提升系统性能的艺术在深入Linux内核优化的世界之前，让我们先来理解一下内核优化的重要性。Linux内核是操作系统的核心，负责管理系统资源和控制硬件。一个经过精心优化的内核可以显著...
- Linux系统性能优化:七个实战经验
-
Linux系统的性能是指操作系统完成任务的有效性、稳定性和响应速度。Linux系统管理员可能经常会遇到系统不稳定、响应速度慢等问题，例如在Linux上搭建了一个web服务，经常出现网页无法打开、打开速...
- 腾讯面试:linux内存性能优化总结
-
【1】内存映射Linux内核给每个进程都提供了一个独立且连续的虚拟地址空间，以便进程可以方便地访问虚拟内存；虚拟地址空间的内部又被分为内核空间和用户空间两部分，不同字长的处理器，地址空间的范围也不同...
- Linux文件系统性能调优《参数优化详解》
-
由于各种的I/O负载情形各异,Linux系统中文件系统的缺省配置一般来说都比较中庸,强调普遍适用性。然而在特定应用下,这种配置往往在I/O性能方面不能达到最优。因此,如果应用对I/O性能要求较高,除...
- Nginx 性能优化(吐血总结)
-
一、性能优化考虑点当我需要进行性能优化时，说明我们服务器无法满足日益增长的业务。性能优化是一个比较大的课题，需要从以下几个方面进行探讨当前系统结构瓶颈了解业务模式性能与安全1、当前系统结构瓶颈首先需要...
- Linux问题分析与性能优化
-
排查顺序整体情况：top/htop/atop命令查看进程/线程、CPU、内存使用情况，CPU使用情况；dstat2查看CPU、磁盘IO、网络IO、换页、中断、切换，系统I/O状态;vmstat2查...
- 大神级产品:手机装 Linux 运行 Docker 如此简单
-
本内容来源于@什么值得买APP，观点仅代表作者本人｜作者：灵昱Termux作为一个强大的Android终端模拟器，能够运行多种Linux环境。然而，直接在Termux上运行Docker并不可行，需要...
- 新手必须掌握的Linux命令
-
Shell就是终端程序的统称，它充当了人与内核（硬件）之间的翻译官，用户把一些命令“告诉”终端程序，它就会调用相应的程序服务去完成某些工作。现在包括红帽系统在内的许多主流Linux系统默认使用的终端是...
- Linux 系统常用的 30 个系统环境变量全解析
-
在Linux系统中，环境变量起着至关重要的作用，它们犹如隐藏在系统背后的“魔法指令”，掌控着诸多程序的运行路径、配置信息等关键要素。尤其在shell脚本编写时，巧妙运用环境变量，能让脚本如虎...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- oracle忘记用户名密码 (59)
- oracle11gr2安装教程 (55)
- mybatis调用oracle存储过程 (67)
- oracle spool的用法 (57)
- oracle asm 磁盘管理 (67)
- 前端 设计模式 (64)
- 前端面试vue (56)
- linux格式化 (55)
- linux图形界面 (62)
- linux文件压缩 (75)
- Linux设置权限 (53)
- linux服务器配置 (62)
- mysql安装linux (71)
- linux启动命令 (59)
- 查看linux磁盘 (72)
- linux用户组 (74)
- linux多线程 (70)
- linux设备驱动 (53)
- linux自启动 (59)
- linux网络命令 (55)
- linux传文件 (60)
- linux打包文件 (58)
- linux查看数据库 (61)
- linux获取ip (64)
- linux进程通信 (63)