JFrog与NVIDIA合作,利用NVIDIA NIM提供安全的AI模型

发布者:EE小广播最新更新时间:2024-09-18 来源: EEWORLD关键字:NVIDIA  安全  AI  模型 手机看文章 扫描二维码
随时随地手机看文章

为满足对企业级生成式AI日益增长的需求,JFrog Platform 集成了NVIDIA NIM,以提供 GPU 优化的AI模型服务


2024年9月18日 ——流式软件公司、JFrog 软件供应链平台的缔造者JFrog,现已通过收购 Qwak AI将业务扩展至涵盖统一 MLOps 平台,近期宣布与NVIDIA NIM 微服务(NVIDIA AI Enterprise 软件平台的一部分)进行新的产品集成。将JFrog Artifactory模型注册和NVIDIA NIM集成至JFrog Platform,有望实现在端到端软件供应链工作流中将GPU优化、预获批的AI模型与集中式DevSecOps流程相结合,使企业能够以极快的速度将安全的机器学习(ML)模型和大语言模型(LLM)投入生产,并提高透明度、可追溯性和信任度。


JFrog战略执行副总裁Gal Marder表示:“ 随着企业快速采用AI技术,落实确保效率和安全性的实践,并以负责任的方式采用AI至关重要。通过NVIDIA NIM微服务,将DevOps、安全和MLOps流程集成至端到端软件供应链工作流中,客户将能够高效地将安全模型投入生产,同时在整个流水线中保持高度的可视性、可追溯性和可控性。”


随着AI在软件应用中的兴起和市场需求的快速增长,数据科学家和ML工程师在企业环境中扩展ML模型部署时面临着多样化的挑战。碎片化的资产管理、安全漏洞、合规性问题和性能瓶颈,再加上将AI工作流与现有软件开发流程集成的复杂性,以及在各种环境中灵活、安全部署的应用需求,使问题变得更加复杂。这种复杂性的叠加可能导致部署周期漫长且成本高昂,甚至许多情况下会导致AI应用计划的失败。


NVIDIA 企业战略合作伙伴副总裁Pat Lee表示:“随着企业扩大生成式AI的部署规模,中央存储库可以帮助他们快速选择和部署已获准开发的模型。将NVIDIA NIM微服务集成到JFrog Platform,可以帮助开发人员快速获得完全合规、性能优化的模型,并迅速投入生产。”


JFrog Artifactory提供了一种单一解决方案,该方案适用于存储和管理整个软件供应链中使用的所有制品、二进制文件、软件包、文件、容器和组件。JFrog Platform与NVIDIA NIM的集成有望将容器化AI模型作为软件包纳入现有的软件开发工作流。通过将NVIDIA NGC(一个GPU优化深度学习、ML和HPC模型的中心)与JFrog Platform和JFrog Artifactory模型注册中心相结合,企业将能够为所有软件包和AI模型维护单一事实来源,同时利用企业DevSecOps最佳实践来获得对整体软件供应链的可视性、管理和控制。


JFrog Platform与NVIDIA NIM的集成有望带来多项优势,包括


●统一管理:在 JFrog Artifactory(作为模型注册表)中,对所有资产(包括专有制品和开源软件依赖项)以及 NIM 微服务容器进行集中访问控制和管理,实现与现有 DevSecOps 工作流的无缝集成。

●全面的安全性和完整性:在开发的每个环节(包括容器和依赖项)进行持续扫描,通过 JFrog 审计和使用情况统计来提供对 NIM 微服务的上下文洞察,从而促进合规性。

●卓越的模型性能和可扩展性:利用NVIDIA加速计算基础设施来优化AI应用性能,提供低延迟和高吞吐量,以便在大规模生产环境中实现具有可扩展性的LLM部署。

●灵活部署:通过 JFrog Artifactory 提供灵活的部署选项,包括自托管、多云和离线部署选项。


关键字:NVIDIA  安全  AI  模型 引用地址:JFrog与NVIDIA合作,利用NVIDIA NIM提供安全的AI模型

上一篇:放眼IT解耦之外,中国企业降低网络安全合规风险的三大策略
下一篇:消息称苹果首款自研 5G 芯片将有“短板”:不支持毫米波

推荐阅读最新更新时间:2024-11-05 12:42

英飞凌与阿里云合作,面向中国推出定制物联网安全芯片
9月9日,英飞凌和阿里云联合宣布面向中国市场推出基于硬件的ID²安全芯片OPTIGA™ Trust M2 ID2,旨在重新定义物联网设备上云的安全标准,专注保障物联网设备安全上云。 OPTIGA™ Trust M2 ID2具有易于开发,优异的安全特性,灵活好用的扩展工具包与支持广泛的应用场景等特点,同时芯片拥有最高安全认证等级、金融级别安全认证等级CC EAL6+及ICA安全芯片Level 3最高级的双料安全认证。 日前,英飞凌科技安全互联系统事业部市场经理成皓详细解读了英飞凌OPTIGA™Trust M2 ID2的技术参数,以及所具备的特殊优势,这些都是阿里云选择英飞凌作为合作伙伴的重要原因。 成皓表示,物联网设备的
[安防电子]
英飞凌与阿里云合作,面向中国推出定制物联网<font color='red'>安全</font>芯片
国内人工智能行业火爆,巨头已在积极布局
在利好因素的促进下,我国 人工智能 技术攻关和产业应用发展势头良好。我国自主知识产权的文字识别、语音识别、中文信息处理、智能监控、生物特征识别、 工业机器人 、服务机器人等智能科技成果已进入广泛的实际应用。同时,我国已经拥有一支人工智能研发队伍和国家重点实验室等设施齐全的研发机构。   中国人工智能发展环境分析 目前我国在人工智能的研究上与发达国家相比、甚至与美国相比都不算落后,这对于我们国家来说是难得的历史机遇,是提升综合国力和影响力的绝佳机会。如今我国在国家层面制订人工智能发展战略,并加快推进,我国完全有可能利用市场需求优势、用户数据优势等,抢占人工智能技术和产业的制高点,实现人工智能技术“弯道超车”。     人工智能行
[嵌入式]
美国特斯拉能否够带着中国电动车安全走出围城?
编者按:自1880年,美国爱迪生制造出第一辆电动汽车,时速20英里开始,到上世纪90年代至本世纪初,美国电动汽车长期统治着全球电动汽车界。即使本世纪美国电动汽车发展陷入停滞,却依旧是全球电动汽车圈中的巨头。   为何每一起 特斯拉 事故,媒体总是大肆报道,为何特斯拉作为一个电动汽车制造商,总是会出现在各大媒体的头条,甚至关注度超过宝马奔驰,为何媒体总是关注特斯拉,对于特斯拉的每一场事故都不放过呢?   特斯拉与埃隆·马斯克 美国华尔街投资者发现,特斯拉是一只让人又爱又恨的股票。虽然这只股票引来了大量卖空买家,或那些押注它会下跌的投资者,但是从长远角度来看特斯拉的股票表现超级好。   如果埃隆?马斯克能在未来十年内把特斯拉公司变成一
[嵌入式]
一张小小的AI标签就能鉴别仿冒品 这家法国初创公司厉害了!
仿冒产品是一个全球性问题,但在亚洲更为突出。法国一家名为Cypheme(赛纷)的创业公司,把独特的标签和人工智能软件相结合,以此来鉴定产品真伪、打击仿冒行为。    Cypheme采用独特油墨与人工智能软件的防伪标签   Cypheme已经把这项技术推广到多个行业,比如纺织、医药和金融,这些领域的产品仿冒会同时伤害到生产者和消费者。这家公司在巴黎设立总部,但其业务已经延伸到了中国大陆、台湾以及日本、泰国。   Cypheme的小标签可以像贴纸那样贴在正品上,也可以直接印在标签或包装上。这家创业公司表示,其采用的三层安全层可以防止其标签被复制。   实际上,品牌企业可以在任何产品上粘贴Cypheme的标签。最明显的是服装、化妆品
[安防电子]
汽车人工智能会否步上PC和智能手机后尘
  所谓的“Wintel”平台自1990年代晚期,孕育了一系列几乎功能完全相同、价格低廉的标准型PC;最近几年,智能手机步上了PC的后尘──我们在 8年前因为苹果(Apple)推出第一支iPhone而见证了手机产业的变革,随着Google的Android平台普及化,智能手机迅速商品化。那…汽车会是下一个吗?   我的预测是“会”,这是不可避免的;不过这个问题的重点并不在于那样的情况“会不会”或是“何时”发生,而是“更标准化与商品化的汽车”将会以什么样的方式来临?现在已经有不少科技业者的未来命运就与答案系在一起。   我们也开始看到了汽车商品化的征兆。例如特斯拉(Tesla),虽然他们家的车还远远不到商品化的地步,但该公司已经向业
[嵌入式]
英伟达与AutoX于2020年推机器人出租车
近日,据外媒报道,英伟达宣布将与自动驾驶技术公司AutoX、电动车厂商NEVS于2020年底推出机器人出租车原型。在合作项目中,英伟达主要负责提供搭载DRIVE Xavier芯片的自动驾驶计算机DRIVE Pegasus,其超强的算力能够满足高度自动驾驶的需求。 自动驾驶,英伟达,AutoX 『AutoX自动驾驶车』 AutoX是一家中国的自动驾驶技术公司,曾获得东风汽车领投的数千万美元融资,并且于2019年6月在美国加州获得了路试运营牌照。紧接着,在2019年7月,AutoX又和电动车厂商NEVS签署了战略合作,将在NEVS的下一代车辆平台上整合AutoX的自动驾驶技术。对于自动驾驶汽车来说,高速的海量数据处理能力是必须具
[机器人]
Intel与AMD合作出成果,对抗NVIDIA底气多几分
  日前有消息指 Intel 即将推出的i7-8809G处理器是一款整合了酷睿处理器和 AMD  VEGA GPU的芯片,这将补上 Intel 在GPU上的短板为它与NVIDIA抗衡增添几分底气。下面就随网络通信小编一起来了解一下相关内容吧。   Intel与AMD合作出成果,对抗NVIDIA底气多几分   由于PC市场连续多年的下滑, Intel 已开始将业务核心放在服务器芯片市场,目前在服务器芯片市场Intel无疑占据垄断地位,它自己公布的数据指占有该市场97%的市场份额,优势无疑是明显的。   不过在服务器芯片市场,NVIDIA正显示出强烈的企图心,特别是随着人工智能、自动驾驶的兴起,GPU更适合这类数据处理任务因此赢
[网络通信]
设计安全的智能小家电
消费者享受着当今新型智能家电带来的好处,其中包括更智能的便利功能和基于物联网的界面,使他们能够控制家庭环境。这些产品包括空气炸锅和机器人吸尘器,可节省消费者做各种家务和准备食物和饮料的时间。 设计师必须将智能技术融入到新家电设计中,以满足消费者的需求。他们还必须提高家电的节能效果,让电池供电的产品在停机和充电之间的间隔时间更长。 电器中的电子元件越多,设计师面临的挑战就越大,他们需要确保产品坚固可靠,能够抵御过压瞬变、过流情况和静电放电 (ESD) 等电气危害。本文向设计师介绍了电路保护方案和一些保护电路免受电气危害的独特元件。本文还推荐了降低功耗以节省能源的元件。所有这些元件将使设计师能够开发出安全、高效、坚固且智能的小型电器。
[嵌入式]
小广播
最新网络通信文章
更多往期活动

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved