红帽企业Linux AI发布 目前已提供开发者预览版
5月9日消息,ChatGPT的推出极大地激发了社会对生成式AI的兴趣,自那以来,相关创新的步伐不断加速。企业已从对生成式AI服务的初步评估转向开发并启用AI的应用程序。为了真正降低进入AI创新的门槛,企业需要扩大参与AI项目的人员范围,同时控制相关成本。
日前,开源解决方案供应商红帽公司宣布推出红帽企业Linux AI(RHEL AI)。这是一个基础模型平台,能够使用户更加便捷地开发、测试和部署生成式人工智能(GenAI)模型。
RHEL AI整合了IBM研究院的开源授权Granite大型语言模型(LLM)系列、基于大规模对话机器人对齐(LAB)方法的InstructLab模型对齐工具,以及通过InstructLab项目实施的社区驱动模型开发方法。
该解决方案被封装成一个优化的、可启动的RHEL镜像,用于在混合云环境中部署单个服务器,并已集成到OpenShift AI中。OpenShift AI是红帽的混合机器学习运营(MLOps)平台,能够在分布式集群环境中大规模运行模型和InstructLab。
InstructLab是一个围绕LAB方法和IBM开源Granite模型构建的开源社区。InstructLab项目的目标是使开发者通过简化LLM的创建、构建和贡献过程,像参与任何其他开源项目一样,将LLM开发的权力交到开发者手中。
具体来看,RHEL AI包括:
1.红帽支持和保障的开源许可Granite语言和代码模型;
2.提供支持并具有生命周期管理的InstructLab分发版本,这是一种可扩展且成本效益高的解决方案,能够增强大型语言模型(LLM)的功能,并使知识与技能的贡献得到更广泛的用户接纳。
3.通过RHEL镜像方式提供的优化可启动模型运行实例,包括Granite模型和InstructLab工具包,及优化的Pytorch运行时库和针对AMD Instinct™ MI300X、Intel和NVIDIA GPU以及NeMo框架的加速器。
4.红帽提供的完整企业支持和生命周期保证,从可信的企业产品分发开始,提供24小时全天候生产支持和扩展的生命周期支持。
红帽高级副总裁兼首席产品官Ashesh Badani表示,对企业来说,生成式AI(GenAI)代表了一次革命性的飞跃,但这需要企业真正部署起来,并针对其具体业务需求使用AI模型。通过结合红帽OpenShift AI的广泛应用,RHEL AI和InstructLab项目旨在降低混合云中生成式AI所面临的多种挑战,从数据科学技能的限制到巨大的资源需求,同时促进企业的部署并推动上游社区的创新。”
据悉,红帽OpenShift AI最新版本提供了:边缘模型服务、增强型模型服务、采用Ray支持分布式工作负载、改进模型开发、模型监控和可视化以及新的加速器配置文件。
目前,红帽企业Linux AI已作为开发者预览版提供。在IBM云上已建立的GPU基础设施用于训练Granite模型并支持InstructLab,现IBM云将增加对RHEL AI和OpenShift AI的支持。此整合将使企业能够更轻松地将生成式AI部署至其关键任务应用程序中。
Warning: Invalid argument supplied for foreach() in /home/wwwroot/www/chjia.com/goods.php on line 846
郭明錤:ChatGPT流量下滑不利于AI供应链整体股价表现
天风国际分析师郭明錤日前就Nvidia与AI供应链近期股价看法,发表Medium文章表示:1.我所交流的投资人,根据对英伟达(Nvidia)的CoWoS出货量与付款条件的假设,部分是期待Nvidia能提出对第三季营收$165–175亿元的预...
彭博社预测2024年AI GPU销售额:英伟达400亿美元、AMD 35亿美元IT之家4月28日消息,彭博社分析师近日发布预估报道,认为英伟达将继续主导2024年的人工智能(AI)GPU市场,销售额将达到400亿美元(IT之家备注:当前约2904亿元人民币)。而AMD公司为35亿美元、英特尔公司仅为5亿美...
消息称鸿海再度拿下大单,成英伟达AI服务器芯片基板最大供应商8月14日消息,据台媒《经济日报》今日凌晨报道,鸿海集团首度拿下了英伟达HGXAI服务器芯片基板的订单,供货比重将超过50%。据报道,继此前获得英伟达另一款DGXAI服务器芯片基板订单之后,鸿海已经取得英伟达最重要的...
OpenAI CEO奥特曼被解雇 回应称喜欢在这家公司工作11月18日消息,美国时间周五,人工智能研究公司OpenAI董事会发布公告,宣布首席执行官萨姆·奥特曼(SamAltman)将离职,由首席技术官米拉·穆拉蒂(MiraMurati)担任临时首席执行官。OpenAI董事会在公告中写道:“...
中国电信:在通用大模型方面今年还会有新的成果在昨日晚间的2023半年度业绩会上,中国电信公告称,2023年上半年营收2586.8亿元,同比增长7.7%;净利润201.53亿元,同比增长10.2%。同时,在会上,中国电信董事长兼首席执行官柯瑞文表示,中国电信在通用大模型方面今...
外媒:苹果正在全球范围内寻找生成式人工智能人才
8月7日消息,据外媒报道,苹果公司正在全球范围内寻找生成式人工智能(AI)人才。随着OpenAI旗下AI聊天机器...
苹果计划使用富士康供应的专用服务器测试人工智能服务
据udn援引南华早报的消息,富士康将独家向苹果供应用于训练和测试人工智能服务的专用服务器。由于苹果计划...
外媒称苹果将采用富士康服务器训练和测试人工智能服务
8月9日消息,据外媒报道,在OpenAI训练的人工智能聊天机器人ChatGPT大火之后,谷歌等多家公司加入了生成式...
英伟达在人工智能技术领域的领导地位和近乎垄断的地位「令人震惊」
英伟达日前展示了其新的人工智能处理器芯片GH200,并推出了AIWorkbench功能,供客户开发自己的大型语言模型...