开源解决方案的主要供应商Red Hat和AMD最近宣布了一项战略协会，旨在促进AI能力的发展并优化虚拟化基础设施。通过这种更深层次的合作，Red Hat和AMD将在混合云环境中扩展他们的客户选择，从实施优化和高效的模型到对传统虚拟机（VM）的更有利可图的现代化。本文任命：随着AI的采用，工作量的需求和多样性继续增加，公司必须具有满足这些不断增长的需求的能力和资源。但是，典型的数据中心主要集中在传统的IT系统上，几乎没有支持AI等密集的工作量。为了满足这一需求，Red Hat和AMD正在共同努力，将Red Hat行业的SolutionsOpen源离子领导者与AMD高性能计算机架构的整体组合相结合。 AMD和红色HAT：最有效的AI一代AI，促进Red Hat和AMD的实施，将基于AMD X86的处理器与GPU体系结构产品组合与强大的Network Hat AI功能相结合，以提供与AI的工作负载的优化利润生产环境。 AMD Instinct GPU与Red Hat OpenShift AI完全兼容，为客户提供了在混合云环境中实施AI所需的高性能处理能力，而无需极高的资源要求。此外，我们成功地使用AMD Instinct MI300X GPU使用Red Hat Enterprise Linux AI，Microsoft Azure Azure Azure Azure and Mi300x V5使用了AMD Instinct MI300X GPU，成功地证明了小语言模型（SLM）和大语言模型（LLM）的推论能力。成本。为了进一步提高加速度和性能调整功能，Red Hat和AMD正在与VLLM上游社区合作，以促进更有效的推论。通过THESE上游激活测量值，红色帽子和AMD Sonnuestro目标是提供改进的AMD GPU性能。当吸收AMD核文库并优化Triton核和诸如FP8，Red Hat，AMD等组件时，它可以提高密集和定量模型的推理性能，从而使VLLM实现AMD MI300X Acceler Intinct的越来越快，更快地执行。改进的多GPU GPU支持：改善总沟通并优化多GPU的工作负载为能源方面的更可扩展和有效的实现打开了大门，减少瓶颈并提高一般性能，尤其是对于需要在多个GPU中计算分配的工作负载。 VLLM生态系统中合作的扩展：红帽，AMD和IBM等其他行业领导者之间的相互合作将有助于加速上游开发，促进VLLM项目和GPU AMD优化的持续改进，并带来信任AMD Hardwa的VLLM用户对AI的推断和培训。优势。在VLLM社区中的这种合作的基础上，AMD Instinct GPU本地承认业务级别的VLLM分布Red Hat AI推断，用户可以立即使用它。作为VLLM项目的主要商业纳税人，Red Hat承诺通过在包括AMD Instinct GPU在内的硬件中实施VLLM来允许兼容。 AMD Instinct中的VLLM GPU执行允许公司在经过验证和测试的硬件高器中实现开源AI模型。 AMD EPYC™处理器允许结束-END AI性能，非常适合托管GPU控制器。这有助于提高所有GPU服务器的绩效和投资回报（ROI），即使面对最苛刻的工作量。现有数据中心的设计优化了最新的数据中心，公司可以重新配置更高效，方便的资源以增强AI创新。红帽OpenShift虚拟化是红色HA的特征T OpenShift，为公司提供简化的途径，以迁移和管理虚拟机工作负载，以达到本机云应用程序平台的舒适度和速度。 Red Hat OpenShift虚拟化通过EPYC AMD处理器进行了验证，并利用EPYC AMD处理器的出色性能和能源效率来保证其性能和效率DOIT，这是在混合云中，为云的本地未来建立了桥梁，同时确保了性能和效率。 Red Hat OpenShift虚拟化基于EPYC AMD处理器，可帮助公司优化其对关键服务器的应用程序（例如Dell PowerEdge，HPE Proliant和Lenovo Thinksystem Products）。在更新传统数据中心时，Red Hat OpenShift虚拟化可以为设施，公共云或混合云中包含的虚拟机和应用程序提供统一的管理。这大大降低了Hardwa中财产的总成本（TCO）RE，通过增加基础设施集成，软件许可和能源水平。此外，该解决方案还具有其他好处。释放资源和精力，以满足AI当前和将来的工作量的需求，同时允许IT团队合作当前的关键工作负载。 Red Hat Products高级副总裁兼总监Ashesh Badani“ AI的全部意识意味着公司必须具有优化您的IT基础架构的选择和灵活性。虚拟平台设备和Open -Source -Source AI Technologies通过下一代的下一代加速加速，可缩放。