AMD也能跑大模型 MI300X对比NVIDIA H100/200毫不逊色

申沛 泡泡网原创

2024年09月05日 12:04

新闻

    NVIDIA长期以来在AI算力领域占据主导地位,然而据国外媒体报道,AMD的最 新GPU产品MI300X在性能上终于展现出与NVIDIA H100/200相媲美的实力。根据The Information发布的评测报告,AMD的Instinct MI300X GPU在AI推理基准测试中的表现与NVIDIA的H100 GPU相当,表明AMD在高性能AI计算领域取得了显著进展。

    这份评测报告由MLCommons提供数据,测试了AMD的MI300X GPU及NVIDIA的H100和H200 GPU。结果显示,在AI推理任务中,MI300X GPU的性能与H100 GPU不相上下,结合对GPU成本及系统总成本的估计,MI300X GPU的表现可以与H100和H200 GPU相媲美。

    需要注意的是,这些测试仅使用了来自Meta的Llama 2 70B,尽管测试存在一定局限性,但这一结果仍然表明AMD的MI300X GPU在处理大型AI模型方面展现了强大的潜力。业内人士对AMD在AI领域的发展前景持乐观态度,认为其未来有望进入主流市场。

    Transformer作者及Cohere公司创始人之一艾丹·戈麦斯也对AMD及其技术持积极看法,认为AMD和其他平台如Tranium将很快在主流市场中占据一席之地。


您可能感兴趣的文章

文章模式

AMD也能跑大模型 MI300X对比NVIDIA H100/200毫不逊色

NVIDIA长期以来在AI算力领域占据主导地位,然而据国外媒体报道,AMD的最 新GPU产品MI300X在性能上终于展现出与NVIDIA H100/200相媲美的实力。根据The Information发布的评测报告,AMD的Instinct MI300X GPU在AI推理基准测试中的表现与NVIDIA的H100 GPU相当,表明AMD在高性能AI计算领域取得了显著进展。

长按识别二维码 进入泡泡网查看全文

请长按保存图片