微軟開發工具包打破NVIDIA護城河!AMD GPU可運行CUDA代碼
11月9日消息,微軟長期以來,開發可運NVIDIA憑借其強大的工具CUDA生態系統,在AI領域占據主導地位,包打而競爭對手如AMD的城河ROCm等相對不夠成熟,不過這一格局正迎來新的微軟破局者微軟。
據一位“高級別”微軟員工透露,開發可運其已開發出“工具包”,工具能夠將NVIDIA CUDA模型轉換或轉譯為ROCm兼容代碼,包打使其能在AMD的城河GPU上運行。
此舉旨在打破CUDA的微軟“生態鎖定”,為微軟日益增長的開發可運AI推理工作負載尋找更具成本效益的替代方案。
微軟此番行動的工具核心驅動力在于,他們觀察到AI推理工作負載的包打需求正在大幅增加,與昂貴的城河NVIDIA GPU相比,AMD的AI芯片在推理場景中具備更佳的性價比。
通過軟件轉換,微軟可以利用AMD的硬件優勢來降低運營成本。
據推測,該工具包可能采用類似ZLUDA的運行時兼容層技術,在不修改源代碼的情況下,將CUDA API調用實時翻譯成ROCm指令。
不過由于ROCm相對“不成熟”,部分CUDA代碼仍缺乏對應的映射,可能導致性能下降,這在大型數據中心環境中仍是一個挑戰。
本文地址:http://m.zj28.net/html/00f4499955.html
版權聲明
本文僅代表作者觀點,不代表本站立場。
本文系作者授權發表,未經許可,不得轉載。