av日韩一区_av一级在线观看_亚洲毛片在线观看_中文字幕不卡在线观看_一级黄色大片在线_av在线播放免费

微軟首款定制 AI 芯片,Maia 100 更多規格公開

每日快訊
2024
08/31
10:43
IT之家
分享
評論

來源:IT之家 

微軟公司出席 Hot Chip 2024 大會,分享了 Maia 100 芯片的規格信息。Maia 100 是臺積電 5nm 節點上制造的最大處理器之一,專門為部署在 Azure 中的大規模 AI 工作負載而設計。

Maia 100 芯片規格如下

芯片尺寸:820 平方毫米

封裝:采用 COWOS-S 夾層技術的 TSMC N5 工藝

HBM BW/Cap;1.8TB/s @ 64GB HBM2E

峰值密集 Tensor POPS: 6bit: 3,9bit: 1.5, BF16: 0.8

L1/L2:500MB

后端網絡 BW:600GB/s(12X400gbe)

主機 BW(PCIe):32GB/s PCIe Gen5X8

設計 TDP:700W

Provision TDP:500W

Microsoft Maia 100 系統采用垂直集成方式,以優化成本和性能。它還采用定制服務器板,配備專門設計的機架和軟件堆棧,以提高性能。

Maia 100 架構

高速 Tensor 單元可為訓練和推理提供高速處理,同時支持多種數據類型,單元采用 16xRx16 結構。

矢量處理器是一個松散耦合的超標量引擎,采用定制指令集架構(ISA),支持包括 FP32 和 BF16 在內的多種數據類型。

直接內存訪問(DMA)引擎支持不同的張量分片方案。

硬件 semaphores 支持 Maia 系統的異步編程。

為提高數據利用率和能效,大型 L1 和 L2 scratch pads 交由軟件管理。

Maia 100 采用基于以太網的互聯技術和類似 RoCE 的定制協議,可實現超高帶寬計算。它支持高達 4800 Gbps 的 all-gather 和 scatter-reduced 帶寬,以及 1200 Gbps 的 all-to-all 帶寬。

在軟件方面,Maia 軟件開發工具包(SDK)允許任何人快速將其 PyTorch 和 Triton 模型移植到 Maia。Maia SDK 為開發人員提供了多個組件,使他們能夠輕松地將模型部署到 Azure OpenAI 服務。

THE END
廣告、內容合作請點擊這里 尋求合作
數碼
免責聲明:本文系轉載,版權歸原作者所有;旨在傳遞信息,不代表砍柴網的觀點和立場。

相關熱點

海通證券分析師杰夫普(Jeff Pu)近日發布投資簡報,認為蘋果公司已經開始構建基于 M2 Ultra 芯片的 AI 服務器。
每日快訊
一家 AI 初創公司 Suno 近日發布了首款能夠生成 " 廣播級 " 歌曲的工具,能夠在數秒之內創作出兩分鐘的完整歌曲,所有用戶均可免費訪問。
評測
小米官宣將于 2 月 22 日晚發布 Redmi Book Pro 2024 筆記本,號稱是 " 小米筆記本業務的全新篇章 ",用手機的產業能力深度賦能筆記本業務,并且全面接入小米澎湃 OS。
每日快訊
據國外媒體報道稱,iPhone 16 的所謂設計圖流出,而據此渲染出的效果是,回歸豎排雙攝。
評測
如果 Vision Pro 頭顯出現系統故障,用戶應該如何恢復呢?根據蘋果解鎖的最新細節,整個恢復過程類似于 Apple Watch 和 Apple TV,需要 iPhone 借助完成。
每日快訊

相關推薦

1
3
主站蜘蛛池模板: 成人一区二区视频 | 久久这里有精品 | 91综合网| 国产欧美日韩综合精品一区二区 | www,黄色,com | 一级欧美一级日韩片免费观看 | 国产91av视频在线观看 | 在线观看深夜视频 | 午夜免费av | 日本三级电影在线观看视频 | 91看片官网| 午夜欧美日韩 | 午夜影院在线播放 | 欧洲精品在线观看 | 欧美一级做性受免费大片免费 | 亚洲视频区 | 国产成人精品一区二区三区 | 亚洲欧美日韩在线一区二区 | 国产高清久久久 | 在线视频成人 | 欧美日韩国产一区二区三区 | 久久久久久国产一区二区三区 | 仙人掌旅馆在线观看 | www久久国产 | 国产午夜精品一区二区三区 | 国产精品国产a级 | 久久久精彩视频 | h在线| 国产一级黄色网 | 亚洲视频区| 国产精品毛片av一区 | 精品国产乱码久久久久久丨区2区 | 国产一区欧美一区 | 免费一级毛片 | 狠狠躁天天躁夜夜躁婷婷老牛影视 | 成人做爰9片免费看网站 | 超碰天天 | 日韩成人| 久久综合久久综合久久 | 国产精品揄拍一区二区久久国内亚洲精 | 国产一区二区视频在线 |