是否接受進口

拒絕進口

品牌

庚昌

型號

NVIDIA A100 Tensor Core GPU

生產廠商

******有限公司

產地信息

中國

技術規格及參數

架構:AmpereCUDA核心數≥6912Tensor；
核心≥432顯存≥80GBHBM2e帶寬≥1.6TB/S；TDP功耗≥400 W；
電源接口?：8pin?
計算性能?：FP64：≥9.7 TFLOPS；FP32：≥19.5 TFLOPS；TF32（AI加速）：≥156 TFLOPS
FP16/INT8：≥312 TFLOPS / 624 TOPS?
稀疏加速?：對稀疏矩陣計算優化，理論性能翻倍（如1248 TOPS INT8）?
多卡互聯與擴展性?：NVLink 3.0 ?：單卡支持600GB/s互聯帶寬，最多支持8卡互聯（通過NVSwitch ），實現高效并行計算
? PCIe 4.0 ?：兼容主流服務器，提供64GB/s傳輸帶寬
?關鍵技術特性?： [MIG（Multi-Instance GPU）?：可將單卡虛擬化為7個獨立實例，分別運行不同任務，提升資源利用率?安全功能?：支持硬件級加密（ AES-256 ），確保數據安全（適用于云服務）?第三代Tensor Cores?：加速混合精度訓練，支持稀疏計算、 Transformer模型優化
NVLink支持:可連接多個GPU以擴展算力，應用場景：深度學習訓練、推理、科學計算、大規模數據分析。
需對以上設備部署下述軟件：
GPU 集群管理軟件必須是國產可控。需與機器兼容，提供容器+鏡像的管理，提供GPU+CPU集群的管理和調度；多數據中心管理，用戶可以選擇使用某一數據中心資源；備3層組織架構管理；如管理員、組織管理員、成員等，通過設定對組織及用戶進行資源配額；支持對資源進行套餐分配及設置使用權限，可設置部分或全部使用；用戶按需申請深度學習環境，包括深度學習框架，網絡模型，GPU及CPU等資源，支持用戶對環境框架、資源配置進行動態調整。支持對環境做定時快照和備份，用于環境的快速回滾；支持把當前環境一鍵打包至鏡像倉庫，用戶可以基于該鏡像創建新的環境；數據標注工具服務化，通過平臺集成的數據標注工具，可以在線完成數據標注；平臺具備多種計費模式；提供完整的計量計費功能，管理可通過計費模塊對GPU、CPU、內存等資源進行費用設定，根據用戶使用時長進行計費；支持用戶通過支付寶等方式在線充值；也支持虛擬充值，在后臺管理系統上由運營人員進行充值；也支持免費使用；（以上所有功能需提供截圖證明材料。）
管理集群中GPU服務器及GPU卡的運行狀況，資源使用情況，包含GPU總數/使用數，GPU核心平均利用率，GPU顯存平均利用率等。支持單機單卡，單機多卡，多機多卡分配資源；提供單GPU卡多任務共享、GPU切割（vGPU）方式分配資源，提升GPU利用率；AutoML超參調優，用于調整用戶算法的超參數，原生支持眾多機器學習框架，支持不同的AutoML算法； 支持分布式并行訓練功能，支持TensorFlow、pytorch分布式訓練，同時集成horovod、ray分布式訓練框架；支持將訓練好的AI模型部署成在線服務（Web Service），支持用戶自定義推理腳本文件，提供在線UI預測推理能力，為用戶提供可調的用API接口。支持設置模型服務自動停止時間，避免不必要的資源浪費；用戶的程序計算過程中的CPU、GPU、內存、磁盤、網絡、內存帶寬等性能指標量化記錄（如平均值、峰值等）形成圖表，并在此基礎上提供程序性能分析服務（需提供證明截圖證明）
二資源2配置要求：提供基于高性能計算物理集群的算力資源，不接受vCPU、vGPU、虛擬核心、邏輯核心（超線程）等虛擬化資源或云主機資源。采用的算力資源為基于高性能計算集群的物理CPU算力資源，非vCPU、虛擬核心、邏輯核心（超線程）等虛擬化資源或云主機資源。資源操作系統應采用CentOS Linux 7.8或以上版本；預裝GPU驅動、CUDA、編譯器、數學庫、MPI、Anaconda等計算環境。支持用戶聯網在線安裝部署相關計算軟件；采用Slurm作業調度管理系統和Lustre并行文件系統，支持磁盤配額管理及按需在線擴容。操作系統為CentOS Linux 7.8或以上版本，并預裝了GPU驅動、CUDA、編譯器、數學庫、MPI、Anaconda等計算環境。同時支持用戶聯網在線安裝部署相關計算軟件。此外需采用Slurm作業調度管理系統和Lustre并行文件系統，支持磁盤配額管理及按需在線擴容，以確保用戶在使用過程中的順暢和靈活性。可見操作系統采用CentOS 7.9.2009；預置Intel/GNU編譯器、MPI并行計算環境、MKL數學庫、Anaconda科學計算工具包等并行計算環境（通過module工具統一管理，通過“module avail 軟件/工具名稱”查看已預裝的工具軟件及版本情況，通過“module load 軟件/工具名稱”加載和使用），采用Slurm作業調度管理系統分發計算任務，軟件版本為21.08.8-2；采用Lustre存儲系統且支持磁盤配額和動態擴容。操作系統：采用CentOS Linux release 7.9.2009，符合指標要求，預置并行計算環境：預置Intel/GNU編譯器、MPI計算環境、MKL數學庫、Anaconda科學計算工具包等計算環境，可通過module工具統一管理，通過“module avail 軟件/工具名稱”查看已預裝的工具軟件及版本情況，通過“module load 軟件/工具名稱”加載和使用；如版本不匹配也可聯網在線安裝，以上功能需要在投標文件中提供截圖證明。
作業調度系統：采用Slurm作業調度管理系統分發計算任務，軟件版本為21.08.8-2文件系統：采用Lustre文件存儲系統，總存儲空間5.4PB，可為采購人提供足量的存儲空間，支持磁盤配額和動態擴容。提供超算預警消息自助管理入口，支持用戶通過Web和微信公眾號自助設置消息通知開關及余額、作業運行時長、存儲使用等消息的報警閾值。超算預警消息自助管理入口，用戶可以通過Web和微信公眾號自助設置消息通知開關，以及設置余額、作業運行時長、存儲使用等消息的報警閾值，以便用戶能夠及時獲得重要通知和預警。多種消息管理渠道，用戶可通過超算服務控制臺的自助中心（Web方式）以及“超算云服務”微信公眾號自助設置超算預警消息通知開關，支持自定義設置余額、作業長時間運行、存儲使用等預警消息的閾值；支持通過微信公眾號接收上述預警消息。云桌面提供了超算預警消息自助消息管理工具，支持用戶通過Web界面及微信公眾號自助設置消息通知開關及余額、作業運行時長、存儲使用等消息及報警閾值；可設置是否接收超算云服務提供的相關告警及提示消息，并支持自助設置余額、作業運行時長、存儲使用等消息的報警閾值（提供驗證材料）
超算作業查詢：供應商可提供可實時查詢超算作業狀態和消費記錄超算服務微信小程序，提供超算服務微信小程序，用戶可以通過它實時查詢超算作業狀態和消費記錄，以便隨時掌握作業進展和費用情況。在系統中綁定超算云賬號后即可實時查詢超算作業狀態和消費記錄（以上功能需要在投標文件中提供截圖證明）。免費提供7x24小時技術支持服務；并承諾5分鐘內響應客戶需求，提供必須的計算相關答疑服務和使用文檔、免費協助安裝開源軟件及產權清晰的商業軟件，提供硬盤郵寄等服務。免費協助安裝開源軟件及產權清晰的商業軟件，提供硬盤郵寄等服務。
滿足以上響應。

質保期

三年

售后要求

提供基礎上門安裝服務；提供計算節點基礎安裝服務；原廠全新未拆封產品；貨到驗收時可以通過原廠網站查詢驗證保修信息，（要求提供官方查詢驗證網址）；提供原廠工程師基礎安裝服務；提供廠商蓋章的證明文件。滿足以上響應