首頁 / 台灣精品獎 / 得獎精品 / 產品詳細資料
生成式AI模型落地訓練解決方案
產業類別: 電腦&軟體精品
產品型號: aiDAPTIV+ / AI100 M.2 SSD
群聯電子股份有限公司
群聯正在引領人工智慧產業，提供了首個解決LLM大於GPU內存極限問題的模型微調方案。此混合式解決方案利用群聯的NAND專業技術，設計極端耐用的SSD，並透過aiDAPTIVlink控制，將資料切割並傳輸至GPU進行處理，本產品創新性在於： 1. 實現大規模生成式語言模型訓練：在aiDAPTIV+出現之前，中小型企業僅能進行小規模且不確實的訓練， 並無法擴展到Llama 7b以上的規模。 群聯 aiDAPTIV+ 解決方案能夠成就更大規模的模型訓練，讓您在地端獲得過去僅限於資料中心等級的推論及運算效能。 2. 混合式解決方案，大幅提升LLM訓練效率：群聯 aiDAPTIV+是克服現今 LLM 訓練難題的軟硬體混合型解決方案，任一合作夥伴搭載aiDAPTIV+的工作站，都能為您高效提供可達Llama 700億參數量級的LLM訓練。
