首頁 / 台灣精品獎 / 得獎精品 / 產品詳細資料

大語言模型邊緣AI伺服器
產業類別: 電腦&軟體精品
產品型號: AIR-520 / ai100
研華股份有限公司

市場開始逐漸出現各種生成式AI的落地應用與方案,然而訓練專屬於AI模型需要巨額的設備投資,並將企業敏感資料上傳至雲端進行訓練也帶來資安風險。因此研華AIR-520離線式大語言AI微調訓練解決方案應運而生,包含AIR-520邊緣AI工作站、SQ ai100 AI SSD、NVIDIA RTX GPU卡、Edge AI SDK和NVIDIA AI Enterprise,提供客戶完整的軟硬體整合配套服務。借助專利軟體aiDAPTIV+技術,SQ ai100 AI SSD作為GPU vRAM的擴展快取,使系統能夠以最少的GPU卡數量進行LLM微調訓練。這不僅緩解了企業投入AI的預算障礙,還使邊緣AI伺服器得以使用更小體積及功耗的工作站來做到,節省機房建設及電力配置的困擾。其體積設計如桌面PC般輕巧,使客戶能夠輕鬆部署邊緣AI模型微調環境。除了模型微調功能,研華還提供配備GenAI Training Studio的Edge AI SDK,預裝Llama-2 13B/33B/70B模型,如聊天機器人和數據分析,簡化並加速了客戶特定LLM模型的訓練和推理評估。






















































