能源知識庫

重點摘述

冰水機系統為大型建築與工業設施不可或缺的冷卻設備，然在追求能源效率與智慧化管理的需求下，如何透過人工智慧技術提升其運轉效能與進行預防性維護，為產學研共同關注的焦點。本文以開發GAI（Generative AI）冰水機專家系統為目標，期望結合生成式大語言模型（LLM）與傳統監測數據，建置一套協助操作人員即時判讀、診斷並優化運轉策略的智慧化平台；針對建立適用於大語言模型運算需求的伺服器環境，與傳統AI模型相比，如CNN或RNN類型，LLM對於運算資源的需求更為龐大，特別是在模型訓練與推論階段所需的GPU加速運算與高速儲存支援；因此，本報告首先回顧目前國內外類似應用範疇所採用的硬體規格，並進一步探討不同伺服器架構對於模型效能的影響。在大語言模型的挑選過程中，本計畫團隊試驗了多款開源及商用模型，包含LLaMA、Mistral、Gemini、Gemma系列等，並針對每一款模型在冰水機監控任務中所需之推論準確率、語境理解能力、資源耗用程度與部署成本等進行多面向比較，最終考量到模型的可擴充性、計算效能以及對私有化部署的支持，決定以Gemma2作為核心語言模型，著重冰水機領域進行特化調校（Domain Adaptation）。