Innovative GenAI Services

myLLM 產學聯盟 關鍵角色

國立陽明交通大學 人工智慧系統檢測中心

國立陽明交通大學 人工智慧檢測中心，於 2018 年 10 月成立，以獨立第三方角色，協助國內外產業執行 AI 系統效能評價與調校，舉辦AI 產業應用與智慧製造等重要議題技術交流會，成為 AI 知識使用者與供應者之間的橋樑。本中心於2023/8/18 舉辦 LLM產學技術交流會，350+ 位公司產業人士參與 (公開)，2024/3/28 舉辦 myLLM服務產學聯盟啟動論壇，150+ 位公司產業人士參與 (會員邀請)，並於2024/10/31 舉辦 LLM 產學技術論壇-超越創新引領GAI技術，創造產業智能價值。

myLLM 服務產學聯盟

Transformer架構的GPT模型是人工智慧系統檢測中心成立初期的重點研究項目之一。自2017年推出以來，該理論已成為許多先進自然語言處理（NLP）模型的基礎。GPT模型透過在大型文本數據語料庫上進行預訓練，能夠有效學習單詞與短語間的關係，從而生成高度連貫且多樣化的文本，並廣泛應用於語言翻譯、問題回答、文本摘要等各種NLP任務。

OpenAI的全球數據訓練優勢，使得模型在質與量上都有了突破，更加貼近實際應用的需求。隨著國內對大型語言模型需求的增加，市場上出現了多種模型及版本，由於面臨巨大的運算資源挑戰，檢測中心與國家科學委員申請，成立了myLLM產學聯盟，專為企業提供運算資源與模型管理的整合解決方案，涵蓋多種大型語言模型和相關硬體，並依據企業需求，針對邊緣計算進行小型化客製設計和商業模式建議。

myLLM產學聯盟致力於構建一個強大且客製化的企業智能平台，將學術知識與產業實務緊密結合，創造能夠幫助企業應對實際挑戰的創新方案。聯盟專注於培養三大核心能力：算法開發、知識庫整合，以及高效能計算，不僅推動AI技術的應用層次，更促進跨學科的創新思維與合作模式的發展。

myLLM 產學聯盟 服務說明

國立陽明交通大學人工智慧系統檢測中心於 2024 年 03 月成立「myLLM 產學聯盟」提以下服務：

• LLM 生態圈交流

  國立陽明交國立陽明交通大學人工智慧系統檢測中心，致力於成為 AI 領域知識使用者與供應者之間的重要橋樑。為達成此目標，檢測中心積極舉辦一系列的活動，包括 LLM普適化的教育課程、展會、專業研討會，以及圍繞產業應用與智慧製造等重要議題的技術交流會。

  透過這些活動為學術界、產業界以及廣大 AI 愛好者提供一個豐富的學習和交流平台，從而推動AI 技術的創新與應用，為所有參與者創建了一個互助互惠、共同成長的生態圈。

• LLM 平台落地測試、評估與優化

  作為一家獨立第三方機構，我們為人工智慧系統提供全面的性能評估與基準測試服務，協助國內外產業執行 AI 系統效能評價、Benchmarking 並配對組合最優化的 Edge Landing 平台，幫助客戶全面了解其 AI 系統的性能水平，並與行業標準或其他同類系統進行比較。

  透過我們的評估，客戶能夠準確識別出系統的優勢和潛在改進領域，進而優化其技術方案，提升整體性能表現，為客戶在人工智慧領域的創新和發展提供支持。

• 分析式與生成式 AI 平台設計

  我們專注於為大型語言模型 (LLM) 提供針對特定主題的分析式 (analytic ) 與生成式(generative ) AI 平台相關服務，包括模型的微調校 (fine-tune ) 、嵌入式組件 (embedded ) 、檢索增強生成 (RAG Plus )、智慧代理人 (agent) 以及動態工作流程 (chain) 等相關服務，為大型語言模型極大化性能與效能。

  透過我們的服務提升業務自動化水平，並在客戶服務、內容創作、數據分析等領域發揮 LLM 的最大潛力，推動業務創新與發展。

團隊介紹

隨著人工智能技術的快速發展，MyLLM站在陽明交通大學人工智能檢測中心的前沿，以產學聯盟的形式，深化與企業的合作。myLLM 服務產學聯盟，由陳添福 教授 帶領，不僅致力於為企業提供量身定制的解決方案，更將合作視為共同成長的機會，攜手打造企業的智能核心。通過創新的技術應用和靈活的合作模式，MyLLM期待成為企業在智慧製造轉型路上的堅實夥伴，共同迎接未來科技的挑戰與機遇。

陳添福 教授

Tien-Fu Chen