InfinitiesSoft靠榨乾GPU技術,獲得 仁寶、台達資本、工研院融資1.2億元。

AI軟體公司InfinitiesSoft宣布完成新一輪總額達新台幣1.2億元的融資。本輪投資者包括仁寶電子、台達電子子公司台達資本、工業技術研究院(ITRI)子公司工業技術投資公司(ITIC)以及新昇資本。

InfinitiesSoft首席執行官陳文宇表示,這筆融資將用於加速與國際業界領導者的合作,從而擴大在亞洲乃至全球的市場影響力。

AI發展面臨算力挑戰:InfinitiesSoft釋放三倍效率

生成式AI的出現加速了AI產業的快速發展。然而,GPU的生產力和算力是決定AI發展的關鍵要素,而InfinitiesSoft的產品AI-Stack正是解決方案。

AI-Stack擁有從AI開發到部署的軟體技術,並具備自研技術如GPU切片、GPU融合和多節點GPU計算,使企業能夠快速上手並無縫整合開發工具,節省部署AI環境的時間。其最顯著的特點在於能夠智能分配GPU算力。

例如,以往需要手動安排GPU在不同時間運行A、B、C三組AI模型,但AI-Stack自動化了這個流程,能在A模型計算結束後立即安排B和C的運算,最大化GPU的利用率。實際效益包括GPU利用率提升三倍,使單個GPU能同時運行超過20個工作負載,部署時間縮短至1%。因此,它成為台灣首家NVIDIA Solution Advisor認證合作夥伴,服務客戶涵蓋半導體、金融、製造、醫療、交通、研究機構和數據中心等行業。

此時此刻,成功籌集資金反映了主要投資者對AI的濃厚興趣及其對數位無限潛力的樂觀態度。陳文宇希望,通過AI-Stack,企業能顯著節省時間和成本,幫助他們實現AI轉型。

AI-Stack隨時榨滿GPU使用率

AI-Stack監控儀表板讓你隨時掌握容器使用狀況,可查看容器CPU、記憶體、Disk、Network、GPU、GPU 記憶體的使用率、GPU溫度在12個小時內隨著時間的變化。同時,IT管理者還可查看單片GPU使用狀況,了解哪些人開了哪些容器、使用了多少資源。彈性自動化調配算力使用與資源部署,預防GPU滿載,卻又妥善公平分配算力,隨時榨滿GPU使用率。