【
智慧城市網 企業關注】在人工智能(AI)技術日新月異的今天,大模型技術已成為推動行業智能化轉型的重要力量。隨著模型參數量的不斷增長,大模型展現出強大的理解能力和復雜數據處理能力,在金融、醫療、政務等多個領域展現出巨大的應用潛力。然而,大模型的落地并非易事,其背后離不開高質量大模型基礎設施的支撐。近日,中國信息通信研究院發布的高質量大模型基礎設施研究報告(2024年),為我們揭示了這一領域的現狀、挑戰與未來發展方向。
大模型基礎設施作為支持大規模人工智能模型訓練、部署和應用的硬件和軟件資源的集合,是AI技術發展的基石。它涵蓋了高性能計算、海量數據存儲、高速網絡連接資源,以及相應的軟件框架和工具鏈,旨在為大模型的開發、訓練和推理提供高效、可靠和可擴展的支撐環境。隨著大模型技術的快速發展,對基礎設施的要求也越來越高,如何構建高質量的大模型基礎設施,成為當前AI領域亟待解決的問題。
當前,大模型基礎設施普遍面臨可用性低、穩定性差等問題。研究報告指出,大模型基礎設施的可用度仍有較大提升空間,平均無故障運行時間、平均故障定位時間和平均故障恢復時間等指標是衡量其可用性的關鍵。同時,高性能、可擴展性和可評價性也是高質量大模型基礎設施的重要特征。高性能意味著提高算力供給能力,以滿足大模型對算力的巨大需求;可擴展性要求基礎設施在負載增加時,能夠迅速增加資源以維持或提高性能;而可評價性則是指通過完整、有效的評價體系反映大模型基礎設施的應用成效。
版權與免責聲明:
凡本網注明“來源:智慧城市網”的所有作品,均為浙江興旺寶明通網絡有限公司-智慧城市網合法擁有版權或有權使用的作品,未經本網授權不得轉載、摘編或利用其它方式使用上述作品。已經本網授權使用作品的,應在授權范圍內使用,并注明“來源:智慧城市網”。違反上述聲明者,本網將追究其相關法律責任。
本網轉載并注明自其它來源(非智慧城市網)的作品,目的在于傳遞更多信息,并不代表本網贊同其觀點或和對其真實性負責,不承擔此類作品侵權行為的直接責任及連帶責任。其他媒體、網站或個人從本網轉載時,必須保留本網注明的作品第一來源,并自負版權等法律責任。
如涉及作品內容、版權等問題,請在作品發表之日起一周內與本網聯系,否則視為放棄相關權利。