AI帶動半導體產業 成為驅動相關供應鏈2024年業績的主要動力

AI帶動半導體產業 成為驅動相關供應鏈2024年業績的主要動力

※如欲轉載本文,請與北美智權報聯絡

四季洋圃 推太阳能智慧增益系统

林宗輝╱北美智權報 編輯部

人工智慧應用是由訓練和推理建立起來的服務框架,需要龐大的計算能力,因此高速且並行處理能力強的GPU一直是企業建立人工智慧服務的首選。目前主流的GPU廠商如NVIDIA和AMD都專門開發了人工智慧加速功能,並推出了多款專爲人工智慧而設計的GPU產品。此外,爲了提升人工智慧模型的推理效能和降低功耗,也開發了許多人工智慧專用晶片,如Google的TPU就是一例。這些專用晶片都針對人工智慧運算進行了最佳化設計。

朴所罗门暖男校草变身小奶狗 脱制服开撩高冷主管:想要你的全部

人工智慧也需要大量儲存空間來存放訓練資料和模型,進而帶動對記憶體和儲存裝置的需求,尤其是高頻寬記憶體。訓練大型人工智慧模型需要處理海量資料,因此需要高速的記憶體才能順利進行。此外,已訓練好的大型模型也需要大容量的儲存空間進行保存。例如,目前主流的HBM記憶體提供了極高的記憶體頻寬,可滿足人工智慧訓練與推理\的需求。大容量固態硬碟也被廣泛用於儲存大型人工智慧模型。

從邊緣運算到雲端運算

隨着相關技術的發展,各種人工智慧應用也在快速增加。首先,在邊緣運算應用方面,對即時性和低延遲有較高要求,晶片性能必須足夠,這使得相關的半導體需求正在大幅提升。人工智慧邊緣運算將計算和分析運行於接近資料來源的邊緣設備中,減少了雲端之間的資料傳輸,可實現更快速的分析和響應。例如,自駕車輛需要在車載設備本地即時分析圖像和感測器資料來進行決策。另外,工業物聯網中的各種感測器也需要在邊緣進行即時分析。這些應用都需要高效能的邊緣晶片來實現人工智慧運算。

除了終端應用以外,生成式人工智慧可以自動生成各種內容,也同樣會導致對相關晶片的需求大增。根據KPMG的調查,生成式人工智慧已成爲半導體企業重視的新興技術之一。隨着像DALL-E、Stable Diffusion這樣的生成式AI模型應用日益增多,使得能夠加速AI運算的圖形處理器(GPU)需求大幅增加,以滿足這些模型訓練和推理的計算需求。此外,人工智慧晶片的專用化和異質整合也是重要趨勢,除了增加相關模型的訓練與推理效率以外,也能夠有效降低成本。例如Google 的TPU就是人工智慧專用晶片的代表,有效降低對主流GPU的需求。

臺積電認爲,隨着人工智慧在各個領域的應用日益增多,對半導體的需求也將持續擴大。根據IDC預測,2024年整合生成式AI的新款個人電腦將推出,這也將促進半導體在AI PC市場的銷售。AMD看好人工智慧將推升對其AI晶片的需求,預計2024年從AI晶片可獲得逾20億美元收入。NVIDIA的人工智慧晶片需求甚殷,其新款H100 AI顯卡的交貨時間更長達52周。市調機構預測,到2025年,人工智慧邊緣計算市場規模將達上百億美元。可見,人工智慧市場前景可期,將可爲半導體產業注入新的成長動能。

新北小內閣改組補齊局長? 侯友宜:年後的目標

對半導體企業來說,要在AI晶片市場取得成功,就必須加強與人工智慧公司的戰略合作,以掌握市場動向;同時,在人才培養上下功夫,以確保在AI晶片技術上的領先優勢。如果能抓住人工智慧浪潮,半導體企業就能在新一輪的技術革新中站穩陣腳,並在激烈的市場競爭中佔據有利地位。

棄宇宙

《和我老公結婚吧》朴敏英為何愛錯人?5大提問判斷對方是否為Mr.Right

驅動記憶體及儲存需求

新冠第五波高峰染疫人數被高估 羅一鈞曝可能2因素

人工智慧模型訓練和推理過程中需要處理大量資料,這對記憶體和儲存裝置的需求提出了更高要求。爲了加速訓練和推理速度,需要高頻寬、低延遲的記憶體。同時,存放大型訓練資料和模型本身也需要大容量儲存裝置。隨着人工智慧模型規模不斷擴大,訓練資料量達到TB、PB級,記憶體和儲存的需求更加強烈。

新型記憶體技術如HBM、HMC等堆疊式記憶體,可以爲人工智慧應用提供遠超過DDR記憶體的記憶體頻寬。NVMe、SCM等新型儲存介面和技術也可以提供遠高於SATA、SAS等傳統介面的資料存取速度。儲存系統方面,基於快閃記憶體的SSD正在快速取代傳統的機械硬碟,提供了遠超硬碟的讀寫速度。另外,儲存類別的判別以及資料位置感知也很重要,可以讓不同類型、不同存取頻率的資料對應最適合的儲存介質,進一步提升整體儲存系統效能。

隨着人工智慧行業的發展,對高速、大容量記憶體和儲存的需求將持續快速增加。這將推動相關技術的創新,也爲記憶體和儲存製造商帶來新的市場機會。

天下聘

先進製程技術發展

爲了實現人工智慧模型的高效訓練和推理,需要使用先進的製程技術來提升晶片的計算密度和效能。人工智慧應用對計算效能、功耗和成本的要求,正在推動半導體制程技術的發展。

惊奇百怪来惹吧

辽宁再胜广东收获8连胜 赵继伟20+5+6周琦23+13

先進製程如5奈米、3奈米制程可以大幅提高晶片的邏輯閘數和晶片密度,使單一晶片可以整合更多運算元件,從而提升人工智慧晶片的運算效能。此外,先進製程也可以進一步降低晶片的能源消耗,這對電池供電的終端設備以及大規模資料中心都非常關鍵。除了製程節點的縮小外,新的材料和製程技術如EUV光刻也可以提高製程良率,降低成本。

另外,2.5D和3D堆疊封裝技術可以將多個晶片垂直堆疊起來,使用矽貫通孔(TSV)進行垂直互連,大幅提升晶片間的頻寬,這對記憶體和邏輯晶片的整合具有重要意義。而先進封裝技術的運用,亦能推動人工智慧晶片的異構整合,實現系統級設計的最佳化。

爲降低人工智慧系統成本,半導體企業也在持續改進製程技術以提高晶圓產能,同時最佳化晶片設計以提高單晶片閘數,降低單位成本。隨着製程技術的不斷創新,人工智慧晶片的性價比也將越來越高。

去医院!

衝高!比特幣漲上46,000美元 一個月來最高價位

爲了滿足相關應用的需求,臺積電等半導體企業也將持續投入大量資源進行製程技術創新,以滿足人工智慧市場的需求。這將推動半導體技術取得重大突破,也將促進半導體產業的長期發展。

MIT Techreview 中文版研究經理

財訊雙週刊撰述委員

美國波士頓Arthur wood 投資顧問公司分析師

初三走春 日月潭4步道飽覽湖光山色

延伸閱讀&電子報訂閱連結:

【更多內容請見《北美智權報》350期;歡迎訂閱《北美智權報》電子報】