英偉達(dá)中國區(qū)首席技術(shù)官:將任務(wù)負(fù)載從CPU移至GPU,整體能耗將節(jié)省更多
7月7日,在2023世界人工智能大會上,英偉達(dá)(NVIDIA)中國區(qū)首席技術(shù)官
2023-07-07
【資料圖】
7月7日,在2023世界人工智能大會上,英偉達(dá)(NVIDIA)中國區(qū)首席技術(shù)官賴俊杰表示,英偉達(dá)在全球數(shù)據(jù)中心計算問題上觀察到兩個重要趨勢:一是人們對人機(jī)交互的期望大大提高,引發(fā)了全球第二波關(guān)于大模型的投入浪潮。
二是很多互聯(lián)網(wǎng)公司面臨著用戶需求增長、功耗越來越多的問題,特別是人工智能的大模型訪問比例增加,意味著需要更多的能耗投入。
針對第二個趨勢,英偉達(dá)提出如果能更多地將任務(wù)負(fù)載從CPU移至GPU,那么能在支撐同樣多的用戶請求之同時,節(jié)省更多的能耗。(澎湃新聞記者范佳來 實習(xí)生 葛羽馨)
(本文來自澎湃新聞,更多原創(chuàng)資訊請下載“澎湃新聞”APP)
關(guān)鍵詞: