交通行業(yè)的 AI 應用場景目前主要涵蓋交通公共服務體驗優(yōu)化、汽車等交通工具的智能化升級和物流的智能化轉型。大部分應用場景仍在項目實驗階段。此階段需要有效地平衡項目需求、成本和開發(fā)效率。
在項目預演階段中,通常小規(guī)模算力就可以滿足需求。此階段主要是對模型的可行性、架構設計的合理性以及算法的有效性進行初步驗證,此時模型規(guī)模相對較小,參數數量和復雜度都處于較低水平。
例如,在構建一個簡單的文本分類預演模型時,可能只需要訓練幾萬到幾十萬的參數,小規(guī)模算力足以支持模型在較短時間內完成訓練和評估。等到模型進入正式訓練和優(yōu)化階段,才會對算力有更高的要求。
我們今天就幾種主要的 AI 場景,談談對于處在項目預演階段的團隊,值得嘗試的一些高效又經濟的本地化硬件部署方案。
1
目前在開發(fā)的智慧交通大模型面向的公共服務體驗場景非常多元,例如:
報告生成類:很多團隊在本地化部署大語言模型,主要使用 AI 生成交通違規(guī)報告,加快交通事故處理效率;
咨詢服務類:部分團隊借助大語言模型 ,正在基于現有的交通標準規(guī)范、學科教材、交通知識等材料搭建用于交通知識問答的大模型,希望為出行者、企業(yè)等提供便捷精準的交通咨詢服務;
業(yè)務辦理類:有些團隊利用現有的路網數據,訓練用于交通情況預測、智能咨詢和 AI 輔助辦理業(yè)務的大模型;
資源調度類:還有團隊在考慮利用 DeepSeek 的深度推理能力,對歷史流量、天氣、事件等多源數據進行融合分析,開發(fā)出大模型能夠動態(tài)地優(yōu)化信號燈控制策略,提升路口通行效率和交通資源利用率。
這其中,報告生成類任務主要基于 DeepSeek 等模型進行部署,通常為長文本生成場景,咨詢服務類則多為短文本生成,模型以 DeepSeek R1 70B、32B、通義千問 QWQ 32B 為主,主要采用的推理精度為 FP16。在項目預演階段,采用搭載 NVIDIA RTX? GPU 的平臺可以在1周內完成模型部署并啟動研究工作。
NVIDIA RTX? GPU 屬于 NVIDIA 企業(yè)級顯卡,兼具有圖形處理和 AI 能力,安培架構被稱為“卡皇”的 NVIDIA RTX? A6000 就是屬于該系列的顯卡。目前 NVIDIA RTX? A6000 已停產,性能更強的 NVIDIA Ada Lovelace 架構顯卡為 NVIDIA RTX? 5000 Ada (32GB)、NVIDIA RTX? 5880 Ada (48GB)。
*測試數據來源:贊奇科技
*詳細測試數據可掃描底部二維碼登記獲取
2
車企正在布局開發(fā)更多的 AI 場景,包括 AI 工廠機器人、車內 AI Agent 應用等。
工廠 AI 機器人
AI 機器人逐步開始在工廠流水線的一些特定環(huán)節(jié)中“打工”,逐步嘗試著未來能降本增效。AI 機器人場景對硬件設備的 AI 與圖形處理能力均有要求。目前,機器人仿真測試任務主流基于 NVIDIA Isaac Sim? 平臺,同時采用的是NVIDIA Isaac? Lab 進行強化學習,還需要通過 DeepSeek 等大語言模型的推理能力來實現語音交互。此類場景中,NVIDIA RTX GPU 可以同時滿足 AI 和圖形需求,我們以搭載 NVIDIA RTX 5000 Ada 的計算平臺為例,來看看一些開發(fā)場景中的 GPU 消耗、可以適配的部署方案及其預期效果。
*測試數據來源:贊奇科技
*詳細測試數據可掃描底部二維碼登記獲取
車內 AI Agent
車內的 Agent 應用已經在如火如荼地開發(fā)進程中,場景不限于出行伴侶、旅行專家、用車助手等。很多開發(fā)團隊嘗試借助 DeepSeek、QWQ 的深度推理能力,實現多情感、多模態(tài)的超擬人交互。隨著 Manus AI Agent 的出現,對于 Agent 的市場關注度和開發(fā)熱度也有所提升。
在項目前期開發(fā)階段,AI Agent 會以相對簡單的場景來實現快速落地,開發(fā)團隊用于模型訓練和推理測試的規(guī)模并不是非常龐大的,但依然需要較強的算力來支持不同的算法模型。NVIDIA RTX 5880 Ada 無論在計算能力還是圖形能力上,都在 NVIDIA RTX 系列 GPU 中首屈一指。NVIDIA RTX 5880 Ada 單卡能力超強,這能夠為后續(xù)機器的擴展留有較大的空間,畢竟隨著 AI Agent 功能的完善,即使是項目前期預演階段,算力需求也會在增長。
由于 AI Agent 具體的應用場景、功能需求和數據規(guī)模差異比較大,我們需要根據具體情況來評估所需的算力規(guī)模,并且不斷通過測試來匹配開發(fā)效果預期。如果需要詳細評估與提前測試,可掃描下方二維碼登記,后續(xù)會有技術人員來跟進。
上一篇: 2024年國內B2B交易平臺分析
下一篇:沒有了
違法和不良信息舉報投訴電話:0377-62377728 舉報郵箱:fbypt@ex12580.com