斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱讀(du)次數：1468 編(bian)輯：系統(tong)管理員發(fa)布時間：2025-12-05 15:01

[字體：大中小]

想(xiang)象這樣(yang)一(yi)個(ge)畫面，在一(yi)個(ge)普通的工作日(ri)(ri)，你坐(zuo)進了(le)心(xin)愛的座駕，隨(sui)口問到：“今日(ri)(ri)有(you)什(shen)么新聞(wen)？”車載AI立馬(ma)啟動，下(xia)一(yi)秒，它(ta)開始娓(wei)娓(wei)道來(lai)——上到事關國計民(min)生(sheng)的政策(ce)，下(xia)到市井俚俗的民(min)生(sheng)八卦，流暢、自(zi)然、像朋友聊(liao)天一(yi)樣(yang)貼心(xin)。但如果這番(fan)溝通中暗(an)含(han)著什(shen)么不(bu)該說的內容？比如敏感話題、虛假信息、甚至來(lai)自(zi)釣魚(yu)網站的惡(e)意廣告......

這不是科幻(huan)片的橋段，在智能座艙加速邁向“AI原生”的今天，每(mei)一輛搭(da)載AI模型的智能座駕都必須面對的現實考題。

作為智(zhi)能(neng)座艙領域的(de)先(xian)行(xing)者，斑馬智(zhi)行(xing)聯合(he)阿里云共同打造(zao)面向智(zhi)能(neng)座艙場景的(de)AI安(an)全審(shen)核方案，通(tong)過阿里云AI安(an)全護欄的(de)能(neng)力(li)加持(chi)和(he)云基(ji)礎(chu)設施強調的(de)彈性吞吐(tu)力(li)，該方案已經成功(gong)應用(yong)于多(duo)個頭部品牌車型(xing)中，日均(jun)支撐(cheng)千(qian)萬級大模(mo)型(xing)安(an)全審(shen)核調用(yong)，為行(xing)業樹立了大模(mo)型(xing)內容安(an)全與用(yong)戶(hu)體驗兼顧的(de)新(xin)標(biao)桿。

斑(ban)馬(ma)智行安(an)全負(fu)責人評價到：“我們與阿里云(yun)共同打(da)造的(de)(de)這套安(an)全護欄方案(an)，不僅(jin)滿足了(le)國(guo)家(jia)級(ji)合(he)規要求(qiu)，更(geng)在真實量(liang)產(chan)場景中(zhong)驗證了(le)其高(gao)(gao)性(xing)能、高(gao)(gao)可靠、可擴展的(de)(de)工程(cheng)價值。這不僅(jin)是技術方案(an)的(de)(de)勝(sheng)利，更(geng)是AI安(an)全治理體(ti)系在汽(qi)車(che)行業的(de)(de)成功(gong)落地。”

當大模型成(cheng)為汽車標配

千人千面背(bei)后的(de)安全(quan)隱患(huan)

回到(dao)文章(zhang)最初的(de)場景，隨著大模型和AI Agent的(de)迅速發展(zhan)，智能(neng)座艙里的(de)安全助手，早已不再是只會(hui)導航(hang)、會(hui)放(fang)歌的(de)“工具人”，在(zai)Multi-Agent技術的(de)加持下，它不僅能(neng)聯網搜索，能(neng)多(duo)輪對話，還能(neng)一鍵幫(bang)你定制行程、分析新聞......但每一次看似普通的(de)交(jiao)互背后，都隱藏著不容忽視(shi)的(de)安全風險：

用戶隨口一句“講個刺激的歷史故事”，會不會觸發不當內容？
AI從網上抓取(qu)的(de)信息，是否混進(jin)了賭博、色情或釣魚鏈接？
聯網搜索功能(neng)加持下，用戶輸入是否(fou)會觸發對(dui)惡(e)意網站的直接調用？

國家(jia)《信息安(an)全(quan)技(ji)術生成(cheng)(cheng)式人(ren)工智能服(fu)務安(an)全(quan)基本(ben)要求》（TC260-003）中明(ming)確要求，需對(dui)風險(xian)進行識別(bie)與攔截。熟悉(xi)安(an)全(quan)的朋友可(ke)能會疑(yi)惑，內容安(an)全(quan)審(shen)核技(ji)術已(yi)經(jing)發展(zhan)了數十(shi)年，難道沒有(you)直接可(ke)用的成(cheng)(cheng)熟解決方案嗎？實際上：

一方面，為了保證用戶與(yu)模(mo)型(xing)交互過程(cheng)的(de)流暢性，一句話往(wang)(wang)(wang)往(wang)(wang)(wang)被拆成十幾段流式輸(shu)出(chu)(chu)，傳統基于關鍵詞和(he)規則的(de)專(zhuan)家(jia)模(mo)型(xing)，面對這類(lei)語(yu)義復雜、上(shang)下文強依(yi)賴的(de)模(mo)型(xing)輸(shu)出(chu)(chu)時，最終結(jie)果往(wang)(wang)(wang)往(wang)(wang)(wang)是“看(kan)得見(jian)字，但不懂意(yi)”；
另一方面，如(ru)果(guo)全部依(yi)賴(lai)大模(mo)型審核，雖然理(li)解能力強(qiang)，但因(yin)推理(li)耗(hao)時(shi)長且成本(ben)高，難以滿足車載場景對(dui)實時(shi)性的嚴苛要(yao)求；

“既要(yao)快，又要(yao)準”——這正(zheng)是(shi)斑馬智行與阿里(li)云聯合攻堅的核心命(ming)題(ti)。

阿(a)里云(yun)AI安全護(hu)欄：

三大技術(shu)突(tu)破，重新定義車載(zai)AI安全(quan)標準

阿里(li)云AI安(an)全護(hu)欄（AI Guardrails）是(shi)云安(an)全團隊為(wei)人工(gong)智能(neng)(neng)系統設計的安(an)全防(fang)護(hu)產品，防(fang)護(hu)對(dui)象覆蓋(gai)預訓練大模型、AI服務和AI Agent等不同(tong)業務形態。在智能(neng)(neng)座(zuo)艙(cang)場景，AI安(an)全護(hu)欄為(wei)斑馬智行提供(gong)了精準的風險(xian)檢測與(yu)主動防(fang)御能(neng)(neng)力，同(tong)時滿足車載場景對(dui)效率(lv)和效果的要求。

1.雙引擎協同(tong)架構：毫秒級審核響應

不同于單一(yi)的審核策(ce)略，阿(a)里云AI安全(quan)護欄采(cai)用(yong)“規則(ze)引擎+小模(mo)型(xing)+大(da)模(mo)型(xing)”協同審核策(ce)略：

所有輸入(ru)/輸出文本實時(shi)切片后，由(you)輕(qing)量級(ji)專家(jia)模型并行執行毫秒級(ji)初篩，快速(su)攔(lan)截明顯風險；

同(tong)時，重(zhong)新編排(pai)大(da)模型深度審核(he)鏈路，利(li)用多線程(cheng)智能化調度；

最終融合雙(shuang)引擎結果(guo)，在不(bu)犧牲召回率(lv)的前提(ti)下(xia)，有效(xiao)降低了端到端審(shen)核延的響應時(shi)間，完美適(shi)配車載用戶(hu)實時(shi)交互的流暢體驗(yan)，用戶(hu)感覺不(bu)到“檢查(cha)”的存在，安(an)全卻始終在線。

2.流式上下文(wen)關聯(lian)審核：短文(wen)本不再“裸(luo)奔”

為(wei)了保障與客戶(hu)溝(gou)通的實時性，大(da)模(mo)型內容(rong)生成大(da)多采用“邊生成，邊輸(shu)入”的流(liu)式(shi)模(mo)式(shi)，一段回答可能會分為(wei)10次推送，單次切(qie)片(pian)可能僅10-20字，傳統審(shen)核模(mo)型因缺乏上下文，面對這種“碎片(pian)化(hua)表達”，極(ji)易漏(lou)判。阿里云AI安(an)全護欄采用“大(da)模(mo)型流(liu)式(shi)審(shen)核方案”：

通(tong)過唯一(yi)標識關聯一(yi)次完整對話；
安全護(hu)欄(lan)自動聚合同(tong)一會(hui)話中(zhong)的所有切片，進行(xing)跨(kua)片段語義理解；
即使敏感內容分散在多輪輸出中(zhong)，也(ye)能(neng)精(jing)準識別(bie)并(bing)攔(lan)截；

實測顯示，該方(fang)案(an)將(jiang)短文本場景下的風(feng)險(xian)內容(rong)召回率提升至98%以上，遠超傳(chuan)統方(fang)案(an)。

3.聯網(wang)檢索(suo)風險(xian)實(shi)時攔截：堵(du)住Agent的“后門(men)”

在支持(chi)聯網搜索的Agent場景中，用戶提(ti)問可能觸(chu)發(fa)對第三方網頁的抓取(qu)，例如：

用(yong)戶問一句：“幫我找附(fu)近評分最高的(de)(de)酒吧(ba)”，AI所(suo)搜索到(dao)的(de)(de)目標站(zhan)點可能(neng)是某個偽裝成酒吧(ba)推薦網(wang)頁的(de)(de)釣魚、賭博或色(se)情(qing)網(wang)站(zhan)，將直接污(wu)染大模型的(de)(de)輸(shu)入。阿里云AI安全(quan)所(suo)具有的(de)(de)“URL風險檢測(ce)”模塊，則能(neng)快速應對：

對所(suo)有聯網(wang)請求中的第三(san)方鏈接進行實時掃描(miao)；
精準識別色情信(xin)息、非法賭博(bo)、釣(diao)魚網站、虛(xu)假營銷等風險(xian)類型：
一旦命中(zhong)高(gao)風險(xian)標簽(qian)，立即終止(zhi)(zhi)任務，防止(zhi)(zhi)有害信息(xi)流入(ru)大模型。

目(mu)前該能力已覆蓋(gai)智能搜索、資訊(xun)推薦等多個高(gao)頻場景。

云基礎設施彈性保(bao)障(zhang)：安全能(neng)力“隨需調用”

對(dui)于(yu)各大(da)車企，定(ding)期的促銷、活動、新(xin)車上市(shi)......往(wang)往(wang)都(dou)伴隨著流量激增。尤(you)其(qi)在智能(neng)駕駛、智能(neng)座艙(cang)等新(xin)興(xing)領域，首發熱度(du)動輒帶來數倍(bei)于(yu)日常的調用量，這對(dui)任何產品(pin)都(dou)是(shi)一次“壓力(li)測(ce)試”，如果安全審核扛不住(zhu)，輕則(ze)延遲(chi)卡頓、重則(ze)全面宕機。

阿里云AI安(an)全(quan)護欄(lan)依托于(yu)阿里云強大的基(ji)礎設施(shi)，為客戶(hu)提(ti)供可彈性拓展的安(an)全(quan)防護力，支(zhi)持客戶(hu)按(an)需購買QPS彈性擴(kuo)展包，最短7天起訂，已驗證(zheng)可支(zhi)持單項目峰值600 QPS的穩(wen)定運行。

無(wu)論是(shi)(shi)平日通勤，還是(shi)(shi)發布會(hui)后的“搶(qiang)車潮”，安全(quan)能力始終(zhong)絲滑在(zai)線。(斑馬智行)

掃(sao)一掃(sao)在手(shou)機打開當前頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...