學者網訊（編輯/劉秀 通訊員/崔金榮 楊楷翔 李雯霖）隨著數字經濟與人工智能技術的深度融合，工業(yè)大模型正成為重塑制造業(yè)生產模式、優(yōu)化智能決策的核心引擎。然而，大模型概率生成的技術本質與工業(yè)場景對確定性的嚴苛要求存在天然矛盾，模型幻覺、提示注入等新型風險引發(fā)廣泛關注，亟需重構信任體系。12月27日，中國計算機學會（CCF）青年計算機科技論壇（YOCSEF）廣州分論壇在華南農業(yè)大學數學與信息學院舉辦“工業(yè)大模型安全應用的信任構建與實施路徑”觀點論壇，匯聚產學研用多方代表，共同推動工業(yè)大模型從技術可用走向廣泛可信與安全落地。

本次論壇由CCF主辦，CCF YOCSEF廣州學術委員會組織，廣州賽研思信息科技有限公司、華南農業(yè)大學數學與信息學院、華南理工大學計算機科學與工程學院聯合支持。YOCSEF廣州AC委員崔金榮（華南農業(yè)大學）和AC委員楊楷翔（華南理工大學）擔任本次論壇執(zhí)行主席。論壇邀請了中國電信廣東公司馬曉亮正高級工程師、西安電子科技大學廣州研究院趙搏文副教授、中山大學楊思蓓副教授擔任引導嘉賓，同元軟控深圳子公司周勝副總經理、哈爾濱工業(yè)大學（深圳）漆舒漢教授（YOCSEF深圳現任主席）、廣州視源電子科技股份有限公司張似衡擔任思辨特邀嘉賓。華南農業(yè)大學數學與信息學院、軟件學院副院長黃棟（YOCSEF廣州2022-2023主席）、廣東工業(yè)大學譚臺哲（YOCSEF廣州2014-2015主席）、中山大學李冠彬（YOCSEF廣州2024-2025主席）、YOCSEF廣州往屆副主席高靜（廣東恒電信息科技）、優(yōu)秀AC委員劉雷（廣東科技報社），YOCSEF廣州現任主席蘇申（廣州大學）、副主席陳俊穎（華南理工大學）、副主席姜思羽（廣東外語外貿大學）、副主席朱鑒（廣東工業(yè)大學）、學術秘書胡建芳（中山大學）、學術秘書李雯霖（廣東財經大學），AC委員劉同來（仲愷農業(yè)工程學院）、陳炳豐（廣東工業(yè)大學）、黃培濤（廣州唐邦信息科技有限公司）、劉偉莉（廣東技術師范大學）、李宇翔（頭歌平臺）、張?zhí)煸ィň┖Ｊ⒋螅ㄉ虾＃┛萍脊煞萦邢薰荆?，委員邱少健（華南農業(yè)大學），以及江慧杰（廣州賽研思股份有限公司）、劉莎（廣東省工業(yè)軟件學會）、王甜甜（北京優(yōu)锘科技）、魏朋旭（中山大學）、梁程晉（廣州騰科網絡技術有限公司）、莊輝平（華南理工大學）、吳賀豐（中山大學）、張廣煜（華南農業(yè)大學）等來自多家單位的60余位代表參與論壇。

論壇開幕環(huán)節(jié)，YOCSEF廣州2022-2023主席華南農業(yè)大學數學與信息學院、軟件學院副院長黃棟教授致歡迎辭。黃棟介紹了學院在人工智能、工業(yè)軟件等領域的科研積累與人才培養(yǎng)成果，強調工業(yè)大模型安全應用對產業(yè)升級的重要意義，期待通過本次論壇搭建產學研協(xié)同創(chuàng)新平臺，推動技術成果與產業(yè)需求深度對接。隨后，YOCSEF廣州現任主席蘇申圍繞“承擔社會責任，提高成員能力”等核心理念，詳細解讀了YOCSEF“平等直言、求真務實”的組織文化，鼓勵青年科技工作者在技術探索中堅守初心、勇擔使命。

蘇申介紹YOCSEF文化

引導報告環(huán)節(jié)，三位行業(yè)專家從技術實踐、場景應用、理論研究等維度分享前沿洞見。中國電信廣東公司網絡與信息安全特級技師、正高級工程師馬曉亮以“AI時代5G云化控制的研發(fā)與應用”為題，結合電信行業(yè)實踐經驗，闡述了5G技術與工業(yè)控制、人工智能融合應用的技術路徑與安全挑戰(zhàn)。

中國電信廣東公司馬曉亮作引導報告

西安電子科技大學廣州研究院副教授趙搏文聚焦電力行業(yè)痛點，分享“面向電力行業(yè)的軟硬件協(xié)同的大模型安全隱私計算技術”主題報告，詳解如何通過軟硬件協(xié)同設計破解工業(yè)數據隱私保護與模型訓練效率的平衡難題。

西安電子科技大學廣州研究院趙搏文作引導報告

中山大學副教授楊思蓓則從多模態(tài)大模型的技術機理出發(fā)，以“多模態(tài)大模型機制洞察驅動魯棒生成”為主題，分享了提升模型生成穩(wěn)定性與可靠性的核心技術方法，為工業(yè)場景下多源數據融合應用提供了理論支撐。

中山大學楊思蓓作引導報告

在三位引導發(fā)言嘉賓作報告后，由李冠彬、譚臺哲、蘇申分別為三位引導發(fā)言嘉賓頒發(fā)感謝牌，隨后，由論壇執(zhí)行主席崔金榮、楊楷翔主持論壇思辨環(huán)節(jié)。

李冠彬、譚臺哲、蘇申為三位引導嘉賓頒發(fā)感謝牌

思辨議題一：輔助支撐還是自主決策？—工業(yè)大模型應用的角色定位與安全邊界辨析

與會專家普遍認為，工業(yè)場景對確定性、穩(wěn)定性的極高要求與大模型“概率生成”的本質存在天然張力。因此，應用邊界需依據風險等級嚴格劃分：在關鍵基礎設施、醫(yī)療、核心控制等高風險、不可逆領域，必須堅持“人在回路”，由人類承擔最終決策責任；而在質檢篩查、工藝評估、方案生成等高容錯、可回溯場景，大模型可充分發(fā)揮提效與增質作用。 在技術路徑上，大家形成共識：當前更可行的是采取“通用大模型 + 行業(yè)知識庫 + RAG（檢索增強生成）+ 多小模型協(xié)同”的復合方式，而非追求端到端的全自動決策。通過“人在回路”的持續(xù)反饋積累高質量數據，逐步壓縮幻覺空間，是大模型從“輔助支撐”向“有限、自控的自主決策”演進的現實路徑。

思辨議題二：驗證缺失困局何解？—大模型落地工業(yè)現場的可行性與風險博弈

嘉賓們提出應堅持“小場景試點、漸進式應用”的原則。建議加快構建工業(yè)大模型數字孿生測試環(huán)境，通過虛擬仿真實現低成本、低風險的有效性驗證；企業(yè)需根據工況安全完整性等級，建立差異化的AI決策誤判容忍標準與熔斷閾值，平衡智能化效率與生產安全。同時，應建立全流程日志審計體系，明確算法供應商、系統(tǒng)集成商與現場操作人員的責任邊界，實現AI決策全過程的可溯源、可追責。

思辨議題三：行業(yè)共識如何構建？—工業(yè)大模型安全應用的實施路徑與治理體系

與會嘉賓建議，應整合產學研用資源，梳理形成覆蓋模型選型、私有化部署、運維監(jiān)控的通用實施指南；討論深入分析了“有形的手”與“無形的手”的協(xié)同動力機制。“無形的手”即市場驅動，當技術能明確降本增效時，企業(yè)會自發(fā)采用；而在當前風險高、收益不確定的早期階段，亟需政府、行業(yè)主管部門或協(xié)會這只“有形的手”，通過政策引導、示范試點和標準制定，降低企業(yè)的試錯成本。

與會嘉賓圍繞相關議題展開討論

工業(yè)大模型作為制造業(yè)智能化轉型的核心引擎，其可信性與安全性正成為技術落地與產業(yè)升級的關鍵命題，不僅需要技術攻關，更是一場涉及效能收益、風險控制與制度設計的綜合博弈。與會嘉賓圍繞三大核心思辨議題展開深度研討，形成階段性共識：應在明確角色定位、完善驗證機制、構建行業(yè)共識的基礎上，推動工業(yè)大模型技術與工業(yè)場景的深度適配。堅持“人在回路”的底線思維，通過小場景的漸進式試點構建信任基礎。論壇呼吁，需持續(xù)發(fā)揮產學研用的協(xié)同效應，以“有形之手”與“無形之手”合力打破驗證缺失的困局，打造標準統(tǒng)一、風險可控、實操可行的安全應用生態(tài)，推動工業(yè)大模型從技術愿景穩(wěn)步走向產業(yè)實效，為制造業(yè)高質量發(fā)展注入可信賴的智能動能。

執(zhí)行主席為三位特邀嘉賓頒發(fā)感謝牌

論壇最后，黃棟對本次論壇進行了總結。本次論壇通過多視角碰撞、多維度探討，清晰梳理了工業(yè)大模型安全應用的核心挑戰(zhàn)與解決思路，為行業(yè)發(fā)展提供了寶貴的思辨成果。

黃棟作論壇總結

未來，CCF YOCSEF廣州將以“智鏈工業(yè)、信創(chuàng)未來”為行動導向，形成深度問題清單與實踐倡議，搭建信創(chuàng)產業(yè)常態(tài)化交流平臺，凝聚技術共識，匯聚創(chuàng)新力量，助力工業(yè)大模型發(fā)展邁向“智鏈”驅動、“信創(chuàng)”引領的新階段。

參會嘉賓合影