金融業大模型應用挑戰及發展展望分析

算法可信度和安全性有待提升大模型金融應用在準確性、安全性、穩定性和金融科技倫理等方面面臨挑戰。

一、大模型在金融業應用面臨的挑戰

（一）金融應用規范與指南亟需完善金融業作為強監管行業，在政策方面一直遵循著高標準和嚴要求。我國已相繼發布《生成式人工智能服務管理暫行辦法》《網絡安全標準實踐指南——生成式人工智能服務內容標識方法》《生成式人工智能服務 安全基本要求》（征求意見稿）等文件，對大模型在通用領域的應用進行了合理的約束和引導，但是針對大模型在金融領域的應用尚且缺少可實施落地的標準規范和指南，對應用過程中的權責界定尚不明晰，缺少對生成內容的問罰機制及大模型廣泛應用后可能存在的無序商業行為的監管機制。此外，針對大模型訓練和推理的 AI 算力基礎設施、行業語料庫標準化建設也較為欠缺。

（二）金融應用場景缺少范式大模型選型、架構調整設計、技術驗證等環節過程復雜，金融機構缺乏大模型技術融合場景落地的方法論，對大模型的能力邊界認知不足，尚未明確大模型適合哪些業務場景、是否有必要替換傳統的 AI 設備、何時適合落地，尚未健全大模型應用創新風控管理機制，尚未有典型的落地案例可以向行業規模化推廣。大模型支撐多個場景或服務的行業應用，其測評指標非常復雜，測試數據集設計構建與更新維護難度大、成本高，尚且缺少一個覆蓋面廣、公允度高、滿足不同場景和任務特征的大模型金融應用及其風險治理的評估方法或指標體系，致使金融機構進行大模型選型及評估存在較大困難，阻礙了大模型金融場景應用進程。大模型需要提示工程相關的內置模板，與原有的機器學習、深度學習等模型工作方式有很大差別，也增加了相關人員的工作難度。此外，大模型金融應用需要與現有系統和業務流程進行集成，需要跨組織、跨部門、跨團隊協作，組織能力面臨挑戰。

（三）高質量金融訓練數據欠缺數據是大模型訓練的基礎，為了切實解決金融業務問題，需要大量高質量、多領域的金融數據基于業務屬性對大模型進行增量訓練。金融領域知識存儲形式繁多，包括影像件、PDF、Excel等多種格式，需要通過分類、清洗、問答數據集梳理等大量前期處理及后期更新維護工作，針對各種業務難點、要點問題的解答還需要搜集大量專家經驗，以保持大模型的準確性和有效性，而這會耗費大量人力物力。同時，大模型訓練迭代需要一定時間，致使大模型對時事的了解有限。金融數據流通仍在探索階段，而單一金融機構掌握的數據資源較為有限，一定程度上影響了大模型金融應用效果。金融數據敏感性高，在數據分級分類管理、數據脫敏清洗、防止數據偏見和濫用等環節也存在難題。

（四）訓練算力支撐普遍不足大模型訓練和推理需要足夠的算力支撐，在高端GPU芯片斷供的背景下，金融機構對中高端 AI 算力的需求存在較大缺口。由于金融數據敏感度高，金融機構普遍選擇私有化部署大模型，而構建、訓練、優化大模型需要高性能的計算資源和大量的存儲資源，硬件設備的采購和維護需要高昂的資金投入，給金融機構帶來較大的成本壓力。大模型的訓練與推理對AI 芯片的要求有所不同，當前我國 AI 芯片能較好地支撐推理，而在訓練上仍與國際領先水平有明顯差距，存在計算能力不足、芯片制程工藝有限、算力調度不靈活、產業生態不完備、與大模型兼容適配性不夠等問題，且在金融業應用普遍缺乏驗證。我國AI 芯片適配涉及 CPU、操作系統、云平臺、AI 框架、加速框架和算法模型等多個層次，適配工作復雜且難度大，牽一發而動全身。

（五）算法可信度和安全性有待提升大模型金融應用在準確性、安全性、穩定性和金融科技倫理等方面面臨挑戰。準確性方面，大模型存在文本及數據幻覺問題，其訓練數據難以溯源、生成內容不可信、計算過程不可解釋、推理邏輯不專業，難以直接應用于數據準確性要求高、業務流程復雜度高的金融場景。安全性方面，金融場景涉及大量敏感信息，大模型在輸入輸出過程中可能造成數據泄露，從而引發重大的安全事件和惡劣影響，同時特殊的提示詞構造、逆向工程等手段可能被非法用于攻擊大模型，繞過內容過濾模塊，使攻擊者獲取超出權限范圍的結果，甚至竊取大模型的所有權和使用權，肆意修改模型代碼或參數，使其生成不準確、不公平、不合規的惡意結果。穩定性方面，大模型算法框架不夠完善，開發環境不夠友好，適配的框架比較少，且當前大模型算法主要基于國外的機器學習平臺和技術，在我國設備的操作系統、編程環境、算法庫等應用時可能出現各種意想不到的錯誤和異常，從而影響大模型運行效果和穩定性。此外，大模型可能引發算法歧視、人權、道德、造假等科技倫理風險，影響金融服務的健康發展。

二、多措并舉提升大模型金融業應用水平

（一）加強金融應用的指導與管理堅持發展和安全并重、促進創新和治理相結合的原則，制定一套完備的適用于金融領域的大模型管理體系，分類分級地制定政策指南，引導大模型在金融業規范應用，持續推動業務創新發展。對大模型的訓練數據、算法設計、生成內容、風險治理等方面進行管理，制定從準入階段的評估和備案，到對外提供金融服務，再到事后反饋的全過程管理機制，確保大模型在金融領域應用的合規性和安全性。明確金融業涉及大模型使用的各類主體的責任和義務，并制定合理的問責機制。積極參與大模型國際標準化工作，推動金融行業的 AI 算力基礎設施、行業語料庫標準化建設，制定合理的標注規則，加強不同大模型產品之間的互通性和兼容性。

 （二）有序推動金融應用場景落地金融機構征集并統籌大模型相關需求，梳理現有需求場景及方案，形成跟蹤臺賬，探索大模型與金融業務融合所需的前提條件和能力邊界，選取業務價值高、實施完備度成熟、風險可控的業務場景優先落地應用。多技術路線并舉，技術點同步驗證，探索應用監管沙箱等治理方式，加快大模型的試點應用步伐，打造大模型金融應用最佳案例，并進行規模化推廣復用。基于分級分類分域的治理思路，形成多元敏捷協同的治理體系，推動實現大模型金融應用負責任、可監督、可追溯、可信賴。創新大模型金融應用評估工作機制和理念，加快普適性好、具有底線約束的標準研制和通用測評體系建設，將自動評估和人工評估相結合，提高金融業大模型應用評估工作的質量。第三方評估機構積極協助金融機構，搭建一套適應其業務的模型評價體系，并建立評測指標與評測數據集反饋和更新機制，促進大模型在金融場景應用中的迭代優化。

（三）積極構建高質量金融數據集金融機構梳理場景應用數據需求，建立并完善大模型應用數據使用機制，探索一套面向大模型的數據“采集、清洗、管理、應用”方法和體系，提升數據集的規模、質量和多樣性，保障模型微調與投入生產后的數據連貫性、穩定性。做好敏感數據攔截的審計檢查工作，根據場景特點和風險等級進行數據分級分類。研究建立針對數據偏見、技術濫用、數據濫用等問題的風險管控機制，做好大模型私域管理和權限隔離，保證數據在可控范圍內流動，并通過區塊鏈存證技術強化管控，確保各個環節的數據可追查、可溯源且不可篡改。金融業積極推動大模型訓練和行業標準測評公共語料庫建設，助力行業級金融大模型建設，提升大模型金融應用水平。

（四）產用協同共筑 AI 算力基礎設施產業機構加大我國 AI 芯片的研發與推廣應用，保障大模型推理和訓練的算力資源供給，提升硬件安全可控水平。加強產學研用協同創新，共同推動大模型軟硬件生態建設，標準化驅動抽象及依賴，提升框架通用性，合力推進GPU、DCU、NPU 算力集群和智能計算中心等算力基礎設施建設，助力大模型全棧兼容性適配，快速推動大模型私有化部署。通過提供算力資源租賃、移動算力資源車等方式為金融機構提供算力解決方案。金融機構結合自身需求，梳理共性硬件資源需求，完善大模型算力中心規劃，基于國產和非國產算力建設多源異構算力資源池，建立健全算力資源分配流程、資源使用跟蹤與資源回收機制，對國內外芯片進行統一納管、虛擬化和調度，充分、合理利用算力資源，保障算力平臺供給穩定性，提升大模型訓練推理效率。根據算力建設情況，形成大模型算力適配的模型微調部署方案，在保證模型效果的前提下，通過模型壓縮、小樣本訓練等方式進一步降低應用成本。同時，推動中高端算力集群配套的網絡、存儲、冷卻等方面的改造工作。

（五）完善算法優化與風險管控體系產業機構與金融機構溝通切實需求，提高大模型算法的透明度、可解釋性和可預測性，幫助金融機構更好地理解算法運作方式和決策依據。建立用戶參與和反饋機制，納入模型算法改進和優化等環節之中，提升用戶體驗和技術的可靠性。積極推進大模型算法、模型和工具等全流程配套體系建設，提供全套的大模型金融應用解決方案，降低大模型金融應用落地的技術門檻和風險。金融機構做好適合自身場景的基礎大模型選型，研究建立針對大模型生成內容、算法安全的風險管控機制，配備專業人員實時監控大模型運行情況。對于涉及敏感數據、直接對客或對輸出結果準確性高的場景謹慎使用大模型技術，建立“AI 審核+人工審核”兩道關卡，保障大模型輸入輸出數據的安全可控。加強金融科技倫理治理，負責任、有道德地開展大模型技術創新應用，通過開展專業培訓與論壇交流等方式，增強相關人員的安全風險防范意識。在確保用戶個人信息安全和隱私不受侵犯的前提下，金融機構與產業機構加強聯合研究與攻關，提高大模型算法自研水平，通過共享大模型前沿研究成果、金融業訓練與評測數據集等方式，不斷提升金融業大模型算法安全性、合規性、專業性和兼容性。