謹防金融大模型應用風險

　　當前，人工智能大模型正在逐步影響各行各業(yè)，金融領域也不例外。

　　根據(jù)英偉達發(fā)布的針對近400家金融機構的調(diào)研結果，43%的金融機構已開始使用大模型。麥肯錫2024年的調(diào)研數(shù)據(jù)顯示，金融行業(yè)從業(yè)者反饋“在工作中常規(guī)使用大模型”“在生活中常規(guī)使用大模型”和“在工作和生活中均常規(guī)使用大模型”的數(shù)量占比已達到48%。據(jù)麥肯錫測算，大模型有望給全球金融行業(yè)帶來每年2500億美元至4100億美元的增量價值。這些數(shù)據(jù)無疑為大模型在金融領域的進一步應用描繪了光明的前景。

　　然而，隨著大模型的廣泛應用，一些新風險也逐漸顯露出來，一旦應對不當，可能對金融行業(yè)構成嚴峻的挑戰(zhàn)。

　　首先，大模型的進一步推廣可能會加劇金融行業(yè)的“兩極分化”。由于技術投入、業(yè)務稟賦和人力資源等方面的差異，一些頭部金融機構在大模型展現(xiàn)的能力上開始顯現(xiàn)出明顯優(yōu)勢。相比之下，中小機構受限于資金預算約束、相對有限的業(yè)務規(guī)模和專業(yè)人才資源，與頭部機構之間的差距將被逐漸拉大，呈現(xiàn)出“強者愈強，弱者愈弱”的趨勢。從行業(yè)整體來看，金融行業(yè)原本就具有信息數(shù)據(jù)密集、人才智力密集等特點，大模型的推廣應用可能導致金融行業(yè)資源進一步集中。

　　其次，目前大模型本身存在的缺陷也可能給金融系統(tǒng)帶來安全風險。大模型仍存在專業(yè)能力有限、生成結果不可控、算法可解釋性較差等問題，當前在合規(guī)性和適當性等方面仍缺乏保障。一旦訓練數(shù)據(jù)不完備或質(zhì)量較差，可能會生成低質(zhì)量的錯誤內(nèi)容，導致結果不可用，甚至誤導金融機構和金融消費者的判斷和決策。在模型可解釋性方面，大模型的復雜程度較高，使得內(nèi)容生成的結果和過程難以被清晰地解釋，產(chǎn)生“黑箱”問題，導致金融機構難以在事前、事中、事后進行有效的風險溯源和管理。此外，考慮到大模型基于海量數(shù)據(jù)進行訓練，若底層數(shù)據(jù)本身存在偏見和歧視，可能會導致大模型內(nèi)容輸出、決策生成方面存在偏見，進而導致金融服務存在歧視性定價等風險。

　　最后，金融機構對少數(shù)大型科技公司提供的基座大模型的依賴可能形成新的風險點?？紤]到基座大模型通常與部分大型科技公司云業(yè)務捆綁銷售，這可能進一步加大金融機構對少數(shù)第三方的依賴，加大相關技術服務商對金融系統(tǒng)的潛在影響力。一旦服務商的運營出現(xiàn)問題或系統(tǒng)出現(xiàn)故障，將對金融系統(tǒng)的穩(wěn)定造成嚴重影響。

　　當前，大模型的深入應用對金融監(jiān)管提出了更高要求，現(xiàn)實中如何既鼓勵創(chuàng)新，又確保金融行業(yè)的健康穩(wěn)定發(fā)展，已成為金融監(jiān)管部門的重要議題。只有防患于未然，在深刻認識大模型的特點并妥善應對這些風險的基礎上，才能推動金融大模型更好發(fā)揮作用，促進金融業(yè)高質(zhì)量發(fā)展。（ 作者：蘇瑞淇）

　　轉(zhuǎn)自：經(jīng)濟日報

　　【版權及免責聲明】凡本網(wǎng)所屬版權作品，轉(zhuǎn)載時須獲得授權并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”，違者本網(wǎng)將保留追究其相關法律責任的權力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權事宜請聯(lián)系：010-65363056。

延伸閱讀