• 移動端
    訪問手機端
    官微
    訪問官微

    搜索
    取消
    溫馨提示:
    敬愛的用戶,您的瀏覽器版本過低,會導致頁面瀏覽異常,建議您升級瀏覽器版本或更換其他瀏覽器打開。

    安全性、合規性、倫理性挑戰下,金融大模型也要戴上“緊箍”

    王方然 來源:第一財經 2023-11-06 08:50:30 金融大模型 金融AI
    王方然     來源:第一財經     2023-11-06 08:50:30

    核心提示當前大模型存在“幻覺”。

    大模型“狂飆”時代,算力、算法、數據構成了新商業模式的“三駕馬車”,相比其他領域,金融對數據專業性以及在風控、合規、安全層面的要求都更高,這也給金融機構和企業在探索金融大模型上帶來諸多挑戰。

    未來,當金融大模型無孔不入,要不要給它戴上“緊箍”?香港金融科技周2023期間,在第一財經舉辦的“人工智能新紀元:探路金融大模型”分論壇上,香港特區政府投資推廣署財經金融及金融科技主管梁瀚璟、平安壹賬通銀行執行董事兼行政總裁費軼明,萬向區塊鏈首席經濟學家鄒傳偉、馬上消費金融首席信息官蔣寧,圍繞金融大模型的治理挑戰展開了深入的探討。

    1

    安全性、合規性挑戰

    金融是具有高度專業性的行業,大模型與金融的碰撞中,合規性、安全性是首要挑戰。

    平安壹賬通銀行執行董事兼行政總裁費軼明指出,大模型在金融領域面臨的首要挑戰是找到合適的場景。金融對專業性要求較高,有各類流程和規范需要遵守。第二個挑戰在于數據合規性,例如判斷哪些數據可以使用、哪些數據屬于內部數據等。

    萬向區塊鏈首席經濟學家鄒傳偉具體解釋了數據層面的安全性問題。他認為,從安全性角度看,大模型在訓練推理、參數設置環節,有泄露數據的風險,其中既包括企業內部的商業機密,也包括用戶的個人隱私數據。而在一些跨境金融場景中,跨境的數據流通問題也較為敏感。因此很多企業或區域會采用本地化部署的方式。

    而從合規性的角度看,鄒傳偉認為當前大模型存在“幻覺”,即會“一本正經的胡說八道”。這種特質在文創、藝術領域可以大開“腦洞”,促進創意形成。但在金融領域則要求嚴謹,在證券市場,如金融大模型做出虛假的、誤導性的陳述,就會造成嚴重的后果。

    根據上海計算機軟件測評重點實驗室團隊測試結果,ChatGPT4在幻覺輸出概率上達到30%,國內大模型這一數據超過了50%。

    而從更深層次的價值觀維度來看,鄒傳偉認為,金融不完全是一個簡單的商業活動,有一定的價值尺度,其中涉及到人的基本權利,如公平獲取信貸的權利。而算法本身具有將近2000億的參數,運作機制也不為公眾了解,有非常強的“黑盒”特征。這會導致一定的信任問題。

    鍛造“內功”

    從長遠視角看,“百模大戰”中,大模型的競爭落足點并不是比誰跑得更快,而是比誰走得更遠,這需要金融大模型對算力、算法、數據進一步優化,鍛造“內功”。

    馬上消費金融首席信息官蔣寧將此歸納為,算力的穩定性保障、算法的魯棒性和安全性、數據有序性三個方面。

    從算法上看,金融機構需要保證100%的安全,但目前在生成式AI領域存在魯棒性問題,即系統的強健性問題,能否在面臨各類參數攝動下,維持某些性能的特性。目前還需要通過持續性學習、對抗學習進行解決。

    在數據有序性方面,蔣寧稱,并非無限制向大模型中投入數據,就會產生智能。智能的產生與數據的質量、樣本的分布密切相關。需要確保高質量、有合規授權的數據,以有組織的方式投入到大模型中。

    此外,算力的穩定性保障也是提升安全性的關鍵一環?!盃I銷環節從幾十個標簽到上億標簽,風控也從幾百個變量到百萬變量,這對算力安全提出了更高的要求?!笔Y寧舉例稱,今年8月,馬上消費金融發布的首個零售金融大模型“天鏡”,應用于自動化營銷、風控等實際業務場景,目前,數據每個月以將近20%的速度增加,對芯片、機房、網絡帶寬、算力等要求巨大。

    費軼明也指出,大模型帶來的算力需求,可能是指數級增長的。無論是數字銀行、傳統銀行,如何保證算力來支撐公司戰略,推進大模型的開發和應用都是巨大的挑戰。

    而針對“百模大戰”熱潮中的安全性、合規性隱患,如何監管既能保護創新,又保證風險可控?

    在內地,對生成式AI的規范已逐漸落地。2023年8月15日,國家互聯網信息辦公室等七部門聯合發布的《生成式人工智能服務管理暫行辦法》正式實施,明確不同業務場景之下不同主體的合規義務,同時明確必須對AIGC生成的內容進行標記。9月1日,國家互聯網信息辦公室發布了《關于第二批深度合成服務算法備案的信息公告》。公告清單顯示,第二批深度合成服務共計110個算法信息完成備案。

    而在香港,通過技術手段規范金融科技也是監管關注的新方向。香港特區政府投資推廣署財經金融及金融科技主管梁瀚璟指出,香港在監管層面的原則是“相同風險、相同監管”,數字資產、Web3.0都適用于這一原則。

    梁瀚璟介紹,目前金融科技領域各種新賽道發展速度很快,但相比傳統金融資產需要托管,虛擬資產的不確定更大,監管的難度更高。投資推廣署方面,希望能夠找一些最先進的軟件供應商,可以進行實時交易數據的跟蹤等,并介紹推薦給監管方。


    責任編輯:王超

    免責聲明:

    中國電子銀行網發布的專欄、投稿以及征文相關文章,其文字、圖片、視頻均來源于作者投稿或轉載自相關作品方;如涉及未經許可使用作品的問題,請您優先聯系我們(聯系郵箱:cebnet@cfca.com.cn,電話:400-880-9888),我們會第一時間核實,謝謝配合。

    為你推薦

    猜你喜歡

    收藏成功

    確定
    欧美日韩国产成人_亚洲VA欧洲VA日韩VA忘忧草_无码精品国产va在线观看_久久综合噜噜激激的五月天