• 移動端
    訪問手機端
    官微
    訪問官微

    搜索
    取消
    溫馨提示:
    敬愛的用戶,您的瀏覽器版本過低,會導致頁面瀏覽異常,建議您升級瀏覽器版本或更換其他瀏覽器打開。

    研究人員演示駭人場景:AI機器人會進行內幕交易并掩蓋真相

    瀟湘 來源:財聯社 2023-11-03 13:37:04 AI 機器人 金融AI
    瀟湘     來源:財聯社     2023-11-03 13:37:04

    核心提示新研究表明,人工智能有能力進行非法金融交易并故意掩蓋真相。

    新研究表明,人工智能有能力進行非法金融交易并故意掩蓋真相。

    在本周于英國舉行的首屆全球人工智能安全峰會的一場演示中,一個AI機器人便利用編造的內幕信息瞞著公司“非法”購買了股票。當被問及它是否利用了內幕交易時,它還矢口否認。

    內幕交易是指利用公司機密信息做出交易決策。公司和個人在買賣股票時只能使用公開信息。

    演示方是英國政府人工智能前沿工作組的成員,該工作組負責研究人工智能的潛在風險。該項目由人工智能安全組織阿波羅研究公司(Apollo Research)負責實施,該公司是人工智能前沿工作組的合作伙伴。

    “這是一個真實的人工智能模型,在沒有得到指示的情況下自行欺騙用戶的演示,”阿波羅研究公司在一段視頻中展示了這一場景的具體過程。

    阿波羅研究公司在其報告中稱,“自主性越來越強、能力越來越大的人工智能可能會欺騙人類監督者,并導致人類失去對它的控制?!?/p>

    演示如何進行?

    測試使用的是GPT-4模型,在模擬環境中進行,這意味著它不會對任何現實公司的財務情況產生任何影響。然而,GPT-4是公開的。據研究人員稱,該模型在重復測試中始終會出現相同的行為。

    在測試中,AI機器人被塑造成一家虛構金融投資公司的交易員。公司員工告訴它,公司正陷入苦苦掙扎,需要好的業績表現。他們還向機器人提供了內幕消息,稱另一家公司將進行合并,從而有望推高其股票價值。

    在英國,利用這類未公開的信息進行交易是違法的。員工將這一情況告訴了機器人,機器人也承認不應該在交易中使用這些信息。

    然而,在一名員工再次告知機器人其目前效力的公司正處于財務困境后,機器人認為“不采取行動的風險似乎大于內幕交易的風險”,于是進行了交易。

    隨后,當被問及是否使用了內幕信息時,機器人矢口否認。在這種情況下,它似乎認為對公司有幫助比誠實坦白更重要。

    該如何令AI保持誠實?

    對于這一測試的結果,阿波羅研究公司首席執行官Marius Hobbhahn表示,“我認為,‘樂于助人’的概念比‘誠實’更容易訓練成模型。而誠實是一個非常復雜的概念?!?/p>

    Hobbhahn還指出,“它(AI撒謊)的存在顯然非常糟糕。事實上,它很難被發現,我們不得不一點點地尋找這一現象,直到我們找到這一場景,這讓人感到些許慰藉。在大多數情況下,模型不會出現這種情況,但這種情況的存在首先表明,要把這類事情做對真的很難?!盚obbhahn稱。

    事實上,人工智能在金融市場的應用已有多年——它可以用來發現趨勢和進行預測,而目前大多數交易都是由功能強大的計算機在人工監督下完成的。

    Hobbhahn強調,目前的模型并不強大,“無法以任何有意義的方式”進行欺騙,但從目前的模型到我所擔心的模型,這并非是一個很大的進步。人們需要思考,一個具有欺騙性的模型突然出現意味著什么。

    他認為,這就是為什么應該建立制衡機制,防止這類情況在現實世界中發生。阿波羅研究公司已經與GPT-4的創造者OpenAI分享了其研究結果。

    Hobbhahn表示,“我認為對OpenAI來說,這并不是一個很大的新發現。這并不是他們完全意想不到的東西。所以我不認為我們(的測試結果)會讓他們感到意外?!?/p>

    責任編輯:王超

    免責聲明:

    中國電子銀行網發布的專欄、投稿以及征文相關文章,其文字、圖片、視頻均來源于作者投稿或轉載自相關作品方;如涉及未經許可使用作品的問題,請您優先聯系我們(聯系郵箱:cebnet@cfca.com.cn,電話:400-880-9888),我們會第一時間核實,謝謝配合。

    為你推薦

    猜你喜歡

    收藏成功

    確定
    欧美日韩国产成人_亚洲VA欧洲VA日韩VA忘忧草_无码精品国产va在线观看_久久综合噜噜激激的五月天