財經(jīng)新聞
10月31日,香港金管局總裁余偉文在香港金管局與國際結(jié)算銀行合辦研討會上表示,金融機構(gòu)對AI服務提供商群體的日益依賴引起了監(jiān)管機構(gòu)的擔憂。目前金融機構(gòu)的AI服務都由第三方提供,一旦這些服務提供商遭遇IT故障或是黑客攻擊,許多依賴于此的金融機構(gòu)運營將會受到嚴重影響。
余偉文指出,對于這種風險,香港金管局要求銀行對AI服務提供商進行全面的風險評估。此外,金管局還要求銀行制定穩(wěn)健的業(yè)務應急計劃,以應對第三方提供的服務可能出現(xiàn)的中斷。
余偉文認為,在創(chuàng)新和監(jiān)管之間保持適當?shù)钠胶馐且豁椌哂刑魬?zhàn)性的工作,但也是極其重要的。金融系統(tǒng)需要為生成式AI的發(fā)展制定框架以及進行風險管理實踐,就像是高速公路旁的護欄,可以防止技術(shù)由于發(fā)展過快而偏離軌道。
10月28日,香港特區(qū)政府發(fā)布有關(guān)在金融市場負責任地應用人工智能的政策宣言,宣言中提出,金融機構(gòu)應制定人工智能管治策略,為如何實施及使用人工智能系統(tǒng)指明方向。香港將采取雙軌制以推動香港金融服務業(yè)應用人工智能。在人工智能系統(tǒng)的采購、使用及管理上應采用風險為本的方法,而人為監(jiān)督對緩解潛在風險至關(guān)重要。
余偉文指出,目前金融機構(gòu)已經(jīng)在許多不同的領(lǐng)域部署了人工智能,以提高運營效率并改善客戶互動。人工智能在風險管理、欺詐檢測和工作流程自動化的中后臺運營中已有廣泛應用。但同時,金融機構(gòu)也要確保新技術(shù)帶來的任何系統(tǒng)性風險得到有效管理,以保障金融體系的穩(wěn)定性和彈性。
余偉文指出,為平衡發(fā)展與風險監(jiān)控,香港金管局采用沙盒的形式,為技術(shù)提供足夠的發(fā)展空間,讓技術(shù)可以在其中迭代發(fā)展。這種方式可以能夠在新技術(shù)發(fā)展的早期識別可能威脅更廣泛的金融系統(tǒng)的風險。
8月13日,香港金管局宣布推出新的生成式人工智能(GenA.I.)沙盒,旨在促進銀行業(yè)負責任地創(chuàng)新發(fā)展GenA.I.。沙盒將協(xié)助銀行在風險可控的框架內(nèi)測試各種GenA.I.的創(chuàng)新用例,并提供所需的技術(shù)支持和針對性的監(jiān)管意見。
而對于人工智能帶來的風險,余偉文表示,目前詐騙者已經(jīng)用人工智能制作Deepfake的視頻進行詐騙,其在網(wǎng)絡上就曾有見過自己的形象被人用于制作詐騙視頻。金融監(jiān)管者應該警惕,Deepfake的技術(shù)將有可能被不法分子使用,在市場緊張時期發(fā)布謠言,引發(fā)公眾恐慌。
余偉文進一步表示,為應對這類風險,香港金管局通過公眾教育提升公眾警惕性。解決這個問題的關(guān)鍵,是企業(yè)應該以負責任的態(tài)度發(fā)展AI,在發(fā)展技術(shù)的過程中考慮倫理道德風險,市場應該有人工智能治理框架的引導,以確保金融機構(gòu)在使用AI的過程中能夠公平地對待客戶,同時采取透明度、決策和強大的數(shù)據(jù)隱私措施。
余偉文表示,人工智能正以前所未有的速度前進,其影響可能是革命性的。任何一方,無論是公共實體還是私人實體,都無法單獨應對所有挑戰(zhàn)。我們必須提供公私伙伴關(guān)系和國際合作,以利用所有利益攸關(guān)方的集體智慧。
來源:21經(jīng)濟網(wǎng)