本文來自微信公眾號(hào)“twt企業(yè)IT社區(qū)”。
如何考慮大模型與數(shù)據(jù)倉庫結(jié)合過程中的數(shù)據(jù)安全和隱私保護(hù)？
大模式如何與原有架構(gòu)（如數(shù)據(jù)湖、湖倉一體、數(shù)據(jù)倉庫）相結(jié)合，成為了企業(yè)架構(gòu)中需要考慮的問題。企業(yè)需要對(duì)現(xiàn)有的數(shù)據(jù)架構(gòu)進(jìn)行全面的評(píng)估，了解其功能、數(shù)據(jù)處理能力、存儲(chǔ)容量、查詢性能等，有助于確定大模型與原有架構(gòu)結(jié)合的方式和可行性。企業(yè)還需定義統(tǒng)一的集成接口標(biāo)準(zhǔn)，使大模型與原有架構(gòu)能夠順利地交換數(shù)據(jù)和信息，降低集成難度和復(fù)雜性。
對(duì)于大模型與數(shù)據(jù)倉庫結(jié)合過程中的數(shù)據(jù)安全，包括數(shù)據(jù)加密、訪問控制、審計(jì)機(jī)制等方面的技術(shù)和管理措施，大家認(rèn)為該如何考慮？
問題來自社區(qū)會(huì)員 xuyy秦皇島銀行數(shù)據(jù)架構(gòu)師，以下內(nèi)容來自社區(qū)同行探討
catalinaspring金融副處長(zhǎng)：
幾乎所有在線服務(wù)都在收集我們的個(gè)人數(shù)據(jù)，并可能將這些數(shù)據(jù)用于訓(xùn)練LLM。然而，模型會(huì)如何使用這些用于訓(xùn)練的數(shù)據(jù)則是難以確定的。如果在模型的訓(xùn)練中使用了諸如地理位置、健康記錄、身份信息等敏感數(shù)據(jù)，那么針對(duì)模型中隱私數(shù)據(jù)的提取攻擊（Data extraction attack）將會(huì)造成大量的用戶隱私泄漏?！窤re Large Pre-Trained Language Models Leaking Your Personal Information?」一文中證明，由于LLM對(duì)于訓(xùn)練數(shù)據(jù)的記憶，LLM在對(duì)話過程中確實(shí)存在泄露個(gè)人信息的風(fēng)險(xiǎn)，且其風(fēng)險(xiǎn)隨著示例數(shù)量的增加而增加。
模型泄漏信息的原因有多種。其中一些是結(jié)構(gòu)性的，與構(gòu)建模型的方式有關(guān)；而另一些是由于泛化能力差、對(duì)敏感數(shù)據(jù)的記憶等因素造成的。
可以考慮通過在數(shù)據(jù)的存儲(chǔ)和傳輸環(huán)節(jié)引入加密算法進(jìn)行處理，并加強(qiáng)訪問控制，同時(shí)，建立有效的審計(jì)機(jī)制。
haidixipan算法工程師：
在結(jié)合大模型與數(shù)據(jù)倉庫時(shí)，確保數(shù)據(jù)安全和隱私的關(guān)鍵措施包括實(shí)施端到端的數(shù)據(jù)加密、嚴(yán)格的訪問控制和身份驗(yàn)證機(jī)制，以及對(duì)數(shù)據(jù)進(jìn)行匿名化或去標(biāo)識(shí)化處理以保護(hù)個(gè)人隱私。此外，應(yīng)采用最小權(quán)限原則限制數(shù)據(jù)訪問，確保合規(guī)性并遵循數(shù)據(jù)保護(hù)法規(guī)如GDPR。對(duì)模型進(jìn)行隱私保護(hù)的技術(shù)，比如差分隱私，可以在訓(xùn)練過程中限制敏感信息的泄露。定期進(jìn)行安全審計(jì)和隱私影響評(píng)估也是必要的，以及在設(shè)計(jì)系統(tǒng)時(shí)采用隱私保護(hù)設(shè)計(jì)原則，確保整個(gè)數(shù)據(jù)處理流程的透明性和可審計(jì)性。
soap申萬宏源證券有限公司人工智能算法工程師：
結(jié)合提問者的的問題，我個(gè)人認(rèn)為金融行業(yè)中的數(shù)據(jù)應(yīng)該進(jìn)行嚴(yán)格的隔離，不管在大模型應(yīng)用過程中還是整個(gè)數(shù)據(jù)建設(shè)的過程中，數(shù)據(jù)安全應(yīng)該放在核心。對(duì)相關(guān)數(shù)據(jù)進(jìn)行脫敏和隔離是很有必要的?？蓮臄?shù)據(jù)加密、身份驗(yàn)證與授權(quán)、安全訪問控制、模型隱私保護(hù)、定期安全審計(jì)和員工培訓(xùn)與意識(shí)等多個(gè)角度進(jìn)行工作開展。這樣才可以更好的在大模型與原有架構(gòu)（如數(shù)據(jù)湖、數(shù)據(jù)倉庫、湖倉一體）結(jié)合過程中保證數(shù)據(jù)安全和隱私保護(hù)。會(huì)是企業(yè)架構(gòu)中需要考慮的重要問題。
