文/ Veritas公司大中華區(qū)技術銷售與服務總監(jiān)吳振崗
從ChatGPT到Sora，短短兩年時間，AI的進化速度和程度再次刷新了所有人的想象，而數(shù)字經(jīng)濟在全球范圍內的快速增長，也在推動人工智能逐步從“探索期”向“成長期”的快速過渡。據(jù)統(tǒng)計，預計到2026年，僅生成式人工智能市場將從2021年的15億美元增長到65億美元，復合年增長率34.9%。
然而，當我們驚嘆于人工智能在推進技術和各個產(chǎn)業(yè)轉型重塑，幫助企業(yè)提高生產(chǎn)效率，豐富人們日常生活等方面展現(xiàn)出的超凡能力的同時，也絕不該忽視其引發(fā)的由于數(shù)據(jù)量激增及泛用化等帶來的一系列前所未有的安全風險，有機構預測，AIGC產(chǎn)生的數(shù)據(jù)到2026年將占所有數(shù)據(jù)的10%，而目前這一比例還不到1%。也就是說，也許10倍于當前的挑戰(zhàn)將要到來。
面對挑戰(zhàn)，放眼全球，中國用戶似乎對使用AI技術尤其“癡迷”。Veritas最新調研結果顯示，85%的中國受訪者在工作中使用ChatGPT等人工智能生成工具，包括輸入客戶、員工和公司財務等信心，敏感數(shù)據(jù)暴露的風險也因此增加。但是，類似的行為卻似乎缺少應有的“約束”，雖然有90%的中國受訪者認為針對AI的使用指導和政策非常重要，但目前只有34%的中國企業(yè)向員工提供了強制性的使用指導。
對此，Veritas認為:AI技術“奇點”的到來，需要數(shù)據(jù)管理的加速“蝶變”。在人工智能發(fā)展和數(shù)據(jù)安全問題日益深度交織融合的當下，企業(yè)及其員工正成為面對數(shù)據(jù)安全風險的主要群體。因此，明確AI使用過程中和黑客利用AI勒索等威脅，開展及時的培訓和指導，并強化自身網(wǎng)絡韌性，顯得至關重要。也許唯有對AI保持敬畏之心，才能真正讓其“無害”地為我們所用。
AI泛用讓數(shù)據(jù)風險“層層加碼”
如今，AI的無處不在，讓各類風險層出不窮。
一方面，在AI的使用過程中，可能不經(jīng)意間便會觸及“紅線”。根據(jù)數(shù)據(jù)安全服務機構賽博天堂(Cyber Heaven)的檢測顯示，其客戶公司的160萬名員工中已有4.2%將包含商業(yè)秘密的數(shù)據(jù)輸入ChatGPT，其中有高管將戰(zhàn)略文件復制到ChatGPT并利用其生成幻燈片，一旦被盜用或竊取，后果不可想象。
然而類似的“無意”行為，卻并非罕見現(xiàn)象。根據(jù)Veritas的調研，在中國受訪者中有37%的員工承認曾將潛在敏感信息輸入AIGC工具，且有50%和58%的受訪者沒有意識到風險，或并不了解這樣是否會導致其公司違反數(shù)據(jù)隱私合規(guī)法規(guī)。
從數(shù)據(jù)使用全生命周期的視域來看，企業(yè)在使用AI時可能會面臨諸如數(shù)據(jù)泄露、合規(guī)、操縱篡改、數(shù)據(jù)偏差等多類型風險。
· 數(shù)據(jù)泄露風險。在使用AI過程中，將包括個人信息、客戶數(shù)據(jù)、企業(yè)機密等敏感數(shù)據(jù)鍵入，以提高搜索效率等，這些行為極大增加了信息泄露的風險，且該類風險發(fā)生的概率看上去也是最高的一種。
· 數(shù)據(jù)合規(guī)風險。在一些特殊行業(yè)中，企業(yè)數(shù)據(jù)受到法律嚴格管治，例如制藥行業(yè)，任何藥企都要遵守cGMP中對于數(shù)據(jù)連續(xù)性和完整性的規(guī)定，一旦因AI使用造成數(shù)據(jù)丟失，企業(yè)不但要接受監(jiān)管機構的處罰，整個批次的藥品都可能被報廢處理，造成嚴重損失。
· 數(shù)據(jù)操縱或篡改風險。在自動駕駛、智能工廠等對實時性要求極高的場景中，數(shù)據(jù)操縱或篡改對AI核心模塊產(chǎn)生的定向干擾將會直接擴散到智能設備終端(如智能駕駛汽車的剎車裝置等)，很可能導致災難性事故發(fā)生。
· 數(shù)據(jù)偏差導致決策風險。數(shù)據(jù)偏差是指AI決策中所使用數(shù)據(jù)因不夠全面，使所承載的信息帶有難以用技術手段消除的偏差，進而導致決策結果不夠科學。比如對于金融征信、醫(yī)療領域企業(yè)，可能會因數(shù)據(jù)量不足、數(shù)據(jù)質量不高等原因，導致決策準確率偏低，影響最終效果。
另一方面，即使企業(yè)對AI使用格外謹慎，也難免會遭遇黑客利用AI進行詐騙或勒索。近日，一家英國跨國企業(yè)的中國香港分公司，被騙子用偽造的“AI換臉”和AI音頻合成的視頻內容，冒充總公司的CFO，直接騙走了2億港幣。此外，相關數(shù)據(jù)顯示，僅2022年上半年，全球就記錄了2.361億次勒索軟件攻擊，勒索軟件的速度已經(jīng)快至可以在43分鐘內加密54GB的數(shù)據(jù)，由此引發(fā)的網(wǎng)絡攻擊也被IDC認為是全球組織面臨的最大威脅之一，而這種威脅在得到AI技術加持之后，所造成的后果更難以想象。
眾所周知，海量多源數(shù)據(jù)是AI，特別是生成式AI訓練和產(chǎn)出的原始素材，也是當前企業(yè)數(shù)字化發(fā)展中寶貴的資源。有研究數(shù)據(jù)顯示，86%的企業(yè)開始將AI作為未來數(shù)字化發(fā)展的“主流”技術，并加大投資，以幫助企業(yè)做出更好的決策、改善客戶服務并降低成本。如此一來，企業(yè)將會有更多的“無形資產(chǎn)”以數(shù)據(jù)的形式暴露在網(wǎng)絡環(huán)境中，黑客可以使用AIGC來創(chuàng)建更高效的勒索軟件，或利用WormGPT等不受約束的語言模型來實現(xiàn)更復雜的網(wǎng)絡釣魚攻擊。為此，除了支付贖金，企業(yè)還可能承受包括收入損失、失去客戶、員工生產(chǎn)力下降、監(jiān)管罰款、數(shù)據(jù)無法恢復、甚至面臨訴訟等后果。而這對于眾多正處于數(shù)字化轉型加速期的中國企業(yè)來講，勢必將構成更大的威脅，如何有效應對，便也更加任重道遠。
全面部署積極防御，從容應對更大挑戰(zhàn)
正像AI技術本身自帶的“雙刃劍”屬性，各個國家在積極擁抱這項新技術的同時，也對如何保障安全實施了相應對策。如意大利個人數(shù)據(jù)保護局率先封禁了ChatGPT，美國聯(lián)邦貿(mào)易委員會也收到了請求調查OpenAI的動議。中國從2019年開始，陸續(xù)發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》、《生成式人工智能服務管理辦法(征求意見稿)》等，提出“發(fā)展與治理雙輪驅動”思路，加速推動建立AIGC的治理框架。
而對于企業(yè)來說，制定具有前瞻性，切實可行的策略和方案同樣迫在眉睫。對此，Veritas建議:針對在使用AI過程中，及黑客網(wǎng)絡攻擊、勒索等可能面臨的風險，企業(yè)在提高重視程度的同時，在“前端”緊跟相關技術發(fā)展趨勢，積極創(chuàng)建對應的指導和規(guī)則，在“中端”運用正確的治理工具可靠合規(guī)的進行管理，并在“后端”塑造更具韌性的網(wǎng)絡架構，筑牢“最后一道防線”。
· 與時俱進了解趨勢。企業(yè)應積極與供應商和研究機構合作，掌握AI技術、勒索攻擊等發(fā)展的最新趨勢，并對其之于數(shù)據(jù)管理的威脅做出評估，通過加強與員工、用戶的溝通，制定事件響應計劃等，進一步提高全員的風險應對意識。
· 事無巨細規(guī)范行為。在企業(yè)內部，應及時制定并清晰傳達相應的使用指導和規(guī)則，規(guī)范員工對AI的使用。根據(jù)Veritas的調研，近九成(89%)的中國員工希望企業(yè)提供AI的使用指導、政策或培訓，以明確工具使用的正確方式(68%)、降低風險(51%)和在工作場所創(chuàng)造公平競爭的環(huán)境(31%)。在此基礎上，通過定期的培訓，讓員工真正意識到什么是可以做的，什么是不能做的。
· 全面周密數(shù)據(jù)管理。企業(yè)應從加密、控制和保護敏感數(shù)據(jù)，確保數(shù)據(jù)可靠性和完整性，建立管理流程，對數(shù)據(jù)進行分類和標記并審計和監(jiān)控等幾方面入手，把握“全面辨識和分類數(shù)據(jù)、實現(xiàn)自動化分類系統(tǒng)、普及數(shù)據(jù)分類”關鍵三步，并攜手可靠的供應商，運用正確的數(shù)據(jù)合規(guī)治理工具，監(jiān)測管理落地實施過程并持續(xù)執(zhí)行。此外，面對海量數(shù)據(jù)管理的龐大工程，企業(yè)可采用AI驅動的異常檢測和其他類似的安全措施，來提高抵御威脅的效率和能力。
· 未雨綢繆強化韌性。在網(wǎng)絡環(huán)境逐漸AI化時，單獨依賴災難恢復的方式已不足以充分應對網(wǎng)絡事件，企業(yè)需要依托更高水平的災難恢復流程，重點確保關鍵數(shù)據(jù)和系統(tǒng)的生存、完整性和快速恢復，不斷提升網(wǎng)絡韌性。為此，企業(yè)在擁有足夠的存儲冗余，采用防篡改和不可變的存儲，將零信任擴展到企業(yè)數(shù)據(jù)保護環(huán)境中，采用獨立備份系統(tǒng)等，確保數(shù)據(jù)“可恢復”的同時，還要定期進行災難恢復演練等，真正做到有“備”無患。
人工智能技術的日新月異，對企業(yè)的數(shù)據(jù)管理提出了新的更艱巨的難題，但幸運的是，AI在制造威脅的同時，也可以被用來監(jiān)測、規(guī)避威脅，為企業(yè)提供更適用的工具，幫助企業(yè)采取更迅速、智慧的行動。為了激發(fā)AI創(chuàng)造更多正面價值，盡可能地規(guī)避AI帶來的潛在風險，實現(xiàn)自身利益的最大化，企業(yè)更應加快從認識、了解，到使用、防范AI及其衍生技術的腳步，結合全方位的數(shù)據(jù)管理和保護策略，在充滿了機遇和挑戰(zhàn)的數(shù)字化轉型中迎接美好的明天。
關于 Veritas
Veritas Technologies是安全多云數(shù)據(jù)管理領域的領導者。超過八萬家企業(yè)級客戶， 包括91%的全球財富100強企業(yè)，均依靠Veritas確保其數(shù)據(jù)的保護、可恢復性和合規(guī)性。Veritas在規(guī)�；目煽啃苑矫嫦碛惺⒆u，可為企業(yè)提供抵御勒索軟件等網(wǎng)絡攻擊威脅所需的韌性。Veritas通過統(tǒng)一的平臺，支持超過800種數(shù)據(jù)源，100多種操作系統(tǒng)以及1400多種存儲設備。在云級技術的支持下，Veritas現(xiàn)正在實踐其數(shù)據(jù)自治戰(zhàn)略，在降低運營成本的同時，實現(xiàn)更大價值。
Veritas中國官方網(wǎng)站 https://www.veritas.com/zh/cn/
Veritas官方微信平臺:VERITAS_CHINA(VERITAS中文社區(qū))
