策劃 / LiveVideoStackLiveVideoStack：請簡單介紹自己和負責的工作？和業(yè)界其他廠商相比，有什么特別的故事？
朱浩齊：網(wǎng)易云安全（易盾）是網(wǎng)易云旗下的一站式安全服務，脫胎于網(wǎng)易安全部門。我們在過去20年主要是為網(wǎng)易所有產(chǎn)品提供安全風控支持，覆蓋內(nèi)容安全、移動安全、網(wǎng)絡安全和業(yè)務安全。
網(wǎng)易云安全和其他安全廠商不同的是，我們一直是業(yè)務場景驅(qū)動的安全保障，例如內(nèi)容安全團隊就是因為當時網(wǎng)易博客等UGC產(chǎn)品遇到有組織大規(guī)模的有害垃圾內(nèi)容攻擊，在網(wǎng)易集團高層的決策下，快速成立的，我們應該是國內(nèi)第一個大公司中成立這類的團隊。我在易盾主要負責云安全服務的技術研發(fā)，特別是涉及到智能識別的內(nèi)容安全和基于大數(shù)據(jù)的業(yè)務安全服務。
LiveVideoStack：據(jù)說從網(wǎng)易新聞到網(wǎng)易云音樂的跟帖文化，你都在背后做支撐，能否分享一些你印象深刻的事？或者有趣的事？
朱浩齊：信息技術革命使得社會分工協(xié)同越來越緊密，何況在一個公司內(nèi)部，所以我們作為網(wǎng)易產(chǎn)品的基礎安全支持部門，也只是做了我們應該做的事情。但是在幫助產(chǎn)品搭建內(nèi)容安全體系的時候，確實有很多細節(jié)需要相互討論和理解。比如新聞跟貼，網(wǎng)易有蓋樓的特色，但是存在一種可能就是一些樓層有問題，其他沒問題，那我們就需要跟產(chǎn)品討論，讓產(chǎn)品增加拆樓的功能，可以把我們認為有問題的樓層都拆掉（刪除）。這其實對整個跟貼系統(tǒng)來說是比較大的改動，公司確實投入了較大資源進行架構升級。
此外，云音樂在設計之初就借鑒了跟貼的問題，設計上就不允許多層樓。（最多兩層）。但是跟云音樂的合作中我們更進了一步，除了有害內(nèi)容清理之外，我們還嘗試做一些“運營需求”的功能：比如對于無意義灌水，破壞社區(qū)氛圍的謾罵等內(nèi)容進行識別和清理。結果也還不錯，其實網(wǎng)民在網(wǎng)絡上也會跟隨社區(qū)的風氣而調(diào)整自己的行為。
LiveVideoStack：LiveVideoStack社區(qū)的目標在于聚集國內(nèi)首個專注多媒體視聽行業(yè)的技術社群，成立來，我們的確驗證了業(yè)界以及工程師在這個行業(yè)的巨大需求，網(wǎng)易云易盾在視聽領域有什么特別的洞見？
朱浩齊：我們非�？春靡暵犘袠I(yè)的發(fā)展，也看好LiveVideoStack所代表的多媒體視聽技術社群的未來。網(wǎng)易在娛樂多媒體方面一直有探索性產(chǎn)品，但易盾是從一個特別的側面感受到視聽行業(yè)的爆發(fā)。本質(zhì)上我們的內(nèi)容安全服務是內(nèi)容識別，我們目前一天大概識別十億條信息，成立以來，發(fā)現(xiàn)圖片、視頻、音頻所占比例爆發(fā)性提升。
我們和服務客戶的交流也驗證了，內(nèi)容行業(yè)一直朝向更富媒體和社交互動的方向發(fā)展，不斷為用戶拓展新的體驗。近兩年，產(chǎn)業(yè)中凸顯出三個趨勢：第一是垂直滲透，視聽互動正在作為標配功能嵌入到旅游、金融、電商等行業(yè)應用。另外，不同媒體形式的交叉融合正在加快，媒體不斷增加新的視聽內(nèi)容，音樂應用上線短視頻等，泛媒體泛娛樂成為共識。最后，更多媒體形式、更多互動和海量內(nèi)容也給視聽平臺帶來更大更復雜的內(nèi)容安全監(jiān)管壓力，內(nèi)容安全必須走向智能化。
LiveVideoStack：我們的會員很多是視聽平臺，他們的確也非常關注如何構建高效的內(nèi)容安全系統(tǒng)？請問有什么建議嗎？
朱浩齊：在技術上，盡快采用基于自然語言處理、深度學習技術的智能識別技術改造傳統(tǒng)以關鍵字和特征庫為代表的內(nèi)容識別技術，保證對文字、圖片、語音，特別是直播視頻的覆蓋。在產(chǎn)品上，應該注意內(nèi)容發(fā)布特別是UGC互動接口的覆蓋度，除了評論、博客、相冊、彈幕等，不能疏漏昵稱、頭像等簽名等角落。在策略上，應該建立對有害信息精細明確的審核體系和應對流程，做好應急響應。
LiveVideoStack：從文字、圖像、視頻與音頻，對于信息的理解難度也在不斷加大，能分享一些您和您的團隊正在做的技術探索嗎？比如NLP，聲紋識別的。
朱浩齊：信息理解的難度確實越來越大，但近年來有效的技術手段也在不斷更新。一方面我們嘗試使用多種技術融合的方式去理解日趨復雜的多媒體內(nèi)容，例如在圖片分析過程中我們會使用多個深度網(wǎng)絡結合的方式去提取圖片語義信息，同時通過NLP技術對OCR抓取的文字信息進行情感、意義的理解，最后綜合圖像、文字的理解對信息進行有效判定；另一方面，由于互聯(lián)網(wǎng)視頻內(nèi)容不斷增多，在靜態(tài)圖像處理的基礎上，我們使用了視頻分析技術更好地對流媒體內(nèi)容進行解讀。此外，聲紋識別技術也是安全領域的重要研究課題，我們也在嘗試使用端到端的聲紋技術去輔助身份認證。
LiveVideoStack：在這么多年的安全從業(yè)經(jīng)歷過程中，有哪些樂趣所在？
朱浩齊：安全是一個嚴肅又嚴謹?shù)男袠I(yè)，一個小的問題可能都會導致企業(yè)嚴重危機，其實不應該談什么樂趣吧（對比游戲，社交，電商等領域）。因為很有可能你的樂趣是建立在別人的痛苦之上的（比如研究安全問題會很有意思，了解發(fā)生的細節(jié)，思考補救的措施，探索新的風險點等等，但那往往是有產(chǎn)品被通報有安全問題了之后發(fā)生的）。當然幫助客戶解決安全問題帶來的成就感是很強的，跟黑產(chǎn)的斗智斗勇也算苦中作樂吧。我們是在解決一些“反人性”的問題，做起來很難，做成了會很開心。
LiveVideoStack：能否簡要回顧和展望下安全系統(tǒng)的歷史與未來？
朱浩齊：計算機發(fā)明之前的信息安全歷史主要是密碼學范疇，比如加密電報之類的。隨著計算機技術的發(fā)展，信息安全領域不斷擴大，現(xiàn)在已經(jīng)包含有網(wǎng)絡安全，系統(tǒng)安全，移動安全，業(yè)務安全，內(nèi)容安全等等業(yè)務了。與此同時，信息安全的威脅也在不斷升級，安全事件頻發(fā)，對安全工作帶來的挑戰(zhàn)也越來越大。我認為未來也會有一樣的發(fā)展趨勢：安全范圍和安全威脅同時增加。
LiveVideoStack：安全部門在企業(yè)中的地位往往不高，對于許多管理層而言，安全是成本中心而非利潤中心。但安全又無小事，一個小紕漏可能給公司和客戶帶來巨大的損失。您是如何看待安全這一特殊的行業(yè)？有哪些難忘的故事可以分享。
朱浩齊：安全行業(yè)門檻比較高，并且確實有吃力不討好的嫌疑，所以圈子不如其他信息技術行業(yè)廣大。但是隨著安全事件的發(fā)生，越來越多的企業(yè)領導和政府官員都開始意識到信息安全的重要性了，相關法律法規(guī)也不斷完善。我認為安全行業(yè)的地位隨著時間的推移必然會慢慢升高。并且規(guī)�；蟀踩袠I(yè)也可以有商業(yè)化的探索，既能幫助公司解決安全問題，又可以成為利潤來源。
LiveVideoStack：在網(wǎng)易內(nèi)部，安全算盈利中心嗎？是把內(nèi)部技術開放給了外部對嗎？為什么會有這樣的舉措？
朱浩齊：確切的說，網(wǎng)易內(nèi)部的安全工作分成了兩個部分，一個是為集團服務的基礎技術研究工作，一個是商業(yè)化安全產(chǎn)品的易盾團隊，商業(yè)化的部門是盈利中心，它做的就是把網(wǎng)易20年積累的部分內(nèi)部技術提供給有需要的企業(yè)，形成商業(yè)化的服務。產(chǎn)生這樣的舉措我覺得是順理成章的事情。一方面技術需要落地到更多的場景來證明和保持其先進性，另外一方面把高門檻的安全服務商業(yè)化之后能更快的滿足安全市場的需求，幫助有需要的企業(yè)迅速實現(xiàn)安全體系建設，減少安全風險，提高企業(yè)的效率并且減少其成本。
LiveVideoStack：現(xiàn)在各個行業(yè)都在談AI，在安全領域AI應用的現(xiàn)狀是什么？業(yè)界看好的探索方向是什么？
朱浩齊：其實AI技術很早就有了，只是近年來在新的算法和新的高性能硬件助力下產(chǎn)生的效果有明顯進步，在特定范圍內(nèi)甚至可以做到比人更精準高效的結果。目前我們把AI技術應用在內(nèi)容安全和業(yè)務安全領域，使用更好的模型來識別內(nèi)容和識別風險行為。至于AI探索的方向那太多了，語音識別、翻譯、機器人、人臉識別、自動駕駛等等，可以說現(xiàn)在資本投入多的大熱方向都是被看好的。
LiveVideoStack：為了更好的分辨正常用戶和有威脅的用戶，需要對用戶做畫像分析，與此同時如何保護用戶的隱私，您和您的團隊做了哪些工作？
朱浩齊：其實做用戶畫像只需要用戶各個維度的數(shù)據(jù)，但不需要明文數(shù)據(jù)。對于模型來說只要數(shù)據(jù)能保持一致性即可。所以我們一方面在部門內(nèi)部建立了數(shù)據(jù)保密制度，根據(jù)數(shù)據(jù)重要性等級劃分了權限，另外一個方面盡量的把真實的數(shù)據(jù)做了脫敏處理，比如手機號碼，直接哈希成另外一個值即可，無法逆向，人也不能理解，這樣數(shù)據(jù)就算泄露也不會造成隱私泄露的問題。
LiveVideoStack：不久前在西班牙世界通信大會MWC上，5G成為熱點�？梢灶A見4K乃至8K視頻將在不久的將來普及，這是否會對安全服務帶來新的挑戰(zhàn)？
朱浩齊：5G的理論速度提升，對于更大更清楚的內(nèi)容傳播肯定會帶來好處，不過這對內(nèi)容安全來說還好，不會有太大的壓力。但是5G普及對于接入設備數(shù)量的大幅提升，可能會進一步降低黑客的攻擊門檻，導致安全成本大幅提升。
娛樂多媒體開發(fā)應用實踐隨著海量多媒體應用的普及和爆發(fā)，用戶體驗、成本控制以及內(nèi)容安全等方面也提出了更高的要求。如果你想了解泛娛樂行業(yè)的發(fā)展趨勢與技術難點，5月19日，上海，歡迎來到《娛樂多媒體開發(fā)應用實踐》專題，與網(wǎng)易云易盾CTO朱浩齊、咪咕視訊技術總監(jiān)王琦、PP云資深架構師朱明亮、戰(zhàn)旗直播流媒體研發(fā)工程師石碩面對面，他們將分別從海量與高帶寬下的內(nèi)容安全挑戰(zhàn)，5G帶來的基于與挑戰(zhàn)，高清賽事直播的挑戰(zhàn)，以及成本控制與用戶體驗保障等角度分享多媒體開發(fā)最新技術實踐與應用案例。
