人工智能的飛速進(jìn)步和應(yīng)用帶來(lái)了前所未有的機(jī)遇和挑戰(zhàn)，也將可信人工智能推向產(chǎn)業(yè)發(fā)展的前臺(tái)，正在金融、保險(xiǎn)、制造、醫(yī)療等領(lǐng)域加速落地。伴隨人工智能技術(shù)底座不斷夯實(shí)和大模型、AIGC等的爆發(fā)式增長(zhǎng)，人工智能邁出了走向通用人工智能的關(guān)鍵一步，2023年4月中共中央政治局會(huì)議強(qiáng)調(diào)“重視通用人工智能發(fā)展，營(yíng)造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)”，可信AI成為新階段平衡創(chuàng)新與風(fēng)險(xiǎn)的重要技術(shù)手段。

　　

 

　　2023年7月7日，2023世界人工智能大會(huì)“聚焦·大模型時(shí)代AIGC新浪潮”論壇于上海成功舉辦，中國(guó)信通院聯(lián)合清華大學(xué)、螞蟻集團(tuán)共同發(fā)布《可信AI技術(shù)和應(yīng)用進(jìn)展白皮書(shū)(2023)》(以下簡(jiǎn)稱“白皮書(shū)”)，中國(guó)信通院華東分院院長(zhǎng)廖運(yùn)發(fā)、清華大學(xué)副教授李琦、螞蟻集團(tuán)機(jī)器智能部副總經(jīng)理張?zhí)煲沓鱿�發(fā)布儀式，共同見(jiàn)證白皮書(shū)正式發(fā)布。

　　白皮書(shū)編寫(xiě)團(tuán)隊(duì)充分發(fā)揮各自優(yōu)勢(shì)，憑借扎實(shí)的技術(shù)能力和深入的產(chǎn)業(yè)觀察，基于統(tǒng)一的可信AI認(rèn)知維度，梳理總結(jié)可信AI技術(shù)和應(yīng)用發(fā)展現(xiàn)狀，提煉面向新階段大模型和AIGC引發(fā)的新需求，形成以技術(shù)為保障的可信AI評(píng)估體系和工具，并從技術(shù)、產(chǎn)業(yè)、生態(tài)和監(jiān)管維度對(duì)可信人工智能發(fā)展提出了建議，對(duì)趨勢(shì)進(jìn)行了展望。希望借助本白皮書(shū)的發(fā)布，能夠幫助社會(huì)各界更加全面地了解可信互連技術(shù)內(nèi)涵及現(xiàn)狀，共同推動(dòng)產(chǎn)業(yè)發(fā)展。

　　清華大學(xué)副教授李琦對(duì)白皮書(shū)進(jìn)行了解讀。希望本次白皮書(shū)的發(fā)布能夠給未來(lái)可信人工智能發(fā)展帶來(lái)建議和啟發(fā)，使可信AI技術(shù)迎來(lái)研究應(yīng)用更加均衡、內(nèi)在動(dòng)力更加多維、外在監(jiān)管更加全面的新局面。

　　白皮書(shū)內(nèi)容目錄

　　第一章 人工智能邁向發(fā)展新階段

　　1.1人工智能發(fā)展迎來(lái)全新時(shí)代

　　1.2人工智能可信面臨全新挑戰(zhàn)

　　1.3全球人工智能治理機(jī)制進(jìn)展

　　第二章 可信AI產(chǎn)業(yè)實(shí)踐深入發(fā)展

　　2.1應(yīng)用AI魯棒性技術(shù)對(duì)抗惡意攻擊

　　2.2應(yīng)用AI可解釋性技術(shù)提升決策透明度

　　2.3互聯(lián)網(wǎng)平臺(tái)公平性探索

　　2.4 AI應(yīng)用實(shí)踐中的數(shù)據(jù)模型安全和隱私保護(hù)

　　第三章 面向大模型和AIGC的可信AI探索

　　3.1大模型和AIGC的發(fā)展與生態(tài)

　　3.2大模型的生成式攻擊和防御

　　3.3大模型自身的安全風(fēng)險(xiǎn)與隱患

　　3.4大模型的可解釋性及公平性

　　第四章 以技術(shù)為保障的可信AI評(píng)估

　　4.1可信AI檢測(cè)工具

　　4.2可信AI檢測(cè)框架

　　4.3檢測(cè)實(shí)例分析

　　第五章 發(fā)展建議和趨勢(shì)展望

　　5.1發(fā)展建議

　　5.2未來(lái)展望

　　如果您對(duì)白皮書(shū)內(nèi)容感興趣，歡迎與編寫(xiě)組聯(lián)系：

　　常永波

　　中國(guó)信通院華東分院