報(bào)告題目：大模型時(shí)代人工智能安全發(fā)展的挑戰(zhàn)與機(jī)遇

報(bào)告時(shí)間：2023年10月13日下午14:00-15:00

報(bào)告地點(diǎn)：kaiyun開(kāi)云官方網(wǎng)站犀浦校區(qū)7教7402

報(bào)告人：韓蒙

摘要：隨著人工智能系統(tǒng)在各個(gè)領(lǐng)域逐漸替代人類(lèi)進(jìn)行自主決策，數(shù)據(jù)和算法的重要性越來(lái)越凸顯。由數(shù)據(jù)和算法支持的決策缺乏安全保障可能導(dǎo)致嚴(yán)重的決策失誤，甚至可能造成人身傷害和社會(huì)財(cái)產(chǎn)損失。因此，人工智能安全已成為國(guó)家基礎(chǔ)設(shè)施建設(shè)的重點(diǎn)，并納入了國(guó)家安全戰(zhàn)略綱要。除了經(jīng)典的決策型人工智能，如ChatGPT和MidJourney，近來(lái)以大語(yǔ)言模型為代表的生成式人工智能的發(fā)展也受到廣泛關(guān)注。這些新的技術(shù)形式和應(yīng)用場(chǎng)景帶來(lái)了巨大的商業(yè)潛力和機(jī)會(huì)，但同時(shí)也帶來(lái)了一系列新的挑戰(zhàn)，例如隱私泄露、識(shí)別偏差、偏見(jiàn)及歧視以及合規(guī)和版權(quán)問(wèn)題等。本次報(bào)告將分享如何充分利用新技術(shù)的發(fā)展，確保人工智能行業(yè)的安全可信。我們將分享面向深度學(xué)習(xí)模型以及快速發(fā)展的大模型安全領(lǐng)域的研究進(jìn)展，以及其為科研和產(chǎn)業(yè)帶來(lái)的新機(jī)遇。

報(bào)告人簡(jiǎn)介：韓蒙，博士，畢業(yè)于美國(guó)佐治亞理工學(xué)院&佐治亞州立大學(xué)，獲MBA及計(jì)算機(jī)博士學(xué)位, 獲國(guó)家自然科學(xué)基金面上項(xiàng)目、教育部“青年人才”基金等項(xiàng)目支持，入選浙江省“海外高層次”人才計(jì)劃，IEEE資深會(huì)員。在獲得美國(guó)佐治亞州第二大公立大學(xué)終身教職后，現(xiàn)任浙江大學(xué)計(jì)算機(jī)學(xué)院“平臺(tái)百人計(jì)劃”研究員，浙江大學(xué)濱江研究院數(shù)智融合研究中心主任，專(zhuān)注于從事人工智能生態(tài)治理、大模型風(fēng)險(xiǎn)治理、模型評(píng)測(cè)與增強(qiáng)有關(guān)的研究。截止 2023年, 韓蒙博士累計(jì)發(fā)表包括CCS、ISSTA、TDSC等CCF A類(lèi)學(xué)術(shù)會(huì)議及期刊論文, 圖書(shū)章節(jié)等出版物60余篇, 并獲得了8個(gè)最佳國(guó)際會(huì)議/期刊論文獎(jiǎng)或最佳會(huì)議論文候選獎(jiǎng)，學(xué)術(shù)成果在谷歌學(xué)術(shù)累計(jì)獲引3000余次。

窗體底端