一方面,監(jiān)管部門需盡快建立健全人工智能研發(fā)與應(yīng)用相關(guān)法律法規(guī)和標(biāo)準(zhǔn)體系,加強(qiáng)對(duì)科技企業(yè)、媒體平臺(tái)等的監(jiān)管。另一方面,提供深度合成服務(wù)的企業(yè)要嚴(yán)格落實(shí)信息安全管理主體責(zé)任,建立健全算法機(jī)制審核、科技倫理審查、反電信網(wǎng)絡(luò)詐騙等管理制度,加強(qiáng)合成內(nèi)容的審查與管理,對(duì)智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成內(nèi)容進(jìn)行顯著標(biāo)識(shí),避免公眾混淆或誤認(rèn)
(資料圖)
近日,AI行業(yè)發(fā)展過程中的諸多亂象,引發(fā)了市場(chǎng)廣泛關(guān)注,網(wǎng)絡(luò)安全問題再次站在聚光燈下,多家產(chǎn)業(yè)鏈上市公司也積極回應(yīng)網(wǎng)絡(luò)安全相關(guān)布局情況。
AI行業(yè)亂象頻發(fā)
“AI孫燕姿”的熱度尚未完全消散,“AI換臉”明星直播便再次成為社交平臺(tái)上的焦點(diǎn)話題。點(diǎn)開直播間,就可以看到換臉楊冪、迪麗熱巴等女明星在直播帶貨。這讓消費(fèi)者在感嘆科技進(jìn)步的同時(shí),也對(duì)AI發(fā)展態(tài)勢(shì)及相關(guān)安全問題表示擔(dān)憂。
“現(xiàn)在有很多公司可以直接提供相關(guān)明星的算法模型,價(jià)格低廉,在3萬元至4萬元之間,購買之后就可以直接假冒明星進(jìn)行直播帶貨?,F(xiàn)在AI行業(yè)發(fā)展亂象很多,到了必須加強(qiáng)監(jiān)管和治理的時(shí)候了。”一位不愿具名的行業(yè)人士對(duì)記者表示。
近日就有福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元的事件發(fā)生。據(jù)了解,騙子先攻陷了郭先生的好友微信,進(jìn)而通過智能AI換臉和擬聲技術(shù)對(duì)郭先生進(jìn)行詐騙。
深度科技研究院院長(zhǎng)張孝榮在接受記者采訪時(shí)表示:“當(dāng)前的AI換臉和AI擬聲涉及到‘深度偽造’,是AI技術(shù)的衍生應(yīng)用。這種應(yīng)用一般通過使用‘生成式對(duì)抗網(wǎng)絡(luò)’的機(jī)器學(xué)習(xí)模型,將圖片或視頻合并疊加到源圖片或視頻上,借助神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行大樣本學(xué)習(xí),將個(gè)人的聲音、面部表情及身體動(dòng)作拼接合成虛假內(nèi)容?!?/p>
張孝榮還表示,目前還有一種新的發(fā)展趨勢(shì),即AI訓(xùn)練生成虛擬人接入ChatGPT這樣的NLP大模型,再結(jié)合語音高仿技術(shù),復(fù)刻與真實(shí)人物互動(dòng)的效果,如此一來,就會(huì)讓線上的“李逵”和“李鬼”更加真假難辨。
面對(duì)當(dāng)前AI行業(yè)的發(fā)展亂象,網(wǎng)絡(luò)安全治理已迫在眉睫。天使投資人、資深人工智能專家郭濤在接受記者采訪時(shí)表示:“一方面,監(jiān)管部門需盡快建立健全人工智能研發(fā)與應(yīng)用相關(guān)法律法規(guī)和標(biāo)準(zhǔn)體系,加強(qiáng)對(duì)科技企業(yè)、媒體平臺(tái)等的監(jiān)管。另一方面,提供深度合成服務(wù)的企業(yè)要嚴(yán)格落實(shí)信息安全管理主體責(zé)任,建立健全算法機(jī)制審核、科技倫理審查、反電信網(wǎng)絡(luò)詐騙等管理制度,加強(qiáng)合成內(nèi)容的審查與管理,對(duì)智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成內(nèi)容進(jìn)行顯著標(biāo)識(shí),避免公眾混淆或誤認(rèn)?!?/p>
網(wǎng)絡(luò)安全受關(guān)注
AI亂象所帶來的網(wǎng)絡(luò)安全問題引發(fā)關(guān)注,多家產(chǎn)業(yè)鏈上市公司也在積極回應(yīng)相關(guān)業(yè)務(wù)布局情況。
“AI行業(yè)發(fā)展過程中負(fù)面事件頻發(fā),本質(zhì)上還是因?yàn)锳IGC是新生事物,對(duì)AIGC的應(yīng)用場(chǎng)景缺乏必要的監(jiān)管措施和檢測(cè)手段。以AI欺詐為例,如果各類應(yīng)用在識(shí)別到傳輸?shù)膬?nèi)容是AI生成的時(shí)候,能夠?qū)?nèi)容接收者進(jìn)行充分提醒,那么犯罪分子實(shí)施欺詐的難度將大大增加。但目前并沒有類似的監(jiān)管條例,也缺乏足夠有效、低成本的檢測(cè)技術(shù)?!眴⒚餍浅焦ぷ魅藛T告訴《證券日?qǐng)?bào)》記者,公司專注于網(wǎng)絡(luò)安全領(lǐng)域,在AI安全方面主要聚焦三個(gè)場(chǎng)景:一是利用AI技術(shù)賦能安全檢測(cè)和運(yùn)營(yíng)業(yè)務(wù),例如威脅檢測(cè)、大數(shù)據(jù)分析、威脅情報(bào)、智能化安全運(yùn)營(yíng)等;二是應(yīng)用AI過程中的數(shù)據(jù)安全和隱私保護(hù)問題,例如多方安全計(jì)算、聯(lián)邦學(xué)習(xí)等;三是AI模型自身的安全問題,包括AI模型魯棒性、數(shù)據(jù)投毒攻擊等。
永信至誠(chéng)工作人員在接受記者采訪時(shí)表示,針對(duì)利用人工智能實(shí)施的新型電信詐騙,永信至誠(chéng)旗下“i春秋”品牌基于多年的網(wǎng)絡(luò)安全一線經(jīng)驗(yàn)積累,可面向不同用戶場(chǎng)景,通過場(chǎng)景化、高仿真、可視化的互動(dòng)體驗(yàn)系統(tǒng)提升用戶的安全意識(shí)水平。以AI換臉詐騙為例,用戶可通過“i春秋”的AI換臉體驗(yàn)系統(tǒng)了解AI換臉的原理及存在的安全隱患,從而提高安全意識(shí),減少AI換臉詐騙案件的發(fā)生。
信安世紀(jì)也十分重視網(wǎng)絡(luò)安全問題,談及在這方面的布局情況,信安世紀(jì)方面對(duì)記者表示:“密碼技術(shù)在對(duì)抗身份仿冒、數(shù)據(jù)偽造方面具有天然的優(yōu)勢(shì),目前信安世紀(jì)正積極將人工智能技術(shù)與密碼技術(shù)融合,以提供更友好、更安全的用戶體驗(yàn)?!?/p>
方正證券表示,AI將帶來網(wǎng)絡(luò)安全產(chǎn)業(yè)邏輯的重大改變。從攻擊側(cè)來看,大模型、GPT、生成式AI技術(shù)將大幅降低黑客攻擊的門檻,顯著加劇了整體威脅態(tài)勢(shì),進(jìn)而帶來各類安全軟硬件需求以及政企安全預(yù)算的提升;從監(jiān)管側(cè)來看,在類ChatGPT的生成語言工具得到廣泛應(yīng)用之后,監(jiān)管側(cè)對(duì)于內(nèi)容的監(jiān)管和審查將成為重中之重,內(nèi)容安全、數(shù)據(jù)安全、流量可視等安全監(jiān)管側(cè)的需求將得到顯著提升。(記者 許林艷)
標(biāo)簽: