近日,2024年中國網(wǎng)絡(luò)安全大事件在京發(fā)布。此次活動由中國計(jì)算機(jī)學(xué)會主辦、中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)安全專業(yè)委員會承辦,采用征求業(yè)界部分專家意見和網(wǎng)絡(luò)公開投票的方式,通過對2024年重大網(wǎng)絡(luò)安全事件的梳理,評選出10件2024年中國網(wǎng)絡(luò)安全大事件,相關(guān)專家和業(yè)界人士也對此發(fā)表了觀點(diǎn)。
奇安信集團(tuán)總裁、中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)安全專委會常務(wù)委員、數(shù)據(jù)安全工作組組長吳云坤:系統(tǒng)性治理筑牢新型工業(yè)化的網(wǎng)絡(luò)和數(shù)據(jù)安全底板
新型工業(yè)化是推進(jìn)制造強(qiáng)國建設(shè)、實(shí)現(xiàn)中國式現(xiàn)代化的關(guān)鍵任務(wù),而數(shù)字化、智能化、網(wǎng)絡(luò)化在成為新型工業(yè)化核心支撐的同時,也放大了工業(yè)領(lǐng)域的網(wǎng)絡(luò)和數(shù)據(jù)安全風(fēng)險,日益升級的網(wǎng)絡(luò)和數(shù)據(jù)安全威脅,導(dǎo)致工業(yè)領(lǐng)域的停產(chǎn)停服、斷油斷電等事件屢屢發(fā)生,給工業(yè)生產(chǎn)、運(yùn)營和經(jīng)營帶來了極大的不確定性、不穩(wěn)定性風(fēng)險,因此工業(yè)領(lǐng)域的網(wǎng)絡(luò)和數(shù)據(jù)安全是新型工業(yè)化的基礎(chǔ)保障,必須筑牢新型工業(yè)化的網(wǎng)絡(luò)和數(shù)據(jù)安全底板。
過去一年,國家高度重點(diǎn)工業(yè)領(lǐng)域的安全治理和能力建設(shè),工信部先后出臺《工業(yè)控制系統(tǒng)網(wǎng)絡(luò)安全防護(hù)指南》、《工業(yè)領(lǐng)域數(shù)據(jù)安全能力提升實(shí)施方案(2024-2026年)》等一系列的政策、方案、標(biāo)準(zhǔn)和指南,組織“鑄網(wǎng)2024”工業(yè)領(lǐng)域網(wǎng)絡(luò)安全演練、“數(shù)安護(hù)航”數(shù)據(jù)安全檢查專項(xiàng)行動等,系統(tǒng)性推動和強(qiáng)化工業(yè)領(lǐng)域的安全治理和防護(hù)能力提升,充分體現(xiàn)了系統(tǒng)治理、強(qiáng)化責(zé)任、綜合施策、聚焦重點(diǎn)、技管結(jié)合、突出實(shí)戰(zhàn)的指導(dǎo)思想。這些政策和舉措的科學(xué)性、實(shí)用性、落地性、可執(zhí)行性很強(qiáng),從監(jiān)管側(cè)、企業(yè)側(cè)和產(chǎn)業(yè)側(cè)各層級,制度、技術(shù)、管理、運(yùn)營和人才各方面,為工業(yè)領(lǐng)域提供了方向性指導(dǎo),推動完成了新型工業(yè)化的網(wǎng)絡(luò)和數(shù)據(jù)安全保障體系初步構(gòu)建,為新型工業(yè)化發(fā)展提供了基礎(chǔ)保障。
中國科學(xué)院信息工程研究所研究員、中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)安全專委會常務(wù)委員陳愷:細(xì)則出臺為生成式人工智能健康發(fā)展保駕護(hù)航
生成式人工智能現(xiàn)已成為新的技術(shù)浪潮,廣泛應(yīng)用于內(nèi)容創(chuàng)作、醫(yī)療、教育、商業(yè)等領(lǐng)域,同時也帶來了數(shù)據(jù)濫用、虛假信息傳播、隱私泄露等安全風(fēng)險和挑戰(zhàn)。2023年7月,國家網(wǎng)信辦等七部門聯(lián)合發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》,從政策法規(guī)層面為生成式人工智能健康發(fā)展保駕護(hù)航,明確了相關(guān)管理工作的方向。為了營造創(chuàng)新生態(tài),重視防范風(fēng)險的要求,全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會于2024年3月發(fā)布了《生成式人工智能服務(wù)安全基本要求》,支撐和細(xì)化了《生成式人工智能服務(wù)管理暫行辦法》,規(guī)定了語料安全、模型安全、安全措施等安全方面的基本要求,對防范生成式人工智能重大安全風(fēng)險,提升生成式人工智能安全水平起到了規(guī)范引導(dǎo)作用,促進(jìn)了生成式人工智能的健康發(fā)展,對國家安全和經(jīng)濟(jì)發(fā)展具有重要意義。
天融信科技集團(tuán)董事長兼CEO、中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)安全專委會常務(wù)委員李雪瑩:強(qiáng)制性國家標(biāo)準(zhǔn)助力提升智能網(wǎng)聯(lián)汽車安全水平
中國智能網(wǎng)聯(lián)汽車領(lǐng)域首批三項(xiàng)強(qiáng)制性國家標(biāo)準(zhǔn)發(fā)布,是落實(shí)《國家標(biāo)準(zhǔn)化發(fā)展綱要》《國家車聯(lián)網(wǎng)產(chǎn)業(yè)標(biāo)準(zhǔn)體系建設(shè)指南(智能網(wǎng)聯(lián)汽車)》等要求的重要舉措,標(biāo)志著智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)正式邁入一個更加規(guī)范和有序發(fā)展的新階段,對提升智能網(wǎng)聯(lián)汽車安全水平、保障產(chǎn)業(yè)健康持續(xù)發(fā)展具有重要意義。
一方面,通過規(guī)定汽車信息安全體系、車輛可升級軟件、自動駕駛數(shù)據(jù)記錄系統(tǒng)的建設(shè)標(biāo)準(zhǔn),強(qiáng)制車企開展安全建設(shè),專業(yè)化的網(wǎng)絡(luò)安全和數(shù)據(jù)安全保障能力將被應(yīng)用到車企,能夠切實(shí)提升智能網(wǎng)聯(lián)汽車安全水平。另一方面,也進(jìn)一步打開了安全企業(yè)與車企的協(xié)作空間,促進(jìn)安全產(chǎn)業(yè)與智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)的融合發(fā)展、繁榮共生,促使安全成為中國智能網(wǎng)聯(lián)汽車最亮的底色、最足的底氣,有助于持續(xù)強(qiáng)化中國車企國際競爭力。此外,能夠減少消費(fèi)者的安全用車顧慮,提振消費(fèi)者用車信心和增強(qiáng)購車意愿,帶動智能網(wǎng)聯(lián)汽車銷量,實(shí)現(xiàn)以安全促發(fā)展、安全與發(fā)展齊頭并進(jìn)的態(tài)勢。
安恒信息董事長、中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)安全專委會常務(wù)委員范淵:“清朗”行動推動網(wǎng)絡(luò)生態(tài)向好
2024年,中央網(wǎng)信辦開展的“清朗”系列專項(xiàng)行動,是我國網(wǎng)絡(luò)空間治理現(xiàn)代化的關(guān)鍵一步。其中,“清朗·打擊違法信息外鏈”行動緊盯賬號、評論等8個環(huán)節(jié),整治非法外鏈,防止用戶被引至詐騙等不良網(wǎng)站,筑起安全上網(wǎng)“防火墻”。該行動還要求網(wǎng)站平臺加大打擊力度,跨平臺聯(lián)動排查處置黑灰產(chǎn)相關(guān)群組、賬號等,并移交違法犯罪線索,彰顯了中央網(wǎng)信辦治理網(wǎng)絡(luò)生態(tài)的決心,有效切斷詐騙鏈條,維護(hù)網(wǎng)絡(luò)清朗空間。
此次行動的10項(xiàng)任務(wù)緊扣網(wǎng)絡(luò)熱點(diǎn)難點(diǎn),對凈化網(wǎng)絡(luò)環(huán)境、提升社會文明程度、促進(jìn)數(shù)字經(jīng)濟(jì)健康發(fā)展意義重大。它能減少網(wǎng)絡(luò)謠言、虛假信息和低俗內(nèi)容傳播,提升信息真實(shí)性;整治網(wǎng)絡(luò)暴力、欺凌等行為,倡導(dǎo)文明新風(fēng),推動社會文明提升;整治網(wǎng)絡(luò)直播、自媒體亂象,為數(shù)字產(chǎn)業(yè)創(chuàng)新提供良好市場環(huán)境,激發(fā)企業(yè)活力,助力高質(zhì)量發(fā)展??傮w而言,“清朗”行動推動網(wǎng)絡(luò)生態(tài)向好,為群眾提供和諧、健康、文明的網(wǎng)絡(luò)環(huán)境。期待2025年繼續(xù)推進(jìn)該行動,保持對網(wǎng)絡(luò)詐騙、黑灰產(chǎn)虛假流量的高壓態(tài)勢,提升國家網(wǎng)絡(luò)空間治理能力。
中國科學(xué)院計(jì)算機(jī)網(wǎng)絡(luò)信息中心首席科學(xué)家、中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)安全專委會副主任廖方宇:系統(tǒng)持續(xù)開展針對性工作推動實(shí)現(xiàn)AI技術(shù)向善
面對AI技術(shù)用于網(wǎng)絡(luò)犯罪的嚴(yán)峻形勢,公安部高度重視打擊整治AI用于網(wǎng)絡(luò)犯罪的案件。近年來,公安部不斷加大打擊力度,針對利用AI進(jìn)行網(wǎng)絡(luò)犯罪的行為展開了一系列專項(xiàng)行動。2024年4月,公安部公布了10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例,其中4起涉及AI的惡意使用。這些案例揭示了不法分子如何利用人工智能工具批量生成或編造虛假信息,以此吸引流量、謀取私利。公安部以實(shí)際行動表明了對網(wǎng)絡(luò)犯罪的零容忍態(tài)度,彰顯了維護(hù)網(wǎng)絡(luò)安全的堅(jiān)定決心。
為持續(xù)開展針對AI網(wǎng)絡(luò)犯罪案件的打擊行動,要系統(tǒng)、強(qiáng)化、持續(xù)地開展針對性工作,進(jìn)而實(shí)現(xiàn)AI技術(shù)向善、服務(wù)經(jīng)濟(jì)社會發(fā)展的根本效用。一是加大加快法律法規(guī)發(fā)制定和落地,為有效遏制網(wǎng)絡(luò)犯罪的蔓延勢頭提供法律依據(jù)。二是加大AI技術(shù)的科學(xué)知識普及,使廣大民眾對AI有科學(xué)和清晰的認(rèn)知。三是進(jìn)一步加強(qiáng)對AI技術(shù)應(yīng)用于犯罪的安全技術(shù)的研發(fā)和應(yīng)用,包括收集和分析網(wǎng)絡(luò)公共安全數(shù)據(jù),識別異常模式和潛在的犯罪活動并建立AI技術(shù)的基礎(chǔ)識別模型;利用AI技術(shù)輔助證據(jù)的收集和整理,確保證據(jù)的完整性和合法性;利用機(jī)器學(xué)習(xí)算法預(yù)測犯罪熱點(diǎn)區(qū)域和時間,優(yōu)化警力部署等等。四是加強(qiáng)國際合作,對跨境的AI犯罪必須時刻保持警惕。
深信服科技股份有限公司董事長、中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)安全專委會顧問委委員何朝曦:優(yōu)化信息化標(biāo)準(zhǔn)體系 為國內(nèi)企業(yè)“走出去”提供新機(jī)遇
《信息化標(biāo)準(zhǔn)建設(shè)行動計(jì)劃(2024—2027年)》(以下簡稱《行動計(jì)劃》)是近年來國內(nèi)信息化領(lǐng)域發(fā)布的一份基礎(chǔ)性且全面的標(biāo)準(zhǔn)化工作指引,具有里程碑意義?!缎袆佑?jì)劃》從標(biāo)準(zhǔn)工作的機(jī)制創(chuàng)新、重點(diǎn)標(biāo)準(zhǔn)研制、標(biāo)準(zhǔn)國際化及基礎(chǔ)能力提升四個方面部署了具體任務(wù),是對國家信息化標(biāo)準(zhǔn)體系的全方位優(yōu)化,將為國內(nèi)信息技術(shù)創(chuàng)新和產(chǎn)業(yè)升級注入新動力。
網(wǎng)絡(luò)安全是信息化建設(shè)的核心組成部分,《行動計(jì)劃》針對關(guān)鍵信息技術(shù)、數(shù)字基礎(chǔ)設(shè)施、數(shù)據(jù)資源等八大領(lǐng)域提出了一系列標(biāo)準(zhǔn)化方向,這些方向?yàn)槲磥砀黝愋畔⒒瘓鼍凹凹夹g(shù)應(yīng)用中的網(wǎng)絡(luò)安全規(guī)劃、建設(shè)與運(yùn)營提供了重要參考,將進(jìn)一步推動網(wǎng)絡(luò)安全產(chǎn)業(yè)的技術(shù)創(chuàng)新與發(fā)展。值得一提的是,《行動計(jì)劃》明確細(xì)化諸多標(biāo)準(zhǔn)國際化相關(guān)的任務(wù)目標(biāo),這不僅彰顯了我國在全球信息化領(lǐng)域中的責(zé)任與擔(dān)當(dāng),也為國內(nèi)企業(yè)“走出去”提供了新的發(fā)展機(jī)遇。通過積極參與國際標(biāo)準(zhǔn)的制定,國內(nèi)網(wǎng)絡(luò)安全行業(yè)勢必將加速與國際接軌,進(jìn)一步提升在全球市場中的影響力。
啟明星辰集團(tuán)首席戰(zhàn)略官、中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)安全專委會常務(wù)委員潘柱廷:重視物聯(lián)網(wǎng)安全與隱私促進(jìn)相關(guān)產(chǎn)業(yè)可持續(xù)發(fā)展
1.家庭物聯(lián)網(wǎng)設(shè)備普遍需要采集大量的用戶隱私數(shù)據(jù),網(wǎng)絡(luò)安全問題一直是用戶關(guān)注的焦點(diǎn)。該標(biāo)準(zhǔn)的實(shí)施有利于促進(jìn)產(chǎn)業(yè)界相關(guān)企業(yè)在安全技術(shù)方面的投入,有效降低家庭物聯(lián)網(wǎng)系統(tǒng)中的安全風(fēng)險,增強(qiáng)用戶對智能家居設(shè)備的信任度,提高用戶對家庭物聯(lián)網(wǎng)的接受度和使用意愿。
2.家庭物聯(lián)網(wǎng)近年來在全球發(fā)展迅速,智能家居等相關(guān)產(chǎn)業(yè)全球市場空間超千億美元,該標(biāo)準(zhǔn)的發(fā)布為家庭物聯(lián)網(wǎng)設(shè)備制造商、服務(wù)提供商等提供了明確的安全和隱私保護(hù)指南,有助于規(guī)范市場秩序,提升產(chǎn)品安全性,促進(jìn)相關(guān)產(chǎn)業(yè)在全球的健康、可持續(xù)發(fā)展。
3.該標(biāo)準(zhǔn)的成功發(fā)布標(biāo)志著我國在國際網(wǎng)絡(luò)安全標(biāo)準(zhǔn)制定領(lǐng)域取得了重要突破,顯著提升了我國在國際標(biāo)準(zhǔn)化組織中的影響力和話語權(quán),也表明我國在網(wǎng)絡(luò)安全領(lǐng)域的技術(shù)實(shí)力和實(shí)踐經(jīng)驗(yàn)獲得了國際認(rèn)可,促進(jìn)了我國在國際網(wǎng)絡(luò)安全技術(shù)領(lǐng)域的交流與共享,有力推動全球網(wǎng)絡(luò)安全治理和國際標(biāo)準(zhǔn)體系的完善。
360集團(tuán)創(chuàng)始人、中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)安全專委會副主任周鴻祎:加強(qiáng)行業(yè)互信,應(yīng)對安全風(fēng)險,促進(jìn)AI行業(yè)規(guī)范健康發(fā)展
人工智能技術(shù)作為一把“雙刃劍”,在帶來先進(jìn)工作生活方式,提升社會生產(chǎn)力的同時,也帶來包括幻覺、深度偽造、注入攻擊、數(shù)據(jù)污染、數(shù)據(jù)泄露等前所未有的安全新挑戰(zhàn)。而伴隨著人工智能大模型在經(jīng)濟(jì)社會中應(yīng)用日漸廣泛,一旦出現(xiàn)安全問題,可能對個人、社會甚至國家安全形成重大隱患。啟動人工智能安全守護(hù)計(jì)劃是應(yīng)對這些風(fēng)險的必要措施。
AI系統(tǒng)情報共享機(jī)制的建立,可讓各參與方及時獲取最新的安全威脅信息,從而提前做好防護(hù)措施,有效降低人工智能系統(tǒng)遭受攻擊的風(fēng)險,提高系統(tǒng)整體安全性;建立AIGC真實(shí)性和可信賴來源互認(rèn)機(jī)制,有助于在當(dāng)前AIGC內(nèi)容大量涌現(xiàn)的情況下,識別利用AI“深度偽造”生成的虛假信息或惡意內(nèi)容,防范通過AI換臉、變聲技術(shù)實(shí)施詐騙等行為,對于防止虛假信息傳播、保護(hù)用戶信息和財產(chǎn)安全具有重要意義。推動設(shè)立人工智能相關(guān)保險產(chǎn)品,有利于完善產(chǎn)業(yè)風(fēng)險分擔(dān)機(jī)制,降低安全事件對社會的負(fù)面影響
人工智能安全守護(hù)計(jì)劃的啟動,可為AI技術(shù)的研發(fā)和應(yīng)用提供指導(dǎo),提高AIGC產(chǎn)品的可信度,提升國內(nèi)相關(guān)技術(shù)服務(wù)提供方、使用方的安全防護(hù)能力,促進(jìn)其在醫(yī)療、交通、金融等關(guān)鍵領(lǐng)域的深度應(yīng)用,為AI產(chǎn)業(yè)長期穩(wěn)定發(fā)展提供保障。同時,增加政府機(jī)構(gòu)、企業(yè)及普通用戶對AI技術(shù)的信任和支持,提升中國AI產(chǎn)業(yè)在國際上的整體形象,增強(qiáng)國際合作吸引力,促進(jìn)相關(guān)行業(yè)的規(guī)范、健康發(fā)展。
綠盟科技集團(tuán)股份有限公司黨委書記、董事長兼總裁、中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)安全專委會常務(wù)委員胡忠華:完善數(shù)據(jù)安全保護(hù)制度滿足數(shù)據(jù)要素發(fā)展現(xiàn)實(shí)需求
近年來,《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》(以下簡稱《條例》)的立法進(jìn)展無疑是網(wǎng)絡(luò)領(lǐng)域最受社會關(guān)注的大事之一。《條例》是銜接《數(shù)據(jù)安全法》和數(shù)據(jù)安全管理實(shí)踐的橋梁,其頒布實(shí)施,對于落實(shí)數(shù)據(jù)安全法各項(xiàng)要求、鞏固和提升我國數(shù)據(jù)安全保護(hù)成效具有重大意義。
《條例》對于數(shù)據(jù)安全保護(hù)制度的完善和發(fā)展可以概括為以下三個方面。
一是對數(shù)據(jù)安全重要機(jī)制的進(jìn)一步明確、細(xì)化和完善。如:在國家數(shù)據(jù)安全工作的統(tǒng)籌管理方面,明確了“國家數(shù)據(jù)安全工作協(xié)調(diào)機(jī)制”并細(xì)化了相關(guān)職責(zé)范圍;再如,進(jìn)一步細(xì)化了對數(shù)據(jù)分級分類管理機(jī)制的各項(xiàng)重要具體要求等。
二是對網(wǎng)絡(luò)數(shù)據(jù)安全管理制度進(jìn)行了大力度創(chuàng)新。適應(yīng)深化改革開發(fā)、促進(jìn)數(shù)字經(jīng)濟(jì)、數(shù)據(jù)要素發(fā)展等重大戰(zhàn)略和現(xiàn)實(shí)需求,《條例》提出了與之緊密契合的數(shù)據(jù)管理制度創(chuàng)新,突出體現(xiàn)為提出了數(shù)據(jù)出境安全專項(xiàng)工作機(jī)制、網(wǎng)絡(luò)數(shù)據(jù)損害賠償責(zé)任保險機(jī)制、個人信息保護(hù)社會責(zé)任報告機(jī)制等新機(jī)制、新制度。
三是強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)安全管理與其他重要體系、制度之間的銜接和協(xié)同。《條例》對征求意見稿原有的數(shù)據(jù)交易管理制度、數(shù)據(jù)安全審計(jì)制度等進(jìn)行了較大調(diào)整和吸收歸并,恰是對個人信息保護(hù)合規(guī)審計(jì)、數(shù)據(jù)要素流通管理等重要機(jī)制做出的銜接協(xié)同。
公安部第三研究所副所長、中國計(jì)算機(jī)學(xué)會計(jì)算機(jī)安全專委會常務(wù)委員金波:加大打擊整治網(wǎng)絡(luò)謠言力度構(gòu)建健康有序的網(wǎng)絡(luò)空間
近年來,隨著互聯(lián)網(wǎng)技術(shù)與產(chǎn)業(yè)的迅速發(fā)展,在“流量經(jīng)濟(jì)”驅(qū)動下,網(wǎng)絡(luò)謠言呈現(xiàn)出內(nèi)容廣泛化、傳播高效化、更新頻繁化和影響范圍擴(kuò)大化的特點(diǎn),其社會危害性顯著提升。與此同時,網(wǎng)絡(luò)水軍活動日益猖獗,通過有組織地利用虛假信息操控輿論,嚴(yán)重侵蝕了網(wǎng)絡(luò)信息的真實(shí)性,阻礙了公共輿論的健康發(fā)展。這種現(xiàn)象不僅對企業(yè)和個人造成經(jīng)濟(jì)損失,還對社會誠信體系構(gòu)成了嚴(yán)重威脅。
對此,打擊網(wǎng)絡(luò)謠言、維護(hù)網(wǎng)絡(luò)安全與秩序已成為當(dāng)前亟須解決的重大課題。2024年,公安部將打擊網(wǎng)絡(luò)謠言違法犯罪活動納入“凈網(wǎng)”專項(xiàng)行動的重要內(nèi)容,并啟動了“百日打謠”專項(xiàng)行動。通過一系列嚴(yán)厲舉措,網(wǎng)絡(luò)謠言的違法犯罪活動得到有效遏制。公安機(jī)關(guān)不僅針對直接參與違法行為的人員開展了精準(zhǔn)打擊,還通過深入調(diào)查追蹤幕后操控者,力求從源頭治理網(wǎng)絡(luò)水軍的滋生和蔓延。此外,公安機(jī)關(guān)積極加強(qiáng)普法宣傳工作,公開曝光典型案例2000余起,發(fā)布宣傳文章2萬余篇,全面提升公眾的網(wǎng)絡(luò)素養(yǎng)和法律意識。截至2024年上半年,全國公安機(jī)關(guān)共偵辦網(wǎng)絡(luò)謠言相關(guān)案件3500余起,對800余名涉案人員依法采取刑事強(qiáng)制措施,并對3400余人實(shí)施行政處罰。2024年公安部的專項(xiàng)治理工作,不僅在短期內(nèi)取得了顯著成效,更為構(gòu)建健康有序的網(wǎng)絡(luò)空間積累了寶貴經(jīng)驗(yàn),為長遠(yuǎn)的網(wǎng)絡(luò)治理實(shí)踐提供了清晰路徑。