日韩国产欧美成人一区二区影院_99热这里只有精品久久6_国产女人91精品嗷嗷嗷嗷_日韩在线观看网址_国产亚洲第一精品_美国黄色片一区二区三区_精品国产高清a毛片_69av在线视频

深度對話|車企上云,如何構(gòu)筑云上安全防線?

2022-02-25 14:33:46 作者:suzhou01

  隨著智能網(wǎng)聯(lián)化、數(shù)字化發(fā)展,汽車數(shù)據(jù)安全和網(wǎng)絡(luò)風(fēng)險防范成為行業(yè)密切關(guān)注的難題。

  汽車傳統(tǒng)的物理邊界被打破,出現(xiàn)了大量的云上服務(wù),比如車聯(lián)網(wǎng)、自動駕駛技術(shù)、OTA等等,相應(yīng)的,汽車產(chǎn)生的數(shù)據(jù)也越來越多。相關(guān)數(shù)據(jù)顯示,一輛智能網(wǎng)聯(lián)汽車每天大概會產(chǎn)生 10TB 的數(shù)據(jù),這些數(shù)據(jù)包含駕駛?cè)藛T的出行軌跡、駕乘習(xí)慣、車內(nèi)語音圖像等個人信息,也包含車輛實時收集到的地圖數(shù)據(jù)等。

  隨著《個人信息保護(hù)法》、《汽車數(shù)據(jù)安全管理若干規(guī)定(試行)》的頒布實施,對數(shù)據(jù)的合規(guī)分類收集和使用提出了更為嚴(yán)格的要求。同時,也有汽車品牌近來遭受到網(wǎng)絡(luò)黑客攻擊,造成不小的損失和安全風(fēng)險。如何平衡數(shù)據(jù)使用的合規(guī)與高效,并在全面上云的背景下構(gòu)筑扎實的安全防線,成為整個行業(yè)密切關(guān)注的話題和迫切需要解決的難題。

  此此背景下,騰訊智慧出行與汽車之心聯(lián)合策劃了「行者有云」系列沙龍第二期——《車企上云,如何構(gòu)筑云上安全防線》,聚焦汽車數(shù)據(jù)的合規(guī)使用和安全防范問題,加速車企構(gòu)建在數(shù)據(jù)網(wǎng)絡(luò)安全領(lǐng)域的競爭力。

  本期沙龍邀請到上海帆一尚行科技有限公司網(wǎng)絡(luò)安全總監(jiān)、上汽騰訊網(wǎng)絡(luò)安全聯(lián)合實驗室負(fù)責(zé)人陳寧,騰訊安全策略發(fā)展中心總經(jīng)理呂一平,共同探討車企數(shù)據(jù)安全防護(hù)建設(shè)和未來趨勢發(fā)展并發(fā)表了獨到精辟的見解。

  以下為沙龍對話實錄:

  主持人:大家好!歡迎收看“行者有云”系列沙龍,本期我們討論的話題是“車企數(shù)據(jù)上云,如何構(gòu)筑云上安全防線”,我們將圍繞數(shù)據(jù)安全和風(fēng)險防御問題討論。車企在系列新規(guī)背景下,將采用怎樣的新手段、新模式來保證數(shù)據(jù)的合理開發(fā)利用,并有效防范潛在風(fēng)險。非常有幸我們請到了兩位嘉賓和我們一起分享討論。一位是上海帆一尚行科技有限公司網(wǎng)絡(luò)安全總監(jiān)、上汽騰訊網(wǎng)絡(luò)安全實驗室聯(lián)合負(fù)責(zé)人陳寧;另一位是騰訊安全策略發(fā)展中心總經(jīng)理呂一平。

  在智能化網(wǎng)聯(lián)化大變革下,一輛汽車在使用過程中產(chǎn)生的數(shù)據(jù)越來越多,隨著《個人信息保護(hù)法》和《汽車數(shù)據(jù)安全管理若干規(guī)定(試行)》頒布實施,企業(yè)在使用處理數(shù)據(jù)的時候,要遵守哪些行為準(zhǔn)則?

  陳寧:在《個網(wǎng)法》講得比較細(xì)致針對《個人信息保護(hù)法》有8類處理原則,大概總結(jié):

  第一,對于用戶個人信息數(shù)據(jù)的授權(quán),信息處理,告訴用戶要收集個人信息,個人隱私數(shù)據(jù)要進(jìn)行處理。

  第二,處理過程中要注意處理流程,要保護(hù)和保密。

  第三,數(shù)據(jù)收集,要符合相關(guān)的規(guī)定。對于汽車來說,有《汽車數(shù)據(jù)安全管理若干規(guī)定(試行)》,定得比較明確,這和《個網(wǎng)法》有相互呼應(yīng)的關(guān)系,上面有《數(shù)據(jù)安全法》,以此為由展開。

  呂一平:還有一點,去年下半年國家集中出臺了比如《個人隱私信息保護(hù)》,及《數(shù)據(jù)安全法》等法律法規(guī)。同時面向汽車行業(yè),汽車行業(yè)本身屬于關(guān)鍵信息基礎(chǔ)設(shè)施行業(yè),針對“關(guān)基”(關(guān)鍵信息基礎(chǔ))行業(yè)也有一些相應(yīng)的針對基礎(chǔ)安全和數(shù)據(jù)安全的要求。所以,這也是需要汽車行業(yè)各位同仁需要考慮的問題。

  主持人:如果針對整個汽車數(shù)據(jù)來說,我們有什么樣的分類界定?

  陳寧:現(xiàn)在最關(guān)鍵的第一步是,汽車數(shù)據(jù)不可避免要收集。汽車聯(lián)網(wǎng)以后,很多服務(wù)云化后,為了對汽車的一些服務(wù)以及汽車這狀態(tài)甚至說自動駕駛,這天然需要搜集很多數(shù)據(jù),所以說數(shù)據(jù)搜集是不可避免的?,F(xiàn)在我們覺得對于汽車數(shù)據(jù)搜集,首先真正的明確怎樣服務(wù)搜集數(shù)據(jù),如果說要做自動駕駛相關(guān)的,那么最少應(yīng)該搜集什么樣的數(shù)據(jù),盡可能的還是少搜。不要說不做分類,不做區(qū)分一概搜集上來后面處理,這是不合法不合情的,這是第一個按照服務(wù)的細(xì)分來分。第二,數(shù)據(jù)的共享和流動,這也是很重要的因素,現(xiàn)在很多服務(wù)在云上之后,不僅是主機(jī)廠要收集數(shù)據(jù),很多合作伙伴,比如車上應(yīng)用需要第三方的數(shù)據(jù),我們要把數(shù)據(jù)給他,數(shù)據(jù)在流通的過程中以什么樣的合法合規(guī)方式流通,以及我如何對它授權(quán),如何對它約束,這要處理好。

  最后,敏感數(shù)據(jù)的收集,現(xiàn)在汽車廠有大量的傳感器、攝像頭,對于用戶的面部輪廓,關(guān)鍵設(shè)施和關(guān)鍵單位的識別、存儲,是否要做相關(guān)的模糊化處理或透明處理,這也比較關(guān)鍵。

  呂一平:我主要做補(bǔ)充,從汽車行業(yè)數(shù)據(jù)來講,不僅要保護(hù)數(shù)據(jù),要脫敏,盡量按照服務(wù)手續(xù)收集數(shù)據(jù)?;诤艽蟮那疤崾?,收集數(shù)據(jù)時要進(jìn)行分類分型,針對不同的類型利用手段去保護(hù)數(shù)據(jù)。汽車行業(yè)有幾大數(shù)據(jù)比較重要:

  1、汽車研發(fā)過程中的車輛狀態(tài),這些數(shù)據(jù)傳統(tǒng)一直做收集,這方面更多是車企自用,甚至從數(shù)據(jù)保護(hù)角度來講是比較容易實現(xiàn)的,因為汽車公司內(nèi)部流轉(zhuǎn)數(shù)據(jù)。

  2、和用戶相關(guān)的隱私數(shù)據(jù),國家有明確的法律法規(guī)要做到保護(hù)和保密。針對不同的使用場景我們應(yīng)該如何給到數(shù)據(jù),需要通過分類分級的方法做明確的界定,并有對應(yīng)的使用要求和規(guī)則。

  3、從技術(shù)進(jìn)入到其他行業(yè)帶來新的需求,比如傳感器受地理位置數(shù)據(jù),高清地圖數(shù)據(jù),這是相當(dāng)敏感的數(shù)據(jù)領(lǐng)域,這會涉及到國家安全部分,車企需要非常關(guān)注這類問題。去年國家重點關(guān)注了一家海外車企這方面的問題,所以這也值得汽車行業(yè)重點關(guān)注的信息。

  主持人:隨著一系列的新規(guī)的出臺,從車企角度來講,在主動防范上有哪些變化?

  陳寧:有很多,結(jié)合各方數(shù)據(jù)安全規(guī)定,首先,按照上位法《網(wǎng)安法》來講車企相關(guān)車輛應(yīng)用服務(wù),肯定要通過等保測評。第二,通過等保,配套相關(guān)的網(wǎng)絡(luò)安全或者數(shù)據(jù)安全,配套的防范措施和防范的管理體系建立起來。第三,提出明確要求,用戶上車默認(rèn)情況不收集數(shù)據(jù)。如果要收集數(shù)據(jù)要告訴用戶,清晰地告訴用戶要收集一些數(shù)據(jù),且收集哪些數(shù)據(jù)。第四,在收集數(shù)據(jù)狀態(tài)中讓用戶知道我們正在收集你的數(shù)據(jù),用戶有地方說不希望收集數(shù)據(jù),屏蔽它。第五,盡量在車?yán)飳⒚舾械臄?shù)據(jù)輪廓化和清晰化去掉,模糊化。盡量不要通過數(shù)據(jù)清楚地定義出一個人,這樣方便處理。

  再往后,數(shù)據(jù)共享方面,該企業(yè)一開始只做業(yè)合作,后面可能有一些約束,同時很重要的是按照《數(shù)據(jù)安全法》和汽車相關(guān)規(guī)定,每年12月25日左右要上報數(shù)據(jù)安全報告。中國汽車品牌開始向海外發(fā)展,根據(jù)規(guī)定要求要對相關(guān)的監(jiān)管部門進(jìn)行報備,并且在企業(yè)數(shù)據(jù)安全方面寫清楚,今年發(fā)生過幾次數(shù)據(jù)向境外輸出,以及經(jīng)過相關(guān)評審,這些情況要說清楚。企業(yè)不僅僅是義務(wù)合規(guī),還要滿足國家戰(zhàn)略需要。

  主持人:在上述規(guī)定的使用數(shù)據(jù)和國家安全的前提下,數(shù)據(jù)如何反哺研發(fā),開發(fā)相應(yīng)的車聯(lián)網(wǎng)服務(wù)?

  陳寧:這挑戰(zhàn)很大。

  主持人:要實現(xiàn)兩者的平衡?

  陳寧:對,基于我服務(wù)的內(nèi)容收集相關(guān)數(shù)據(jù),這是做到平衡的關(guān)鍵。如果只是判斷車的自動駕駛,只收一些和路況相關(guān)的信息,就不要收多余的信息,盡量精簡收集內(nèi)容,比如只是采集一些路邊的圖象,車內(nèi)的信息就不要收?,F(xiàn)在有汽車保險,主要是根據(jù)用戶的駕駛習(xí)慣收集車輛數(shù)據(jù),收集一般駕駛者的駕駛習(xí)慣就不要收集個人信息,這樣才能合法合情,又能反哺到業(yè)務(wù)。

  第二,做分析時,流通方面盡量做到應(yīng)用和數(shù)據(jù)分開,舉個典型的例子,現(xiàn)在自動駕駛數(shù)據(jù)的安全屋,可能確實采集了很多數(shù)據(jù),經(jīng)過合理處理之后放在數(shù)據(jù)模型箱里,我們做的事情是將計算模型放進(jìn)去,用數(shù)據(jù)計算完之后最后拿出來是模型計算結(jié)果或者是模型存儲的算法,而不是數(shù)據(jù)本身,這不合理。在模型足夠成熟之后,這些數(shù)據(jù)可能銷毀掉或者撤掉,這可以比較好達(dá)成平衡。這需要付出很多努力。

  呂一平:我們在去年國家出臺一系列數(shù)據(jù)安全相關(guān)規(guī)定時我們非常關(guān)注,因為互聯(lián)網(wǎng)有大量數(shù)據(jù),很多互聯(lián)網(wǎng)業(yè)務(wù)都在線上。我們自己在推進(jìn)數(shù)據(jù)安全保護(hù)方面做了很完整的展開,從產(chǎn)品的設(shè)計上,比如數(shù)據(jù)收集的最小化,包括用戶知情角度,數(shù)據(jù)使用需要用戶充分知悉并且充分授權(quán),然后才能進(jìn)行相應(yīng)使用。

  另外,應(yīng)用和數(shù)據(jù)相應(yīng)分離,騰訊在《數(shù)據(jù)安全法》出臺前兩三年已經(jīng)做這方面的工作。特別是在不應(yīng)該使用不合理數(shù)據(jù)提供下如何規(guī)避掉,我們在內(nèi)部進(jìn)行了工作。騰訊可以給汽車行業(yè)做一些交流和傳遞的工作,幫助行業(yè)更好地理解如何做數(shù)據(jù)安全建立。

  主持人:對于外資或者合資車企來說,《個人信息保護(hù)法》和《汽車數(shù)據(jù)安全管理若干規(guī)定(試行)》相關(guān)規(guī)定對他們的影響是否更大?

  陳寧:相對會大一點,但大體上差不多。首先是對于敏感信息的定義,對外資企業(yè)來說風(fēng)險一樣。另外,用戶的存儲、流動也是一樣。對于外企挑戰(zhàn)最大的是數(shù)據(jù)不能出境,最大變化是跨境的問題。由于《個人信息保護(hù)法》和數(shù)據(jù)安全定義上,外資也要跟隨國家相關(guān)規(guī)定,可能要對自己做出規(guī)范。但大方向比較好,主要是促進(jìn)問題。

  主持人:騰訊和外資車企在這些領(lǐng)域是否有一些合作?

  呂一平:其實外資車企面臨,在中國市場如何滿足國家合規(guī)性要求和規(guī)定,現(xiàn)在有一些海外業(yè)務(wù)在推進(jìn)。不管歐洲還是美國地區(qū),相應(yīng)的個人信息隱私保護(hù)和合規(guī),及數(shù)據(jù)使用的要求可能都有相應(yīng)的要求。所以在歐洲和美國,中國企業(yè)屬于外資,其實大家遇到的挑戰(zhàn)一樣。對于車企來講,不管是合資還是外資品牌,都要考慮如何滿足本地的個人隱私保護(hù)和數(shù)據(jù)安全合規(guī)使用的要求,這其實是基本需要做到的工作。

  從騰訊角度來講,騰訊在汽車行業(yè)定位一直是數(shù)字化助手的角色。我們不僅和合資和外資的車企,和上汽也在數(shù)據(jù)安全方面有很多交流,我們一起研究如何將數(shù)據(jù)安全保護(hù)的工作做好。相對來講,這個領(lǐng)域比較新,比如網(wǎng)絡(luò)安全、基礎(chǔ)的安全建設(shè)方面,中國已經(jīng)經(jīng)歷了幾十年的發(fā)展和建設(shè),但數(shù)據(jù)安全對大家來說是一個新課題。隨著車企聯(lián)網(wǎng)和相應(yīng)技術(shù)不斷落地的情況下,數(shù)據(jù)量會非常大,而且數(shù)據(jù)的集中度也不一定這么高。如何將數(shù)據(jù)安全保護(hù)工作做好是很有挑戰(zhàn)的課題。先要從汽車數(shù)據(jù)的分類分級開始,以此作為基礎(chǔ)再去延伸,根據(jù)不同級別和類別的數(shù)據(jù)進(jìn)行相應(yīng)保護(hù)措施,對應(yīng)有技術(shù)的部分。

  陳寧:關(guān)鍵是立法,以前沒有明確上位法,2016年有上位法出來之后,車企必須要符合法律。

  主持人:除了數(shù)據(jù)合規(guī)收集和處理,也不能忽略的是汽車智能度越高,面臨潛在被攻擊的風(fēng)險也越來越高,我們也出現(xiàn)過車子被攻擊的案例。這樣的場景在汽車中,是真的能實現(xiàn)的嗎?在車聯(lián)網(wǎng)中真的會有這樣的風(fēng)險嗎?

  陳寧:汽車傳統(tǒng)的物理邊界被打破了,大量的云上服務(wù),大家可以用手機(jī)跟車進(jìn)行互動。汽車擁抱了數(shù)字化,但擁抱了數(shù)字化的福利和變革也擁抱了數(shù)字化的風(fēng)險,最典型的是云上服務(wù),比如遠(yuǎn)程車控、OTA等等,被不法分子利用之后,遠(yuǎn)程的車輛造成一些群體性的影響。另外,手機(jī)APP,手機(jī)上有藍(lán)牙,APP設(shè)計或者接口不嚴(yán)謹(jǐn),可能出現(xiàn)批量控制用戶APP,可以隨意開走任何一輛車。另外車聯(lián)網(wǎng)在車上暴露大屏、智能駕駛艙等等,這些是數(shù)字化東西,數(shù)字化的東西多少有軟件的問題會被人利用。1月份德國的小孩才19歲,利用了特斯拉的第三方的軟件的漏洞同時控制不同國家的車輛。數(shù)字化是大量的軟件大量的應(yīng)用,人設(shè)計的東西總有一些問題。

  主持人:呂總,之前設(shè)計的科恩實驗室破解了特斯拉寶馬,反響很大,為什么做這樣的實驗?

  呂一平:我們不是定義成“黑客”,我們定義為“白帽”,我們希望能改善各類產(chǎn)品和網(wǎng)絡(luò)的安全性,為之努力的一群專業(yè)技術(shù)研究團(tuán)隊。當(dāng)時為什么關(guān)注特斯拉和寶馬?我們在2016年看到了比較大的趨勢,汽車行業(yè)“四化”,對我們來講比較關(guān)心是網(wǎng)聯(lián)化和智能化,汽車聯(lián)網(wǎng)了,汽車的自動駕駛的能力,這和數(shù)字化結(jié)合程度非常高,當(dāng)享受數(shù)字化福利的時候,肯定會面臨新技術(shù)引入帶來的風(fēng)險。

  汽車行業(yè)本身對安全非常關(guān)注的行業(yè),那個安全叫“safety”,當(dāng)時汽車行業(yè)更多關(guān)注safety的部分,對security部分理解不那么強(qiáng)。Security能對safety造成的影響理解不是很充分,當(dāng)時我們選了兩個比較有代表性的車企,一是原生數(shù)字化,即網(wǎng)聯(lián)、智能化、新能源化的特斯拉。另外是傳統(tǒng)的從互聯(lián)網(wǎng)非智能化到智能化的標(biāo)桿,寶馬在全球保有量非常高,我們做了相應(yīng)的研究。的確發(fā)現(xiàn)了網(wǎng)絡(luò)安全問題,不僅對虛擬世界造成影響,對實際的行駛安全、人身安全,放大一點是公共安全。作為一個負(fù)責(zé)任的團(tuán)隊,我們發(fā)現(xiàn)問題之后第一時間和特斯拉和寶馬做了相應(yīng)的溝通,并且在沒有第三方參與情況下,全部將數(shù)據(jù)暴露給他們,他們修復(fù)之后一起聯(lián)合對外做發(fā)聲的工作,做發(fā)聲的工作目的是幫助行業(yè)更好地理解,在未來數(shù)字化的時代安全有重要的影響,也是讓它回歸到汽車行業(yè)對security的關(guān)注。

  主持人:現(xiàn)階段網(wǎng)絡(luò)安全技術(shù)處于什么樣的水平?

  呂一平:中國網(wǎng)絡(luò)安全技術(shù)能力非常出色,我們可以代表國際領(lǐng)先水平。對汽車行業(yè)來講,汽車進(jìn)入到數(shù)字化時代才開始逐步關(guān)注網(wǎng)絡(luò)安全部分,所以起步相對晚一些。但我們看到很明顯的趨勢,即國內(nèi)的各大OEM都在積極地布局網(wǎng)絡(luò)安全的專業(yè)能力和專業(yè)團(tuán)隊的建設(shè),比如陳寧博士帶領(lǐng)的上汽實驗室,4年前成立起來有專職的安全的人員,也有專項的安全能力的建設(shè),逐步形成了上汽進(jìn)入比較相對安全網(wǎng)絡(luò)體系,這是比較好的例子。國內(nèi)其他OEM廠商也在實踐同樣的工作,專業(yè)團(tuán)隊和專業(yè)能力建設(shè)在不斷地前進(jìn)。

  主持人:在已經(jīng)有潛在風(fēng)險存在的前提下,車企可以做哪些方案防御外部的攻擊,尤其是來自惡意的攻擊。

  陳寧:我現(xiàn)在在上汽帆一尚行,現(xiàn)在的防御從云管邊端一層層防下來,傳統(tǒng)云驅(qū)動安全內(nèi)容全部適用,不管從邊界的應(yīng)用防火墻、APS到里面的防護(hù),再到探視感知,我們對車輛相關(guān)的服務(wù)做保護(hù)。通道方面,主要是從云端到車端的通訊鏈路用加密方法進(jìn)行加密,確保我們鏈路不會被截斷或者被中間人截取掉。同時對車之間相關(guān)傳輸?shù)男畔⒆黾用?,保證安全性和唯一性。

  車上現(xiàn)在dirty端和clean端,前者是指暴露在外面,可以觸手可及的大屏,這些最明顯。在它投產(chǎn)之前不管做技術(shù)還是流程,設(shè)計方面從風(fēng)險評估、安全設(shè)置、投產(chǎn)運營,對于產(chǎn)品的零件或者整車做一系列的測試研發(fā),然后交付。交付之后有相關(guān)的防御措施,比如網(wǎng)關(guān)或者IDPS等等,通過它將車輛相關(guān)的模塊或者相關(guān)的服務(wù)隔開,確保車輛在行使過程中,關(guān)鍵通信和關(guān)鍵指令不會被人惡意篡改。

  主持人:具體什么情況會用到安全網(wǎng)關(guān),對車企研發(fā)來講是否剛需?

  陳寧:隨著智能網(wǎng)聯(lián)化和電動化之后,網(wǎng)關(guān)已經(jīng)是標(biāo)準(zhǔn)選配,相當(dāng)于是一道防火墻,阻擋了相關(guān)請求?,F(xiàn)在很難說硬件和軟件哪一項技術(shù)更重要,隨著零件集成度高了之后,對硬件芯片依賴層次更高,芯片越好,表示應(yīng)用軟件的復(fù)雜度或者功能會越好。當(dāng)然,從網(wǎng)關(guān)模塊的必要性來看不排除現(xiàn)在也有把網(wǎng)關(guān)做到相當(dāng)重要的零部件,保證零件模塊之間也有防火墻,這是所謂預(yù)控的思路。

  主持人:隨著我們對數(shù)據(jù)合規(guī)、安全要求越來越高,對車企來說是否意味著要更多投入?

  陳寧:肯定要增加投入,因為國家立法,現(xiàn)在不是講人情,而是講法,肯定要增加投入。

  呂一平:對,從我的角度來看,汽車行業(yè)是對安全關(guān)注度非常高的行業(yè)。在過去二三十年里,車企在功能安全方面和研發(fā)的投入和體系建設(shè)非常完備,功能安全成為了汽車質(zhì)量管理體系很重要的關(guān)注點。隨著這兩年數(shù)字化帶來網(wǎng)絡(luò)安全風(fēng)險和挑戰(zhàn),這方面還是需要加強(qiáng)和加大投入。我個人希望網(wǎng)絡(luò)安全逐步進(jìn)入到汽車質(zhì)量管理體系,成為它的一部分。在網(wǎng)絡(luò)安全方面的投入更加成為研發(fā)投入的必要。

  陳寧:這種投入可能并不是額外的投入。

  呂一平:沒錯。

  陳寧:就像security和safety,security引發(fā)了safety的問題,所以這些投入不是憑空多出來的投入,而是為了保證車輛質(zhì)量投入必要的研發(fā)資金,從行業(yè)發(fā)展來說,這方面的投入必不可少。

  主持人:剛剛兩位嘉賓的分享我們也意識到數(shù)據(jù)安全的重要性,從意識到重要性,到車企打造完善的網(wǎng)絡(luò)安全體系我們大概要經(jīng)歷一個什么樣過程?

  陳寧:這個過程很漫長,需要時間積累。對大部分汽車企業(yè)來說數(shù)字化是相對新的東西,就我前面提到,數(shù)字化有很多新的東西,也有很多風(fēng)險,需要消化。具體到車上,汽車廠特別關(guān)注數(shù)據(jù)安全,但是我覺得數(shù)據(jù)安全只是大的安全里的一個內(nèi)容,想做好數(shù)據(jù)安全要打好很多所謂的低階工作,比如云上安全、技術(shù)架構(gòu)安全,很多相關(guān)的網(wǎng)絡(luò)安全建設(shè)先跟上去,比如云上的邊界防護(hù)、安全的監(jiān)測、網(wǎng)絡(luò)安全的漏洞或者網(wǎng)絡(luò)安全響應(yīng)的能力,這些都需要時間打磨。技術(shù)完全落地,這其實和汽車的有些概念不太完全一樣,因為對汽車來說,比如汽車某一個功能可能做不好的情況下?lián)Q一個零件,或者買一個方案測試下可以用。但網(wǎng)絡(luò)安全本身和汽車所謂的功能安全有一點點不一樣,它的邊界相對模糊,沒有絕對的安全,也沒有絕對的攻不破的堡壘,這注定了需要很多時間去打磨和完善?,F(xiàn)在汽車行業(yè)慢慢向網(wǎng)絡(luò)安全轉(zhuǎn),很多功能要求是為了safety服務(wù),但security也要慢慢理解safety的東西,對于主機(jī)廠來說,到底造成了什么樣的影響,對safety來說是比較抽象的東西,那么需要具體化,比如影響到車輛駕駛有很多safety,如果影響了數(shù)據(jù)安全,可能和safety沒有關(guān)系,而完全和security掛鉤,所以融合需要時間。同時在技術(shù)方面也需要時間去匹配,比如騰訊等互聯(lián)網(wǎng)企業(yè)、安全企業(yè)也需要時間更好地了解車輛技術(shù),車輛技術(shù)天生需要注重安全,有些內(nèi)容可以重合,比如個人隱私方面可以高度重合。

  除了技術(shù)因素之外很重要的是人的因素,中國現(xiàn)在網(wǎng)絡(luò)安全的每年高校輸送畢業(yè)生大概是十來萬,但去年缺口是非常大,人才缺口越來越大,涉及到汽車網(wǎng)絡(luò)安全的人才缺口更大。所以我們需要時間找到這樣的人,或者培養(yǎng)這樣的團(tuán)隊,讓他們適應(yīng)到環(huán)境中,貢獻(xiàn)自己,將更好的技術(shù)能力賦能上去。

  同時,以前汽車賣出去之后,使命基本上結(jié)束了,除非維修或者維保,不再關(guān)注車輛本身。但是,電動化和網(wǎng)絡(luò)化之后,車輛出去進(jìn)入到一個新階段,稱之為車輛運營階段。因為要關(guān)注車輛的自動駕駛的狀態(tài),關(guān)注用戶駕駛習(xí)慣或者用戶車輛的狀態(tài),這些數(shù)據(jù)和狀態(tài)都需要專業(yè)的人,實時地提供所謂的監(jiān)控或者服務(wù)或者異地響應(yīng),并不是買了一套工具,如果這么簡單的話找騰訊買一套工具擺在這里就萬事無憂了。但并不是如此,優(yōu)秀的工具需要優(yōu)秀的人才或者優(yōu)秀的團(tuán)隊使用,成熟的團(tuán)隊人力因素很重要。

  呂一平:剛才陳寧博士提到今天主要議題是如何做好數(shù)據(jù)安全底座,造堅固的城墻底座沒有做好的話,數(shù)據(jù)安全基本上是做不好的事情,的確需要周期。國家在出臺安全合規(guī)性要求越來越快,能給車企應(yīng)對的時間非常緊張。所以在這個情況下,怎么樣能快速地將能力建立起來很重要,但目前看到一個挑戰(zhàn)是,對汽車行業(yè)來講,在數(shù)字化投入部分,在網(wǎng)絡(luò)安全投入只有2%到3%左右,而對于金融行業(yè)經(jīng)歷了二十年的IT能力建設(shè),目前網(wǎng)絡(luò)安全投入大概8%到10%。所以,投入加大可以加速能力建設(shè)。所以,我們非常建議汽車行業(yè)投入,要考慮到時間窗口并不太長,這是一個很大的挑戰(zhàn)和風(fēng)險。

  第二,關(guān)于人才能力建設(shè)和人才梯隊建設(shè)來看,我們看到這點,每年國家能夠通過高校體制培養(yǎng)出來的人才和行業(yè)真正需求有很大的差距,而且當(dāng)出現(xiàn)嚴(yán)重失衡的情況下;人才有更大溢價能力,看到信息安全專業(yè)水平不斷地上來,這是供求關(guān)系失衡造成的問題。所以人才引入和培養(yǎng)是很大的過程,這是長周期的過程,但在市場上我們從外圍觀察,汽車行業(yè)傳統(tǒng)的新生代的體系是否可以支撐數(shù)字化時代下的需求。這是很大的挑戰(zhàn),也是車企需要思考的問題,如何快速成為數(shù)字化公司,在數(shù)字化體系下對人才引入的政策更加靈活,人才薪酬待遇更加靈活,汽車行業(yè)在數(shù)字化時代所需要的新型人才和新型能力,這和投入相關(guān),這個過程不會那么快。所以這需要汽車行業(yè)思考的重點。

  陳寧:逐步發(fā)展的速度不能滿足現(xiàn)在國家政策或者國家監(jiān)管的要求了,因為從2016年“網(wǎng)安法”(《網(wǎng)絡(luò)安全法》)發(fā)布之后,中間兩三年國家好像沒有做重大法律發(fā)布,這段時間是中國信息安全行業(yè)發(fā)展非常迅猛的時間。進(jìn)入到2020年之后尤其是GDPR法發(fā)布之后,中國網(wǎng)絡(luò)節(jié)奏快很多。對汽車行業(yè)來講,最典型是WP29汽車網(wǎng)絡(luò)節(jié)奏明顯加快了。國家也意識到,汽車行業(yè)的技術(shù)能力高速發(fā)展,如果沒有匹配相關(guān)的政策或者法規(guī)指導(dǎo)的話可能會失控,所以給予大家的時間并不太充裕,大家要抓緊時間做跨越式發(fā)展。上汽確實這么做,很多技術(shù)的東西,包括帆一尚行,都從集團(tuán)中獨立出來成立科技公司,可以更好地招引科技人才做相關(guān)的云計算、網(wǎng)絡(luò)安全、自動駕駛的技術(shù)研究或能力建設(shè),也是為了更好地服務(wù)到企業(yè)主業(yè),或者在行業(yè)中發(fā)出更多的能量,現(xiàn)在要抓緊時間了。

  呂一平:我們很高興看到國內(nèi)的汽車行業(yè)企業(yè)都在關(guān)注和落地這方面的動作,汽車行業(yè)快速發(fā)展過程中必須要面對的挑戰(zhàn),如何迅速地將能力轉(zhuǎn)換做好,能夠?qū)⑿聲r代的能力建設(shè)做好,這個過程中人才建設(shè)非常重要,特別是網(wǎng)絡(luò)安全人才需要什么都懂。如果做研發(fā)人才或者工程人才,專精開發(fā)的發(fā)言或者專精一套理論架構(gòu),這樣能完全可以工作。但對于網(wǎng)絡(luò)安全人才來看,比如系統(tǒng)要懂,應(yīng)用要懂,軟件要懂,開發(fā)研發(fā)技術(shù)要懂,數(shù)據(jù)也要懂,還要懂公共安全,都要做相應(yīng)的了解。所以網(wǎng)絡(luò)安全人才培養(yǎng)周期會比較長。

  陳寧:確實也需要這樣的時間,汽車研發(fā)來看,以前一個車子大概40個月左右,現(xiàn)在快的話20個月也可以出一輛車,是什么人可以支撐這么快的速度20個月左右研發(fā)出一款車,肯定是科技人才、數(shù)字化軟件人才,車的迭代速度這么快,未來可能更快,可能15個月到18個月可以出一輛車,車輛迭代速度快代表安全跟上的東西更多,必須要有匹配的能力去跟上,否則坑會越來越多,所以節(jié)奏很快,人才團(tuán)隊非常重要,工具可以通過金錢買到,但人及梯隊、know how必須通過時間沉淀。

  主持人:現(xiàn)在網(wǎng)絡(luò)安全被納入車企的質(zhì)量體系了嗎?

  陳寧:國家正在起草相關(guān)的規(guī)定。在歐洲已經(jīng)被納入了,WPR2511明確提到,車輛在歐盟銷售必須獲得VTI的認(rèn)證,網(wǎng)絡(luò)安全已經(jīng)成了車輛質(zhì)量安全認(rèn)證的一環(huán)。中國今年馬上也有相關(guān)質(zhì)量安全掛鉤的網(wǎng)絡(luò)安全的要求,在車輛做投產(chǎn)和發(fā)布之前也要過相關(guān)的認(rèn)證。

  呂一平:我們建議大家關(guān)注安全更多考慮大范疇,功能安全+網(wǎng)絡(luò)安全,這個安全是整體的。

  主持人:所以騰訊也是在幫助車企在這兩個安全方面做更多的融合?

  呂一平:對。剛才陳寧博士提了上汽案例實踐,騰訊一直將自己定義為汽車行業(yè)助手的角色,助力汽車行業(yè)在安全方面形成自身的能力。所以我們更多關(guān)注點在于如何配合汽車行業(yè)客戶和合作伙伴更好地建立自身的能力。所以主要是這幾個方面:

  第一,云上安全,大量互聯(lián)網(wǎng)服務(wù),面向汽車使用用戶,這方面很多是基于云的體系在構(gòu)建。騰訊云有大量的安全防護(hù)的方案和配置可以幫助汽車行業(yè)在云的服務(wù)端的部分,形成有效的安全防護(hù)能力。

  第二,您剛才提到實驗室在車端的研究方面有很多積累和方面,我們比較好地理解,在車端存在的security和safety的風(fēng)險,如何幫助車企建立能力更好地發(fā)現(xiàn)問題,延伸到滿足國家安全合規(guī)要求,我們能幫助車企做好,我們研發(fā)了和測試相關(guān)、合規(guī)相關(guān)的品牌和工具,助力到車企在這方面的能力建設(shè)。

  第三,隨著Z一代作為購買主力進(jìn)入到時代了,很多車企通過數(shù)字化營銷手段推動營銷?,F(xiàn)在汽車金融也發(fā)展起來,通過線上模式可以申請到車企貸款的部分?;谶@兩個場景,在數(shù)字化營銷場景下可能“黑產(chǎn)”會去薅羊毛,投入了很多營銷費用但沒有安全預(yù)期觸達(dá)到相應(yīng)體量的用戶,而被“黑產(chǎn)”薅羊毛,營銷效果不好。另外是騙保、騙貸的情況比較多。這種場景下,騰訊可以提供解決方案,保證你在營銷過程中可以很好地觸達(dá)用戶,大大降低“黑產(chǎn)”薅羊毛的機(jī)率,大幅度減少騙貸。

  第四,今天討論開始是數(shù)據(jù)安全,我認(rèn)為數(shù)據(jù)安全不管對騰訊來講,還是對汽車行業(yè)來做是比較新的領(lǐng)域,需要共同探討,特別是怎么樣能夠比較清楚地界定哪些數(shù)據(jù)非常重要,如何做好面向汽車行業(yè)的分類分級,在此基礎(chǔ)上發(fā)揮數(shù)據(jù)安全保護(hù)的方案。騰訊在其他行業(yè)有一些數(shù)據(jù)安全的方案,但是我覺得并不一定完全滿足需求,我們希望和汽車行業(yè)的合作方,特別和上汽合作努力將這方面做好,也助力其他車企做好這方面工作。

  主持人:具體到營銷場景中存在的“黑產(chǎn)”,我們能夠有一些防范措施幫助車企識別到惡意的行為?

  呂一平:是的。因為騰訊本身需要對“黑產(chǎn)”的場景做對抗,騰訊有大量的業(yè)務(wù),這是騰訊最大的積累。另外我們考慮如何將識別能力方面的積累助力到產(chǎn)業(yè)互聯(lián)網(wǎng)的發(fā)展過程中遇到類似問題。所以,方案不僅僅幫助汽車行業(yè),其實我們和數(shù)字化營銷、數(shù)字化金融相關(guān)的行業(yè),比如房地產(chǎn)、電動車行業(yè)、零售行業(yè),我們都在采用這樣的反“黑產(chǎn)”反騙貸的方案幫助客戶。

  主持人:有沒有反黑產(chǎn)的具體案例可以分享?比如以什么樣的場景下有可能產(chǎn)生了什么樣的“羊毛黨”或者惡意的行為,你們有具體的措施,剛才提到了理論上,具體案例包括車企的案例都可以。

  呂一平:以薅羊毛舉例,車企做數(shù)字化營銷過程中發(fā)放一些優(yōu)惠券,比如打折券,車企希望被真實有購買意向的用戶拿到,并促成成單,這是車企的訴求。但優(yōu)惠券和打折券大量被“黑產(chǎn)”薅去了,薅完之后他們再通過黑產(chǎn)鏈銷售出去,真正打折和優(yōu)惠的政策和服務(wù)并沒有惠及到真實的用戶,反而被“羊毛黨”薅了。

  主持人:騰訊和上汽成立了網(wǎng)絡(luò)安全實驗室,是否可以具體講講車企和互聯(lián)網(wǎng)在網(wǎng)絡(luò)安全方面是如何進(jìn)行互補(bǔ)合作的?

  陳寧:聯(lián)合實驗室的成立,上汽本身從2018年開始專注在汽車網(wǎng)絡(luò)安全方面,覺得要做這件事事,當(dāng)時騰訊和我們有一些合作。雙方各有所長,上汽對于汽車的理解,甚至有些汽車網(wǎng)絡(luò)安全的理念,我們更懂車,對于車輛網(wǎng)絡(luò)安全技術(shù)的運用和落地會更好一些。但騰訊作為中國優(yōu)秀的互聯(lián)網(wǎng)企業(yè),也有科恩這樣的優(yōu)秀的科研機(jī)構(gòu),他們對車輛有很好的know how,“不知攻焉知防”,科恩做的事很好地展現(xiàn)了他們對于汽車攻擊手段的理解及know how。

  上汽設(shè)計了相關(guān)防御措施之后,也需要建立自己的驗證和檢測體系。最大出發(fā)點是,雙方跨境融合,騰訊將優(yōu)質(zhì)的網(wǎng)絡(luò)安全的技術(shù)能力、檢測能力,甚至解決方案代入到我們生產(chǎn)力,我們將know how、落地場景和經(jīng)驗理念和他們進(jìn)行融合,最后形成強(qiáng)強(qiáng)組合,迸發(fā)出比較好的內(nèi)容出來,實現(xiàn)聯(lián)合合作的初衷。

  對于上汽來說,網(wǎng)絡(luò)安全也是很重要的部分,基于該原因,上汽決定和騰訊跨界合作,組織聯(lián)合實驗室在車聯(lián)網(wǎng)提升數(shù)字化方面做一些事情。

  主持人:現(xiàn)在聯(lián)合實驗室取得哪些進(jìn)展?

  呂一平:首先感謝上汽的領(lǐng)導(dǎo)信任騰訊,愿意給騰訊合作的機(jī)會,大家做一些網(wǎng)絡(luò)安全的事情,這是比較基礎(chǔ)的關(guān)鍵能力,是屬于上汽數(shù)字化五大中心中非常重要的能力,給了我們機(jī)會。

  具體落地方面我們也配合得非常默契。

  在汽車行業(yè)賦能的幾個大方面:

  第一,從云上安全方面,我們已經(jīng)有一些防護(hù)方案,還包括混合云,針對車企在互聯(lián)網(wǎng)服務(wù)上,不同場景底座的需求我們在疊加這方面的能力,對車后臺部分做有效的賦能。

  第二,在車端的防護(hù)方面,我們會參與一些車輛在車中智能座艙的設(shè)計和規(guī)劃工作,在設(shè)計和研發(fā)早期就能配合到一些安全方面的考慮,加入到產(chǎn)品中去。其次,在目前汽車行業(yè)研發(fā)周期比較長的情況下,驗證方面做好工作,是目前最有效最好的解決安全防護(hù)的階段。基于過去經(jīng)驗和能力的工具平臺,我們和陳寧博士聯(lián)合開發(fā)了這項工作,助力上汽在這方面的輸出。另外有一些垂直的領(lǐng)域,比如在貨運終端產(chǎn)品下我們有參與,未來也有相應(yīng)的解決方案。比如涉及到汽車產(chǎn)品,汽車智能化制造方面,還有數(shù)據(jù)安全,非常感謝上汽對我們的信任和支持。

  陳寧:也非常感謝騰訊。

  主持人:騰訊和上汽在打造網(wǎng)絡(luò)安全人才隊伍上有沒有可以分享的?

  呂一平:騰訊有一個比較好的人才培養(yǎng)體系,我們和國內(nèi)二十多所985和211高校有合作關(guān)系,國家提出要建一流的網(wǎng)絡(luò)安全學(xué)院,國內(nèi)有十幾所重點高校將網(wǎng)絡(luò)安全作為一級學(xué)科做教學(xué)體系建設(shè)和人才培養(yǎng)建設(shè)。我覺得要依托最大和最好的人才培養(yǎng)體系工作,所以我們和二十多家高校有比較緊密的合作關(guān)系,而且騰訊都在做面向高校的人才工作賽,在高校中比較流行,騰訊目前TCC做了四年,這十年過程中將比賽做到國內(nèi)一流水平,能夠吸引到五六十所高校來參與比賽。其中我們發(fā)現(xiàn)了很多人才,本身比賽需要的技術(shù)和網(wǎng)絡(luò)安全需要技術(shù)相關(guān)度非常高,通過這個過程也培養(yǎng)了一批人才,騰訊有比較重視的是校招和實習(xí)生的機(jī)制,我們很早可以鎖定一批比較看中的新生代的人才,每年都有一些新鮮血液進(jìn)入到騰訊體系中。我們是通過這樣的機(jī)制做網(wǎng)絡(luò)安全人才培養(yǎng)工作,另外還有一些實驗室,實驗室的負(fù)責(zé)人都是業(yè)界的頂級專家,我們主要是搭配,既有領(lǐng)軍人物不斷地指引方向和做體系,包括人才培養(yǎng)。同時又有不斷地新鮮血液進(jìn)入進(jìn)來,使團(tuán)隊越來越壯大和充實,在這樣的結(jié)合下形成了比較好的體系和能力。但是,這也花了時間,完全贊成陳寧博士所說,人才培養(yǎng)的確是長周期的工作。不僅要加大投入,還要做持續(xù)性投入,這點非常重要。

  主持人:除了人才要求特別高之外,汽車行業(yè)的網(wǎng)絡(luò)安全相比其他行業(yè)來說還有什么特殊性或者難點?

  陳寧:我覺得最大的挑戰(zhàn)是節(jié)奏上不一樣,以傳統(tǒng)網(wǎng)絡(luò)安全概念,當(dāng)我們發(fā)現(xiàn)網(wǎng)絡(luò)安全問題的時候,第一時間在問題現(xiàn)場處理,比如一臺服務(wù)器中毒了,可以登錄到服務(wù)器上判斷問題,但對于汽車來說,當(dāng)覺得它有問題的時候,無法遠(yuǎn)程隨意做訪問或者處理,甚至這是違法。需要把它召回來到維修店看看,傳統(tǒng)工程數(shù)據(jù)和所謂數(shù)字化的數(shù)據(jù)完全不一樣,汽車缺陷處理情況下,比如傳統(tǒng)的車輛出問題,從發(fā)現(xiàn)問題到?jīng)Q定是否召回可能會經(jīng)歷長達(dá)一年,或者在車輛保養(yǎng)期間在維修店里小批量地處理掉,這個時間比較長。但網(wǎng)絡(luò)安全問題是屬于來的快,時間窗口可能只有48個小時或者72個小時,如果沒有處理掉可能會遭到傷害。更糟的是,網(wǎng)絡(luò)安全變形也特別快,類似于新冠,時間更短,如果沒有匹配的網(wǎng)絡(luò)安全的應(yīng)對和響應(yīng)機(jī)制或者處理技術(shù)能力就很難應(yīng)對節(jié)奏變化。比如汽車在數(shù)字化和智能化道路上堅定地走下去,在網(wǎng)絡(luò)安全的響應(yīng)和速度要跟上,比如48個小時之內(nèi)可以做安全的補(bǔ)丁或者修復(fù),這是未來企業(yè)很大競爭力。企業(yè)在面對一些問題或者缺陷的時候,這種處理響應(yīng)能夠非???,如果還是按照召回的思路做,和現(xiàn)在主流的方向是相反的。

  呂一平:原來汽車工程體系和現(xiàn)在數(shù)字化工程體系節(jié)奏完全不一樣。這兩套體系目前在并行發(fā)展方向中,總體趨勢,汽車行業(yè)決心很大,一定要數(shù)字化,作為數(shù)字行業(yè)進(jìn)化的主方向。這兩套工程體系中,一邊希望高效地解決問題,一邊希望有一個流程來評估和處理問題。所以思維模式和解決問題的模式要不斷地做調(diào)整。

  另外,我再補(bǔ)充一個點,2016年我們建立車聯(lián)網(wǎng)也做了一些調(diào)研,如果車的安全和傳統(tǒng)網(wǎng)絡(luò)安全比較大的區(qū)別,主要是涉及的能力棧和傳統(tǒng)網(wǎng)絡(luò)安全更寬廣,要懂車聯(lián)網(wǎng)絡(luò)一部分,也要有硬件的分析能力和硬件的測試能力,比如做PC端應(yīng)用安全的時候關(guān)注到windows、IOS、安卓體系等。在PC和移動場景下操作性層面的標(biāo)準(zhǔn)化程度很高,OS標(biāo)準(zhǔn)化程度了之后應(yīng)用標(biāo)準(zhǔn)化程度也很高,比如瀏覽器和各類應(yīng)用。但在汽車場景下,不同車廠的技術(shù)路線不一樣,從系統(tǒng)來講,有不同的系統(tǒng),每個車廠技術(shù)路線體系不同,這需要對各類系統(tǒng)有深度理解。所以這比傳統(tǒng)網(wǎng)絡(luò)安全更加復(fù)雜一些,周期也更長。這的確有一個問題,當(dāng)時我們做車聯(lián)網(wǎng)的時候,我和其他行業(yè)做交流時提到一個概念叫“4C”,網(wǎng)絡(luò)安全要懂汽車,做汽車要懂網(wǎng)絡(luò)安全,大家要做溝通和相互了解。第二要跨界,跨領(lǐng)域,相互要深度地配合。第三要合作起來。第四要融合,這是最理想的狀態(tài),大家形成更好合力,所以加大持續(xù)投入是一個趨勢。

  主持人:非常感謝兩位嘉賓的分享,通過今天的討論我們對數(shù)據(jù)安全和整個在數(shù)據(jù)打造過程中的風(fēng)險防范有了一個新的了解和收獲。

  主持人:好的,感謝兩位嘉賓今天的分享,通過今天的討論我們對汽車領(lǐng)域的數(shù)據(jù)安全和風(fēng)險防御有了更深入的了解,謝謝大家收看本期的“行者有云”沙龍,我們下期再見!

  直播回放鏈接:https://gez.h5.xeknow.com/s/21Me7F

>>點擊查看今日優(yōu)惠<<

    本文導(dǎo)航
    熱門文章
    相關(guān)閱讀
    點擊加載更多
    ×
    亚洲一码二码三码区别大吗| 成人永久免费在线观看视频| 精品日产1卡2卡| 国产亚洲av嫩草精品影院| 亚洲国产精品成人综合色| 久久精品国产亚洲av香蕉五月| 亚洲精品中文字幕在线视频| 欧美 亚洲 国产 日韩一| 国产精品野战在线观看| 欧洲精品卡2卡3卡4卡5卡区| 国产区一区二久久| 91国产中文字幕| a级毛片在线看网站| 欧美日韩中文字幕国产精品一区二区三区| 国产欧美日韩一区二区三| 精品电影一区二区在线| 日本成人三级电影网站| 国产精品国产高清国产av| 一区二区三区国产精品乱码| 日本在线视频免费播放| 欧美性猛交╳xxx乱大交人| 欧美日韩中文字幕国产精品一区二区三区| 19禁男女啪啪无遮挡网站| 18禁国产床啪视频网站| 一a级毛片在线观看| 自线自在国产av| 999精品在线视频| 精品国产亚洲在线| 亚洲一区中文字幕在线| 免费在线观看日本一区| 国产高清videossex| 少妇的丰满在线观看| 国产精品美女特级片免费视频播放器 | 日韩大尺度精品在线看网址| 久久伊人香网站| 精品无人区乱码1区二区| 精华霜和精华液先用哪个| 亚洲精品在线美女| 在线观看免费视频日本深夜| 老熟妇乱子伦视频在线观看| 精品少妇一区二区三区视频日本电影| 精品福利观看| 人人妻人人看人人澡| 一级毛片高清免费大全| 黑人欧美特级aaaaaa片| 欧美成狂野欧美在线观看| 亚洲熟妇中文字幕五十中出| 中文字幕人成人乱码亚洲影| 波多野结衣av一区二区av| av中文乱码字幕在线| 好男人电影高清在线观看| 欧美又色又爽又黄视频| 日韩欧美国产一区二区入口| 大型黄色视频在线免费观看| 午夜福利高清视频| 久久精品人妻少妇| 日本免费一区二区三区高清不卡| 免费在线观看影片大全网站| 国产99白浆流出| 身体一侧抽搐| 一级黄色大片毛片| 欧美日韩瑟瑟在线播放| 亚洲va日本ⅴa欧美va伊人久久| www日本在线高清视频| 成人永久免费在线观看视频| 成人国产综合亚洲| 亚洲午夜精品一区,二区,三区| 亚洲va日本ⅴa欧美va伊人久久| 99国产精品一区二区三区| 亚洲av五月六月丁香网| 欧美日韩精品网址| 精品少妇一区二区三区视频日本电影| 在线观看舔阴道视频| 国产成人av激情在线播放| 精品久久久久久成人av| 国产精品永久免费网站| 午夜久久久久精精品| 精品久久久久久久久久免费视频| 午夜成年电影在线免费观看| 欧美大码av| 国产亚洲精品综合一区在线观看 | netflix在线观看网站| 看免费av毛片| 亚洲精品av麻豆狂野| 成人精品一区二区免费| 99国产精品99久久久久| 亚洲中文日韩欧美视频| 熟妇人妻久久中文字幕3abv| 亚洲最大成人中文| 变态另类成人亚洲欧美熟女| 国产午夜福利久久久久久| 日韩精品青青久久久久久| 18禁观看日本| 国产在线观看jvid| 精华霜和精华液先用哪个| 午夜免费观看网址| 19禁男女啪啪无遮挡网站| 国产一区二区三区在线臀色熟女| 国产伦人伦偷精品视频| 大型av网站在线播放| 视频在线观看一区二区三区| 久久久久国内视频| 视频在线观看一区二区三区| 久久久国产成人免费| 免费在线观看成人毛片| 亚洲免费av在线视频| www国产在线视频色| 在线播放国产精品三级| 亚洲欧美日韩高清在线视频| 亚洲国产欧美网| 日本熟妇午夜| 在线观看66精品国产| 黄色 视频免费看| 亚洲精品一区av在线观看| 精品国产美女av久久久久小说| 日本精品一区二区三区蜜桃| av在线天堂中文字幕| 男女之事视频高清在线观看| 久久精品91无色码中文字幕| 精品欧美国产一区二区三| 在线看三级毛片| 亚洲精品国产一区二区精华液| 日本在线视频免费播放| 丁香六月欧美| 欧美乱码精品一区二区三区| 国产精品国产高清国产av| 黄色 视频免费看| 在线视频色国产色| 啦啦啦免费观看视频1| 亚洲,欧美精品.| 成在线人永久免费视频| 51午夜福利影视在线观看| 欧美成狂野欧美在线观看| 精品一区二区三区四区五区乱码| 黄色视频,在线免费观看| 操出白浆在线播放| 免费人成视频x8x8入口观看| 男人舔女人的私密视频| 精品欧美国产一区二区三| 国产欧美日韩一区二区精品| 亚洲成a人片在线一区二区| 一进一出抽搐动态| 久久精品国产99精品国产亚洲性色| 最新美女视频免费是黄的| 一区二区三区国产精品乱码| 亚洲av成人一区二区三| 久久精品亚洲精品国产色婷小说| 欧美成人午夜精品| 一区二区三区高清视频在线| 亚洲国产精品sss在线观看| 在线永久观看黄色视频| 美女高潮到喷水免费观看| av视频在线观看入口| 久久九九热精品免费| 国产精品美女特级片免费视频播放器 | 国产成人一区二区三区免费视频网站| 91麻豆av在线| 日韩大尺度精品在线看网址| 757午夜福利合集在线观看| 亚洲成人久久性| 97人妻精品一区二区三区麻豆 | 嫩草影院精品99| 国产精品精品国产色婷婷| 欧美在线一区亚洲| 在线观看免费午夜福利视频| 国产精品久久电影中文字幕| 一区二区三区国产精品乱码| 欧美日韩精品网址| 午夜福利在线在线| 国产男靠女视频免费网站| 日韩 欧美 亚洲 中文字幕| 国产精品一区二区三区四区久久 | 欧美日韩一级在线毛片| 老司机福利观看| xxx96com| 免费在线观看视频国产中文字幕亚洲| 亚洲欧美精品综合一区二区三区| www.自偷自拍.com| 他把我摸到了高潮在线观看| 老汉色av国产亚洲站长工具| 国产亚洲精品久久久久5区| 国产精华一区二区三区| 国内精品久久久久久久电影| 国内久久婷婷六月综合欲色啪| 亚洲国产欧美网| 久久精品91蜜桃| 2021天堂中文幕一二区在线观 | 女人被狂操c到高潮| 国产又黄又爽又无遮挡在线| 黑人操中国人逼视频| 身体一侧抽搐| 97人妻精品一区二区三区麻豆 | 国产色视频综合| 午夜福利成人在线免费观看| 亚洲av片天天在线观看| 老汉色∧v一级毛片| 亚洲精品久久成人aⅴ小说| 黄色视频不卡| 99久久无色码亚洲精品果冻| xxxwww97欧美| 99精品在免费线老司机午夜| 亚洲av五月六月丁香网| 午夜影院日韩av| 在线免费观看的www视频| 一个人观看的视频www高清免费观看 | 麻豆国产av国片精品| 久久伊人香网站| 不卡av一区二区三区| 老司机靠b影院| 在线永久观看黄色视频| 日日干狠狠操夜夜爽| 可以在线观看的亚洲视频| 国产高清videossex| 欧美日韩瑟瑟在线播放| 黄色 视频免费看| 91在线观看av| 国产亚洲精品久久久久5区| 久久久久九九精品影院| 欧美一级毛片孕妇| 一级毛片高清免费大全| 少妇粗大呻吟视频| 黄色女人牲交| 亚洲欧美一区二区三区黑人| 日韩一卡2卡3卡4卡2021年| 久久热在线av| 曰老女人黄片| 丁香欧美五月| 国产精品精品国产色婷婷| 91国产中文字幕| 一卡2卡三卡四卡精品乱码亚洲| 好看av亚洲va欧美ⅴa在| 久久久久久人人人人人| 香蕉av资源在线| 中亚洲国语对白在线视频| 亚洲第一欧美日韩一区二区三区| 国产精品野战在线观看| 身体一侧抽搐| 美女高潮喷水抽搐中文字幕| 亚洲av电影在线进入| 18禁黄网站禁片午夜丰满| 黄片播放在线免费| 亚洲专区国产一区二区| 在线观看一区二区三区| 日韩欧美免费精品| 一本一本综合久久| 精品一区二区三区av网在线观看| 国产亚洲av高清不卡| 日韩 欧美 亚洲 中文字幕| 性色av乱码一区二区三区2| 国产精品久久久久久人妻精品电影| 无人区码免费观看不卡| 黄色a级毛片大全视频| 亚洲欧美精品综合一区二区三区| 日韩成人在线观看一区二区三区| 90打野战视频偷拍视频| 亚洲人成电影免费在线| 国产成人av激情在线播放| 国产视频一区二区在线看| 国产精品久久久久久精品电影 | av片东京热男人的天堂| 亚洲av片天天在线观看| 999精品在线视频| 长腿黑丝高跟| 一级片免费观看大全| 色综合欧美亚洲国产小说| 欧美乱码精品一区二区三区| 波多野结衣高清无吗| 欧美性猛交黑人性爽| bbb黄色大片| 国产激情偷乱视频一区二区| 精品国产超薄肉色丝袜足j| 免费在线观看完整版高清| 国产精品久久久久久人妻精品电影| 欧美一级毛片孕妇| 香蕉久久夜色| 女人高潮潮喷娇喘18禁视频| 成人亚洲精品一区在线观看| 久99久视频精品免费| 精品国内亚洲2022精品成人| 欧美成人午夜精品| 男女做爰动态图高潮gif福利片| a级毛片在线看网站| 成人18禁在线播放| 少妇 在线观看| 精品国产美女av久久久久小说| a级毛片在线看网站| 久久伊人香网站| 两性午夜刺激爽爽歪歪视频在线观看 | 亚洲第一电影网av| 激情在线观看视频在线高清| 国产不卡一卡二| 国产高清有码在线观看视频 | 亚洲七黄色美女视频| 99久久综合精品五月天人人| www日本在线高清视频| 美女大奶头视频| 国产高清有码在线观看视频 | 久久久久国内视频| 级片在线观看| 国产aⅴ精品一区二区三区波| 欧美 亚洲 国产 日韩一| 最好的美女福利视频网| 久久人妻福利社区极品人妻图片| 成人国语在线视频| 国产精品乱码一区二三区的特点| 国产精品久久久av美女十八| 日日干狠狠操夜夜爽| 久久伊人香网站| 一边摸一边做爽爽视频免费| 亚洲久久久国产精品| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲精品av麻豆狂野| 午夜免费成人在线视频| 嫩草影院精品99| 免费看日本二区| 婷婷亚洲欧美| 欧美在线黄色| 免费搜索国产男女视频| 国内久久婷婷六月综合欲色啪| 国产视频一区二区在线看| 亚洲第一青青草原| 一本久久中文字幕| 免费在线观看日本一区| 老汉色∧v一级毛片| 国产成人系列免费观看| 亚洲精品美女久久av网站| 日韩高清综合在线| √禁漫天堂资源中文www| 亚洲午夜精品一区,二区,三区| 午夜福利欧美成人| 久久久久久久精品吃奶| 欧美中文日本在线观看视频| 欧美日本视频| 神马国产精品三级电影在线观看 | 欧美日本亚洲视频在线播放| 视频区欧美日本亚洲| 国产成人av教育| 黑人操中国人逼视频| 亚洲国产精品999在线| 大型av网站在线播放| 精品日产1卡2卡| 欧美 亚洲 国产 日韩一| 男女午夜视频在线观看| 精品乱码久久久久久99久播| 成在线人永久免费视频| 国内精品久久久久久久电影| 日日爽夜夜爽网站| 亚洲av五月六月丁香网| 动漫黄色视频在线观看| 国产成人系列免费观看| 久久中文看片网| 99riav亚洲国产免费| 中文字幕最新亚洲高清| 777久久人妻少妇嫩草av网站| 国产又爽黄色视频| 两个人视频免费观看高清| 国产成人欧美在线观看| 韩国av一区二区三区四区| 亚洲成人精品中文字幕电影| 最近最新中文字幕大全免费视频| 精品久久蜜臀av无| 超碰成人久久| 搡老岳熟女国产| 中国美女看黄片| 九色国产91popny在线| 亚洲电影在线观看av| 国产成年人精品一区二区| 国产精华一区二区三区| 亚洲精品av麻豆狂野| 精品少妇一区二区三区视频日本电影| 人人妻人人澡欧美一区二区| 18禁美女被吸乳视频| aaaaa片日本免费| 欧美性长视频在线观看| 草草在线视频免费看| 色精品久久人妻99蜜桃| 午夜久久久久精精品| 欧美成人午夜精品| 男女床上黄色一级片免费看| 青草久久国产| 啦啦啦观看免费观看视频高清| 日韩欧美 国产精品| 久久香蕉国产精品| 一本一本综合久久| 日日夜夜操网爽| 18禁观看日本| 欧美日韩中文字幕国产精品一区二区三区| 麻豆成人午夜福利视频| 人人妻人人看人人澡| 搡老岳熟女国产| 一级片免费观看大全| 欧美久久黑人一区二区| 色哟哟哟哟哟哟| 一个人免费在线观看的高清视频| 性欧美人与动物交配| 亚洲专区国产一区二区| 久久久水蜜桃国产精品网| 亚洲第一欧美日韩一区二区三区| 在线观看免费视频日本深夜| 午夜福利免费观看在线| 亚洲av电影不卡..在线观看| 亚洲 欧美 日韩 在线 免费| 精品久久久久久久毛片微露脸| 精品日产1卡2卡| 欧美三级亚洲精品| 国产一区二区激情短视频| 精品日产1卡2卡| 又紧又爽又黄一区二区| 在线天堂中文资源库| 久久草成人影院| 亚洲人成网站在线播放欧美日韩| 淫秽高清视频在线观看| 国内久久婷婷六月综合欲色啪| 999精品在线视频| 久久中文字幕人妻熟女| 亚洲男人的天堂狠狠| 老汉色∧v一级毛片| 亚洲七黄色美女视频| 欧美一级a爱片免费观看看 | 韩国精品一区二区三区| 日韩av在线大香蕉| 亚洲 欧美一区二区三区| 成人三级黄色视频| 男人的好看免费观看在线视频 | 欧美大码av| 久久久久亚洲av毛片大全| 国产精品久久视频播放| 亚洲av中文字字幕乱码综合 | 色播亚洲综合网| 50天的宝宝边吃奶边哭怎么回事| 国产成人精品久久二区二区91| 国产精品爽爽va在线观看网站 | 亚洲av成人一区二区三| 一区福利在线观看| 久99久视频精品免费| 亚洲最大成人中文| 亚洲成av片中文字幕在线观看| xxxwww97欧美| 亚洲国产高清在线一区二区三 | 免费在线观看成人毛片| 精品福利观看| 久久久精品欧美日韩精品| 国产成人av激情在线播放| 美女午夜性视频免费| 免费在线观看黄色视频的| 国产乱人伦免费视频| av在线天堂中文字幕| 日本一本二区三区精品| 神马国产精品三级电影在线观看 | a级毛片在线看网站| 国产亚洲精品av在线| 久久中文看片网| 可以免费在线观看a视频的电影网站| 色哟哟哟哟哟哟| av超薄肉色丝袜交足视频| 91九色精品人成在线观看| 国产精品二区激情视频| 亚洲人成伊人成综合网2020| 久久精品91蜜桃| 亚洲av第一区精品v没综合| 精品高清国产在线一区| 久久天堂一区二区三区四区| 最新在线观看一区二区三区| 欧美日韩黄片免| 欧美成人一区二区免费高清观看 | 制服丝袜大香蕉在线| 国产1区2区3区精品| 国产91精品成人一区二区三区| 女人被狂操c到高潮| 亚洲 欧美 日韩 在线 免费| 最近最新中文字幕大全免费视频| 亚洲人成网站高清观看| 在线观看66精品国产| 日韩视频一区二区在线观看| 黄色丝袜av网址大全| 美女大奶头视频| 无人区码免费观看不卡| 夜夜看夜夜爽夜夜摸| 狠狠狠狠99中文字幕| 色综合婷婷激情| 亚洲熟妇中文字幕五十中出| 欧美国产日韩亚洲一区| 99久久久亚洲精品蜜臀av| 男女视频在线观看网站免费 | 啦啦啦观看免费观看视频高清| 久久国产精品男人的天堂亚洲| 女警被强在线播放| 成人特级黄色片久久久久久久| 制服丝袜大香蕉在线| 看免费av毛片| 18禁国产床啪视频网站| 免费在线观看亚洲国产| 国产成人欧美| 久久久久国内视频| 国产精品乱码一区二三区的特点| 女生性感内裤真人,穿戴方法视频| 午夜成年电影在线免费观看| 久久久久亚洲av毛片大全| 精品欧美国产一区二区三| 亚洲精品一卡2卡三卡4卡5卡| 亚洲性夜色夜夜综合| 可以在线观看毛片的网站| 亚洲成人国产一区在线观看| 在线av久久热| 神马国产精品三级电影在线观看 | 这个男人来自地球电影免费观看| 女性被躁到高潮视频| av有码第一页| 久久青草综合色| 亚洲av美国av| 国产av一区在线观看免费| 一区福利在线观看| 少妇的丰满在线观看| 午夜福利在线在线| 18禁黄网站禁片午夜丰满| 中文亚洲av片在线观看爽| av视频在线观看入口| 国产伦在线观看视频一区| 午夜福利免费观看在线| 99精品在免费线老司机午夜| 99精品欧美一区二区三区四区| 黄色丝袜av网址大全| 男人舔女人下体高潮全视频| 亚洲免费av在线视频| 自线自在国产av| 国产精华一区二区三区| 白带黄色成豆腐渣| 亚洲av第一区精品v没综合| 国产免费男女视频| 嫩草影院精品99| 看黄色毛片网站| 久久久久久久午夜电影| 淫妇啪啪啪对白视频| 国产精品久久久久久精品电影 | 久久国产精品男人的天堂亚洲| 成人国语在线视频| av天堂在线播放| 亚洲欧美激情综合另类| 日韩精品青青久久久久久| 女警被强在线播放| www.自偷自拍.com| 非洲黑人性xxxx精品又粗又长| 一进一出抽搐gif免费好疼| 午夜福利视频1000在线观看| 国产亚洲av高清不卡| 久久精品成人免费网站| 在线观看66精品国产| 免费看十八禁软件| 老熟妇乱子伦视频在线观看| 99国产精品一区二区蜜桃av| 老司机深夜福利视频在线观看| 中文字幕另类日韩欧美亚洲嫩草| 91九色精品人成在线观看| 国产一区二区三区在线臀色熟女| 久久青草综合色| 亚洲精品美女久久久久99蜜臀| 亚洲欧美日韩高清在线视频| 亚洲精品色激情综合| 欧美最黄视频在线播放免费| 国产av不卡久久| 国产精品电影一区二区三区| 日韩三级视频一区二区三区| 成人欧美大片| www.999成人在线观看| 中文字幕最新亚洲高清| 久久精品国产清高在天天线| 天堂影院成人在线观看| 欧美黄色片欧美黄色片| 午夜免费鲁丝| 天堂√8在线中文| 黄片播放在线免费| 天堂√8在线中文| 亚洲av中文字字幕乱码综合 | 99精品在免费线老司机午夜| 黄色视频不卡| 在线国产一区二区在线| 亚洲狠狠婷婷综合久久图片| 91在线观看av| 国产亚洲精品久久久久5区| 老司机深夜福利视频在线观看| 日日干狠狠操夜夜爽| 成人国产综合亚洲| 亚洲av熟女| 老司机在亚洲福利影院| 亚洲国产欧美一区二区综合| 日本成人三级电影网站| 午夜免费激情av| 999久久久精品免费观看国产| 久9热在线精品视频| 国产爱豆传媒在线观看 | 国产日本99.免费观看| 久久人人精品亚洲av| 女人被狂操c到高潮| 男女之事视频高清在线观看| 成人亚洲精品av一区二区| 久久欧美精品欧美久久欧美| 欧美人与性动交α欧美精品济南到| 白带黄色成豆腐渣| 免费高清在线观看日韩| 亚洲国产精品久久男人天堂| 日本五十路高清| 青草久久国产| av电影中文网址| 亚洲国产欧洲综合997久久, | 国产高清视频在线播放一区| 欧美人与性动交α欧美精品济南到| 老熟妇仑乱视频hdxx| 午夜精品在线福利| 久久久久久人人人人人| 国产日本99.免费观看| 巨乳人妻的诱惑在线观看| 午夜久久久在线观看| 国产一卡二卡三卡精品| 久久久久精品国产欧美久久久| 深夜精品福利|