两个人的电影免费视频_国产精品久久久久久久久成人_97视频在线观看播放_久久这里只有精品777_亚洲熟女少妇二三区_4438x8成人网亚洲av_内谢国产内射夫妻免费视频_人妻精品久久久久中国字幕

用于生成隱私簡檔的方法和設備的制作方法

文檔序號:7774276閱讀:228來源:國知局
用于生成隱私簡檔的方法和設備的制作方法
【專利摘要】隱私處理系統(tǒng)可使用隱私規(guī)則來從網(wǎng)絡會話數(shù)據(jù)過濾敏感個人信息。隱私處理系統(tǒng)可生成隱私簡檔或隱私元數(shù)據(jù),其標識多久調(diào)用隱私規(guī)則、隱私規(guī)則多久成功完成行動、以及執(zhí)行隱私規(guī)則所需的處理時間。隱私簡檔可用于檢測隱私過濾處理中的可與各種隱私過濾和網(wǎng)絡會話問題相關聯(lián)的不規(guī)則性。
【專利說明】用于生成隱私簡檔的方法和設備
【技術領域】
[0001]本發(fā)明涉及用于生成隱私簡檔的方法和設備。
【背景技術】
[0002]監(jiān)控和回放系統(tǒng)可以捕獲網(wǎng)絡會話數(shù)據(jù),諸如從網(wǎng)絡應用服務器發(fā)送到客戶端計算機的網(wǎng)頁、以及在客戶端計算機處輸入所述網(wǎng)頁的用戶接口事件。所捕獲的網(wǎng)絡會話數(shù)據(jù)可用于回放和分析在網(wǎng)絡會話期間的用戶經(jīng)歷。例如,所回放的網(wǎng)絡會話可用于識別用戶在網(wǎng)絡會話期間導覽網(wǎng)頁時可能有的問題。
[0003]在網(wǎng)絡會話期間,可能將敏感的個人信息輸入到網(wǎng)頁中。例如,網(wǎng)絡會話可能涉及產(chǎn)品和/或服務的在線購買。為了完成在線交易,用戶可能需要輸入社會保障號、密碼、信用卡號、銀行賬戶號、健康信息、股票信息、家庭住址等或其任何組合。
[0004]政府隱私規(guī)章可以禁止保持特定個人信息或限制授權的實體保持個人信息。這些隱私規(guī)章可能需要監(jiān)控和回放系統(tǒng),以在將所捕獲的網(wǎng)絡會話數(shù)據(jù)存儲在數(shù)據(jù)庫中用于隨后的回放分析之前,過濾敏感個人信息。
[0005]當前的監(jiān)控和回放系統(tǒng)試圖移除敏感個人信息。然而,可能沒有從所捕獲的網(wǎng)絡會話數(shù)據(jù)成功地過濾一些個人信息。例如,網(wǎng)絡應用可能改變之前用于觸發(fā)過濾敏感個人信息的隱私規(guī)則的網(wǎng)頁的名稱或網(wǎng)頁中字段的名稱。如果沒有過濾敏感個人信息,則可能需要毀滅所捕獲的網(wǎng)絡會話數(shù)據(jù)的一些或全部。

【發(fā)明內(nèi)容】

[0006]根據(jù)本發(fā)明一實施例,提供了一種方法,包括:通過處理裝置,生成與從網(wǎng)絡會話數(shù)據(jù)過濾信息相關聯(lián)的隱私度量;通過處理裝置,從隱私度量生成隱私簡檔;以及通過處理裝置,使用隱私簡檔以識別從網(wǎng)絡會話數(shù)據(jù)過濾信息的不規(guī)則性。
[0007]根據(jù)本發(fā)明另一實施例,提供了一種設備,包括:處理裝置,被配置為:對網(wǎng)絡會話數(shù)據(jù)應用隱私規(guī)則;識別應用到網(wǎng)絡會話數(shù)據(jù)的隱私規(guī)則的統(tǒng)計;以及使用所述統(tǒng)計來生成用于應用到網(wǎng)絡會話數(shù)據(jù)的隱私規(guī)則的隱私簡檔。
[0008]根據(jù)本發(fā)明另一實施例,提供了一種設備,包括:監(jiān)控系統(tǒng),被配置為在網(wǎng)絡會話期間捕獲網(wǎng)絡會話數(shù)據(jù);以及隱私處理系統(tǒng),被配置為:從網(wǎng)絡會話數(shù)據(jù)中至少過濾一些個人信息;生成與從網(wǎng)絡會話數(shù)據(jù)中過濾個人信息相關聯(lián)的隱私度量;以及從隱私度量生成隱私簡檔。
【專利附圖】

【附圖說明】
[0009]圖1示出了用于從所捕獲的網(wǎng)絡會話數(shù)據(jù)過濾信息的系統(tǒng)的示例。
[0010]圖2示出了隱私處理系統(tǒng)的示例。
[0011]圖3示出了通過隱私處理系統(tǒng)生成的隱私度量的示例。
[0012]圖4示出了用于將隱私度量與隱私簡檔進行比較的示例處理。[0013]圖5示出了用于生成隱私度量的示例處理。
[0014]圖6示出了用于生成隱私簡檔的示例處理。
[0015]圖7示出了用于檢測不規(guī)則的(irregular)隱私度量的處理的示例。
[0016]圖8A和SB示出了顯示隱私規(guī)則的平均執(zhí)行時間的示例曲線圖。
[0017]圖9A和9B示出了顯示隱私規(guī)則的成功完成百分比的示例曲線圖。
[0018]圖10A-C示出了表現(xiàn)正確和不正確隱私過濾的回放的網(wǎng)絡會話的示例。
[0019]圖11示出了用于實現(xiàn)隱私處理系統(tǒng)的示例計算裝置。
【具體實施方式】
[0020]圖1示出在網(wǎng)絡服務器102上運行的網(wǎng)絡應用104和計算裝置110之間進行的網(wǎng)絡會話100。網(wǎng)絡應用104可以支持任何類型的在線網(wǎng)絡會話,諸如在線購物、在線金融或醫(yī)療服務、社交網(wǎng)絡等。當然,這些僅是示例,并且可以使用網(wǎng)絡應用104執(zhí)行任何類型的基于電子網(wǎng)絡的交易或活動。
[0021]計算裝置110可包括個人計算機(PC)、膝上型計算機、無線個人數(shù)字助理(PDA)、蜂窩電話、智能電話、平板型計算機或任何其他訪問網(wǎng)絡應用104并與其交換信息的有線或無線裝置。任何數(shù)目的計算裝置110可在任何地理位置和一天中的任何時間與網(wǎng)絡應用104進行不同的網(wǎng)絡會話100。
[0022]計算裝置110可通過網(wǎng)絡連接108與網(wǎng)絡應用104通信。網(wǎng)絡連接108可包括因特網(wǎng)、無線網(wǎng)絡、WiFi網(wǎng)絡、電話網(wǎng)絡、公共服務電話網(wǎng)絡(PSTN)、蜂窩網(wǎng)絡、電纜網(wǎng)絡、廣域網(wǎng)(WAN)、局域網(wǎng)(LAN)等或其任何組合上的連接的任何組合。
[0023]在一個示例中,在計算裝置110上運行的網(wǎng)絡瀏覽器或網(wǎng)絡應用118可以經(jīng)由網(wǎng)絡連接108向網(wǎng)絡應用104發(fā)送超文本傳輸協(xié)議(HTTP)請求。網(wǎng)絡應用104可以響應于HTTP請求發(fā)送回一個或多個網(wǎng)頁106,并且計算裝置110可以在計算機屏幕116上經(jīng)由網(wǎng)絡瀏覽器或應用118顯示網(wǎng)頁。例如,網(wǎng)絡瀏覽器或移動應用118可以顯示包含分別用于輸入用戶姓名、密碼和社會保障號的字段114A-114C的電子網(wǎng)頁112。網(wǎng)絡應用104可以響應于輸入到字段114中的信息,將另外的網(wǎng)頁106和/或響應發(fā)送到計算裝置110。
[0024]網(wǎng)絡會話監(jiān)控器122可以在網(wǎng)絡會話100期間捕獲網(wǎng)絡會話數(shù)據(jù)124。網(wǎng)絡會話數(shù)據(jù)124可包括經(jīng)由網(wǎng)絡連接108在計算裝置110和網(wǎng)絡應用104之間傳送的網(wǎng)絡數(shù)據(jù)以及在計算裝置110上生成的用戶接口事件。例如,網(wǎng)絡會話數(shù)據(jù)124可包括從計算裝置110發(fā)送到網(wǎng)絡應用104的超文本傳輸協(xié)議(HTTP)請求和其他數(shù)據(jù)請求、以及從網(wǎng)絡應用104發(fā)送回計算裝置110的超文本標記語言(HTML)網(wǎng)頁106和其他響應。
[0025]一些網(wǎng)絡會話數(shù)據(jù)124可包括用戶輸入到計算裝置110中的用戶接口事件,諸如鼠標點擊、鍵擊、字母數(shù)字數(shù)據(jù)等或其任何組合。例如,一些用戶接口事件可包括輸入到網(wǎng)頁112的字段114中的數(shù)據(jù)或可包括對于網(wǎng)頁112上的圖標或鏈接的選擇。
[0026]其他網(wǎng)絡會話數(shù)據(jù)124可包括網(wǎng)絡應用104與網(wǎng)頁106 —起發(fā)送到計算裝置110的進一步確定網(wǎng)頁中的不同狀態(tài)或操作的網(wǎng)頁邏輯/代碼。一些網(wǎng)絡會話數(shù)據(jù)可以在處理裝置110本地生成,而從不經(jīng)由網(wǎng)絡連接108發(fā)送。例如,網(wǎng)頁112內(nèi)的控制邏輯可以響應于用戶輸入改變網(wǎng)頁112的狀態(tài),而不將任何數(shù)據(jù)發(fā)送回網(wǎng)絡應用104。在另一示例中,可以僅將網(wǎng)頁112中已完成信息的批量數(shù)據(jù)傳送經(jīng)由網(wǎng)絡連接108傳送回網(wǎng)絡應用104。[0027]在另一示例中,一些網(wǎng)絡會話數(shù)據(jù)124可以包括網(wǎng)頁內(nèi)的文檔對象模型(DOM)事件。例如,可通過Π事件監(jiān)控器122A捕獲所顯示的網(wǎng)頁106的DOM中的變化,作為一些網(wǎng)絡會話數(shù)據(jù)124。在另一示例中,網(wǎng)絡會話數(shù)據(jù)124可包括在計算裝置110和/或網(wǎng)絡服務器102中的運行參數(shù)或任何其他日志記錄的數(shù)據(jù)。例如,網(wǎng)絡會話數(shù)據(jù)124可包括網(wǎng)絡帶寬指示符、處理器帶寬指示符、網(wǎng)絡條件指示符、計算機運行條件等或其任何組合。
[0028]在一個示例中,網(wǎng)絡會話監(jiān)控器122B可以捕獲經(jīng)由網(wǎng)絡連接108在計算裝置110和網(wǎng)絡應用104之間交換的網(wǎng)絡數(shù)據(jù),諸如網(wǎng)頁、請求、響應和/或邏輯。用戶接口(UI)監(jiān)控器122A可以捕獲在計算裝置110本地生成的用戶接口事件。在另一示例中,Π監(jiān)控器122A還可捕獲經(jīng)由網(wǎng)絡連接108在計算裝置110和網(wǎng)絡應用104之間交換的網(wǎng)絡數(shù)據(jù)的一些或全部。
[0029]在另一示例中,Π事件監(jiān)控器122A和/或網(wǎng)絡會話監(jiān)控器122B可以不捕獲全部網(wǎng)絡會話數(shù)據(jù)124,并且可以僅檢測一些網(wǎng)絡會話事件的出現(xiàn)。在此示例中,監(jiān)控器122A和122B可以發(fā)送識別特定網(wǎng)絡會話事件的出現(xiàn)的唯一標識符,并且可以發(fā)送指示何時檢測到網(wǎng)絡會話事件的時間標記。
[0030]在以下文檔中描述了用于捕獲和/或識別(identify)網(wǎng)絡會話數(shù)據(jù)和事件的系統(tǒng)的不例:2001年9月4日公布的題為“Systems and Methods for Recordingand Visually Recreating Sessions in a Client-Server Environment,,的美國專利N0.6,286,030,現(xiàn)在重公布為美國專利如.1?41903;2012年2月28日公布的題為“Methodand Apparatus for Monitoring and Synchronizing User Interface Events withNetwork Data”的美國專利N0.8,127,000 ;以及2012年3月13日提交的題為“Method andApparatus for Intelligent Capture of Document Object Model Events,,的美國專利申請序列號13/419,179,其全部通過引用而全文合并于此。
[0031]在網(wǎng)絡會話100期間,用戶可以將用戶姓名輸入字段114A,將密碼輸入字段114B和/或?qū)⑸鐣U咸栞斎胱侄?1`4C。由于上述的安全需求,在所捕獲的網(wǎng)絡會話數(shù)據(jù)124可以存儲在數(shù)據(jù)庫136中之前,可能需要過濾密碼和/或社會保障號。
[0032]隱私處理系統(tǒng)130從所捕獲的網(wǎng)絡會話數(shù)據(jù)124中過濾敏感個人信息,諸如密碼和/或社會保障號。過濾指對網(wǎng)絡會話數(shù)據(jù)124中的數(shù)據(jù)進行移除、遮擋、替換、加密、散列等的任何組合。隱私處理系統(tǒng)130將經(jīng)過濾的網(wǎng)絡會話數(shù)據(jù)138存儲在網(wǎng)絡會話數(shù)據(jù)庫136中?;胤畔到y(tǒng)134然后可以使用所捕獲的并且現(xiàn)在經(jīng)過濾的網(wǎng)絡會話數(shù)據(jù)138以回放原始網(wǎng)絡會話100,而不用顯示敏感個人信息。在2012年2月28日公布的題為“METHOD ANDAPPARATUS FOR MONITORING AND SYNCHRONIZING USER INTERFACE EVENTS WITH NETWORKDATA”的美國專利N0.8,127,000 (其通過引用全文合并于此)中描述了回放系統(tǒng)134的一個示例。
[0033]隱私處理系統(tǒng)130可以對所捕獲的網(wǎng)絡會話數(shù)據(jù)124應用隱私規(guī)則以移除敏感個人信息??梢詫τ陔[私規(guī)則生成隱私簡檔或隱私元數(shù)據(jù)。例如,隱私簡檔可以識別多久調(diào)用隱私規(guī)則、隱私規(guī)則多久成功完成行動、以及執(zhí)行隱私規(guī)則需要的處理時間量。隱私簡檔可以檢測隱私過濾問題,諸如從網(wǎng)絡會話數(shù)據(jù)不過濾個人信息或過濾錯誤信息的隱私規(guī)貝U,或是否特定數(shù)據(jù)模式需要異常大的隱私資源,諸如時間或CPU使用。此外,隱私資源使用中的任何大的偏離可能指示對于網(wǎng)站或終端用戶行為的改變。[0034]過濾和/或加密所捕獲的網(wǎng)絡會話數(shù)據(jù)中的敏感個人信息可能是計算量大的。例如,特定網(wǎng)站每天可能服務幾億用戶和幾億相關聯(lián)的網(wǎng)絡會話。隱私簡檔可以識別錯誤寫入或無效并浪費處理帶寬的隱私規(guī)則??梢宰R別所識別的隱私規(guī)則,并重寫這樣的隱私規(guī)貝U,從而隱私規(guī)則可以更有效地從幾百萬的網(wǎng)絡會話中搜索和過濾個人信息。
[0035]隱私處理系統(tǒng)130可以檢測可能影響網(wǎng)絡會話100期間的用戶體驗的其他網(wǎng)絡會話事件或狀態(tài)。例如,隱私簡檔可識別不正確的用戶行為、病毒攻擊、源網(wǎng)絡應用的邏輯中的錯誤或間隙等。因此,隱私處理系統(tǒng)130不僅生成定量的隱私過濾度量,而且還可以識別網(wǎng)絡會話的其他通常的問題。
[0036]圖2更詳細地示出了隱私處理系統(tǒng)130的一個示例。隱私規(guī)則解析器148可以對從網(wǎng)絡會話100捕獲的網(wǎng)絡會話數(shù)據(jù)124應用隱私規(guī)則150??梢詫W(wǎng)絡會話100期間捕獲的不同網(wǎng)頁和不同數(shù)據(jù)應用不同規(guī)則150。例如,第一規(guī)則150A可以搜索所捕獲的網(wǎng)絡會話數(shù)據(jù)124中可包含社會保障號的特定網(wǎng)頁。第二規(guī)則150B可以搜索網(wǎng)絡會話數(shù)據(jù)124中若干不同網(wǎng)頁中的可包含信用卡號的不同字段。
[0037]規(guī)則150A和150B可以通過對諸如社會保障號或信用卡號的敏感個人信息進行替換、遮擋、散列、加密等而過濾網(wǎng)絡會話數(shù)據(jù)。經(jīng)過濾的網(wǎng)絡會話數(shù)據(jù)138存儲在數(shù)據(jù)庫136中,然后可由回放系統(tǒng)134用于隨后的回放和分析。
[0038]隱私建檔器(profiler) 152可以生成對于隱私規(guī)則150的隱私簡檔158。例如,隱私建檔器152可以跟蹤當過濾網(wǎng)絡會話數(shù)據(jù)124時調(diào)用每個規(guī)則150的次數(shù)、每個規(guī)則150成功過濾網(wǎng)絡會話數(shù)據(jù)124中的信息的次數(shù)、和/或在過濾網(wǎng)絡會話數(shù)據(jù)124時執(zhí)行規(guī)則150所需的時間量。
[0039]隱私建檔器152可通過對規(guī)則150的隱私度量進行合計而生成隱私簡檔158。例如,隱私建檔器152可計算最近五分鐘期間過濾網(wǎng)絡會話數(shù)據(jù)124時調(diào)用規(guī)則150A的平均次數(shù)。合計的隱私度量可以被用作典型或正常隱私過濾行為的基準線或“簡檔(profile)”。隱私簡檔閾值之外的安全度量可以指示隱私過濾問題或其他網(wǎng)絡會話問題。例如,可能存在對于每個捕獲的網(wǎng)絡會話調(diào)用特定隱私規(guī)則的平均次數(shù)的實質(zhì)性的改變。在另一示例中,可能存在成功完成隱私規(guī)則的執(zhí)行所需的時間量的實質(zhì)性的改變。
[0040]這些隱私度量的改變可能由網(wǎng)絡應用或網(wǎng)絡應用使用的網(wǎng)頁的改變而引起。如上所述,用戶可以將個人信息輸入到特定網(wǎng)頁內(nèi)的特定字段。當在所捕獲的網(wǎng)絡會話數(shù)據(jù)124中識別了特定網(wǎng)頁名稱或字段名稱時,隱私規(guī)則解析器148可以僅調(diào)用規(guī)則150A。如果運行網(wǎng)絡應用的企業(yè)改變了網(wǎng)頁名稱或字段名稱,則隱私規(guī)則解析器148可能不再調(diào)用規(guī)則150A來過濾重命名的網(wǎng)頁中的數(shù)據(jù)。因此,可能不再從網(wǎng)絡會話數(shù)據(jù)124中過濾輸入到重命名的網(wǎng)頁中的社會保障號,破壞了經(jīng)過濾的網(wǎng)絡會話數(shù)據(jù)138的整體隱私和安全。
[0041]在另一示例中,成功完成隱私規(guī)則150所需的時間量的改變也可指示隱私過濾問題。例如,網(wǎng)絡瀏覽器、網(wǎng)頁和/或網(wǎng)頁邏輯可改變或重新格式化輸入到網(wǎng)頁中的數(shù)據(jù)。經(jīng)改變或重新格式化的數(shù)據(jù)可能導致隱私規(guī)則解析器148對于不包含個人信息的網(wǎng)頁無意地調(diào)用隱私規(guī)則150,或可能導致規(guī)則150過濾錯誤數(shù)據(jù)。這些不正確或無意的過濾操作可能浪費處理帶寬和/或移除精確回放所捕獲的網(wǎng)絡會話所需的網(wǎng)絡會話數(shù)據(jù)。
[0042]在另一示例中,隱私度量的改變可指示異常網(wǎng)絡會話。例如,服務攻擊或其他僵尸網(wǎng)絡攻擊的拒絕可能實質(zhì)上改變調(diào)用特定規(guī)則150的次數(shù)或百分比或成功完成隱私規(guī)則所需的時間量。隱私簡檔158可以識別隱私度量改變并隔離隱私過濾或網(wǎng)絡會話問題。
[0043]隱私事件處理器154可以在計算裝置160上顯示用于隱私簡檔158的曲線圖162。例如,曲線圖162可以識別對于不同隱私規(guī)則的平均隱私度量值。曲線圖162中的任何實質(zhì)上的背離可指示隱私過濾問題和/或網(wǎng)絡會話問題。用戶可以指示隱私事件處理器154顯示不同維度的隱私簡檔,諸如對于特定隱私規(guī)則、隱私規(guī)則參數(shù)、網(wǎng)絡會話種類或網(wǎng)絡瀏覽器。例如,用戶可以指示隱私事件處理器154顯示與不同桌面網(wǎng)絡瀏覽器和移動應用相關聯(lián)的隱私度量。
[0044]計算裝置160可以使用回放系統(tǒng)134以進一步隔離隱私過濾不規(guī)則性。例如,用戶可以將大的隱私度量改變之前回放的經(jīng)過濾的網(wǎng)絡會話與大的隱私度量改變之后回放的網(wǎng)絡會話進行比較。然后可以通過在隱私規(guī)則解析器148中修改關聯(lián)的規(guī)則150來校正回放期間識別的任何過濾問題。
[0045]圖3更詳細示出了通過隱私規(guī)則解析器使用和生成的隱私規(guī)則150和隱私度量176的示例。第一規(guī)則150A可包括查找數(shù)字、文本、值、參數(shù)等的特定集合的測試172A。例如,測試172A可測試通過空格或橫杠與兩個數(shù)字的第二集合隔開的三個數(shù)字的第一集合。測試172A然后可查找通過第二空格或橫杠與兩個數(shù)字的第二集合隔開的四個數(shù)字的第三
口 O
[0046]在檢測到數(shù)字序列時,規(guī)則150A可觸發(fā)行動174A。在一個示例中,規(guī)則150A的行為174A可以用“X”替換檢測到的數(shù)字序列。其他行為的示例可包括僅用“X”替換所識別的序列中的一些數(shù)字,或使用散列算法來加密數(shù)字序列。在一個示例中,可以不解密加密的數(shù)字序列,而是仍用散列算法來確認數(shù)字與特定用戶的關聯(lián)。任何其他的行動可用于過濾信息。
[0047]可通過與隱私規(guī)則150A關聯(lián)的隱私規(guī)則解析器生成隱私度量176A的集合。例如,隱私度量176可包括識別調(diào)用規(guī)則150A的特定網(wǎng)絡會話的網(wǎng)絡會話標識符。網(wǎng)頁標識符可識別網(wǎng)絡會話數(shù)據(jù)中調(diào)用規(guī)則150A的特定網(wǎng)頁。字段標識符可識別所捕獲的網(wǎng)絡會話數(shù)據(jù)中的調(diào)用規(guī)則150A以用于過濾輸入字段中的數(shù)據(jù)的特定字段。
[0048]網(wǎng)絡瀏覽器標識符可識別在調(diào)用規(guī)則150A的關聯(lián)的網(wǎng)絡會話期間使用的特定網(wǎng)絡瀏覽器或應用。時間標記度量可識別產(chǎn)生所捕獲的網(wǎng)絡會話數(shù)據(jù)的網(wǎng)絡會話何時發(fā)生和/或可識別何時調(diào)用規(guī)則150A用于過濾所捕獲的網(wǎng)絡會話數(shù)據(jù)?!罢{(diào)用的#”度量可識別在過濾所捕獲的網(wǎng)絡會話數(shù)據(jù)時調(diào)用規(guī)則150A的次數(shù)、或調(diào)用規(guī)則150A用于單獨的網(wǎng)絡會話、網(wǎng)頁等的次數(shù)?!巴瓿尚袆拥?”度量可識別規(guī)則150成功完成關聯(lián)的過濾行動的次數(shù)。例如,行動的#可識別規(guī)則150A在行動174A中用X替代測試172A中的序列的次數(shù)。執(zhí)行時間度量可識別對于網(wǎng)絡會話、網(wǎng)頁等完成規(guī)則150A所需的處理時間量。
[0049]第二規(guī)則150B可包括測試172B,其還解析對于數(shù)字、文本、值、參數(shù)等的特定集合的網(wǎng)絡會話數(shù)據(jù)。在此示例中,測試172B可以測試與信用卡號相關聯(lián)的數(shù)字序列。數(shù)字序列可以是由空格或橫杠隔開的四個數(shù)字的四個集合。在一個示例中,測試172B的滿足可以啟動相關聯(lián)的行動174B,其用“X”替換所檢測到的十六個數(shù)字的序列的前十二個數(shù)字??蓪τ谝?guī)則150B生成隱私度量176B的另一相似集合。
[0050]規(guī)則150A和150B僅是可以應用到網(wǎng)絡會話數(shù)據(jù)的任何種類的測試和行動的示例。規(guī)則150可以應用到網(wǎng)絡會話數(shù)據(jù)的任何組合。例如,可以僅對于對用戶查詢諸如社會保障號的敏感個人信息的特定網(wǎng)頁調(diào)用規(guī)則150??梢哉{(diào)用其他規(guī)則150來過濾與其他網(wǎng)頁上捕獲的其他敏感數(shù)據(jù)相關聯(lián)的數(shù)據(jù)。
[0051]圖4示出了圖3中的隱私建檔器152從隱私度量生成的隱私簡檔158的示例。隱私簡檔158可識別與過濾網(wǎng)絡會話數(shù)據(jù)相關聯(lián)的不同統(tǒng)計維度。例如,第一隱私簡檔158A可識別在過濾網(wǎng)絡會話數(shù)據(jù)時調(diào)用隱私規(guī)則解析器中的任何規(guī)則的平均次數(shù)。可以對于諸如時間段、網(wǎng)絡會話、網(wǎng)頁、網(wǎng)絡瀏覽器和/或移動網(wǎng)絡應用的不同種類得到隱私簡檔158A。
[0052]隱私簡檔158B可識別規(guī)則的平均成功完成率,其指示隱私規(guī)則成功過濾信息的次數(shù)的平均百分比。隱私簡檔158C可識別所有規(guī)則對于網(wǎng)絡會話、網(wǎng)頁、瀏覽器等過濾網(wǎng)絡會話數(shù)據(jù)所需的平均時間量。
[0053]隱私簡檔158D可識別在過濾網(wǎng)絡會話數(shù)據(jù)時調(diào)用特定規(guī)則#1的平均次數(shù)。隱私簡檔158E可識別對于規(guī)則#1的成功完成率。隱私簡檔158可以與任何其他隱私規(guī)則和收集的隱私維度相關聯(lián)。
[0054]隱私建檔器可以對于合計時段生成合計的平均隱私度量180。例如,隱私建檔器可以合計調(diào)用不同規(guī)則的次數(shù),合計規(guī)則成功完成過濾行動的次數(shù)的百分比,并合計規(guī)則完成執(zhí)行所需的時間量??梢詫τ谝恍┛蛇x擇的時間段(如五分鐘)合計隱私度量,并且合計的值被平均以生成隱私度量180。
[0055]隱私事件處理器154可以將對于每個合計時間段的隱私度量180與隱私簡檔158進行比較。可以對于在隱私簡檔158的閾值范圍以外的任何隱私度量180生成隱私度量通知182。例如,隱私建檔器可以確定對于隱私簡檔158中的值的標準偏差。隱私事件處理器154可以對于在相關聯(lián)的隱私簡檔158的標準偏差以外的任何隱私度量180發(fā)送通知182或在日志文件中創(chuàng)建條目。
[0056]例如,規(guī)則#1可以在過去的五分鐘合計時段上的時間有成功完成100%。隱私簡檔158E中對于規(guī)則#1的平均成功完成率可以是80%,并且標準偏差可以是+/-4%。因此,隱私簡檔158E的閾值范圍可以在76%和84%之間。因為隱私度量180中對于規(guī)則#1的成功完成率在隱私簡檔158E的閾值范圍外,所以隱私事件處理器154可以生成通知182或在文件或表中生成條目,將對于規(guī)則#1的隱私度量180識別作為離群值(outlier)。
[0057]隱私事件處理器154還可以自動確定與不同隱私度量相關聯(lián)的網(wǎng)絡會話數(shù)據(jù)中的差別。例如,所捕獲的網(wǎng)絡會話數(shù)據(jù)可包括網(wǎng)頁的文檔對象模型(D0M)。隱私事件處理器154可以檢測在隱私簡檔閾值之外的隱私度量??梢詫⒕哂须[私簡檔閾值以內(nèi)的隱私度量的經(jīng)過濾的網(wǎng)頁的DOM與具有隱私簡檔閾值以外的隱私度量的經(jīng)過濾的網(wǎng)頁的DOM進行比較??梢宰R別DOM差并將其發(fā)送到操作者。例如,DOM差可識別具有可能防止規(guī)則#1正確觸發(fā)的經(jīng)改變的名稱的網(wǎng)頁。
[0058]圖5示出用于生成隱私度量的示例處理。在操作200中,對從網(wǎng)絡會話監(jiān)控系統(tǒng)接收的所捕獲的網(wǎng)絡會話數(shù)據(jù)應用隱私規(guī)則。如上所述,可以連續(xù)地、周期性地或隨機地監(jiān)控任何數(shù)目的網(wǎng)絡會話,并且將相關聯(lián)的網(wǎng)絡會話數(shù)據(jù)發(fā)送到隱私處理系統(tǒng)。
[0059]在操作202中識別在隱私過濾處理期間調(diào)用或觸發(fā)的隱私規(guī)則。例如,當在網(wǎng)絡會話數(shù)據(jù)中識別特定網(wǎng)頁時可以調(diào)用規(guī)則,并且當在所捕獲的網(wǎng)絡會話期間所述網(wǎng)頁從未被打開時可以不調(diào)用規(guī)則。在操作204中,對于隱私規(guī)則生成隱私度量。例如,每個網(wǎng)絡會話和網(wǎng)頁可以具有關聯(lián)的標識符。隱私規(guī)則解析器可以識別觸發(fā)規(guī)則的網(wǎng)絡會話和/或網(wǎng)頁。隱私規(guī)則解析器可以識別與規(guī)則相關聯(lián)的任何其他隱私度量,如時間或日期、何時觸發(fā)規(guī)則、觸發(fā)規(guī)則的客戶端側所使用的網(wǎng)絡瀏覽器的類型等。
[0060]在操作206中,隱私規(guī)則解析器可以確定規(guī)則是否成功完成。例如,可以無論何時識別特定網(wǎng)頁都觸發(fā)隱私規(guī)則。所觸發(fā)的規(guī)則然后可以執(zhí)行測試以識別網(wǎng)頁中滿足特定條件和/或匹配特定值、序列、位置等的任何數(shù)據(jù)。如果滿足測試,則規(guī)則執(zhí)行相關聯(lián)的行動。例如,所述行動可以是用X替換匹配的數(shù)字組合。匹配的數(shù)字組合的替換被識別為規(guī)則的成功完成。
[0061]在操作208中,可以識別完成隱私規(guī)則所需的時間量。例如,隱私規(guī)則可能需要對與一個或多個網(wǎng)頁相關聯(lián)的所有數(shù)據(jù)應用相關聯(lián)的測試。隱私規(guī)則解析器可以跟蹤解析一個或多個網(wǎng)頁所需的處理時間量??梢詫χT如時間段、網(wǎng)絡會話、網(wǎng)頁、網(wǎng)頁中的特定字段等的任何其他各種維度或種類跟蹤時間。在操作210中,將隱私度量發(fā)送到隱私建檔器。
[0062]圖6示出了用于生成隱私簡檔的示例處理。在操作230中,隱私建檔器從隱私規(guī)則解析器接收隱私度量。在操作232中,對于可選擇的時間段合計隱私度量。例如,隱私建檔器可以對合計時段期間觸發(fā)特定規(guī)則的總次數(shù)進行計數(shù)。合計時段可以是任何可選擇的時間段,如秒、分、小時、天等。可以對于不同維度觸發(fā)隱私度量,所述不同維度諸如對于所有隱私規(guī)則、單獨隱私規(guī)則、隱私規(guī)則調(diào)用、隱私規(guī)則完成、隱私規(guī)則執(zhí)行時間、網(wǎng)絡會話、網(wǎng)頁等。
[0063]操作234確定合計時段何時已經(jīng)結束。例如,合計時段可以是五分鐘,并且隱私建檔器可以對五分鐘的合計時段期間觸發(fā)每個隱私規(guī)則的次數(shù)進行計數(shù)。
[0064]在操作236中,可以對于特定隱私度量計算平均。例如,隱私建檔器可以計算對于每個網(wǎng)絡會話觸發(fā)隱私規(guī)則的平均次數(shù)、隱私規(guī)則的平均完成率以及隱私規(guī)則的平均執(zhí)行時間。操作238將合計的平均隱私度量作為隱私簡檔存儲在數(shù)據(jù)庫中。
[0065]圖7示出了自動識別隱私過濾處理中的不規(guī)則性或所捕獲的網(wǎng)絡會話中的不規(guī)則性的示例處理。在操作250中,隱私事件處理器可以從隱私建檔器接收新的隱私度量。例如,可以將新的隱私度量與通過隱私規(guī)則解析器過濾的最近五分鐘的隱私相關聯(lián)。
[0066]在操作252中,可以將新的隱私度量與之前生成的隱私簡檔進行比較。例如,如上所述,可以將在過去五分鐘對于特定隱私規(guī)則的平均執(zhí)行時間與在隱私建檔器中用規(guī)則識別的平均執(zhí)行時間進行比較。在操作256中,隱私事件處理器可以對于在操作254中超出隱私簡檔的閾值范圍的任何最近的隱私度量發(fā)送通知。例如,可以將電子郵件發(fā)送到系統(tǒng)管理員,或者可以對日志文件添加新條目,識別特定規(guī)則、相關聯(lián)的隱私度量、以及任何其他相關聯(lián)的網(wǎng)絡會話信息,如時間、網(wǎng)絡會話、網(wǎng)頁等。
[0067]在操作258中,可以將新的隱私度量添加到現(xiàn)有的隱私簡檔中。例如,隱私建檔器可以跟蹤整個幾天、幾周、幾月、幾年中規(guī)則的平均執(zhí)行時間。新的隱私度量可以識別隱私簡檔的下一時間段。在一個示例中,新的隱私度量還可以與隱私簡檔中其他累積和平均的隱私度量進行累積。例如,可以累積并平均最近一小時的所有隱私度量,以生成一天、一周、或一月長的隱私簡檔中的一個參考點。
[0068]圖8A和8B示出對于不同隱私規(guī)則顯示的隱私度量的示例。選擇框302可用于選擇用于在電子頁面300上顯示的不同隱私度量或隱私維度。選擇框302A可選擇用于在垂直的Y軸上顯示的參數(shù)或維度,并且選擇框302B可選擇用于沿水平的X軸顯示的參數(shù)或維度。
[0069]例如,選擇框302A可選擇垂直的Y軸以表示隱私處理系統(tǒng)完成對于所捕獲的網(wǎng)絡會話數(shù)據(jù)的不同隱私規(guī)則的執(zhí)行所需的平均執(zhí)行時間。選擇框302B可選擇水平的X軸以表示用于顯示諸如對于特定一天的平均執(zhí)行時間的特定時間段。圖8A示出Y軸上在0.0毫秒(ms)和5.0ms之間的平均執(zhí)行時間的范圍、以及X軸上在8:00am和3:00pm之間的時間范圍。當然,在X軸和Y軸上可以顯示其他隱私維度和時間范圍。
[0070]選擇框302C可選擇用于顯示相關聯(lián)的隱私度量的隱私規(guī)則。例如,選擇框302C可選擇用于顯示相關聯(lián)的平均執(zhí)行時間的所有規(guī)則#1、#2和#3。選擇框302D可選擇用于顯示相關聯(lián)的安全度量的網(wǎng)絡會話種類。例如,選擇框302D可選擇對于捕獲的網(wǎng)絡會話、捕獲的網(wǎng)絡會話內(nèi)所捕獲的網(wǎng)頁等要顯示的隱私度量。
[0071]基于選擇框302中的條目,隱私處理系統(tǒng)分別顯示表示對于規(guī)則#U#2和#3在特定一天的平均執(zhí)行時間的改變的三條線304、306和308。在此示例中,線304保持相對恒定在4.5ms左右,并且線306保持相對恒定在3.5ms左右。由于網(wǎng)絡會話期間不同用戶活動,在平均執(zhí)行時間中可以預期正規(guī)變分(normal variation )。例如,用戶可在網(wǎng)絡會話期間導覽不同網(wǎng)頁,并且可以或可以不在這些網(wǎng)絡會話期間完成交易。因此,對于不同的單獨的網(wǎng)絡會話可以捕獲不同種類和不同量的合計數(shù)據(jù),其可以或可以不觸發(fā)特定隱私規(guī)則的執(zhí)行的,并且可以改變執(zhí)行隱私規(guī)則所需的時間量。
[0072]線308示出在11:00am之后的某個時間對于規(guī)則#3的平均執(zhí)行時間的實質(zhì)改變。直到11:00am為止,平均執(zhí)行時間在2.5ms左右,并且在11:00am之后,平均執(zhí)行時間下降至IJ 1.0ms左右。平均執(zhí)行時間的改變可以指示規(guī)則#3的問題。例如,網(wǎng)絡應用可能已經(jīng)改變之前用于觸發(fā)規(guī)則#3的網(wǎng)頁名稱或字段名稱。結果,對于重命名的網(wǎng)頁可能不再調(diào)用規(guī)則#3,并且規(guī)則#3可能不再過濾重命名的網(wǎng)頁中的個人信息。
[0073]線308識別與規(guī)則#3相關聯(lián)的潛在過濾問題。管理員可以回放11:00am以后捕獲的一些網(wǎng)絡會話,以確定規(guī)則#3是否從所捕獲的網(wǎng)絡會話數(shù)據(jù)正確地過濾個人信息。例如,管理員可確定規(guī)則#3是否正從所回放的網(wǎng)絡會話數(shù)據(jù)中的特定網(wǎng)頁移除社會保障號。
[0074]圖SB示出隱私處理系統(tǒng)所顯示的隱私度量的另一示例。管理員可決定更詳細地調(diào)查對于規(guī)則#3平均執(zhí)行時間的改變。或者經(jīng)由選擇框302中的條目或者通過選擇線308,隱私處理系統(tǒng)可以顯示示出與網(wǎng)絡會話內(nèi)不同網(wǎng)頁相關聯(lián)的對于規(guī)則#3的其他隱私度量的柱狀圖。例如,管理員可以選擇選擇框302C中的規(guī)則#3,并且選擇選擇框302D中的網(wǎng)頁類別。
[0075]作為響應,隱私處理系統(tǒng)可以顯示各自與可能在所捕獲的網(wǎng)絡會話期間已經(jīng)顯示的不同網(wǎng)頁相關聯(lián)的不同柱狀圖320、322和324。例如,柱狀圖320可以與網(wǎng)絡會話中用戶登錄網(wǎng)絡賬戶的登陸頁面相關聯(lián),柱狀圖322可以與用戶輸入地址信息的賬戶網(wǎng)頁相關聯(lián),并且柱狀圖324可以與用戶完成購買產(chǎn)品或服務的交易的結賬頁面相關聯(lián)。
[0076]第一實線柱狀圖可表示在11:00am對于規(guī)則#3的平均執(zhí)行時間,并且第二虛線柱狀圖可表示在12:00pm對于規(guī)則#3的平均執(zhí)行時間。柱狀圖320示出對于登錄網(wǎng)頁隱私規(guī)則#3的平均執(zhí)行時間從11:00am和12: OOam沒有顯著變化,并且柱狀圖322示出對于賬戶網(wǎng)頁對于隱私規(guī)則#3的平均執(zhí)行時間從11:00am到12: OOpm沒有顯著變化。然而,柱狀圖324示出規(guī)則#3當應用到結賬網(wǎng)頁時的平均執(zhí)行時間從11:00am處的2.5ms左右顯著下降至Ij 12:00pm處的0.5ms左右。
[0077]管理員可以使用回放系統(tǒng)或可以使用其他搜索軟件,然后確定規(guī)則#3是否正確過濾結賬網(wǎng)頁所捕獲的個人信息。例如,通過回放12:00pm之后捕獲的一些網(wǎng)絡會話,管理員可以確定規(guī)則#3并未正從所捕獲的網(wǎng)絡會話數(shù)據(jù)中過濾信用卡號。這將對隱私的破壞
提供早期警告。
[0078]圖9A和9B示出隱私處理系統(tǒng)如何可以顯示識別隱私過濾處理中的不規(guī)則性的隱私度量的另一示例。在此示例中,選擇框302A選擇垂直的Y軸以表示對于不同規(guī)則的成功完成率。如上所述,百分比的完成率可以指示特定規(guī)則被調(diào)用或觸發(fā)然后成功完成關聯(lián)的行動(如替換或加密數(shù)字序列)的百分比次數(shù)。
[0079]圖9A示出在60%和100%之間的成功完成百分比。選擇框302B選擇用于顯示7:00am和1:00pm之間的成功完成率的時間段。選擇框302C選擇用于顯示相關聯(lián)的完成率的所有規(guī)則#1、#2和#3,并且選擇框302D選擇用于顯示相關聯(lián)的完成率的網(wǎng)頁會話作為網(wǎng)絡會話數(shù)據(jù)的類別。
[0080]基于選擇框302中的條目,隱私處理系統(tǒng)顯示分別示出對于規(guī)則#1、#2和#3的完成率在特定一天的變化的三條線340、342和344。在此示例中,線340示出隱私規(guī)則#1保持相對恒定在90%左右,并且線342示出隱私規(guī)則#2保持相對恒定在80%左右。
[0081]還可以由于網(wǎng)絡會話期間的不同用戶活動而預期完成率的變化。再次,用戶可以在網(wǎng)絡會話期間導覽不同網(wǎng)頁,并且可以或可以不在這些網(wǎng)絡會話期間完成交易。例如,一些用戶可以在網(wǎng)絡會話期間將信用卡信息輸入網(wǎng)頁中,其在稍后的隱私過濾期間可觸發(fā)特定隱私規(guī)則,并且允許所觸發(fā)的隱私規(guī)則完成相關聯(lián)的行動。其他網(wǎng)絡會話中的用戶可能從不將信用卡號輸入網(wǎng)頁中,因此防止一些隱私規(guī)則完成其相關聯(lián)的行動。
[0082]線344示出在9:00am和10: OOam之間的某個時間對于隱私規(guī)則#3的完成率的顯著增加。直到9:30am左右,隱私規(guī)則#3的完成率在60%左右,并且在10:00am之后,規(guī)則#3的完成率增長到超過80%。完成率的增加可以指示隱私規(guī)則#3有問題。例如,對網(wǎng)頁的修改可以導致規(guī)則#3無意地替換所有輸入網(wǎng)頁的數(shù)據(jù)。結果,隱私規(guī)則#3可能移除用于適當回放和分析捕獲的網(wǎng)絡會話所需的網(wǎng)絡會話數(shù)據(jù)。
[0083]因此,線344識別與隱私規(guī)則#3相關聯(lián)的潛在過濾問題。管理員同樣可回放在10:00am之后捕獲的一些網(wǎng)絡會話,以確定規(guī)則#3是否正從捕獲的網(wǎng)絡會話數(shù)據(jù)過濾正確信息。
[0084]圖9B示出隱私處理系統(tǒng)所顯示的其他隱私度量。管理員可以決定調(diào)查隱私規(guī)則#3的完成率的變化?;蛘呓?jīng)由選擇框302中的條目或者通過選擇線344,隱私處理系統(tǒng)可以顯示示出在網(wǎng)絡會話期間使用的不同網(wǎng)絡瀏覽器的安全度量的柱狀圖。例如,管理員可以選擇選擇框302C中的隱私規(guī)則#3,并且選擇選擇框302D中的瀏覽器。
[0085]作為響應,隱私處理系統(tǒng)可以顯示各自與在捕獲的網(wǎng)絡會話期間可能已經(jīng)使用的不同網(wǎng)絡瀏覽器或網(wǎng)絡應用相關聯(lián)的不同柱狀圖350、352和354。例如,柱狀圖350可以與在移動設備上使用的移動網(wǎng)絡瀏覽器或移動應用相關聯(lián),柱狀圖352可以與在個人計算機上使用的桌面網(wǎng)絡瀏覽器相關聯(lián),并且柱狀圖354可以與個人計算機上使用的第二類型的桌面網(wǎng)絡瀏覽器相關聯(lián)。
[0086]第一實線柱狀圖可表示在9:00am對于隱私規(guī)則#3的完成率,并且第二虛線柱狀圖可表示在12:00pm對于隱私規(guī)則#3的完成率。柱狀圖352和354示出在9:00am和10:00pm之間與兩個桌面瀏覽器相關聯(lián)的完成率沒有顯著變化。這可以指示用兩個桌面瀏覽器進行的網(wǎng)絡會話和與瀏覽器相關聯(lián)的隱私過濾正常運行。然而,柱狀圖350示出對于與移動瀏覽器相關聯(lián)的捕獲的網(wǎng)絡會話,隱私規(guī)則#3的完成率從9:00am處的60%左右顯著增加至10:00am的85%左右。
[0087]管理員同樣可使用回放系統(tǒng)或其他軟件來驗證隱私規(guī)則#3正過濾捕獲的網(wǎng)絡會話中的正確信息。例如,回放10:00am移動瀏覽器網(wǎng)絡會話的一些可確定隱私規(guī)則#3正過濾錯誤數(shù)據(jù)。測試算法可對于源自移動網(wǎng)絡瀏覽器的數(shù)據(jù)不同地解釋規(guī)則#3,使得不同地處理數(shù)據(jù)。
[0088]圖10A-10C示出回放系統(tǒng)如何可確認捕獲的網(wǎng)絡會話數(shù)據(jù)的適當隱私過濾的示例。圖1OA示出具有顯示電子網(wǎng)頁374的屏幕的移動設備370,所述電子網(wǎng)頁374用于輸入用于完成信用卡交易的個人信息。在此示例中,用戶可輸入姓名到姓名字段372A中,輸入街道地址到地址字段372B中,輸入城鎮(zhèn)和郵政編碼到城市字段372C中,并且輸入信用卡號到信用卡字段372D中。如上所述,監(jiān)控系統(tǒng)可以捕獲輸入字段372中的個人信息并將其發(fā)送到隱私處理系統(tǒng)。
[0089]圖1OB示出隱私處理系統(tǒng)過濾捕獲的網(wǎng)絡會話數(shù)據(jù)之后的回放的網(wǎng)絡會話。網(wǎng)絡會話可在計算設備160上回放,并且可以回放電子網(wǎng)頁374。網(wǎng)絡會話數(shù)據(jù)的捕獲和過濾可能在9:00am左右發(fā)生。圖1OB可以表示信用卡號的僅僅前八位被用X替換的適當過濾的網(wǎng)絡會話。
[0090]圖1OC示出隱私處理系統(tǒng)過濾捕獲的網(wǎng)絡會話數(shù)據(jù)之后的第二回放的網(wǎng)絡會話。捕獲的網(wǎng)絡會話數(shù)據(jù)的過濾可能在10:00am左右發(fā)生。圖1OC可表示電子網(wǎng)頁374中捕獲的全部信息被用X替換的不正確過濾的網(wǎng)絡會話數(shù)據(jù)。因此,回放系統(tǒng)可用于進一步調(diào)查并識別可能最初已經(jīng)通過將隱私度量與隱私簡檔比較而識別的隱私過濾問題。
[0091]硬件和軟件
[0092]圖11示出可用于運行隱私處理系統(tǒng)并執(zhí)行上述隱私處理操作的任何組合的計算裝置1000。計算裝置1000可運行在服務器客戶端網(wǎng)絡環(huán)境中的服務器或客戶機的地位,或作為對等(或分布式)網(wǎng)絡環(huán)境中的對等機器。在其他示例中,計算裝置1000可以是個人計算機(PC)、桌面型計算機、個人數(shù)字助理(PDA)、蜂窩電話、智能電話、網(wǎng)絡設備、或能夠執(zhí)行指定機器要采取的行動的指令1006 (順序地或其他方式地)的任何其他機器或裝置。
[0093]盡管僅示出單個計算裝置1000,但是計算裝置1000可包括單獨或聯(lián)合執(zhí)行一組(或多組)指令以執(zhí)行上述操作的任何一個或多個的裝置或電路的任何集合。計算裝置1000可以是集成控制系統(tǒng)或系統(tǒng)管理器的一部分,或可以提供為便攜電子裝置,其配置為與聯(lián)網(wǎng)系統(tǒng)本地或經(jīng)由無線傳輸而遠程地接口。
[0094]處理器1004可包括中央處理單元(CPU)、圖形處理單元(GPU)、可編程邏輯裝置、專用處理器系統(tǒng)、微控制器、或可執(zhí)行上述操作的一些或全部的微處理器。處理器1004可包括但不限于模擬處理器、數(shù)字處理器、微處理器、多核處理器、處理器陣列、網(wǎng)絡處理器
坐寸ο
[0095]上述一些操作可以在軟件中實現(xiàn),并且其他操作可以在硬件中實現(xiàn)。這里描述的操作、處理或方法的一個或多個可以通過與這里參照附圖描述的裝置、設備或系統(tǒng)相似的裝置、設備或系統(tǒng)執(zhí)行。
[0096]處理器1004可執(zhí)行存儲器1008、1010或1020的任一中存儲的指令或“代碼”1006。存儲器也可存儲數(shù)據(jù)。指令1006和數(shù)據(jù)還可經(jīng)由網(wǎng)絡接口設備1012,利用多個已知傳輸協(xié)議的任一個在網(wǎng)絡1014上發(fā)送或接收。
[0097]存儲器1008、1010和1020可以與處理裝置1000集成到一起,例如布置在集成電
路微處理器等中的RAM或閃存。在其他示例中,存儲器可包括獨立裝置,如外部盤驅(qū)動、存儲陣列、或在數(shù)據(jù)庫系統(tǒng)中使用的任何其他存儲裝置。存儲器和處理裝置可以可操作地耦合在一起或彼此通過例如I/O端口、網(wǎng)絡連接等通信,使得處理裝置可讀取存儲器上存儲的文件。
[0098]一些存儲器可以借助于許可設置而通過設計為“只讀”與否(ROM)。存儲器的其他示例可包括但不限于W0RM、EPR0M、EEPR0M、FLASH等,其可以在固態(tài)半導體器件中實現(xiàn)。其他存儲器可包括移動部分,如傳統(tǒng)的旋轉(zhuǎn)盤驅(qū)動。所有這些存儲器可以是“機器可讀的”,因為它們可以由處理裝置讀取。
[0099]“計算機可讀存儲介質(zhì)”(或替代地,“機器可讀存儲介質(zhì)”)可包括所有前述類型的存儲器、以及將來可能出現(xiàn)的新技術,只要它們能以計算機程序或其他數(shù)據(jù)的屬性以所存儲的信息可以由適當處理裝置“讀取”的方式至少暫時地存儲數(shù)字信息。術語“計算機可讀”可以不限于“計算機”的歷史使用以暗示完整的大型機、迷你計算機、桌面型計算機、無線裝置或甚至膝上型計算機。而是,“計算機可讀”可包括可由處理器、處理裝置或任何計算系統(tǒng)讀取的存儲介質(zhì)。這樣的介質(zhì)可以是可通過計算機或處理器本地和/或遠程可訪問的任何適當介質(zhì),并且可包括易失和非易失介質(zhì)以及可移除和不可移除介質(zhì)。
[0100]計算裝置1000還可包括諸如液晶顯示器(IXD)或陰極射線管(CRT)的視頻顯示器1016、以及諸如鍵盤、鼠標、觸摸屏等的用戶接口 1018。計算裝置1000的全部組件可以經(jīng)由總線1002和/或網(wǎng)絡連接在一起。
[0101]為了方便,操作可以描述為各種互連或耦合的功能塊或圖。然而,可以存在這些功能塊或圖可以等效地聚合在單個邏輯裝置、程序或操作中而沒有明顯界限的情況。
[0102]已經(jīng)描述和圖示了優(yōu)選實施例的原理,應當顯而易見的是,可以在布置和細節(jié)上修改實施例而不背離這些原理。對于落入權利要求的精神和范圍內(nèi)的所有修改和變型要求權益。
【權利要求】
1.一種方法,包括: 通過處理裝置,生成與從網(wǎng)絡會話數(shù)據(jù)過濾信息相關聯(lián)的隱私度量; 通過處理裝置,從隱私度量生成隱私簡檔;以及 通過處理裝置,使用隱私簡檔以識別從網(wǎng)絡會話數(shù)據(jù)過濾信息的不規(guī)則性。
2.如權利要求1所述的方法,其中,從網(wǎng)絡會話數(shù)據(jù)過濾信息包括:對網(wǎng)絡會話數(shù)據(jù)應用隱私規(guī)則。
3.如權利要求2所述的方法,其中,生成隱私度量包括:標識在過濾信息時調(diào)用隱私規(guī)則的次數(shù)。
4.如權利要求2所述的方法,其中,生成隱私度量包括:標識隱私規(guī)則從網(wǎng)絡會話數(shù)據(jù)過濾信息的次數(shù)的百分比。
5.如權利要求2所述的方法,其中,生成隱私度量包括:標識完成隱私規(guī)則所需的處理時間。
6.如權利要求1所述的方法,其中,從網(wǎng)絡會話數(shù)據(jù)過濾信息包括移除、替換、遮擋、或加密信息的至少一個。
7.如權利要求1所述的方法,還包括: 標識隱私簡檔的閾值;以及 當隱私度量超過閾值時生成通知。
8.如權利要求7所述的方法,其中,閾值包括隱私簡檔的標準偏差。
9.如權利要求1所述的方法,其中,生成隱私簡檔包括: 標識用于從網(wǎng)絡會話數(shù)據(jù)過濾信息的規(guī)則; 標識與規(guī)則相關聯(lián)的隱私度量;以及 在合計時段上將與規(guī)則相關聯(lián)的隱私度量周期性地合計在一起;以及 生成在合計時段上合計在一起的隱私度量的平均值。
10.如權利要求1所述的方法,其中,所述信息包括以下至少之一: 社會保障號; 密碼; 信用卡號; 醫(yī)療信息;或 銀行賬戶信息。
11.如權利要求1所述的方法,還包括:標識與各個網(wǎng)絡會話相關聯(lián)的隱私度量。
12.如權利要求1所述的方法,還包括:標識與網(wǎng)絡會話的各個網(wǎng)頁相關聯(lián)的隱私度量。
13.如權利要求1所述的方法,還包括:標識與生成網(wǎng)絡會話數(shù)據(jù)的網(wǎng)絡會話中使用的不同網(wǎng)絡瀏覽器相關聯(lián)的隱私度量。
14.如權利要求1所述的方法,還包括: 標識與所標識的不規(guī)則性相關聯(lián)的網(wǎng)絡會話數(shù)據(jù)中的第一文檔對象模型DOM ; 標識所述過濾沒有不 規(guī)則性的網(wǎng)絡會話數(shù)據(jù)中的第二 DOM ;以及 標識第一 DOM與第二 DOM之間的差。
15.一種設備,包括:處理裝置,被配置為: 對網(wǎng)絡會話數(shù)據(jù)應用隱私規(guī)則; 標識應用到網(wǎng)絡會話數(shù)據(jù)的隱私規(guī)則的統(tǒng)計;以及 使用所述統(tǒng)計來生成用于應用到網(wǎng)絡會話數(shù)據(jù)的隱私規(guī)則的隱私簡檔。
16.如權利要求15所述的設備,其中,隱私規(guī)則被配置為從網(wǎng)絡會話數(shù)據(jù)中移除個人信息。
17.如權利要求15所述的設備,其中: 隱私規(guī)則包括測試和行動;以及 統(tǒng)計標識調(diào)用測試的次數(shù)和對網(wǎng)絡會話數(shù)據(jù)應用行動的次數(shù)。
18.如權利要求15所述的設備,其中,所述統(tǒng)計標識處理裝置對網(wǎng)絡會話數(shù)據(jù)應用隱私規(guī)則所需的時間量。
19.如權利要求15所述的設備,其中,處理裝置還被配置為: 標識在網(wǎng)絡會話數(shù)據(jù)中應用隱私規(guī)則的網(wǎng)絡會話和網(wǎng)頁;以及 生成對于網(wǎng)絡會話和網(wǎng)頁的統(tǒng)計。
20.如權利要求15 所述的設備,其中,處理裝置還被配置為: 標識與網(wǎng)絡會話數(shù)據(jù)相關聯(lián)的網(wǎng)絡瀏覽器;以及 生成對于網(wǎng)絡瀏覽器的統(tǒng)計。
21.如權利要求15所述的設備,其中,處理裝置還被配置為: 標識對于隱私簡檔的閾值; 將對于隱私簡檔的新統(tǒng)計與對于隱私簡檔的閾值進行比較;以及 標識超過閾值的新統(tǒng)計。
22.—種設備,包括: 監(jiān)控系統(tǒng),被配置為在網(wǎng)絡會話期間捕獲網(wǎng)絡會話數(shù)據(jù);以及 隱私處理系統(tǒng),被配置為: 從網(wǎng)絡會話數(shù)據(jù)中至少過濾一些個人信息; 生成與從網(wǎng)絡會話數(shù)據(jù)中過濾個人信息相關聯(lián)的隱私度量;以及 從隱私度量生成隱私簡檔。
23.如權利要求22所述的設備,其中,隱私處理系統(tǒng)包括: 隱私規(guī)則解析器模塊,被配置為應用從網(wǎng)絡會話數(shù)過濾個人信息的規(guī)則;以及 隱私建檔器,被配置為合計隱私度量以生成隱私簡檔。
24.如權利要求22所述的設備,其中,隱私處理系統(tǒng)還包括隱私事件處理器,被配置為: 將應用到新網(wǎng)絡會話數(shù)據(jù)的規(guī)則的新隱私度量與隱私簡檔比較;以及 標識在隱私簡檔的閾值以外的新的隱私度量。
25.如權利要求22所述的設備,其中,隱私處理系統(tǒng)被配置為: 使用隱私規(guī)則以從網(wǎng)絡會話數(shù)據(jù)中過濾個人信息; 標識在過濾個人信息時調(diào)用隱私規(guī)則的次數(shù); 標識隱私規(guī)則過濾個人信息的次數(shù);以及 標識隱私處理系統(tǒng)執(zhí)行隱私規(guī)則所需的時間量。
【文檔編號】H04L12/24GK103825774SQ201310503035
【公開日】2014年5月28日 申請日期:2013年10月23日 優(yōu)先權日:2012年10月23日
【發(fā)明者】T.S.鮑威爾, N.卡斯皮, R.I.韋尼格, W.赫達, G.迪特里希 申請人:國際商業(yè)機器公司
網(wǎng)友詢問留言 已有0條留言
  • 還沒有人留言評論。精彩留言會獲得點贊!
1
色综合亚洲欧美另类图片| 亚洲精品久久久久久婷婷小说 | 男的添女的下面高潮视频| 日本-黄色视频高清免费观看| 一区二区三区高清视频在线| 国产精品无大码| 七月丁香在线播放| 国产亚洲最大av| 亚洲av电影在线观看一区二区三区 | 非洲黑人性xxxx精品又粗又长| 如何舔出高潮| 丝袜喷水一区| 欧美最新免费一区二区三区| 成人毛片60女人毛片免费| 久久99蜜桃精品久久| 99久久中文字幕三级久久日本| 国产亚洲午夜精品一区二区久久 | 精品一区二区三区人妻视频| 成人三级黄色视频| 亚洲一级一片aⅴ在线观看| 97在线视频观看| 欧美激情在线99| 日韩亚洲欧美综合| 亚洲美女搞黄在线观看| 国产成人午夜福利电影在线观看| 午夜福利在线观看免费完整高清在| 亚洲精品久久久久久婷婷小说 | 亚洲av电影在线观看一区二区三区 | 久久久成人免费电影| 黄色配什么色好看| 国产精品人妻久久久久久| 日韩欧美国产在线观看| 成年av动漫网址| 国产一区有黄有色的免费视频 | 一个人看的www免费观看视频| 精品国内亚洲2022精品成人| 18禁动态无遮挡网站| 欧美xxxx性猛交bbbb| 综合色丁香网| 大又大粗又爽又黄少妇毛片口| 亚洲不卡免费看| 中文在线观看免费www的网站| 精品久久久久久久久久久久久| 观看免费一级毛片| 成人综合一区亚洲| 午夜精品一区二区三区免费看| 国产精品久久久久久av不卡| 国产高清国产精品国产三级 | 69av精品久久久久久| 九色成人免费人妻av| 精品久久久久久久久av| 亚洲精品国产成人久久av| 久久久精品欧美日韩精品| 久久99热这里只频精品6学生 | 亚洲欧美精品综合久久99| 亚洲精品日韩av片在线观看| 亚洲国产日韩欧美精品在线观看| 青春草视频在线免费观看| 免费av观看视频| www.av在线官网国产| 大香蕉久久网| 网址你懂的国产日韩在线| 国产精品久久久久久久电影| 亚洲欧美精品自产自拍| 神马国产精品三级电影在线观看| 免费观看a级毛片全部| 一个人看视频在线观看www免费| 亚洲国产精品合色在线| 看片在线看免费视频| 国产免费又黄又爽又色| 亚洲在线观看片| 99久久人妻综合| 国产久久久一区二区三区| 国产精品蜜桃在线观看| 高清毛片免费看| 免费在线观看成人毛片| av女优亚洲男人天堂| 男女视频在线观看网站免费| 日本免费a在线| 亚洲欧美成人综合另类久久久 | 久久久午夜欧美精品| 99热这里只有是精品在线观看| 国产一区二区亚洲精品在线观看| 天堂影院成人在线观看| 色视频www国产| 天天躁日日操中文字幕| 免费观看人在逋| 最近视频中文字幕2019在线8| 深爱激情五月婷婷| 亚洲av一区综合| 搡老妇女老女人老熟妇| av在线天堂中文字幕| 亚洲精品aⅴ在线观看| .国产精品久久| 亚洲av成人精品一区久久| 久久精品国产鲁丝片午夜精品| 尤物成人国产欧美一区二区三区| 久久精品国产鲁丝片午夜精品| av黄色大香蕉| 少妇高潮的动态图| 免费观看a级毛片全部| 综合色av麻豆| 99热6这里只有精品| 99久久成人亚洲精品观看| 熟妇人妻久久中文字幕3abv| av在线观看视频网站免费| 成年女人永久免费观看视频| 日本一二三区视频观看| 超碰97精品在线观看| 啦啦啦韩国在线观看视频| 国产毛片a区久久久久| 蜜桃亚洲精品一区二区三区| eeuss影院久久| 日韩欧美在线乱码| av线在线观看网站| 精品99又大又爽又粗少妇毛片| 亚洲久久久久久中文字幕| 国产乱人偷精品视频| 久久精品国产99精品国产亚洲性色| 男女下面进入的视频免费午夜| 在线观看一区二区三区| 99久久精品热视频| 七月丁香在线播放| 麻豆国产97在线/欧美| 日韩强制内射视频| 91在线精品国自产拍蜜月| 国产成人精品婷婷| 欧美一区二区国产精品久久精品| 成年女人永久免费观看视频| 亚洲aⅴ乱码一区二区在线播放| 国产片特级美女逼逼视频| 中文字幕制服av| 国产高清三级在线| 国产在线男女| 亚洲无线观看免费| 美女被艹到高潮喷水动态| 亚洲无线观看免费| 在线观看66精品国产| 岛国毛片在线播放| 午夜视频国产福利| 熟妇人妻久久中文字幕3abv| 色综合色国产| av天堂中文字幕网| 免费av不卡在线播放| 亚洲自拍偷在线| 男女国产视频网站| 国产黄色视频一区二区在线观看 | 亚洲中文字幕日韩| 亚洲国产欧美在线一区| 美女cb高潮喷水在线观看| 99久久人妻综合| 波野结衣二区三区在线| 亚洲精品成人久久久久久| 视频中文字幕在线观看| 又爽又黄无遮挡网站| 欧美高清成人免费视频www| 亚洲中文字幕日韩| 91av网一区二区| 淫秽高清视频在线观看| 能在线免费观看的黄片| 晚上一个人看的免费电影| 国产精品人妻久久久久久| 亚洲精品自拍成人| 一级二级三级毛片免费看| 国产美女午夜福利| 伦精品一区二区三区| 亚洲色图av天堂| 日韩精品青青久久久久久| 26uuu在线亚洲综合色| 国产黄片视频在线免费观看| 晚上一个人看的免费电影| 日韩,欧美,国产一区二区三区 | 99在线视频只有这里精品首页| 韩国高清视频一区二区三区| 99久国产av精品| 免费黄色在线免费观看| 天美传媒精品一区二区| 精品免费久久久久久久清纯| 99九九线精品视频在线观看视频| 爱豆传媒免费全集在线观看| www.色视频.com| 在线免费观看的www视频| 国产av不卡久久| 久久久久久大精品| 成人特级av手机在线观看| 亚洲av成人av| 亚洲国产欧洲综合997久久,| 美女国产视频在线观看| 亚洲最大成人av| 精品久久久久久久末码| 国产亚洲av嫩草精品影院| 久久久久久久久久久丰满| 在线播放无遮挡| 午夜精品一区二区三区免费看| 成年av动漫网址| 午夜久久久久精精品| 国产精品麻豆人妻色哟哟久久 | 国产黄色小视频在线观看| 午夜福利视频1000在线观看| 欧美xxxx性猛交bbbb| 91久久精品国产一区二区成人| 日日干狠狠操夜夜爽| 69人妻影院| 插阴视频在线观看视频| 国产精品永久免费网站| 日韩欧美在线乱码| 男的添女的下面高潮视频| 1000部很黄的大片| 久久精品人妻少妇| 黄色欧美视频在线观看| 国产成人91sexporn| 久久这里只有精品中国| 久久精品夜夜夜夜夜久久蜜豆| 中国国产av一级| 天美传媒精品一区二区| 欧美zozozo另类| 搡老妇女老女人老熟妇| 九色成人免费人妻av| 日韩av不卡免费在线播放| 日本色播在线视频| 亚洲av免费在线观看| 亚洲国产欧美人成| 亚洲国产色片| av线在线观看网站| a级一级毛片免费在线观看| 嫩草影院入口| 国内少妇人妻偷人精品xxx网站| 日本免费一区二区三区高清不卡| 久久精品91蜜桃| 老司机影院成人| 91久久精品国产一区二区成人| 免费搜索国产男女视频| 日本av手机在线免费观看| 精品久久久久久久末码| 人妻系列 视频| 99热这里只有是精品50| 熟妇人妻久久中文字幕3abv| 亚洲成人中文字幕在线播放| 国产乱来视频区| 中文字幕制服av| 免费一级毛片在线播放高清视频| 国产亚洲5aaaaa淫片| 一级毛片久久久久久久久女| 美女高潮的动态| 精品国内亚洲2022精品成人| 国产成人一区二区在线| 婷婷色麻豆天堂久久 | 国产成人91sexporn| 狂野欧美激情性xxxx在线观看| 18禁裸乳无遮挡免费网站照片| 成人二区视频| 麻豆成人av视频| 亚洲精品aⅴ在线观看| 亚洲欧美成人综合另类久久久 | 久久人妻av系列| 国产精品1区2区在线观看.| 又粗又爽又猛毛片免费看| 精品久久久久久久久亚洲| 噜噜噜噜噜久久久久久91| 特大巨黑吊av在线直播| 精品国产一区二区三区久久久樱花 | 水蜜桃什么品种好| 三级经典国产精品| 欧美精品国产亚洲| 日本黄色片子视频| 熟女电影av网| 日韩欧美精品免费久久| 亚洲成色77777| 综合色丁香网| 国产伦在线观看视频一区| АⅤ资源中文在线天堂| 国产av一区在线观看免费| 久久国产乱子免费精品| 国产视频内射| 汤姆久久久久久久影院中文字幕 | 午夜激情欧美在线| 成人毛片a级毛片在线播放| av又黄又爽大尺度在线免费看 | 久久亚洲精品不卡| 免费观看a级毛片全部| 我的女老师完整版在线观看| 亚洲av一区综合| 中文乱码字字幕精品一区二区三区 | 插逼视频在线观看| 亚洲伊人久久精品综合 | 少妇丰满av| 亚洲美女视频黄频| 欧美日韩在线观看h| 国产亚洲午夜精品一区二区久久 | av国产久精品久网站免费入址| 日本黄色片子视频| av专区在线播放| 九草在线视频观看| 国产高清不卡午夜福利| 精品一区二区三区人妻视频| 美女国产视频在线观看| 91精品伊人久久大香线蕉| 成人鲁丝片一二三区免费| 99久久精品一区二区三区| 蜜臀久久99精品久久宅男| 男女视频在线观看网站免费| 人妻系列 视频| 日韩欧美国产在线观看| av专区在线播放| 两性午夜刺激爽爽歪歪视频在线观看| 国产探花极品一区二区| 麻豆久久精品国产亚洲av| 99热网站在线观看| 狠狠狠狠99中文字幕| 真实男女啪啪啪动态图| 亚洲欧美日韩无卡精品| 久久精品国产自在天天线| 亚洲av免费在线观看| 一边亲一边摸免费视频| 91在线精品国自产拍蜜月| 18禁裸乳无遮挡免费网站照片| 久久99热6这里只有精品| 一级毛片aaaaaa免费看小| 人体艺术视频欧美日本| 国产日韩欧美在线精品| 麻豆成人午夜福利视频| 建设人人有责人人尽责人人享有的 | av国产久精品久网站免费入址| 国产成人一区二区在线| 高清av免费在线| 亚洲在线自拍视频| 久久亚洲精品不卡| 欧美丝袜亚洲另类| 国产在视频线在精品| 一级毛片aaaaaa免费看小| 麻豆成人午夜福利视频| 丰满少妇做爰视频| 国产精品一区www在线观看| 久久久久性生活片| 色5月婷婷丁香| 黄片wwwwww| 国产精品女同一区二区软件| 麻豆av噜噜一区二区三区| 两性午夜刺激爽爽歪歪视频在线观看| 少妇丰满av| 美女内射精品一级片tv| 丝袜喷水一区| 欧美日韩综合久久久久久| 日日撸夜夜添| 禁无遮挡网站| 观看免费一级毛片| 国产免费一级a男人的天堂| 精品久久久久久久久av| 天天躁日日操中文字幕| videos熟女内射| 国产午夜福利久久久久久| 国产av不卡久久| 最近2019中文字幕mv第一页| 国产伦精品一区二区三区四那| 中文欧美无线码| 嫩草影院新地址| 日本三级黄在线观看| 亚洲色图av天堂| 亚洲综合色惰| 亚洲av免费高清在线观看| 日韩一区二区视频免费看| 成年版毛片免费区| 草草在线视频免费看| 日韩成人av中文字幕在线观看| 少妇丰满av| 亚洲自偷自拍三级| 2021少妇久久久久久久久久久| 国产91av在线免费观看| 天天一区二区日本电影三级| 美女大奶头视频| 在线观看美女被高潮喷水网站| 国内精品宾馆在线| 嘟嘟电影网在线观看| 99热精品在线国产| 日韩av在线免费看完整版不卡| 亚洲av.av天堂| 简卡轻食公司| 国产又色又爽无遮挡免| av播播在线观看一区| 在线观看美女被高潮喷水网站| 十八禁国产超污无遮挡网站| av播播在线观看一区| 亚洲欧美中文字幕日韩二区| 人体艺术视频欧美日本| 少妇猛男粗大的猛烈进出视频 | 国产 一区精品| 男插女下体视频免费在线播放| 黄色配什么色好看| 亚洲av一区综合| av专区在线播放| 美女黄网站色视频| 晚上一个人看的免费电影| 波多野结衣高清无吗| 一区二区三区免费毛片| 日韩,欧美,国产一区二区三区 | 亚洲欧美日韩卡通动漫| 亚洲va在线va天堂va国产| 国产成人一区二区在线| 国产免费视频播放在线视频 | 久久久午夜欧美精品| 一级黄片播放器| 国产亚洲5aaaaa淫片| 又爽又黄无遮挡网站| eeuss影院久久| 亚洲不卡免费看| 我的女老师完整版在线观看| 联通29元200g的流量卡| 综合色av麻豆| 人妻制服诱惑在线中文字幕| 日韩欧美精品免费久久| 国产女主播在线喷水免费视频网站 | 久久精品夜色国产| 亚洲成人精品中文字幕电影| 亚洲不卡免费看| 免费电影在线观看免费观看| 国产免费又黄又爽又色| 中文字幕熟女人妻在线| 天天一区二区日本电影三级| 丰满少妇做爰视频| 欧美精品一区二区大全| 久久精品久久久久久久性| 国产亚洲5aaaaa淫片| 蜜桃亚洲精品一区二区三区| 美女国产视频在线观看| 亚洲丝袜综合中文字幕| 超碰av人人做人人爽久久| 国产精品国产高清国产av| 成人无遮挡网站| 全区人妻精品视频| 欧美xxxx性猛交bbbb| 中文欧美无线码| 99热这里只有精品一区| 国产精品人妻久久久影院| 国产激情偷乱视频一区二区| 偷拍熟女少妇极品色| 国产毛片a区久久久久| 精品久久久久久久末码| 纵有疾风起免费观看全集完整版 | av线在线观看网站| 久久人人爽人人爽人人片va| 久久亚洲国产成人精品v| av视频在线观看入口| 波野结衣二区三区在线| 精品一区二区三区视频在线| 国产三级在线视频| 国产在线一区二区三区精 | 欧美高清性xxxxhd video| 国产成人91sexporn| 国产在视频线在精品| 男女下面进入的视频免费午夜| 久久精品久久久久久久性| 麻豆一二三区av精品| 欧美日本视频| 婷婷六月久久综合丁香| 午夜福利视频1000在线观看| 少妇的逼水好多| 久久久久久伊人网av| 日本三级黄在线观看| 久久久成人免费电影| 国产色爽女视频免费观看| 久久精品综合一区二区三区| 久久鲁丝午夜福利片| 一区二区三区乱码不卡18| 国产精品一区二区性色av| 午夜激情福利司机影院| av国产免费在线观看| 乱码一卡2卡4卡精品| 床上黄色一级片| 国产免费男女视频| 亚洲精品国产av成人精品| 中文天堂在线官网| 成人二区视频| 日韩欧美三级三区| 尾随美女入室| 18禁在线无遮挡免费观看视频| 人妻夜夜爽99麻豆av| 成年免费大片在线观看| 久久婷婷人人爽人人干人人爱| 欧美一级a爱片免费观看看| 我的女老师完整版在线观看| 亚洲不卡免费看| 91精品国产九色| 2022亚洲国产成人精品| 99久国产av精品国产电影| 黄色日韩在线| 日本免费a在线| 国产伦一二天堂av在线观看| 搡老妇女老女人老熟妇| www.av在线官网国产| 天美传媒精品一区二区| av在线亚洲专区| 免费看美女性在线毛片视频| 国产亚洲精品av在线| 又粗又硬又长又爽又黄的视频| 国产精品久久电影中文字幕| 国产精品福利在线免费观看| 成人二区视频| 91av网一区二区| 国产91av在线免费观看| 婷婷六月久久综合丁香| 色尼玛亚洲综合影院| 亚洲欧洲国产日韩| 日本三级黄在线观看| 男人舔女人下体高潮全视频| 老司机福利观看| 99热网站在线观看| 国产精品国产三级国产专区5o | 亚洲婷婷狠狠爱综合网| 欧美+日韩+精品| 91在线精品国自产拍蜜月| 国产 一区 欧美 日韩| 亚洲欧洲国产日韩| 亚洲图色成人| 亚洲av成人精品一二三区| 国产精品久久电影中文字幕| www日本黄色视频网| 成年免费大片在线观看| 日本色播在线视频| 别揉我奶头 嗯啊视频| 亚洲怡红院男人天堂| 欧美成人午夜免费资源| 国产一区二区在线观看日韩| 国产成人aa在线观看| 国产高潮美女av| 国产片特级美女逼逼视频| 中文天堂在线官网| 三级毛片av免费| 亚洲av中文av极速乱| 国产精品国产三级国产专区5o | 亚洲国产色片| 亚洲精品亚洲一区二区| 能在线免费观看的黄片| 日韩一本色道免费dvd| 99在线视频只有这里精品首页| 精品人妻偷拍中文字幕| 日本黄色片子视频| 日本色播在线视频| 精品人妻一区二区三区麻豆| 日日撸夜夜添| 国产淫语在线视频| 噜噜噜噜噜久久久久久91| 18+在线观看网站| 麻豆国产97在线/欧美| 日韩一区二区视频免费看| 国产高清国产精品国产三级 | 全区人妻精品视频| 一本一本综合久久| 天天躁夜夜躁狠狠久久av| 麻豆成人午夜福利视频| 国产爱豆传媒在线观看| 中文乱码字字幕精品一区二区三区 | 国产视频内射| 日本午夜av视频| 极品教师在线视频| 色噜噜av男人的天堂激情| 亚洲国产精品国产精品| 国产成人免费观看mmmm| 老司机福利观看| 亚洲精品日韩在线中文字幕| 免费在线观看成人毛片| 日本与韩国留学比较| 国产乱来视频区| 哪个播放器可以免费观看大片| 亚洲久久久久久中文字幕| 高清日韩中文字幕在线| 亚洲人成网站高清观看| 亚洲18禁久久av| 国产又色又爽无遮挡免| 岛国在线免费视频观看| 人体艺术视频欧美日本| 亚洲国产色片| 国产精品国产三级专区第一集| 欧美另类亚洲清纯唯美| 日日撸夜夜添| 日韩一区二区视频免费看| 听说在线观看完整版免费高清| 色5月婷婷丁香| 毛片一级片免费看久久久久| 免费看光身美女| 一个人观看的视频www高清免费观看| 黄色日韩在线| 亚洲高清免费不卡视频| 成年女人看的毛片在线观看| 久久久色成人| 午夜日本视频在线| 女人被狂操c到高潮| 免费播放大片免费观看视频在线观看 | 欧美极品一区二区三区四区| 日韩欧美三级三区| 小蜜桃在线观看免费完整版高清| 久久99热这里只频精品6学生 | 色吧在线观看| 欧美高清成人免费视频www| 亚洲欧美日韩卡通动漫| 亚洲欧美精品自产自拍| 秋霞在线观看毛片| 精品久久久久久久久亚洲| 国产综合懂色| 亚洲国产欧美人成| 熟妇人妻久久中文字幕3abv| 午夜福利在线观看吧| 成人毛片60女人毛片免费| 99热这里只有是精品在线观看| 热99在线观看视频| 99热精品在线国产| 我要搜黄色片| 人人妻人人澡人人爽人人夜夜 | 免费观看的影片在线观看| 日本午夜av视频| 午夜免费男女啪啪视频观看| 春色校园在线视频观看| 久久久久精品久久久久真实原创| 18+在线观看网站| 好男人在线观看高清免费视频| 九九久久精品国产亚洲av麻豆|