公司網(wǎng)站制作藏文網(wǎng)頁倒排索引
日期 : 2022-03-06 21:33:48
藏文網(wǎng)頁倒排索引。
第一步:抽取網(wǎng)頁正文。網(wǎng)頁正文是相對網(wǎng)頁噪聲而言。當(dāng)今的互聯(lián)網(wǎng)網(wǎng)頁上, 頁面的很多篇幅用在廣告、搜索推薦和其他鏈接上。網(wǎng)頁搜索工具關(guān)注的是網(wǎng)頁本身要表達(dá)的信息, 所以在通過爬蟲獲取到頁面源碼之后, 要去除那些與本文無關(guān)的噪聲, 抽取到網(wǎng)頁正文。
第二步:分字。藏文文字區(qū)別于漢文, 漢文是一個字使用一個編碼, 而藏文是對組成字的基字編碼, 一個完整的藏文字可能存在多個編碼, 這些編碼按組成藏文字的方法順序排列。
第三步:對全文以字建索引。以字建索引, 雖然檢索過程的匹配計算量會更大, 但考慮到目前藏文網(wǎng)頁總體數(shù)量不大, 應(yīng)該是一種可行的提高查全率的辦法。根據(jù)上一步得到的字, 記錄每個字在文中出現(xiàn)的位置, 計算每個字出現(xiàn)的次數(shù), 建立鏈表。位置用于檢索時的準(zhǔn)確定位, 次數(shù)用于計算字對文檔的重要性, 也用于相關(guān)性排序計算。
第一步:抽取網(wǎng)頁正文。網(wǎng)頁正文是相對網(wǎng)頁噪聲而言。當(dāng)今的互聯(lián)網(wǎng)網(wǎng)頁上, 頁面的很多篇幅用在廣告、搜索推薦和其他鏈接上。網(wǎng)頁搜索工具關(guān)注的是網(wǎng)頁本身要表達(dá)的信息, 所以在通過爬蟲獲取到頁面源碼之后, 要去除那些與本文無關(guān)的噪聲, 抽取到網(wǎng)頁正文。
第二步:分字。藏文文字區(qū)別于漢文, 漢文是一個字使用一個編碼, 而藏文是對組成字的基字編碼, 一個完整的藏文字可能存在多個編碼, 這些編碼按組成藏文字的方法順序排列。
第三步:對全文以字建索引。以字建索引, 雖然檢索過程的匹配計算量會更大, 但考慮到目前藏文網(wǎng)頁總體數(shù)量不大, 應(yīng)該是一種可行的提高查全率的辦法。根據(jù)上一步得到的字, 記錄每個字在文中出現(xiàn)的位置, 計算每個字出現(xiàn)的次數(shù), 建立鏈表。位置用于檢索時的準(zhǔn)確定位, 次數(shù)用于計算字對文檔的重要性, 也用于相關(guān)性排序計算。
相關(guān)文章
精彩導(dǎo)讀
熱門資訊
