|
中文分詞技術(shù)是搜索引擎對于用戶提交查詢的關(guān)鍵詞，搜索引擎用中文分詞把詞按照一定的規(guī)格，將一個長尾詞分割成幾個部分，從而概括一段話的主要內(nèi)容，讓用戶能更快速度的找到想要的內(nèi)容。 搜索引擎最常用的幾種分詞方法有三種： 一、字符串匹配的方法;（字符串匹配的分詞一般為3種：1.正向最大匹配法;2.逆向最大匹配法;3.最少切分） 二、理解分詞方法; 三、統(tǒng)計分詞方法。 字符串匹配方法：在百度中搜索“我喜歡玩寵物連連看”而在百度排名第一位的是以標題和搜索的長尾詞相符合，說明在網(wǎng)站條件相當?shù)那闆r下，先顯示標題匹配的網(wǎng)頁。這樣文章標題中的長尾是在排名中非常重要的。而在百度第二頁“我喜歡玩寵物連連看”用百度快照查看，很顯然長尾詞已經(jīng)被分成“我喜歡，玩，寵物連連看”而在外后已經(jīng)被分成：“我，喜歡玩，寵物，連連看”，這種匹配方法是最少切分方式。 理解分詞方法：當輸入的字符串中包含≤3個中文字符的話百度分詞就會直接接到數(shù)據(jù)庫索引詞匯;而當字符串長度》4個中文字符的時候，百度中分詞會會把這個詞分成若干個字符。如：百度搜索“電動車”。 統(tǒng)計分詞方法：相鄰的字同時出現(xiàn)的次數(shù)越多，中文分詞就會可能把出現(xiàn)相鄰的字當成你一個詞。例如在百度中輸入一個字符“網(wǎng)”而在下面百度也把“網(wǎng)站”標紅了，這樣可以看得出“網(wǎng)”與“站”這兩個字符相鄰出現(xiàn)的次數(shù)非常多，統(tǒng)計分詞已經(jīng)把“網(wǎng)站”納入了詞庫。 對于百度中文分詞的理解： 中文分詞中強調(diào)一點：“按照不同長度優(yōu)先匹配的情況，可以分為最大（最長）匹配和最?。ㄗ疃蹋┢ヅ洹?長尾詞在文章中的間距也是決定文章排名的因素。如：“我喜歡玩寵物連連看”在百度第十三頁的時候已經(jīng)被分詞成“我，喜歡，玩，寵物，連連，看” 全字匹配得到的詞的權(quán)重會高于分開的詞的權(quán)重。 根據(jù)自己的觀察現(xiàn)在百度大部分都是使用的是正向匹配。 百度分詞對于一句話分詞之后，還會去掉句子中的沒有意義的詞語。 |
|
|
