97免费在线观看视频 I 午夜夫妻视频 I 久久久久久网站 I 天堂网男人 I 欧美大波大乳人奶 I 丝袜 中出 制服 人妻 美腿 I 窝窝午夜理论片影院 I 日韩在线伦理电影 I 韩国特级毛片 I 亚洲欧美另类激情 I 在线成人日韩 I 麻豆视频免费看 I 黄色生活毛片 I 极品一线天小嫩嫩真紧 I 色久天堂 I 久久久久久黄色片 I 林智妍三级露全乳电影视频 I 大肉大捧一进一出好爽视频 I 空乘伦理hd I 少妇口述与子做过爱 I 成人免费影片 I 国产精品国内免费一区二区三区 I 日韩制服一区 I 青青草福利在线 I 日本在线观看不卡视频 I 婷婷六月综合亚洲 I 国产又粗又黄又硬 I 美女扒开屁股让男子桶爽 I 欧美性午夜视频观看 I 欧美狠狠插 I 亚洲福利在线观看视频 I 无码抽搐高潮喷水流白浆 I 亚洲欧美国产日韩色伦 I 你懂的视频网站在线观看 I www.蜜桃视频在线观看 I 日本无码人妻精品一区二区蜜桃 I 久久中文字幕人妻丝袜 I 碰草在线视频 I 日韩精品成人av网站

什么是文本的粒度?我們用什么來衡量文本粒度?

2012/5/5 15:19:57   閱讀:4786    發布者:4786

一般而言,大型搜索引擎的索引都采用分布式系統。不同文本的索引,被某種hash算法“分配”到了某臺機器。理論上講,索引的數量的增長,只會造成所需機器的增長,而對整體系統性能的消耗影響比較小。所以一般搜索引擎會從性價比的角度來考慮索引數量與機器數量的折衷,也就是召回與硬件投入的折衷。粒度分析對于折衷的性價比也有一定的貢獻,在粒度層次里,當粒度逐漸變小的過程中,我們并不一定對所有小粒度詞都建索引,而是選擇“更有可能召回相關結果”的小粒度詞。詞匯的什么性質決定了“更有可能召回相關結果”?

傳統的搜索引擎的定義,是指一種對于指定的查詢(Query),能夠返回與之相關的文檔集合(Documents)的系統。而百度將這個定義更加豐富化,即搜索引擎能夠幫助人們更方便的找到所求。這里的“所求”,比“文檔”更加寬泛和豐富,比如一個關于天氣的查詢,直接返回一個天氣預報的窗口,而非一篇關于天氣的文檔;再如一個關于小游戲的查詢,直接返回這個小游戲的Flash頁面而非簡單的介紹性的文字。

百度對Query深刻的理解,源于自然語言處理技術在其中發揮的巨大作用。對搜索引擎而言,文本切分是最基礎也是最重要的自然語言問題之一。今天,我們就來談談文本切分粒度與搜索引擎的關系。

什么是文本的粒度?我們用什么來衡量文本粒度?專名是一類比較特殊的詞,盡管所含字數很多,但其實只表達一個意思,如“步步驚心”,“家的n次方”這樣的電影、電視劇的名稱,粒度是很小的。機構名、人名等屬于有內部結構的專名,比電影名的粒度稍大一些。

一般我們采用倒排索引的方式來實現這個系統。所謂倒排索引,就是對關鍵字建立索引,記錄包含這個關鍵字的文檔集合D。對于請求的關鍵字集合,找出所有關鍵字對應的索引,并對索引求交,最后返回同時存在于所有索引中的文檔。

在百度,我們不僅允許用戶輸入關鍵字,也可以輸入任何長度在一定范圍內的文本。此時我們需要對文本做一定處理,切分成一系列關鍵字,從而能夠從倒排索引中找出對應的文檔。

既然粒度是衡量文本所含信息量的大小,那么緊密度就是描述文本所含信息緊密程度的量。再說的通俗一些,緊密度就是信息被人們表達和接受的穩定程度。穩定有兩種解釋,第一,穩定是相對于臨時而言的。一般來說,如果信息是因為某些因素臨時組合在一起,那就是不穩定的,即不緊密。比如許多動賓結構的短語(“過馬路”,“踢足球”),定中結構的短語(“紅蘋果”,“豪華轎車”)。第二,穩定是相對于順序不固定而言的。如果同樣一個信息,內部的子信息順序可以互換,那么這個詞匯就不穩定,即不緊密。比如一些大粒度的詞匯“鼠標護腕墊”、“護腕鼠標墊”。

主站蜘蛛池模板: 69午夜视频| 日日夜夜天天干干 | 欧美成人午夜在线视频 | 二区三区四区视频 | 日本无遮真人祼交视频 | 午夜一区二区国产好的精华液 | 亚欧日韩欧美网站在线看 | 性欧美videos另类极品小说 | 国产精品99久久久久久似苏梦涵 | 无码高潮少妇多水多毛 | 美女国产一区二区 | 欧美在线播放视频 | 高清无码一区二区在线观看吞精 | 女人下面毛多水多视频 | 午夜精品久久久久久久久久久 | 天天弄天天操 | 综合五月婷婷 | 日本中文一二区有码在线 | 国产日本在线播放 | 亚洲人成77在线播放网站 | 91精品影视 | 色月丁香 | 大伊香蕉精品视频在线 | 国产亚洲精品久久久久蜜臀 | 欧美人与禽猛交乱配视频 | 在线中文字日产幕 | 亚洲精品白浆 | 国产在线午夜不卡精品影院 | 亚洲免费影视 | 狼人久草| 大黄专集在线观看 | 一本岛在免费一二三区 | 亚洲欧美综合精品成人网站 | 无翼乌口工全彩无遮挡h全彩 | 久久精品人人做人人爽 | 国产日韩欧美在线观看 | 手机看片国产1024 | 久久精品人人做人人爱爱 | 精品人妻无码一区二区三区蜜桃一 | 久久久久久成人毛片免费看 | a天堂中文字幕 | 国产成人精品成人a在线观看 | 日日躁夜夜躁白天躁晚上 | 日本护士被弄高潮视频 | 亚洲无打码| 国产av天堂亚洲国产av天堂 | jzzijzzij亚洲成熟少妇 | 精品久久一区二区乱码 | 久久精品国产99久久6 | 中文在线观看免费视频 | 久久亚洲精品无码网站 | 成人黄色一级 | 成人aaa片一区国产精品 | 国产精品片aa在线观看 | 97精品国产一区二区三区四区 | 日韩精品视频在线播放 | 日韩精品人成在线播放 | 上原瑞穗av在线播放 | 久久www免费人成一看片 | 久久久全国免费视频 | 精品国产欧美一区二区三区成人 | 性欧美寡妇黑人异族 | 99男女国产精品免费视频 | 成人精品在线观看 | 欧美a级在线 | 亚洲欧洲日韩av在线观看 | 色翁荡息又大又硬又粗又视频图片 | 日韩精品在线视频免费观看 | 欧美日韩一二三区 | 人人干人人爱 | 亚洲中文无码人a∨在线导航 | 一本一本久久a久久精品综合妖精 | 欧美黑人一级视频 | 蜜臀av性久久久久蜜臀av | jizz自拍| 国产无套粉嫩白浆内谢网站 | 国产精品久久久久久ai换脸综合 | 成人免费无码av | hd最新国产人妖ts视频 | 精品国产情侣高潮露脸在线 | 激情综合视频 | 欧美在线视频一区 | 99视频精品在线 | 无码一区二区三区视频 | 日韩欧美在线视频免费观看 | 精品一卡2卡三卡4卡乱码理论国产 | 色综合久久无码中文字幕 | 国产在线无码播放不卡视频 | 日韩欧美一中文字暮视频 | 欧洲性网站 | 手机看片久久国产永久免费 | 狠狠色噜噜狠狠狠狠黑人 | 盗摄精品av一区二区三区 | 亚洲www永久成人网站 | 精品国产黄 | 免费吸乳羞羞网站视频 | 国产无遮挡又黄又爽免费视频 | 9999人体做爰大胆视频摄影 | 亚洲女优在线 |