现在的位置: 首页 > 综合 > 正文

Lucene 全文检索的基本原理-索引里面究竟存些什么

2018年05月24日 ⁄ 综合 ⁄ 共 834字 ⁄ 字号 评论关闭

Lucene 全文检索的基本原理-索引里面究竟存些什么


学习lucene看过的资料


索引里面究竟需要存些什么呢?

首先我们来看为什么顺序扫描的速度慢:
其实是由于我们想要搜索的信息和非结构化数据中所存储的信息不一致造成的。
非结构化数据中所存储的信息是每个文件包含哪些字符串,也即已知文件,欲求字符串相对
容易,也即是从文件到字符串的映射。而我们想搜索的信息是哪些文件包含此字符串,也即
已知字符串,欲求文件,也即从字符串到文件的映射。两者恰恰相反。于是如果索引总能够
保存从字符串到文件的映射,则会大大提高搜索速度。
由于从字符串到文件的映射是文件到字符串映射的反向过程,于是保存这种信息的索引称为

反向索引:

反向索引的所保存的信息一般如下:
假设我的文档集合里面有 100 篇文档,为了方便表示,我们为文档编号从 1 到 100,得到下

面的结构

左边保存的是一系列字符串,称为词典词典。 词典词典每个字符串都指向包含此字符串的文档(Document)链表,此文档链表称为倒排表(Posting List)。有了索引,便使保存的信息和要搜索的信息一致,可以大大加快搜索的速度。

比如说,我们要寻找既包含字符串“lucene”又包含字符串“solr”的文档,我们只需要以下几步:

1.  取出包含字符串“lucene”的文档链表。

2.  取出包含字符串“solr”的文档链表。

3.  通过合并链表,找出既包含“lucene”又包含“solr”的文件。

看到这个地方,有人可能会说,全文检索的确加快了搜索的速度,但是多了索引的过程,两者加起来不一定比顺序扫描快多少。的确,加上索引的过程,全文检索不一定比顺序扫描快,尤其是在数据量小的时候更是如此。而对一个很大量的数据创建索引也是一个很慢的过程。

然而两者还是有区别的,顺序扫描是每次都要扫描,而创建索引的过程仅仅需要一次,以后

便是一劳永逸的了,每次搜索,创建索引的过程不必经过,仅仅搜索创建好的索引就可以了。

这也是全文搜索相对于顺序扫描的优势之一:一次索引,多次使用。

抱歉!评论已关闭.