2010-03-04

Debian/Linux下Sphinx-for-chinese (中文全文搜索)的安装

Sphinx是一个基于SQL的全文检索引擎,但对中文用户来说一个致命的缺陷是不支持中文。后来在网上发现了一个基于 Sphinx 的支持切词的全文搜索引擎 sphinx-for-chinese。下载下来安装使用后发现很好用,下面介绍一下具体的安装过程。
  1. 下载所需的安装包 sphinx-for-chinese-0.9.9-r2117.tar.gz xdict_1.1.tar.gz 下载地址:http://code.google.com/p/sphinx-for-chinese/downloads/list
  2. 安装 sphinx-for-chinese
    $ tar zxvf sphinx-for-chinese-0.9.9-r2117.tar.gz
    $ cd sphinx-for-chinese-0.9.9-r2117
    $ ./configure --prefix=/usr/local/sphinx
    $ make
    $ sudo make install
  3. 创建test数据库,并创建sphinx用户
    mysql> create database test;
    mysql>create user 'sphinx'@'localhost' identified by 'sphinx';
    mysql>grant all privileges on test.* to 'sphinx'@'localhost';
  4. 指定sphinx配置文件
    $ cd /usr/local/sphinx/etc
    $ sudo cp sphinx.conf.dist sphinx.conf
  5. 编辑配置文件
    sql_host        = localhost
    sql_user        = sphinx
    sql_pass        = sphinx
    sql_db          = test
    sql_port        = 3306  # optional, default is 3306
    说明:加粗部分是修改的内容
到这里为止,sphinx已经可以使用了,但还不能支持中文切词,以下是加入中文切词的步骤
  1. 解压字典文件 xdict_1.1.tar.gz
    $ tar zxvf xdict_1.1.tar.gz
  2. 借助先前安装的 mkdict 工具生成字典
    $ /usr/local/sphinx/bin/mkdict xdict.txt xdict
  3. 将字典 xdict 拷贝到 /usr/local/sphinx/etc目录下
  4. 配置中文切词 打开 sphinx.conf文件,找到 'charset_type    = sbcs' 字样,将其改为
    charset_type    = utf-8
    chinese_dictionary = /usr/local/sphinx/etc/xdict
至此中文切词配置完成,下面做一个简单的测试
  1. 编辑sphinx-for-chinese自带的SQL脚本,加入中文数据 $ vi /usr/local/sphinx/etc/example.sql
    REPLACE INTO test.documents ( id, group_id, group_id2, date_added, title, content ) VALUES
      ( 1, 1, 5, NOW(), 'test one', 'this is my test document number one. also checking search within phrases.' ),
      ( 2, 1, 6, NOW(), 'test two', 'this is my test document number two' ),
      ( 3, 2, 7, NOW(), 'another doc', 'this is another group' ),
      ( 4, 2, 8, NOW(), 'doc number four', 'this is to test groups' ),
      ( 5, 2, 8, NOW(), 'doc number five', '一个' ),
      ( 6, 2, 8, NOW(), 'doc number six', '我' ),
      ( 7, 2, 8, NOW(), 'doc number seven', '中国人' );
    
    说明:加粗部分是添加的中文测试数据
  2. 导入数据
    $ mysql -usphinx -psphinx < example.sql
  3. 建立索引
    $ sudo /usr/local/sphinx/bin/indexer --all
  4. 检索
    $ /usr/local/sphinx/bin/search 我是一个中国人
    Sphinx 0.9.9-release (r2117)
    Copyright (c) 2001-2009, Andrew Aksyonoff
    
    using config file '/usr/local/sphinx/etc/sphinx.conf'...
    index 'test1': query '我是一个中国人 ': returned 0 matches of 0 total in
    0.000 sec
    
    words:
    1. '我': 1 documents, 1 hits
    2. '是': 0 documents, 0 hits
    3. '一个': 1 documents, 1 hits
    4. '中国人': 1 documents, 1 hits
    
    index 'test1stemmed': query '我是一个中国人 ': returned 0 matches of 0
    total in 0.000 sec
    
    words:
    1. '我': 1 documents, 1 hits
    2. '是': 0 documents, 0 hits
    3. '一个': 1 documents, 1 hits
    4. '中国人': 1 documents, 1 hits
至此,sphinx-for-chinese已经成功安装并顺利通过测试
blog comments powered by Disqus