UML软件工程组织

Oracle建立二进制文件索引的方法
作者:曹飞

Oracle text是Oracle的全文检索技术,是9i版本标准版和企业版的一部分。Oracle text使用标准的sql语言索引、查找、分析存储在oracle数据库、文件或者网络里的文本及文档。 Oracle text能进行关于文档的语言分析,使用多种方法查找文档,包括关键字、上下文查询、逻辑操作、模式匹配、混合主题查询、HTML/XML段落查找等方法。Oracle text在包含文本和结构化的关系属性的混合查询方面具有优越性。下面举例说明。

现有文档表ZYCONTENT_TABLE为上载文件的存储表,二进制文件以BLOB类型存储在BLOB_CONTENT列中,oracle text技术提供为BLOB列中的二进制文本文件建立索引的方法,细节如下:

一、准备工作

文档表的模式为ZYFILEUP,文档表为ZYCONTENT_TABLE。文档表定义为:

CREATE TABLE ZYCONTENT_TABLE(
 NAME VARCHAR(128) UNIQUE NOT NULL,
 MIME_TYPE VARCHAR(128),
 DOC_SIZE NUMBER,
 DAD_CHARSET VARCHAR(128),
 LAST_UPDATED DATE,
 CONTENT_TYPE VARCHAR(128),
 CONTENT LONG RAW,
 BLOB_CONTENT BLOB
);

二、为拥有文档表的模式建立文本索引授权

以system用户连接数据库,为ZYFILEUP授权。

GRANT "CTXAPP" TO "ZYFILEUP";
ALTER USER "ZYFILEUP" DEFAULT ROLE ALL;
GRANT EXECUTE ON "CTXSYS"."CTX_ADM" TO "ZYFILEUP";
GRANT EXECUTE ON "CTXSYS"."CTX_CATSEARCH" TO "ZYFILEUP";
GRANT EXECUTE ON "CTXSYS"."CTX_CONTAINS" TO "ZYFILEUP";
GRANT EXECUTE ON "CTXSYS"."CTX_DDL" TO "ZYFILEUP";
GRANT EXECUTE ON "CTXSYS"."CTX_DOC" TO "ZYFILEUP";
GRANT EXECUTE ON "CTXSYS"."CTX_QUERY" TO "ZYFILEUP";
GRANT EXECUTE ON "CTXSYS"."CTX_ULEXER" TO "ZYFILEUP";
GRANT EXECUTE ON "CTXSYS"."CTX_XPCONTAINS" TO "ZYFILEUP";

三、建立文档表在BLOB_CONTENT列上的索引

以ZYFILEUP用户连接数据库,建立文本索引参考项

begin
ctx_ddl.create_preference('mylex','BASIC_LEXER');
ctx_ddl.set_attribute('mylex','printjoins','_-');
ctx_ddl.create_preference('mywordlist', 'BASIC_WORDLIST');
ctx_ddl.set_attribute('mywordlist','PREFIX_INDEX','TRUE');
ctx_ddl.set_attribute('mywordlist','PREFIX_MIN_LENGTH',1);
ctx_ddl.set_attribute('mywordlist','PREFIX_MAX_LENGTH', 5);
ctx_ddl.set_attribute('mywordlist','SUBSTRING_INDEX', 'YES');
end;
begin
ctx_ddl.create_preference('cnlex','CHINESE_LEXER');
end;

建立索引

drop index i_zycontent_table force;
create index i_zycontent_table on zycontent_table(blob_content)
indextype is ctxsys.context
parameters ('DATASTORE CTXSYS.DIRECT_DATASTORE
FILTER CTXSYS.INSO_FILTER
LEXER ZYFILEUP.CNLEX
WORDLIST ZYFILEUP.MYWORDLIST');

四、索引同步和删除

同步索引的两种方法:

ALTER INDEX i_zycontent_table REBUILD PARAMETERS('resume memory 20M');

exec ctx_ddl.sync_index('i_zycontent_table', '20M');

删除索引的方法:

drop index i_zycontent_table force;

五、索引功能介绍

1.索引的文件类型

Oracle text可以过滤以及从不同格式的文档里提取内容,它支持150多种文档格式,最常见的MS OFFICE文档、PDF文档等都可由Oracle text来检索。

2.过滤器介绍

对于纯文本文件格式,如TXT、HTML、XML等文件,使用空过滤器,即NULL_FILTER,对于二进制文件,使用INSO_FILTER过滤器,如果文档表的BLOB列中含有二进制文件和纯文本文件,也要用INSO_FILTER过滤器,但最好是把纯文本和二进制文件分开存储和索引。Oracle text还提供包来从二进制文件中提取文本到纯文本文件中。

3.词典

可以定制不同语言的词典,该词典含有同意词和词的级别关系。Oracle text可以提供多语言的最优特性以支持跨越西方语言、日语、朝鲜语、传统和简体中文所写的文档查找。

六、文本查询语句格式

select name from zycontent_table
where contains(blob_content,'教育信息化',1)>0
order by name;

contains函数提供强大的查询功能,"与"、"或"关系,相近(near ;)和排除(not ~)等功能,更方便的是它还可以根据某一关键词查询不同语种的文本,当然,这要事先设定词典。

七、实际应用中的问题

在我的实际应用中,最常用的是使用Oracle text对Word、Excel、PowerPoint、HTML、PDF等格式的中文文档进行索引,但我发现,无论使用INSO_FILTER还是NULL_FILTER,无论使用BASIC_LEXER还是CHINESE_LEXER,都不能检索RTF格式的文本文档,我在win2000,XP下试验,都没成功,不知什么原因。总体来说,Oracle text的文本检索功能还是相当出色的,它甚至不需要文本文件存储在数据库里,即使存储在操作系统的文件目录里,Oracle text也能在数据库里为文件建立索引。

 

版权所有:UML软件工程组织