22,209
社区成员
发帖
与我相关
我的任务
分享搜索优化难题,高手进
环境:sqlserver2000,
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
...全文
请发表友善的回复…
发表回复
wuleixxh 2009-07-23
- 打赏
- 举报
全文搜索解决
Q315054403 2009-07-23
- 打赏
- 举报
有偿优化，如果你公司愿意出费用的话
feixianxxx 2009-07-23
- 打赏
- 举报
我们要做到不但会写SQL,还要做到写出性能优良的SQL,以下为笔者学习、摘录、并汇总部
分资料与大家分享！
（1） 选择最有效率的表名顺序(只在基于规则的优化器中有效)：
ORACLE 的解析器按照从右到左的顺序处理FROM 子句中的表名，FROM 子句中写在最后的表
(基础表driving table)将被最先处理，在FROM 子句中包含多个表的情况下,你必须选择记
录条数最少的表作为基础表。如果有3个以上的表连接查询, 那就需要选择交叉表(intersec
tion table)作为基础表, 交叉表是指那个被其他表所引用的表.
（2） WHERE 子句中的连接顺序．：
ORACLE 采用自下而上的顺序解析WHERE 子句,根据这个原理,表之间的连接必须写在其他WHE
RE 条件之前, 那些可以过滤掉最大数量记录的条件必须写在WHERE 子句的末尾.
（3） SELECT 子句中避免使用‘ * ‘：
ORACLE 在解析的过程中, 会将'*' 依次转换成所有的列名, 这个工作是通过查询数据字典
完成的, 这意味着将耗费更多的时间
（4） 减少访问数据库的次数：
ORACLE 在内部执行了许多工作: 解析SQL 语句, 估算索引的利用率, 绑定变量, 读数据块
等；
（5） 在SQL*Plus , SQL*Forms 和Pro*C 中重新设置ARRAYSIZE 参数, 可以增加每次
数据库访问的检索数据量,建议值为200
（6） 使用DECODE 函数来减少处理时间：
使用DECODE 函数可以避免重复扫描相同记录或重复连接相同的表.
（7） 整合简单,无关联的数据库访问：
如果你有几个简单的数据库查询语句,你可以把它们整合到一个查询中(即使它们之间没有
关系)
（8） 删除重复记录：
最高效的删除重复记录方法( 因为使用了ROWID)例子：
DELETE FROM EMP E WHERE E.ROWID > (SELECT MIN(X.ROWID)
FROM EMP X WHERE X.EMP_NO = E.EMP_NO);
（9） 用TRUNCATE 替代DELETE：
当删除表中的记录时,在通常情况下, 回滚段(rollback segments ) 用来存放可以被恢复
的信息. 如果你没有COMMIT 事务,ORACLE 会将数据恢复到删除之前的状态(准确地说是恢复
到执行删除命令之前的状况) 而当运用TRUNCATE 时, 回滚段不再存放任何可被恢复的信息.
当命令运行后,数据不能被恢复.因此很少的资源被调用,执行时间也会很短. (译者按: TRU
NCATE 只在删除全表适用,TRUNCATE 是DDL 不是DML)
（10） 尽量多使用COMMIT：
只要有可能,在程序中尽量多使用COMMIT, 这样程序的性能得到提高,需求也会因为COMMIT
所释放的资源而减少:
COMMIT 所释放的资源:
a. 回滚段上用于恢复数据的信息.
b. 被程序语句获得的锁
c. redo log buffer 中的空间
d. ORACLE 为管理上述3种资源中的内部花费
（11） 用Where 子句替换HAVING 子句：
避免使用HAVING 子句, HAVING 只会在检索出所有记录之后才对结果集进行过滤. 这个处
理需要排序,总计等操作. 如果能通过WHERE 子句限制记录的数目,那就能减少这方面的开
销. (非oracle 中)on、where、having 这三个都可以加条件的子句中，on 是最先执行，whe
re 次之，having 最后，因为on 是先把不符合条件的记录过滤后才进行统计，它就可以减少
中间运算要处理的数据，按理说应该速度是最快的， where 也应该比having 快点的，因为
它过滤数据后才进行sum，在两个表联接时才用on 的，所以在一个表的时候，就剩下where
跟having 比较了。在这单表查询统计的情况下，如果要过滤的条件没有涉及到要计算字段，
那它们的结果是一样的，只是where 可以使用rushmore 技术，而having 就不能，在速度上
后者要慢如果要涉及到计算的字段，就表示在没计算之前，这个字段的值是不确定的，根据
上篇写的工作流程，where 的作用时间是在计算之前就完成的，而having 就是在计算后才
起作用的，所以在这种情况下，两者的结果会不同。在多表联接查询时， on 比where 更早
起作用。系统首先根据各个表之间的联接条件，把多个表合成一个临时表后，再由where
进行过滤，然后再计算，计算完后再由having 进行过滤。由此可见，要想过滤条件起到正
确的作用，首先要明白这个条件应该在什么时候起作用，然后再决定放在那里
（12） 减少对表的查询：
在含有子查询的SQL 语句中,要特别注意减少对表的查询.例子：
SELECT TAB_NAME FROM TABLES WHERE (TAB_NAME,DB_VER) = ( SELECT
TAB_NAME,DB_VER FROM TAB_COLUMNS WHERE VERSION = 604)
（13） 通过内部函数提高SQL 效率.：
复杂的SQL 往往牺牲了执行效率. 能够掌握上面的运用函数解决问题的方法在实际工作中
是非常有意义的
（14） 使用表的别名(Alias)：
当在SQL 语句中连接多个表时, 请使用表的别名并把别名前缀于每个Column 上.这样一来,
就可以减少解析的时间并减少那些由Column 歧义引起的语法错误.
（15） 用EXISTS 替代IN、用NOT EXISTS 替代NOT IN：
在许多基于基础表的查询中,为了满足一个条件,往往需要对另一个表进行联接.在这种情况
下, 使用EXISTS(或NOT EXISTS)通常将提高查询的效率. 在子查询中,NOT IN 子句将执行
一个内部的排序和合并. 无论在哪种情况下,NOT IN 都是最低效的(因为它对子查询中的
表执行了一个全表遍历). 为了避免使用NOT IN ,我们可以把它改写成外连接(Outer Join
s)或NOT EXISTS.
例子：
（高效）SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND EXISTS (SELECT ‘X'
FROM DEPT WHERE DEPT.DEPTNO = EMP.DEPTNO AND LOC = ‘MELB')
(低效)SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND DEPTNO IN(SELECT DEP
TNO FROM DEPT WHERE LOC = ‘MELB')
（16） 识别'低效执行'的SQL 语句：
虽然目前各种关于SQL 优化的图形化工具层出不穷,但是写出自己的SQL 工具来解决问题始
终是一个最好的方法：
SELECT EXECUTIONS , DISK_READS, BUFFER_GETS,
ROUND((BUFFER_GETS-DISK_READS)/BUFFER_GETS,2) Hit_radio,
ROUND(DISK_READS/EXECUTIONS,2) Reads_per_run,
SQL_TEXT
FROM V$SQLAREA
WHERE EXECUTIONS>0
AND BUFFER_GETS > 0
AND (BUFFER_GETS-DISK_READS)/BUFFER_GETS < 0.8
ORDER BY 4 DESC;
17） 用索引提高效率：
索引是表的一个概念部分,用来提高检索数据的效率，ORACLE 使用了一个复杂的自平衡B-tr
ee 结构. 通常,通过索引查询数据比全表扫描要快. 当ORACLE 找出执行查询和Update 语句
的最佳路径时, ORACLE 优化器将使用索引. 同样在联结多个表时使用索引也可以提高效率.
另一个使用索引的好处是,它提供了主键(primary key)的唯一性验证.。那些LONG 或LONG
RAW 数据类型, 你可以索引几乎所有的列. 通常, 在大型表中使用索引特别有效. 当然,
你也会发现, 在扫描小表时,使用索引同样能提高效率. 虽然使用索引能得到查询效率的提
高,但是我们也必须注意到它的代价. 索引需要空间来存储,也需要定期维护, 每当有记录
在表中增减或索引列被修改时, 索引本身也会被修改. 这意味着每条记录的INSERT , DEL
ETE , UPDATE 将为此多付出4 , 5 次的磁盘I/O . 因为索引需要额外的存储空间和处理,
那些不必要的索引反而会使查询反应时间变慢.。定期的重构索引是有必要的.：
ALTER INDEX <INDEXNAME> REBUILD <TABLESPACENAME>
18） 用EXISTS 替换DISTINCT：
当提交一个包含一对多表信息(比如部门表和雇员表)的查询时,避免在SELECT 子句中使用D
ISTINCT. 一般可以考虑用EXIST 替换, EXISTS 使查询更为迅速,因为RDBMS 核心模块将在
子查询的条件一旦满足后,立刻返回结果. 例子：
(低效):
SELECT DISTINCT DEPT_NO,DEPT_NAME FROM DEPT D , EMP E
WHERE D.DEPT_NO = E.DEPT_NO
(高效):
SELECT DEPT_NO,DEPT_NAME FROM DEPT D WHERE EXISTS ( SELECT ‘X'
FROM EMP E WHERE E.DEPT_NO = D.DEPT_NO);
（19） sql 语句用大写的；因为oracle 总是先解析sql 语句，把小写的字母转换成大写的
再执行
（20） 在java 代码中尽量少用连接符“＋”连接字符串！
（21） 避免在索引列上使用NOT 通常，
我们要避免在索引列上使用NOT, NOT 会产生在和在索引列上使用函数相同的影响. 当ORAC
LE”遇到”NOT,他就会停止使用索引转而执行全表扫描.
（22） 避免在索引列上使用计算．
WHERE 子句中，如果索引列是函数的一部分．优化器将不使用索引而使用全表扫描．
举例:
低效：
SELECT … FROM DEPT WHERE SAL * 12 > 25000;
高效:
SELECT … FROM DEPT WHERE SAL > 25000/12;
（23） 用>=替代>
高效:
SELECT * FROM EMP WHERE DEPTNO >=4
低效:
SELECT * FROM EMP WHERE DEPTNO >3
两者的区别在于, 前者DBMS 将直接跳到第一个DEPT 等于4的记录而后者将首先定位到DEPT
NO=3的记录并且向前扫描到第一个DEPT 大于3的记录.
（24） 用UNION 替换OR (适用于索引列)
通常情况下, 用UNION 替换WHERE 子句中的OR 将会起到较好的效果. 对索引列使用OR 将造
成全表扫描. 注意, 以上规则只针对多个索引列有效. 如果有column 没有被索引, 查询效
率可能会因为你没有选择OR 而降低. 在下面的例子中, LOC_ID 和REGION 上都建有索引.
高效:
SELECT LOC_ID , LOC_DESC , REGION
FROM LOCATION
WHERE LOC_ID = 10
UNION
SELECT LOC_ID , LOC_DESC , REGION
FROM LOCATION
WHERE REGION = “MELBOURNE”
低效:
SELECT LOC_ID , LOC_DESC , REGION
FROM LOCATION
WHERE LOC_ID = 10 OR REGION = “MELBOURNE”
如果你坚持要用OR, 那就需要返回记录最少的索引列写在最前面.
（25） 用IN 来替换OR
这是一条简单易记的规则，但是实际的执行效果还须检验，在ORACLE8i 下，两者的执行路
径似乎是相同的．
低效:
SELECT…. FROM LOCATION WHERE LOC_ID = 10 OR LOC_ID = 20 OR LOC_ID = 30
高效
SELECT… FROM LOCATION WHERE LOC_IN IN (10,20,30);
（26） 避免在索引列上使用IS NULL 和IS NOT NULL
避免在索引中使用任何可以为空的列，ORACLE 将无法使用该索引．对于单列索引，如果列
包含空值，索引中将不存在此记录. 对于复合索引，如果每个列都为空，索引中同样不存在
此记录. 如果至少有一个列不为空，则记录存在于索引中．举例: 如果唯一性索引建立在
表的A 列和B 列上, 并且表中存在一条记录的A,B 值为(123,null) , ORACLE 将不接受下一
条具有相同A,B 值（123,null）的记录(插入). 然而如果所有的索引列都为空，ORACLE 将
认为整个键值为空而空不等于空. 因此你可以插入1000 条具有相同键值的记录,当然它们
都是空! 因为空值不存在于索引列中,所以WHERE 子句中对索引列进行空值比较将使ORACLE
停用该索引.
低效: (索引失效)
SELECT … FROM DEPARTMENT WHERE DEPT_CODE IS NOT NULL;
高效: (索引有效)
SELECT … FROM DEPARTMENT WHERE DEPT_CODE >=0;
（27） 总是使用索引的第一个列：
如果索引是建立在多个列上, 只有在它的第一个列(leading column)被where 子句引用时,
优化器才会选择使用该索引. 这也是一条简单而重要的规则，当仅引用索引的第二个列时,
优化器使用了全表扫描而忽略了索引
28） 用UNION-ALL 替换UNION ( 如果有可能的话)：
当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL 的方式被合
并, 然后在输出最终结果前进行排序. 如果用UNION ALL 替代UNION, 这样排序就不是必要
了. 效率就会因此得到提高. 需要注意的是，UNION ALL 将重复输出两个结果集合中相同记
录. 因此各位还是要从业务需求分析使用UNION ALL 的可行性. UNION 将对结果集合排序,
这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面
的SQL 可以用来查询排序的消耗量
低效：
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE = '31-DEC-95'
UNION
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE = '31-DEC-95'
高效:
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE = '31-DEC-95'
UNION ALL
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE = '31-DEC-95'
（29） 用WHERE 替代ORDER BY：
ORDER BY 子句只在两种严格的条件下使用索引.
ORDER BY 中所有的列必须包含在相同的索引中并保持在索引中的排列顺序.
ORDER BY 中所有的列必须定义为非空.
WHERE 子句使用的索引和ORDER BY 子句中所使用的索引不能并列.
例如:
表DEPT 包含以下列:
DEPT_CODE PK NOT NULL
DEPT_DESC NOT NULL
DEPT_TYPE NULL
低效: (索引不被使用)
SELECT DEPT_CODE FROM DEPT ORDER BY DEPT_TYPE
高效: (使用索引)
SELECT DEPT_CODE FROM DEPT WHERE DEPT_TYPE > 0
（30） 避免改变索引列的类型.:
当比较不同数据类型的数据时, ORACLE 自动对列进行简单的类型转换.
假设EMPNO 是一个数值类型的索引列.
SELECT … FROM EMP WHERE EMPNO = ‘123'
实际上,经过ORACLE 类型转换, 语句转化为:
SELECT … FROM EMP WHERE EMPNO = TO_NUMBER(‘123')
幸运的是,类型转换没有发生在索引列上,索引的用途没有被改变.
现在,假设EMP_TYPE 是一个字符类型的索引列.
SELECT … FROM EMP WHERE EMP_TYPE = 123
这个语句被ORACLE 转换为:
SELECT … FROM EMP WHERETO_NUMBER(EMP_TYPE)=123
因为内部发生的类型转换, 这个索引将不会被用到! 为了避免ORACLE 对你的SQL 进行隐式
的类型转换, 最好把类型转换用显式表现出来. 注意当字符和数值比较时, ORACLE 会优先
转换数值类型到字符类型
（31） 需要当心的WHERE 子句:
某些SELECT 语句中的WHERE 子句不使用索引. 这里有一些例子.
在下面的例子里, (1)‘!=' 将不使用索引. 记住, 索引只能告诉你什么存在于表中, 而不
能告诉你什么不存在于表中. (2) ‘||'是字符连接函数. 就象其他函数那样, 停用了索引.
(3) ‘+'是数学函数. 就象其他数学函数那样, 停用了索引. (4)相同的索引列不能互相
比较,这将会启用全表扫描.
（32） a. 如果检索数据量超过30%的表中记录数.使用索引将没有显著的效率提高.
b. 在特定情况下, 使用索引也许会比全表扫描慢, 但这是同一个数量级上的区别. 而通常
情况下,使用索引比全表扫描要块几倍乃至几千倍!
（33） 避免使用耗费资源的操作:
带有DISTINCT,UNION,MINUS,INTERSECT,ORDER BY 的SQL 语句会启动SQL 引擎
执行耗费资源的排序(SORT)功能. DISTINCT 需要一次排序操作, 而其他的至少需要执行两
次排序. 通常, 带有UNION, MINUS , INTERSECT 的SQL 语句都可以用其他方式重写. 如果
你的数据库的SORT_AREA_SIZE 调配得好, 使用UNION , MINUS, INTERSECT 也是可以考虑
的, 毕竟它们的可读性很强
（34） 优化GROUP BY:
提高GROUP BY 语句的效率, 可以通过将不需要的记录在GROUP BY 之前过滤掉.下面两个
查询返回相同结果但第二个明显就快了许多.
低效:
SELECT JOB , AVG(SAL)
FROM EMP
GROUP by JOB
HAVING JOB = ‘PRESIDENT'
OR JOB = ‘MANAGER'
高效:
SELECT JOB , AVG(SAL)
FROM EMP
WHERE JOB = ‘PRESIDENT'
OR JOB = ‘MANAGER'
GROUP by JOB希望你可以得到点什么启发
feixianxxx 2009-07-23
- 打赏
- 举报
[Quote=引用 12 楼 wuleixxh 的回复:]
引用 10 楼 feixianxxx 的回复:
引用 8 楼 wuleixxh 的回复:
引用 2 楼 feixianxxx 的回复:
引用楼主 wuleixxh 的回复:
环境:sqlserver2000,
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
SQL code用UNION-ALL 替换UNION ( 如果有可能的话)：
当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL 的方式被合
并, 然后在输出最终结果前进行排序. 如果用UNIONALL 替代UNION, 这样排序就不是必要
了. 效率就会因此得到提高. 需要注意的是，UNIONALL 将重复输出两个结果集合中相同记
录. 因此各位还是要从业务需求分析使用UNIONALL 的可行性.UNION 将对结果集合排序,
这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面
的SQL 可以用来查询排序的消耗量
低效：SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
高效:SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONALLSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
看这个例子
用Union all 别用union
union all 是不行的,因为都是对F1进行模糊查询,例如:f1 like '%d%' or f1 like '%f%',有可能会出现重复的数据,只能用union
再用DISTINCT 取消重复的不就行了？
这样的效率要低的多
[/Quote]
那只有帮顶了
引用 10 楼 feixianxxx 的回复:
引用 8 楼 wuleixxh 的回复:
引用 2 楼 feixianxxx 的回复:
引用楼主 wuleixxh 的回复:
环境:sqlserver2000,
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
SQL code用UNION-ALL 替换UNION ( 如果有可能的话)：
当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL 的方式被合
并, 然后在输出最终结果前进行排序. 如果用UNIONALL 替代UNION, 这样排序就不是必要
了. 效率就会因此得到提高. 需要注意的是，UNIONALL 将重复输出两个结果集合中相同记
录. 因此各位还是要从业务需求分析使用UNIONALL 的可行性.UNION 将对结果集合排序,
这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面
的SQL 可以用来查询排序的消耗量
低效：SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
高效:SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONALLSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
看这个例子
用Union all 别用union
union all 是不行的,因为都是对F1进行模糊查询,例如:f1 like '%d%' or f1 like '%f%',有可能会出现重复的数据,只能用union
再用DISTINCT 取消重复的不就行了？
这样的效率要低的多
[/Quote]
那只有帮顶了
wuleixxh 2009-07-23
- 打赏
- 举报
[Quote=引用 10 楼 feixianxxx 的回复:]
引用 8 楼 wuleixxh 的回复:
引用 2 楼 feixianxxx 的回复:
引用楼主 wuleixxh 的回复:
环境:sqlserver2000,
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
SQL code用UNION-ALL 替换UNION ( 如果有可能的话)：
当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL 的方式被合
并, 然后在输出最终结果前进行排序. 如果用UNIONALL 替代UNION, 这样排序就不是必要
了. 效率就会因此得到提高. 需要注意的是，UNIONALL 将重复输出两个结果集合中相同记
录. 因此各位还是要从业务需求分析使用UNIONALL 的可行性.UNION 将对结果集合排序,
这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面
的SQL 可以用来查询排序的消耗量
低效：SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
高效:SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONALLSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
看这个例子
用Union all 别用union
union all 是不行的,因为都是对F1进行模糊查询,例如:f1 like '%d%' or f1 like '%f%',有可能会出现重复的数据,只能用union
再用DISTINCT 取消重复的不就行了？
[/Quote]
这样的效率要低的多
引用 8 楼 wuleixxh 的回复:
引用 2 楼 feixianxxx 的回复:
引用楼主 wuleixxh 的回复:
环境:sqlserver2000,
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
SQL code用UNION-ALL 替换UNION ( 如果有可能的话)：
当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL 的方式被合
并, 然后在输出最终结果前进行排序. 如果用UNIONALL 替代UNION, 这样排序就不是必要
了. 效率就会因此得到提高. 需要注意的是，UNIONALL 将重复输出两个结果集合中相同记
录. 因此各位还是要从业务需求分析使用UNIONALL 的可行性.UNION 将对结果集合排序,
这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面
的SQL 可以用来查询排序的消耗量
低效：SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
高效:SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONALLSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
看这个例子
用Union all 别用union
union all 是不行的,因为都是对F1进行模糊查询,例如:f1 like '%d%' or f1 like '%f%',有可能会出现重复的数据,只能用union
再用DISTINCT 取消重复的不就行了？
[/Quote]
这样的效率要低的多
liu8859 2009-07-23
- 打赏
- 举报
这样的情况,,我现在准备做个系统也遇到这个类似的瓶颈,,
我的是频繁的更新,插入,还的用时间排序----
我想到这个方法,建立两个表t1和t1_b
t1表用于插入和更新,
t1_b表用于查询---时间字段上建立索引
用触发器将t1的字段实时和t1_b表同步,
我的是频繁的更新,插入,还的用时间排序----
我想到这个方法,建立两个表t1和t1_b
t1表用于插入和更新,
t1_b表用于查询---时间字段上建立索引
用触发器将t1的字段实时和t1_b表同步,
feixianxxx 2009-07-23
- 打赏
- 举报
[Quote=引用 8 楼 wuleixxh 的回复:]
引用 2 楼 feixianxxx 的回复:
引用楼主 wuleixxh 的回复:
环境:sqlserver2000,
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
SQL code用UNION-ALL 替换UNION ( 如果有可能的话)：
当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL 的方式被合
并, 然后在输出最终结果前进行排序. 如果用UNIONALL 替代UNION, 这样排序就不是必要
了. 效率就会因此得到提高. 需要注意的是，UNIONALL 将重复输出两个结果集合中相同记
录. 因此各位还是要从业务需求分析使用UNIONALL 的可行性.UNION 将对结果集合排序,
这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面
的SQL 可以用来查询排序的消耗量
低效：SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
高效:SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONALLSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
看这个例子
用Union all 别用union
union all 是不行的,因为都是对F1进行模糊查询,例如:f1 like '%d%' or f1 like '%f%',有可能会出现重复的数据,只能用union
[/Quote]
再用DISTINCT 取消重复的不就行了？
引用 2 楼 feixianxxx 的回复:
引用楼主 wuleixxh 的回复:
环境:sqlserver2000,
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
SQL code用UNION-ALL 替换UNION ( 如果有可能的话)：
当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL 的方式被合
并, 然后在输出最终结果前进行排序. 如果用UNIONALL 替代UNION, 这样排序就不是必要
了. 效率就会因此得到提高. 需要注意的是，UNIONALL 将重复输出两个结果集合中相同记
录. 因此各位还是要从业务需求分析使用UNIONALL 的可行性.UNION 将对结果集合排序,
这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面
的SQL 可以用来查询排序的消耗量
低效：SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
高效:SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONALLSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
看这个例子
用Union all 别用union
union all 是不行的,因为都是对F1进行模糊查询,例如:f1 like '%d%' or f1 like '%f%',有可能会出现重复的数据,只能用union
[/Quote]
再用DISTINCT 取消重复的不就行了？
wuleixxh 2009-07-23
- 打赏
- 举报
如果用全文搜索,会遇到我上面提到的一个问题,就是T1表中的数据插入是非常频繁的,而且要求查出的数据是实时的,这种情况下还可以用全文搜索吗?会不会起到反效果?
wuleixxh 2009-07-23
- 打赏
- 举报
[Quote=引用 2 楼 feixianxxx 的回复:]
引用楼主 wuleixxh 的回复:
环境:sqlserver2000,
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
SQL code用UNION-ALL 替换UNION ( 如果有可能的话)：
当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL 的方式被合
并, 然后在输出最终结果前进行排序. 如果用UNIONALL 替代UNION, 这样排序就不是必要
了. 效率就会因此得到提高. 需要注意的是，UNIONALL 将重复输出两个结果集合中相同记
录. 因此各位还是要从业务需求分析使用UNIONALL 的可行性.UNION 将对结果集合排序,
这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面
的SQL 可以用来查询排序的消耗量
低效：SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
高效:SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONALLSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
看这个例子
用Union all 别用union
[/Quote]
union all 是不行的,因为都是对F1进行模糊查询,例如:f1 like '%d%' or f1 like '%f%',有可能会出现重复的数据,只能用union
引用楼主 wuleixxh 的回复:
环境:sqlserver2000,
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
SQL code用UNION-ALL 替换UNION ( 如果有可能的话)：
当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL 的方式被合
并, 然后在输出最终结果前进行排序. 如果用UNIONALL 替代UNION, 这样排序就不是必要
了. 效率就会因此得到提高. 需要注意的是，UNIONALL 将重复输出两个结果集合中相同记
录. 因此各位还是要从业务需求分析使用UNIONALL 的可行性.UNION 将对结果集合排序,
这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面
的SQL 可以用来查询排序的消耗量
低效：SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
高效:SELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'UNIONALLSELECT ACCT_NUM, BALANCE_AMTFROM DEBIT_TRANSACTIONSWHERE TRAN_DATE='31-DEC-95'
看这个例子
用Union all 别用union
[/Quote]
union all 是不行的,因为都是对F1进行模糊查询,例如:f1 like '%d%' or f1 like '%f%',有可能会出现重复的数据,只能用union
xiequan2 2009-07-23
- 打赏
- 举报
不是高手，帮顶
csdyyr 2009-07-23
- 打赏
- 举报
这样的查询在2000中建索引没用，还是会执行表扫描。
selectplayer 2009-07-23
- 打赏
- 举报
like 和 charindex 效率上没有本质的区别
在对同一列上，or 和 union 也差不多
全文检索也许是个考虑的方向。
技术不是万能的，这个是个现实问题。
在对同一列上，or 和 union 也差不多
全文检索也许是个考虑的方向。
技术不是万能的，这个是个现实问题。
yygyogfny 2009-07-23
- 打赏
- 举报
學習
dj3688 2009-07-23
- 打赏
- 举报
关注
feixianxxx 2009-07-23
- 打赏
- 举报
[Quote=引用楼主 wuleixxh 的回复:]
环境:sqlserver2000,
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
[/Quote]
看这个例子
用Union all 别用union
环境:sqlserver2000,
要查询的表设为:T1
T1的特性:
很少有update
基本上没有delete
非常频繁的insert(甚至1秒内可能会有上百条的insert)
数据量从几K到数十万
T1中有个varchar字段:F1,应用要求对F1进行模糊查询
F1上已经建立非聚族索引
要求对T1的查询速度非常快,
问题是由于F1是字符串,而查询的关键字又是不确定的,所以必须要用到like '%%'和or
举例:select F2 from T1 where F1 like '%d%' or F1 like '%f%' or F1 like '%oo%'
我试过把 like '%%' 换成charindex,效果并不明显
还有如果把or换成union的话,因为判断的列都是相同的也起不到效果(反而更慢)
又因为T1的insert非常频繁,也不适合用全文索引
而且由于搜索关键字的不确定性,在记录插入时把相当关键字记录到一个对应表中也不太现实(不可能把所有可能的关键字都记录下来)
请问各位高手还有什么办法能真正的提升这种模糊查询的速度,急等
[/Quote]
用UNION-ALL 替换UNION ( 如果有可能的话)：
当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL 的方式被合
并, 然后在输出最终结果前进行排序. 如果用UNION ALL 替代UNION, 这样排序就不是必要
了. 效率就会因此得到提高. 需要注意的是，UNION ALL 将重复输出两个结果集合中相同记
录. 因此各位还是要从业务需求分析使用UNION ALL 的可行性. UNION 将对结果集合排序,
这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面
的SQL 可以用来查询排序的消耗量
低效：
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE = '31-DEC-95'
UNION
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE = '31-DEC-95'
高效:
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE = '31-DEC-95'
UNION ALL
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE = '31-DEC-95'看这个例子
用Union all 别用union
htl258_Tony 2009-07-23
- 打赏
- 举报
好像没有了.关注.
