如何提高SQL表插入记录速度，一条条记录地插入太慢了

[xqhrs232]

如何提高SQL表插入记录速度，一条条记录地插入太慢了

[xqhrs232]

我的情况是要在初始化的时候插入几千条记录，一条条地插入费时太长了。也就是几千0值记录

[xqhrs232]

SQL优化经验总结34条

http://www.jzxue.com/shujuku/shujukuzonghe/200907/07-2332.html

我们要做到不但会写SQL,还要做到写出性能优良的SQL,以下为笔者学习、摘录、并汇总部分资料与大家分享！
（1） 选择最有效率的表名顺序(只在基于规则的优化器中有效)： 
ORACLE 的解析器按照从右到左的顺序处理FROM子句中的表名，FROM子句中写在最后的表(基础表 driving table)将被最先处理，在FROM子句中包含多个表的情况下,你必须选择记录条数最少的表作为基础表。如果有3个以上的表连接查询, 那就需要选择交叉表(intersection table)作为基础表, 交叉表是指那个被其他表所引用的表. 
（2） WHERE子句中的连接顺序．： 
ORACLE采用自下而上的顺序解析WHERE子句,根据这个原理,表之间的连接必须写在其他WHERE条件之前, 那些可以过滤掉最大数量记录的条件必须写在WHERE子句的末尾. 
（3） SELECT子句中避免使用 ‘ * ‘： 
ORACLE在解析的过程中, 会将'*' 依次转换成所有的列名, 这个工作是通过查询数据字典完成的, 这意味着将耗费更多的时间 
（4） 减少访问数据库的次数： 
ORACLE在内部执行了许多工作: 解析SQL语句, 估算索引的利用率, 绑定变量 , 读数据块等； 
（5） 在SQL*Plus , SQL*Forms和Pro*C中重新设置ARRAYSIZE参数, 可以增加每次数据库访问的检索数据量 ,建议值为200 
（6） 使用DECODE函数来减少处理时间： 
使用DECODE函数可以避免重复扫描相同记录或重复连接相同的表. 
（7） 整合简单,无关联的数据库访问： 
如果你有几个简单的数据库查询语句,你可以把它们整合到一个查询中(即使它们之间没有关系) 
（8） 删除重复记录： 
最高效的删除重复记录方法 ( 因为使用了ROWID)例子： 
DELETE FROM EMP E WHERE E.ROWID > (SELECT MIN(X.ROWID) 
FROM EMP X WHERE X.EMP_NO = E.EMP_NO); 
（9） 用TRUNCATE替代DELETE： 
当删除表中的记录时,在通常情况下, 回滚段(rollback segments ) 用来存放可以被恢复的信息. 如果你没有COMMIT事务,ORACLE会将数据恢复到删除之前的状态(准确地说是恢复到执行删除命令之前的状况) 而当运用TRUNCATE时, 回滚段不再存放任何可被恢复的信息.当命令运行后,数据不能被恢复.因此很少的资源被调用,执行时间也会很短. (译者按: TRUNCATE只在删除全表适用,TRUNCATE是DDL不是DML) 
（10） 尽量多使用COMMIT： 
只要有可能,在程序中尽量多使用COMMIT, 这样程序的性能得到提高,需求也会因为COMMIT所释放的资源而减少: 
COMMIT所释放的资源: 
a. 回滚段上用于恢复数据的信息. 
b. 被程序语句获得的锁 
c. redo log buffer 中的空间 
d. ORACLE为管理上述3种资源中的内部花费 
（11） 用Where子句替换HAVING子句： 
避免使用HAVING子句, HAVING 只会在检索出所有记录之后才对结果集进行过滤. 这个处理需要排序,总计等操作. 如果能通过WHERE子句限制记录的数目,那就能减少这方面的开销. (非oracle中)on、where、having这三个都可以加条件的子句中，on是最先执行，where次之，having最后，因为on是先把不符合条件的记录过滤后才进行统计，它就可以减少中间运算要处理的数据，按理说应该速度是最快的，where也应该比having快点的，因为它过滤数据后才进行sum，在两个表联接时才用on的，所以在一个表的时候，就剩下where跟having比较了。在这单表查询统计的情况下，如果要过滤的条件没有涉及到要计算字段，那它们的结果是一样的，只是where可以使用rushmore技术，而having就不能，在速度上后者要慢如果要涉及到计算的字段，就表示在没计算之前，这个字段的值是不确定的，根据上篇写的工作流程，where的作用时间是在计算之前就完成的，而having就是在计算后才起作用的，所以在这种情况下，两者的结果会不同。在多表联接查询时，on比where更早起作用。系统首先根据各个表之间的联接条件，把多个表合成一个临时表后，再由where进行过滤，然后再计算，计算完后再由having进行过滤。由此可见，要想过滤条件起到正确的作用，首先要明白这个条件应该在什么时候起作用，然后再决定放在那里 
（12） 减少对表的查询： 
在含有子查询的SQL语句中,要特别注意减少对表的查询.例子： 
SELECT TAB_NAME FROM TABLES WHERE (TAB_NAME,DB_VER) = ( SELECT 
TAB_NAME,DB_VER FROM TAB_COLUMNS WHERE VERSION = 604) 
（13） 通过内部函数提高SQL效率.： 
复杂的SQL往往牺牲了执行效率. 能够掌握上面的运用函数解决问题的方法在实际工作中是非常有意义的 
（14） 使用表的别名(Alias)： 
当在SQL语句中连接多个表时, 请使用表的别名并把别名前缀于每个Column上.这样一来,就可以减少解析的时间并减少那些由Column歧义引起的语法错误. 
（15） 用EXISTS替代IN、用NOT EXISTS替代NOT IN： 
在许多基于基础表的查询中,为了满足一个条件,往往需要对另一个表进行联接.在这种情况下, 使用EXISTS(或NOT EXISTS)通常将提高查询的效率. 在子查询中,NOT IN子句将执行一个内部的排序和合并. 无论在哪种情况下,NOT IN都是最低效的 (因为它对子查询中的表执行了一个全表遍历). 为了避免使用NOT IN ,我们可以把它改写成外连接(Outer Joins)或NOT EXISTS. 
例子： 
（高效）SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND EXISTS (SELECT ‘X' FROM DEPT WHERE DEPT.DEPTNO = EMP.DEPTNO AND LOC = ‘MELB') 
(低效)SELECT * FROM EMP (基础表) WHERE EMPNO > 0 AND DEPTNO IN(SELECT DEPTNO FROM DEPT WHERE LOC = ‘MELB') 
（16） 识别'低效执行'的SQL语句： 
虽然目前各种关于SQL优化的图形化工具层出不穷,但是写出自己的SQL工具来解决问题始终是一个最好的方法： 
SELECT EXECUTIONS , DISK_READS, BUFFER_GETS, 
ROUND((BUFFER_GETS-DISK_READS)/BUFFER_GETS,2) Hit_radio, 
ROUND(DISK_READS/EXECUTIONS,2) Reads_per_run, 
SQL_TEXT 
FROM V$SQLAREA 
WHERE EXECUTIONS>0 
AND BUFFER_GETS > 0 
AND (BUFFER_GETS-DISK_READS)/BUFFER_GETS < 0.8 
ORDER BY 4 DESC; 
（17） 用索引提高效率： 
索引是表的一个概念部分,用来提高检索数据的效率，ORACLE使用了一个复杂的自平衡B-tree结构. 通常,通过索引查询数据比全表扫描要快. 当ORACLE找出执行查询和Update语句的最佳路径时, ORACLE优化器将使用索引. 同样在联结多个表时使用索引也可以提高效率. 另一个使用索引的好处是,它提供了主键(primary key)的唯一性验证.。那些LONG或LONG RAW数据类型, 你可以索引几乎所有的列. 通常, 在大型表中使用索引特别有效. 当然,你也会发现, 在扫描小表时,使用索引同样能提高效率. 虽然使用索引能得到查询效率的提高,但是我们也必须注意到它的代价. 索引需要空间来存储,也需要定期维护, 每当有记录在表中增减或索引列被修改时, 索引本身也会被修改. 这意味着每条记录的INSERT , DELETE , UPDATE将为此多付出4 , 5 次的磁盘I/O . 因为索引需要额外的存储空间和处理,那些不必要的索引反而会使查询反应时间变慢.。定期的重构索引是有必要的.： 
ALTER INDEX <INDEXNAME> REBUILD <TABLESPACENAME> 
18） 用EXISTS替换DISTINCT： 
当提交一个包含一对多表信息(比如部门表和雇员表)的查询时,避免在SELECT子句中使用DISTINCT. 一般可以考虑用EXIST替换, EXISTS 使查询更为迅速,因为RDBMS核心模块将在子查询的条件一旦满足后,立刻返回结果. 例子： 
(低效): 
SELECT DISTINCT DEPT_NO,DEPT_NAME FROM DEPT D , EMP E 
WHERE D.DEPT_NO = E.DEPT_NO 
(高效): 
SELECT DEPT_NO,DEPT_NAME FROM DEPT D WHERE EXISTS ( SELECT ‘X' 
FROM EMP E WHERE E.DEPT_NO = D.DEPT_NO); 
（19） sql语句用大写的；因为oracle总是先解析sql语句，把小写的字母转换成大写的再执行 
（20） 在java代码中尽量少用连接符“＋”连接字符串！ 
（21） 避免在索引列上使用NOT 通常，　 
我们要避免在索引列上使用NOT, NOT会产生在和在索引列上使用函数相同的影响. 当ORACLE”遇到”NOT,他就会停止使用索引转而执行全表扫描. 
（22） 避免在索引列上使用计算． 
WHERE子句中，如果索引列是函数的一部分．优化器将不使用索引而使用全表扫描． 
举例: 
低效： 
SELECT … FROM DEPT WHERE SAL * 12 > 25000; 
高效: 
SELECT … FROM DEPT WHERE SAL > 25000/12; 
（23） 用>=替代> 
高效: 
SELECT * FROM EMP WHERE DEPTNO >=4 
低效: 
SELECT * FROM EMP WHERE DEPTNO >3 
两者的区别在于, 前者DBMS将直接跳到第一个DEPT等于4的记录而后者将首先定位到DEPTNO=3的记录并且向前扫描到第一个DEPT大于3的记录. 
（24） 用UNION替换OR (适用于索引列) 
通常情况下, 用UNION替换WHERE子句中的OR将会起到较好的效果. 对索引列使用OR将造成全表扫描. 注意, 以上规则只针对多个索引列有效. 如果有column没有被索引, 查询效率可能会因为你没有选择OR而降低. 在下面的例子中, LOC_ID 和REGION上都建有索引. 
高效: 
SELECT LOC_ID , LOC_DESC , REGION 
FROM LOCATION 
WHERE LOC_ID = 10 
UNION 
SELECT LOC_ID , LOC_DESC , REGION 
FROM LOCATION 
WHERE REGION = “MELBOURNE” 
低效: 
SELECT LOC_ID , LOC_DESC , REGION 
FROM LOCATION 
WHERE LOC_ID = 10 OR REGION = “MELBOURNE” 
如果你坚持要用OR, 那就需要返回记录最少的索引列写在最前面. 
（25） 用IN来替换OR 
这是一条简单易记的规则，但是实际的执行效果还须检验，在ORACLE8i下，两者的执行路径似乎是相同的．　 
低效: 
SELECT…. FROM LOCATION WHERE LOC_ID = 10 OR LOC_ID = 20 OR LOC_ID = 30 
高效 
SELECT… FROM LOCATION WHERE LOC_IN IN (10,20,30); 
（26） 避免在索引列上使用IS NULL和IS NOT NULL 
避免在索引中使用任何可以为空的列，ORACLE将无法使用该索引．对于单列索引，如果列包含空值，索引中将不存在此记录. 对于复合索引，如果每个列都为空，索引中同样不存在此记录.　如果至少有一个列不为空，则记录存在于索引中．举例: 如果唯一性索引建立在表的A列和B列上, 并且表中存在一条记录的A,B值为(123,null) , ORACLE将不接受下一条具有相同A,B值（123,null）的记录(插入). 然而如果所有的索引列都为空，ORACLE将认为整个键值为空而空不等于空. 因此你可以插入1000 条具有相同键值的记录,当然它们都是空! 因为空值不存在于索引列中,所以WHERE子句中对索引列进行空值比较将使ORACLE停用该索引. 
低效: (索引失效) 
SELECT … FROM DEPARTMENT WHERE DEPT_CODE IS NOT NULL; 
高效: (索引有效) 
SELECT … FROM DEPARTMENT WHERE DEPT_CODE >=0; 
（27） 总是使用索引的第一个列： 
如果索引是建立在多个列上, 只有在它的第一个列(leading column)被where子句引用时,优化器才会选择使用该索引. 这也是一条简单而重要的规则，当仅引用索引的第二个列时,优化器使用了全表扫描而忽略了索引 
28） 用UNION-ALL 替换UNION ( 如果有可能的话)： 
当SQL 语句需要UNION两个查询结果集合时,这两个结果集合会以UNION-ALL的方式被合并, 然后在输出最终结果前进行排序. 如果用UNION ALL替代UNION, 这样排序就不是必要了. 效率就会因此得到提高. 需要注意的是，UNION ALL 将重复输出两个结果集合中相同记录. 因此各位还是要从业务需求分析使用UNION ALL的可行性. UNION 将对结果集合排序,这个操作会使用到SORT_AREA_SIZE这块内存. 对于这块内存的优化也是相当重要的. 下面的SQL可以用来查询排序的消耗量 
低效： 
SELECT ACCT_NUM, BALANCE_AMT 
FROM DEBIT_TRANSACTIONS 
WHERE TRAN_DATE = '31-DEC-95' 
UNION 
SELECT ACCT_NUM, BALANCE_AMT 
FROM DEBIT_TRANSACTIONS 
WHERE TRAN_DATE = '31-DEC-95' 
高效: 
SELECT ACCT_NUM, BALANCE_AMT 
FROM DEBIT_TRANSACTIONS 
WHERE TRAN_DATE = '31-DEC-95' 
UNION ALL 
SELECT ACCT_NUM, BALANCE_AMT 
FROM DEBIT_TRANSACTIONS 
WHERE TRAN_DATE = '31-DEC-95' 
（29） 用WHERE替代ORDER BY： 
ORDER BY 子句只在两种严格的条件下使用索引. 
ORDER BY中所有的列必须包含在相同的索引中并保持在索引中的排列顺序. 
ORDER BY中所有的列必须定义为非空. 
WHERE子句使用的索引和ORDER BY子句中所使用的索引不能并列. 
例如: 
表DEPT包含以下列: 
DEPT_CODE PK NOT NULL 
DEPT_DESC NOT NULL 
DEPT_TYPE NULL 
低效: (索引不被使用) 
SELECT DEPT_CODE FROM DEPT ORDER BY DEPT_TYPE 
高效: (使用索引) 
SELECT DEPT_CODE FROM DEPT WHERE DEPT_TYPE > 0 
（30） 避免改变索引列的类型.: 
当比较不同数据类型的数据时, ORACLE自动对列进行简单的类型转换. 
假设 EMPNO是一个数值类型的索引列. 
SELECT … FROM EMP WHERE EMPNO = ‘123' 
实际上,经过ORACLE类型转换, 语句转化为: 
SELECT … FROM EMP WHERE EMPNO = TO_NUMBER(‘123') 
幸运的是,类型转换没有发生在索引列上,索引的用途没有被改变. 
现在,假设EMP_TYPE是一个字符类型的索引列. 
SELECT … FROM EMP WHERE EMP_TYPE = 123 
这个语句被ORACLE转换为: 
SELECT … FROM EMP WHERETO_NUMBER(EMP_TYPE)=123 
因为内部发生的类型转换, 这个索引将不会被用到! 为了避免ORACLE对你的SQL进行隐式的类型转换, 最好把类型转换用显式表现出来. 注意当字符和数值比较时, ORACLE会优先转换数值类型到字符类型 
（31） 需要当心的WHERE子句: 
某些SELECT 语句中的WHERE子句不使用索引. 这里有一些例子. 
在下面的例子里, (1)‘!=' 将不使用索引. 记住, 索引只能告诉你什么存在于表中, 而不能告诉你什么不存在于表中. (2) ‘||'是字符连接函数. 就象其他函数那样, 停用了索引. (3) ‘+'是数学函数. 就象其他数学函数那样, 停用了索引. (4)相同的索引列不能互相比较,这将会启用全表扫描. 
（32） a. 如果检索数据量超过30%的表中记录数.使用索引将没有显著的效率提高. 
b. 在特定情况下, 使用索引也许会比全表扫描慢, 但这是同一个数量级上的区别. 而通常情况下,使用索引比全表扫描要块几倍乃至几千倍! 
（33） 避免使用耗费资源的操作: 
带有DISTINCT,UNION,MINUS,INTERSECT,ORDER BY的SQL语句会启动SQL引擎 
执行耗费资源的排序(SORT)功能. DISTINCT需要一次排序操作, 而其他的至少需要执行两次排序. 通常, 带有UNION, MINUS , INTERSECT的SQL语句都可以用其他方式重写. 如果你的数据库的SORT_AREA_SIZE调配得好, 使用UNION , MINUS, INTERSECT也是可以考虑的, 毕竟它们的可读性很强 
（34） 优化GROUP BY: 
提高GROUP BY 语句的效率, 可以通过将不需要的记录在GROUP BY 之前过滤掉.下面两个查询返回相同结果但第二个明显就快了许多. 
低效: 
SELECT JOB , AVG(SAL) 
FROM EMP 
GROUP by JOB 
HAVING JOB = ‘PRESIDENT' 
OR JOB = ‘MANAGER' 
高效: 
SELECT JOB , AVG(SAL) 
FROM EMP 
WHERE JOB = ‘PRESIDENT' 
OR JOB = ‘MANAGER' 
GROUP by JOB

[打一壶酱油]

[Quote=引用 5 楼 xqhrs232 的回复:]
我的情况是要在初始化的时候插入几千条记录，一条条地插入费时太长了。也就是几千0值记录
[/Quote]

假如你要 插入1000 条0值记录 到 一个有 4列的表中 ta，可以如下

insert into ta select a.*
from (select '0' as col1,'0' as col2,'0' as col3,'0' as col4) as a ,
     master..spt_values b where b.type = 'P' and number <1000

[xqhrs232]

如何提高插入10万条记录的速度

http://blog.csdn.net/luckisok/archive/2007/04/12/1562669.aspx

[xqhrs232]

分享高性能批量插入和批量删除sql语句写法

http://www.cnblogs.com/zhangql/archive/2008/09/27/1300964.html

[xqhrs232]

[Quote=引用 7 楼 abcjun188 的回复:]
引用 5 楼 xqhrs232 的回复:
我的情况是要在初始化的时候插入几千条记录，一条条地插入费时太长了。也就是几千0值记录


假如你要 插入1000 条0值记录 到 一个有 4列的表中 ta，可以如下


SQL code
insert into ta select a.*
from (select '0' as col1,'0' as col2,'0' as col3,'……
[/Quote]

我的是SQLITE数据库，还没发现直接执行SQL语句的方法。

[qthsrs232]

SQLite 插入速度的确慢，插入一个记录要 100ms 左右

http://bbs.gimoo.net/thread/71557-1.html

[qthsrs232]

关于sqlite3速度慢的原因解决方法

http://www.111cn.net/database/mysql/33751.htm

关于sqlite3速度慢的原因解决方法

在对sqlite3 insert into 等操作时速度比较慢。

原因是因为它是已文件的形式存在磁盘中，每次访问时都要打开一次文件，

如果对数据库教程进行大量的操作，那时很慢。

解决办法用事务的形式提交：因为我们开始事务后，进行的大量操作的语句都保存在

内存中，当提交时才全部写入数据库，此时，数据库文件也就只用打开一次。

在进行大量的操作前使用如下语句：

rc = sqlite3_exec(db, "begin;", 0,0, &szerrmsg);

for (...)

{

//insert into operate

}
rc = sqlite3_exec(db, "commit;", 0, 0,&szerrmsg);这样速度提高了近千倍。

更多详细内容请查看：http://www.111cn.net/database/mysql/33751.htm

[qthsrs232]

SQLite大量插入的效率问题

http://www.cnblogs.com/rader/articles/1543760.html

这两天再做一个数据转换的程序，讲原来用二进制形势存储的数据转换到SQLite数据库中去。记录总共有1千万多点。开发使用的是.net framework 3.5 sp1的环境，所以直接使用了EntityFramework方便数据库的操作。EntityFramework倒是省了一些事情，可是效率上让人无法忍受。整个程序运行一次花了40多分钟。利用EntityFramework，首先从数据库生成模型，然后我这样来保存数据： 

view sourceprint?1 using (GameSetEntities gse = new GameSetEntities(CreateConnection()))  

2 {  

3     foreach (var ticket in tickets)  

4     {  

5         gse.AddToShuffledTicketSet(ticket);  

6     }  

7     gse.SaveChanges(true);  

8 } 


Ticket是我要插入数据库中的记录。一千多万条记录，我是分成5000条一批进行处理的。5000条记录先被添加到GameSetEntities（DataContext）中，然后进行提交。

利用StopWatch，我记录了这5000条记录插入数据库所消耗的时间，平均是1.1秒。（2080 * 1.1）/60 大约是36分钟，也就是说整个程序的运行时间中有80%多的时间是花在了数据库的插入操作上。插入5000条记录平均花费1.1秒，这个速度实在太慢了。我开始怀疑是不是EntityFramework效率问题？既然这样那就比比看吧，看看纯粹的ado.net代码是不是比它快。下面是纯手工的数据库操作代码： 
 

view sourceprint?01 using (DbConnection conn = DbProviderFactories.GetFactory("System.Data.SQLite").CreateConnection())  

02             {  

03                 conn.ConnectionString = "Data Source = " + m_datasourceFile + ";Version = 3";  

04                 using (SQLiteCommand insertRngCmd = (SQLiteCommand)conn.CreateCommand())  

05                 {  

06                     insertRngCmd.CommandText = @"INSERT INTO shuffled_tickets (ticket_idx, seed, win_credits, [timestamp], redeemed, prog_levels)  

07                                                     VALUES  (@ticket_idx, @seed, @win_credits, @timestamp, @redeemed, @prog_levels)";  

08                     conn.Open();   

09    

10                     foreach (var ticket in tickets)  

11                     {  

12                         insertRngCmd.Parameters.AddWithValue("@ticket_idx", ticket.ticket_idx);  

13                         insertRngCmd.Parameters.AddWithValue("@seed", ticket.seed);  

14                         insertRngCmd.Parameters.AddWithValue("@win_credits", ticket.win_credits);  

15                         insertRngCmd.Parameters.AddWithValue("@timestamp", ticket.timestamp);  

16                         insertRngCmd.Parameters.AddWithValue("@redeemed", ticket.redeemed);  

17                         insertRngCmd.Parameters.AddWithValue("@prog_levels", ticket.prog_levels);   

18    

19                         insertRngCmd.ExecuteNonQuery();  

20                     }  

21                 }  

22             } 

这样的代码一运行，发现速度更慢了，5000记录居然要20秒的时间……看来问题不是在这里。

Google一番之后，在Sqlite.net ADO Provider的论坛里发现这篇文章：Fastest Bulk Inserts.在最后一个例子“Fastest universal way to insert data using standard ADO.NET constructs”中作者提到“100,000 inserts on my machine in 1.4 seconds”--10万条记录插入耗时1.4秒。我才5000条不应该需要20秒那么慢的（用EntityFramework需要1.1秒，后来分析应该是内部使用了批量插入操作），看来是我的代码写的有问题。仔细阅读了作者给的例子之后发现，我们代码的差别主要在于事务的使用上。作者给的例子使用事务一次性提交10万条记录，而我的代码没有使用事务，而是每次提交。于是我改写了一下我的代码，也加上事务进行提交： 


view sourceprint?01 using (DbConnection conn = DbProviderFactories.GetFactory("System.Data.SQLite").CreateConnection())  

02 {  

03     conn.ConnectionString = "Data Source = " + m_datasourceFile + ";Version = 3";  

04        

05     using (SQLiteCommand insertRngCmd = (SQLiteCommand)conn.CreateCommand())  

06     {  

07         insertRngCmd.CommandText = @"INSERT INTO shuffled_tickets (ticket_idx, seed, win_credits, [timestamp], redeemed, prog_levels)  

08                                         VALUES  (@ticket_idx, @seed, @win_credits, @timestamp, @redeemed, @prog_levels)";  

09         conn.Open();  

10         var transaction = conn.BeginTransaction();     

11   

12         foreach (var ticket in tickets)  

13         {  

14             insertRngCmd.Parameters.AddWithValue("@ticket_idx", ticket.ticket_idx);  

15             insertRngCmd.Parameters.AddWithValue("@seed", ticket.seed);  

16             insertRngCmd.Parameters.AddWithValue("@win_credits", ticket.win_credits);  

17             insertRngCmd.Parameters.AddWithValue("@timestamp", ticket.timestamp);  

18             insertRngCmd.Parameters.AddWithValue("@redeemed", ticket.redeemed);  

19             insertRngCmd.Parameters.AddWithValue("@prog_levels", ticket.prog_levels);  

20   

21             insertRngCmd.ExecuteNonQuery();  

22         }  

23         transaction.Commit();  

24     } 




结果5000条记录的插入时间由原来的1.1秒变为0.09秒，这是一个非常大的提升。

但是为什么加上一个事务之后的差别这么大呢？我翻了翻Sqlite的文档，“Database Speed Comparison”里有解释：

在“Test1：1000 INSERTS”下面有一句话：……“In this test, each SQL statement is a separate transaction so the database file must be opened and closed and the cache must be flushed 1000 times”……

在“Test 2:25000 INSERT in a transaction”下面有另外一句话：……“When all the INSERTs are put in a transaction, SQLite no longer has to close and reopen the database or invalidate its cache between each statement. ”……

从上面两句话看来，没有事务的时候，SQLite的插入操作使用了太多的IO操作，而是用事务的话，只需要一次IO。

[xqhrs232]

SQLite速度评测代码

http://www.cppblog.com/woaidongmao/archive/2009/06/19/88103.html

今天有个朋友测试 SQLite，然后得出的结论是：SQLite 效率太低，批量插入1000条记录，居然耗时 2 分钟！ 
下面是他发给我的测试代码。我晕~~~~~~ 
using System.Data; 
using System.Data.Common; 
using System.Data.SQLite; 
// 创建数据库文件 
File.Delete("test1.db3"); 
SQLiteConnection.CreateFile("test1.db3"); 
DbProviderFactory factory = SQLiteFactory.Instance; 
using (DbConnection conn = factory.CreateConnection()) 
{ 
// 连接数据库 
conn.ConnectionString = "Data Source=test1.db3"; 
conn.Open(); 
// 创建数据表 
string sql = "create table [test1] ([id] INTEGER PRIMARY KEY, [s] TEXT COLLATE NOCASE)"; 
DbCommand cmd = conn.CreateCommand(); 
cmd.Connection = conn; 
cmd.CommandText = sql; 
cmd.ExecuteNonQuery(); 
// 添加参数 
cmd.Parameters.Add(cmd.CreateParameter()); 
// 开始计时 
Stopwatch watch = new Stopwatch(); 
watch.Start(); 
// 连续插入1000条记录 
for (int i = 0; i < 1000; i++) 
{ 
cmd.CommandText = "insert into [test1] ([s]) values (?)"; 
cmd.Parameters[0].Value = i.ToString(); 
cmd.ExecuteNonQuery(); 
} 
// 停止计时 
watch.Stop(); 
Console.WriteLine(watch.Elapsed); 
} 
哎~~~~ 一个常识性的错误，我加几行代码 (新增代码标记 "// <-------------------")。 
using System.Data; 
using System.Data.Common; 
using System.Data.SQLite; 
// 创建数据库文件 
File.Delete("test1.db3"); 
SQLiteConnection.CreateFile("test1.db3"); 
DbProviderFactory factory = SQLiteFactory.Instance; 
using (DbConnection conn = factory.CreateConnection()) 
{ 
// 连接数据库 
conn.ConnectionString = "Data Source=test1.db3"; 
conn.Open(); 
// 创建数据表 
string sql = "create table [test1] ([id] INTEGER PRIMARY KEY, [s] TEXT COLLATE NOCASE)"; 
DbCommand cmd = conn.CreateCommand(); 
cmd.Connection = conn; 
cmd.CommandText = sql; 
cmd.ExecuteNonQuery(); 
// 添加参数 
cmd.Parameters.Add(cmd.CreateParameter()); 
// 开始计时 
Stopwatch watch = new Stopwatch(); 
watch.Start(); 
DbTransaction trans = conn.BeginTransaction(); // <------------------- 
try 
{ 
// 连续插入1000条记录 
for (int i = 0; i < 1000; i++) 
{ 
cmd.CommandText = "insert into [test1] ([s]) values (?)"; 
cmd.Parameters[0].Value = i.ToString(); 
cmd.ExecuteNonQuery(); 
} 
trans.Commit(); // <------------------- 
} 
catch 
{ 
trans.Rollback(); // <------------------- 
throw; // <------------------- 
} 
// 停止计时 
watch.Stop(); 
Console.WriteLine(watch.Elapsed); 
} 
执行一下，耗时 0.2 秒。这差距是不是太大了点？ 
为什么只是简单启用了一个事务会有这么大的差距呢？很简单，SQLite 缺省为每个操作启动一个事务，那么原代码 1000 次插入起码开启了 1000 个事务，"事务开启 + SQL 执行 + 事务关闭" 自然耗费了大量的时间，这也是后面显示启动事务后为什么如此快的原因。其实这是数据库操作的基本常识，大家要紧记，不好的代码效率差的不是一点半点。

[xqhrs232]

如何提高插入表记录的速度

http://www.itpub.net/thread-552500-1-3341.html

[gw6328]

好你没有什么好方法可以提高写入速度。
基本的要

[快溜]

天河-1A每秒钟能进行2507万亿次计算。这使得它比目前被评为世界最快的电脑还快1.4倍

[打一壶酱油]

你可以 把每次计算得出的结果 union ，然后只用一个 insert 语句就可以了，如

insert into tb select 1,2,3,4 union all
select 5,2,3,4 union all
select 2,2,3,4 union all
select 3,2,3,4 union all
select 1,2,3,4

在前台拼接这个 sql应该不麻烦吧