sql2008使用merge语句实现数据差异传输

arrow_gx arrow_gx 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区
最近数据库升级到2008,研究了一下,发现有一个很好用的新功能,merge 语句加上存储过程,可以实现数据的差异传输,源表的增删改,都可以使用 merge 语句,把数据更改应用到目标表上,我们原来一个2亿多条记录的表,完全传输一次需要3个多小时,使用这个方法进行数据传输,首次花的时间和原来差不多,但是在以后的每次的作业里面,看到传输时间只有不到 10分钟了,经大量数据抽样检查,数据是完全相同的,通过优化,还可以增加作业的频率,实现数据更短的时间差,这对于表比较大,而且需要进行不定期同步的情况来说,节省了不少时间,当然,数据库镜像 和 数据发布订阅也能解决这个问题,但是对应用比较简单,数据同步实时性要求不到,数据量巨大的情况,这个方法部署起来还是相对简单一些的,呵呵


这个方法非常实用,发出来让大家分享一下,也欢迎各位大侠提出更好的解决办法


1:先在目标服务器上建立一个到源服务器的链接服务器,名字 xx2008(比较简单,不详细说了)

2:在表里面,增加一个字段 updatetime,记录数据更新时间,同时表里面要有 id 自动增加字段

3:以原库名 c_001 , t_001 表为例,以在目标服务器上建立存储过程(这是例程,要提高效率的话,还可以优化过程)

4:建立作业,定时调用存储过程



Create PROCEDURE [dbo].[backup_001]

AS
BEGIN

SET NOCOUNT ON;

SET IDENTITY_Insert t_001 ON
merge t_001 d
using
(SELECT * FROM OPENQUERY (xx2008 ,'select * from c_001.dbo.t_001' ) ) s
on (d.id=s.id and d.updatetime<>s.updatetime)
WHEN NOT MATCHED BY SOURCE THEN delete
when matched then
update set
d.f1=s.f1,
d.f2=s.f2,
d.f3=s.f3,
......
d.updatetime=s.updatetime
when not matched then
insert (d.f1,d.f2,d.f3,......d.updatetime)
values (s.f1,s.f2,s.f3,......s.updatetime);
SET IDENTITY_Insert t_001 OFF




END


...全文

相关推荐

SQLServer 2008中SQL增强之三 Merge(在一条语句中使用Insert,Update,Delete)

SQLServer 2008中SQL增强之三 Merge(在一条语句中使用Insert,Update,Delete)SQL Server 2008中提供了一个增强的SQL命令Merge,用法参看MSDN

weixin_38673798

华为GaussDB数据库:MERGE语句实现“有则更新无则插入”深度解析

GaussDB的MERGE INTO语句是一种高效的数据合并操作,将传统UPSERT流程整合为原子性操作。其核心优势包括: 单次扫描完成匹配判断与数据操作,避免重复I/O 性能提升显著,测试显示比传统方式快4.2倍,网络流量减少80% 语法灵活,支持多条件分支,完整覆盖&quot;有则更新,无则插入&quot;场景 锁优化,降低并发冲突概率,特别适合HStore表的高并发场景 使用时应确保: 执行用户具备目标表INSERT/UPDATE和源表SELECT权限 关联列建立索引以优化连接性能 复杂子查询需评估执

Clf丶忆笙

Merge-Sql.zip

这需要对数据库的特性和事务管理有深入理解,以确保数据操作的原子性和一致性。此外,我们还要注意不同数据库对MERGE语句的实现可能存在差异。

寒冰屋

SQL Server Merger实现数据的同步

本文旨在介绍一种更为简便的方法——利用SQL Server 2008新增的`MERGE`语句来实现数据同步与合并。

Mike_Ke

Kettle 合并记录和Merge Join组件实现数据增量迁移(数据同步比插入更新快

在数据同步场景中,Merge Join可以依据指定的条件(通常为主键)将新数据与目标数据库中的数据进行对比,从而找出差异,实现增量更新。

weixin_38669628
评论 81
收藏 已收藏
分享
返回顶部
arrow_gx
应用实例 27,579 成员 68,540 内容