详解数据泵EXPDP、IMPDP规范及相关技巧
sinye56 2024-10-03 00:34 3 浏览 0 评论
概述
Oracle备份方式主要分为数据泵导出备份、热备份与冷备份三种,数据泵导出/导入属于逻辑备份,热备份与冷备份都属于物理备份。oracle10g开始推出了数据泵(expdp /impdp),可以使用并行参数选项,因此,相对于传统的exp命令来说,执行效率更高。
今天主要分享下EXPDP、IMPDP规范和一些技巧。
一、并行提升速度
在EXPDP/IMPDP过程中,为了提升速度,而使用并行,有人说不就是加个parallel=n参数嘛,但该如何利用该参数做到真正提升速度呢?
1、单表导出导入数据时使用parallel=n参数无效
2、导入(IMPDP)索引过程中是串行的方式,虽然在执行计划中看到建索引时是带并行参数,但建议使用sqlfile参数生成语句的方式建索引,避免因创建了结构后,再导入数据,这样就会变得异常慢。大概步骤如下:
cat >expdp_testdump.par <<EOF userid='/ as sysdba' directory=datadump dumpfile=expdp_testdump_%U.dmp logfile=expdp_testdump.log cluster=no parallel=2 exclude= index,constraint EOF --排除索引和约束,执行导入 nohup impdp parfile=expdp_testdump.par > expdp_testdump.par.out & --通过sqlfile参数生成创建索引语句 cat >impdp_testdump_idx.par <<EOF userid='/ as sysdba' directory=datadump dumpfile=expdp_testdump_%U.dmp sqlfile=impdp_testdump_idx.sql logfile=impdp_testdump_idx.log cluster=no parallel=2 tables=scott.testdump include=index,constraint EOF --执行生成创建索引语句(实际并不会导入) nohup impdp parfile= impdp_testdump_idx.par > impdp_testdump_idx.par.out & --修改创建索引的并行度,并行度建议不超过CPU核数的1.5倍 --LINUX环境使用 sed -i 's/PARALLEL 1/PARALLEL 16/g' impdp_testdump_idx.sql --因AIX环境sed没有-i参数,可以使用如下两种方法: perl -pi -e 's/ PARALLEL 1/PARALLEL 16/g' impdp_testdump_idx.sql 或者 vi impdp_testdump_idx.sql << EOF :%s/ PARALLEL 1/PARALLEL 16/g :wq EOF --等导入完数据之后,执行建索引的SQL: cat create_testdump_index.sh . ~/.profile sqlplus / as sysdba <<EOF set timing on set echo on set verify on spool create_testdump_index.log @impdp_testdump_idx.sql spool off exit EOF --执行建索引的SQL nohup sh create_testdump_index.sh> create_testdump_index.sh.out &
以上可能看起来简单的事变的复杂,步骤多了,本来一个参数能解决的事(实际也不能解决),这个步骤已经经过多次实践,解决索引不能并行建的问题。
3、在线调整并行度
当导出导入动作已经发起后,发现并行还可以加大,或者需要减少,该怎么办?
expdp \'\/ as sysdba\' attach=SYS_EXPORT_SCHEMA_01
再执行paralele n就可以调整。
二、含LOB大表导出技巧
在导出含LOB字段的大表时,表未分区,并且表大小已过TB,在导出过程中经常遇到因undo表空间大小和undo_retention设置保留时间,导致ORA-01555: snapshot too old的报错。那该怎么避免呢?
通过rowid或者主键的方式分批导出(推荐使用rowid)
--创建一个表用于记录要导出表的rowid,并分批,这里分成50 create table scott.exp_rowid as select mod(rownum,50) sou_seq,rowid sou_rowid from scott.lobtest; --根据分批次数生成对应的parfile文件 cat >expdp_lobtest_seq0.par <<EOF userid='/ as sysdba' directory=datadump dumpfile=expdp_lobtest_%U.dmp logfile=expdp_lobtest.log cluster=no tables=scott.lobtest query="where rowid in (select sou_rowid from scott.exp_rowid where sou_seq=0)" EOF --执行导出 nohup expdp expdp_lobtest_20181219_seq0.par > expdp_lobtest_seq0.par.out & ….. nohup expdp expdp_lobtest_20181219_seq50.par > expdp_lobtest__seq50.par.out & 分成50个批次导出,可通过循环生成导出脚本
或者通过如下脚本:
chunk=10 for ((i=0;i<=9;i++)); do expdp /as sysdba TABLES=LOBTEST QUERY=LOBTEST:\"where mod\(dbms_rowid.rowid_block_number\(rowid\)\, ${chunk}\) = ${i}\" directory=DMP dumpfile=lobtest_${i}.dmp logfile= lobtest_${i}.log & echo $i done
三、进度查询和监控
当领导问你导出数据进度时,会不会手忙脚乱的,无从查起?当然,作为一个负责任的DBA,实时的知道导出导入的进度,是必须掌握的技能。
1、 查看数据泵作业的运行情况
select owner_name owr,job_name jbn,operation ope,job_mode jbm,state,degree, attached_sessions atts,datapump_sessions dats from dba_datapump_jobs; select sid, serial#,session_type from v$session s, dba_datapump_sessions d where s.saddr = d.saddr;
2、监控数据泵的逻辑备份程度
SELECT sid, serial#, context, sofar, totalwork, ROUND(sofar/totalwork*100,2) "%_COMPLETE" FROM v$session_longops WHERE totalwork != 0 AND sofar <> totalwork; SID SERIAL# CONTEXT SOFAR TOTALWORK %_COMPLETE 103 89 0 54 7 83.33
3、查看数据泵的详细进度
expdp \'\/ as sysdba\' attach= SYS_IMPORT_TABLE_01 Import> status Job: SYS_IMPORT_TABLE_01 Operation: IMPORT Mode: TABLE State: EXECUTING Bytes Processed: 1,364,791,288 Percent Done: 99 Current Parallelism: 2 Job Error Count: 0 Dump File: /opt/datadump/expdp_testdump.dmp
后面会分享更多devops和DBA方面的内容,感兴趣的朋友可以关注下~
相关推荐
- Linux两种光驱自动挂载的方法
-
环境:CentOS6.4西昆云服务器方式一修改fstab文件/etc/fstab是系统保存文件系统信息?静态文件,每一行描述一个文件系统;系统每次启动会读取此文件信息以确定需要挂载哪些文件系统。参...
- linux系统运维,挂载和分区概念太难?在虚机下操作一次全掌握
-
虚拟机的好处就是可以模拟和学习生产环境的一切操作,假如我们还不熟悉磁盘操作,那先在虚机环境下多操作几次。这次来练习下硬盘扩容操作。虚拟机环境:centos8vm11linux设备命名规则在linux中...
- Linux 挂载 NFS 外部存储 (mount 和 /etc/fstab)
-
mount:手工挂载,下次重启需再重新挂载,操作命令:mount-tnfs-ooptionsserver:/remote/export/local/directory上面命令中,本地目录...
- 在Linux中如何设置自动挂载特定文件系统(示例)
-
Linux...
- Linux环境中的绑定挂载(bind mount)
-
简介:Linux中的mount命令是一个特殊的指令,主要用于挂载文件目录。而绑定挂载(bindmount)命令更为特别。mount的bind选项将第一个目录克隆到第二个。一个目录中的改变将会在...
- Linux挂载CIFS共享 临时挂载 1. 首先
-
如何解决服务器存储空间不足的问题?大家好,欢迎回来。在上一期视频中,我为大家介绍了如何利用Linux挂载来扩容服务器存储空间。这一期视频,我将以Linux为例,教大家如何进行扩容。群辉使用的是Linu...
- Linux 硬盘挂载(服务器重启自动挂载)
-
1、先查看目前机器上有几块硬盘,及已挂载磁盘:fdisk-l能够查看到当前主机上已连接上的磁盘,以及已经分割的磁盘分区。(下面以/dev/vdb磁盘进行分区、挂载为例,挂载点设置为/data)df...
- linux 挂载磁盘
-
在Linux中挂载硬盘的步骤如下:...
- 笨小猪教您Linux磁盘挂载
-
本教程针对Linux系统比较熟悉或者想学习Linux基础的用户朋友,本教程操作起来比较傻瓜式,跟着步骤就会操作,本文使用的工具是XShell同时多多注意空格(文中会有提示)。【问答】什么是磁盘挂载?答...
- Linux 磁盘挂载和docker安装命令
-
本篇给大家介绍Linux磁盘挂载和docker安装的相关内容,Linux服务器的操作是一个手熟的过程,一些不常用的命令隔断时间就忘记了,熟话说好记性不如烂笔头,还需在平时的工作中多练习记录。...
- Linux设置开机自动挂载分区
-
有时候,我们在安装完Linux系统之后,可能在使用过程中添加硬盘或者分区进行使用,这时候就需要手动把磁盘分区挂载到某个路径,但是开机之后就会消失,需要重新挂载,非常麻烦,那么我们应该如何设置开机自动挂...
- 在linux挂载一个新硬盘的完整步骤
-
以下是在Linux中挂载新原始磁盘的完整步骤,包括分区、创建文件系统以及使用UUID在/etc/fstab中启动时挂载磁盘:将新的原始磁盘连接到Linux系统并打开电源。运行以下命令,...
- Linux系统如何挂载exFAT分区
-
简介:Linux系统中不能像Windows系统那样自动识别加载新设备,需要手动识别,手动加载。Linux中一切皆文件。文件通过一个很大的文件树来组织,文件树的根目录是:/,从根目开始录逐级展开。这些文...
- Linux系统挂载硬盘
-
fdisk-l查看可挂载的磁盘都有哪些df-h查看已经挂载的磁盘...
- WSL2发布,如何在Win10中挂载Linux文件系统
-
WSL2是最新版本的架构,它为Windows子系统提供支持,使其能够在Windows上运行ELF64Linux二进制文件。通过最近的更新,它允许使用Linux文件系统访问存储在硬盘中的文件。如果你...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- oracle忘记用户名密码 (59)
- oracle11gr2安装教程 (55)
- mybatis调用oracle存储过程 (67)
- oracle spool的用法 (57)
- oracle asm 磁盘管理 (67)
- 前端 设计模式 (64)
- 前端面试vue (56)
- linux格式化 (55)
- linux图形界面 (62)
- linux文件压缩 (75)
- Linux设置权限 (53)
- linux服务器配置 (62)
- mysql安装linux (71)
- linux启动命令 (59)
- 查看linux磁盘 (72)
- linux用户组 (74)
- linux多线程 (70)
- linux设备驱动 (53)
- linux自启动 (59)
- linux网络命令 (55)
- linux传文件 (60)
- linux打包文件 (58)
- linux查看数据库 (61)
- linux获取ip (64)
- 关闭防火墙linux (53)