百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 优雅编程 > 正文

解决方案 | GreatDB助力运营商历史库实现海量数据全生命周期管理

sinye56 2024-10-10 10:59 2 浏览 0 评论

数字时代的发展使得电信运营商行业的业务系统产生大量的业务数据,且数据量随着时间的增长呈现指数级增长,历史数据的访问频率则随着时间的推移越来越低。

电信运营商行业原线上业务的大批数据要做历史数据库的归档业务,以防止业务数据库的持续增长带来业务访问性能瓶颈等问题。

此次建设的GreatDB分布式数据库集群不仅能满足迁移大批量历史数据,包括营业、账务、资源、结算、计费等各类历史数据的需求,万里数据库还提供迁移工具GreatDTS,将历史库从Oracle源数据同步迁移到GreatDB,实现数据的统一集中化管理


运营商行业历史库对数据库有哪些需求?

  • 灵活可扩展运营商行业历史库对线上业务大量数据做归档处理,由于运营商每天都会产生大量的业务数据,导致历史库存储的数据量持续不断增长,要求数据库能够按需扩容节点,以满足不断增长的数据存储需求;
  • 配备完善配套工具运营商行业历史库以往大部分采用Oracle数据库,历史库迁移需从源多实例Oracle全量迁移到目标端数据库,按月从Oracle多实例数据同步到目标端数据库并按月备份。因此,要求配备完善的数据库配套工具,以便进行数据的迁移、同步、备份等工作;
  • 高压缩比历史库中存储着大量的数据,需要压缩以节省硬件成本,因此要求数据库拥有高压缩比的功能;
  • 查询快速响应历史库存储营业数据、账务、资源、计费数据等大量业务数据,即席的历史数据查询及为其他业务提供大批量数据抽取等业务都要求历史库查询快速响应。


GreatDB分布式集群解决方案

实现海量数据的全生命周期管理

针对运营商行业历史库场景,万里数据库制定如下解决方案:


该方案主要具备以下优势特点:

  • 数据迁移自动化:采用自主研发的数据库迁移工具GreatDTS,实现从Oracle源数据库到万里数据库的全量迁移。GreatDTS提供Oracle库表结构、数据到GreatDB灵活、便捷、高效的全自动迁移及Oracle数据库对象到GreatDB的半自动迁移;
  • 实现全量多实例数据同步:采用自主研发的数据库同步工具GreatSync,实现全量或按月从Oracle多实例数据同步到GreatDB,并支持从GreatDB中少量数据同步到测试环境或生产环境Oracle中;
  • 支持多种数据备份方式:逻辑备份支持mysqldump、mydumper、outfile导出,物理备份使用cds备份方式;
  • 备份恢复灵活:单表恢复方法使用逻辑备份导入恢复,物理恢复方法支持停应用,物理迁移重做从库方法;
  • 高压缩比数据存储:GreatDB提供高压缩比的存储引擎,减少数据量存储和资源投入;
  • 全生命周期运维管理:提供自主研发的数据库运维管理工具GreatDB RDS,覆盖数据库的全生命周期运维管理,降低数据库管理难度。




大数据时代,业务系统中的海量数据给运营商行业在内的各行业企事业单位的生产经营及业务运转带来了巨大的挑战,如何合理地进行数据的统一存储、管理、分析与应用、最大化发挥数据价值成为企业亟需解决的问题。

运营商行业历史库储存着海量数据,且数据量持续增长。本项目采用GreatDB分布式数据库集群解决方案,提供自主研发的GreatDTS迁移工具,完成大量数据及异构数据库之间的迁移。万里数据库的shared-nothing分布式架构满足横向扩展的需求,使用GreatDB高压缩比例的存储引擎完成数据回档,减少数据量存储及资源投入,满足机器投入少、业务要求高、高性能且高并发的业务场景。

此外,万里数据库还提供统一的运维管理平台GreatDB RDS,实现数据库全生命周期的运维管理,降低数据库运维难度。

通过GreatDB分布式数据库、GreatDTS迁移工具、GreatDB RDS运维管理平台在内的GreatDB分布式集群整体解决方案,最终帮助运营商行业历史库实现整个业务系统中海量数据的全生命周期管理,成功破解数据集中化管理难题!

相关推荐

Linux基础知识之修改root用户密码

现象:Linux修改密码出现:Authenticationtokenmanipulationerror。故障解决办法:进入单用户,执行pwconv,再执行passwdroot。...

Linux如何修改远程访问端口

对于Linux服务器而言,其默认的远程访问端口为22。但是,出于安全方面的考虑,一般都会修改该端口。下面我来简答介绍一下如何修改Linux服务器默认的远程访问端口。对于默认端口而言,其相关的配置位于/...

如何批量更改文件的权限

如果你发觉一个目录结构下的大量文件权限(读、写、可执行)很乱时,可以执行以下两个命令批量修正:批量修改文件夹的权限chmod755-Rdir_name批量修改文件的权限finddir_nam...

CentOS「linux」学习笔记10:修改文件和目录权限

?linux基础操作:主要介绍了修改文件和目录的权限及chown和chgrp高级用法6.chmod修改权限1:字母方式[修改文件或目录的权限]u代表所属者,g代表所属组,o代表其他组的用户,a代表所有...

Linux下更改串口的权限

问题描述我在Ubuntu中使用ArduinoIDE,并且遇到串口问题。它过去一直有效,但由于可能不必要的原因,我觉得有必要将一些文件的所有权从root所有权更改为我的用户所有权。...

Linux chown命令:修改文件和目录的所有者和所属组

chown命令,可以认为是"changeowner"的缩写,主要用于修改文件(或目录)的所有者,除此之外,这个命令也可以修改文件(或目录)的所属组。当只需要修改所有者时,可使用...

chmod修改文件夹及子目录权限的方法

chmod修改文件夹及子目录权限的方法打开终端进入你需要修改的目录然后执行下面这条命令chmod777*-R全部子目录及文件权限改为777查看linux文件的权限:ls-l文件名称查看li...

Android 修改隐藏设置项权限

在Android系统中,修改某些隐藏设置项或权限通常涉及到系统级别的操作,尤其是针对非标准的、未在常规用户界面显示的高级选项。这些隐藏设置往往与隐私保护、安全相关的特殊功能有关,或者涉及开发者选项、权...

完蛋了!我不小心把Linux所有的文件权限修改了!在线等修复!

最近一个客户在群里说他一不小心把某台业务服务器的根目录权限给改了,本来想修改当前目录,结果执行成了根目录。...

linux改变安全性设置-改变所属关系

CentOS7.3学习笔记总结(五十八)-改变安全性设置-改变所属关系在以前的文章里,我介绍过linux文件权限,感兴趣的朋友可以关注我,阅读一下这篇文章。这里我们不在做过的介绍,注重介绍改变文件或者...

Python基础到实战一飞冲天(一)--linux基础(七)修改权限chmod

#07_Python基础到实战一飞冲天(一)--linux基础(七)--修改权限chmod-root-groupadd-groupdel-chgrp-username-passwd...

linux更改用户权限为root权限方法大全

背景在使用linux系统时,经常会遇到需要修改用户权限为root权限。通过修改用户所属群组groupid为root,此操作只能使普通用户实现享有部分root权限,普通用户仍不能像root用户一样享有超...

怎么用ip命令在linux中添加路由表项?

在Linux中添加路由表项,可以使用ip命令的route子命令。添加路由表项的基本语法如下:sudoiprouteadd<network>via<gateway>这...

Linux配置网络

1、网卡名配置相关文件回到顶部网卡名命名规则文件:/etc/udev/rules.d/70-persistent-net.rules#PCIdevice0x8086:0x100f(e1000)...

Linux系列---网络配置文件

1.网卡配置文件在/etc/sysconfig/network-scripts/下:[root@oldboynetwork-scripts]#ls/etc/sysconfig/network-s...

取消回复欢迎 发表评论: