NineData:一键ETL,300+函数秒解数据迁移加工
liebian365 2025-01-29 16:44 12 浏览 0 评论
数据迁移有多难?这个问题在不同的迁移场景下通常有不同的答案,如果是单纯的把源端的数据迁移同步到目标端,就相对比较好实现;而在另一种场景下,源库中的数据需要经过加工再汇入至目标,相较于前者,这种数据迁移就非常具有挑战性了。
对于有数据加工需求的数据迁移场景,步骤通常包括从源库提取数据,然后基于用户的规则进行转换,最终把处理完成的数据加载到目标系统中,这整个过程就叫做 ETL(Extract 提取、Transform 转换、Load 加载),在目前的互联网企业中,ETL 需求场景多且丰富,例如:
- 数据清洗:移除不符合要求的手机号、去除多余空格或字符等。
- 数据标准化:统一数据格式,例如处理日期字段,丢弃时分秒,仅保留年月日。
- 信息提取:从目标字段提取需要的信息,例如从身份证号中提取户籍、性别、出生年月日。
- JSON 处理:处理 JSON 字段,例如将源库 JSON 中所有字段转换为列。
- 列处理:增减列、列名批量修改。
在 ETL 需求的前提下,可选的迁移产品范围也进一步缩小,能用并且好用的产品已经是凤毛麟角了,在该领域产品中,好的产品价格昂贵,也有一些开源产品可供选择,但是由于不支持增量复制,业务适配性并不是很高。
大部分用户想要的产品,需要满足价格低、支持增量数据 ETL、支持可视化界面 、性能高、运行稳定等需求,而 NineData 数据复制功能也在近期的更新中,支持了 ETL,提供了 300 多个 ETL 函数,几乎可以覆盖所有常用的 ETL 场景。
最重要的是,NineData 提供了 10 条免费的数据复制额度,其中还包含了一条增量额度,可满足大部分轻度用户免费使用。那么怎么样才能有效率地进行 ETL 呢?接下来,我们就来演示一下。
以一个常见的 ETL 场景为例,在数据分析时,我们往往只需要统计某个特定日期的用户访问量,而日期通常包含了年月日时分秒信息,为了优化查询性能,我们需要降低日期精度来减少计算资源的开销,因此,仅保留年月日即可实现我们的目标。
步骤一:录入数据源
将源和目标数据源全部录入到 NineData 平台。
步骤二:配置同步链路 ETL 规则
1. 登录 NineData 控制台,单击数据复制>数据复制,然后单击创建复制。
2. 任务配置流程进行到配置映射步骤时,单击目标表右侧的映射与过滤。
3. 由于我们需要将源表 created_date 列的时间截断至年月日,丢弃时分秒信息,所以需要使用内置的函数对该列进行转换处理。我们尝试如下 ETL 配置。
- 单击目标字段中间的字段表达式文本框。
- 在弹出的窗口中,找到需要使用的函数,并复制函数体,本示例中选用了 dateutils_truncate 函数。
- 将函数体粘贴到等号(=)后方的表达式文本框,并配置参数,该函数接受两个参数,第一个是时间字段的名称,第二个是时间精度,上图中的示例 dateutils_truncate(created_date, 5) 表示截断 created_date 字段的时分秒信息,保留年月日。
- 单击提交。
4. 配置完成后,单击右下角的确定,就完成了 ETL 的配置,当任务启动后,源中的 created_date 就会以该 ETL 配置进行加工,然后加载到目标端,我们来看下迁移完成后的最终效果。
总结
在完成迁移后,可以看到目标中的日期精度已经变成了年月日,实现了我们的目标,在增量任务中,业务中新写入的 created_date 也会以同样的形式被同步迁移至目标端,保留这条任务,就可以长期、稳定、无需人工干预地实现 ETL。
本文中提到的所有场景以及演示内容仅仅只是 ETL 功能的冰山一角,NineData 提供的 300 多个函数,每个都具有不同的能力,可以处理各种字符串、时间、JSON 的转换操作,也可以处理复杂的数学运算,可满足各种刁钻的 ETL 场景。
相关推荐
- 4万多吨豪华游轮遇险 竟是因为这个原因……
-
(观察者网讯)4.7万吨豪华游轮搁浅,竟是因为油量太低?据观察者网此前报道,挪威游轮“维京天空”号上周六(23日)在挪威近海发生引擎故障搁浅。船上载有1300多人,其中28人受伤住院。经过数天的调...
- “菜鸟黑客”必用兵器之“渗透测试篇二”
-
"菜鸟黑客"必用兵器之"渗透测试篇二"上篇文章主要针对伙伴们对"渗透测试"应该如何学习?"渗透测试"的基本流程?本篇文章继续上次的分享,接着介绍一下黑客们常用的渗透测试工具有哪些?以及用实验环境让大家...
- 科幻春晚丨《震动羽翼说“Hello”》两万年星间飞行,探测器对地球的最终告白
-
作者|藤井太洋译者|祝力新【编者按】2021年科幻春晚的最后一篇小说,来自大家喜爱的日本科幻作家藤井太洋。小说将视角放在一颗太空探测器上,延续了他一贯的浪漫风格。...
- 麦子陪你做作业(二):KEGG通路数据库的正确打开姿势
-
作者:麦子KEGG是通路数据库中最庞大的,涵盖基因组网络信息,主要注释基因的功能和调控关系。当我们选到了合适的候选分子,单变量研究也已做完,接着研究机制的时便可使用到它。你需要了解你的分子目前已有哪些...
- 知存科技王绍迪:突破存储墙瓶颈,详解存算一体架构优势
-
智东西(公众号:zhidxcom)编辑|韦世玮智东西6月5日消息,近日,在落幕不久的GTIC2021嵌入式AI创新峰会上,知存科技CEO王绍迪博士以《存算一体AI芯片:AIoT设备的算力新选择》...
- 每日新闻播报(September 14)_每日新闻播报英文
-
AnOscarstatuestandscoveredwithplasticduringpreparationsleadinguptothe87thAcademyAward...
- 香港新巴城巴开放实时到站数据 供科技界研发使用
-
中新网3月22日电据香港《明报》报道,香港特区政府致力推动智慧城市,鼓励公私营机构开放数据,以便科技界研发使用。香港运输署21日与新巴及城巴(两巴)公司签署谅解备忘录,两巴将于2019年第3季度,开...
- 5款不容错过的APP: Red Bull Alert,Flipagram,WifiMapper
-
本周有不少非常出色的app推出,鸵鸟电台做了一个小合集。亮相本周榜单的有WifiMapper's安卓版的app,其中包含了RedBull的一款新型闹钟,还有一款可爱的怪物主题益智游戏。一起来看看我...
- Qt动画效果展示_qt显示图片
-
今天在这篇博文中,主要实践Qt动画,做一个实例来讲解Qt动画使用,其界面如下图所示(由于没有录制为gif动画图片,所以请各位下载查看效果):该程序使用应用程序单窗口,主窗口继承于QMainWindow...
- 如何从0到1设计实现一门自己的脚本语言
-
作者:dong...
- 三年级语文上册 仿写句子 需要的直接下载打印吧
-
描写秋天的好句好段1.秋天来了,山野变成了美丽的图画。苹果露出红红的脸庞,梨树挂起金黄的灯笼,高粱举起了燃烧的火把。大雁在天空一会儿写“人”字,一会儿写“一”字。2.花园里,菊花争奇斗艳,红的似火,粉...
- C++|那些一看就很简洁、优雅、经典的小代码段
-
目录0等概率随机洗牌:1大小写转换2字符串复制...
- 二年级上册语文必考句子仿写,家长打印,孩子照着练
-
二年级上册语文必考句子仿写,家长打印,孩子照着练。具体如下:...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- wireshark怎么抓包 (75)
- qt sleep (64)
- cs1.6指令代码大全 (55)
- factory-method (60)
- sqlite3_bind_blob (52)
- hibernate update (63)
- c++ base64 (70)
- nc 命令 (52)
- wm_close (51)
- epollin (51)
- sqlca.sqlcode (57)
- lua ipairs (60)
- tv_usec (64)
- 命令行进入文件夹 (53)
- postgresql array (57)
- statfs函数 (57)
- .project文件 (54)
- lua require (56)
- for_each (67)
- c#工厂模式 (57)
- wxsqlite3 (66)
- dmesg -c (58)
- fopen参数 (53)
- tar -zxvf -c (55)
- 速递查询 (52)