0
点赞
收藏
分享

微信扫一扫

StreamSets实战之路-13-实战篇- 采集新浪财经实时新闻

东林梁 2022-02-19 阅读 49
etl

前一段时间因为工作较忙,没来及时更新,趁着假期准备一下,感觉还是要坚持的,也感谢很多网友的支持。

1.搭建一个ES和kibana系统,并创建索引:

"format" : "yyyy-MM-dd HH:mm:ss||yyyy-MM-dd||epoch_millis""format" : "yyyy-MM-dd HH:mm:ss||yyyy-MM-dd||epoch_millis"

2.在streamset启动前配置一个邮件配置项

在etc/sdc.properties配置一下邮件,这里我用的是我自己的qq邮箱

在etc/email-password.txt中配置邮箱密码。

1.新建数据流,点击保存,进入数据流构建页面

2.下面对构建好的数据流中的重点组件做介绍:

(1)调度器组件

主要用来采集的频率,这里规定频率为每2分钟采集数据,根据需求可以定制,不建议采集过于频繁。

(2)调度器组件

配置一下采集网页地址,请求头。

     配置数据的格式,并配置是否是压缩数据和解析数据的长度。这里因为我们采集到的是字符串数据,所以我配置为文本,最大长度1024000000。

(3)截取字符串提取JSON数据

将JSON字符串转换为JSON对象数据

(4)提取真正关注的那部分数据

(5)从ES中查看采集到的数据是否已经入库

配置一下ES的连接,查询、用户名密码等等

(6)分流器筛选

使用分流器将不在ES中的数据传下去,在ES中的直接丢弃掉。

(7)使用JSON 生成插件将tag字符转化成一个JSON字符串,以备后面做字符串匹配使用。

(8)保留最终想要的数据,去除一些其他无关的数据。

(9)配置邮件插件

(10)将数据写入ES中

配置一些ES的地址,索引名等,和用户信息

(11)最后校验数据流,校验成功后启动数据流。

Streamsets实战之路正在更新中,尽情期待!!!

举报

相关推荐

0 条评论