# bigdata-demo

项目地址:https://github.com/windwant/bigdata-service

hadoop:

hadoop hdfs操作

log输出到flume

flume输出到hdfs

hbase:

HTable基本操作:创建,删除,添加表,行,列族,列等。

kafka:

测试 producer | consumer

storm:实时处理消息


kafka集成storm集成hdfs

读取kafka数据=》storm实时处理(分割字符,统计字符)=》写入hdfs


* kafka消息生成方式:

* 1. LogGenerator生成测试日志发送到flume=》

* 2. MyKafkaProducer发送测试消息

* 3. elasticjob定时任务模块生成测试日志


* MyKafkaStormHdfs 实时处理消息:

* =》读取kafka数据

* =》storm实时处理(分割字符,统计字符)

* =》写入hdfs


Logo

开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!

更多推荐