如果修改了 storm 的 spout 和 bolt 代码，就 kill 掉作业，重新提交吧。那么 kill 作业的时候如何做 cleanup 的工作呢？
codingpp · 2014-06-12 14:05:32 +08:00 · 7295 次点击这是一个创建于 3822 天前的主题，其中的信息可能已经有所发展或是发生改变。
我的作业是这样的：
spout收集日志->bolt汇总日志并每隔1秒钟插入数据库
每条日志都需要处理不能丢
kill task的时候spout的会先置为失效，这时候就没有消息推送到bolt中了。然后再停止掉
bolt中没有数据推送过来，所以就不会再触发process方法了
那么这1秒钟内数据将没法插入到数据库里了
storm里的cleanup方法貌似只能工作在本地模式下，那么我想要在分布式模式下kill作业的时候做下cleanup的处理该如何做呢？
spout收集日志->bolt汇总日志并每隔1秒钟插入数据库
每条日志都需要处理不能丢
kill task的时候spout的会先置为失效，这时候就没有消息推送到bolt中了。然后再停止掉
bolt中没有数据推送过来，所以就不会再触发process方法了
那么这1秒钟内数据将没法插入到数据库里了
storm里的cleanup方法貌似只能工作在本地模式下，那么我想要在分布式模式下kill作业的时候做下cleanup的处理该如何做呢？
 |
1
codingpp OP v2ex的大神们有用storm的吗
|
 |
2
halfelf 2014-06-12 15:15:21 +08:00
写好spout，ack失败时将日志扔回去。
这种事情不是kafka配合storm最擅长么。 |
|
3
codingpp OP |
|
4
halfelf 2014-06-13 11:23:40 +08:00
明白了，在prepared bolt里做缓存了。写个hook，覆盖BaseTaskHook的cleanup方法
|
Select Language