大数据架构师必掌握的5大实时计算技术要点

　　跟产品经理吵完第三轮之后，我盯着他甩过来的 PRD 文档第 7 页右下角那个手写批注：“实时性要‘肉眼可见’”——肉眼可见？上个月压测的时候 Flink job 在三十七个节点里飘了十八毫秒的 lag，他坐我左边工位看大屏还说“这不挺顺？”

　　我原以为 Kafka 的 exactly-once 跟 Flink 的 checkpoint 对齐是稳的，结果去年十月份上线那天，上游切 stream partition 的瞬间，下游消费组卡在 pending offset 里干等四十一秒——不是报错，不是重试，就是挂在那里呼吸。运维查日志查到凌晨两点，最后发现是某个 broker 配置里 max.message.bytes 比生产者发的 batch 少了二百零三字节，硬生生截掉半条 watermark。这事儿我说不准，但那个值我敢打包票：2147483445，因为我在 config diff 里数过三遍括号。

　　桌上外卖的汤洒了一滴，在键盘 F5 键左边那道缝里，我抬手按 F5，按键，松手——页面没刷新，DevTools 还卡在 Network tab，Network tab 右上角那个小红点已经亮了十七分钟。后端老张端着保温杯路过，问我“是不是又连错集群了”，我摇头，他拧开盖子喝了一口，水汽糊了眼镜，也没擦，就那么站那儿看我重跑 checkStateBackend()。他昨天改了 state.ttl 的默认值，没提，只在 commit message 里写了“fix ttl”。

　　双屏左边壁纸是去年敦煌拍的雅丹地貌，右边是去年十月份导出的 taskmanager 日志截图，缩略图右下角日期戳还泛蓝。我把它设成壁纸不是为怀旧，纯粹是因为当时导出时忘关了 debug 日志，整整三百七十二个节点全打满了 metrics.reporter.jmx.server.host，而我懒得再开新窗口看。现在只要一看右边屏幕，手指就条件反射去摸键盘 Ctrl+Shift+J——但这个键不卡，卡的是 Alt+Tab 切窗的时候，空格键会延迟响应半拍，就像你刚吃完辣条舔完手指再敲键盘那样粘滞。

　　实时计算这摊事，早就不是比谁吞吐高、谁延迟低了。是比谁先在半夜三点收到告警、谁的背锅姿势更自然、谁能在 PDCA 循环里把自己绕进死结还不显慌。优胜劣汰？对，淘汰的永远不是技术，是那个还相信“加个 redis 缓存就能扛住峰值”的架构师。上个月测试提了个 bug：用户画像更新延迟在高峰期跳到四十三秒，我们仨蹲在监控台前盯着 Flink Web UI，UI 刷新频率被我手动调成每八百毫秒一次，生怕多刷两次就把 CPU 拉过阈值——结果发现根本不是反压，是 PM 偷偷把 AB 测试开关开在实时链路里，拿用户 ID 做 hash 分桶的时候，用了带偏移的 Murmur3，导致两个桶之间数据倾斜差了十九倍。这事我没告诉测试，她刚休完产假回来，还在我桌上留了盒山楂片，纸条上写“回血用”。

文章配图，仅供参考

　　再说一遍：五点不是清单，是尸检报告。第一点，watermark 生成策略得能自己认怂——不是所有业务都配用 AscendingTimestamp，有的源连毫秒级时间戳都没有，只有 event_id 里藏着隐式顺序，你得敢把 watermark 改成基于 count 的近似滑动；第二点，状态后端别迷信 RocksDB，三百七十二个节点里有四十一个装了 NVMe SSD，剩下全是机械盘，RocksDB 在它们身上跑出来的 compaction pause 能让你怀疑人生；第三点，Kafka 消费者组的 rebalance 要么全关自动提交，要么全开，中间态就是给自己埋雷；第四点，Flink SQL 的维表 join 不是 select from xxx where id = ?，是 select from xxx, LATERAL TABLE(lookup('id')) t，这个 LATERAL 我上周才从社区 issue 里抄出来，以前全靠 broadcast + MapFunction 硬顶；第五点……算了，第五点我还没想明白，上周五团建喝多了，记不清到底是 on-checkpoint 还是 on-processing-time 触发的 window purge，等我翻翻那天的会议录音。录的是 Chrome DevTools 的 Performance tab，因为当时我正在录内存快照，误点了录制按钮。

　　工资条上周发了，税后比上季度少三百二十七元，HR 邮件标题写着“基数调整”，正文一个字没提。我截图发给后端老张，他回了个“CSS 命名规范你还没看过吧？BEM 是啥，Block__Element—Modifier 还是 Block__Element--Modifier？他们上月改了 lint 规则但没同步 wiki。”我就回了个句号。然后继续看 Flink 官方 GitHub 上那个 open 了三年的 ISSUE：FLINK-XXXXX “State backend doesn’t handle concurrent snapshot cancel properly under network partitions”。没点 star，但有八十三条评论，最新一条是前天凌晨一点零三分，作者写：“I still can reproduce it with exactly-once and S3 filesystem.”

　　我打算今天下班前把双屏壁纸全换成纯黑。不为别的，就为下次 PM 再甩 PRD，我能直视他的眼睛，说：“您写的‘肉眼可见’，是指人眼视觉暂留时间范围内的延迟吧？那我们先测下您眼球的帧率。”

（编辑：站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!