JD hotkey官方版是一款京东APP后台而研发的热数据探测框架。该软件能够精准捕捉大量爬虫、刷子用户,可以由客户端决定如何使用这些热key,JD hotkey最核心的功能就是热数据探测并推送至集群各个服务器。
软件简介
JD-hotkey是京东APP后台热数据探测框架,历经多次高压压测和2020年京东618大促考验。在上线运行的这段时间内,每天探测的key数量数十亿计,精准捕获了大量爬虫、刷子用户,另准确探测大量热门商品并毫秒级推送到各个服务端内存,大幅降低了热数据对数据层的查询压力,提升了应用性能。
对任意突发性的无法预先感知的热点请求,包括并不限于热点数据(如突发大量请求同一个商品)、热用户(如爬虫、刷子)、热接口(突发海量请求同一个接口)等,进行毫秒级精准探测到。 然后对这些热数据、热用户等,推送到该应用部署的所有机器JVM内存中,以大幅减轻对后端数据存储层的冲击,并可以由客户端决定如何使用这些热key(譬如对热商品做本地缓存、对热用户进行拒绝访问、对热接口进行熔断或返回默认值)。 这些热key在整个应用集群内保持一致性。
核心功能:热数据探测并推送至集群各个服务器。
应用场景
JD-hotkey适用场景:
1、mysql热数据本地缓存。
2、redis热数据本地缓存。
3、黑名单用户本地缓存。
4、爬虫用户限流。
5、接口、用户维度限流。
6、单机接口、用户维度限流限流。
7、集群用户维度限流。
8、集群接口维度限流。