建设集团有限公司网站首页,济南建设工程交易网官网,WordPress自然志主题,网站关键词怎么选一、海量数据实时去重说明 借助redis的Set#xff0c;需要频繁连接Redis#xff0c;如果数据量过大, 对redis的内存也是一种压力#xff1b;使用Flink的MapState#xff0c;如果数据量过大, 状态后端最好选择 RocksDBStateBackend#xff1b; 使用布隆过滤器#xff0c;…一、海量数据实时去重说明 借助redis的Set需要频繁连接Redis如果数据量过大, 对redis的内存也是一种压力使用Flink的MapState如果数据量过大, 状态后端最好选择 RocksDBStateBackend 使用布隆过滤器布隆过滤器可以大大减少存储的数据的数据量。 二、海里书实时去重为什么需要布隆过滤器 如果想判断一个元素是不是在一个集合里一般想到的是将集合中所有元素保存起来然后通过比较确定。链表、树、散列表又叫哈希表Hash table等等数据结构都是这种思路。 但是随着集合中元素的增加我们需要的存储空间越来越大。同时检索速度也越来越慢上述三种结构的检索时间复杂度分别为。 布隆过滤器即可以解决存储空间的问题, 又可以解决时间复杂度的问题. 布隆过滤器的原理是当一个元素被加入集合时通过K个散列函数将这个元素映射成一个位数组中的K个点把它们置为1。检索时我们只要看看这些点是不是都是1就大约知道集合中有没有它了如果这些点有任何一个0则被检元素一定不在如果都是1则被检元素很可能在。这就是布隆过滤器的基本思想。 三、布隆过滤基本概念 布隆过滤器Bloom Filter下文简称BF由Burton Howard Bloom在1970年提出是一种空间效率高的概率型数据结构。它专门用来检测集合中是否存在特定的元素。 它实际上是一个很长的二进制向量和一系列随机映射函数。 实现原理 布隆过滤器的原理是当一个元素被加入集合时通过K个散列函数将这个元素映射成一个位数组中的K个点把它们置为1。检索时我们只要看看这些点是不是都是1就大约知道集合中有没有它了如果这些点有任何一个0则被检元素一定不在如果都是1则被检元素很可能在。这就是布隆过滤器的基本思想。 BF是由一个长度为m比特的位数组bit array与k个哈希函数hash function组成的数据结构。位数组均初始化为0所有哈希函数都可以分别把输入数据尽量均匀地散列。 当要插入一个元素时将其数据分别输入k个哈希函数产生k个哈希值。以哈希值作为位数组中的下标将所有k个对应的比特置为1。 当要查询即判断是否存在一个元素时同样将其数据输入哈希函数然后检查对应的k个比特。如果有任意一个比特为0表明该元素一定不在集合中。如果所有比特均为1表明该集合有较大的可能性在集合中。为什么不是一定在集合中呢因为一个比特被置为1有可能会受到其他元素的影响(hash碰撞)这就是所谓“假阳性”false positive。相对地“假阴性”false negative在BF中是绝不会出现的。 下图示出一个m18, k3的BF示例。集合中的x、y、z三个元素通过3个不同的哈希函数散列到位数组中。当查询元素w时因为有一个比特为0因此w不在该集合中。 优点 1.不需要存储数据本身只用比特表示因此空间占用相对于传统方式有巨大的优势并且能够保密数据 2.时间效率也较高插入和查询的时间复杂度均为, 所以他的时间复杂度实际是 3.哈希函数之间相互独立可以在硬件指令层面并行计算。 缺点 1.存在假阳性的概率不适用于任何要求100%准确率的情境 2.只能插入和查询元素不能删除元素这与产生假阳性的原因是相同的。我们可以简单地想到通过计数即将一个比特扩展为计数值来记录元素数但仍然无法保证删除的元素一定在集合中。 使用场景 所以BF在对查准度要求没有那么苛刻而对时间、空间效率要求较高的场合非常合适. 另外由于它不存在假阴性问题所以用作“不存在”逻辑的处理时有奇效比如可以用来作为缓存系统如Redis的缓冲防止缓存穿透。 假阳性概率的计算 假阳性的概率其实就是一个不在的元素被k个函数函数散列到的k个位置全部都是1的概率。可以按照如下的步骤进行计算 p f(m,n,k) 其中各个字母的含义: 1.n 放入BF中的元素的总个数 2.mBF的总长度也就是bit数组的个数 3.k哈希函数的个数 4.p表示BF将一个不在其中的元素错判为在其中的概率也就是false positive的概率 A.BF中的任何一个bit在第一个元素的第一个hash函数执行完之后为 0的概率是 B.BF中的任何一个bit在第一个元素的k个hash函数执行完之后为 0的概率是 C.BF中的任何一个bit在所有的n元素都添加完之后为 0的概率是: D.BF中的任何一个bit在所有的n元素都添加完之后为 1的概率是: E.一个不存在的元素被k个hash函数映射后k个bit都是1的概率是 结论:在哈数函数个数k一定的情况下 1.比特数组m长度越大, p越小, 表示假阳性率越低 2.已插入的元素个数n越大, p越大, 表示假阳性率越大 经过各种数学推导: 对于给定的m和n使得假阳性率误判率最小的k通过如下公式定义 四、使用布隆过滤器实现去重 Flink已经内置了布隆过滤器的实现(使用的是google的Guava) package com.lyh.flink12;import com.atguigu.flink.java.chapter_6.UserBehavior; import org.apache.flink.api.common.eventtime.SerializableTimestampAssigner; import org.apache.flink.api.common.eventtime.WatermarkStrategy; import org.apache.flink.api.common.state.ValueState; import org.apache.flink.api.common.state.ValueStateDescriptor; import org.apache.flink.api.common.typeinfo.TypeHint; import org.apache.flink.api.common.typeinfo.TypeInformation; import org.apache.flink.configuration.Configuration; import org.apache.flink.shaded.guava18.com.google.common.hash.BloomFilter; import org.apache.flink.shaded.guava18.com.google.common.hash.Funnels; import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment; import org.apache.flink.streaming.api.functions.windowing.ProcessWindowFunction; import org.apache.flink.streaming.api.windowing.assigners.TumblingEventTimeWindows; import org.apache.flink.streaming.api.windowing.time.Time; import org.apache.flink.streaming.api.windowing.windows.TimeWindow; import org.apache.flink.util.Collector; import java.time.Duration;public class Flink02_UV_BoomFilter {public static void main(String[] args) throws Exception {StreamExecutionEnvironment env StreamExecutionEnvironment.getExecutionEnvironment();// 创建WatermarkStrategyWatermarkStrategyUserBehavior wms WatermarkStrategy.UserBehaviorforBoundedOutOfOrderness(Duration.ofSeconds(5)).withTimestampAssigner(new SerializableTimestampAssignerUserBehavior() {Overridepublic long extractTimestamp(UserBehavior element, long recordTimestamp) {return element.getTimestamp() * 1000L;}});env.readTextFile(input/UserBehavior.csv).map(line - { // 对数据切割, 然后封装到POJO中String[] split line.split(,);return new UserBehavior(Long.valueOf(split[0]), Long.valueOf(split[1]), Integer.valueOf(split[2]), split[3], Long.valueOf(split[4]));}).filter(behavior - pv.equals(behavior.getBehavior())) //过滤出pv行为.assignTimestampsAndWatermarks(wms).keyBy(UserBehavior::getBehavior).window(TumblingEventTimeWindows.of(Time.minutes(60))).process(new ProcessWindowFunctionUserBehavior, String, String, TimeWindow() {private ValueStateLong countState;private ValueStateBloomFilterLong bfState;Overridepublic void open(Configuration parameters) throws Exception {countState getRuntimeContext().getState(new ValueStateDescriptorLong(countState, Long.class));bfState getRuntimeContext().getState(new ValueStateDescriptorBloomFilterLong(bfState, TypeInformation.of(new TypeHintBloomFilterLong() {})));}Overridepublic void process(String key,Context context,IterableUserBehavior elements, CollectorString out) throws Exception {countState.update(0L);// 在状态中初始化一个布隆过滤器// 参数1: 漏斗, 存储的类型// 参数2: 期望插入的元素总个数// 参数3: 期望的误判率(假阳性率)BloomFilterLong bf BloomFilter.create(Funnels.longFunnel(), 1000000, 0.001);bfState.update(bf);for (UserBehavior behavior : elements) {// 查布隆if (!bfState.value().mightContain(behavior.getUserId())) {// 不存在 计数1countState.update(countState.value() 1L);// 记录这个用户di, 表示来过bfState.value().put(behavior.getUserId());}}out.collect(窗口: context.window() 的uv是: countState.value());}}).print();env.execute();} }