自增ID算法snowflake

当前位置:

首页 > Python基础教程 >

自增ID算法snowflake

使用UUID或者GUID产生的ID没有规则

Snowflake算法是Twitter的工程师为实现递增而不重复的ID实现的

概述
分布式系统中，有一些需要使用全局唯一ID的场景，这种时候为了防止ID冲突可以使用36位的UUID，但是UUID有一些缺点，首先他相对比较长，另外UUID一般是无序的。有些时候我们希望能使用一种简单一些的ID，并且希望ID能够按照时间有序生成。而twitter的snowflake解决了这种需求，最初Twitter把存储系统从MySQL迁移到Cassandra，因为Cassandra没有顺序ID生成机制，所以开发了这样一套全局唯一ID生成服务。
该项目地址为：https://github.com/twitter/snowflake是用Scala实现的。
python版详见开源项目https://github.com/erans/pysnowflake。

结构
snowflake的结构如下(每部分用-分开):

0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000

第一位为未使用，接下来的41位为毫秒级时间(41位的长度可以使用69年)，然后是5位datacenterId和5位workerId(10位的长度最多支持部署1024个节点），最后12位是毫秒内的计数（12位的计数顺序号支持每个节点每毫秒产生4096个ID序号）

一共加起来刚好64位，为一个Long型。(转换成字符串长度为18)

snowflake生成的ID整体上按照时间自增排序，并且整个分布式系统内不会产生ID碰撞（由datacenter和workerId作区分），并且效率较高。据说：snowflake每秒能够产生26万个ID。

从图上看除了第一位不可用之外其它三组均可浮动站位，据说前41位就可以支撑到2082年，10位的可支持1023台机器，最后12位序列号可以在1毫秒内产生4095个自增的ID。

在多线程中使用要加锁。

看懂代码前先来点计算机常识：<<左移假如1<<2 ：1左移2位=1*2^2=4（这里^是多少次方的意思，和下面的不同，哈别混淆。）

^异或：true^true=false false^false=false true^false=true false^true=true 例子： 1001^0001=1000

负数的二进制：

第一步:绝对值化为你需要多少位表示的二进制
第二步:各位取反,0变1,1变0
第三步:最后面加1

例子：-1的二进制→ 0001 取反→1110→最后面加1→1111

好了废话不多说直接代码：

 1 public class IdWorker
 2     {
 3         //机器ID
 4         private static long workerId;
 5         private static long twepoch = 687888001020L; //唯一时间，这是一个避免重复的随机量，自行设定不要大于当前时间戳
 6         private static long sequence = 0L;
 7         private static int workerIdBits = 4; //机器码字节数。4个字节用来保存机器码(定义为Long类型会出现，最大偏移64位，所以左移64位没有意义)
 8         public static long maxWorkerId = -1L ^ -1L << workerIdBits; //最大机器ID
 9         private static int sequenceBits = 10; //计数器字节数，10个字节用来保存计数码
10         private static int workerIdShift = sequenceBits; //机器码数据左移位数，就是后面计数器占用的位数
11         private static int timestampLeftShift = sequenceBits + workerIdBits; //时间戳左移动位数就是机器码和计数器总字节数
12         public static long sequenceMask = -1L ^ -1L << sequenceBits; //一微秒内可以产生计数，如果达到该值则等到下一微秒在进行生成
13         private long lastTimestamp = -1L;
14 
15         /// <summary>
16         /// 机器码
17         /// </summary>
18         /// <param name="workerId"></param>
19         public IdWorker(long workerId)
20         {
21             if (workerId > maxWorkerId || workerId < 0)
22                 throw new Exception(string.Format("worker Id can't be greater than {0} or less than 0 ", workerId));
23             IdWorker.workerId = workerId;
24         }
25 
26         public long nextId()
27         {
28             lock (this)
29             {
30                 long timestamp = timeGen();
31                 if (this.lastTimestamp == timestamp)
32                 { //同一微秒中生成ID
33                     IdWorker.sequence = (IdWorker.sequence + 1) & IdWorker.sequenceMask; //用&运算计算该微秒内产生的计数是否已经到达上限
34                     if (IdWorker.sequence == 0)
35                     {
36                         //一微秒内产生的ID计数已达上限，等待下一微秒
37                         timestamp = tillNextMillis(this.lastTimestamp);
38                     }
39                 }
40                 else
41                 { //不同微秒生成ID
42                     IdWorker.sequence = 0; //计数清0
43                 }
44                 if (timestamp < lastTimestamp)
45                 { //如果当前时间戳比上一次生成ID时时间戳还小，抛出异常，因为不能保证现在生成的ID之前没有生成过
46                     throw new Exception(string.Format("Clock moved backwards.  Refusing to generate id for {0} milliseconds",
47                         this.lastTimestamp - timestamp));
48                 }
49                 this.lastTimestamp = timestamp; //把当前时间戳保存为最后生成ID的时间戳
50                 long nextId = (timestamp - twepoch << timestampLeftShift) | IdWorker.workerId << IdWorker.workerIdShift | IdWorker.sequence;
51                 return nextId;
52             }
53         }
54 
55         /// <summary>
56         /// 获取下一微秒时间戳
57         /// </summary>
58         /// <param name="lastTimestamp"></param>
59         /// <returns></returns>
60         private long tillNextMillis(long lastTimestamp)
61         {
62             long timestamp = timeGen();
63             while (timestamp <= lastTimestamp)
64             {
65                 timestamp = timeGen();
66             }
67             return timestamp;
68         }
69 
70         /// <summary>
71         /// 生成当前时间戳
72         /// </summary>
73         /// <returns></returns>
74         private long timeGen()
75         {
76             return (long)(DateTime.UtcNow - new DateTime(1970, 1, 1, 0, 0, 0, DateTimeKind.Utc)).TotalMilliseconds;
77         }
78 
79     }

调用：

1 　IdWorker idworker = new IdWorker(1);
2             for (int i = 0; i < 1000; i++)
3             {
4                 Console.WriteLine(idworker.nextId());
5             }