对于我们经常使用的抢占式操作系统来说, 引起上下文切换的原因大概有以下几种: 1. 当前执行任务的时间片用完之后, 系统CPU正常调度下一个任务 2. 当前执行任务碰到IO阻塞, 调度器将挂起此任务, 继续下一任务 3. 多个任务抢占锁资源, 当前任务没有抢到,被调度器挂起, 继续下一任务 4. 用户代码挂起当前任务, 让出CPU时间 5. 硬件中断. 前段时间发现有人在使用futex的WAIT和WAKE来测试context switch的直接消耗(链接), 也有人使用阻塞IO来测试context switch的消耗(链接).那么Java程序怎么测试和观察上下文切换的消耗呢?
我做了一个小实验, 代码很简单, 有两个工作线程. 开始时,第一个线程挂起自己; 第二个线程唤醒第一个线程,再挂起自己; 第一个线程醒来之后唤醒第二个线程, 再挂起自己. 就这样一来一往,互相唤醒对方, 挂起自己. 代码如下:
Java代码 import java.util.concurrent.atomic.AtomicReference;import java.util.concurrent.locks.LockSupport; public final class ContextSwitchTest {static final int RUNS = 3;static final int ITERATES = 1000000;static AtomicReference turn = new AtomicReference(); static final class WorkerThread extends Thread {volatile Thread other;volatile int nparks; public void run() {final AtomicReference t = turn;final Thread other = this.other;if (turn == null || other == null)throw new NullPointerException();int p = 0;for (int i = 0; i < ITERATES; ++i) {while (!t.compareAndSet(other, this)) {LockSupport.park();++p;}LockSupport.unpark(other);}LockSupport.unpark(other);nparks = p;System.out.println(“parks: “ + p); }} static void test() throws Exception {WorkerThread a = new WorkerThread();WorkerThread b = new WorkerThread();a.other = b;b.other = a;turn.set(a);long startTime = System.nanoTime();a.start();b.start();a.join();b.join();long endTime = System.nanoTime();int parkNum = a.nparks + b.nparks;System.out.println(“Average time: “ + ((endTime - startTime) / parkNum)+ “ns”);} public static void main(String[] args) throws Exception {for (int i = 0; i < RUNS; i++) {test();}}}
编译后,在我自己的笔记本上( Intel(R) Core(TM) i5 CPU M 460 @ 2.53GHz, 2 core, 3M L3 Cache) 用测试几轮,结果如下: Shell代码java -cp . ContextSwitchTest
parks: 953495 parks: 953485 Average time: 11373ns parks: 936305 parks: 936302 Average time: 11975ns parks: 965563 parks: 965560 Average time: 13261ns 我们会发现这么简单的for循环, 线性执行会非常快,不需要1秒, 而执行这段程序需要几十秒的耗时. 每个上下文切换需要耗去十几us的时间,这对于程序吞吐量的影响很大.同时我们可以执行vmstat 1 观查一下上下文切换的频率是否变快
Shell代码 $ vmstat 1procs ———–memory———- —swap– —–io—- -system– —-cpu—-r b swpd free buff cache si so bi bo in cs us sy id wa1 0 0 4424988 457964 1154912 0 0 13 12 252 80 6 1 92 10 0 0 4420452 457964 1159900 0 0 0 0 1586 2069 6 1 93 01 0 0 4407676 457964 1171552 0 0 0 0 1436 1883 8 3 89 01 0 0 4402916 457964 1172032 0 0 0 84 22982 45792 9 4 85 21 0 0 4416024 457964 1158912 0 0 0 0 95382 198544 17 10 73 01 1 0 4416096 457964 1158968 0 0 0 116 79973 159934 18 7 74 01 0 0 4420384 457964 1154776 0 0 0 0 96265 196076 15 10 74 11 0 0 4403012 457972 1171096 0 0 0 152 104321 213537 20 12 66 2
再使用strace观察以上程序中Unsafe.park()究竟是哪道系统调用造成了上下文切换: Shell代码$strace -f java -cp . ContextSwitchTest
[pid 5969] futex(0x9571a9c, FUTEX_WAKE_OP_PRIVATE, 1, 1, 0x9571a98, {FUTEX_OP_SET, 0, FUTEX_OP_CMP_GT, 1}) = 1 [pid 5968] <… futex resumed> ) = 0 [pid 5969] futex(0x9571ad4, FUTEX_WAIT_PRIVATE, 949, NULL <unfinished …> [pid 5968] futex(0x9564368, FUTEX_WAKE_PRIVATE, 1) = 0 [pid 5968] futex(0x9571ad4, FUTEX_WAKE_OP_PRIVATE, 1, 1, 0x9571ad0, {FUTEX_OP_SET, 0, FUTEX_OP_CMP_GT, 1} <unfinished …> [pid 5969] <… futex resumed> ) = 0 [pid 5968] <… futex resumed> ) = 1 [pid 5969] futex(0x9571628, FUTEX_WAIT_PRIVATE, 2, NULL <unfinished …> 果然还是futex.再使用perf看看上下文对于Cache的影响:
Shell代码 $ perf stat -e cache-misses java -cp . ContextSwitchTestparks: 999999parks: 1000000Average time: 16201nsparks: 998930parks: 998926Average time: 14426nsparks: 998034parks: 998204Average time: 14489ns Performance counter stats for ‘java -cp . ContextSwitchTest’: 2,550,605 cache-misses 90.221827008 seconds time elapsed 1分半钟内有255万多次cache未命中.嗯, 貌似太长了, 可以结束了. 接下来会继续几篇博文继续分析一些有意思的东西.
(1) 从Java视角看内存屏障 (Memory Barrier)
(2) 从java视角看CPU亲缘性 (CPU Affinity)
等..敬请关注
PS. 其实还做了一个实验, 测试CPU Affinity对于Context Switch的影响.
Shell代码 $ taskset -c 0 java -cp . ContextSwitchTestparks: 992713parks: 1000000Average time: 2169nsparks: 978428parks: 1000000Average time: 2196nsparks: 989897parks: 1000000Average time: 2214ns这个命令把进程绑定在0号CPU上,结果Context Switch的消耗小了一个数量级.
本文来源于"阿里中间件团队播客",原文发表时间" 2012-05-07 "
相关资源:jd_seckill京东抢茅台插件最新版【京东飞天茅台1499抢购】Python脚本的完整安装 使用教程