文章目录
- 1. 前言
- 2. CFS 调度器
- 2.1 概述
- 2.2 一些实现细节
- 2.3 运行队列:红黑树
- 2.4 一些特征
- 2.5 调度策略
- 2.6 调度器类别
- 2.7 扩展:组调度
- 3. 参考资料
1. 前言
限于作者能力水平,本文可能存在谬误,因此而给读者带来的损失,作者不做任何承诺。
2. CFS 调度器
2.1 概述
CFS,是 Completely Fair Scheduler 的缩写,翻译过来就是 完全公平调度器,由 Ingo Molnar 实现,在 Linux 2.6.23 中合入的新的 “桌面” 进程调度器。
CFS 调度器 80% 的设计可以用一句话来概括:CFS 基本上是在真实硬件上模拟了一个理想、精确的多任务 虚拟 CPU。我们将这个虚拟 CPU 的运行能力定义为 1,假定当前有 nr_running 个任务在虚拟 CPU上运行,则每个任务精准的占用虚拟 CPU 1/nr_running 的运行能力(或 运行时间)。例如有 2 个任务在运行,假定将 虚拟 CPU 的运行能力设定为 100%,那么每个任务占用 虚拟 CPU 50% 的运行能力(或 运行时间)。为了描述方便,在这里先将任务占用的 虚拟 CPU 的运行时间,称作 虚拟运行时间(virtual runtime),这和后文的 物理 CPU 的 物理运行时间 相对应。
在 CFS 调度器中,并非真的将 物理 CPU 的物理运行能力(或 物理时间)平均分配给所有可运行任务,CFS 仍然要处理任务优先级:即优先级更高的任务,仍然会分配更多 物理 CPU 的物理运行时间 给它们。这看起来似乎和 CFS 调度器的 完全公平调度 宗旨相矛盾,但事实是,CFS 调度器只是尽量保证每个任务占用的 虚拟运行时间(virtual runtime) 一样,而任务占用的 物理运行时间,仍然由任务优先级来体现。正如世界不可能完全公平一样,在 CFS 调度器中,分配给每个任务的 虚拟运行时间(virtual runtime) ,CFS 也只是尽量保证它们一致,不可能达到理想状态的完全一致。
2.2 一些实现细节
在 CFS 调度器中,虚拟运行时间(virtual runtime) 通过每个任务的 p->se.vruntime(以纳秒单位)来表示和跟踪,这样,就可以准确地标记时间戳并测量任务应该获得的预期 CPU 时间。其中,p 指向一个 struct task_struct 结构体。
/* include/linux/sched.h */struct sched_entity {.../** 进程的虚拟运行时间 = 进程的实际运行时间 / 相对权重** 进程的 实际运行时间 是一段一段的,所以进程的 虚拟运行时间 也是一段一段增长的。** 进程的 虚拟运行时间 还会在 进程入队时 与 运行队列中的最小虚拟时间 相比较,如* 果更小的话会直接进行增加,并不对应 实际的运行时间。为什么要这么做呢?因为有的* 进程可能会因长时间睡眠,导致其 虚拟运行时间 小于运行队列中所有进程中的 最小虚* 拟运行时间,这样的进程一旦运行起来,会因为其 虚拟运行时间 小,占据 CPU 的时间* 就会长,对其它进程就不公平了。*/u64 vruntime;...
};struct task_struct {...const struct sched_class *sched_class; /* 如果任务使用 CFS 调度,则为 &fair_sched_class */struct sched_entity se; /* CFS 类进程调度参数 */...
};
在理想的 虚拟 CPU 上,在任何时刻,所有任务 虚拟运行时间值 p->se.vruntime 都保持相同的值。
CFS 调度器,其任务选择逻辑基于 p->se.vruntime 值:CFS 始终尝试运行具有最小 p->se.vruntime 值的任务(即到目前为止虚拟执行时间(virtual runtime)最小的任务)。CFS 始终尝试在可运行任务之间平均分配 虚拟 CPU时间 ,尽可能接近理想的多任务 虚拟 CPU。
CFS 设计的其余部分大部分都脱离了这个非常简单的概念,有一些其它附加修饰,如任务的 nice 值,各种识别睡眠任务的算法等等。
2.3 运行队列:红黑树
CFS 不同于以往的调度器,它不使用运行队列以往的旧数据结构,而是使用按时间排序的 红黑树(rbtree) 来构建未来任务执行的时间线,而它之前 O(1) 调度器使用位图进行任务调度管理。
CFS 还维护 rq->cfs.min_vruntime 值,该值是一个单调递增值,用于跟踪运行队列中所有任务中的最小 vruntime。该值用于尽可能将新激活的调度实体(struct sched_entity,即任务)放置在红黑树的左侧。由于该值一直使用 min_vruntime 单调递增累加,所以也可用来跟踪系统完成的工作总量。
/* kernel/sched/sched.h *//* CFS-related fields in a runqueue */
struct cfs_rq {...u64 min_vruntime; /* CFS 调度算法 运行队列中 进程 的 最小 虚拟运行时间 */...
};/** This is the main, per-CPU runqueue data structure.** Locking rule: those places that want to lock multiple runqueues* (such as the load balancing or the thread migration code), lock* acquire operations must be ordered by ascending &runqueue.*/
struct rq {...struct cfs_rq cfs;...
};DECLARE_PER_CPU_SHARED_ALIGNED(struct rq, runqueues); /* 每 CPU 的运行队列 */
运行队列的权重通过 rq->cfs.load 值进行统计,该值是运行队列上排队的任务权重的总和:
/* kernel/sched/sched.h *//* CFS-related fields in a runqueue */
struct cfs_rq {/** 运行队列的权重, 等于其上所有进程的权重之和。* 进程在入队出队时,也会相应地从运行队列中加上减去其自身的权重。*/struct load_weight load;...
};
CFS 维护一个按时间排序的 红黑树(rbtree),即所有可运行的任务都按 p->se.vruntime 键排序,然后CFS 从这棵树中挑选最左边(即 p->se.vruntime 最小)的任务执行。随着时间往后推移,执行的任务越来越多地被放入树中,执行时间更少的任务逐渐往红黑树左边移动,执行时间更多的任务往红黑树右边移动,如此循环往复。
2.4 一些特征
CFS 使用纳秒级精度,对任务的虚拟运行时间的统计,它不依赖于 jiffies 或 HZ 值。因此,CFS 调度器没有像以前的调度器那样的时间片概念,也没有任何启发式方法。不使用启发式方法这一点,这使得 CFS 不容易受到针对启发式调度的攻击。
CFS 对任务 nice 值 和 SCHED_BATCH 策略任务 的处理比以往的调度器更优。
CFS 对 SMP 架构下的负载均衡代码进行了清理,使得负载均衡逻辑更加简单。
2.5 调度策略
CFS 实现了 3 种调度策略:
SCHED_NORMAL,以往也叫SCHED_OTHER:用于常规任务。SCHED_BATCH:适用于没有用户交互行为的后台进程,用户对该类进程的响应时间要求不高,但对吞吐量要求较高,因此调度器会在完成所有SCHED_NORMAL的任务之后让该类任务不受打扰地跑上一段时间,这样能够最大限度地利用缓存。SCHED_IDLE:这类调度策略被用于系统中优先级最低的任务,只有在没有任何其他任务可运行时,调度器才会将运行该类任务。
2.6 调度器类别
Linux 同时支持多种类型调度器类别,CFS 调度只是其中的一种,实现在文件 sched/fair.c 中。而像其它的调度类别如实现 SCHED_FIFO 和 SCHED_RR 调度策略的实时调度器,实现在文件 sched/rt.c 中。
调度类是通过 struct sched_class 结构体实现的,该结构体包含一些列回调,在发生特定事件时被调用。struct sched_class 结构体内容如下:
/* kernel/sched/sched.h */struct sched_class {const struct sched_class *next;/** 将进程 @p 放入运行队列 @rq 。* 在任务进入可运行状态时调用。* 它将调度实体(任务)放入红黑树中,并递增 nr_running 变量。*/void (*enqueue_task) (struct rq *rq, struct task_struct *p, int flags);/** 将进程 @p 移出运行队列 @rq 。* 当任务不再可运行时,将调用此函数以将相应的调度实体移出红黑树,并递减 * nr_running 变量。*/void (*dequeue_task) (struct rq *rq, struct task_struct *p, int flags);/** 当前进程主动让出 CPU , 即移出运行队列,但 其状态依然是 runnable ,* 然后将另一进程加入运行队列。* 可通过系统调用 sys_sched_yield() 触发。*/void (*yield_task) (struct rq *rq);/* 当前进程主动让出 cpu 给进程组内进程 @p */bool (*yield_to_task) (struct rq *rq, struct task_struct *p, bool preempt);/** 被唤醒进程的抢占逻辑:检查 @p 是否会抢占 @rq 中当前正在运行的进程. * 通常情况下是在 @p 进入 runnable 态时,检查 @p 是否会抢占当前正在运* 行的进程。*/void (*check_preempt_curr) (struct rq *rq, struct task_struct *p, int flags);/** It is the responsibility of the pick_next_task() method that will* return the next task to call put_prev_task() on the @prev task or* something equivalent.** May return RETRY_TASK when it finds a higher prio class has runnable* tasks.*//* * 挑选下一可执行进程, 且以 @prev 为参数, 调用 put_prev_task() . ** 通常返回挑选的下一可执行进程, 但当发现更高优先级调度类别有可运行进程时, * 返回 RETRY_TASK .*/ struct task_struct * (*pick_next_task) (struct rq *rq,struct task_struct *prev,struct rq_flags *rf);void (*put_prev_task) (struct rq *rq, struct task_struct *p);#ifdef CONFIG_SMP/** 为进程 @p 选择运行队列。* 当系统调用 fork() + exec() 创建一个新的进程时,在 SMP 系统中* 选择一个合理的 runqueue 来将该进程入队。Scheduler 此时需要考* 虑 负载均衡 问题。*/int (*select_task_rq)(struct task_struct *p, int task_cpu, int sd_flag, int flags);void (*migrate_task_rq)(struct task_struct *p);void (*task_woken) (struct rq *this_rq, struct task_struct *task);/* 设置进程的 cpu affinity */void (*set_cpus_allowed)(struct task_struct *p, const struct cpumask *newmask);void (*rq_online)(struct rq *rq); /* cpu online */void (*rq_offline)(struct rq *rq); /* cpu offline */
#endifvoid (*set_curr_task) (struct rq *rq);void (*task_tick) (struct rq *rq, struct task_struct *p, int queued);void (*task_fork) (struct task_struct *p);void (*task_dead) (struct task_struct *p);/** The switched_from() call is allowed to drop rq->lock, therefore we* cannot assume the switched_from/switched_to pair is serliazed by* rq->lock. They are however serialized by p->pi_lock.*/void (*switched_from) (struct rq *this_rq, struct task_struct *task); /* @task 从 当前调度类别 切换到 其他调度类别 */void (*switched_to) (struct rq *this_rq, struct task_struct *task); /* @task 从 其他调度类别 切换到 当前调度类别 */void (*prio_changed) (struct rq *this_rq, struct task_struct *task, /* 优先级变更时的抢占逻辑 */int oldprio);/* 获取分配给进程 @task 的时间片 (sys_sched_rr_get_interval()) */unsigned int (*get_rr_interval) (struct rq *rq, struct task_struct *task);/* 更新当前进程运行时间统计信息 */void (*update_curr) (struct rq *rq);#define TASK_SET_GROUP 0
#define TASK_MOVE_GROUP 1#ifdef CONFIG_FAIR_GROUP_SCHEDvoid (*task_change_group) (struct task_struct *p, int type);
#endif
};
CFS 调度器类别定义如下:
/** All the scheduling class methods:*/
const struct sched_class fair_sched_class = {.next = &idle_sched_class,.enqueue_task = enqueue_task_fair,.dequeue_task = dequeue_task_fair,.yield_task = yield_task_fair,.yield_to_task = yield_to_task_fair,.check_preempt_curr = check_preempt_wakeup,.pick_next_task = pick_next_task_fair,.put_prev_task = put_prev_task_fair,#ifdef CONFIG_SMP.select_task_rq = select_task_rq_fair,.migrate_task_rq = migrate_task_rq_fair,.rq_online = rq_online_fair,.rq_offline = rq_offline_fair,.task_dead = task_dead_fair,.set_cpus_allowed = set_cpus_allowed_common,
#endif.set_curr_task = set_curr_task_fair,.task_tick = task_tick_fair, /* cfs 类定时器周期调度接口: scheduler_tick() -> task_tick_fair() */.task_fork = task_fork_fair, /* 子进程创建时, 更新其虚拟时间 */.prio_changed = prio_changed_fair,.switched_from = switched_from_fair,.switched_to = switched_to_fair,.get_rr_interval = get_rr_interval_fair,.update_curr = update_curr_fair,#ifdef CONFIG_FAIR_GROUP_SCHED.task_change_group = task_change_group_fair,
#endif
};
2.7 扩展:组调度
通常,CFS 调度器对单个任务进行操作,并努力为每个任务提供公平的 CPU 时间。有时,可能需要对任务进行分组,并为每个此类任务组提供公平的 CPU 时间。例如,可能需要首先为系统上的每个用户提供公平的 CPU 时间,然后再为属于用户的每个任务提供公平的 CPU 时间。
CONFIG_CGROUP_SCHED 配置涵盖的功能,试图实现这一目标:它允许对任务进行分组,并在这些组之间公平地分配 CPU 时间。
CONFIG_RT_GROUP_SCHED 允许对实时任务(即使用 SCHED_FIFO 和 SCHED_RR 调度策略的任务)进行分组。
CONFIG_FAIR_GROUP_SCHED 允许对 CFS 任务(即使用 SCHED_NORMAL 和SCHED_BATCH 调度策略的任务)进行分组。
开启了 CONFIG_FAIR_GROUP_SCHED 后,将为使用 cgroups 伪文件系统创建的每个组创建一个 cpu.shares 文件。请参阅以下示例步骤,以创建任务组并使用 cgroups 伪文件系统 修改 CPU 份额:
# mount -t tmpfs cgroup_root /sys/fs/cgroup
# mkdir /sys/fs/cgroup/cpu
# mount -t cgroup -ocpu none /sys/fs/cgroup/cpu
# cd /sys/fs/cgroup/cpu# mkdir multimedia # create "multimedia" group of tasks
# mkdir browser # create "browser" group of tasks# #Configure the multimedia group to receive twice the CPU bandwidth
# #that of browser group# echo 2048 > multimedia/cpu.shares
# echo 1024 > browser/cpu.shares# firefox & # Launch firefox and move it to "browser" group
# echo <firefox_pid> > browser/tasks# #Launch gmplayer (or your favourite movie player)
# echo <movie_player_pid> > multimedia/tasks
以上这一系列操作,分别为 多媒体程序 和 浏览器程序 创建了两个任务分组,并指定了它们各自的 CPU 配额。
注意,以上这些配置项都依赖于 CONFIG_CGROUPS,并允许管理员使用 cgroup 伪文件系统创建任务组。更多 cgroups 功能,读者可查阅相关资料。
3. 参考资料
[1] CFS Scheduler
[2] Completely Fair Scheduler
[3] 2.2.3 核心概念 - 调度策略