sys/sys/proc.h

   1 /*-
   2  * Copyright (c) 1986, 1989, 1991, 1993
   3  *      The Regents of the University of California.  All rights reserved.
   4  * (c) UNIX System Laboratories, Inc.
   5  * All or some portions of this file are derived from material licensed
   6  * to the University of California by American Telephone and Telegraph
   7  * Co. or Unix System Laboratories, Inc. and are reproduced herein with
   8  * the permission of UNIX System Laboratories, Inc.
   9  *
  10  * Redistribution and use in source and binary forms, with or without
  11  * modification, are permitted provided that the following conditions
  12  * are met:
  13  * 1. Redistributions of source code must retain the above copyright
  14  *    notice, this list of conditions and the following disclaimer.
  15  * 2. Redistributions in binary form must reproduce the above copyright
  16  *    notice, this list of conditions and the following disclaimer in the
  17  *    documentation and/or other materials provided with the distribution.
  18  * 3. All advertising materials mentioning features or use of this software
  19  *    must display the following acknowledgement:
  20  *      This product includes software developed by the University of
  21  *      California, Berkeley and its contributors.
  22  * 4. Neither the name of the University nor the names of its contributors
  23  *    may be used to endorse or promote products derived from this software
  24  *    without specific prior written permission.
  25  *
  26  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
  27  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  28  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  29  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
  30  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  31  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  32  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  33  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  34  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  35  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  36  * SUCH DAMAGE.
  37  *
  38  *      @(#)proc.h      8.15 (Berkeley) 5/19/95
  39  * $FreeBSD$
  40  */
  41
  42 #ifndef _SYS_PROC_H_
  43 #define _SYS_PROC_H_
  44
  45 #include <sys/callout.h>                /* For struct callout. */
  46 #include <sys/event.h>                  /* For struct klist. */
  47 #include <sys/filedesc.h>
  48 #include <sys/queue.h>
  49 #include <sys/priority.h>
  50 #include <sys/rtprio.h>                 /* XXX */
  51 #include <sys/runq.h>
  52 #include <sys/signal.h>
  53 #ifndef _KERNEL
  54 #include <sys/time.h>                   /* For structs itimerval, timeval. */
  55 #else
  56 #include <sys/pcpu.h>
  57 #endif
  58 #include <sys/ucontext.h>
  59 #include <sys/ucred.h>
  60 #include <machine/proc.h>               /* Machine-dependent proc substruct. */
  61
  62 /*
  63  * One structure allocated per session.
  64  *
  65  * List of locks
  66  * (m)          locked by s_mtx mtx
  67  * (e)          locked by proctree_lock sx
  68  * (c)          const until freeing
  69  */
  70 struct session {
  71         int             s_count;        /* (m) Ref cnt; pgrps in session. */
  72         struct  proc    *s_leader;      /* (m + e) Session leader. */
  73         struct  vnode   *s_ttyvp;       /* (m) Vnode of controlling tty. */
  74         struct  tty     *s_ttyp;        /* (m) Controlling tty. */
  75         pid_t           s_sid;          /* (c) Session ID. */
  76                                         /* (m) Setlogin() name: */
  77         char            s_login[roundup(MAXLOGNAME, sizeof(long))];
  78         struct  mtx     s_mtx;          /* Mutex to protect members */
  79 };
  80
  81 /*
  82  * One structure allocated per process group.
  83  *
  84  * List of locks
  85  * (m)          locked by pg_mtx mtx
  86  * (e)          locked by proctree_lock sx
  87  * (c)          const until freeing
  88  */
  89 struct pgrp {
  90         LIST_ENTRY(pgrp) pg_hash;       /* (e) Hash chain. */
  91         LIST_HEAD(, proc) pg_members;   /* (m + e) Pointer to pgrp members. */
  92         struct session  *pg_session;    /* (c) Pointer to session. */
  93         struct sigiolst pg_sigiolst;    /* (m) List of sigio sources. */
  94         pid_t           pg_id;          /* (c) Pgrp id. */
  95         int             pg_jobc;        /* (m) job cntl proc count */
  96         struct  mtx     pg_mtx;         /*  Mutex to protect members */
  97 };
  98
  99 struct procsig {
 100         sigset_t ps_sigignore;          /* Signals being ignored. */
 101         sigset_t ps_sigcatch;           /* Signals being caught by user. */
 102         int      ps_flag;
 103         struct   sigacts *ps_sigacts;   /* Signal actions, state. */
 104         int      ps_refcnt;
 105 };
 106
 107 #define PS_NOCLDWAIT    0x0001  /* No zombies if child dies */
 108 #define PS_NOCLDSTOP    0x0002  /* No SIGCHLD when children stop. */
 109 #define PS_CLDSIGIGN    0x0004  /* The SIGCHLD handler is SIG_IGN. */
 110
 111 /*
 112  * pargs, used to hold a copy of the command line, if it had a sane length.
 113  */
 114 struct pargs {
 115         u_int   ar_ref;         /* Reference count. */
 116         u_int   ar_length;      /* Length. */
 117         u_char  ar_args[1];     /* Arguments. */
 118 };
 119
 120 /*-
 121  * Description of a process.
 122  *
 123  * This structure contains the information needed to manage a thread of
 124  * control, known in UN*X as a process; it has references to substructures
 125  * containing descriptions of things that the process uses, but may share
 126  * with related processes.  The process structure and the substructures
 127  * are always addressable except for those marked "(CPU)" below,
 128  * which might be addressable only on a processor on which the process
 129  * is running.
 130  *
 131  * Below is a key of locks used to protect each member of struct proc.  The
 132  * lock is indicated by a reference to a specific character in parens in the
 133  * associated comment.
 134  *      * - not yet protected
 135  *      a - only touched by curproc or parent during fork/wait
 136  *      b - created at fork, never changes
 137  *              (exception aiods switch vmspaces, but they are also
 138  *              marked 'P_SYSTEM' so hopefully it will be left alone)
 139  *      c - locked by proc mtx
 140  *      d - locked by allproc_lock lock
 141  *      e - locked by proctree_lock lock
 142  *      f - session mtx
 143  *      g - process group mtx
 144  *      h - callout_lock mtx
 145  *      i - by curproc or the master session mtx
 146  *      j - locked by sched_lock mtx
 147  *      k - only accessed by curthread
 148  *      l - the attaching proc or attaching proc parent
 149  *      m - Giant
 150  *      n - not locked, lazy
 151  *      o - ktrace lock
 152  *      p - select lock (sellock)
 153  *
 154  * If the locking key specifies two identifiers (for example, p_pptr) then
 155  * either lock is sufficient for read access, but both locks must be held
 156  * for write access.
 157  */
 158 struct ithd;
 159 struct nlminfo;
 160 struct trapframe;
 161
 162 /*
 163  * Here we define the four structures used for process information.
 164  *
 165  * The first is the thread. It might be though of as a "Kernel
 166  * Schedulable Entity Context".
 167  * This structure contains all the information as to where a thread of
 168  * execution is now, or was when it was suspended, why it was suspended,
 169  * and anything else that will be needed to restart it when it is
 170  * rescheduled. Always associated with a KSE when running, but can be
 171  * reassigned to an equivalent KSE  when being restarted for
 172  * load balancing. Each of these is associated with a kernel stack
 173  * and a pcb.
 174  *
 175  * It is important to remember that a particular thread structure only
 176  * exists as long as the system call or kernel entrance (e.g. by pagefault)
 177  * which it is currently executing. It should threfore NEVER be referenced
 178  * by pointers in long lived structures that live longer than a single
 179  * request. If several threads complete their work at the same time,
 180  * they will all rewind their stacks to the user boundary, report their
 181  * completion state, and all but one will be freed. That last one will
 182  * be kept to provide a kernel stack and pcb for the NEXT syscall or kernel
 183  * entrance. (basically to save freeing and then re-allocating it) The KSE
 184  * keeps a cached thread available to allow it to quickly
 185  * get one when it needs a new one. There is also a system
 186  * cache of free threads. Threads have priority and partake in priority
 187  * inherritance schemes.
 188  */
 189 struct thread;
 190
 191 /*
 192  * The second structure is the Kernel Schedulable Entity. (KSE)
 193  * It represents the ability to take a slot in the scheduler queue.
 194  * As long as this is scheduled, it could continue to run any threads that
 195  * are assigned to the KSEGRP (see later) until either it runs out
 196  * of runnable threads of high enough priority, or CPU.
 197  * It runs on one CPU and is assigned a quantum of time. When a thread is
 198  * blocked, The KSE continues to run and will search for another thread
 199  * in a runnable state amongst those it has. It May decide to return to user
 200  * mode with a new 'empty' thread if there are no runnable threads.
 201  * Threads are temporarily associated with a KSE for scheduling reasons.
 202  */
 203 struct kse;
 204
 205 /*
 206  * The KSEGRP is allocated resources across a number of CPUs.
 207  * (Including a number of CPUxQUANTA. It parcels these QUANTA up among
 208  * Its KSEs, each of which should be running in a different CPU.
 209  * BASE priority and total available quanta are properties of a KSEGRP.
 210  * Multiple KSEGRPs in a single process compete against each other
 211  * for total quanta in the same way that a forked child competes against
 212  * it's parent process.
 213  */
 214 struct ksegrp;
 215
 216 /*
 217  * A process is the owner of all system resources allocated to a task
 218  * except CPU quanta.
 219  * All KSEGs under one process see, and have the same access to, these
 220  * resources (e.g. files, memory, sockets, permissions kqueues).
 221  * A process may compete for CPU cycles on the same basis as a
 222  * forked process cluster by spawning several KSEGRPs.
 223  */
 224 struct proc;
 225
 226 /***************
 227  * In pictures:
 228  With a single run queue used by all processors:
 229
 230  RUNQ: --->KSE---KSE--...               SLEEPQ:[]---THREAD---THREAD---THREAD
 231            |   /                               []---THREAD
 232            KSEG---THREAD--THREAD--THREAD       []
 233                                                []---THREAD---THREAD
 234
 235   (processors run THREADs from the KSEG until they are exhausted or
 236   the KSEG exhausts its quantum)
 237
 238 With PER-CPU run queues:
 239 KSEs on the separate run queues directly
 240 They would be given priorities calculated from the KSEG.
 241
 242  *
 243  *****************/
 244
 245 /*
 246  * Kernel runnable context (thread).
 247  * This is what is put to sleep and reactivated.
 248  * The first KSE available in the correct group will run this thread.
 249  * If several are available, use the one on the same CPU as last time.
 250  * When waing to be run, threads are hung off the KSEGRP in priority order.
 251  * with N runnable and queued KSEs in the KSEGRP, the first N threads
 252  * are linked to them. Other threads are not yet assigned.
 253  */
 254 struct thread {
 255         struct proc     *td_proc;       /* Associated process. */
 256         struct ksegrp   *td_ksegrp;     /* Associated KSEG. */
 257         TAILQ_ENTRY(thread) td_plist;   /* All threads in this proc */
 258         TAILQ_ENTRY(thread) td_kglist;  /* All threads in this ksegrp */
 259
 260         /* The two queues below should someday be merged */
 261         TAILQ_ENTRY(thread) td_slpq;    /* (j) Sleep queue. XXXKSE */
 262         TAILQ_ENTRY(thread) td_lockq;   /* (j) Lock queue. XXXKSE */
 263         TAILQ_ENTRY(thread) td_runq;    /* (j) Run queue(s). XXXKSE */
 264
 265         TAILQ_HEAD(, selinfo) td_selq;  /* (p) List of selinfos. */
 266
 267 /* Cleared during fork1() or thread_sched_upcall() */
 268 #define td_startzero td_flags
 269         int             td_flags;       /* (j) TDF_* flags. */
 270         int             td_inhibitors;  /* (j) Why can not run */
 271         struct kse      *td_last_kse;   /* Where it wants to be if possible. */
 272         struct kse      *td_kse;        /* Current KSE if running. */
 273         int             td_dupfd;       /* (k) Ret value from fdopen. XXX */
 274         void            *td_wchan;      /* (j) Sleep address. */
 275         const char      *td_wmesg;      /* (j) Reason for sleep. */
 276         u_char          td_lastcpu;     /* (j) Last cpu we were on. */
 277         u_char          td_inktr;       /* (k) Currently handling a KTR. */
 278         u_char          td_inktrace;    /* (k) Currently handling a KTRACE. */
 279         short           td_locks;       /* (k) DEBUG: lockmgr count of locks */
 280         struct mtx      *td_blocked;    /* (j) Mutex process is blocked on. */
 281         struct ithd     *td_ithd;       /* (b) For interrupt threads only. */
 282         const char      *td_lockname;   /* (j) Name of lock blocked on. */
 283         LIST_HEAD(, mtx) td_contested;  /* (j) Contested locks. */
 284         struct lock_list_entry *td_sleeplocks; /* (k) Held sleep locks. */
 285         int             td_intr_nesting_level; /* (k) Interrupt recursion. */
 286         struct kse_thr_mailbox *td_mailbox; /* the userland mailbox address */
 287         struct ucred    *td_ucred;      /* (k) Reference to credentials. */
 288         void            (*td_switchin)(void); /* (k) Switchin special func. */
 289         struct thread   *td_standin;    /* (?) use this for an upcall */
 290         u_int           td_critnest;    /* (k) Critical section nest level. */
 291 #define td_endzero td_md
 292
 293 /* Copied during fork1() or thread_sched_upcall() */
 294 #define td_startcopy td_endzero
 295         /* XXXKSE just copying td_md needs checking! */
 296         struct mdthread td_md;          /* (k) Any machine-dependent fields. */
 297         u_char          td_base_pri;    /* (j) Thread base kernel priority. */
 298         u_char          td_priority;    /* (j) Thread active priority. */
 299 #define td_endcopy td_pcb
 300
 301 /*
 302  * fields that must be manually set in fork1() or thread_sched_upcall()
 303  * or already have been set in the allocator, contstructor, etc..
 304  */
 305         struct pcb      *td_pcb;        /* (k) Kernel VA of pcb and kstack. */
 306         enum {
 307                 TDS_INACTIVE = 0x20,
 308                 TDS_INHIBITED,
 309                 TDS_CAN_RUN,
 310                 TDS_RUNQ,
 311                 TDS_RUNNING
 312         } td_state;
 313         register_t      td_retval[2];   /* (k) Syscall aux returns. */
 314         struct callout  td_slpcallout;  /* (h) Callout for sleep. */
 315         struct trapframe *td_frame;     /* (k) */
 316         struct vm_object *td_kstack_obj;/* (a) Kstack object. */
 317         vm_offset_t     td_kstack;      /* Kernel VA of kstack. */
 318         int             td_kstack_pages; /* Size of the kstack */
 319         struct vm_object *td_altkstack_obj;/* (a) Alternate kstack object. */
 320         vm_offset_t     td_altkstack;   /* Kernel VA of alternate kstack. */
 321         int             td_altkstack_pages; /* Size of the alternate kstack */
 322 };
 323 /* flags kept in td_flags */
 324 #define TDF_UNBOUND     0x000001 /* May give away the kse, uses the kg runq. */
 325 #define TDF_INPANIC     0x000002 /* Caused a panic, let it drive crashdump. */
 326 #define TDF_SINTR       0x000008 /* Sleep is interruptible. */
 327 #define TDF_TIMEOUT     0x000010 /* Timing out during sleep. */
 328 #define TDF_SELECT      0x000040 /* Selecting; wakeup/waiting danger. */
 329 #define TDF_CVWAITQ     0x000080 /* Thread is on a cv_waitq (not slpq). */
 330 #define TDF_UPCALLING   0x000100 /* This thread is doing an upcall. */
 331 #define TDF_ONSLEEPQ    0x000200 /* On the sleep queue. */
 332 #define TDF_INMSLEEP    0x000400 /* Don't recurse in msleep(). */
 333 #define TDF_TIMOFAIL    0x001000 /* Timeout from sleep after we were awake. */
 334 #define TDF_DEADLKTREAT 0x800000 /* Lock aquisition - deadlock treatment. */
 335
 336 #define TDI_SUSPENDED   0x01    /* On suspension queue. */
 337 #define TDI_SLEEPING    0x02    /* Actually asleep! (tricky). */
 338 #define TDI_SWAPPED     0x04    /* Stack not in mem.. bad juju if run. */
 339 #define TDI_LOCK        0x08    /* Stopped on a lock. */
 340 #define TDI_IWAIT       0x10    /* Awaiting interrupt. */
 341 #define TDI_LOAN        0x20    /* bound thread's KSE is lent */
 342
 343 #define TD_IS_SLEEPING(td)      ((td)->td_inhibitors & TDI_SLEEPING)
 344 #define TD_ON_SLEEPQ(td)        ((td)->td_wchan != NULL)
 345 #define TD_IS_SUSPENDED(td)     ((td)->td_inhibitors & TDI_SUSPENDED)
 346 #define TD_IS_SWAPPED(td)       ((td)->td_inhibitors & TDI_SWAPPED)
 347 #define TD_ON_LOCK(td)          ((td)->td_inhibitors & TDI_LOCK)
 348 #define TD_LENT(td)             ((td)->td_inhibitors & TDI_LOAN)
 349 #define TD_AWAITING_INTR(td)    ((td)->td_inhibitors & TDI_IWAIT)
 350 #define TD_IS_RUNNING(td)       ((td)->td_state == TDS_RUNNING)
 351 #define TD_ON_RUNQ(td)          ((td)->td_state == TDS_RUNQ)
 352 #define TD_CAN_RUN(td)          ((td)->td_state == TDS_CAN_RUN)
 353 #define TD_IS_INHIBITED(td)     ((td)->td_state == TDS_INHIBITED)
 354
 355 #define TD_SET_INHIB(td, inhib) do {                    \
 356         (td)->td_state = TDS_INHIBITED;                 \
 357         (td)->td_inhibitors |= inhib;                   \
 358 } while (0)
 359
 360 #define TD_CLR_INHIB(td, inhib) do {                    \
 361         if (((td)->td_inhibitors & inhib) &&            \
 362             (((td)->td_inhibitors &= ~inhib) == 0))     \
 363                 (td)->td_state = TDS_CAN_RUN;           \
 364 } while (0)
 365
 366 #define TD_SET_SLEEPING(td)     TD_SET_INHIB((td), TDI_SLEEPING)
 367 #define TD_SET_SWAPPED(td)      TD_SET_INHIB((td), TDI_SWAPPED)
 368 #define TD_SET_LOCK(td)         TD_SET_INHIB((td), TDI_LOCK)
 369 #define TD_SET_SUSPENDED(td)    TD_SET_INHIB((td), TDI_SUSPENDED)
 370 #define TD_SET_IWAIT(td)        TD_SET_INHIB((td), TDI_IWAIT)
 371 #define TD_SET_LOAN(td)         TD_SET_INHIB((td), TDI_LOAN)
 372
 373 #define TD_CLR_SLEEPING(td)     TD_CLR_INHIB((td), TDI_SLEEPING)
 374 #define TD_CLR_SWAPPED(td)      TD_CLR_INHIB((td), TDI_SWAPPED)
 375 #define TD_CLR_LOCK(td)         TD_CLR_INHIB((td), TDI_LOCK)
 376 #define TD_CLR_SUSPENDED(td)    TD_CLR_INHIB((td), TDI_SUSPENDED)
 377 #define TD_CLR_IWAIT(td)        TD_CLR_INHIB((td), TDI_IWAIT)
 378 #define TD_CLR_LOAN(td)         TD_CLR_INHIB((td), TDI_LOAN)
 379
 380 #define TD_SET_RUNNING(td)      do {(td)->td_state = TDS_RUNNING; } while (0)
 381 #define TD_SET_RUNQ(td)         do {(td)->td_state = TDS_RUNQ; } while (0)
 382 #define TD_SET_CAN_RUN(td)      do {(td)->td_state = TDS_CAN_RUN; } while (0)
 383 #define TD_SET_ON_SLEEPQ(td)    do {(td)->td_flags |= TDF_ONSLEEPQ; } while (0)
 384 #define TD_CLR_ON_SLEEPQ(td)    do {                    \
 385                 (td)->td_flags &= ~TDF_ONSLEEPQ;        \
 386                 (td)->td_wchan = NULL;                  \
 387 } while (0)
 388
 389
 390 /*
 391  * Traps for young players:
 392  * The main thread variable that controls whether a thread acts as a threaded
 393  * or unthreaded thread is the td_bound counter (0 == unbound).
 394  * UPCALLS run with the UNBOUND flags clear, after they are first scheduled.
 395  * i.e. they bind themselves to whatever thread thay are first scheduled with.
 396  * You may see BOUND threads in KSE processes but you should never see
 397  * UNBOUND threads in non KSE processes.
 398  */
 399
 400 /*
 401  * The schedulable entity that can be given a context to run.
 402  * A process may have several of these. Probably one per processor
 403  * but posibly a few more. In this universe they are grouped
 404  * with a KSEG that contains the priority and niceness
 405  * for the group.
 406  */
 407 struct kse {
 408         struct proc     *ke_proc;       /* Associated process. */
 409         struct ksegrp   *ke_ksegrp;     /* Associated KSEG. */
 410         TAILQ_ENTRY(kse) ke_kglist;     /* Queue of all KSEs in ke_ksegrp. */
 411         TAILQ_ENTRY(kse) ke_kgrlist;    /* Queue of all KSEs in this state. */
 412         TAILQ_ENTRY(kse) ke_procq;      /* (j) Run queue. */
 413
 414 #define ke_startzero ke_flags
 415         int             ke_flags;       /* (j) KEF_* flags. */
 416         struct thread   *ke_thread;     /* Active associated thread. */
 417         struct thread   *ke_bound;      /* Thread bound to this KSE (*) */
 418         int             ke_cpticks;     /* (j) Ticks of cpu time. */
 419         fixpt_t         ke_pctcpu;      /* (j) %cpu during p_swtime. */
 420         u_int64_t       ke_uu;          /* (j) Previous user time in usec. */
 421         u_int64_t       ke_su;          /* (j) Previous system time in usec. */
 422         u_int64_t       ke_iu;          /* (j) Previous intr time in usec. */
 423         u_int64_t       ke_uticks;      /* (j) Statclock hits in user mode. */
 424         u_int64_t       ke_sticks;      /* (j) Statclock hits in system mode. */
 425         u_int64_t       ke_iticks;      /* (j) Statclock hits in intr. */
 426         u_char          ke_oncpu;       /* (j) Which cpu we are on. */
 427         char            ke_rqindex;     /* (j) Run queue index. */
 428         enum {
 429                 KES_IDLE = 0x10,
 430                 KES_ONRUNQ,
 431                 KES_UNQUEUED,           /* in transit */
 432                 KES_THREAD              /* slaved to thread state */
 433         } ke_state;                     /* (j) S* process status. */
 434         struct kse_mailbox *ke_mailbox; /* the userland mailbox address */
 435         stack_t         ke_stack;
 436         void            *ke_upcall;
 437         struct thread   *ke_tdspare;    /* spare thread for upcalls */
 438 #define ke_endzero ke_dummy
 439         u_char          ke_dummy;
 440 };
 441
 442 /* flags kept in ke_flags */
 443 #define KEF_OWEUPC      0x00002 /* Owe process an addupc() call at next ast. */
 444 #define KEF_IDLEKSE     0x00004 /* A 'Per CPU idle process'.. has one thread */
 445 #define KEF_LOANED      0x00008 /* On loan from the bound thread to another */
 446 #define KEF_USER        0x00200 /* Process is not officially in the kernel */
 447 #define KEF_ASTPENDING  0x00400 /* KSE has a pending ast. */
 448 #define KEF_NEEDRESCHED 0x00800 /* Process needs to yield. */
 449 #define KEF_ONLOANQ     0x01000 /* KSE is on loan queue */
 450 #define KEF_DIDRUN      0x02000 /* KSE actually ran. */
 451
 452 /*
 453  * (*) A bound KSE with a bound thread in a KSE process may be lent to
 454  * Other threads, as long as those threads do not leave the kernel.
 455  * The other threads must be either exiting, or be unbound with a valid
 456  * mailbox so that they can save their state there rather than going
 457  * to user space. While this happens the real bound thread is still linked
 458  * to the kse via the ke_bound field, and the KSE has its "KEF_LOANED
 459  * flag set.
 460  */
 461
 462 /*
 463  * Kernel-scheduled entity group (KSEG).  The scheduler considers each KSEG to
 464  * be an indivisible unit from a time-sharing perspective, though each KSEG may
 465  * contain multiple KSEs.
 466  */
 467 struct ksegrp {
 468         struct proc     *kg_proc;       /* Process that contains this KSEG. */
 469         TAILQ_ENTRY(ksegrp) kg_ksegrp;  /* Queue of KSEGs in kg_proc. */
 470         TAILQ_HEAD(, kse) kg_kseq;      /* (ke_kglist) All KSEs. */
 471         TAILQ_HEAD(, kse) kg_iq;        /* (ke_kgrlist) Idle KSEs. */
 472         TAILQ_HEAD(, kse) kg_lq;        /* (ke_kgrlist) Loan KSEs. */
 473         TAILQ_HEAD(, thread) kg_threads;/* (td_kglist) All threads. */
 474         TAILQ_HEAD(, thread) kg_runq;   /* (td_runq) waiting RUNNABLE threads */
 475         TAILQ_HEAD(, thread) kg_slpq;   /* (td_runq) NONRUNNABLE threads. */
 476
 477 #define kg_startzero kg_estcpu
 478         u_int           kg_estcpu;      /* Sum of the same field in KSEs. */
 479         u_int           kg_slptime;     /* (j) How long completely blocked. */
 480         struct thread   *kg_last_assigned; /* Last thread assigned to a KSE */
 481         int             kg_runnable;    /* Num runnable threads on queue. */
 482         int             kg_runq_kses;   /* Num KSEs on runq. */
 483         int             kg_loan_kses;   /* Num KSEs on loan queue. */
 484         struct kse_thr_mailbox *kg_completed; /* (c) completed thread mboxes */
 485 #define kg_endzero kg_pri_class
 486
 487 #define kg_startcopy    kg_endzero
 488         u_char          kg_pri_class;   /* (j) Scheduling class. */
 489         u_char          kg_user_pri;    /* (j) User pri from estcpu and nice. */
 490         char            kg_nice;        /* (j?/k?) Process "nice" value. */
 491 #define kg_endcopy kg_numthreads
 492         int             kg_numthreads;  /* Num threads in total */
 493         int             kg_idle_kses;   /* num KSEs idle */
 494         int             kg_kses;        /* Num KSEs in group. */
 495 };
 496
 497 /*
 498  * The old fashionned process. May have multiple threads, KSEGRPs
 499  * and KSEs. Starts off with a single embedded KSEGRP, KSE and THREAD.
 500  */
 501 struct proc {
 502         LIST_ENTRY(proc) p_list;        /* (d) List of all processes. */
 503         TAILQ_HEAD(, ksegrp) p_ksegrps; /* (kg_ksegrp) All KSEGs. */
 504         TAILQ_HEAD(, thread) p_threads; /* (td_plist) Threads. (shortcut) */
 505         TAILQ_HEAD(, thread) p_suspended; /* (td_runq) suspended threads */
 506         struct ucred    *p_ucred;       /* (c) Process owner's identity. */
 507         struct filedesc *p_fd;          /* (b) Ptr to open files structure. */
 508                                         /* Accumulated stats for all KSEs? */
 509         struct pstats   *p_stats;       /* (b) Accounting/statistics (CPU). */
 510         struct plimit   *p_limit;       /* (m) Process limits. */
 511         struct vm_object *p_upages_obj; /* (a) Upages object. */
 512         struct procsig  *p_procsig;     /* (c) Signal actions, state (CPU). */
 513
 514         /*struct ksegrp p_ksegrp;
 515         struct kse      p_kse; */
 516
 517         /*
 518          * The following don't make too much sense..
 519          * See the td_ or ke_ versions of the same flags
 520          */
 521         int             p_flag;         /* (c) P_* flags. */
 522         int             p_sflag;        /* (j) PS_* flags. */
 523         enum {
 524                 PRS_NEW = 0,            /* In creation */
 525                 PRS_NORMAL,             /* KSEs can be run */
 526                 PRS_WAIT,               /* Waiting on interrupt ? */
 527                 PRS_ZOMBIE
 528         } p_state;                      /* (j) S* process status. */
 529         pid_t           p_pid;          /* (b) Process identifier. */
 530         LIST_ENTRY(proc) p_hash;        /* (d) Hash chain. */
 531         LIST_ENTRY(proc) p_pglist;      /* (g + e) List of processes in pgrp. */
 532         struct proc     *p_pptr;        /* (c + e) Pointer to parent process. */
 533         LIST_ENTRY(proc) p_sibling;     /* (e) List of sibling processes. */
 534         LIST_HEAD(, proc) p_children;   /* (e) Pointer to list of children. */
 535         struct mtx      p_mtx;          /* (k) Lock for this struct. */
 536
 537 /* The following fields are all zeroed upon creation in fork. */
 538 #define p_startzero     p_oppid
 539         pid_t           p_oppid;        /* (c + e) Save ppid in ptrace. XXX */
 540         struct vmspace  *p_vmspace;     /* (b) Address space. */
 541         u_int           p_swtime;       /* (j) Time swapped in or out. */
 542         struct itimerval p_realtimer;   /* (h?/k?) Alarm timer. */
 543         struct bintime  p_runtime;      /* (j) Real time. */
 544         int             p_traceflag;    /* (o) Kernel trace points. */
 545         struct vnode    *p_tracep;      /* (c + o) Trace to vnode. */
 546         sigset_t        p_siglist;      /* (c) Sigs arrived, not delivered. */
 547         struct vnode    *p_textvp;      /* (b) Vnode of executable. */
 548         char            p_lock;         /* (c) Proclock (prevent swap) count. */
 549         struct klist p_klist;           /* (c) Knotes attached to this proc. */
 550         struct sigiolst p_sigiolst;     /* (c) List of sigio sources. */
 551         int             p_sigparent;    /* (c) Signal to parent on exit. */
 552         sigset_t        p_oldsigmask;   /* (c) Saved mask from pre sigpause. */
 553         int             p_sig;          /* (n) For core dump/debugger XXX. */
 554         u_long          p_code;         /* (n) For core dump/debugger XXX. */
 555         u_int           p_stops;        /* (c) Stop event bitmask. */
 556         u_int           p_stype;        /* (c) Stop event type. */
 557         char            p_step;         /* (c) Process is stopped. */
 558         u_char          p_pfsflags;     /* (c) Procfs flags. */
 559         struct nlminfo  *p_nlminfo;     /* (?) Only used by/for lockd. */
 560         void            *p_aioinfo;     /* (c) ASYNC I/O info. */
 561         struct thread   *p_singlethread;/* (j) If single threading this is it */
 562         int             p_suspcount;    /* (j) # threads in suspended mode */
 563         int             p_userthreads;  /* (j) # threads in userland */
 564 /* End area that is zeroed on creation. */
 565 #define p_endzero       p_sigmask
 566
 567 /* The following fields are all copied upon creation in fork. */
 568 #define p_startcopy     p_endzero
 569         sigset_t        p_sigmask;      /* (c) Current signal mask. */
 570         stack_t         p_sigstk;       /* (c) Stack ptr and on-stack flag. */
 571         u_int           p_magic;        /* (b) Magic number. */
 572         char            p_comm[MAXCOMLEN + 1];  /* (b) Process name. */
 573         struct pgrp     *p_pgrp;        /* (c + e) Pointer to process group. */
 574         struct sysentvec *p_sysent;     /* (b) Syscall dispatch info. */
 575         struct pargs    *p_args;        /* (c) Process arguments. */
 576         rlim_t          p_cpulimit;     /* (j) Current CPU limit in seconds. */
 577 /* End area that is copied on creation. */
 578 #define p_endcopy       p_xstat
 579
 580         u_short         p_xstat;        /* (c) Exit status; also stop sig. */
 581         int             p_numthreads;   /* (?) number of threads */
 582         int             p_numksegrps;   /* (?) number of ksegrps */
 583         struct mdproc   p_md;           /* (c) Any machine-dependent fields. */
 584         struct callout  p_itcallout;    /* (h) Interval timer callout. */
 585         struct user     *p_uarea;       /* (k) Kernel VA of u-area (CPU) */
 586         u_short         p_acflag;       /* (c) Accounting flags. */
 587         struct rusage   *p_ru;          /* (a) Exit information. XXX */
 588         struct proc     *p_peers;       /* (c) */
 589         struct proc     *p_leader;      /* (b) */
 590         void            *p_emuldata;    /* (c) Emulator state data. */
 591 };
 592
 593 #define p_rlimit        p_limit->pl_rlimit
 594 #define p_sigacts       p_procsig->ps_sigacts
 595 #define p_sigignore     p_procsig->ps_sigignore
 596 #define p_sigcatch      p_procsig->ps_sigcatch
 597 #define p_session       p_pgrp->pg_session
 598 #define p_pgid          p_pgrp->pg_id
 599
 600 #define NOCPU   0xff            /* For when we aren't on a CPU. (SMP) */
 601
 602 /* Status values (p_stat). */
 603
 604 /* These flags are kept in p_flag. */
 605 #define P_ADVLOCK       0x00001 /* Process may hold a POSIX advisory lock. */
 606 #define P_CONTROLT      0x00002 /* Has a controlling terminal. */
 607 #define P_KTHREAD       0x00004 /* Kernel thread. (*)*/
 608 #define P_NOLOAD        0x00008 /* Ignore during load avg calculations. */
 609 #define P_PPWAIT        0x00010 /* Parent is waiting for child to exec/exit. */
 610 #define P_SUGID         0x00100 /* Had set id privileges since last exec. */
 611 #define P_SYSTEM        0x00200 /* System proc: no sigs, stats or swapping. */
 612 #define P_WAITED        0x01000 /* Someone is waiting for us */
 613 #define P_WEXIT         0x02000 /* Working on exiting. */
 614 #define P_EXEC          0x04000 /* Process called exec. */
 615 #define P_KSES          0x08000 /* Process is using KSEs. */
 616 #define P_CONTINUED     0x10000 /* Proc has continued from a stopped state. */
 617
 618 /* flags that control how threads may be suspended for some reason */
 619 #define P_STOPPED_SIG           0x20000 /* Stopped due to SIGSTOP/SIGTSTP */
 620 #define P_STOPPED_TRACE         0x40000 /* Stopped because of tracing */
 621 #define P_STOPPED_SINGLE        0x80000 /* Only one thread can continue */
 622                                         /* (not to user) */
 623 #define P_SINGLE_EXIT           0x00400 /* Threads suspending should exit, */
 624                                         /* not wait */
 625 #define P_TRACED                0x00800 /* Debugged process being traced. */
 626 #define P_STOPPED               (P_STOPPED_SIG|P_STOPPED_SINGLE|P_STOPPED_TRACE)
 627 #define P_SHOULDSTOP(p)         ((p)->p_flag & P_STOPPED)
 628
 629 /* Should be moved to machine-dependent areas. */
 630 #define P_UNUSED100000  0x100000
 631 #define P_COWINPROGRESS 0x400000 /* Snapshot copy-on-write in progress. */
 632
 633 #define P_JAILED        0x1000000 /* Process is in jail. */
 634 #define P_OLDMASK       0x2000000 /* Need to restore mask after suspend. */
 635 #define P_ALTSTACK      0x4000000 /* Have alternate signal stack. */
 636 #define P_INEXEC        0x8000000 /* Process is in execve(). */
 637
 638 /* These flags are kept in p_sflag and are protected with sched_lock. */
 639 #define PS_INMEM        0x00001 /* Loaded into memory. */
 640 #define PS_XCPU         0x00002 /* Exceeded CPU limit. */
 641 #define PS_PROFIL       0x00004 /* Has started profiling. */
 642 #define PS_ALRMPEND     0x00020 /* Pending SIGVTALRM needs to be posted. */
 643 #define PS_PROFPEND     0x00040 /* Pending SIGPROF needs to be posted. */
 644 #define PS_SWAPINREQ    0x00100 /* Swapin request due to wakeup. */
 645 #define PS_SWAPPING     0x00200 /* Process is being swapped. */
 646 #define PS_NEEDSIGCHK   0x02000 /* Process may need signal delivery. */
 647 #define PS_SWAPPINGIN   0x04000 /* Swapin in progress. */
 648
 649 /* used only in legacy conversion code */
 650 #define SIDL    1               /* Process being created by fork. */
 651 #define SRUN    2               /* Currently runnable. */
 652 #define SSLEEP  3               /* Sleeping on an address. */
 653 #define SSTOP   4               /* Process debugging or suspension. */
 654 #define SZOMB   5               /* Awaiting collection by parent. */
 655 #define SWAIT   6               /* Waiting for interrupt. */
 656 #define SLOCK   7               /* Blocked on a lock. */
 657
 658 #define P_MAGIC         0xbeefface
 659
 660 #ifdef _KERNEL
 661
 662 #ifdef MALLOC_DECLARE
 663 MALLOC_DECLARE(M_PARGS);
 664 MALLOC_DECLARE(M_PGRP);
 665 MALLOC_DECLARE(M_SESSION);
 666 MALLOC_DECLARE(M_SUBPROC);
 667 MALLOC_DECLARE(M_ZOMBIE);
 668 #endif
 669
 670 #define FOREACH_PROC_IN_SYSTEM(p)                                       \
 671         LIST_FOREACH((p), &allproc, p_list)
 672 #define FOREACH_KSEGRP_IN_PROC(p, kg)                                   \
 673         TAILQ_FOREACH((kg), &(p)->p_ksegrps, kg_ksegrp)
 674 #define FOREACH_THREAD_IN_GROUP(kg, td)                                 \
 675         TAILQ_FOREACH((td), &(kg)->kg_threads, td_kglist)
 676 #define FOREACH_KSE_IN_GROUP(kg, ke)                                    \
 677         TAILQ_FOREACH((ke), &(kg)->kg_kseq, ke_kglist)
 678 #define FOREACH_THREAD_IN_PROC(p, td)                                   \
 679         TAILQ_FOREACH((td), &(p)->p_threads, td_plist)
 680
 681 /* XXXKSE the lines below should probably only be used in 1:1 code */
 682 #define FIRST_THREAD_IN_PROC(p) TAILQ_FIRST(&p->p_threads)
 683 #define FIRST_KSEGRP_IN_PROC(p) TAILQ_FIRST(&p->p_ksegrps)
 684 #define FIRST_KSE_IN_KSEGRP(kg) TAILQ_FIRST(&kg->kg_kseq)
 685 #define FIRST_KSE_IN_PROC(p) FIRST_KSE_IN_KSEGRP(FIRST_KSEGRP_IN_PROC(p))
 686
 687 static __inline int
 688 sigonstack(size_t sp)
 689 {
 690         register struct thread *td = curthread;
 691         struct proc *p = td->td_proc;
 692
 693         return ((p->p_flag & P_ALTSTACK) ?
 694 #if defined(COMPAT_43) || defined(COMPAT_SUNOS)
 695             ((p->p_sigstk.ss_size == 0) ? (p->p_sigstk.ss_flags & SS_ONSTACK) :
 696                 ((sp - (size_t)p->p_sigstk.ss_sp) < p->p_sigstk.ss_size))
 697 #else
 698             ((sp - (size_t)p->p_sigstk.ss_sp) < p->p_sigstk.ss_size)
 699 #endif
 700             : 0);
 701 }
 702
 703 /* Handy macro to determine if p1 can mangle p2. */
 704 #define PRISON_CHECK(p1, p2) \
 705         ((p1)->p_prison == NULL || (p1)->p_prison == (p2)->p_prison)
 706
 707 /*
 708  * We use process IDs <= PID_MAX; PID_MAX + 1 must also fit in a pid_t,
 709  * as it is used to represent "no process group".
 710  */
 711 #define PID_MAX         99999
 712 #define NO_PID          100000
 713
 714 #define SESS_LEADER(p)  ((p)->p_session->s_leader == (p))
 715 #define SESSHOLD(s)     ((s)->s_count++)
 716 #define SESSRELE(s) {                                                   \
 717         if (--(s)->s_count == 0)                                        \
 718                 FREE(s, M_SESSION);                                     \
 719 }
 720
 721 #define STOPEVENT(p, e, v) do {                                         \
 722         PROC_LOCK(p);                                                   \
 723         _STOPEVENT((p), (e), (v));                                      \
 724         PROC_UNLOCK(p);                                                 \
 725 } while (0)
 726 #define _STOPEVENT(p, e, v) do {                                        \
 727         PROC_LOCK_ASSERT(p, MA_OWNED);                                  \
 728         if ((p)->p_stops & (e)) {                                       \
 729                 stopevent((p), (e), (v));                               \
 730         }                                                               \
 731 } while (0)
 732
 733 /* Lock and unlock a process. */
 734 #define PROC_LOCK(p)    mtx_lock(&(p)->p_mtx)
 735 #define PROC_TRYLOCK(p) mtx_trylock(&(p)->p_mtx)
 736 #define PROC_UNLOCK(p)  mtx_unlock(&(p)->p_mtx)
 737 #define PROC_LOCKED(p)  mtx_owned(&(p)->p_mtx)
 738 #define PROC_LOCK_ASSERT(p, type)       mtx_assert(&(p)->p_mtx, (type))
 739
 740 /* Lock and unlock a process group. */
 741 #define PGRP_LOCK(pg)   mtx_lock(&(pg)->pg_mtx)
 742 #define PGRP_UNLOCK(pg) mtx_unlock(&(pg)->pg_mtx)
 743 #define PGRP_LOCKED(pg) mtx_owned(&(pg)->pg_mtx)
 744 #define PGRP_LOCK_ASSERT(pg, type)      mtx_assert(&(pg)->pg_mtx, (type))
 745
 746 #define PGRP_LOCK_PGSIGNAL(pg)                                          \
 747         do {                                                            \
 748                 if ((pg) != NULL)                                       \
 749                         PGRP_LOCK(pg);                                  \
 750         } while (0);
 751
 752 #define PGRP_UNLOCK_PGSIGNAL(pg)                                        \
 753         do {                                                            \
 754                 if ((pg) != NULL)                                       \
 755                         PGRP_UNLOCK(pg);                                \
 756         } while (0);
 757
 758 /* Lock and unlock a session. */
 759 #define SESS_LOCK(s)    mtx_lock(&(s)->s_mtx)
 760 #define SESS_UNLOCK(s)  mtx_unlock(&(s)->s_mtx)
 761 #define SESS_LOCKED(s)  mtx_owned(&(s)->s_mtx)
 762 #define SESS_LOCK_ASSERT(s, type)       mtx_assert(&(s)->s_mtx, (type))
 763
 764 /* Hold process U-area in memory, normally for ptrace/procfs work. */
 765 #define PHOLD(p) do {                                                   \
 766         PROC_LOCK(p);                                                   \
 767         _PHOLD(p);                                                      \
 768         PROC_UNLOCK(p);                                                 \
 769 } while (0)
 770 #define _PHOLD(p) do {                                                  \
 771         PROC_LOCK_ASSERT((p), MA_OWNED);                                \
 772         if ((p)->p_lock++ == 0) {                                       \
 773                 mtx_lock_spin(&sched_lock);                             \
 774                 faultin((p));                                           \
 775                 mtx_unlock_spin(&sched_lock);                           \
 776         }                                                               \
 777 } while (0)
 778
 779 #define PRELE(p) do {                                                   \
 780         PROC_LOCK((p));                                                 \
 781         _PRELE((p));                                                    \
 782         PROC_UNLOCK((p));                                               \
 783 } while (0)
 784 #define _PRELE(p) do {                                                  \
 785         PROC_LOCK_ASSERT((p), MA_OWNED);                                \
 786         (--(p)->p_lock);                                                \
 787 } while (0)
 788
 789 /* Check whether a thread is safe to be swapped out. */
 790 #define thread_safetoswapout(td) (TD_IS_SLEEPING(td) || TD_IS_SUSPENDED(td))
 791
 792 /* Lock and unlock process arguments. */
 793 #define PARGS_LOCK(p)           mtx_lock(&pargs_ref_lock)
 794 #define PARGS_UNLOCK(p)         mtx_unlock(&pargs_ref_lock)
 795
 796 #define PIDHASH(pid)    (&pidhashtbl[(pid) & pidhash])
 797 extern LIST_HEAD(pidhashhead, proc) *pidhashtbl;
 798 extern u_long pidhash;
 799
 800 #define PGRPHASH(pgid)  (&pgrphashtbl[(pgid) & pgrphash])
 801 extern LIST_HEAD(pgrphashhead, pgrp) *pgrphashtbl;
 802 extern u_long pgrphash;
 803
 804 extern struct sx allproc_lock;
 805 extern struct sx proctree_lock;
 806 extern struct mtx pargs_ref_lock;
 807 extern struct proc proc0;               /* Process slot for swapper. */
 808 extern struct thread thread0;           /* Primary thread in proc0 */
 809 extern struct ksegrp ksegrp0;           /* Primary ksegrp in proc0 */
 810 extern struct kse kse0;                 /* Primary kse in proc0 */
 811 extern int hogticks;                    /* Limit on kernel cpu hogs. */
 812 extern int nprocs, maxproc;             /* Current and max number of procs. */
 813 extern int maxprocperuid;               /* Max procs per uid. */
 814 extern u_long ps_arg_cache_limit;
 815 extern int ps_argsopen;
 816 extern int ps_showallprocs;
 817 extern int sched_quantum;               /* Scheduling quantum in ticks. */
 818
 819 LIST_HEAD(proclist, proc);
 820 TAILQ_HEAD(procqueue, proc);
 821 TAILQ_HEAD(threadqueue, thread);
 822 extern struct proclist allproc;         /* List of all processes. */
 823 extern struct proclist zombproc;        /* List of zombie processes. */
 824 extern struct proc *initproc, *pageproc; /* Process slots for init, pager. */
 825 extern struct proc *updateproc;         /* Process slot for syncer (sic). */
 826
 827 extern struct uma_zone *proc_zone;
 828
 829 extern int lastpid;
 830
 831 /*
 832  * XXX macros for scheduler.  Shouldn't be here, but currently needed for
 833  * bounding the dubious p_estcpu inheritance in wait1().
 834  * INVERSE_ESTCPU_WEIGHT is only suitable for statclock() frequencies in
 835  * the range 100-256 Hz (approximately).
 836  */
 837 #define ESTCPULIM(e) \
 838     min((e), INVERSE_ESTCPU_WEIGHT * (NICE_WEIGHT * (PRIO_MAX - PRIO_MIN) - \
 839              RQ_PPQ) + INVERSE_ESTCPU_WEIGHT - 1)
 840 #define INVERSE_ESTCPU_WEIGHT   8       /* 1 / (priorities per estcpu level). */
 841 #define NICE_WEIGHT     1               /* Priorities per nice level. */
 842
 843 struct  proc *pfind(pid_t);     /* Find process by id. */
 844 struct  pgrp *pgfind(pid_t);    /* Find process group by id. */
 845 struct  proc *zpfind(pid_t);    /* Find zombie process by id. */
 846
 847 void    ast(struct trapframe *framep);
 848 struct  thread *choosethread(void);
 849 int     cr_cansignal(struct ucred *cred, struct proc *proc, int signum);
 850 int     enterpgrp(struct proc *p, pid_t pgid, struct pgrp *pgrp, struct session *sess);
 851 int     enterthispgrp(struct proc *p, struct pgrp *pgrp);
 852 void    faultin(struct proc *p);
 853 void    fixjobc(struct proc *p, struct pgrp *pgrp, int entering);
 854 int     fork1(struct thread *, int, int, struct proc **);
 855 void    fork_exit(void (*)(void *, struct trapframe *), void *,
 856             struct trapframe *);
 857 void    fork_return(struct thread *, struct trapframe *);
 858 int     inferior(struct proc *p);
 859 int     leavepgrp(struct proc *p);
 860 void    mi_switch(void);
 861 int     p_candebug(struct thread *td, struct proc *p);
 862 int     p_cansee(struct thread *td, struct proc *p);
 863 int     p_cansched(struct thread *td, struct proc *p);
 864 int     p_cansignal(struct thread *td, struct proc *p, int signum);
 865 struct  pargs *pargs_alloc(int len);
 866 void    pargs_drop(struct pargs *pa);
 867 void    pargs_free(struct pargs *pa);
 868 void    pargs_hold(struct pargs *pa);
 869 void    procinit(void);
 870 void    threadinit(void);
 871 void    proc_linkup(struct proc *p, struct ksegrp *kg,
 872             struct kse *ke, struct thread *td);
 873 void    proc_reparent(struct proc *child, struct proc *newparent);
 874 void    remrunqueue(struct thread *);
 875 void    resetpriority(struct ksegrp *);
 876 int     roundrobin_interval(void);
 877 void    schedclock(struct thread *);
 878 int     securelevel_ge(struct ucred *cr, int level);
 879 int     securelevel_gt(struct ucred *cr, int level);
 880 void    setrunnable(struct thread *);
 881 void    setrunqueue(struct thread *);
 882 void    setsugid(struct proc *p);
 883 void    sleepinit(void);
 884 void    stopevent(struct proc *, u_int, u_int);
 885 void    cpu_idle(void);
 886 void    cpu_switch(void);
 887 void    cpu_throw(void) __dead2;
 888 void    unsleep(struct thread *);
 889 void    updatepri(struct ksegrp *);
 890 void    userret(struct thread *, struct trapframe *, u_int);
 891 void    maybe_resched(struct thread *);
 892
 893 void    cpu_exit(struct thread *);
 894 void    cpu_sched_exit(struct thread *);
 895 void    exit1(struct thread *, int) __dead2;
 896 void    cpu_fork(struct thread *, struct proc *, struct thread *, int);
 897 void    cpu_set_fork_handler(struct thread *, void (*)(void *), void *);
 898 void    cpu_wait(struct proc *);
 899
 900 /* New in KSE. */
 901 struct  ksegrp *ksegrp_alloc(void);
 902 void    ksegrp_free(struct ksegrp *td);
 903 struct  kse *kse_alloc(void);
 904 void    kse_free(struct kse *td);
 905 struct  thread *thread_alloc(void);
 906 void    thread_free(struct thread *td);
 907 void    cpu_set_upcall(struct thread *td, void *pcb);
 908 void    cpu_set_upcall_kse(struct thread *td, struct kse *ke);
 909 void    cpu_thread_exit(struct thread *);
 910 void    cpu_thread_setup(struct thread *td);
 911 void    kse_reassign(struct kse *ke);
 912 void    kse_link(struct kse *ke, struct ksegrp *kg);
 913 void    ksegrp_link(struct ksegrp *kg, struct proc *p);
 914 int     kserunnable(void);
 915 void    make_kse_runnable(struct kse *ke);
 916 struct thread *signal_upcall(struct proc *p, int sig);
 917 void    thread_exit(void) __dead2;
 918 int     thread_export_context(struct thread *td);
 919 void    thread_link(struct thread *td, struct ksegrp *kg);
 920 void    thread_reap(void);
 921 struct thread *thread_schedule_upcall(struct thread *td, struct kse *ke);
 922 int     thread_setcontext(struct thread *td, ucontext_t *uc);
 923 void    thread_getcontext(struct thread *td, ucontext_t *uc);
 924 int     thread_single(int how);
 925 #define SINGLE_NO_EXIT 0                        /* values for 'how' */
 926 #define SINGLE_EXIT 1
 927 void    thread_single_end(void);
 928 void    thread_stash(struct thread *td);
 929 int     thread_suspend_check(int how);
 930 void    thread_unsuspend(struct proc *p);
 931 void    thread_suspend_one(struct thread *td);
 932 void    thread_unsuspend_one(struct thread *td);
 933 int     thread_userret(struct thread *td, struct trapframe *frame);
 934
 935 void    thread_sanity_check(struct thread *td, char *);
 936 #endif  /* _KERNEL */
 937
 938 #endif  /* !_SYS_PROC_H_ */