]> CyberLeo.Net >> Repos - FreeBSD/FreeBSD.git/blob - sys/kern/kern_exec.c
MFC r300792,r300851,r301580:
[FreeBSD/FreeBSD.git] / sys / kern / kern_exec.c
1 /*-
2  * Copyright (c) 1993, David Greenman
3  * All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  * 1. Redistributions of source code must retain the above copyright
9  *    notice, this list of conditions and the following disclaimer.
10  * 2. Redistributions in binary form must reproduce the above copyright
11  *    notice, this list of conditions and the following disclaimer in the
12  *    documentation and/or other materials provided with the distribution.
13  *
14  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
15  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
16  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
17  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
18  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
19  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
20  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
21  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
22  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
23  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
24  * SUCH DAMAGE.
25  */
26
27 #include <sys/cdefs.h>
28 __FBSDID("$FreeBSD$");
29
30 #include "opt_capsicum.h"
31 #include "opt_hwpmc_hooks.h"
32 #include "opt_kdtrace.h"
33 #include "opt_ktrace.h"
34 #include "opt_vm.h"
35
36 #include <sys/param.h>
37 #include <sys/capsicum.h>
38 #include <sys/systm.h>
39 #include <sys/capsicum.h>
40 #include <sys/eventhandler.h>
41 #include <sys/lock.h>
42 #include <sys/mutex.h>
43 #include <sys/sysproto.h>
44 #include <sys/signalvar.h>
45 #include <sys/kernel.h>
46 #include <sys/mount.h>
47 #include <sys/filedesc.h>
48 #include <sys/fcntl.h>
49 #include <sys/acct.h>
50 #include <sys/exec.h>
51 #include <sys/imgact.h>
52 #include <sys/imgact_elf.h>
53 #include <sys/wait.h>
54 #include <sys/malloc.h>
55 #include <sys/priv.h>
56 #include <sys/proc.h>
57 #include <sys/pioctl.h>
58 #include <sys/namei.h>
59 #include <sys/resourcevar.h>
60 #include <sys/rwlock.h>
61 #include <sys/sched.h>
62 #include <sys/sdt.h>
63 #include <sys/sf_buf.h>
64 #include <sys/syscallsubr.h>
65 #include <sys/sysent.h>
66 #include <sys/shm.h>
67 #include <sys/sysctl.h>
68 #include <sys/vnode.h>
69 #include <sys/stat.h>
70 #ifdef KTRACE
71 #include <sys/ktrace.h>
72 #endif
73
74 #include <vm/vm.h>
75 #include <vm/vm_param.h>
76 #include <vm/pmap.h>
77 #include <vm/vm_page.h>
78 #include <vm/vm_map.h>
79 #include <vm/vm_kern.h>
80 #include <vm/vm_extern.h>
81 #include <vm/vm_object.h>
82 #include <vm/vm_pager.h>
83
84 #ifdef  HWPMC_HOOKS
85 #include <sys/pmckern.h>
86 #endif
87
88 #include <machine/reg.h>
89
90 #include <security/audit/audit.h>
91 #include <security/mac/mac_framework.h>
92
93 #ifdef KDTRACE_HOOKS
94 #include <sys/dtrace_bsd.h>
95 dtrace_execexit_func_t  dtrace_fasttrap_exec;
96 #endif
97
98 SDT_PROVIDER_DECLARE(proc);
99 SDT_PROBE_DEFINE1(proc, , , exec, "char *");
100 SDT_PROBE_DEFINE1(proc, , , exec__failure, "int");
101 SDT_PROBE_DEFINE1(proc, , , exec__success, "char *");
102
103 MALLOC_DEFINE(M_PARGS, "proc-args", "Process arguments");
104
105 int coredump_pack_fileinfo = 1;
106 SYSCTL_INT(_kern, OID_AUTO, coredump_pack_fileinfo, CTLFLAG_RWTUN,
107     &coredump_pack_fileinfo, 0,
108     "Enable file path packing in 'procstat -f' coredump notes");
109
110 int coredump_pack_vmmapinfo = 1;
111 SYSCTL_INT(_kern, OID_AUTO, coredump_pack_vmmapinfo, CTLFLAG_RWTUN,
112     &coredump_pack_vmmapinfo, 0,
113     "Enable file path packing in 'procstat -v' coredump notes");
114
115 static int sysctl_kern_ps_strings(SYSCTL_HANDLER_ARGS);
116 static int sysctl_kern_usrstack(SYSCTL_HANDLER_ARGS);
117 static int sysctl_kern_stackprot(SYSCTL_HANDLER_ARGS);
118 static int do_execve(struct thread *td, struct image_args *args,
119     struct mac *mac_p);
120
121 /* XXX This should be vm_size_t. */
122 SYSCTL_PROC(_kern, KERN_PS_STRINGS, ps_strings, CTLTYPE_ULONG|CTLFLAG_RD,
123     NULL, 0, sysctl_kern_ps_strings, "LU", "");
124
125 /* XXX This should be vm_size_t. */
126 SYSCTL_PROC(_kern, KERN_USRSTACK, usrstack, CTLTYPE_ULONG|CTLFLAG_RD|
127     CTLFLAG_CAPRD, NULL, 0, sysctl_kern_usrstack, "LU", "");
128
129 SYSCTL_PROC(_kern, OID_AUTO, stackprot, CTLTYPE_INT|CTLFLAG_RD,
130     NULL, 0, sysctl_kern_stackprot, "I", "");
131
132 u_long ps_arg_cache_limit = PAGE_SIZE / 16;
133 SYSCTL_ULONG(_kern, OID_AUTO, ps_arg_cache_limit, CTLFLAG_RW, 
134     &ps_arg_cache_limit, 0, "");
135
136 static int disallow_high_osrel;
137 SYSCTL_INT(_kern, OID_AUTO, disallow_high_osrel, CTLFLAG_RW,
138     &disallow_high_osrel, 0,
139     "Disallow execution of binaries built for higher version of the world");
140
141 static int map_at_zero = 0;
142 TUNABLE_INT("security.bsd.map_at_zero", &map_at_zero);
143 SYSCTL_INT(_security_bsd, OID_AUTO, map_at_zero, CTLFLAG_RW, &map_at_zero, 0,
144     "Permit processes to map an object at virtual address 0.");
145
146 static int
147 sysctl_kern_ps_strings(SYSCTL_HANDLER_ARGS)
148 {
149         struct proc *p;
150         int error;
151
152         p = curproc;
153 #ifdef SCTL_MASK32
154         if (req->flags & SCTL_MASK32) {
155                 unsigned int val;
156                 val = (unsigned int)p->p_sysent->sv_psstrings;
157                 error = SYSCTL_OUT(req, &val, sizeof(val));
158         } else
159 #endif
160                 error = SYSCTL_OUT(req, &p->p_sysent->sv_psstrings,
161                    sizeof(p->p_sysent->sv_psstrings));
162         return error;
163 }
164
165 static int
166 sysctl_kern_usrstack(SYSCTL_HANDLER_ARGS)
167 {
168         struct proc *p;
169         int error;
170
171         p = curproc;
172 #ifdef SCTL_MASK32
173         if (req->flags & SCTL_MASK32) {
174                 unsigned int val;
175                 val = (unsigned int)p->p_sysent->sv_usrstack;
176                 error = SYSCTL_OUT(req, &val, sizeof(val));
177         } else
178 #endif
179                 error = SYSCTL_OUT(req, &p->p_sysent->sv_usrstack,
180                     sizeof(p->p_sysent->sv_usrstack));
181         return error;
182 }
183
184 static int
185 sysctl_kern_stackprot(SYSCTL_HANDLER_ARGS)
186 {
187         struct proc *p;
188
189         p = curproc;
190         return (SYSCTL_OUT(req, &p->p_sysent->sv_stackprot,
191             sizeof(p->p_sysent->sv_stackprot)));
192 }
193
194 /*
195  * Each of the items is a pointer to a `const struct execsw', hence the
196  * double pointer here.
197  */
198 static const struct execsw **execsw;
199
200 #ifndef _SYS_SYSPROTO_H_
201 struct execve_args {
202         char    *fname; 
203         char    **argv;
204         char    **envv; 
205 };
206 #endif
207
208 int
209 sys_execve(struct thread *td, struct execve_args *uap)
210 {
211         struct image_args args;
212         struct vmspace *oldvmspace;
213         int error;
214
215         error = pre_execve(td, &oldvmspace);
216         if (error != 0)
217                 return (error);
218         error = exec_copyin_args(&args, uap->fname, UIO_USERSPACE,
219             uap->argv, uap->envv);
220         if (error == 0)
221                 error = kern_execve(td, &args, NULL);
222         post_execve(td, error, oldvmspace);
223         return (error);
224 }
225
226 #ifndef _SYS_SYSPROTO_H_
227 struct fexecve_args {
228         int     fd;
229         char    **argv;
230         char    **envv;
231 }
232 #endif
233 int
234 sys_fexecve(struct thread *td, struct fexecve_args *uap)
235 {
236         struct image_args args;
237         struct vmspace *oldvmspace;
238         int error;
239
240         error = pre_execve(td, &oldvmspace);
241         if (error != 0)
242                 return (error);
243         error = exec_copyin_args(&args, NULL, UIO_SYSSPACE,
244             uap->argv, uap->envv);
245         if (error == 0) {
246                 args.fd = uap->fd;
247                 error = kern_execve(td, &args, NULL);
248         }
249         post_execve(td, error, oldvmspace);
250         return (error);
251 }
252
253 #ifndef _SYS_SYSPROTO_H_
254 struct __mac_execve_args {
255         char    *fname;
256         char    **argv;
257         char    **envv;
258         struct mac      *mac_p;
259 };
260 #endif
261
262 int
263 sys___mac_execve(struct thread *td, struct __mac_execve_args *uap)
264 {
265 #ifdef MAC
266         struct image_args args;
267         struct vmspace *oldvmspace;
268         int error;
269
270         error = pre_execve(td, &oldvmspace);
271         if (error != 0)
272                 return (error);
273         error = exec_copyin_args(&args, uap->fname, UIO_USERSPACE,
274             uap->argv, uap->envv);
275         if (error == 0)
276                 error = kern_execve(td, &args, uap->mac_p);
277         post_execve(td, error, oldvmspace);
278         return (error);
279 #else
280         return (ENOSYS);
281 #endif
282 }
283
284 int
285 pre_execve(struct thread *td, struct vmspace **oldvmspace)
286 {
287         struct proc *p;
288         int error;
289
290         KASSERT(td == curthread, ("non-current thread %p", td));
291         error = 0;
292         p = td->td_proc;
293         if ((p->p_flag & P_HADTHREADS) != 0) {
294                 PROC_LOCK(p);
295                 if (thread_single(p, SINGLE_BOUNDARY) != 0)
296                         error = ERESTART;
297                 PROC_UNLOCK(p);
298         }
299         KASSERT(error != 0 || (td->td_pflags & TDP_EXECVMSPC) == 0,
300             ("nested execve"));
301         *oldvmspace = p->p_vmspace;
302         return (error);
303 }
304
305 void
306 post_execve(struct thread *td, int error, struct vmspace *oldvmspace)
307 {
308         struct proc *p;
309
310         KASSERT(td == curthread, ("non-current thread %p", td));
311         p = td->td_proc;
312         if ((p->p_flag & P_HADTHREADS) != 0) {
313                 PROC_LOCK(p);
314                 /*
315                  * If success, we upgrade to SINGLE_EXIT state to
316                  * force other threads to suicide.
317                  */
318                 if (error == 0)
319                         thread_single(p, SINGLE_EXIT);
320                 else
321                         thread_single_end(p, SINGLE_BOUNDARY);
322                 PROC_UNLOCK(p);
323         }
324         if ((td->td_pflags & TDP_EXECVMSPC) != 0) {
325                 KASSERT(p->p_vmspace != oldvmspace,
326                     ("oldvmspace still used"));
327                 vmspace_free(oldvmspace);
328                 td->td_pflags &= ~TDP_EXECVMSPC;
329         }
330 }
331
332 /*
333  * XXX: kern_execve has the astonishing property of not always returning to
334  * the caller.  If sufficiently bad things happen during the call to
335  * do_execve(), it can end up calling exit1(); as a result, callers must
336  * avoid doing anything which they might need to undo (e.g., allocating
337  * memory).
338  */
339 int
340 kern_execve(struct thread *td, struct image_args *args, struct mac *mac_p)
341 {
342
343         AUDIT_ARG_ARGV(args->begin_argv, args->argc,
344             args->begin_envv - args->begin_argv);
345         AUDIT_ARG_ENVV(args->begin_envv, args->envc,
346             args->endp - args->begin_envv);
347         return (do_execve(td, args, mac_p));
348 }
349
350 /*
351  * In-kernel implementation of execve().  All arguments are assumed to be
352  * userspace pointers from the passed thread.
353  */
354 static int
355 do_execve(td, args, mac_p)
356         struct thread *td;
357         struct image_args *args;
358         struct mac *mac_p;
359 {
360         struct proc *p = td->td_proc;
361         struct nameidata nd;
362         struct ucred *oldcred;
363         struct uidinfo *euip = NULL;
364         register_t *stack_base;
365         int error, i;
366         struct image_params image_params, *imgp;
367         struct vattr attr;
368         int (*img_first)(struct image_params *);
369         struct pargs *oldargs = NULL, *newargs = NULL;
370         struct sigacts *oldsigacts = NULL, *newsigacts = NULL;
371 #ifdef KTRACE
372         struct vnode *tracevp = NULL;
373         struct ucred *tracecred = NULL;
374 #endif
375         struct vnode *oldtextvp = NULL, *newtextvp;
376         cap_rights_t rights;
377         int credential_changing;
378         int textset;
379 #ifdef MAC
380         struct label *interpvplabel = NULL;
381         int will_transition;
382 #endif
383 #ifdef HWPMC_HOOKS
384         struct pmckern_procexec pe;
385 #endif
386         static const char fexecv_proc_title[] = "(fexecv)";
387
388         imgp = &image_params;
389
390         /*
391          * Lock the process and set the P_INEXEC flag to indicate that
392          * it should be left alone until we're done here.  This is
393          * necessary to avoid race conditions - e.g. in ptrace() -
394          * that might allow a local user to illicitly obtain elevated
395          * privileges.
396          */
397         PROC_LOCK(p);
398         KASSERT((p->p_flag & P_INEXEC) == 0,
399             ("%s(): process already has P_INEXEC flag", __func__));
400         p->p_flag |= P_INEXEC;
401         PROC_UNLOCK(p);
402
403         /*
404          * Initialize part of the common data
405          */
406         bzero(imgp, sizeof(*imgp));
407         imgp->proc = p;
408         imgp->attr = &attr;
409         imgp->args = args;
410         oldcred = p->p_ucred;
411
412 #ifdef MAC
413         error = mac_execve_enter(imgp, mac_p);
414         if (error)
415                 goto exec_fail;
416 #endif
417
418         /*
419          * Translate the file name. namei() returns a vnode pointer
420          *      in ni_vp among other things.
421          *
422          * XXXAUDIT: It would be desirable to also audit the name of the
423          * interpreter if this is an interpreted binary.
424          */
425         if (args->fname != NULL) {
426                 NDINIT(&nd, LOOKUP, ISOPEN | LOCKLEAF | FOLLOW | SAVENAME
427                     | AUDITVNODE1, UIO_SYSSPACE, args->fname, td);
428         }
429
430         SDT_PROBE1(proc, , , exec, args->fname);
431
432 interpret:
433         if (args->fname != NULL) {
434 #ifdef CAPABILITY_MODE
435                 /*
436                  * While capability mode can't reach this point via direct
437                  * path arguments to execve(), we also don't allow
438                  * interpreters to be used in capability mode (for now).
439                  * Catch indirect lookups and return a permissions error.
440                  */
441                 if (IN_CAPABILITY_MODE(td)) {
442                         error = ECAPMODE;
443                         goto exec_fail;
444                 }
445 #endif
446                 error = namei(&nd);
447                 if (error)
448                         goto exec_fail;
449
450                 newtextvp = nd.ni_vp;
451                 imgp->vp = newtextvp;
452         } else {
453                 AUDIT_ARG_FD(args->fd);
454                 /*
455                  * Descriptors opened only with O_EXEC or O_RDONLY are allowed.
456                  */
457                 error = fgetvp_exec(td, args->fd,
458                     cap_rights_init(&rights, CAP_FEXECVE), &newtextvp);
459                 if (error)
460                         goto exec_fail;
461                 vn_lock(newtextvp, LK_EXCLUSIVE | LK_RETRY);
462                 AUDIT_ARG_VNODE1(newtextvp);
463                 imgp->vp = newtextvp;
464         }
465
466         /*
467          * Check file permissions (also 'opens' file)
468          */
469         error = exec_check_permissions(imgp);
470         if (error)
471                 goto exec_fail_dealloc;
472
473         imgp->object = imgp->vp->v_object;
474         if (imgp->object != NULL)
475                 vm_object_reference(imgp->object);
476
477         /*
478          * Set VV_TEXT now so no one can write to the executable while we're
479          * activating it.
480          *
481          * Remember if this was set before and unset it in case this is not
482          * actually an executable image.
483          */
484         textset = VOP_IS_TEXT(imgp->vp);
485         VOP_SET_TEXT(imgp->vp);
486
487         error = exec_map_first_page(imgp);
488         if (error)
489                 goto exec_fail_dealloc;
490
491         imgp->proc->p_osrel = 0;
492
493         /*
494          * Implement image setuid/setgid.
495          *
496          * Determine new credentials before attempting image activators
497          * so that it can be used by process_exec handlers to determine
498          * credential/setid changes.
499          *
500          * Don't honor setuid/setgid if the filesystem prohibits it or if
501          * the process is being traced.
502          *
503          * We disable setuid/setgid/etc in capability mode on the basis
504          * that most setugid applications are not written with that
505          * environment in mind, and will therefore almost certainly operate
506          * incorrectly. In principle there's no reason that setugid
507          * applications might not be useful in capability mode, so we may want
508          * to reconsider this conservative design choice in the future.
509          *
510          * XXXMAC: For the time being, use NOSUID to also prohibit
511          * transitions on the file system.
512          */
513         credential_changing = 0;
514         credential_changing |= (attr.va_mode & S_ISUID) &&
515             oldcred->cr_uid != attr.va_uid;
516         credential_changing |= (attr.va_mode & S_ISGID) &&
517             oldcred->cr_gid != attr.va_gid;
518 #ifdef MAC
519         will_transition = mac_vnode_execve_will_transition(oldcred, imgp->vp,
520             interpvplabel, imgp);
521         credential_changing |= will_transition;
522 #endif
523
524         if (credential_changing &&
525 #ifdef CAPABILITY_MODE
526             ((oldcred->cr_flags & CRED_FLAG_CAPMODE) == 0) &&
527 #endif
528             (imgp->vp->v_mount->mnt_flag & MNT_NOSUID) == 0 &&
529             (p->p_flag & P_TRACED) == 0) {
530                 imgp->credential_setid = true;
531                 VOP_UNLOCK(imgp->vp, 0);
532                 imgp->newcred = crdup(oldcred);
533                 if (attr.va_mode & S_ISUID) {
534                         euip = uifind(attr.va_uid);
535                         change_euid(imgp->newcred, euip);
536                 }
537                 vn_lock(imgp->vp, LK_EXCLUSIVE | LK_RETRY);
538                 if (attr.va_mode & S_ISGID)
539                         change_egid(imgp->newcred, attr.va_gid);
540                 /*
541                  * Implement correct POSIX saved-id behavior.
542                  *
543                  * XXXMAC: Note that the current logic will save the
544                  * uid and gid if a MAC domain transition occurs, even
545                  * though maybe it shouldn't.
546                  */
547                 change_svuid(imgp->newcred, imgp->newcred->cr_uid);
548                 change_svgid(imgp->newcred, imgp->newcred->cr_gid);
549         } else {
550                 /*
551                  * Implement correct POSIX saved-id behavior.
552                  *
553                  * XXX: It's not clear that the existing behavior is
554                  * POSIX-compliant.  A number of sources indicate that the
555                  * saved uid/gid should only be updated if the new ruid is
556                  * not equal to the old ruid, or the new euid is not equal
557                  * to the old euid and the new euid is not equal to the old
558                  * ruid.  The FreeBSD code always updates the saved uid/gid.
559                  * Also, this code uses the new (replaced) euid and egid as
560                  * the source, which may or may not be the right ones to use.
561                  */
562                 if (oldcred->cr_svuid != oldcred->cr_uid ||
563                     oldcred->cr_svgid != oldcred->cr_gid) {
564                         VOP_UNLOCK(imgp->vp, 0);
565                         imgp->newcred = crdup(oldcred);
566                         vn_lock(imgp->vp, LK_EXCLUSIVE | LK_RETRY);
567                         change_svuid(imgp->newcred, imgp->newcred->cr_uid);
568                         change_svgid(imgp->newcred, imgp->newcred->cr_gid);
569                 }
570         }
571         /* The new credentials are installed into the process later. */
572
573         /*
574          *      If the current process has a special image activator it
575          *      wants to try first, call it.   For example, emulating shell
576          *      scripts differently.
577          */
578         error = -1;
579         if ((img_first = imgp->proc->p_sysent->sv_imgact_try) != NULL)
580                 error = img_first(imgp);
581
582         /*
583          *      Loop through the list of image activators, calling each one.
584          *      An activator returns -1 if there is no match, 0 on success,
585          *      and an error otherwise.
586          */
587         for (i = 0; error == -1 && execsw[i]; ++i) {
588                 if (execsw[i]->ex_imgact == NULL ||
589                     execsw[i]->ex_imgact == img_first) {
590                         continue;
591                 }
592                 error = (*execsw[i]->ex_imgact)(imgp);
593         }
594
595         if (error) {
596                 if (error == -1) {
597                         if (textset == 0)
598                                 VOP_UNSET_TEXT(imgp->vp);
599                         error = ENOEXEC;
600                 }
601                 goto exec_fail_dealloc;
602         }
603
604         /*
605          * Special interpreter operation, cleanup and loop up to try to
606          * activate the interpreter.
607          */
608         if (imgp->interpreted) {
609                 exec_unmap_first_page(imgp);
610                 /*
611                  * VV_TEXT needs to be unset for scripts.  There is a short
612                  * period before we determine that something is a script where
613                  * VV_TEXT will be set. The vnode lock is held over this
614                  * entire period so nothing should illegitimately be blocked.
615                  */
616                 VOP_UNSET_TEXT(imgp->vp);
617                 /* free name buffer and old vnode */
618                 if (args->fname != NULL)
619                         NDFREE(&nd, NDF_ONLY_PNBUF);
620 #ifdef MAC
621                 mac_execve_interpreter_enter(newtextvp, &interpvplabel);
622 #endif
623                 if (imgp->opened) {
624                         VOP_CLOSE(newtextvp, FREAD, td->td_ucred, td);
625                         imgp->opened = 0;
626                 }
627                 vput(newtextvp);
628                 vm_object_deallocate(imgp->object);
629                 imgp->object = NULL;
630                 imgp->credential_setid = false;
631                 if (imgp->newcred != NULL) {
632                         crfree(imgp->newcred);
633                         imgp->newcred = NULL;
634                 }
635                 /* set new name to that of the interpreter */
636                 NDINIT(&nd, LOOKUP, LOCKLEAF | FOLLOW | SAVENAME,
637                     UIO_SYSSPACE, imgp->interpreter_name, td);
638                 args->fname = imgp->interpreter_name;
639                 goto interpret;
640         }
641
642         /*
643          * NB: We unlock the vnode here because it is believed that none
644          * of the sv_copyout_strings/sv_fixup operations require the vnode.
645          */
646         VOP_UNLOCK(imgp->vp, 0);
647
648         /*
649          * Do the best to calculate the full path to the image file.
650          */
651         if (imgp->auxargs != NULL &&
652             ((args->fname != NULL && args->fname[0] == '/') ||
653              vn_fullpath(td, imgp->vp, &imgp->execpath, &imgp->freepath) != 0))
654                 imgp->execpath = args->fname;
655
656         if (disallow_high_osrel &&
657             P_OSREL_MAJOR(p->p_osrel) > P_OSREL_MAJOR(__FreeBSD_version)) {
658                 error = ENOEXEC;
659                 uprintf("Osrel %d for image %s too high\n", p->p_osrel,
660                     imgp->execpath != NULL ? imgp->execpath : "<unresolved>");
661                 vn_lock(imgp->vp, LK_SHARED | LK_RETRY);
662                 goto exec_fail_dealloc;
663         }
664
665         /*
666          * Copy out strings (args and env) and initialize stack base
667          */
668         if (p->p_sysent->sv_copyout_strings)
669                 stack_base = (*p->p_sysent->sv_copyout_strings)(imgp);
670         else
671                 stack_base = exec_copyout_strings(imgp);
672
673         /*
674          * If custom stack fixup routine present for this process
675          * let it do the stack setup.
676          * Else stuff argument count as first item on stack
677          */
678         if (p->p_sysent->sv_fixup != NULL)
679                 (*p->p_sysent->sv_fixup)(&stack_base, imgp);
680         else
681                 suword(--stack_base, imgp->args->argc);
682
683         /*
684          * For security and other reasons, the file descriptor table cannot
685          * be shared after an exec.
686          */
687         fdunshare(td);
688         /* close files on exec */
689         fdcloseexec(td);
690
691         /*
692          * Malloc things before we need locks.
693          */
694         i = imgp->args->begin_envv - imgp->args->begin_argv;
695         /* Cache arguments if they fit inside our allowance */
696         if (ps_arg_cache_limit >= i + sizeof(struct pargs)) {
697                 newargs = pargs_alloc(i);
698                 bcopy(imgp->args->begin_argv, newargs->ar_args, i);
699         }
700
701         /*
702          * For security and other reasons, signal handlers cannot
703          * be shared after an exec. The new process gets a copy of the old
704          * handlers. In execsigs(), the new process will have its signals
705          * reset.
706          */
707         if (sigacts_shared(p->p_sigacts)) {
708                 oldsigacts = p->p_sigacts;
709                 newsigacts = sigacts_alloc();
710                 sigacts_copy(newsigacts, oldsigacts);
711         }
712
713         vn_lock(imgp->vp, LK_SHARED | LK_RETRY);
714
715         PROC_LOCK(p);
716         if (oldsigacts)
717                 p->p_sigacts = newsigacts;
718         /* Stop profiling */
719         stopprofclock(p);
720
721         /* reset caught signals */
722         execsigs(p);
723
724         /* name this process - nameiexec(p, ndp) */
725         bzero(p->p_comm, sizeof(p->p_comm));
726         if (args->fname)
727                 bcopy(nd.ni_cnd.cn_nameptr, p->p_comm,
728                     min(nd.ni_cnd.cn_namelen, MAXCOMLEN));
729         else if (vn_commname(newtextvp, p->p_comm, sizeof(p->p_comm)) != 0)
730                 bcopy(fexecv_proc_title, p->p_comm, sizeof(fexecv_proc_title));
731         bcopy(p->p_comm, td->td_name, sizeof(td->td_name));
732 #ifdef KTR
733         sched_clear_tdname(td);
734 #endif
735
736         /*
737          * mark as execed, wakeup the process that vforked (if any) and tell
738          * it that it now has its own resources back
739          */
740         p->p_flag |= P_EXEC;
741         if ((p->p_flag2 & P2_NOTRACE_EXEC) == 0)
742                 p->p_flag2 &= ~P2_NOTRACE;
743         if (p->p_flag & P_PPWAIT) {
744                 p->p_flag &= ~(P_PPWAIT | P_PPTRACE);
745                 cv_broadcast(&p->p_pwait);
746         }
747
748         /*
749          * Implement image setuid/setgid installation.
750          */
751         if (imgp->credential_setid) {
752                 /*
753                  * Turn off syscall tracing for set-id programs, except for
754                  * root.  Record any set-id flags first to make sure that
755                  * we do not regain any tracing during a possible block.
756                  */
757                 setsugid(p);
758
759 #ifdef KTRACE
760                 if (p->p_tracecred != NULL &&
761                     priv_check_cred(p->p_tracecred, PRIV_DEBUG_DIFFCRED, 0))
762                         ktrprocexec(p, &tracecred, &tracevp);
763 #endif
764                 /*
765                  * Close any file descriptors 0..2 that reference procfs,
766                  * then make sure file descriptors 0..2 are in use.
767                  *
768                  * setugidsafety() may call closef() and then pfind()
769                  * which may grab the process lock.
770                  * fdcheckstd() may call falloc() which may block to
771                  * allocate memory, so temporarily drop the process lock.
772                  */
773                 PROC_UNLOCK(p);
774                 VOP_UNLOCK(imgp->vp, 0);
775                 setugidsafety(td);
776                 error = fdcheckstd(td);
777                 vn_lock(imgp->vp, LK_SHARED | LK_RETRY);
778                 if (error != 0)
779                         goto exec_fail_dealloc;
780                 PROC_LOCK(p);
781 #ifdef MAC
782                 if (will_transition) {
783                         mac_vnode_execve_transition(oldcred, imgp->newcred,
784                             imgp->vp, interpvplabel, imgp);
785                 }
786 #endif
787         } else {
788                 if (oldcred->cr_uid == oldcred->cr_ruid &&
789                     oldcred->cr_gid == oldcred->cr_rgid)
790                         p->p_flag &= ~P_SUGID;
791         }
792         /*
793          * Set the new credentials.
794          */
795         if (imgp->newcred != NULL) {
796                 proc_set_cred(p, imgp->newcred);
797                 crfree(oldcred);
798                 oldcred = NULL;
799         }
800
801         /*
802          * Store the vp for use in procfs.  This vnode was referenced by namei
803          * or fgetvp_exec.
804          */
805         oldtextvp = p->p_textvp;
806         p->p_textvp = newtextvp;
807
808 #ifdef KDTRACE_HOOKS
809         /*
810          * Tell the DTrace fasttrap provider about the exec if it
811          * has declared an interest.
812          */
813         if (dtrace_fasttrap_exec)
814                 dtrace_fasttrap_exec(p);
815 #endif
816
817         /*
818          * Notify others that we exec'd, and clear the P_INEXEC flag
819          * as we're now a bona fide freshly-execed process.
820          */
821         KNOTE_LOCKED(&p->p_klist, NOTE_EXEC);
822         p->p_flag &= ~P_INEXEC;
823
824         /* clear "fork but no exec" flag, as we _are_ execing */
825         p->p_acflag &= ~AFORK;
826
827         /*
828          * Free any previous argument cache and replace it with
829          * the new argument cache, if any.
830          */
831         oldargs = p->p_args;
832         p->p_args = newargs;
833         newargs = NULL;
834
835 #ifdef  HWPMC_HOOKS
836         /*
837          * Check if system-wide sampling is in effect or if the
838          * current process is using PMCs.  If so, do exec() time
839          * processing.  This processing needs to happen AFTER the
840          * P_INEXEC flag is cleared.
841          *
842          * The proc lock needs to be released before taking the PMC
843          * SX.
844          */
845         if (PMC_SYSTEM_SAMPLING_ACTIVE() || PMC_PROC_IS_USING_PMCS(p)) {
846                 PROC_UNLOCK(p);
847                 VOP_UNLOCK(imgp->vp, 0);
848                 pe.pm_credentialschanged = credential_changing;
849                 pe.pm_entryaddr = imgp->entry_addr;
850
851                 PMC_CALL_HOOK_X(td, PMC_FN_PROCESS_EXEC, (void *) &pe);
852                 vn_lock(imgp->vp, LK_SHARED | LK_RETRY);
853         } else
854                 PROC_UNLOCK(p);
855 #else  /* !HWPMC_HOOKS */
856         PROC_UNLOCK(p);
857 #endif
858
859         /* Set values passed into the program in registers. */
860         if (p->p_sysent->sv_setregs)
861                 (*p->p_sysent->sv_setregs)(td, imgp, 
862                     (u_long)(uintptr_t)stack_base);
863         else
864                 exec_setregs(td, imgp, (u_long)(uintptr_t)stack_base);
865
866         vfs_mark_atime(imgp->vp, td->td_ucred);
867
868         SDT_PROBE1(proc, , , exec__success, args->fname);
869
870 exec_fail_dealloc:
871         if (imgp->firstpage != NULL)
872                 exec_unmap_first_page(imgp);
873
874         if (imgp->vp != NULL) {
875                 if (args->fname)
876                         NDFREE(&nd, NDF_ONLY_PNBUF);
877                 if (imgp->opened)
878                         VOP_CLOSE(imgp->vp, FREAD, td->td_ucred, td);
879                 if (error != 0)
880                         vput(imgp->vp);
881                 else
882                         VOP_UNLOCK(imgp->vp, 0);
883         }
884
885         if (imgp->object != NULL)
886                 vm_object_deallocate(imgp->object);
887
888         free(imgp->freepath, M_TEMP);
889
890         if (error == 0) {
891                 PROC_LOCK(p);
892                 td->td_dbgflags |= TDB_EXEC;
893                 PROC_UNLOCK(p);
894
895                 /*
896                  * Stop the process here if its stop event mask has
897                  * the S_EXEC bit set.
898                  */
899                 STOPEVENT(p, S_EXEC, 0);
900         } else {
901 exec_fail:
902                 /* we're done here, clear P_INEXEC */
903                 PROC_LOCK(p);
904                 p->p_flag &= ~P_INEXEC;
905                 PROC_UNLOCK(p);
906
907                 SDT_PROBE1(proc, , , exec__failure, error);
908         }
909
910         if (imgp->newcred != NULL && oldcred != NULL)
911                 crfree(imgp->newcred);
912
913 #ifdef MAC
914         mac_execve_exit(imgp);
915         mac_execve_interpreter_exit(interpvplabel);
916 #endif
917         exec_free_args(args);
918
919         /*
920          * Handle deferred decrement of ref counts.
921          */
922         if (oldtextvp != NULL)
923                 vrele(oldtextvp);
924 #ifdef KTRACE
925         if (tracevp != NULL)
926                 vrele(tracevp);
927         if (tracecred != NULL)
928                 crfree(tracecred);
929 #endif
930         pargs_drop(oldargs);
931         pargs_drop(newargs);
932         if (oldsigacts != NULL)
933                 sigacts_free(oldsigacts);
934         if (euip != NULL)
935                 uifree(euip);
936
937         if (error && imgp->vmspace_destroyed) {
938                 /* sorry, no more process anymore. exit gracefully */
939                 exit1(td, W_EXITCODE(0, SIGABRT));
940                 /* NOT REACHED */
941         }
942
943 #ifdef KTRACE
944         if (error == 0)
945                 ktrprocctor(p);
946 #endif
947
948         return (error);
949 }
950
951 int
952 exec_map_first_page(imgp)
953         struct image_params *imgp;
954 {
955         int rv, i;
956         int initial_pagein;
957         vm_page_t ma[VM_INITIAL_PAGEIN];
958         vm_object_t object;
959
960         if (imgp->firstpage != NULL)
961                 exec_unmap_first_page(imgp);
962
963         object = imgp->vp->v_object;
964         if (object == NULL)
965                 return (EACCES);
966         VM_OBJECT_WLOCK(object);
967 #if VM_NRESERVLEVEL > 0
968         if ((object->flags & OBJ_COLORED) == 0) {
969                 object->flags |= OBJ_COLORED;
970                 object->pg_color = 0;
971         }
972 #endif
973         ma[0] = vm_page_grab(object, 0, VM_ALLOC_NORMAL);
974         if (ma[0]->valid != VM_PAGE_BITS_ALL) {
975                 initial_pagein = VM_INITIAL_PAGEIN;
976                 if (initial_pagein > object->size)
977                         initial_pagein = object->size;
978                 for (i = 1; i < initial_pagein; i++) {
979                         if ((ma[i] = vm_page_next(ma[i - 1])) != NULL) {
980                                 if (ma[i]->valid)
981                                         break;
982                                 if (vm_page_tryxbusy(ma[i]))
983                                         break;
984                         } else {
985                                 ma[i] = vm_page_alloc(object, i,
986                                     VM_ALLOC_NORMAL | VM_ALLOC_IFNOTCACHED);
987                                 if (ma[i] == NULL)
988                                         break;
989                         }
990                 }
991                 initial_pagein = i;
992                 rv = vm_pager_get_pages(object, ma, initial_pagein, 0);
993                 ma[0] = vm_page_lookup(object, 0);
994                 if ((rv != VM_PAGER_OK) || (ma[0] == NULL)) {
995                         if (ma[0] != NULL) {
996                                 vm_page_lock(ma[0]);
997                                 vm_page_free(ma[0]);
998                                 vm_page_unlock(ma[0]);
999                         }
1000                         VM_OBJECT_WUNLOCK(object);
1001                         return (EIO);
1002                 }
1003         }
1004         vm_page_xunbusy(ma[0]);
1005         vm_page_lock(ma[0]);
1006         vm_page_hold(ma[0]);
1007         vm_page_activate(ma[0]);
1008         vm_page_unlock(ma[0]);
1009         VM_OBJECT_WUNLOCK(object);
1010
1011         imgp->firstpage = sf_buf_alloc(ma[0], 0);
1012         imgp->image_header = (char *)sf_buf_kva(imgp->firstpage);
1013
1014         return (0);
1015 }
1016
1017 void
1018 exec_unmap_first_page(imgp)
1019         struct image_params *imgp;
1020 {
1021         vm_page_t m;
1022
1023         if (imgp->firstpage != NULL) {
1024                 m = sf_buf_page(imgp->firstpage);
1025                 sf_buf_free(imgp->firstpage);
1026                 imgp->firstpage = NULL;
1027                 vm_page_lock(m);
1028                 vm_page_unhold(m);
1029                 vm_page_unlock(m);
1030         }
1031 }
1032
1033 /*
1034  * Destroy old address space, and allocate a new stack
1035  *      The new stack is only SGROWSIZ large because it is grown
1036  *      automatically in trap.c.
1037  */
1038 int
1039 exec_new_vmspace(imgp, sv)
1040         struct image_params *imgp;
1041         struct sysentvec *sv;
1042 {
1043         int error;
1044         struct proc *p = imgp->proc;
1045         struct vmspace *vmspace = p->p_vmspace;
1046         vm_object_t obj;
1047         struct rlimit rlim_stack;
1048         vm_offset_t sv_minuser, stack_addr;
1049         vm_map_t map;
1050         u_long ssiz;
1051
1052         imgp->vmspace_destroyed = 1;
1053         imgp->sysent = sv;
1054
1055         /* May be called with Giant held */
1056         EVENTHANDLER_INVOKE(process_exec, p, imgp);
1057
1058         /*
1059          * Blow away entire process VM, if address space not shared,
1060          * otherwise, create a new VM space so that other threads are
1061          * not disrupted
1062          */
1063         map = &vmspace->vm_map;
1064         if (map_at_zero)
1065                 sv_minuser = sv->sv_minuser;
1066         else
1067                 sv_minuser = MAX(sv->sv_minuser, PAGE_SIZE);
1068         if (vmspace->vm_refcnt == 1 && vm_map_min(map) == sv_minuser &&
1069             vm_map_max(map) == sv->sv_maxuser) {
1070                 shmexit(vmspace);
1071                 pmap_remove_pages(vmspace_pmap(vmspace));
1072                 vm_map_remove(map, vm_map_min(map), vm_map_max(map));
1073         } else {
1074                 error = vmspace_exec(p, sv_minuser, sv->sv_maxuser);
1075                 if (error)
1076                         return (error);
1077                 vmspace = p->p_vmspace;
1078                 map = &vmspace->vm_map;
1079         }
1080
1081         /* Map a shared page */
1082         obj = sv->sv_shared_page_obj;
1083         if (obj != NULL) {
1084                 vm_object_reference(obj);
1085                 error = vm_map_fixed(map, obj, 0,
1086                     sv->sv_shared_page_base, sv->sv_shared_page_len,
1087                     VM_PROT_READ | VM_PROT_EXECUTE,
1088                     VM_PROT_READ | VM_PROT_EXECUTE,
1089                     MAP_INHERIT_SHARE | MAP_ACC_NO_CHARGE);
1090                 if (error) {
1091                         vm_object_deallocate(obj);
1092                         return (error);
1093                 }
1094         }
1095
1096         /* Allocate a new stack */
1097         if (imgp->stack_sz != 0) {
1098                 ssiz = trunc_page(imgp->stack_sz);
1099                 PROC_LOCK(p);
1100                 lim_rlimit(p, RLIMIT_STACK, &rlim_stack);
1101                 PROC_UNLOCK(p);
1102                 if (ssiz > rlim_stack.rlim_max)
1103                         ssiz = rlim_stack.rlim_max;
1104                 if (ssiz > rlim_stack.rlim_cur) {
1105                         rlim_stack.rlim_cur = ssiz;
1106                         kern_setrlimit(curthread, RLIMIT_STACK, &rlim_stack);
1107                 }
1108         } else if (sv->sv_maxssiz != NULL) {
1109                 ssiz = *sv->sv_maxssiz;
1110         } else {
1111                 ssiz = maxssiz;
1112         }
1113         stack_addr = sv->sv_usrstack - ssiz;
1114         error = vm_map_stack(map, stack_addr, (vm_size_t)ssiz,
1115             obj != NULL && imgp->stack_prot != 0 ? imgp->stack_prot :
1116                 sv->sv_stackprot,
1117             VM_PROT_ALL, MAP_STACK_GROWS_DOWN);
1118         if (error)
1119                 return (error);
1120
1121 #ifdef __ia64__
1122         /* Allocate a new register stack */
1123         error = vm_map_stack(map, IA64_BACKINGSTORE, (vm_size_t)ssiz,
1124             sv->sv_stackprot, VM_PROT_ALL, MAP_STACK_GROWS_UP);
1125         if (error)
1126                 return (error);
1127 #endif
1128
1129         /* vm_ssize and vm_maxsaddr are somewhat antiquated concepts in the
1130          * VM_STACK case, but they are still used to monitor the size of the
1131          * process stack so we can check the stack rlimit.
1132          */
1133         vmspace->vm_ssize = sgrowsiz >> PAGE_SHIFT;
1134         vmspace->vm_maxsaddr = (char *)stack_addr;
1135
1136         return (0);
1137 }
1138
1139 /*
1140  * Copy out argument and environment strings from the old process address
1141  * space into the temporary string buffer.
1142  */
1143 int
1144 exec_copyin_args(struct image_args *args, char *fname,
1145     enum uio_seg segflg, char **argv, char **envv)
1146 {
1147         u_long argp, envp;
1148         int error;
1149         size_t length;
1150
1151         bzero(args, sizeof(*args));
1152         if (argv == NULL)
1153                 return (EFAULT);
1154
1155         /*
1156          * Allocate demand-paged memory for the file name, argument, and
1157          * environment strings.
1158          */
1159         error = exec_alloc_args(args);
1160         if (error != 0)
1161                 return (error);
1162
1163         /*
1164          * Copy the file name.
1165          */
1166         if (fname != NULL) {
1167                 args->fname = args->buf;
1168                 error = (segflg == UIO_SYSSPACE) ?
1169                     copystr(fname, args->fname, PATH_MAX, &length) :
1170                     copyinstr(fname, args->fname, PATH_MAX, &length);
1171                 if (error != 0)
1172                         goto err_exit;
1173         } else
1174                 length = 0;
1175
1176         args->begin_argv = args->buf + length;
1177         args->endp = args->begin_argv;
1178         args->stringspace = ARG_MAX;
1179
1180         /*
1181          * extract arguments first
1182          */
1183         for (;;) {
1184                 error = fueword(argv++, &argp);
1185                 if (error == -1) {
1186                         error = EFAULT;
1187                         goto err_exit;
1188                 }
1189                 if (argp == 0)
1190                         break;
1191                 error = copyinstr((void *)(uintptr_t)argp, args->endp,
1192                     args->stringspace, &length);
1193                 if (error != 0) {
1194                         if (error == ENAMETOOLONG) 
1195                                 error = E2BIG;
1196                         goto err_exit;
1197                 }
1198                 args->stringspace -= length;
1199                 args->endp += length;
1200                 args->argc++;
1201         }
1202
1203         args->begin_envv = args->endp;
1204
1205         /*
1206          * extract environment strings
1207          */
1208         if (envv) {
1209                 for (;;) {
1210                         error = fueword(envv++, &envp);
1211                         if (error == -1) {
1212                                 error = EFAULT;
1213                                 goto err_exit;
1214                         }
1215                         if (envp == 0)
1216                                 break;
1217                         error = copyinstr((void *)(uintptr_t)envp,
1218                             args->endp, args->stringspace, &length);
1219                         if (error != 0) {
1220                                 if (error == ENAMETOOLONG)
1221                                         error = E2BIG;
1222                                 goto err_exit;
1223                         }
1224                         args->stringspace -= length;
1225                         args->endp += length;
1226                         args->envc++;
1227                 }
1228         }
1229
1230         return (0);
1231
1232 err_exit:
1233         exec_free_args(args);
1234         return (error);
1235 }
1236
1237 /*
1238  * Allocate temporary demand-paged, zero-filled memory for the file name,
1239  * argument, and environment strings.  Returns zero if the allocation succeeds
1240  * and ENOMEM otherwise.
1241  */
1242 int
1243 exec_alloc_args(struct image_args *args)
1244 {
1245
1246         args->buf = (char *)kmap_alloc_wait(exec_map, PATH_MAX + ARG_MAX);
1247         return (args->buf != NULL ? 0 : ENOMEM);
1248 }
1249
1250 void
1251 exec_free_args(struct image_args *args)
1252 {
1253
1254         if (args->buf != NULL) {
1255                 kmap_free_wakeup(exec_map, (vm_offset_t)args->buf,
1256                     PATH_MAX + ARG_MAX);
1257                 args->buf = NULL;
1258         }
1259         if (args->fname_buf != NULL) {
1260                 free(args->fname_buf, M_TEMP);
1261                 args->fname_buf = NULL;
1262         }
1263 }
1264
1265 /*
1266  * Copy strings out to the new process address space, constructing new arg
1267  * and env vector tables. Return a pointer to the base so that it can be used
1268  * as the initial stack pointer.
1269  */
1270 register_t *
1271 exec_copyout_strings(imgp)
1272         struct image_params *imgp;
1273 {
1274         int argc, envc;
1275         char **vectp;
1276         char *stringp;
1277         uintptr_t destp;
1278         register_t *stack_base;
1279         struct ps_strings *arginfo;
1280         struct proc *p;
1281         size_t execpath_len;
1282         int szsigcode, szps;
1283         char canary[sizeof(long) * 8];
1284
1285         szps = sizeof(pagesizes[0]) * MAXPAGESIZES;
1286         /*
1287          * Calculate string base and vector table pointers.
1288          * Also deal with signal trampoline code for this exec type.
1289          */
1290         if (imgp->execpath != NULL && imgp->auxargs != NULL)
1291                 execpath_len = strlen(imgp->execpath) + 1;
1292         else
1293                 execpath_len = 0;
1294         p = imgp->proc;
1295         szsigcode = 0;
1296         arginfo = (struct ps_strings *)p->p_sysent->sv_psstrings;
1297         if (p->p_sysent->sv_sigcode_base == 0) {
1298                 if (p->p_sysent->sv_szsigcode != NULL)
1299                         szsigcode = *(p->p_sysent->sv_szsigcode);
1300         }
1301         destp = (uintptr_t)arginfo;
1302
1303         /*
1304          * install sigcode
1305          */
1306         if (szsigcode != 0) {
1307                 destp -= szsigcode;
1308                 destp = rounddown2(destp, sizeof(void *));
1309                 copyout(p->p_sysent->sv_sigcode, (void *)destp, szsigcode);
1310         }
1311
1312         /*
1313          * Copy the image path for the rtld.
1314          */
1315         if (execpath_len != 0) {
1316                 destp -= execpath_len;
1317                 imgp->execpathp = destp;
1318                 copyout(imgp->execpath, (void *)destp, execpath_len);
1319         }
1320
1321         /*
1322          * Prepare the canary for SSP.
1323          */
1324         arc4rand(canary, sizeof(canary), 0);
1325         destp -= sizeof(canary);
1326         imgp->canary = destp;
1327         copyout(canary, (void *)destp, sizeof(canary));
1328         imgp->canarylen = sizeof(canary);
1329
1330         /*
1331          * Prepare the pagesizes array.
1332          */
1333         destp -= szps;
1334         destp = rounddown2(destp, sizeof(void *));
1335         imgp->pagesizes = destp;
1336         copyout(pagesizes, (void *)destp, szps);
1337         imgp->pagesizeslen = szps;
1338
1339         destp -= ARG_MAX - imgp->args->stringspace;
1340         destp = rounddown2(destp, sizeof(void *));
1341
1342         /*
1343          * If we have a valid auxargs ptr, prepare some room
1344          * on the stack.
1345          */
1346         if (imgp->auxargs) {
1347                 /*
1348                  * 'AT_COUNT*2' is size for the ELF Auxargs data. This is for
1349                  * lower compatibility.
1350                  */
1351                 imgp->auxarg_size = (imgp->auxarg_size) ? imgp->auxarg_size :
1352                     (AT_COUNT * 2);
1353                 /*
1354                  * The '+ 2' is for the null pointers at the end of each of
1355                  * the arg and env vector sets,and imgp->auxarg_size is room
1356                  * for argument of Runtime loader.
1357                  */
1358                 vectp = (char **)(destp - (imgp->args->argc +
1359                     imgp->args->envc + 2 + imgp->auxarg_size)
1360                     * sizeof(char *));
1361         } else {
1362                 /*
1363                  * The '+ 2' is for the null pointers at the end of each of
1364                  * the arg and env vector sets
1365                  */
1366                 vectp = (char **)(destp - (imgp->args->argc + imgp->args->envc
1367                     + 2) * sizeof(char *));
1368         }
1369
1370         /*
1371          * vectp also becomes our initial stack base
1372          */
1373         stack_base = (register_t *)vectp;
1374
1375         stringp = imgp->args->begin_argv;
1376         argc = imgp->args->argc;
1377         envc = imgp->args->envc;
1378
1379         /*
1380          * Copy out strings - arguments and environment.
1381          */
1382         copyout(stringp, (void *)destp, ARG_MAX - imgp->args->stringspace);
1383
1384         /*
1385          * Fill in "ps_strings" struct for ps, w, etc.
1386          */
1387         suword(&arginfo->ps_argvstr, (long)(intptr_t)vectp);
1388         suword32(&arginfo->ps_nargvstr, argc);
1389
1390         /*
1391          * Fill in argument portion of vector table.
1392          */
1393         for (; argc > 0; --argc) {
1394                 suword(vectp++, (long)(intptr_t)destp);
1395                 while (*stringp++ != 0)
1396                         destp++;
1397                 destp++;
1398         }
1399
1400         /* a null vector table pointer separates the argp's from the envp's */
1401         suword(vectp++, 0);
1402
1403         suword(&arginfo->ps_envstr, (long)(intptr_t)vectp);
1404         suword32(&arginfo->ps_nenvstr, envc);
1405
1406         /*
1407          * Fill in environment portion of vector table.
1408          */
1409         for (; envc > 0; --envc) {
1410                 suword(vectp++, (long)(intptr_t)destp);
1411                 while (*stringp++ != 0)
1412                         destp++;
1413                 destp++;
1414         }
1415
1416         /* end of vector table is a null pointer */
1417         suword(vectp, 0);
1418
1419         return (stack_base);
1420 }
1421
1422 /*
1423  * Check permissions of file to execute.
1424  *      Called with imgp->vp locked.
1425  *      Return 0 for success or error code on failure.
1426  */
1427 int
1428 exec_check_permissions(imgp)
1429         struct image_params *imgp;
1430 {
1431         struct vnode *vp = imgp->vp;
1432         struct vattr *attr = imgp->attr;
1433         struct thread *td;
1434         int error, writecount;
1435
1436         td = curthread;
1437
1438         /* Get file attributes */
1439         error = VOP_GETATTR(vp, attr, td->td_ucred);
1440         if (error)
1441                 return (error);
1442
1443 #ifdef MAC
1444         error = mac_vnode_check_exec(td->td_ucred, imgp->vp, imgp);
1445         if (error)
1446                 return (error);
1447 #endif
1448
1449         /*
1450          * 1) Check if file execution is disabled for the filesystem that
1451          *    this file resides on.
1452          * 2) Ensure that at least one execute bit is on. Otherwise, a
1453          *    privileged user will always succeed, and we don't want this
1454          *    to happen unless the file really is executable.
1455          * 3) Ensure that the file is a regular file.
1456          */
1457         if ((vp->v_mount->mnt_flag & MNT_NOEXEC) ||
1458             (attr->va_mode & (S_IXUSR | S_IXGRP | S_IXOTH)) == 0 ||
1459             (attr->va_type != VREG))
1460                 return (EACCES);
1461
1462         /*
1463          * Zero length files can't be exec'd
1464          */
1465         if (attr->va_size == 0)
1466                 return (ENOEXEC);
1467
1468         /*
1469          *  Check for execute permission to file based on current credentials.
1470          */
1471         error = VOP_ACCESS(vp, VEXEC, td->td_ucred, td);
1472         if (error)
1473                 return (error);
1474
1475         /*
1476          * Check number of open-for-writes on the file and deny execution
1477          * if there are any.
1478          */
1479         error = VOP_GET_WRITECOUNT(vp, &writecount);
1480         if (error != 0)
1481                 return (error);
1482         if (writecount != 0)
1483                 return (ETXTBSY);
1484
1485         /*
1486          * Call filesystem specific open routine (which does nothing in the
1487          * general case).
1488          */
1489         error = VOP_OPEN(vp, FREAD, td->td_ucred, td, NULL);
1490         if (error == 0)
1491                 imgp->opened = 1;
1492         return (error);
1493 }
1494
1495 /*
1496  * Exec handler registration
1497  */
1498 int
1499 exec_register(execsw_arg)
1500         const struct execsw *execsw_arg;
1501 {
1502         const struct execsw **es, **xs, **newexecsw;
1503         int count = 2;  /* New slot and trailing NULL */
1504
1505         if (execsw)
1506                 for (es = execsw; *es; es++)
1507                         count++;
1508         newexecsw = malloc(count * sizeof(*es), M_TEMP, M_WAITOK);
1509         xs = newexecsw;
1510         if (execsw)
1511                 for (es = execsw; *es; es++)
1512                         *xs++ = *es;
1513         *xs++ = execsw_arg;
1514         *xs = NULL;
1515         if (execsw)
1516                 free(execsw, M_TEMP);
1517         execsw = newexecsw;
1518         return (0);
1519 }
1520
1521 int
1522 exec_unregister(execsw_arg)
1523         const struct execsw *execsw_arg;
1524 {
1525         const struct execsw **es, **xs, **newexecsw;
1526         int count = 1;
1527
1528         if (execsw == NULL)
1529                 panic("unregister with no handlers left?\n");
1530
1531         for (es = execsw; *es; es++) {
1532                 if (*es == execsw_arg)
1533                         break;
1534         }
1535         if (*es == NULL)
1536                 return (ENOENT);
1537         for (es = execsw; *es; es++)
1538                 if (*es != execsw_arg)
1539                         count++;
1540         newexecsw = malloc(count * sizeof(*es), M_TEMP, M_WAITOK);
1541         xs = newexecsw;
1542         for (es = execsw; *es; es++)
1543                 if (*es != execsw_arg)
1544                         *xs++ = *es;
1545         *xs = NULL;
1546         if (execsw)
1547                 free(execsw, M_TEMP);
1548         execsw = newexecsw;
1549         return (0);
1550 }