]> CyberLeo.Net >> Repos - FreeBSD/FreeBSD.git/blob - sys/sys/mount.h
Optionally bind ktls threads to NUMA domains
[FreeBSD/FreeBSD.git] / sys / sys / mount.h
1 /*-
2  * SPDX-License-Identifier: BSD-3-Clause
3  *
4  * Copyright (c) 1989, 1991, 1993
5  *      The Regents of the University of California.  All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions
9  * are met:
10  * 1. Redistributions of source code must retain the above copyright
11  *    notice, this list of conditions and the following disclaimer.
12  * 2. Redistributions in binary form must reproduce the above copyright
13  *    notice, this list of conditions and the following disclaimer in the
14  *    documentation and/or other materials provided with the distribution.
15  * 3. Neither the name of the University nor the names of its contributors
16  *    may be used to endorse or promote products derived from this software
17  *    without specific prior written permission.
18  *
19  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
20  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
21  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
22  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
23  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
24  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
25  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
26  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
27  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
28  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
29  * SUCH DAMAGE.
30  *
31  *      @(#)mount.h     8.21 (Berkeley) 5/20/95
32  * $FreeBSD$
33  */
34
35 #ifndef _SYS_MOUNT_H_
36 #define _SYS_MOUNT_H_
37
38 #include <sys/ucred.h>
39 #include <sys/queue.h>
40 #ifdef _KERNEL
41 #include <sys/lock.h>
42 #include <sys/lockmgr.h>
43 #include <sys/tslog.h>
44 #include <sys/_mutex.h>
45 #include <sys/_sx.h>
46 #endif
47
48 /*
49  * NOTE: When changing statfs structure, mount structure, MNT_* flags or
50  * MNTK_* flags also update DDB show mount command in vfs_subr.c.
51  */
52
53 typedef struct fsid { int32_t val[2]; } fsid_t; /* filesystem id type */
54
55 #define fsidcmp(a, b) memcmp((a), (b), sizeof(fsid_t))
56
57 /*
58  * File identifier.
59  * These are unique per filesystem on a single machine.
60  *
61  * Note that the offset of fid_data is 4 bytes, so care must be taken to avoid
62  * undefined behavior accessing unaligned fields within an embedded struct.
63  */
64 #define MAXFIDSZ        16
65
66 struct fid {
67         u_short         fid_len;                /* length of data in bytes */
68         u_short         fid_data0;              /* force longword alignment */
69         char            fid_data[MAXFIDSZ];     /* data (variable length) */
70 };
71
72 /*
73  * filesystem statistics
74  */
75 #define MFSNAMELEN      16              /* length of type name including null */
76 #define MNAMELEN        1024            /* size of on/from name bufs */
77 #define STATFS_VERSION  0x20140518      /* current version number */
78 struct statfs {
79         uint32_t f_version;             /* structure version number */
80         uint32_t f_type;                /* type of filesystem */
81         uint64_t f_flags;               /* copy of mount exported flags */
82         uint64_t f_bsize;               /* filesystem fragment size */
83         uint64_t f_iosize;              /* optimal transfer block size */
84         uint64_t f_blocks;              /* total data blocks in filesystem */
85         uint64_t f_bfree;               /* free blocks in filesystem */
86         int64_t  f_bavail;              /* free blocks avail to non-superuser */
87         uint64_t f_files;               /* total file nodes in filesystem */
88         int64_t  f_ffree;               /* free nodes avail to non-superuser */
89         uint64_t f_syncwrites;          /* count of sync writes since mount */
90         uint64_t f_asyncwrites;         /* count of async writes since mount */
91         uint64_t f_syncreads;           /* count of sync reads since mount */
92         uint64_t f_asyncreads;          /* count of async reads since mount */
93         uint64_t f_spare[10];           /* unused spare */
94         uint32_t f_namemax;             /* maximum filename length */
95         uid_t     f_owner;              /* user that mounted the filesystem */
96         fsid_t    f_fsid;               /* filesystem id */
97         char      f_charspare[80];          /* spare string space */
98         char      f_fstypename[MFSNAMELEN]; /* filesystem type name */
99         char      f_mntfromname[MNAMELEN];  /* mounted filesystem */
100         char      f_mntonname[MNAMELEN];    /* directory on which mounted */
101 };
102
103 #if defined(_WANT_FREEBSD11_STATFS) || defined(_KERNEL)
104 #define FREEBSD11_STATFS_VERSION        0x20030518 /* current version number */
105 struct freebsd11_statfs {
106         uint32_t f_version;             /* structure version number */
107         uint32_t f_type;                /* type of filesystem */
108         uint64_t f_flags;               /* copy of mount exported flags */
109         uint64_t f_bsize;               /* filesystem fragment size */
110         uint64_t f_iosize;              /* optimal transfer block size */
111         uint64_t f_blocks;              /* total data blocks in filesystem */
112         uint64_t f_bfree;               /* free blocks in filesystem */
113         int64_t  f_bavail;              /* free blocks avail to non-superuser */
114         uint64_t f_files;               /* total file nodes in filesystem */
115         int64_t  f_ffree;               /* free nodes avail to non-superuser */
116         uint64_t f_syncwrites;          /* count of sync writes since mount */
117         uint64_t f_asyncwrites;         /* count of async writes since mount */
118         uint64_t f_syncreads;           /* count of sync reads since mount */
119         uint64_t f_asyncreads;          /* count of async reads since mount */
120         uint64_t f_spare[10];           /* unused spare */
121         uint32_t f_namemax;             /* maximum filename length */
122         uid_t     f_owner;              /* user that mounted the filesystem */
123         fsid_t    f_fsid;               /* filesystem id */
124         char      f_charspare[80];      /* spare string space */
125         char      f_fstypename[16];     /* filesystem type name */
126         char      f_mntfromname[88];    /* mounted filesystem */
127         char      f_mntonname[88];      /* directory on which mounted */
128 };
129 #endif /* _WANT_FREEBSD11_STATFS || _KERNEL */
130
131 #ifdef _KERNEL
132 #define OMFSNAMELEN     16      /* length of fs type name, including null */
133 #define OMNAMELEN       (88 - 2 * sizeof(long)) /* size of on/from name bufs */
134
135 /* XXX getfsstat.2 is out of date with write and read counter changes here. */
136 /* XXX statfs.2 is out of date with read counter changes here. */
137 struct ostatfs {
138         long    f_spare2;               /* placeholder */
139         long    f_bsize;                /* fundamental filesystem block size */
140         long    f_iosize;               /* optimal transfer block size */
141         long    f_blocks;               /* total data blocks in filesystem */
142         long    f_bfree;                /* free blocks in fs */
143         long    f_bavail;               /* free blocks avail to non-superuser */
144         long    f_files;                /* total file nodes in filesystem */
145         long    f_ffree;                /* free file nodes in fs */
146         fsid_t  f_fsid;                 /* filesystem id */
147         uid_t   f_owner;                /* user that mounted the filesystem */
148         int     f_type;                 /* type of filesystem */
149         int     f_flags;                /* copy of mount exported flags */
150         long    f_syncwrites;           /* count of sync writes since mount */
151         long    f_asyncwrites;          /* count of async writes since mount */
152         char    f_fstypename[OMFSNAMELEN]; /* fs type name */
153         char    f_mntonname[OMNAMELEN]; /* directory on which mounted */
154         long    f_syncreads;            /* count of sync reads since mount */
155         long    f_asyncreads;           /* count of async reads since mount */
156         short   f_spares1;              /* unused spare */
157         char    f_mntfromname[OMNAMELEN];/* mounted filesystem */
158         short   f_spares2;              /* unused spare */
159         /*
160          * XXX on machines where longs are aligned to 8-byte boundaries, there
161          * is an unnamed int32_t here.  This spare was after the apparent end
162          * of the struct until we bit off the read counters from f_mntonname.
163          */
164         long    f_spare[2];             /* unused spare */
165 };
166
167 TAILQ_HEAD(vnodelst, vnode);
168
169 /* Mount options list */
170 TAILQ_HEAD(vfsoptlist, vfsopt);
171 struct vfsopt {
172         TAILQ_ENTRY(vfsopt) link;
173         char    *name;
174         void    *value;
175         int     len;
176         int     pos;
177         int     seen;
178 };
179
180 struct mount_pcpu {
181         int             mntp_thread_in_ops;
182         int             mntp_ref;
183         int             mntp_lockref;
184         int             mntp_writeopcount;
185 };
186
187 _Static_assert(sizeof(struct mount_pcpu) == 16,
188     "the struct is allocated from pcpu 16 zone");
189
190 /*
191  * Structure per mounted filesystem.  Each mounted filesystem has an
192  * array of operations and an instance record.  The filesystems are
193  * put on a doubly linked list.
194  *
195  * Lock reference:
196  *      l - mnt_listmtx
197  *      m - mountlist_mtx
198  *      i - interlock
199  *      v - vnode freelist mutex
200  *
201  * Unmarked fields are considered stable as long as a ref is held.
202  *
203  */
204 struct mount {
205         int             mnt_vfs_ops;            /* (i) pending vfs ops */
206         int             mnt_kern_flag;          /* (i) kernel only flags */
207         uint64_t        mnt_flag;               /* (i) flags shared with user */
208         struct mount_pcpu *mnt_pcpu;            /* per-CPU data */
209         struct vnode    *mnt_rootvnode;
210         struct vnode    *mnt_vnodecovered;      /* vnode we mounted on */
211         struct vfsops   *mnt_op;                /* operations on fs */
212         struct vfsconf  *mnt_vfc;               /* configuration info */
213         struct mtx __aligned(CACHE_LINE_SIZE)   mnt_mtx; /* mount structure interlock */
214         int             mnt_gen;                /* struct mount generation */
215 #define mnt_startzero   mnt_list
216         TAILQ_ENTRY(mount) mnt_list;            /* (m) mount list */
217         struct vnode    *mnt_syncer;            /* syncer vnode */
218         int             mnt_ref;                /* (i) Reference count */
219         struct vnodelst mnt_nvnodelist;         /* (i) list of vnodes */
220         int             mnt_nvnodelistsize;     /* (i) # of vnodes */
221         int             mnt_writeopcount;       /* (i) write syscalls pending */
222         struct vfsoptlist *mnt_opt;             /* current mount options */
223         struct vfsoptlist *mnt_optnew;          /* new options passed to fs */
224         int             mnt_maxsymlinklen;      /* max size of short symlink */
225         struct statfs   mnt_stat;               /* cache of filesystem stats */
226         struct ucred    *mnt_cred;              /* credentials of mounter */
227         void *          mnt_data;               /* private data */
228         time_t          mnt_time;               /* last time written*/
229         int             mnt_iosize_max;         /* max size for clusters, etc */
230         struct netexport *mnt_export;           /* export list */
231         struct label    *mnt_label;             /* MAC label for the fs */
232         u_int           mnt_hashseed;           /* Random seed for vfs_hash */
233         int             mnt_lockref;            /* (i) Lock reference count */
234         int             mnt_secondary_writes;   /* (i) # of secondary writes */
235         int             mnt_secondary_accwrites;/* (i) secondary wr. starts */
236         struct thread   *mnt_susp_owner;        /* (i) thread owning suspension */
237 #define mnt_endzero     mnt_gjprovider
238         char            *mnt_gjprovider;        /* gjournal provider name */
239         struct mtx      mnt_listmtx;
240         struct vnodelst mnt_lazyvnodelist;      /* (l) list of lazy vnodes */
241         int             mnt_lazyvnodelistsize;  /* (l) # of lazy vnodes */
242         struct lock     mnt_explock;            /* vfs_export walkers lock */
243         TAILQ_ENTRY(mount) mnt_upper_link;      /* (m) we in the all uppers */
244         TAILQ_HEAD(, mount) mnt_uppers;         /* (m) upper mounts over us*/
245 };
246
247 /*
248  * Definitions for MNT_VNODE_FOREACH_ALL.
249  */
250 struct vnode *__mnt_vnode_next_all(struct vnode **mvp, struct mount *mp);
251 struct vnode *__mnt_vnode_first_all(struct vnode **mvp, struct mount *mp);
252 void          __mnt_vnode_markerfree_all(struct vnode **mvp, struct mount *mp);
253
254 #define MNT_VNODE_FOREACH_ALL(vp, mp, mvp)                              \
255         for (vp = __mnt_vnode_first_all(&(mvp), (mp));                  \
256                 (vp) != NULL; vp = __mnt_vnode_next_all(&(mvp), (mp)))
257
258 #define MNT_VNODE_FOREACH_ALL_ABORT(mp, mvp)                            \
259         do {                                                            \
260                 MNT_ILOCK(mp);                                          \
261                 __mnt_vnode_markerfree_all(&(mvp), (mp));               \
262                 /* MNT_IUNLOCK(mp); -- done in above function */        \
263                 mtx_assert(MNT_MTX(mp), MA_NOTOWNED);                   \
264         } while (0)
265
266 /*
267  * Definitions for MNT_VNODE_FOREACH_LAZY.
268  */
269 typedef int mnt_lazy_cb_t(struct vnode *, void *);
270 struct vnode *__mnt_vnode_next_lazy(struct vnode **mvp, struct mount *mp,
271     mnt_lazy_cb_t *cb, void *cbarg);
272 struct vnode *__mnt_vnode_first_lazy(struct vnode **mvp, struct mount *mp,
273     mnt_lazy_cb_t *cb, void *cbarg);
274 void          __mnt_vnode_markerfree_lazy(struct vnode **mvp, struct mount *mp);
275
276 #define MNT_VNODE_FOREACH_LAZY(vp, mp, mvp, cb, cbarg)                  \
277         for (vp = __mnt_vnode_first_lazy(&(mvp), (mp), (cb), (cbarg));  \
278                 (vp) != NULL;                                           \
279                 vp = __mnt_vnode_next_lazy(&(mvp), (mp), (cb), (cbarg)))
280
281 #define MNT_VNODE_FOREACH_LAZY_ABORT(mp, mvp)                           \
282         __mnt_vnode_markerfree_lazy(&(mvp), (mp))
283
284 #define MNT_ILOCK(mp)   mtx_lock(&(mp)->mnt_mtx)
285 #define MNT_ITRYLOCK(mp) mtx_trylock(&(mp)->mnt_mtx)
286 #define MNT_IUNLOCK(mp) mtx_unlock(&(mp)->mnt_mtx)
287 #define MNT_MTX(mp)     (&(mp)->mnt_mtx)
288
289 #define MNT_REF(mp)     do {                                            \
290         mtx_assert(MNT_MTX(mp), MA_OWNED);                              \
291         mp->mnt_ref++;                                                  \
292 } while (0)
293 #define MNT_REL(mp)     do {                                            \
294         mtx_assert(MNT_MTX(mp), MA_OWNED);                              \
295         (mp)->mnt_ref--;                                                \
296         if ((mp)->mnt_vfs_ops && (mp)->mnt_ref < 0)             \
297                 vfs_dump_mount_counters(mp);                            \
298         if ((mp)->mnt_ref == 0 && (mp)->mnt_vfs_ops)            \
299                 wakeup((mp));                                           \
300 } while (0)
301
302 #endif /* _KERNEL */
303
304 #if defined(_WANT_MNTOPTNAMES) || defined(_KERNEL)
305 struct mntoptnames {
306         uint64_t o_opt;
307         const char *o_name;
308 };
309 #define MNTOPT_NAMES                                                    \
310         { MNT_ASYNC,            "asynchronous" },                       \
311         { MNT_EXPORTED,         "NFS exported" },                       \
312         { MNT_LOCAL,            "local" },                              \
313         { MNT_NOATIME,          "noatime" },                            \
314         { MNT_NOEXEC,           "noexec" },                             \
315         { MNT_NOSUID,           "nosuid" },                             \
316         { MNT_NOSYMFOLLOW,      "nosymfollow" },                        \
317         { MNT_QUOTA,            "with quotas" },                        \
318         { MNT_RDONLY,           "read-only" },                          \
319         { MNT_SYNCHRONOUS,      "synchronous" },                        \
320         { MNT_UNION,            "union" },                              \
321         { MNT_NOCLUSTERR,       "noclusterr" },                         \
322         { MNT_NOCLUSTERW,       "noclusterw" },                         \
323         { MNT_SUIDDIR,          "suiddir" },                            \
324         { MNT_SOFTDEP,          "soft-updates" },                       \
325         { MNT_SUJ,              "journaled soft-updates" },             \
326         { MNT_MULTILABEL,       "multilabel" },                         \
327         { MNT_ACLS,             "acls" },                               \
328         { MNT_NFS4ACLS,         "nfsv4acls" },                          \
329         { MNT_GJOURNAL,         "gjournal" },                           \
330         { MNT_AUTOMOUNTED,      "automounted" },                        \
331         { MNT_VERIFIED,         "verified" },                           \
332         { MNT_UNTRUSTED,        "untrusted" },                          \
333         { MNT_NOCOVER,          "nocover" },                            \
334         { MNT_EMPTYDIR,         "emptydir" },                           \
335         { MNT_UPDATE,           "update" },                             \
336         { MNT_DELEXPORT,        "delexport" },                          \
337         { MNT_RELOAD,           "reload" },                             \
338         { MNT_FORCE,            "force" },                              \
339         { MNT_SNAPSHOT,         "snapshot" },                           \
340         { 0, NULL }
341 #endif
342
343 /*
344  * User specifiable flags, stored in mnt_flag.
345  */
346 #define MNT_RDONLY      0x0000000000000001ULL /* read only filesystem */
347 #define MNT_SYNCHRONOUS 0x0000000000000002ULL /* fs written synchronously */
348 #define MNT_NOEXEC      0x0000000000000004ULL /* can't exec from filesystem */
349 #define MNT_NOSUID      0x0000000000000008ULL /* don't honor setuid fs bits */
350 #define MNT_NFS4ACLS    0x0000000000000010ULL /* enable NFS version 4 ACLs */
351 #define MNT_UNION       0x0000000000000020ULL /* union with underlying fs */
352 #define MNT_ASYNC       0x0000000000000040ULL /* fs written asynchronously */
353 #define MNT_SUIDDIR     0x0000000000100000ULL /* special SUID dir handling */
354 #define MNT_SOFTDEP     0x0000000000200000ULL /* using soft updates */
355 #define MNT_NOSYMFOLLOW 0x0000000000400000ULL /* do not follow symlinks */
356 #define MNT_GJOURNAL    0x0000000002000000ULL /* GEOM journal support enabled */
357 #define MNT_MULTILABEL  0x0000000004000000ULL /* MAC support for objects */
358 #define MNT_ACLS        0x0000000008000000ULL /* ACL support enabled */
359 #define MNT_NOATIME     0x0000000010000000ULL /* dont update file access time */
360 #define MNT_NOCLUSTERR  0x0000000040000000ULL /* disable cluster read */
361 #define MNT_NOCLUSTERW  0x0000000080000000ULL /* disable cluster write */
362 #define MNT_SUJ         0x0000000100000000ULL /* using journaled soft updates */
363 #define MNT_AUTOMOUNTED 0x0000000200000000ULL /* mounted by automountd(8) */
364 #define MNT_UNTRUSTED   0x0000000800000000ULL /* filesys metadata untrusted */
365
366 /*
367  * NFS export related mount flags.
368  */
369 #define MNT_EXRDONLY    0x0000000000000080ULL   /* exported read only */
370 #define MNT_EXPORTED    0x0000000000000100ULL   /* filesystem is exported */
371 #define MNT_DEFEXPORTED 0x0000000000000200ULL   /* exported to the world */
372 #define MNT_EXPORTANON  0x0000000000000400ULL   /* anon uid mapping for all */
373 #define MNT_EXKERB      0x0000000000000800ULL   /* exported with Kerberos */
374 #define MNT_EXPUBLIC    0x0000000020000000ULL   /* public export (WebNFS) */
375 #define MNT_EXTLS       0x0000004000000000ULL /* require TLS */
376 #define MNT_EXTLSCERT   0x0000008000000000ULL /* require TLS with client cert */
377 #define MNT_EXTLSCERTUSER 0x0000010000000000ULL /* require TLS with user cert */
378
379 /*
380  * Flags set by internal operations,
381  * but visible to the user.
382  * XXX some of these are not quite right.. (I've never seen the root flag set)
383  */
384 #define MNT_LOCAL       0x0000000000001000ULL /* filesystem is stored locally */
385 #define MNT_QUOTA       0x0000000000002000ULL /* quotas are enabled on fs */
386 #define MNT_ROOTFS      0x0000000000004000ULL /* identifies the root fs */
387 #define MNT_USER        0x0000000000008000ULL /* mounted by a user */
388 #define MNT_IGNORE      0x0000000000800000ULL /* do not show entry in df */
389 #define MNT_VERIFIED    0x0000000400000000ULL /* filesystem is verified */
390
391 /*
392  * Mask of flags that are visible to statfs().
393  * XXX I think that this could now become (~(MNT_CMDFLAGS))
394  * but the 'mount' program may need changing to handle this.
395  */
396 #define MNT_VISFLAGMASK (MNT_RDONLY     | MNT_SYNCHRONOUS | MNT_NOEXEC  | \
397                         MNT_NOSUID      | MNT_UNION     | MNT_SUJ       | \
398                         MNT_ASYNC       | MNT_EXRDONLY  | MNT_EXPORTED  | \
399                         MNT_DEFEXPORTED | MNT_EXPORTANON| MNT_EXKERB    | \
400                         MNT_LOCAL       | MNT_USER      | MNT_QUOTA     | \
401                         MNT_ROOTFS      | MNT_NOATIME   | MNT_NOCLUSTERR| \
402                         MNT_NOCLUSTERW  | MNT_SUIDDIR   | MNT_SOFTDEP   | \
403                         MNT_IGNORE      | MNT_EXPUBLIC  | MNT_NOSYMFOLLOW | \
404                         MNT_GJOURNAL    | MNT_MULTILABEL | MNT_ACLS     | \
405                         MNT_NFS4ACLS    | MNT_AUTOMOUNTED | MNT_VERIFIED | \
406                         MNT_UNTRUSTED)
407
408 /* Mask of flags that can be updated. */
409 #define MNT_UPDATEMASK (MNT_NOSUID      | MNT_NOEXEC    | \
410                         MNT_SYNCHRONOUS | MNT_UNION     | MNT_ASYNC     | \
411                         MNT_NOATIME | \
412                         MNT_NOSYMFOLLOW | MNT_IGNORE    | \
413                         MNT_NOCLUSTERR  | MNT_NOCLUSTERW | MNT_SUIDDIR  | \
414                         MNT_ACLS        | MNT_USER      | MNT_NFS4ACLS  | \
415                         MNT_AUTOMOUNTED | MNT_UNTRUSTED)
416
417 /*
418  * External filesystem command modifier flags.
419  * Unmount can use the MNT_FORCE flag.
420  * XXX: These are not STATES and really should be somewhere else.
421  * XXX: MNT_BYFSID and MNT_NONBUSY collide with MNT_ACLS and MNT_MULTILABEL,
422  *      but because MNT_ACLS and MNT_MULTILABEL are only used for mount(2),
423  *      and MNT_BYFSID and MNT_NONBUSY are only used for unmount(2),
424  *      it's harmless.
425  */
426 #define MNT_UPDATE      0x0000000000010000ULL /* not real mount, just update */
427 #define MNT_DELEXPORT   0x0000000000020000ULL /* delete export host lists */
428 #define MNT_RELOAD      0x0000000000040000ULL /* reload filesystem data */
429 #define MNT_FORCE       0x0000000000080000ULL /* force unmount or readonly */
430 #define MNT_SNAPSHOT    0x0000000001000000ULL /* snapshot the filesystem */
431 #define MNT_NONBUSY     0x0000000004000000ULL /* check vnode use counts. */
432 #define MNT_BYFSID      0x0000000008000000ULL /* specify filesystem by ID. */
433 #define MNT_NOCOVER     0x0000001000000000ULL /* Do not cover a mount point */
434 #define MNT_EMPTYDIR    0x0000002000000000ULL /* Only mount on empty dir */
435 #define MNT_CMDFLAGS   (MNT_UPDATE      | MNT_DELEXPORT | MNT_RELOAD    | \
436                         MNT_FORCE       | MNT_SNAPSHOT  | MNT_NONBUSY   | \
437                         MNT_BYFSID      | MNT_NOCOVER   | MNT_EMPTYDIR)
438 /*
439  * Internal filesystem control flags stored in mnt_kern_flag.
440  *
441  * MNTK_UNMOUNT locks the mount entry so that name lookup cannot
442  * proceed past the mount point.  This keeps the subtree stable during
443  * mounts and unmounts.  When non-forced unmount flushes all vnodes
444  * from the mp queue, the MNTK_UNMOUNT flag prevents insmntque() from
445  * queueing new vnodes.
446  *
447  * MNTK_UNMOUNTF permits filesystems to detect a forced unmount while
448  * dounmount() is still waiting to lock the mountpoint. This allows
449  * the filesystem to cancel operations that might otherwise deadlock
450  * with the unmount attempt (used by NFS).
451  */
452 #define MNTK_UNMOUNTF   0x00000001      /* forced unmount in progress */
453 #define MNTK_ASYNC      0x00000002      /* filtered async flag */
454 #define MNTK_SOFTDEP    0x00000004      /* async disabled by softdep */
455 #define MNTK_NOMSYNC    0x00000008      /* don't do msync */
456 #define MNTK_DRAINING   0x00000010      /* lock draining is happening */
457 #define MNTK_REFEXPIRE  0x00000020      /* refcount expiring is happening */
458 #define MNTK_EXTENDED_SHARED    0x00000040 /* Allow shared locking for more ops */
459 #define MNTK_SHARED_WRITES      0x00000080 /* Allow shared locking for writes */
460 #define MNTK_NO_IOPF    0x00000100      /* Disallow page faults during reads
461                                            and writes. Filesystem shall properly
462                                            handle i/o state on EFAULT. */
463 #define MNTK_VGONE_UPPER        0x00000200
464 #define MNTK_VGONE_WAITER       0x00000400
465 #define MNTK_LOOKUP_EXCL_DOTDOT 0x00000800
466 #define MNTK_MARKER             0x00001000
467 #define MNTK_UNMAPPED_BUFS      0x00002000
468 #define MNTK_USES_BCACHE        0x00004000 /* FS uses the buffer cache. */
469 #define MNTK_TEXT_REFS          0x00008000 /* Keep use ref for text */
470 #define MNTK_VMSETSIZE_BUG      0x00010000
471 #define MNTK_UNIONFS    0x00020000      /* A hack for F_ISUNIONSTACK */
472 #define MNTK_FPLOOKUP   0x00040000      /* fast path lookup is supported */
473 #define MNTK_SUSPEND_ALL        0x00080000 /* Suspended by all-fs suspension */
474 #define MNTK_NOASYNC    0x00800000      /* disable async */
475 #define MNTK_UNMOUNT    0x01000000      /* unmount in progress */
476 #define MNTK_MWAIT      0x02000000      /* waiting for unmount to finish */
477 #define MNTK_SUSPEND    0x08000000      /* request write suspension */
478 #define MNTK_SUSPEND2   0x04000000      /* block secondary writes */
479 #define MNTK_SUSPENDED  0x10000000      /* write operations are suspended */
480 #define MNTK_NULL_NOCACHE       0x20000000 /* auto disable cache for nullfs
481                                               mounts over this fs */
482 #define MNTK_LOOKUP_SHARED      0x40000000 /* FS supports shared lock lookups */
483 #define MNTK_NOKNOTE    0x80000000      /* Don't send KNOTEs from VOP hooks */
484
485 #ifdef _KERNEL
486 static inline int
487 MNT_SHARED_WRITES(struct mount *mp)
488 {
489
490         return (mp != NULL && (mp->mnt_kern_flag & MNTK_SHARED_WRITES) != 0);
491 }
492
493 static inline int
494 MNT_EXTENDED_SHARED(struct mount *mp)
495 {
496
497         return (mp != NULL && (mp->mnt_kern_flag & MNTK_EXTENDED_SHARED) != 0);
498 }
499 #endif
500
501 /*
502  * Sysctl CTL_VFS definitions.
503  *
504  * Second level identifier specifies which filesystem. Second level
505  * identifier VFS_VFSCONF returns information about all filesystems.
506  * Second level identifier VFS_GENERIC is non-terminal.
507  */
508 #define VFS_VFSCONF             0       /* get configured filesystems */
509 #define VFS_GENERIC             0       /* generic filesystem information */
510 /*
511  * Third level identifiers for VFS_GENERIC are given below; third
512  * level identifiers for specific filesystems are given in their
513  * mount specific header files.
514  */
515 #define VFS_MAXTYPENUM  1       /* int: highest defined filesystem type */
516 #define VFS_CONF        2       /* struct: vfsconf for filesystem given
517                                    as next argument */
518
519 /*
520  * Flags for various system call interfaces.
521  *
522  * waitfor flags to vfs_sync() and getfsstat()
523  */
524 #define MNT_WAIT        1       /* synchronously wait for I/O to complete */
525 #define MNT_NOWAIT      2       /* start all I/O, but do not wait for it */
526 #define MNT_LAZY        3       /* push data not written by filesystem syncer */
527 #define MNT_SUSPEND     4       /* Suspend file system after sync */
528
529 /*
530  * Generic file handle
531  */
532 struct fhandle {
533         fsid_t  fh_fsid;        /* Filesystem id of mount point */
534         struct  fid fh_fid;     /* Filesys specific id */
535 };
536 typedef struct fhandle  fhandle_t;
537
538 /*
539  * Old export arguments without security flavor list
540  */
541 struct oexport_args {
542         int     ex_flags;               /* export related flags */
543         uid_t   ex_root;                /* mapping for root uid */
544         struct  xucred ex_anon;         /* mapping for anonymous user */
545         struct  sockaddr *ex_addr;      /* net address to which exported */
546         u_char  ex_addrlen;             /* and the net address length */
547         struct  sockaddr *ex_mask;      /* mask of valid bits in saddr */
548         u_char  ex_masklen;             /* and the smask length */
549         char    *ex_indexfile;          /* index file for WebNFS URLs */
550 };
551
552 /*
553  * Not quite so old export arguments with 32bit ex_flags and xucred ex_anon.
554  */
555 #define MAXSECFLAVORS   5
556 struct o2export_args {
557         int     ex_flags;               /* export related flags */
558         uid_t   ex_root;                /* mapping for root uid */
559         struct  xucred ex_anon;         /* mapping for anonymous user */
560         struct  sockaddr *ex_addr;      /* net address to which exported */
561         u_char  ex_addrlen;             /* and the net address length */
562         struct  sockaddr *ex_mask;      /* mask of valid bits in saddr */
563         u_char  ex_masklen;             /* and the smask length */
564         char    *ex_indexfile;          /* index file for WebNFS URLs */
565         int     ex_numsecflavors;       /* security flavor count */
566         int     ex_secflavors[MAXSECFLAVORS]; /* list of security flavors */
567 };
568
569 /*
570  * Export arguments for local filesystem mount calls.
571  */
572 struct export_args {
573         uint64_t ex_flags;              /* export related flags */
574         uid_t   ex_root;                /* mapping for root uid */
575         uid_t   ex_uid;                 /* mapping for anonymous user */
576         int     ex_ngroups;
577         gid_t   *ex_groups;
578         struct  sockaddr *ex_addr;      /* net address to which exported */
579         u_char  ex_addrlen;             /* and the net address length */
580         struct  sockaddr *ex_mask;      /* mask of valid bits in saddr */
581         u_char  ex_masklen;             /* and the smask length */
582         char    *ex_indexfile;          /* index file for WebNFS URLs */
583         int     ex_numsecflavors;       /* security flavor count */
584         int     ex_secflavors[MAXSECFLAVORS]; /* list of security flavors */
585 };
586
587 /*
588  * Structure holding information for a publicly exported filesystem
589  * (WebNFS). Currently the specs allow just for one such filesystem.
590  */
591 struct nfs_public {
592         int             np_valid;       /* Do we hold valid information */
593         fhandle_t       np_handle;      /* Filehandle for pub fs (internal) */
594         struct mount    *np_mount;      /* Mountpoint of exported fs */
595         char            *np_index;      /* Index file */
596 };
597
598 /*
599  * Filesystem configuration information. One of these exists for each
600  * type of filesystem supported by the kernel. These are searched at
601  * mount time to identify the requested filesystem.
602  *
603  * XXX: Never change the first two arguments!
604  */
605 struct vfsconf {
606         u_int   vfc_version;            /* ABI version number */
607         char    vfc_name[MFSNAMELEN];   /* filesystem type name */
608         struct  vfsops *vfc_vfsops;     /* filesystem operations vector */
609         struct  vfsops *vfc_vfsops_sd;  /* ... signal-deferred */
610         int     vfc_typenum;            /* historic filesystem type number */
611         int     vfc_refcount;           /* number mounted of this type */
612         int     vfc_flags;              /* permanent flags */
613         int     vfc_prison_flag;        /* prison allow.mount.* flag */
614         struct  vfsoptdecl *vfc_opts;   /* mount options */
615         TAILQ_ENTRY(vfsconf) vfc_list;  /* list of vfscons */
616 };
617
618 /* Userland version of the struct vfsconf. */
619 struct xvfsconf {
620         struct  vfsops *vfc_vfsops;     /* filesystem operations vector */
621         char    vfc_name[MFSNAMELEN];   /* filesystem type name */
622         int     vfc_typenum;            /* historic filesystem type number */
623         int     vfc_refcount;           /* number mounted of this type */
624         int     vfc_flags;              /* permanent flags */
625         struct  vfsconf *vfc_next;      /* next in list */
626 };
627
628 #ifndef BURN_BRIDGES
629 struct ovfsconf {
630         void    *vfc_vfsops;
631         char    vfc_name[32];
632         int     vfc_index;
633         int     vfc_refcount;
634         int     vfc_flags;
635 };
636 #endif
637
638 /*
639  * NB: these flags refer to IMPLEMENTATION properties, not properties of
640  * any actual mounts; i.e., it does not make sense to change the flags.
641  */
642 #define VFCF_STATIC     0x00010000      /* statically compiled into kernel */
643 #define VFCF_NETWORK    0x00020000      /* may get data over the network */
644 #define VFCF_READONLY   0x00040000      /* writes are not implemented */
645 #define VFCF_SYNTHETIC  0x00080000      /* data does not represent real files */
646 #define VFCF_LOOPBACK   0x00100000      /* aliases some other mounted FS */
647 #define VFCF_UNICODE    0x00200000      /* stores file names as Unicode */
648 #define VFCF_JAIL       0x00400000      /* can be mounted from within a jail */
649 #define VFCF_DELEGADMIN 0x00800000      /* supports delegated administration */
650 #define VFCF_SBDRY      0x01000000      /* Stop at Boundary: defer stop requests
651                                            to kernel->user (AST) transition */
652
653 typedef uint32_t fsctlop_t;
654
655 struct vfsidctl {
656         int             vc_vers;        /* should be VFSIDCTL_VERS1 (below) */
657         fsid_t          vc_fsid;        /* fsid to operate on */
658         char            vc_fstypename[MFSNAMELEN];
659                                         /* type of fs 'nfs' or '*' */
660         fsctlop_t       vc_op;          /* operation VFS_CTL_* (below) */
661         void            *vc_ptr;        /* pointer to data structure */
662         size_t          vc_len;         /* sizeof said structure */
663         u_int32_t       vc_spare[12];   /* spare (must be zero) */
664 };
665
666 /* vfsidctl API version. */
667 #define VFS_CTL_VERS1   0x01
668
669 /*
670  * New style VFS sysctls, do not reuse/conflict with the namespace for
671  * private sysctls.
672  * All "global" sysctl ops have the 33rd bit set:
673  * 0x...1....
674  * Private sysctl ops should have the 33rd bit unset.
675  */
676 #define VFS_CTL_QUERY   0x00010001      /* anything wrong? (vfsquery) */
677 #define VFS_CTL_TIMEO   0x00010002      /* set timeout for vfs notification */
678 #define VFS_CTL_NOLOCKS 0x00010003      /* disable file locking */
679
680 struct vfsquery {
681         u_int32_t       vq_flags;
682         u_int32_t       vq_spare[31];
683 };
684
685 /* vfsquery flags */
686 #define VQ_NOTRESP      0x0001  /* server down */
687 #define VQ_NEEDAUTH     0x0002  /* server bad auth */
688 #define VQ_LOWDISK      0x0004  /* we're low on space */
689 #define VQ_MOUNT        0x0008  /* new filesystem arrived */
690 #define VQ_UNMOUNT      0x0010  /* filesystem has left */
691 #define VQ_DEAD         0x0020  /* filesystem is dead, needs force unmount */
692 #define VQ_ASSIST       0x0040  /* filesystem needs assistance from external
693                                    program */
694 #define VQ_NOTRESPLOCK  0x0080  /* server lockd down */
695 #define VQ_FLAG0100     0x0100  /* placeholder */
696 #define VQ_FLAG0200     0x0200  /* placeholder */
697 #define VQ_FLAG0400     0x0400  /* placeholder */
698 #define VQ_FLAG0800     0x0800  /* placeholder */
699 #define VQ_FLAG1000     0x1000  /* placeholder */
700 #define VQ_FLAG2000     0x2000  /* placeholder */
701 #define VQ_FLAG4000     0x4000  /* placeholder */
702 #define VQ_FLAG8000     0x8000  /* placeholder */
703
704 #ifdef _KERNEL
705 /* Point a sysctl request at a vfsidctl's data. */
706 #define VCTLTOREQ(vc, req)                                              \
707         do {                                                            \
708                 (req)->newptr = (vc)->vc_ptr;                           \
709                 (req)->newlen = (vc)->vc_len;                           \
710                 (req)->newidx = 0;                                      \
711         } while (0)
712 #endif
713
714 struct iovec;
715 struct uio;
716
717 #ifdef _KERNEL
718
719 /*
720  * vfs_busy specific flags and mask.
721  */
722 #define MBF_NOWAIT      0x01
723 #define MBF_MNTLSTLOCK  0x02
724 #define MBF_MASK        (MBF_NOWAIT | MBF_MNTLSTLOCK)
725
726 #ifdef MALLOC_DECLARE
727 MALLOC_DECLARE(M_MOUNT);
728 MALLOC_DECLARE(M_STATFS);
729 #endif
730 extern int maxvfsconf;          /* highest defined filesystem type */
731
732 TAILQ_HEAD(vfsconfhead, vfsconf);
733 extern struct vfsconfhead vfsconf;
734
735 /*
736  * Operations supported on mounted filesystem.
737  */
738 struct mount_args;
739 struct nameidata;
740 struct sysctl_req;
741 struct mntarg;
742
743 /*
744  * N.B., vfs_cmount is the ancient vfsop invoked by the old mount(2) syscall.
745  * The new way is vfs_mount.
746  *
747  * vfs_cmount implementations typically translate arguments from their
748  * respective old per-FS structures into the key-value list supported by
749  * nmount(2), then use kernel_mount(9) to mimic nmount(2) from kernelspace.
750  *
751  * Filesystems with mounters that use nmount(2) do not need to and should not
752  * implement vfs_cmount.  Hopefully a future cleanup can remove vfs_cmount and
753  * mount(2) entirely.
754  */
755 typedef int vfs_cmount_t(struct mntarg *ma, void *data, uint64_t flags);
756 typedef int vfs_unmount_t(struct mount *mp, int mntflags);
757 typedef int vfs_root_t(struct mount *mp, int flags, struct vnode **vpp);
758 typedef int vfs_quotactl_t(struct mount *mp, int cmds, uid_t uid, void *arg);
759 typedef int vfs_statfs_t(struct mount *mp, struct statfs *sbp);
760 typedef int vfs_sync_t(struct mount *mp, int waitfor);
761 typedef int vfs_vget_t(struct mount *mp, ino_t ino, int flags,
762                     struct vnode **vpp);
763 typedef int vfs_fhtovp_t(struct mount *mp, struct fid *fhp,
764                     int flags, struct vnode **vpp);
765 typedef int vfs_checkexp_t(struct mount *mp, struct sockaddr *nam,
766                     uint64_t *extflagsp, struct ucred **credanonp,
767                     int *numsecflavors, int *secflavors);
768 typedef int vfs_init_t(struct vfsconf *);
769 typedef int vfs_uninit_t(struct vfsconf *);
770 typedef int vfs_extattrctl_t(struct mount *mp, int cmd,
771                     struct vnode *filename_vp, int attrnamespace,
772                     const char *attrname);
773 typedef int vfs_mount_t(struct mount *mp);
774 typedef int vfs_sysctl_t(struct mount *mp, fsctlop_t op,
775                     struct sysctl_req *req);
776 typedef void vfs_susp_clean_t(struct mount *mp);
777 typedef void vfs_notify_lowervp_t(struct mount *mp, struct vnode *lowervp);
778 typedef void vfs_purge_t(struct mount *mp);
779
780 struct vfsops {
781         vfs_mount_t             *vfs_mount;
782         vfs_cmount_t            *vfs_cmount;
783         vfs_unmount_t           *vfs_unmount;
784         vfs_root_t              *vfs_root;
785         vfs_root_t              *vfs_cachedroot;
786         vfs_quotactl_t          *vfs_quotactl;
787         vfs_statfs_t            *vfs_statfs;
788         vfs_sync_t              *vfs_sync;
789         vfs_vget_t              *vfs_vget;
790         vfs_fhtovp_t            *vfs_fhtovp;
791         vfs_checkexp_t          *vfs_checkexp;
792         vfs_init_t              *vfs_init;
793         vfs_uninit_t            *vfs_uninit;
794         vfs_extattrctl_t        *vfs_extattrctl;
795         vfs_sysctl_t            *vfs_sysctl;
796         vfs_susp_clean_t        *vfs_susp_clean;
797         vfs_notify_lowervp_t    *vfs_reclaim_lowervp;
798         vfs_notify_lowervp_t    *vfs_unlink_lowervp;
799         vfs_purge_t             *vfs_purge;
800         vfs_mount_t             *vfs_spare[6];  /* spares for ABI compat */
801 };
802
803 vfs_statfs_t    __vfs_statfs;
804
805 #define VFS_MOUNT(MP) ({                                                \
806         int _rc;                                                        \
807                                                                         \
808         TSRAW(curthread, TS_ENTER, "VFS_MOUNT", (MP)->mnt_vfc->vfc_name);\
809         _rc = (*(MP)->mnt_op->vfs_mount)(MP);                           \
810         TSRAW(curthread, TS_EXIT, "VFS_MOUNT", (MP)->mnt_vfc->vfc_name);\
811         _rc; })
812
813 #define VFS_UNMOUNT(MP, FORCE) ({                                       \
814         int _rc;                                                        \
815                                                                         \
816         _rc = (*(MP)->mnt_op->vfs_unmount)(MP, FORCE);                  \
817         _rc; })
818
819 #define VFS_ROOT(MP, FLAGS, VPP) ({                                     \
820         int _rc;                                                        \
821                                                                         \
822         _rc = (*(MP)->mnt_op->vfs_root)(MP, FLAGS, VPP);                \
823         _rc; })
824
825 #define VFS_CACHEDROOT(MP, FLAGS, VPP) ({                               \
826         int _rc;                                                        \
827                                                                         \
828         _rc = (*(MP)->mnt_op->vfs_cachedroot)(MP, FLAGS, VPP);          \
829         _rc; })
830
831 #define VFS_QUOTACTL(MP, C, U, A) ({                                    \
832         int _rc;                                                        \
833                                                                         \
834         _rc = (*(MP)->mnt_op->vfs_quotactl)(MP, C, U, A);               \
835         _rc; })
836
837 #define VFS_STATFS(MP, SBP) ({                                          \
838         int _rc;                                                        \
839                                                                         \
840         _rc = __vfs_statfs((MP), (SBP));                                \
841         _rc; })
842
843 #define VFS_SYNC(MP, WAIT) ({                                           \
844         int _rc;                                                        \
845                                                                         \
846         _rc = (*(MP)->mnt_op->vfs_sync)(MP, WAIT);                      \
847         _rc; })
848
849 #define VFS_VGET(MP, INO, FLAGS, VPP) ({                                \
850         int _rc;                                                        \
851                                                                         \
852         _rc = (*(MP)->mnt_op->vfs_vget)(MP, INO, FLAGS, VPP);           \
853         _rc; })
854
855 #define VFS_FHTOVP(MP, FIDP, FLAGS, VPP) ({                             \
856         int _rc;                                                        \
857                                                                         \
858         _rc = (*(MP)->mnt_op->vfs_fhtovp)(MP, FIDP, FLAGS, VPP);        \
859         _rc; })
860
861 #define VFS_CHECKEXP(MP, NAM, EXFLG, CRED, NUMSEC, SEC) ({              \
862         int _rc;                                                        \
863                                                                         \
864         _rc = (*(MP)->mnt_op->vfs_checkexp)(MP, NAM, EXFLG, CRED, NUMSEC,\
865             SEC);                                                       \
866         _rc; })
867
868 #define VFS_EXTATTRCTL(MP, C, FN, NS, N) ({                             \
869         int _rc;                                                        \
870                                                                         \
871         _rc = (*(MP)->mnt_op->vfs_extattrctl)(MP, C, FN, NS, N);        \
872         _rc; })
873
874 #define VFS_SYSCTL(MP, OP, REQ) ({                                      \
875         int _rc;                                                        \
876                                                                         \
877         _rc = (*(MP)->mnt_op->vfs_sysctl)(MP, OP, REQ);                 \
878         _rc; })
879
880 #define VFS_SUSP_CLEAN(MP) do {                                         \
881         if (*(MP)->mnt_op->vfs_susp_clean != NULL) {                    \
882                 (*(MP)->mnt_op->vfs_susp_clean)(MP);                    \
883         }                                                               \
884 } while (0)
885
886 #define VFS_RECLAIM_LOWERVP(MP, VP) do {                                \
887         if (*(MP)->mnt_op->vfs_reclaim_lowervp != NULL) {               \
888                 (*(MP)->mnt_op->vfs_reclaim_lowervp)((MP), (VP));       \
889         }                                                               \
890 } while (0)
891
892 #define VFS_UNLINK_LOWERVP(MP, VP) do {                                 \
893         if (*(MP)->mnt_op->vfs_unlink_lowervp != NULL) {                \
894                 (*(MP)->mnt_op->vfs_unlink_lowervp)((MP), (VP));        \
895         }                                                               \
896 } while (0)
897
898 #define VFS_PURGE(MP) do {                                              \
899         if (*(MP)->mnt_op->vfs_purge != NULL) {                         \
900                 (*(MP)->mnt_op->vfs_purge)(MP);                         \
901         }                                                               \
902 } while (0)
903
904 #define VFS_KNOTE_LOCKED(vp, hint) do                                   \
905 {                                                                       \
906         if (((vp)->v_vflag & VV_NOKNOTE) == 0)                          \
907                 VN_KNOTE((vp), (hint), KNF_LISTLOCKED);                 \
908 } while (0)
909
910 #define VFS_KNOTE_UNLOCKED(vp, hint) do                                 \
911 {                                                                       \
912         if (((vp)->v_vflag & VV_NOKNOTE) == 0)                          \
913                 VN_KNOTE((vp), (hint), 0);                              \
914 } while (0)
915
916 #define VFS_NOTIFY_UPPER_RECLAIM        1
917 #define VFS_NOTIFY_UPPER_UNLINK         2
918
919 #include <sys/module.h>
920
921 /*
922  * Version numbers.
923  */
924 #define VFS_VERSION_00  0x19660120
925 #define VFS_VERSION_01  0x20121030
926 #define VFS_VERSION_02  0x20180504
927 #define VFS_VERSION     VFS_VERSION_02
928
929 #define VFS_SET(vfsops, fsname, flags) \
930         static struct vfsconf fsname ## _vfsconf = {            \
931                 .vfc_version = VFS_VERSION,                     \
932                 .vfc_name = #fsname,                            \
933                 .vfc_vfsops = &vfsops,                          \
934                 .vfc_typenum = -1,                              \
935                 .vfc_flags = flags,                             \
936         };                                                      \
937         static moduledata_t fsname ## _mod = {                  \
938                 #fsname,                                        \
939                 vfs_modevent,                                   \
940                 & fsname ## _vfsconf                            \
941         };                                                      \
942         DECLARE_MODULE(fsname, fsname ## _mod, SI_SUB_VFS, SI_ORDER_MIDDLE)
943
944 /*
945  * exported vnode operations
946  */
947
948 int     dounmount(struct mount *, int, struct thread *);
949
950 int     kernel_mount(struct mntarg *ma, uint64_t flags);
951 int     kernel_vmount(int flags, ...);
952 struct mntarg *mount_arg(struct mntarg *ma, const char *name, const void *val, int len);
953 struct mntarg *mount_argb(struct mntarg *ma, int flag, const char *name);
954 struct mntarg *mount_argf(struct mntarg *ma, const char *name, const char *fmt, ...);
955 struct mntarg *mount_argsu(struct mntarg *ma, const char *name, const void *val, int len);
956 void    statfs_scale_blocks(struct statfs *sf, long max_size);
957 struct vfsconf *vfs_byname(const char *);
958 struct vfsconf *vfs_byname_kld(const char *, struct thread *td, int *);
959 void    vfs_mount_destroy(struct mount *);
960 void    vfs_event_signal(fsid_t *, u_int32_t, intptr_t);
961 void    vfs_freeopts(struct vfsoptlist *opts);
962 void    vfs_deleteopt(struct vfsoptlist *opts, const char *name);
963 int     vfs_buildopts(struct uio *auio, struct vfsoptlist **options);
964 int     vfs_flagopt(struct vfsoptlist *opts, const char *name, uint64_t *w,
965             uint64_t val);
966 int     vfs_getopt(struct vfsoptlist *, const char *, void **, int *);
967 int     vfs_getopt_pos(struct vfsoptlist *opts, const char *name);
968 int     vfs_getopt_size(struct vfsoptlist *opts, const char *name,
969             off_t *value);
970 char    *vfs_getopts(struct vfsoptlist *, const char *, int *error);
971 int     vfs_copyopt(struct vfsoptlist *, const char *, void *, int);
972 int     vfs_filteropt(struct vfsoptlist *, const char **legal);
973 void    vfs_opterror(struct vfsoptlist *opts, const char *fmt, ...);
974 int     vfs_scanopt(struct vfsoptlist *opts, const char *name, const char *fmt, ...);
975 int     vfs_setopt(struct vfsoptlist *opts, const char *name, void *value,
976             int len);
977 int     vfs_setopt_part(struct vfsoptlist *opts, const char *name, void *value,
978             int len);
979 int     vfs_setopts(struct vfsoptlist *opts, const char *name,
980             const char *value);
981 int     vfs_setpublicfs                     /* set publicly exported fs */
982             (struct mount *, struct netexport *, struct export_args *);
983 void    vfs_periodic(struct mount *, int);
984 int     vfs_busy(struct mount *, int);
985 int     vfs_export                       /* process mount export info */
986             (struct mount *, struct export_args *);
987 void    vfs_allocate_syncvnode(struct mount *);
988 void    vfs_deallocate_syncvnode(struct mount *);
989 int     vfs_donmount(struct thread *td, uint64_t fsflags,
990             struct uio *fsoptions);
991 void    vfs_getnewfsid(struct mount *);
992 struct cdev *vfs_getrootfsid(struct mount *);
993 struct  mount *vfs_getvfs(fsid_t *);      /* return vfs given fsid */
994 struct  mount *vfs_busyfs(fsid_t *);
995 int     vfs_modevent(module_t, int, void *);
996 void    vfs_mount_error(struct mount *, const char *, ...);
997 void    vfs_mountroot(void);                    /* mount our root filesystem */
998 void    vfs_mountedfrom(struct mount *, const char *from);
999 void    vfs_notify_upper(struct vnode *, int);
1000 void    vfs_ref(struct mount *);
1001 void    vfs_rel(struct mount *);
1002 struct mount *vfs_mount_alloc(struct vnode *, struct vfsconf *, const char *,
1003             struct ucred *);
1004 int     vfs_suser(struct mount *, struct thread *);
1005 void    vfs_unbusy(struct mount *);
1006 void    vfs_unmountall(void);
1007 extern  TAILQ_HEAD(mntlist, mount) mountlist;   /* mounted filesystem list */
1008 extern  struct mtx_padalign mountlist_mtx;
1009 extern  struct nfs_public nfs_pub;
1010 extern  struct sx vfsconf_sx;
1011 #define vfsconf_lock()          sx_xlock(&vfsconf_sx)
1012 #define vfsconf_unlock()        sx_xunlock(&vfsconf_sx)
1013 #define vfsconf_slock()         sx_slock(&vfsconf_sx)
1014 #define vfsconf_sunlock()       sx_sunlock(&vfsconf_sx)
1015 struct vnode *mntfs_allocvp(struct mount *, struct vnode *);
1016 void   mntfs_freevp(struct vnode *);
1017
1018 /*
1019  * Declarations for these vfs default operations are located in
1020  * kern/vfs_default.c.  They will be automatically used to replace
1021  * null entries in VFS ops tables when registering a new filesystem
1022  * type in the global table.
1023  */
1024 vfs_root_t              vfs_stdroot;
1025 vfs_quotactl_t          vfs_stdquotactl;
1026 vfs_statfs_t            vfs_stdstatfs;
1027 vfs_sync_t              vfs_stdsync;
1028 vfs_sync_t              vfs_stdnosync;
1029 vfs_vget_t              vfs_stdvget;
1030 vfs_fhtovp_t            vfs_stdfhtovp;
1031 vfs_checkexp_t          vfs_stdcheckexp;
1032 vfs_init_t              vfs_stdinit;
1033 vfs_uninit_t            vfs_stduninit;
1034 vfs_extattrctl_t        vfs_stdextattrctl;
1035 vfs_sysctl_t            vfs_stdsysctl;
1036
1037 void    syncer_suspend(void);
1038 void    syncer_resume(void);
1039
1040 struct vnode *vfs_cache_root_clear(struct mount *);
1041 void    vfs_cache_root_set(struct mount *, struct vnode *);
1042
1043 void    vfs_op_barrier_wait(struct mount *);
1044 void    vfs_op_enter(struct mount *);
1045 void    vfs_op_exit_locked(struct mount *);
1046 void    vfs_op_exit(struct mount *);
1047
1048 #ifdef DIAGNOSTIC
1049 void    vfs_assert_mount_counters(struct mount *);
1050 void    vfs_dump_mount_counters(struct mount *);
1051 #else
1052 #define vfs_assert_mount_counters(mp) do { } while (0)
1053 #define vfs_dump_mount_counters(mp) do { } while (0)
1054 #endif
1055
1056 enum mount_counter { MNT_COUNT_REF, MNT_COUNT_LOCKREF, MNT_COUNT_WRITEOPCOUNT };
1057 int     vfs_mount_fetch_counter(struct mount *, enum mount_counter);
1058
1059 void suspend_all_fs(void);
1060 void resume_all_fs(void);
1061
1062 /*
1063  * Code transitioning mnt_vfs_ops to > 0 issues IPIs until it observes
1064  * all CPUs not executing code enclosed by thread_in_ops_pcpu variable.
1065  *
1066  * This provides an invariant that by the time the last CPU is observed not
1067  * executing, everyone else entering will see the counter > 0 and exit.
1068  *
1069  * Note there is no barrier between vfs_ops and the rest of the code in the
1070  * section. It is not necessary as the writer has to wait for everyone to drain
1071  * before making any changes or only make changes safe while the section is
1072  * executed.
1073  */
1074 #define vfs_mount_pcpu(mp)              zpcpu_get(mp->mnt_pcpu)
1075 #define vfs_mount_pcpu_remote(mp, cpu)  zpcpu_get_cpu(mp->mnt_pcpu, cpu)
1076
1077 #define vfs_op_thread_entered(mp) ({                            \
1078         MPASS(curthread->td_critnest > 0);                      \
1079         struct mount_pcpu *_mpcpu = vfs_mount_pcpu(mp);         \
1080         _mpcpu->mntp_thread_in_ops == 1;                        \
1081 })
1082
1083 #define vfs_op_thread_enter_crit(mp, _mpcpu) ({                 \
1084         bool _retval_crit = true;                               \
1085         MPASS(curthread->td_critnest > 0);                      \
1086         _mpcpu = vfs_mount_pcpu(mp);                            \
1087         MPASS(mpcpu->mntp_thread_in_ops == 0);                  \
1088         _mpcpu->mntp_thread_in_ops = 1;                         \
1089         __compiler_membar();                                    \
1090         if (__predict_false(mp->mnt_vfs_ops > 0)) {             \
1091                 vfs_op_thread_exit_crit(mp, _mpcpu);            \
1092                 _retval_crit = false;                           \
1093         }                                                       \
1094         _retval_crit;                                           \
1095 })
1096
1097 #define vfs_op_thread_enter(mp, _mpcpu) ({                      \
1098         bool _retval;                                           \
1099         critical_enter();                                       \
1100         _retval = vfs_op_thread_enter_crit(mp, _mpcpu);         \
1101         if (__predict_false(!_retval))                          \
1102                 critical_exit();                                \
1103         _retval;                                                \
1104 })
1105
1106 #define vfs_op_thread_exit_crit(mp, _mpcpu) do {                \
1107         MPASS(_mpcpu == vfs_mount_pcpu(mp));                    \
1108         MPASS(_mpcpu->mntp_thread_in_ops == 1);                 \
1109         __compiler_membar();                                    \
1110         _mpcpu->mntp_thread_in_ops = 0;                         \
1111 } while (0)
1112
1113 #define vfs_op_thread_exit(mp, _mpcpu) do {                     \
1114         vfs_op_thread_exit_crit(mp, _mpcpu);                    \
1115         critical_exit();                                        \
1116 } while (0)
1117
1118 #define vfs_mp_count_add_pcpu(_mpcpu, count, val) do {          \
1119         MPASS(_mpcpu->mntp_thread_in_ops == 1);                 \
1120         _mpcpu->mntp_##count += val;                            \
1121 } while (0)
1122
1123 #define vfs_mp_count_sub_pcpu(_mpcpu, count, val) do {          \
1124         MPASS(_mpcpu->mntp_thread_in_ops == 1);                 \
1125         _mpcpu->mntp_##count -= val;                            \
1126 } while (0)
1127
1128 #else /* !_KERNEL */
1129
1130 #include <sys/cdefs.h>
1131
1132 struct stat;
1133
1134 __BEGIN_DECLS
1135 int     fhlink(struct fhandle *, const char *);
1136 int     fhlinkat(struct fhandle *, int, const char *);
1137 int     fhopen(const struct fhandle *, int);
1138 int     fhreadlink(struct fhandle *, char *, size_t);
1139 int     fhstat(const struct fhandle *, struct stat *);
1140 int     fhstatfs(const struct fhandle *, struct statfs *);
1141 int     fstatfs(int, struct statfs *);
1142 int     getfh(const char *, fhandle_t *);
1143 int     getfhat(int, char *, struct fhandle *, int);
1144 int     getfsstat(struct statfs *, long, int);
1145 int     getmntinfo(struct statfs **, int);
1146 int     lgetfh(const char *, fhandle_t *);
1147 int     mount(const char *, const char *, int, void *);
1148 int     nmount(struct iovec *, unsigned int, int);
1149 int     statfs(const char *, struct statfs *);
1150 int     unmount(const char *, int);
1151
1152 /* C library stuff */
1153 int     getvfsbyname(const char *, struct xvfsconf *);
1154 __END_DECLS
1155
1156 #endif /* _KERNEL */
1157
1158 #endif /* !_SYS_MOUNT_H_ */