]> CyberLeo.Net >> Repos - FreeBSD/FreeBSD.git/blob - sys/fs/fuse/fuse_vnops.c
fusefs: raise protocol level to 7.12
[FreeBSD/FreeBSD.git] / sys / fs / fuse / fuse_vnops.c
1 /*-
2  * SPDX-License-Identifier: BSD-3-Clause
3  *
4  * Copyright (c) 2007-2009 Google Inc. and Amit Singh
5  * All rights reserved.
6  *
7  * Redistribution and use in source and binary forms, with or without
8  * modification, are permitted provided that the following conditions are
9  * met:
10  *
11  * * Redistributions of source code must retain the above copyright
12  *   notice, this list of conditions and the following disclaimer.
13  * * Redistributions in binary form must reproduce the above
14  *   copyright notice, this list of conditions and the following disclaimer
15  *   in the documentation and/or other materials provided with the
16  *   distribution.
17  * * Neither the name of Google Inc. nor the names of its
18  *   contributors may be used to endorse or promote products derived from
19  *   this software without specific prior written permission.
20  *
21  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
22  * "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
23  * LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
24  * A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
25  * OWNER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
26  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
27  * LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
28  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
29  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
30  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
31  * OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
32  *
33  * Copyright (C) 2005 Csaba Henk.
34  * All rights reserved.
35  *
36  * Redistribution and use in source and binary forms, with or without
37  * modification, are permitted provided that the following conditions
38  * are met:
39  * 1. Redistributions of source code must retain the above copyright
40  *    notice, this list of conditions and the following disclaimer.
41  * 2. Redistributions in binary form must reproduce the above copyright
42  *    notice, this list of conditions and the following disclaimer in the
43  *    documentation and/or other materials provided with the distribution.
44  *
45  * THIS SOFTWARE IS PROVIDED BY AUTHOR AND CONTRIBUTORS ``AS IS'' AND
46  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
47  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
48  * ARE DISCLAIMED.  IN NO EVENT SHALL AUTHOR OR CONTRIBUTORS BE LIABLE
49  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
50  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
51  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
52  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
53  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
54  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
55  * SUCH DAMAGE.
56  */
57
58 #include <sys/cdefs.h>
59 __FBSDID("$FreeBSD$");
60
61 #include <sys/param.h>
62 #include <sys/module.h>
63 #include <sys/systm.h>
64 #include <sys/errno.h>
65 #include <sys/kernel.h>
66 #include <sys/conf.h>
67 #include <sys/uio.h>
68 #include <sys/malloc.h>
69 #include <sys/queue.h>
70 #include <sys/lock.h>
71 #include <sys/rwlock.h>
72 #include <sys/sx.h>
73 #include <sys/proc.h>
74 #include <sys/mount.h>
75 #include <sys/vnode.h>
76 #include <sys/namei.h>
77 #include <sys/extattr.h>
78 #include <sys/stat.h>
79 #include <sys/unistd.h>
80 #include <sys/filedesc.h>
81 #include <sys/file.h>
82 #include <sys/fcntl.h>
83 #include <sys/dirent.h>
84 #include <sys/bio.h>
85 #include <sys/buf.h>
86 #include <sys/sysctl.h>
87 #include <sys/vmmeter.h>
88
89 #include <vm/vm.h>
90 #include <vm/vm_extern.h>
91 #include <vm/pmap.h>
92 #include <vm/vm_map.h>
93 #include <vm/vm_page.h>
94 #include <vm/vm_param.h>
95 #include <vm/vm_object.h>
96 #include <vm/vm_pager.h>
97 #include <vm/vnode_pager.h>
98 #include <vm/vm_object.h>
99
100 #include "fuse.h"
101 #include "fuse_file.h"
102 #include "fuse_internal.h"
103 #include "fuse_ipc.h"
104 #include "fuse_node.h"
105 #include "fuse_io.h"
106
107 #include <sys/priv.h>
108
109 /* Maximum number of hardlinks to a single FUSE file */
110 #define FUSE_LINK_MAX                      UINT32_MAX
111
112 SDT_PROVIDER_DECLARE(fusefs);
113 /* 
114  * Fuse trace probe:
115  * arg0: verbosity.  Higher numbers give more verbose messages
116  * arg1: Textual message
117  */
118 SDT_PROBE_DEFINE2(fusefs, , vnops, trace, "int", "char*");
119
120 /* vnode ops */
121 static vop_access_t fuse_vnop_access;
122 static vop_advlock_t fuse_vnop_advlock;
123 static vop_close_t fuse_fifo_close;
124 static vop_close_t fuse_vnop_close;
125 static vop_create_t fuse_vnop_create;
126 static vop_deleteextattr_t fuse_vnop_deleteextattr;
127 static vop_fdatasync_t fuse_vnop_fdatasync;
128 static vop_fsync_t fuse_vnop_fsync;
129 static vop_getattr_t fuse_vnop_getattr;
130 static vop_getextattr_t fuse_vnop_getextattr;
131 static vop_inactive_t fuse_vnop_inactive;
132 static vop_link_t fuse_vnop_link;
133 static vop_listextattr_t fuse_vnop_listextattr;
134 static vop_lookup_t fuse_vnop_lookup;
135 static vop_mkdir_t fuse_vnop_mkdir;
136 static vop_mknod_t fuse_vnop_mknod;
137 static vop_open_t fuse_vnop_open;
138 static vop_pathconf_t fuse_vnop_pathconf;
139 static vop_read_t fuse_vnop_read;
140 static vop_readdir_t fuse_vnop_readdir;
141 static vop_readlink_t fuse_vnop_readlink;
142 static vop_reclaim_t fuse_vnop_reclaim;
143 static vop_remove_t fuse_vnop_remove;
144 static vop_rename_t fuse_vnop_rename;
145 static vop_rmdir_t fuse_vnop_rmdir;
146 static vop_setattr_t fuse_vnop_setattr;
147 static vop_setextattr_t fuse_vnop_setextattr;
148 static vop_strategy_t fuse_vnop_strategy;
149 static vop_symlink_t fuse_vnop_symlink;
150 static vop_write_t fuse_vnop_write;
151 static vop_getpages_t fuse_vnop_getpages;
152 static vop_putpages_t fuse_vnop_putpages;
153 static vop_print_t fuse_vnop_print;
154 static vop_vptofh_t fuse_vnop_vptofh;
155
156 struct vop_vector fuse_fifoops = {
157         .vop_default =          &fifo_specops,
158         .vop_access =           fuse_vnop_access,
159         .vop_close =            fuse_fifo_close,
160         .vop_fsync =            fuse_vnop_fsync,
161         .vop_getattr =          fuse_vnop_getattr,
162         .vop_inactive =         fuse_vnop_inactive,
163         .vop_pathconf =         fuse_vnop_pathconf,
164         .vop_print =            fuse_vnop_print,
165         .vop_read =             VOP_PANIC,
166         .vop_reclaim =          fuse_vnop_reclaim,
167         .vop_setattr =          fuse_vnop_setattr,
168         .vop_write =            VOP_PANIC,
169         .vop_vptofh =           fuse_vnop_vptofh,
170 };
171
172 struct vop_vector fuse_vnops = {
173         .vop_allocate = VOP_EINVAL,
174         .vop_default = &default_vnodeops,
175         .vop_access = fuse_vnop_access,
176         .vop_advlock = fuse_vnop_advlock,
177         .vop_close = fuse_vnop_close,
178         .vop_create = fuse_vnop_create,
179         .vop_deleteextattr = fuse_vnop_deleteextattr,
180         .vop_fsync = fuse_vnop_fsync,
181         .vop_fdatasync = fuse_vnop_fdatasync,
182         .vop_getattr = fuse_vnop_getattr,
183         .vop_getextattr = fuse_vnop_getextattr,
184         .vop_inactive = fuse_vnop_inactive,
185         /*
186          * TODO: implement vop_ioctl after upgrading to protocol 7.16.
187          * FUSE_IOCTL was added in 7.11, but 32-bit compat is broken until
188          * 7.16.
189          */
190         .vop_link = fuse_vnop_link,
191         .vop_listextattr = fuse_vnop_listextattr,
192         .vop_lookup = fuse_vnop_lookup,
193         .vop_mkdir = fuse_vnop_mkdir,
194         .vop_mknod = fuse_vnop_mknod,
195         .vop_open = fuse_vnop_open,
196         .vop_pathconf = fuse_vnop_pathconf,
197         /*
198          * TODO: implement vop_poll after upgrading to protocol 7.21.
199          * FUSE_POLL was added in protocol 7.11, but it's kind of broken until
200          * 7.21, which adds the ability for the client to choose which poll
201          * events it wants, and for a client to deregister a file handle
202          */
203         .vop_read = fuse_vnop_read,
204         .vop_readdir = fuse_vnop_readdir,
205         .vop_readlink = fuse_vnop_readlink,
206         .vop_reclaim = fuse_vnop_reclaim,
207         .vop_remove = fuse_vnop_remove,
208         .vop_rename = fuse_vnop_rename,
209         .vop_rmdir = fuse_vnop_rmdir,
210         .vop_setattr = fuse_vnop_setattr,
211         .vop_setextattr = fuse_vnop_setextattr,
212         .vop_strategy = fuse_vnop_strategy,
213         .vop_symlink = fuse_vnop_symlink,
214         .vop_write = fuse_vnop_write,
215         .vop_getpages = fuse_vnop_getpages,
216         .vop_putpages = fuse_vnop_putpages,
217         .vop_print = fuse_vnop_print,
218         .vop_vptofh = fuse_vnop_vptofh,
219 };
220
221 static u_long fuse_lookup_cache_hits = 0;
222
223 SYSCTL_ULONG(_vfs_fusefs, OID_AUTO, lookup_cache_hits, CTLFLAG_RD,
224     &fuse_lookup_cache_hits, 0, "number of positive cache hits in lookup");
225
226 static u_long fuse_lookup_cache_misses = 0;
227
228 SYSCTL_ULONG(_vfs_fusefs, OID_AUTO, lookup_cache_misses, CTLFLAG_RD,
229     &fuse_lookup_cache_misses, 0, "number of cache misses in lookup");
230
231 /*
232  * XXX: This feature is highly experimental and can bring to instabilities,
233  * needs revisiting before to be enabled by default.
234  */
235 static int fuse_reclaim_revoked = 0;
236
237 SYSCTL_INT(_vfs_fusefs, OID_AUTO, reclaim_revoked, CTLFLAG_RW,
238     &fuse_reclaim_revoked, 0, "");
239
240 uma_zone_t fuse_pbuf_zone;
241
242 #define fuse_vm_page_lock(m)            vm_page_lock((m));
243 #define fuse_vm_page_unlock(m)          vm_page_unlock((m));
244 #define fuse_vm_page_lock_queues()      ((void)0)
245 #define fuse_vm_page_unlock_queues()    ((void)0)
246
247 /* Check permission for extattr operations, much like extattr_check_cred */
248 static int
249 fuse_extattr_check_cred(struct vnode *vp, int ns, struct ucred *cred,
250         struct thread *td, accmode_t accmode)
251 {
252         struct mount *mp = vnode_mount(vp);
253         struct fuse_data *data = fuse_get_mpdata(mp);
254
255         /*
256          * Kernel-invoked always succeeds.
257          */
258         if (cred == NOCRED)
259                 return (0);
260
261         /*
262          * Do not allow privileged processes in jail to directly manipulate
263          * system attributes.
264          */
265         switch (ns) {
266         case EXTATTR_NAMESPACE_SYSTEM:
267                 if (data->dataflags & FSESS_DEFAULT_PERMISSIONS) {
268                         return (priv_check_cred(cred, PRIV_VFS_EXTATTR_SYSTEM));
269                 }
270                 /* FALLTHROUGH */
271         case EXTATTR_NAMESPACE_USER:
272                 return (fuse_internal_access(vp, accmode, td, cred));
273         default:
274                 return (EPERM);
275         }
276 }
277
278 /* Get a filehandle for a directory */
279 static int
280 fuse_filehandle_get_dir(struct vnode *vp, struct fuse_filehandle **fufhp,
281         struct ucred *cred, pid_t pid)
282 {
283         if (fuse_filehandle_get(vp, FREAD, fufhp, cred, pid) == 0)
284                 return 0;
285         return fuse_filehandle_get(vp, FEXEC, fufhp, cred, pid);
286 }
287
288 /* Send FUSE_FLUSH for this vnode */
289 static int
290 fuse_flush(struct vnode *vp, struct ucred *cred, pid_t pid, int fflag)
291 {
292         struct fuse_flush_in *ffi;
293         struct fuse_filehandle *fufh;
294         struct fuse_dispatcher fdi;
295         struct thread *td = curthread;
296         struct mount *mp = vnode_mount(vp);
297         int err;
298
299         if (!fsess_isimpl(vnode_mount(vp), FUSE_FLUSH))
300                 return 0;
301
302         err = fuse_filehandle_getrw(vp, fflag, &fufh, cred, pid);
303         if (err)
304                 return err;
305
306         fdisp_init(&fdi, sizeof(*ffi));
307         fdisp_make_vp(&fdi, FUSE_FLUSH, vp, td, cred);
308         ffi = fdi.indata;
309         ffi->fh = fufh->fh_id;
310         /* 
311          * If the file has a POSIX lock then we're supposed to set lock_owner.
312          * If not, then lock_owner is undefined.  So we may as well always set
313          * it.
314          */
315         ffi->lock_owner = td->td_proc->p_pid;
316
317         err = fdisp_wait_answ(&fdi);
318         if (err == ENOSYS) {
319                 fsess_set_notimpl(mp, FUSE_FLUSH);
320                 err = 0;
321         }
322         fdisp_destroy(&fdi);
323         return err;
324 }
325
326 /* Close wrapper for fifos.  */
327 static int
328 fuse_fifo_close(struct vop_close_args *ap)
329 {
330         return (fifo_specops.vop_close(ap));
331 }
332
333 /*
334     struct vnop_access_args {
335         struct vnode *a_vp;
336 #if VOP_ACCESS_TAKES_ACCMODE_T
337         accmode_t a_accmode;
338 #else
339         int a_mode;
340 #endif
341         struct ucred *a_cred;
342         struct thread *a_td;
343     };
344 */
345 static int
346 fuse_vnop_access(struct vop_access_args *ap)
347 {
348         struct vnode *vp = ap->a_vp;
349         int accmode = ap->a_accmode;
350         struct ucred *cred = ap->a_cred;
351
352         struct fuse_data *data = fuse_get_mpdata(vnode_mount(vp));
353
354         int err;
355
356         if (fuse_isdeadfs(vp)) {
357                 if (vnode_isvroot(vp)) {
358                         return 0;
359                 }
360                 return ENXIO;
361         }
362         if (!(data->dataflags & FSESS_INITED)) {
363                 if (vnode_isvroot(vp)) {
364                         if (priv_check_cred(cred, PRIV_VFS_ADMIN) ||
365                             (fuse_match_cred(data->daemoncred, cred) == 0)) {
366                                 return 0;
367                         }
368                 }
369                 return EBADF;
370         }
371         if (vnode_islnk(vp)) {
372                 return 0;
373         }
374
375         err = fuse_internal_access(vp, accmode, ap->a_td, ap->a_cred);
376         return err;
377 }
378
379 /*
380  * struct vop_advlock_args {
381  *      struct vop_generic_args a_gen;
382  *      struct vnode *a_vp;
383  *      void *a_id;
384  *      int a_op;
385  *      struct flock *a_fl;
386  *      int a_flags;
387  * }
388  */
389 static int
390 fuse_vnop_advlock(struct vop_advlock_args *ap)
391 {
392         struct vnode *vp = ap->a_vp;
393         struct flock *fl = ap->a_fl;
394         struct thread *td = curthread;
395         struct ucred *cred = td->td_ucred;
396         pid_t pid = td->td_proc->p_pid;
397         struct fuse_filehandle *fufh;
398         struct fuse_dispatcher fdi;
399         struct fuse_lk_in *fli;
400         struct fuse_lk_out *flo;
401         enum fuse_opcode op;
402         int dataflags, err;
403         int flags = ap->a_flags;
404
405         dataflags = fuse_get_mpdata(vnode_mount(vp))->dataflags;
406
407         if (fuse_isdeadfs(vp)) {
408                 return ENXIO;
409         }
410
411         if (!(dataflags & FSESS_POSIX_LOCKS))
412                 return vop_stdadvlock(ap);
413         /* FUSE doesn't properly support flock until protocol 7.17 */
414         if (flags & F_FLOCK)
415                 return vop_stdadvlock(ap);
416
417         err = fuse_filehandle_get_anyflags(vp, &fufh, cred, pid);
418         if (err)
419                 return err;
420
421         fdisp_init(&fdi, sizeof(*fli));
422
423         switch(ap->a_op) {
424         case F_GETLK:
425                 op = FUSE_GETLK;
426                 break;
427         case F_SETLK:
428                 op = FUSE_SETLK;
429                 break;
430         case F_SETLKW:
431                 op = FUSE_SETLKW;
432                 break;
433         default:
434                 return EINVAL;
435         }
436
437         fdisp_make_vp(&fdi, op, vp, td, cred);
438         fli = fdi.indata;
439         fli->fh = fufh->fh_id;
440         fli->owner = fl->l_pid;
441         fli->lk.start = fl->l_start;
442         if (fl->l_len != 0)
443                 fli->lk.end = fl->l_start + fl->l_len - 1;
444         else
445                 fli->lk.end = INT64_MAX;
446         fli->lk.type = fl->l_type;
447         fli->lk.pid = fl->l_pid;
448
449         err = fdisp_wait_answ(&fdi);
450         fdisp_destroy(&fdi);
451
452         if (err == 0 && op == FUSE_GETLK) {
453                 flo = fdi.answ;
454                 fl->l_type = flo->lk.type;
455                 fl->l_pid = flo->lk.pid;
456                 if (flo->lk.type != F_UNLCK) {
457                         fl->l_start = flo->lk.start;
458                         if (flo->lk.end == INT64_MAX)
459                                 fl->l_len = 0;
460                         else
461                                 fl->l_len = flo->lk.end - flo->lk.start + 1;
462                         fl->l_start = flo->lk.start;
463                 }
464         }
465
466         return err;
467 }
468
469 /*
470     struct vop_close_args {
471         struct vnode *a_vp;
472         int  a_fflag;
473         struct ucred *a_cred;
474         struct thread *a_td;
475     };
476 */
477 static int
478 fuse_vnop_close(struct vop_close_args *ap)
479 {
480         struct vnode *vp = ap->a_vp;
481         struct ucred *cred = ap->a_cred;
482         int fflag = ap->a_fflag;
483         struct thread *td = ap->a_td;
484         pid_t pid = td->td_proc->p_pid;
485         int err = 0;
486
487         if (fuse_isdeadfs(vp))
488                 return 0;
489         if (vnode_isdir(vp))
490                 return 0;
491         if (fflag & IO_NDELAY)
492                 return 0;
493
494         err = fuse_flush(vp, cred, pid, fflag);
495         /* TODO: close the file handle, if we're sure it's no longer used */
496         if ((VTOFUD(vp)->flag & FN_SIZECHANGE) != 0) {
497                 fuse_vnode_savesize(vp, cred, td->td_proc->p_pid);
498         }
499         return err;
500 }
501
502 static void
503 fdisp_make_mknod_for_fallback(
504         struct fuse_dispatcher *fdip,
505         struct componentname *cnp,
506         struct vnode *dvp,
507         uint64_t parentnid,
508         struct thread *td,
509         struct ucred *cred,
510         mode_t mode,
511         enum fuse_opcode *op)
512 {
513         struct fuse_mknod_in *fmni;
514
515         fdisp_init(fdip, sizeof(*fmni) + cnp->cn_namelen + 1);
516         *op = FUSE_MKNOD;
517         fdisp_make(fdip, *op, vnode_mount(dvp), parentnid, td, cred);
518         fmni = fdip->indata;
519         fmni->mode = mode;
520         fmni->rdev = 0;
521         memcpy((char *)fdip->indata + sizeof(*fmni), cnp->cn_nameptr,
522             cnp->cn_namelen);
523         ((char *)fdip->indata)[sizeof(*fmni) + cnp->cn_namelen] = '\0';
524 }
525 /*
526     struct vnop_create_args {
527         struct vnode *a_dvp;
528         struct vnode **a_vpp;
529         struct componentname *a_cnp;
530         struct vattr *a_vap;
531     };
532 */
533 static int
534 fuse_vnop_create(struct vop_create_args *ap)
535 {
536         struct vnode *dvp = ap->a_dvp;
537         struct vnode **vpp = ap->a_vpp;
538         struct componentname *cnp = ap->a_cnp;
539         struct vattr *vap = ap->a_vap;
540         struct thread *td = cnp->cn_thread;
541         struct ucred *cred = cnp->cn_cred;
542
543         struct fuse_data *data;
544         struct fuse_create_in *fci;
545         struct fuse_entry_out *feo;
546         struct fuse_open_out *foo;
547         struct fuse_dispatcher fdi, fdi2;
548         struct fuse_dispatcher *fdip = &fdi;
549         struct fuse_dispatcher *fdip2 = NULL;
550
551         int err;
552
553         struct mount *mp = vnode_mount(dvp);
554         data = fuse_get_mpdata(mp);
555         uint64_t parentnid = VTOFUD(dvp)->nid;
556         mode_t mode = MAKEIMODE(vap->va_type, vap->va_mode);
557         enum fuse_opcode op;
558         int flags;
559
560         if (fuse_isdeadfs(dvp))
561                 return ENXIO;
562
563         /* FUSE expects sockets to be created with FUSE_MKNOD */
564         if (vap->va_type == VSOCK)
565                 return fuse_internal_mknod(dvp, vpp, cnp, vap);
566
567         /* 
568          * VOP_CREATE doesn't tell us the open(2) flags, so we guess.  Only a
569          * writable mode makes sense, and we might as well include readability
570          * too.
571          */
572         flags = O_RDWR;
573
574         bzero(&fdi, sizeof(fdi));
575
576         if (vap->va_type != VREG)
577                 return (EINVAL);
578
579         if (!fsess_isimpl(mp, FUSE_CREATE) || vap->va_type == VSOCK) {
580                 /* Fallback to FUSE_MKNOD/FUSE_OPEN */
581                 fdisp_make_mknod_for_fallback(fdip, cnp, dvp, parentnid, td,
582                         cred, mode, &op);
583         } else {
584                 /* Use FUSE_CREATE */
585                 size_t insize;
586
587                 op = FUSE_CREATE;
588                 fdisp_init(fdip, sizeof(*fci) + cnp->cn_namelen + 1);
589                 fdisp_make(fdip, op, vnode_mount(dvp), parentnid, td, cred);
590                 fci = fdip->indata;
591                 fci->mode = mode;
592                 fci->flags = O_CREAT | flags;
593                 if (fuse_libabi_geq(data, 7, 12)) {
594                         insize = sizeof(*fci);
595                         fci->umask = td->td_proc->p_fd->fd_cmask;
596                 } else {
597                         insize = sizeof(struct fuse_open_in);
598                 }
599
600                 memcpy((char *)fdip->indata + insize, cnp->cn_nameptr,
601                     cnp->cn_namelen);
602                 ((char *)fdip->indata)[insize + cnp->cn_namelen] = '\0';
603         }
604
605         err = fdisp_wait_answ(fdip);
606
607         if (err) {
608                 if (err == ENOSYS && op == FUSE_CREATE) {
609                         fsess_set_notimpl(mp, FUSE_CREATE);
610                         fdisp_make_mknod_for_fallback(fdip, cnp, dvp,
611                                 parentnid, td, cred, mode, &op);
612                         err = fdisp_wait_answ(fdip);
613                 }
614                 if (err)
615                         goto out;
616         }
617
618         feo = fdip->answ;
619
620         if ((err = fuse_internal_checkentry(feo, vap->va_type))) {
621                 goto out;
622         }
623
624         if (op == FUSE_CREATE) {
625                 foo = (struct fuse_open_out*)(feo + 1);
626         } else {
627                 /* Issue a separate FUSE_OPEN */
628                 struct fuse_open_in *foi;
629
630                 fdip2 = &fdi2;
631                 fdisp_init(fdip2, sizeof(*foi));
632                 fdisp_make(fdip2, FUSE_OPEN, vnode_mount(dvp), feo->nodeid, td,
633                         cred);
634                 foi = fdip2->indata;
635                 foi->flags = flags;
636                 err = fdisp_wait_answ(fdip2);
637                 if (err)
638                         goto out;
639                 foo = fdip2->answ;
640         }
641         err = fuse_vnode_get(mp, feo, feo->nodeid, dvp, vpp, cnp, vap->va_type);
642         if (err) {
643                 struct fuse_release_in *fri;
644                 uint64_t nodeid = feo->nodeid;
645                 uint64_t fh_id = foo->fh;
646
647                 fdisp_init(fdip, sizeof(*fri));
648                 fdisp_make(fdip, FUSE_RELEASE, mp, nodeid, td, cred);
649                 fri = fdip->indata;
650                 fri->fh = fh_id;
651                 fri->flags = flags;
652                 fuse_insert_callback(fdip->tick, fuse_internal_forget_callback);
653                 fuse_insert_message(fdip->tick, false);
654                 goto out;
655         }
656         ASSERT_VOP_ELOCKED(*vpp, "fuse_vnop_create");
657         fuse_internal_cache_attrs(*vpp, cred, &feo->attr, feo->attr_valid,
658                 feo->attr_valid_nsec, NULL);
659
660         fuse_filehandle_init(*vpp, FUFH_RDWR, NULL, td, cred, foo);
661         fuse_vnode_open(*vpp, foo->open_flags, td);
662         /* 
663          * Purge the parent's attribute cache because the daemon should've
664          * updated its mtime and ctime
665          */
666         fuse_vnode_clear_attr_cache(dvp);
667         cache_purge_negative(dvp);
668
669 out:
670         if (fdip2)
671                 fdisp_destroy(fdip2);
672         fdisp_destroy(fdip);
673         return err;
674 }
675
676 /*
677     struct vnop_fdatasync_args {
678         struct vop_generic_args a_gen;
679         struct vnode * a_vp;
680         struct thread * a_td;
681     };
682 */
683 static int
684 fuse_vnop_fdatasync(struct vop_fdatasync_args *ap)
685 {
686         struct vnode *vp = ap->a_vp;
687         struct thread *td = ap->a_td;
688         int waitfor = MNT_WAIT;
689
690         int err = 0;
691
692         if (fuse_isdeadfs(vp)) {
693                 return 0;
694         }
695         if ((err = vop_stdfdatasync_buf(ap)))
696                 return err;
697
698         return fuse_internal_fsync(vp, td, waitfor, true);
699 }
700
701 /*
702     struct vnop_fsync_args {
703         struct vop_generic_args a_gen;
704         struct vnode * a_vp;
705         int  a_waitfor;
706         struct thread * a_td;
707     };
708 */
709 static int
710 fuse_vnop_fsync(struct vop_fsync_args *ap)
711 {
712         struct vnode *vp = ap->a_vp;
713         struct thread *td = ap->a_td;
714         int waitfor = ap->a_waitfor;
715         int err = 0;
716
717         if (fuse_isdeadfs(vp)) {
718                 return 0;
719         }
720         if ((err = vop_stdfsync(ap)))
721                 return err;
722
723         return fuse_internal_fsync(vp, td, waitfor, false);
724 }
725
726 /*
727     struct vnop_getattr_args {
728         struct vnode *a_vp;
729         struct vattr *a_vap;
730         struct ucred *a_cred;
731         struct thread *a_td;
732     };
733 */
734 static int
735 fuse_vnop_getattr(struct vop_getattr_args *ap)
736 {
737         struct vnode *vp = ap->a_vp;
738         struct vattr *vap = ap->a_vap;
739         struct ucred *cred = ap->a_cred;
740         struct thread *td = curthread;
741
742         int err = 0;
743         int dataflags;
744
745         dataflags = fuse_get_mpdata(vnode_mount(vp))->dataflags;
746
747         /* Note that we are not bailing out on a dead file system just yet. */
748
749         if (!(dataflags & FSESS_INITED)) {
750                 if (!vnode_isvroot(vp)) {
751                         fdata_set_dead(fuse_get_mpdata(vnode_mount(vp)));
752                         err = ENOTCONN;
753                         return err;
754                 } else {
755                         goto fake;
756                 }
757         }
758         err = fuse_internal_getattr(vp, vap, cred, td);
759         if (err == ENOTCONN && vnode_isvroot(vp)) {
760                 /* see comment in fuse_vfsop_statfs() */
761                 goto fake;
762         } else {
763                 return err;
764         }
765
766 fake:
767         bzero(vap, sizeof(*vap));
768         vap->va_type = vnode_vtype(vp);
769
770         return 0;
771 }
772
773 /*
774     struct vnop_inactive_args {
775         struct vnode *a_vp;
776         struct thread *a_td;
777     };
778 */
779 static int
780 fuse_vnop_inactive(struct vop_inactive_args *ap)
781 {
782         struct vnode *vp = ap->a_vp;
783         struct thread *td = ap->a_td;
784
785         struct fuse_vnode_data *fvdat = VTOFUD(vp);
786         struct fuse_filehandle *fufh, *fufh_tmp;
787
788         int need_flush = 1;
789
790         LIST_FOREACH_SAFE(fufh, &fvdat->handles, next, fufh_tmp) {
791                 if (need_flush && vp->v_type == VREG) {
792                         if ((VTOFUD(vp)->flag & FN_SIZECHANGE) != 0) {
793                                 fuse_vnode_savesize(vp, NULL, 0);
794                         }
795                         if ((fvdat->flag & FN_REVOKED) != 0)
796                                 fuse_io_invalbuf(vp, td);
797                         else
798                                 fuse_io_flushbuf(vp, MNT_WAIT, td);
799                         need_flush = 0;
800                 }
801                 fuse_filehandle_close(vp, fufh, td, NULL);
802         }
803
804         if ((fvdat->flag & FN_REVOKED) != 0 && fuse_reclaim_revoked) {
805                 vrecycle(vp);
806         }
807         return 0;
808 }
809
810 /*
811     struct vnop_link_args {
812         struct vnode *a_tdvp;
813         struct vnode *a_vp;
814         struct componentname *a_cnp;
815     };
816 */
817 static int
818 fuse_vnop_link(struct vop_link_args *ap)
819 {
820         struct vnode *vp = ap->a_vp;
821         struct vnode *tdvp = ap->a_tdvp;
822         struct componentname *cnp = ap->a_cnp;
823         struct ucred *cred = cnp->cn_cred;
824
825         struct vattr *vap = VTOVA(vp);
826
827         struct fuse_dispatcher fdi;
828         struct fuse_entry_out *feo;
829         struct fuse_link_in fli;
830
831         int err;
832
833         if (fuse_isdeadfs(vp)) {
834                 return ENXIO;
835         }
836         if (vnode_mount(tdvp) != vnode_mount(vp)) {
837                 return EXDEV;
838         }
839
840         /*
841          * This is a seatbelt check to protect naive userspace filesystems from
842          * themselves and the limitations of the FUSE IPC protocol.  If a
843          * filesystem does not allow attribute caching, assume it is capable of
844          * validating that nlink does not overflow.
845          */
846         if (vap != NULL && vap->va_nlink >= FUSE_LINK_MAX)
847                 return EMLINK;
848         fli.oldnodeid = VTOI(vp);
849
850         fdisp_init(&fdi, 0);
851         fuse_internal_newentry_makerequest(vnode_mount(tdvp), VTOI(tdvp), cnp,
852             FUSE_LINK, &fli, sizeof(fli), &fdi);
853         if ((err = fdisp_wait_answ(&fdi))) {
854                 goto out;
855         }
856         feo = fdi.answ;
857
858         err = fuse_internal_checkentry(feo, vnode_vtype(vp));
859         if (!err) {
860                 /* 
861                  * Purge the parent's attribute cache because the daemon
862                  * should've updated its mtime and ctime
863                  */
864                 fuse_vnode_clear_attr_cache(tdvp);
865                 fuse_internal_cache_attrs(vp, cred, &feo->attr, feo->attr_valid,
866                         feo->attr_valid_nsec, NULL);
867         }
868 out:
869         fdisp_destroy(&fdi);
870         return err;
871 }
872
873 struct fuse_lookup_alloc_arg {
874         struct fuse_entry_out *feo;
875         struct componentname *cnp;
876         uint64_t nid;
877         enum vtype vtyp;
878 };
879
880 /* Callback for vn_get_ino */
881 static int
882 fuse_lookup_alloc(struct mount *mp, void *arg, int lkflags, struct vnode **vpp)
883 {
884         struct fuse_lookup_alloc_arg *flaa = arg;
885
886         return fuse_vnode_get(mp, flaa->feo, flaa->nid, NULL, vpp, flaa->cnp,
887                 flaa->vtyp);
888 }
889
890 SDT_PROBE_DEFINE3(fusefs, , vnops, cache_lookup,
891         "int", "struct timespec*", "struct timespec*");
892 /*
893     struct vnop_lookup_args {
894         struct vnodeop_desc *a_desc;
895         struct vnode *a_dvp;
896         struct vnode **a_vpp;
897         struct componentname *a_cnp;
898     };
899 */
900 int
901 fuse_vnop_lookup(struct vop_lookup_args *ap)
902 {
903         struct vnode *dvp = ap->a_dvp;
904         struct vnode **vpp = ap->a_vpp;
905         struct componentname *cnp = ap->a_cnp;
906         struct thread *td = cnp->cn_thread;
907         struct ucred *cred = cnp->cn_cred;
908
909         int nameiop = cnp->cn_nameiop;
910         int flags = cnp->cn_flags;
911         int wantparent = flags & (LOCKPARENT | WANTPARENT);
912         int islastcn = flags & ISLASTCN;
913         struct mount *mp = vnode_mount(dvp);
914
915         int err = 0;
916         int lookup_err = 0;
917         struct vnode *vp = NULL;
918
919         struct fuse_dispatcher fdi;
920         bool did_lookup = false;
921         struct fuse_entry_out *feo = NULL;
922         enum vtype vtyp;        /* vnode type of target */
923         off_t filesize;         /* filesize of target */
924
925         uint64_t nid;
926
927         if (fuse_isdeadfs(dvp)) {
928                 *vpp = NULL;
929                 return ENXIO;
930         }
931         if (!vnode_isdir(dvp))
932                 return ENOTDIR;
933
934         if (islastcn && vfs_isrdonly(mp) && (nameiop != LOOKUP))
935                 return EROFS;
936
937         if ((err = fuse_internal_access(dvp, VEXEC, td, cred)))
938                 return err;
939
940         if (flags & ISDOTDOT) {
941                 KASSERT(VTOFUD(dvp)->flag & FN_PARENT_NID,
942                         ("Looking up .. is TODO"));
943                 nid = VTOFUD(dvp)->parent_nid;
944                 if (nid == 0)
945                         return ENOENT;
946                 /* .. is obviously a directory */
947                 vtyp = VDIR;
948                 filesize = 0;
949         } else if (cnp->cn_namelen == 1 && *(cnp->cn_nameptr) == '.') {
950                 nid = VTOI(dvp);
951                 /* . is obviously a directory */
952                 vtyp = VDIR;
953                 filesize = 0;
954         } else {
955                 struct timespec now, timeout;
956
957                 err = cache_lookup(dvp, vpp, cnp, &timeout, NULL);
958                 getnanouptime(&now);
959                 SDT_PROBE3(fusefs, , vnops, cache_lookup, err, &timeout, &now);
960                 switch (err) {
961                 case -1:                /* positive match */
962                         if (timespeccmp(&timeout, &now, >)) {
963                                 atomic_add_acq_long(&fuse_lookup_cache_hits, 1);
964                         } else {
965                                 /* Cache timeout */
966                                 atomic_add_acq_long(&fuse_lookup_cache_misses,
967                                         1);
968                                 cache_purge(*vpp);
969                                 if (dvp != *vpp)
970                                         vput(*vpp);
971                                 else 
972                                         vrele(*vpp);
973                                 *vpp = NULL;
974                                 break;
975                         }
976                         return 0;
977
978                 case 0:         /* no match in cache */
979                         atomic_add_acq_long(&fuse_lookup_cache_misses, 1);
980                         break;
981
982                 case ENOENT:            /* negative match */
983                         getnanouptime(&now);
984                         if (timespeccmp(&timeout, &now, <=)) {
985                                 /* Cache timeout */
986                                 cache_purge_negative(dvp);
987                                 break;
988                         }
989                         /* fall through */
990                 default:
991                         return err;
992                 }
993
994                 nid = VTOI(dvp);
995                 fdisp_init(&fdi, cnp->cn_namelen + 1);
996                 fdisp_make(&fdi, FUSE_LOOKUP, mp, nid, td, cred);
997
998                 memcpy(fdi.indata, cnp->cn_nameptr, cnp->cn_namelen);
999                 ((char *)fdi.indata)[cnp->cn_namelen] = '\0';
1000                 lookup_err = fdisp_wait_answ(&fdi);
1001                 did_lookup = true;
1002
1003                 if (!lookup_err) {
1004                         /* lookup call succeeded */
1005                         feo = (struct fuse_entry_out *)fdi.answ;
1006                         nid = feo->nodeid;
1007                         if (nid == 0) {
1008                                 /* zero nodeid means ENOENT and cache it */
1009                                 struct timespec timeout;
1010
1011                                 fdi.answ_stat = ENOENT;
1012                                 lookup_err = ENOENT;
1013                                 if (cnp->cn_flags & MAKEENTRY) {
1014                                         fuse_validity_2_timespec(feo, &timeout);
1015                                         cache_enter_time(dvp, *vpp, cnp,
1016                                                 &timeout, NULL);
1017                                 }
1018                         } else if (nid == FUSE_ROOT_ID) {
1019                                 lookup_err = EINVAL;
1020                         }
1021                         vtyp = IFTOVT(feo->attr.mode);
1022                         filesize = feo->attr.size;
1023                 }
1024                 if (lookup_err && (!fdi.answ_stat || lookup_err != ENOENT)) {
1025                         fdisp_destroy(&fdi);
1026                         return lookup_err;
1027                 }
1028         }
1029         /* lookup_err, if non-zero, must be ENOENT at this point */
1030
1031         if (lookup_err) {
1032                 /* Entry not found */
1033                 if ((nameiop == CREATE || nameiop == RENAME) && islastcn) {
1034                         err = fuse_internal_access(dvp, VWRITE, td, cred);
1035                         if (!err) {
1036                                 /*
1037                                  * Set the SAVENAME flag to hold onto the
1038                                  * pathname for use later in VOP_CREATE or
1039                                  * VOP_RENAME.
1040                                  */
1041                                 cnp->cn_flags |= SAVENAME;
1042
1043                                 err = EJUSTRETURN;
1044                         }
1045                 } else {
1046                         err = ENOENT;
1047                 }
1048         } else {
1049                 /* Entry was found */
1050                 if (flags & ISDOTDOT) {
1051                         struct fuse_lookup_alloc_arg flaa;
1052
1053                         flaa.nid = nid;
1054                         flaa.feo = feo;
1055                         flaa.cnp = cnp;
1056                         flaa.vtyp = vtyp;
1057                         err = vn_vget_ino_gen(dvp, fuse_lookup_alloc, &flaa, 0,
1058                                 &vp);
1059                         *vpp = vp;
1060                 } else if (nid == VTOI(dvp)) {
1061                         vref(dvp);
1062                         *vpp = dvp;
1063                 } else {
1064                         struct fuse_vnode_data *fvdat;
1065
1066                         err = fuse_vnode_get(vnode_mount(dvp), feo, nid, dvp,
1067                             &vp, cnp, vtyp);
1068                         if (err)
1069                                 goto out;
1070                         *vpp = vp;
1071
1072                         /*
1073                          * In the case where we are looking up a FUSE node
1074                          * represented by an existing cached vnode, and the
1075                          * true size reported by FUSE_LOOKUP doesn't match
1076                          * the vnode's cached size, then any cached writes
1077                          * beyond the file's current size are lost.
1078                          *
1079                          * We can get here:
1080                          * * following attribute cache expiration, or
1081                          * * due a bug in the daemon, or
1082                          */
1083                         fvdat = VTOFUD(vp);
1084                         if (vnode_isreg(vp) &&
1085                             filesize != fvdat->cached_attrs.va_size &&
1086                             fvdat->flag & FN_SIZECHANGE) {
1087                                 /*
1088                                  * The FN_SIZECHANGE flag reflects a dirty
1089                                  * append.  If userspace lets us know our cache
1090                                  * is invalid, that write was lost.  (Dirty
1091                                  * writes that do not cause append are also
1092                                  * lost, but we don't detect them here.)
1093                                  *
1094                                  * XXX: Maybe disable WB caching on this mount.
1095                                  */
1096                                 printf("%s: WB cache incoherent on %s!\n",
1097                                     __func__,
1098                                     vnode_mount(vp)->mnt_stat.f_mntonname);
1099
1100                                 fvdat->flag &= ~FN_SIZECHANGE;
1101                         }
1102
1103                         MPASS(feo != NULL);
1104                         fuse_internal_cache_attrs(*vpp, cred, &feo->attr,
1105                                 feo->attr_valid, feo->attr_valid_nsec, NULL);
1106
1107                         if ((nameiop == DELETE || nameiop == RENAME) &&
1108                                 islastcn)
1109                         {
1110                                 struct vattr dvattr;
1111
1112                                 err = fuse_internal_access(dvp, VWRITE, td,
1113                                         cred);
1114                                 if (err != 0)
1115                                         goto out;
1116                                 /* 
1117                                  * if the parent's sticky bit is set, check
1118                                  * whether we're allowed to remove the file.
1119                                  * Need to figure out the vnode locking to make
1120                                  * this work.
1121                                  */
1122                                 fuse_internal_getattr(dvp, &dvattr, cred, td);
1123                                 if ((dvattr.va_mode & S_ISTXT) &&
1124                                         fuse_internal_access(dvp, VADMIN, td,
1125                                                 cred) &&
1126                                         fuse_internal_access(*vpp, VADMIN, td,
1127                                                 cred)) {
1128                                         err = EPERM;
1129                                         goto out;
1130                                 }
1131                         }
1132
1133                         if (islastcn && (
1134                                 (nameiop == DELETE) ||
1135                                 (nameiop == RENAME && wantparent))) {
1136                                 cnp->cn_flags |= SAVENAME;
1137                         }
1138
1139                 }
1140         }
1141 out:
1142         if (err) {
1143                 if (vp != NULL && dvp != vp)
1144                         vput(vp);
1145                 else if (vp != NULL)
1146                         vrele(vp);
1147                 *vpp = NULL;
1148         }
1149         if (did_lookup)
1150                 fdisp_destroy(&fdi);
1151
1152         return err;
1153 }
1154
1155 /*
1156     struct vnop_mkdir_args {
1157         struct vnode *a_dvp;
1158         struct vnode **a_vpp;
1159         struct componentname *a_cnp;
1160         struct vattr *a_vap;
1161     };
1162 */
1163 static int
1164 fuse_vnop_mkdir(struct vop_mkdir_args *ap)
1165 {
1166         struct vnode *dvp = ap->a_dvp;
1167         struct vnode **vpp = ap->a_vpp;
1168         struct componentname *cnp = ap->a_cnp;
1169         struct vattr *vap = ap->a_vap;
1170
1171         struct fuse_mkdir_in fmdi;
1172
1173         if (fuse_isdeadfs(dvp)) {
1174                 return ENXIO;
1175         }
1176         fmdi.mode = MAKEIMODE(vap->va_type, vap->va_mode);
1177         fmdi.umask = curthread->td_proc->p_fd->fd_cmask;
1178
1179         return (fuse_internal_newentry(dvp, vpp, cnp, FUSE_MKDIR, &fmdi,
1180             sizeof(fmdi), VDIR));
1181 }
1182
1183 /*
1184     struct vnop_mknod_args {
1185         struct vnode *a_dvp;
1186         struct vnode **a_vpp;
1187         struct componentname *a_cnp;
1188         struct vattr *a_vap;
1189     };
1190 */
1191 static int
1192 fuse_vnop_mknod(struct vop_mknod_args *ap)
1193 {
1194
1195         struct vnode *dvp = ap->a_dvp;
1196         struct vnode **vpp = ap->a_vpp;
1197         struct componentname *cnp = ap->a_cnp;
1198         struct vattr *vap = ap->a_vap;
1199
1200         if (fuse_isdeadfs(dvp))
1201                 return ENXIO;
1202
1203         return fuse_internal_mknod(dvp, vpp, cnp, vap);
1204 }
1205
1206 /*
1207     struct vop_open_args {
1208         struct vnode *a_vp;
1209         int  a_mode;
1210         struct ucred *a_cred;
1211         struct thread *a_td;
1212         int a_fdidx; / struct file *a_fp;
1213     };
1214 */
1215 static int
1216 fuse_vnop_open(struct vop_open_args *ap)
1217 {
1218         struct vnode *vp = ap->a_vp;
1219         int a_mode = ap->a_mode;
1220         struct thread *td = ap->a_td;
1221         struct ucred *cred = ap->a_cred;
1222         pid_t pid = td->td_proc->p_pid;
1223         struct fuse_vnode_data *fvdat;
1224
1225         if (fuse_isdeadfs(vp))
1226                 return ENXIO;
1227         if (vp->v_type == VCHR || vp->v_type == VBLK || vp->v_type == VFIFO)
1228                 return (EOPNOTSUPP);
1229         if ((a_mode & (FREAD | FWRITE | FEXEC)) == 0)
1230                 return EINVAL;
1231
1232         fvdat = VTOFUD(vp);
1233
1234         if (fuse_filehandle_validrw(vp, a_mode, cred, pid)) {
1235                 fuse_vnode_open(vp, 0, td);
1236                 return 0;
1237         }
1238
1239         return fuse_filehandle_open(vp, a_mode, NULL, td, cred);
1240 }
1241
1242 static int
1243 fuse_vnop_pathconf(struct vop_pathconf_args *ap)
1244 {
1245
1246         switch (ap->a_name) {
1247         case _PC_FILESIZEBITS:
1248                 *ap->a_retval = 64;
1249                 return (0);
1250         case _PC_NAME_MAX:
1251                 *ap->a_retval = NAME_MAX;
1252                 return (0);
1253         case _PC_LINK_MAX:
1254                 *ap->a_retval = MIN(LONG_MAX, FUSE_LINK_MAX);
1255                 return (0);
1256         case _PC_SYMLINK_MAX:
1257                 *ap->a_retval = MAXPATHLEN;
1258                 return (0);
1259         case _PC_NO_TRUNC:
1260                 *ap->a_retval = 1;
1261                 return (0);
1262         default:
1263                 return (vop_stdpathconf(ap));
1264         }
1265 }
1266
1267 /*
1268     struct vnop_read_args {
1269         struct vnode *a_vp;
1270         struct uio *a_uio;
1271         int  a_ioflag;
1272         struct ucred *a_cred;
1273     };
1274 */
1275 static int
1276 fuse_vnop_read(struct vop_read_args *ap)
1277 {
1278         struct vnode *vp = ap->a_vp;
1279         struct uio *uio = ap->a_uio;
1280         int ioflag = ap->a_ioflag;
1281         struct ucred *cred = ap->a_cred;
1282         pid_t pid = curthread->td_proc->p_pid;
1283
1284         if (fuse_isdeadfs(vp)) {
1285                 return ENXIO;
1286         }
1287
1288         if (VTOFUD(vp)->flag & FN_DIRECTIO) {
1289                 ioflag |= IO_DIRECT;
1290         }
1291
1292         return fuse_io_dispatch(vp, uio, ioflag, false, cred, pid);
1293 }
1294
1295 /*
1296     struct vnop_readdir_args {
1297         struct vnode *a_vp;
1298         struct uio *a_uio;
1299         struct ucred *a_cred;
1300         int *a_eofflag;
1301         int *a_ncookies;
1302         u_long **a_cookies;
1303     };
1304 */
1305 static int
1306 fuse_vnop_readdir(struct vop_readdir_args *ap)
1307 {
1308         struct vnode *vp = ap->a_vp;
1309         struct uio *uio = ap->a_uio;
1310         struct ucred *cred = ap->a_cred;
1311         struct fuse_filehandle *fufh = NULL;
1312         struct fuse_iov cookediov;
1313         int err = 0;
1314         u_long *cookies;
1315         off_t startoff;
1316         ssize_t tresid;
1317         int ncookies;
1318         bool closefufh = false;
1319         pid_t pid = curthread->td_proc->p_pid;
1320
1321         if (ap->a_eofflag)
1322                 *ap->a_eofflag = 0;
1323         if (fuse_isdeadfs(vp)) {
1324                 return ENXIO;
1325         }
1326         if (                            /* XXXIP ((uio_iovcnt(uio) > 1)) || */
1327             (uio_resid(uio) < sizeof(struct dirent))) {
1328                 return EINVAL;
1329         }
1330
1331         tresid = uio->uio_resid;
1332         startoff = uio->uio_offset;
1333         err = fuse_filehandle_get_dir(vp, &fufh, cred, pid);
1334         if (err == EBADF && vnode_mount(vp)->mnt_flag & MNT_EXPORTED) {
1335                 /* 
1336                  * nfsd will do VOP_READDIR without first doing VOP_OPEN.  We
1337                  * must implicitly open the directory here
1338                  */
1339                 err = fuse_filehandle_open(vp, FREAD, &fufh, curthread, cred);
1340                 if (err == 0) {
1341                         /*
1342                          * When a directory is opened, it must be read from
1343                          * the beginning.  Hopefully, the "startoff" still
1344                          * exists as an offset cookie for the directory.
1345                          * If not, it will read the entire directory without
1346                          * returning any entries and just return eof.
1347                          */
1348                         uio->uio_offset = 0;
1349                 }
1350                 closefufh = true;
1351         }
1352         if (err)
1353                 return (err);
1354         if (ap->a_ncookies != NULL) {
1355                 ncookies = uio->uio_resid /
1356                         (offsetof(struct dirent, d_name) + 4) + 1;
1357                 cookies = malloc(ncookies * sizeof(*cookies), M_TEMP, M_WAITOK);
1358                 *ap->a_ncookies = ncookies;
1359                 *ap->a_cookies = cookies;
1360         } else {
1361                 ncookies = 0;
1362                 cookies = NULL;
1363         }
1364 #define DIRCOOKEDSIZE FUSE_DIRENT_ALIGN(FUSE_NAME_OFFSET + MAXNAMLEN + 1)
1365         fiov_init(&cookediov, DIRCOOKEDSIZE);
1366
1367         err = fuse_internal_readdir(vp, uio, startoff, fufh, &cookediov,
1368                 &ncookies, cookies);
1369
1370         fiov_teardown(&cookediov);
1371         if (closefufh)
1372                 fuse_filehandle_close(vp, fufh, curthread, cred);
1373
1374         if (ap->a_ncookies != NULL) {
1375                 if (err == 0) {
1376                         *ap->a_ncookies -= ncookies;
1377                 } else {
1378                         free(*ap->a_cookies, M_TEMP);
1379                         *ap->a_ncookies = 0;
1380                         *ap->a_cookies = NULL;
1381                 }
1382         }
1383         if (err == 0 && tresid == uio->uio_resid)
1384                 *ap->a_eofflag = 1;
1385
1386         return err;
1387 }
1388
1389 /*
1390     struct vnop_readlink_args {
1391         struct vnode *a_vp;
1392         struct uio *a_uio;
1393         struct ucred *a_cred;
1394     };
1395 */
1396 static int
1397 fuse_vnop_readlink(struct vop_readlink_args *ap)
1398 {
1399         struct vnode *vp = ap->a_vp;
1400         struct uio *uio = ap->a_uio;
1401         struct ucred *cred = ap->a_cred;
1402
1403         struct fuse_dispatcher fdi;
1404         int err;
1405
1406         if (fuse_isdeadfs(vp)) {
1407                 return ENXIO;
1408         }
1409         if (!vnode_islnk(vp)) {
1410                 return EINVAL;
1411         }
1412         fdisp_init(&fdi, 0);
1413         err = fdisp_simple_putget_vp(&fdi, FUSE_READLINK, vp, curthread, cred);
1414         if (err) {
1415                 goto out;
1416         }
1417         if (((char *)fdi.answ)[0] == '/' &&
1418             fuse_get_mpdata(vnode_mount(vp))->dataflags & FSESS_PUSH_SYMLINKS_IN) {
1419                 char *mpth = vnode_mount(vp)->mnt_stat.f_mntonname;
1420
1421                 err = uiomove(mpth, strlen(mpth), uio);
1422         }
1423         if (!err) {
1424                 err = uiomove(fdi.answ, fdi.iosize, uio);
1425         }
1426 out:
1427         fdisp_destroy(&fdi);
1428         return err;
1429 }
1430
1431 /*
1432     struct vnop_reclaim_args {
1433         struct vnode *a_vp;
1434         struct thread *a_td;
1435     };
1436 */
1437 static int
1438 fuse_vnop_reclaim(struct vop_reclaim_args *ap)
1439 {
1440         struct vnode *vp = ap->a_vp;
1441         struct thread *td = ap->a_td;
1442         struct fuse_vnode_data *fvdat = VTOFUD(vp);
1443         struct fuse_filehandle *fufh, *fufh_tmp;
1444
1445         if (!fvdat) {
1446                 panic("FUSE: no vnode data during recycling");
1447         }
1448         LIST_FOREACH_SAFE(fufh, &fvdat->handles, next, fufh_tmp) {
1449                 printf("FUSE: vnode being reclaimed with open fufh "
1450                         "(type=%#x)", fufh->fufh_type);
1451                 fuse_filehandle_close(vp, fufh, td, NULL);
1452         }
1453
1454         if ((!fuse_isdeadfs(vp)) && (fvdat->nlookup)) {
1455                 fuse_internal_forget_send(vnode_mount(vp), td, NULL, VTOI(vp),
1456                     fvdat->nlookup);
1457         }
1458         fuse_vnode_setparent(vp, NULL);
1459         cache_purge(vp);
1460         vfs_hash_remove(vp);
1461         vnode_destroy_vobject(vp);
1462         fuse_vnode_destroy(vp);
1463
1464         return 0;
1465 }
1466
1467 /*
1468     struct vnop_remove_args {
1469         struct vnode *a_dvp;
1470         struct vnode *a_vp;
1471         struct componentname *a_cnp;
1472     };
1473 */
1474 static int
1475 fuse_vnop_remove(struct vop_remove_args *ap)
1476 {
1477         struct vnode *dvp = ap->a_dvp;
1478         struct vnode *vp = ap->a_vp;
1479         struct componentname *cnp = ap->a_cnp;
1480
1481         int err;
1482
1483         if (fuse_isdeadfs(vp)) {
1484                 return ENXIO;
1485         }
1486         if (vnode_isdir(vp)) {
1487                 return EPERM;
1488         }
1489         cache_purge(vp);
1490
1491         err = fuse_internal_remove(dvp, vp, cnp, FUSE_UNLINK);
1492
1493         if (err == 0) {
1494                 fuse_internal_vnode_disappear(vp);
1495                 /* 
1496                  * Purge the parent's attribute cache because the daemon
1497                  * should've updated its mtime and ctime
1498                  */
1499                 fuse_vnode_clear_attr_cache(dvp);
1500         }
1501         return err;
1502 }
1503
1504 /*
1505     struct vnop_rename_args {
1506         struct vnode *a_fdvp;
1507         struct vnode *a_fvp;
1508         struct componentname *a_fcnp;
1509         struct vnode *a_tdvp;
1510         struct vnode *a_tvp;
1511         struct componentname *a_tcnp;
1512     };
1513 */
1514 static int
1515 fuse_vnop_rename(struct vop_rename_args *ap)
1516 {
1517         struct vnode *fdvp = ap->a_fdvp;
1518         struct vnode *fvp = ap->a_fvp;
1519         struct componentname *fcnp = ap->a_fcnp;
1520         struct vnode *tdvp = ap->a_tdvp;
1521         struct vnode *tvp = ap->a_tvp;
1522         struct componentname *tcnp = ap->a_tcnp;
1523         struct fuse_data *data;
1524         bool newparent = fdvp != tdvp;
1525         bool isdir = fvp->v_type == VDIR;
1526         int err = 0;
1527
1528         if (fuse_isdeadfs(fdvp)) {
1529                 return ENXIO;
1530         }
1531         if (fvp->v_mount != tdvp->v_mount ||
1532             (tvp && fvp->v_mount != tvp->v_mount)) {
1533                 SDT_PROBE2(fusefs, , vnops, trace, 1, "cross-device rename");
1534                 err = EXDEV;
1535                 goto out;
1536         }
1537         cache_purge(fvp);
1538
1539         /*
1540          * FUSE library is expected to check if target directory is not
1541          * under the source directory in the file system tree.
1542          * Linux performs this check at VFS level.
1543          */
1544         /* 
1545          * If source is a directory, and it will get a new parent, user must
1546          * have write permission to it, so ".." can be modified.
1547          */
1548         data = fuse_get_mpdata(vnode_mount(tdvp));
1549         if (data->dataflags & FSESS_DEFAULT_PERMISSIONS && isdir && newparent) {
1550                 err = fuse_internal_access(fvp, VWRITE,
1551                         tcnp->cn_thread, tcnp->cn_cred);
1552                 if (err)
1553                         goto out;
1554         }
1555         sx_xlock(&data->rename_lock);
1556         err = fuse_internal_rename(fdvp, fcnp, tdvp, tcnp);
1557         if (err == 0) {
1558                 if (tdvp != fdvp)
1559                         fuse_vnode_setparent(fvp, tdvp);
1560                 if (tvp != NULL)
1561                         fuse_vnode_setparent(tvp, NULL);
1562         }
1563         sx_unlock(&data->rename_lock);
1564
1565         if (tvp != NULL && tvp != fvp) {
1566                 cache_purge(tvp);
1567         }
1568         if (vnode_isdir(fvp)) {
1569                 if ((tvp != NULL) && vnode_isdir(tvp)) {
1570                         cache_purge(tdvp);
1571                 }
1572                 cache_purge(fdvp);
1573         }
1574 out:
1575         if (tdvp == tvp) {
1576                 vrele(tdvp);
1577         } else {
1578                 vput(tdvp);
1579         }
1580         if (tvp != NULL) {
1581                 vput(tvp);
1582         }
1583         vrele(fdvp);
1584         vrele(fvp);
1585
1586         return err;
1587 }
1588
1589 /*
1590     struct vnop_rmdir_args {
1591             struct vnode *a_dvp;
1592             struct vnode *a_vp;
1593             struct componentname *a_cnp;
1594     } *ap;
1595 */
1596 static int
1597 fuse_vnop_rmdir(struct vop_rmdir_args *ap)
1598 {
1599         struct vnode *dvp = ap->a_dvp;
1600         struct vnode *vp = ap->a_vp;
1601
1602         int err;
1603
1604         if (fuse_isdeadfs(vp)) {
1605                 return ENXIO;
1606         }
1607         if (VTOFUD(vp) == VTOFUD(dvp)) {
1608                 return EINVAL;
1609         }
1610         err = fuse_internal_remove(dvp, vp, ap->a_cnp, FUSE_RMDIR);
1611
1612         if (err == 0) {
1613                 fuse_internal_vnode_disappear(vp);
1614                 /* 
1615                  * Purge the parent's attribute cache because the daemon
1616                  * should've updated its mtime and ctime
1617                  */
1618                 fuse_vnode_clear_attr_cache(dvp);
1619         }
1620         return err;
1621 }
1622
1623 /*
1624     struct vnop_setattr_args {
1625         struct vnode *a_vp;
1626         struct vattr *a_vap;
1627         struct ucred *a_cred;
1628         struct thread *a_td;
1629     };
1630 */
1631 static int
1632 fuse_vnop_setattr(struct vop_setattr_args *ap)
1633 {
1634         struct vnode *vp = ap->a_vp;
1635         struct vattr *vap = ap->a_vap;
1636         struct ucred *cred = ap->a_cred;
1637         struct thread *td = curthread;
1638         struct mount *mp;
1639         struct fuse_data *data;
1640         struct vattr old_va;
1641         int dataflags;
1642         int err = 0, err2;
1643         accmode_t accmode = 0;
1644         bool checkperm;
1645         bool drop_suid = false;
1646         gid_t cr_gid;
1647
1648         mp = vnode_mount(vp);
1649         data = fuse_get_mpdata(mp);
1650         dataflags = data->dataflags;
1651         checkperm = dataflags & FSESS_DEFAULT_PERMISSIONS;
1652         if (cred->cr_ngroups > 0)
1653                 cr_gid = cred->cr_groups[0];
1654         else
1655                 cr_gid = 0;
1656
1657         if (fuse_isdeadfs(vp)) {
1658                 return ENXIO;
1659         }
1660
1661         if (vap->va_uid != (uid_t)VNOVAL) {
1662                 if (checkperm) {
1663                         /* Only root may change a file's owner */
1664                         err = priv_check_cred(cred, PRIV_VFS_CHOWN);
1665                         if (err) {
1666                                 /* As a special case, allow the null chown */
1667                                 err2 = fuse_internal_getattr(vp, &old_va, cred,
1668                                         td);
1669                                 if (err2)
1670                                         return (err2);
1671                                 if (vap->va_uid != old_va.va_uid)
1672                                         return err;
1673                                 else
1674                                         accmode |= VADMIN;
1675                                 drop_suid = true;
1676                         } else
1677                                 accmode |= VADMIN;
1678                 } else
1679                         accmode |= VADMIN;
1680         }
1681         if (vap->va_gid != (gid_t)VNOVAL) {
1682                 if (checkperm && priv_check_cred(cred, PRIV_VFS_CHOWN))
1683                         drop_suid = true;
1684                 if (checkperm && !groupmember(vap->va_gid, cred))
1685                 {
1686                         /*
1687                          * Non-root users may only chgrp to one of their own
1688                          * groups 
1689                          */
1690                         err = priv_check_cred(cred, PRIV_VFS_CHOWN);
1691                         if (err) {
1692                                 /* As a special case, allow the null chgrp */
1693                                 err2 = fuse_internal_getattr(vp, &old_va, cred,
1694                                         td);
1695                                 if (err2)
1696                                         return (err2);
1697                                 if (vap->va_gid != old_va.va_gid)
1698                                         return err;
1699                                 accmode |= VADMIN;
1700                         } else
1701                                 accmode |= VADMIN;
1702                 } else
1703                         accmode |= VADMIN;
1704         }
1705         if (vap->va_size != VNOVAL) {
1706                 switch (vp->v_type) {
1707                 case VDIR:
1708                         return (EISDIR);
1709                 case VLNK:
1710                 case VREG:
1711                         if (vfs_isrdonly(mp))
1712                                 return (EROFS);
1713                         break;
1714                 default:
1715                         /*
1716                          * According to POSIX, the result is unspecified
1717                          * for file types other than regular files,
1718                          * directories and shared memory objects.  We
1719                          * don't support shared memory objects in the file
1720                          * system, and have dubious support for truncating
1721                          * symlinks.  Just ignore the request in other cases.
1722                          */
1723                         return (0);
1724                 }
1725                 /* Don't set accmode.  Permission to trunc is checked upstack */
1726         }
1727         if (vap->va_atime.tv_sec != VNOVAL || vap->va_mtime.tv_sec != VNOVAL) {
1728                 if (vap->va_vaflags & VA_UTIMES_NULL)
1729                         accmode |= VWRITE;
1730                 else
1731                         accmode |= VADMIN;
1732         }
1733         if (drop_suid) {
1734                 if (vap->va_mode != (mode_t)VNOVAL)
1735                         vap->va_mode &= ~(S_ISUID | S_ISGID);
1736                 else {
1737                         err = fuse_internal_getattr(vp, &old_va, cred, td);
1738                         if (err)
1739                                 return (err);
1740                         vap->va_mode = old_va.va_mode & ~(S_ISUID | S_ISGID);
1741                 }
1742         }
1743         if (vap->va_mode != (mode_t)VNOVAL) {
1744                 /* Only root may set the sticky bit on non-directories */
1745                 if (checkperm && vp->v_type != VDIR && (vap->va_mode & S_ISTXT)
1746                     && priv_check_cred(cred, PRIV_VFS_STICKYFILE))
1747                         return EFTYPE;
1748                 if (checkperm && (vap->va_mode & S_ISGID)) {
1749                         err = fuse_internal_getattr(vp, &old_va, cred, td);
1750                         if (err)
1751                                 return (err);
1752                         if (!groupmember(old_va.va_gid, cred)) {
1753                                 err = priv_check_cred(cred, PRIV_VFS_SETGID);
1754                                 if (err)
1755                                         return (err);
1756                         }
1757                 }
1758                 accmode |= VADMIN;
1759         }
1760
1761         if (vfs_isrdonly(mp))
1762                 return EROFS;
1763
1764         err = fuse_internal_access(vp, accmode, td, cred);
1765         if (err)
1766                 return err;
1767         else
1768                 return fuse_internal_setattr(vp, vap, td, cred);
1769 }
1770
1771 /*
1772     struct vnop_strategy_args {
1773         struct vnode *a_vp;
1774         struct buf *a_bp;
1775     };
1776 */
1777 static int
1778 fuse_vnop_strategy(struct vop_strategy_args *ap)
1779 {
1780         struct vnode *vp = ap->a_vp;
1781         struct buf *bp = ap->a_bp;
1782
1783         if (!vp || fuse_isdeadfs(vp)) {
1784                 bp->b_ioflags |= BIO_ERROR;
1785                 bp->b_error = ENXIO;
1786                 bufdone(bp);
1787                 return 0;
1788         }
1789
1790         /*
1791          * VOP_STRATEGY always returns zero and signals error via bp->b_ioflags.
1792          * fuse_io_strategy sets bp's error fields
1793          */
1794         (void)fuse_io_strategy(vp, bp);
1795
1796         return 0;
1797 }
1798
1799
1800 /*
1801     struct vnop_symlink_args {
1802         struct vnode *a_dvp;
1803         struct vnode **a_vpp;
1804         struct componentname *a_cnp;
1805         struct vattr *a_vap;
1806         char *a_target;
1807     };
1808 */
1809 static int
1810 fuse_vnop_symlink(struct vop_symlink_args *ap)
1811 {
1812         struct vnode *dvp = ap->a_dvp;
1813         struct vnode **vpp = ap->a_vpp;
1814         struct componentname *cnp = ap->a_cnp;
1815         const char *target = ap->a_target;
1816
1817         struct fuse_dispatcher fdi;
1818
1819         int err;
1820         size_t len;
1821
1822         if (fuse_isdeadfs(dvp)) {
1823                 return ENXIO;
1824         }
1825         /*
1826          * Unlike the other creator type calls, here we have to create a message
1827          * where the name of the new entry comes first, and the data describing
1828          * the entry comes second.
1829          * Hence we can't rely on our handy fuse_internal_newentry() routine,
1830          * but put together the message manually and just call the core part.
1831          */
1832
1833         len = strlen(target) + 1;
1834         fdisp_init(&fdi, len + cnp->cn_namelen + 1);
1835         fdisp_make_vp(&fdi, FUSE_SYMLINK, dvp, curthread, NULL);
1836
1837         memcpy(fdi.indata, cnp->cn_nameptr, cnp->cn_namelen);
1838         ((char *)fdi.indata)[cnp->cn_namelen] = '\0';
1839         memcpy((char *)fdi.indata + cnp->cn_namelen + 1, target, len);
1840
1841         err = fuse_internal_newentry_core(dvp, vpp, cnp, VLNK, &fdi);
1842         fdisp_destroy(&fdi);
1843         return err;
1844 }
1845
1846 /*
1847     struct vnop_write_args {
1848         struct vnode *a_vp;
1849         struct uio *a_uio;
1850         int  a_ioflag;
1851         struct ucred *a_cred;
1852     };
1853 */
1854 static int
1855 fuse_vnop_write(struct vop_write_args *ap)
1856 {
1857         struct vnode *vp = ap->a_vp;
1858         struct uio *uio = ap->a_uio;
1859         int ioflag = ap->a_ioflag;
1860         struct ucred *cred = ap->a_cred;
1861         pid_t pid = curthread->td_proc->p_pid;
1862
1863         if (fuse_isdeadfs(vp)) {
1864                 return ENXIO;
1865         }
1866
1867         if (VTOFUD(vp)->flag & FN_DIRECTIO) {
1868                 ioflag |= IO_DIRECT;
1869         }
1870
1871         return fuse_io_dispatch(vp, uio, ioflag, false, cred, pid);
1872 }
1873
1874 SDT_PROBE_DEFINE1(fusefs, , vnops, vnop_getpages_error, "int");
1875 /*
1876     struct vnop_getpages_args {
1877         struct vnode *a_vp;
1878         vm_page_t *a_m;
1879         int a_count;
1880         int a_reqpage;
1881     };
1882 */
1883 static int
1884 fuse_vnop_getpages(struct vop_getpages_args *ap)
1885 {
1886         int i, error, nextoff, size, toff, count, npages;
1887         struct uio uio;
1888         struct iovec iov;
1889         vm_offset_t kva;
1890         struct buf *bp;
1891         struct vnode *vp;
1892         struct thread *td;
1893         struct ucred *cred;
1894         vm_page_t *pages;
1895         pid_t pid = curthread->td_proc->p_pid;
1896
1897         vp = ap->a_vp;
1898         KASSERT(vp->v_object, ("objectless vp passed to getpages"));
1899         td = curthread;                 /* XXX */
1900         cred = curthread->td_ucred;     /* XXX */
1901         pages = ap->a_m;
1902         npages = ap->a_count;
1903
1904         if (!fsess_opt_mmap(vnode_mount(vp))) {
1905                 SDT_PROBE2(fusefs, , vnops, trace, 1,
1906                         "called on non-cacheable vnode??\n");
1907                 return (VM_PAGER_ERROR);
1908         }
1909
1910         /*
1911          * If the last page is partially valid, just return it and allow
1912          * the pager to zero-out the blanks.  Partially valid pages can
1913          * only occur at the file EOF.
1914          *
1915          * XXXGL: is that true for FUSE, which is a local filesystem,
1916          * but still somewhat disconnected from the kernel?
1917          */
1918         VM_OBJECT_WLOCK(vp->v_object);
1919         if (pages[npages - 1]->valid != 0 && --npages == 0)
1920                 goto out;
1921         VM_OBJECT_WUNLOCK(vp->v_object);
1922
1923         /*
1924          * We use only the kva address for the buffer, but this is extremely
1925          * convenient and fast.
1926          */
1927         bp = uma_zalloc(fuse_pbuf_zone, M_WAITOK);
1928
1929         kva = (vm_offset_t)bp->b_data;
1930         pmap_qenter(kva, pages, npages);
1931         VM_CNT_INC(v_vnodein);
1932         VM_CNT_ADD(v_vnodepgsin, npages);
1933
1934         count = npages << PAGE_SHIFT;
1935         iov.iov_base = (caddr_t)kva;
1936         iov.iov_len = count;
1937         uio.uio_iov = &iov;
1938         uio.uio_iovcnt = 1;
1939         uio.uio_offset = IDX_TO_OFF(pages[0]->pindex);
1940         uio.uio_resid = count;
1941         uio.uio_segflg = UIO_SYSSPACE;
1942         uio.uio_rw = UIO_READ;
1943         uio.uio_td = td;
1944
1945         error = fuse_io_dispatch(vp, &uio, IO_DIRECT, true, cred, pid);
1946         pmap_qremove(kva, npages);
1947
1948         uma_zfree(fuse_pbuf_zone, bp);
1949
1950         if (error && (uio.uio_resid == count)) {
1951                 SDT_PROBE1(fusefs, , vnops, vnop_getpages_error, error);
1952                 return VM_PAGER_ERROR;
1953         }
1954         /*
1955          * Calculate the number of bytes read and validate only that number
1956          * of bytes.  Note that due to pending writes, size may be 0.  This
1957          * does not mean that the remaining data is invalid!
1958          */
1959
1960         size = count - uio.uio_resid;
1961         VM_OBJECT_WLOCK(vp->v_object);
1962         fuse_vm_page_lock_queues();
1963         for (i = 0, toff = 0; i < npages; i++, toff = nextoff) {
1964                 vm_page_t m;
1965
1966                 nextoff = toff + PAGE_SIZE;
1967                 m = pages[i];
1968
1969                 if (nextoff <= size) {
1970                         /*
1971                          * Read operation filled an entire page
1972                          */
1973                         m->valid = VM_PAGE_BITS_ALL;
1974                         KASSERT(m->dirty == 0,
1975                             ("fuse_getpages: page %p is dirty", m));
1976                 } else if (size > toff) {
1977                         /*
1978                          * Read operation filled a partial page.
1979                          */
1980                         m->valid = 0;
1981                         vm_page_set_valid_range(m, 0, size - toff);
1982                         KASSERT(m->dirty == 0,
1983                             ("fuse_getpages: page %p is dirty", m));
1984                 } else {
1985                         /*
1986                          * Read operation was short.  If no error occurred
1987                          * we may have hit a zero-fill section.   We simply
1988                          * leave valid set to 0.
1989                          */
1990                         ;
1991                 }
1992         }
1993         fuse_vm_page_unlock_queues();
1994 out:
1995         VM_OBJECT_WUNLOCK(vp->v_object);
1996         if (ap->a_rbehind)
1997                 *ap->a_rbehind = 0;
1998         if (ap->a_rahead)
1999                 *ap->a_rahead = 0;
2000         return (VM_PAGER_OK);
2001 }
2002
2003 /*
2004     struct vnop_putpages_args {
2005         struct vnode *a_vp;
2006         vm_page_t *a_m;
2007         int a_count;
2008         int a_sync;
2009         int *a_rtvals;
2010         vm_ooffset_t a_offset;
2011     };
2012 */
2013 static int
2014 fuse_vnop_putpages(struct vop_putpages_args *ap)
2015 {
2016         struct uio uio;
2017         struct iovec iov;
2018         vm_offset_t kva;
2019         struct buf *bp;
2020         int i, error, npages, count;
2021         off_t offset;
2022         int *rtvals;
2023         struct vnode *vp;
2024         struct thread *td;
2025         struct ucred *cred;
2026         vm_page_t *pages;
2027         vm_ooffset_t fsize;
2028         pid_t pid = curthread->td_proc->p_pid;
2029
2030         vp = ap->a_vp;
2031         KASSERT(vp->v_object, ("objectless vp passed to putpages"));
2032         fsize = vp->v_object->un_pager.vnp.vnp_size;
2033         td = curthread;                 /* XXX */
2034         cred = curthread->td_ucred;     /* XXX */
2035         pages = ap->a_m;
2036         count = ap->a_count;
2037         rtvals = ap->a_rtvals;
2038         npages = btoc(count);
2039         offset = IDX_TO_OFF(pages[0]->pindex);
2040
2041         if (!fsess_opt_mmap(vnode_mount(vp))) {
2042                 SDT_PROBE2(fusefs, , vnops, trace, 1,
2043                         "called on non-cacheable vnode??\n");
2044         }
2045         for (i = 0; i < npages; i++)
2046                 rtvals[i] = VM_PAGER_AGAIN;
2047
2048         /*
2049          * When putting pages, do not extend file past EOF.
2050          */
2051
2052         if (offset + count > fsize) {
2053                 count = fsize - offset;
2054                 if (count < 0)
2055                         count = 0;
2056         }
2057         /*
2058          * We use only the kva address for the buffer, but this is extremely
2059          * convenient and fast.
2060          */
2061         bp = uma_zalloc(fuse_pbuf_zone, M_WAITOK);
2062
2063         kva = (vm_offset_t)bp->b_data;
2064         pmap_qenter(kva, pages, npages);
2065         VM_CNT_INC(v_vnodeout);
2066         VM_CNT_ADD(v_vnodepgsout, count);
2067
2068         iov.iov_base = (caddr_t)kva;
2069         iov.iov_len = count;
2070         uio.uio_iov = &iov;
2071         uio.uio_iovcnt = 1;
2072         uio.uio_offset = offset;
2073         uio.uio_resid = count;
2074         uio.uio_segflg = UIO_SYSSPACE;
2075         uio.uio_rw = UIO_WRITE;
2076         uio.uio_td = td;
2077
2078         error = fuse_io_dispatch(vp, &uio, IO_DIRECT, true, cred, pid);
2079
2080         pmap_qremove(kva, npages);
2081         uma_zfree(fuse_pbuf_zone, bp);
2082
2083         if (!error) {
2084                 int nwritten = round_page(count - uio.uio_resid) / PAGE_SIZE;
2085
2086                 for (i = 0; i < nwritten; i++) {
2087                         rtvals[i] = VM_PAGER_OK;
2088                         VM_OBJECT_WLOCK(pages[i]->object);
2089                         vm_page_undirty(pages[i]);
2090                         VM_OBJECT_WUNLOCK(pages[i]->object);
2091                 }
2092         }
2093         return rtvals[0];
2094 }
2095
2096 static const char extattr_namespace_separator = '.';
2097
2098 /*
2099     struct vop_getextattr_args {
2100         struct vop_generic_args a_gen;
2101         struct vnode *a_vp;
2102         int a_attrnamespace;
2103         const char *a_name;
2104         struct uio *a_uio;
2105         size_t *a_size;
2106         struct ucred *a_cred;
2107         struct thread *a_td;
2108     };
2109 */
2110 static int
2111 fuse_vnop_getextattr(struct vop_getextattr_args *ap)
2112 {
2113         struct vnode *vp = ap->a_vp;
2114         struct uio *uio = ap->a_uio;
2115         struct fuse_dispatcher fdi;
2116         struct fuse_getxattr_in *get_xattr_in;
2117         struct fuse_getxattr_out *get_xattr_out;
2118         struct mount *mp = vnode_mount(vp);
2119         struct thread *td = ap->a_td;
2120         struct ucred *cred = ap->a_cred;
2121         char *prefix;
2122         char *attr_str;
2123         size_t len;
2124         int err;
2125
2126         if (fuse_isdeadfs(vp))
2127                 return (ENXIO);
2128
2129         if (!fsess_isimpl(mp, FUSE_GETXATTR))
2130                 return EOPNOTSUPP;
2131
2132         err = fuse_extattr_check_cred(vp, ap->a_attrnamespace, cred, td, VREAD);
2133         if (err)
2134                 return err;
2135
2136         /* Default to looking for user attributes. */
2137         if (ap->a_attrnamespace == EXTATTR_NAMESPACE_SYSTEM)
2138                 prefix = EXTATTR_NAMESPACE_SYSTEM_STRING;
2139         else
2140                 prefix = EXTATTR_NAMESPACE_USER_STRING;
2141
2142         len = strlen(prefix) + sizeof(extattr_namespace_separator) +
2143             strlen(ap->a_name) + 1;
2144
2145         fdisp_init(&fdi, len + sizeof(*get_xattr_in));
2146         fdisp_make_vp(&fdi, FUSE_GETXATTR, vp, td, cred);
2147
2148         get_xattr_in = fdi.indata;
2149         /*
2150          * Check to see whether we're querying the available size or
2151          * issuing the actual request.  If we pass in 0, we get back struct
2152          * fuse_getxattr_out.  If we pass in a non-zero size, we get back
2153          * that much data, without the struct fuse_getxattr_out header.
2154          */
2155         if (uio == NULL)
2156                 get_xattr_in->size = 0;
2157         else
2158                 get_xattr_in->size = uio->uio_resid;
2159
2160         attr_str = (char *)fdi.indata + sizeof(*get_xattr_in);
2161         snprintf(attr_str, len, "%s%c%s", prefix, extattr_namespace_separator,
2162             ap->a_name);
2163
2164         err = fdisp_wait_answ(&fdi);
2165         if (err != 0) {
2166                 if (err == ENOSYS) {
2167                         fsess_set_notimpl(mp, FUSE_GETXATTR);
2168                         err = EOPNOTSUPP;
2169                 }
2170                 goto out;
2171         }
2172
2173         get_xattr_out = fdi.answ;
2174
2175         if (ap->a_size != NULL)
2176                 *ap->a_size = get_xattr_out->size;
2177
2178         if (uio != NULL)
2179                 err = uiomove(fdi.answ, fdi.iosize, uio);
2180
2181 out:
2182         fdisp_destroy(&fdi);
2183         return (err);
2184 }
2185
2186 /*
2187     struct vop_setextattr_args {
2188         struct vop_generic_args a_gen;
2189         struct vnode *a_vp;
2190         int a_attrnamespace;
2191         const char *a_name;
2192         struct uio *a_uio;
2193         struct ucred *a_cred;
2194         struct thread *a_td;
2195     };
2196 */
2197 static int
2198 fuse_vnop_setextattr(struct vop_setextattr_args *ap)
2199 {
2200         struct vnode *vp = ap->a_vp;
2201         struct uio *uio = ap->a_uio;
2202         struct fuse_dispatcher fdi;
2203         struct fuse_setxattr_in *set_xattr_in;
2204         struct mount *mp = vnode_mount(vp);
2205         struct thread *td = ap->a_td;
2206         struct ucred *cred = ap->a_cred;
2207         char *prefix;
2208         size_t len;
2209         char *attr_str;
2210         int err;
2211         
2212         if (fuse_isdeadfs(vp))
2213                 return (ENXIO);
2214
2215         if (!fsess_isimpl(mp, FUSE_SETXATTR))
2216                 return EOPNOTSUPP;
2217
2218         if (vfs_isrdonly(mp))
2219                 return EROFS;
2220
2221         /* Deleting xattrs must use VOP_DELETEEXTATTR instead */
2222         if (ap->a_uio == NULL) {
2223                 /*
2224                  * If we got here as fallback from VOP_DELETEEXTATTR, then
2225                  * return EOPNOTSUPP.
2226                  */
2227                 if (!fsess_isimpl(mp, FUSE_REMOVEXATTR))
2228                         return (EOPNOTSUPP);
2229                 else
2230                         return (EINVAL);
2231         }
2232
2233         err = fuse_extattr_check_cred(vp, ap->a_attrnamespace, cred, td,
2234                 VWRITE);
2235         if (err)
2236                 return err;
2237
2238         /* Default to looking for user attributes. */
2239         if (ap->a_attrnamespace == EXTATTR_NAMESPACE_SYSTEM)
2240                 prefix = EXTATTR_NAMESPACE_SYSTEM_STRING;
2241         else
2242                 prefix = EXTATTR_NAMESPACE_USER_STRING;
2243
2244         len = strlen(prefix) + sizeof(extattr_namespace_separator) +
2245             strlen(ap->a_name) + 1;
2246
2247         fdisp_init(&fdi, len + sizeof(*set_xattr_in) + uio->uio_resid);
2248         fdisp_make_vp(&fdi, FUSE_SETXATTR, vp, td, cred);
2249
2250         set_xattr_in = fdi.indata;
2251         set_xattr_in->size = uio->uio_resid;
2252
2253         attr_str = (char *)fdi.indata + sizeof(*set_xattr_in);
2254         snprintf(attr_str, len, "%s%c%s", prefix, extattr_namespace_separator,
2255             ap->a_name);
2256
2257         err = uiomove((char *)fdi.indata + sizeof(*set_xattr_in) + len,
2258             uio->uio_resid, uio);
2259         if (err != 0) {
2260                 goto out;
2261         }
2262
2263         err = fdisp_wait_answ(&fdi);
2264
2265         if (err == ENOSYS) {
2266                 fsess_set_notimpl(mp, FUSE_SETXATTR);
2267                 err = EOPNOTSUPP;
2268         }
2269         if (err == ERESTART) {
2270                 /* Can't restart after calling uiomove */
2271                 err = EINTR;
2272         }
2273
2274 out:
2275         fdisp_destroy(&fdi);
2276         return (err);
2277 }
2278
2279 /*
2280  * The Linux / FUSE extended attribute list is simply a collection of
2281  * NUL-terminated strings.  The FreeBSD extended attribute list is a single
2282  * byte length followed by a non-NUL terminated string.  So, this allows
2283  * conversion of the Linux / FUSE format to the FreeBSD format in place.
2284  * Linux attribute names are reported with the namespace as a prefix (e.g.
2285  * "user.attribute_name"), but in FreeBSD they are reported without the
2286  * namespace prefix (e.g. "attribute_name").  So, we're going from:
2287  *
2288  * user.attr_name1\0user.attr_name2\0
2289  *
2290  * to:
2291  *
2292  * <num>attr_name1<num>attr_name2
2293  *
2294  * Where "<num>" is a single byte number of characters in the attribute name.
2295  * 
2296  * Args:
2297  * prefix - exattr namespace prefix string
2298  * list, list_len - input list with namespace prefixes
2299  * bsd_list, bsd_list_len - output list compatible with bsd vfs
2300  */
2301 static int
2302 fuse_xattrlist_convert(char *prefix, const char *list, int list_len,
2303     char *bsd_list, int *bsd_list_len)
2304 {
2305         int len, pos, dist_to_next, prefix_len;
2306
2307         pos = 0;
2308         *bsd_list_len = 0;
2309         prefix_len = strlen(prefix);
2310
2311         while (pos < list_len && list[pos] != '\0') {
2312                 dist_to_next = strlen(&list[pos]) + 1;
2313                 if (bcmp(&list[pos], prefix, prefix_len) == 0 &&
2314                     list[pos + prefix_len] == extattr_namespace_separator) {
2315                         len = dist_to_next -
2316                             (prefix_len + sizeof(extattr_namespace_separator)) - 1;
2317                         if (len >= EXTATTR_MAXNAMELEN)
2318                                 return (ENAMETOOLONG);
2319
2320                         bsd_list[*bsd_list_len] = len;
2321                         memcpy(&bsd_list[*bsd_list_len + 1],
2322                             &list[pos + prefix_len +
2323                             sizeof(extattr_namespace_separator)], len);
2324
2325                         *bsd_list_len += len + 1;
2326                 }
2327
2328                 pos += dist_to_next;
2329         }
2330
2331         return (0);
2332 }
2333
2334 /*
2335     struct vop_listextattr_args {
2336         struct vop_generic_args a_gen;
2337         struct vnode *a_vp;
2338         int a_attrnamespace;
2339         struct uio *a_uio;
2340         size_t *a_size;
2341         struct ucred *a_cred;
2342         struct thread *a_td;
2343     };
2344 */
2345 static int
2346 fuse_vnop_listextattr(struct vop_listextattr_args *ap)
2347 {
2348         struct vnode *vp = ap->a_vp;
2349         struct uio *uio = ap->a_uio;
2350         struct fuse_dispatcher fdi;
2351         struct fuse_listxattr_in *list_xattr_in;
2352         struct fuse_listxattr_out *list_xattr_out;
2353         struct mount *mp = vnode_mount(vp);
2354         struct thread *td = ap->a_td;
2355         struct ucred *cred = ap->a_cred;
2356         size_t len;
2357         char *prefix;
2358         char *attr_str;
2359         char *bsd_list = NULL;
2360         char *linux_list;
2361         int bsd_list_len;
2362         int linux_list_len;
2363         int err;
2364
2365         if (fuse_isdeadfs(vp))
2366                 return (ENXIO);
2367
2368         if (!fsess_isimpl(mp, FUSE_LISTXATTR))
2369                 return EOPNOTSUPP;
2370
2371         err = fuse_extattr_check_cred(vp, ap->a_attrnamespace, cred, td, VREAD);
2372         if (err)
2373                 return err;
2374
2375         /*
2376          * Add space for a NUL and the period separator if enabled.
2377          * Default to looking for user attributes.
2378          */
2379         if (ap->a_attrnamespace == EXTATTR_NAMESPACE_SYSTEM)
2380                 prefix = EXTATTR_NAMESPACE_SYSTEM_STRING;
2381         else
2382                 prefix = EXTATTR_NAMESPACE_USER_STRING;
2383
2384         len = strlen(prefix) + sizeof(extattr_namespace_separator) + 1;
2385
2386         fdisp_init(&fdi, sizeof(*list_xattr_in) + len);
2387         fdisp_make_vp(&fdi, FUSE_LISTXATTR, vp, td, cred);
2388
2389         /*
2390          * Retrieve Linux / FUSE compatible list size.
2391          */
2392         list_xattr_in = fdi.indata;
2393         list_xattr_in->size = 0;
2394         attr_str = (char *)fdi.indata + sizeof(*list_xattr_in);
2395         snprintf(attr_str, len, "%s%c", prefix, extattr_namespace_separator);
2396
2397         err = fdisp_wait_answ(&fdi);
2398         if (err != 0) {
2399                 if (err == ENOSYS) {
2400                         fsess_set_notimpl(mp, FUSE_LISTXATTR);
2401                         err = EOPNOTSUPP;
2402                 }
2403                 goto out;
2404         }
2405
2406         list_xattr_out = fdi.answ;
2407         linux_list_len = list_xattr_out->size;
2408         if (linux_list_len == 0) {
2409                 if (ap->a_size != NULL)
2410                         *ap->a_size = linux_list_len;
2411                 goto out;
2412         }
2413
2414         /*
2415          * Retrieve Linux / FUSE compatible list values.
2416          */
2417         fdisp_refresh_vp(&fdi, FUSE_LISTXATTR, vp, td, cred);
2418         list_xattr_in = fdi.indata;
2419         list_xattr_in->size = linux_list_len + sizeof(*list_xattr_out);
2420         attr_str = (char *)fdi.indata + sizeof(*list_xattr_in);
2421         snprintf(attr_str, len, "%s%c", prefix, extattr_namespace_separator);
2422
2423         err = fdisp_wait_answ(&fdi);
2424         if (err != 0)
2425                 goto out;
2426
2427         linux_list = fdi.answ;
2428         linux_list_len = fdi.iosize;
2429
2430         /*
2431          * Retrieve the BSD compatible list values.
2432          * The Linux / FUSE attribute list format isn't the same
2433          * as FreeBSD's format. So we need to transform it into
2434          * FreeBSD's format before giving it to the user.
2435          */
2436         bsd_list = malloc(linux_list_len, M_TEMP, M_WAITOK);
2437         err = fuse_xattrlist_convert(prefix, linux_list, linux_list_len,
2438             bsd_list, &bsd_list_len);
2439         if (err != 0)
2440                 goto out;
2441
2442         if (ap->a_size != NULL)
2443                 *ap->a_size = bsd_list_len;
2444
2445         if (uio != NULL)
2446                 err = uiomove(bsd_list, bsd_list_len, uio);
2447
2448 out:
2449         free(bsd_list, M_TEMP);
2450         fdisp_destroy(&fdi);
2451         return (err);
2452 }
2453
2454 /*
2455     struct vop_deleteextattr_args {
2456         struct vop_generic_args a_gen;
2457         struct vnode *a_vp;
2458         int a_attrnamespace;
2459         const char *a_name;
2460         struct ucred *a_cred;
2461         struct thread *a_td;
2462     };
2463 */
2464 static int
2465 fuse_vnop_deleteextattr(struct vop_deleteextattr_args *ap)
2466 {
2467         struct vnode *vp = ap->a_vp;
2468         struct fuse_dispatcher fdi;
2469         struct mount *mp = vnode_mount(vp);
2470         struct thread *td = ap->a_td;
2471         struct ucred *cred = ap->a_cred;
2472         char *prefix;
2473         size_t len;
2474         char *attr_str;
2475         int err;
2476
2477         if (fuse_isdeadfs(vp))
2478                 return (ENXIO);
2479
2480         if (!fsess_isimpl(mp, FUSE_REMOVEXATTR))
2481                 return EOPNOTSUPP;
2482
2483         if (vfs_isrdonly(mp))
2484                 return EROFS;
2485
2486         err = fuse_extattr_check_cred(vp, ap->a_attrnamespace, cred, td,
2487                 VWRITE);
2488         if (err)
2489                 return err;
2490
2491         /* Default to looking for user attributes. */
2492         if (ap->a_attrnamespace == EXTATTR_NAMESPACE_SYSTEM)
2493                 prefix = EXTATTR_NAMESPACE_SYSTEM_STRING;
2494         else
2495                 prefix = EXTATTR_NAMESPACE_USER_STRING;
2496
2497         len = strlen(prefix) + sizeof(extattr_namespace_separator) +
2498             strlen(ap->a_name) + 1;
2499
2500         fdisp_init(&fdi, len);
2501         fdisp_make_vp(&fdi, FUSE_REMOVEXATTR, vp, td, cred);
2502
2503         attr_str = fdi.indata;
2504         snprintf(attr_str, len, "%s%c%s", prefix, extattr_namespace_separator,
2505             ap->a_name);
2506
2507         err = fdisp_wait_answ(&fdi);
2508         if (err == ENOSYS) {
2509                 fsess_set_notimpl(mp, FUSE_REMOVEXATTR);
2510                 err = EOPNOTSUPP;
2511         }
2512
2513         fdisp_destroy(&fdi);
2514         return (err);
2515 }
2516
2517 /*
2518     struct vnop_print_args {
2519         struct vnode *a_vp;
2520     };
2521 */
2522 static int
2523 fuse_vnop_print(struct vop_print_args *ap)
2524 {
2525         struct fuse_vnode_data *fvdat = VTOFUD(ap->a_vp);
2526
2527         printf("nodeid: %ju, parent nodeid: %ju, nlookup: %ju, flag: %#x\n",
2528             (uintmax_t)VTOILLU(ap->a_vp), (uintmax_t)fvdat->parent_nid,
2529             (uintmax_t)fvdat->nlookup,
2530             fvdat->flag);
2531
2532         return 0;
2533 }
2534         
2535 /*
2536  * Get an NFS filehandle for a FUSE file.
2537  *
2538  * This will only work for FUSE file systems that guarantee the uniqueness of
2539  * nodeid:generation, which most don't
2540  */
2541 /*
2542 vop_vptofh {
2543         IN struct vnode *a_vp;
2544         IN struct fid *a_fhp;
2545 };
2546 */
2547 static int
2548 fuse_vnop_vptofh(struct vop_vptofh_args *ap)
2549 {
2550         struct vnode *vp = ap->a_vp;
2551         struct fuse_vnode_data *fvdat = VTOFUD(vp);
2552         struct fuse_fid *fhp = (struct fuse_fid *)(ap->a_fhp);
2553         _Static_assert(sizeof(struct fuse_fid) <= sizeof(struct fid),
2554                 "FUSE fid type is too big");
2555         struct mount *mp = vnode_mount(vp);
2556         struct fuse_data *data = fuse_get_mpdata(mp);
2557         struct vattr va;
2558         int err;
2559
2560         if (!(data->dataflags & FSESS_EXPORT_SUPPORT))
2561                 return EOPNOTSUPP;
2562
2563         err = fuse_internal_getattr(vp, &va, curthread->td_ucred, curthread);
2564         if (err)
2565                 return err;
2566
2567         /*ip = VTOI(ap->a_vp);*/
2568         /*ufhp = (struct ufid *)ap->a_fhp;*/
2569         fhp->len = sizeof(struct fuse_fid);
2570         fhp->nid = fvdat->nid;
2571         if (fvdat->generation <= UINT32_MAX)
2572                 fhp->gen = fvdat->generation;
2573         else
2574                 return EOVERFLOW;
2575         return (0);
2576 }
2577
2578