]> CyberLeo.Net >> Repos - FreeBSD/releng/8.1.git/blob - sys/nfsclient/nfs_subs.c
Copy stable/8 to releng/8.1 in preparation for 8.1-RC1.
[FreeBSD/releng/8.1.git] / sys / nfsclient / nfs_subs.c
1 /*-
2  * Copyright (c) 1989, 1993
3  *      The Regents of the University of California.  All rights reserved.
4  *
5  * This code is derived from software contributed to Berkeley by
6  * Rick Macklem at The University of Guelph.
7  *
8  * Redistribution and use in source and binary forms, with or without
9  * modification, are permitted provided that the following conditions
10  * are met:
11  * 1. Redistributions of source code must retain the above copyright
12  *    notice, this list of conditions and the following disclaimer.
13  * 2. Redistributions in binary form must reproduce the above copyright
14  *    notice, this list of conditions and the following disclaimer in the
15  *    documentation and/or other materials provided with the distribution.
16  * 4. Neither the name of the University nor the names of its contributors
17  *    may be used to endorse or promote products derived from this software
18  *    without specific prior written permission.
19  *
20  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
21  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
22  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
23  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
24  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
25  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
26  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
27  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
28  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
29  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
30  * SUCH DAMAGE.
31  *
32  *      @(#)nfs_subs.c  8.8 (Berkeley) 5/22/95
33  */
34
35 #include <sys/cdefs.h>
36 __FBSDID("$FreeBSD$");
37
38 /*
39  * These functions support the macros and help fiddle mbuf chains for
40  * the nfs op functions. They do things like create the rpc header and
41  * copy data between mbuf chains and uio lists.
42  */
43
44 #include "opt_kdtrace.h"
45
46 #include <sys/param.h>
47 #include <sys/systm.h>
48 #include <sys/kernel.h>
49 #include <sys/bio.h>
50 #include <sys/buf.h>
51 #include <sys/proc.h>
52 #include <sys/mount.h>
53 #include <sys/vnode.h>
54 #include <sys/namei.h>
55 #include <sys/mbuf.h>
56 #include <sys/socket.h>
57 #include <sys/stat.h>
58 #include <sys/malloc.h>
59 #include <sys/sysent.h>
60 #include <sys/syscall.h>
61 #include <sys/sysproto.h>
62
63 #include <vm/vm.h>
64 #include <vm/vm_object.h>
65 #include <vm/vm_extern.h>
66 #include <vm/uma.h>
67
68 #include <nfs/nfsproto.h>
69 #include <nfsclient/nfs.h>
70 #include <nfsclient/nfsnode.h>
71 #include <nfsclient/nfs_kdtrace.h>
72 #include <nfs/xdr_subs.h>
73 #include <nfsclient/nfsm_subs.h>
74 #include <nfsclient/nfsmount.h>
75
76 #include <netinet/in.h>
77
78 /*
79  * Note that stdarg.h and the ANSI style va_start macro is used for both
80  * ANSI and traditional C compilers.
81  */
82 #include <machine/stdarg.h>
83
84 #ifdef KDTRACE_HOOKS
85 dtrace_nfsclient_attrcache_flush_probe_func_t
86     dtrace_nfsclient_attrcache_flush_done_probe;
87 uint32_t nfsclient_attrcache_flush_done_id;
88
89 dtrace_nfsclient_attrcache_get_hit_probe_func_t
90     dtrace_nfsclient_attrcache_get_hit_probe;
91 uint32_t nfsclient_attrcache_get_hit_id;
92
93 dtrace_nfsclient_attrcache_get_miss_probe_func_t
94     dtrace_nfsclient_attrcache_get_miss_probe;
95 uint32_t nfsclient_attrcache_get_miss_id;
96
97 dtrace_nfsclient_attrcache_load_probe_func_t
98     dtrace_nfsclient_attrcache_load_done_probe;
99 uint32_t nfsclient_attrcache_load_done_id;
100 #endif /* !KDTRACE_HOOKS */
101
102 /*
103  * Data items converted to xdr at startup, since they are constant
104  * This is kinda hokey, but may save a little time doing byte swaps
105  */
106 u_int32_t       nfs_xdrneg1;
107 u_int32_t       nfs_true, nfs_false;
108
109 /* And other global data */
110 static u_int32_t nfs_xid = 0;
111 static enum vtype nv2tov_type[8]= {
112         VNON, VREG, VDIR, VBLK, VCHR, VLNK, VNON,  VNON
113 };
114
115 int             nfs_ticks;
116 int             nfs_pbuf_freecnt = -1;  /* start out unlimited */
117
118 struct nfs_bufq nfs_bufq;
119 static struct mtx nfs_xid_mtx;
120
121 /*
122  * and the reverse mapping from generic to Version 2 procedure numbers
123  */
124 int nfsv2_procid[NFS_NPROCS] = {
125         NFSV2PROC_NULL,
126         NFSV2PROC_GETATTR,
127         NFSV2PROC_SETATTR,
128         NFSV2PROC_LOOKUP,
129         NFSV2PROC_NOOP,
130         NFSV2PROC_READLINK,
131         NFSV2PROC_READ,
132         NFSV2PROC_WRITE,
133         NFSV2PROC_CREATE,
134         NFSV2PROC_MKDIR,
135         NFSV2PROC_SYMLINK,
136         NFSV2PROC_CREATE,
137         NFSV2PROC_REMOVE,
138         NFSV2PROC_RMDIR,
139         NFSV2PROC_RENAME,
140         NFSV2PROC_LINK,
141         NFSV2PROC_READDIR,
142         NFSV2PROC_NOOP,
143         NFSV2PROC_STATFS,
144         NFSV2PROC_NOOP,
145         NFSV2PROC_NOOP,
146         NFSV2PROC_NOOP,
147         NFSV2PROC_NOOP,
148 };
149
150 LIST_HEAD(nfsnodehashhead, nfsnode);
151
152 u_int32_t
153 nfs_xid_gen(void)
154 {
155         uint32_t xid;
156
157         mtx_lock(&nfs_xid_mtx);
158
159         /* Get a pretty random xid to start with */
160         if (!nfs_xid)
161                 nfs_xid = random();
162         /*
163          * Skip zero xid if it should ever happen.
164          */
165         if (++nfs_xid == 0)
166                 nfs_xid++;
167         xid = nfs_xid;
168         mtx_unlock(&nfs_xid_mtx);
169         return xid;
170 }
171
172 /*
173  * Create the header for an rpc request packet
174  * The hsiz is the size of the rest of the nfs request header.
175  * (just used to decide if a cluster is a good idea)
176  */
177 struct mbuf *
178 nfsm_reqhead(struct vnode *vp, u_long procid, int hsiz)
179 {
180         struct mbuf *mb;
181
182         MGET(mb, M_WAIT, MT_DATA);
183         if (hsiz >= MINCLSIZE)
184                 MCLGET(mb, M_WAIT);
185         mb->m_len = 0;
186         return (mb);
187 }
188
189 /*
190  * copies a uio scatter/gather list to an mbuf chain.
191  * NOTE: can ony handle iovcnt == 1
192  */
193 int
194 nfsm_uiotombuf(struct uio *uiop, struct mbuf **mq, int siz, caddr_t *bpos)
195 {
196         char *uiocp;
197         struct mbuf *mp, *mp2;
198         int xfer, left, mlen;
199         int uiosiz, clflg, rem;
200         char *cp;
201
202 #ifdef DIAGNOSTIC
203         if (uiop->uio_iovcnt != 1)
204                 panic("nfsm_uiotombuf: iovcnt != 1");
205 #endif
206
207         if (siz > MLEN)         /* or should it >= MCLBYTES ?? */
208                 clflg = 1;
209         else
210                 clflg = 0;
211         rem = nfsm_rndup(siz)-siz;
212         mp = mp2 = *mq;
213         while (siz > 0) {
214                 left = uiop->uio_iov->iov_len;
215                 uiocp = uiop->uio_iov->iov_base;
216                 if (left > siz)
217                         left = siz;
218                 uiosiz = left;
219                 while (left > 0) {
220                         mlen = M_TRAILINGSPACE(mp);
221                         if (mlen == 0) {
222                                 MGET(mp, M_WAIT, MT_DATA);
223                                 if (clflg)
224                                         MCLGET(mp, M_WAIT);
225                                 mp->m_len = 0;
226                                 mp2->m_next = mp;
227                                 mp2 = mp;
228                                 mlen = M_TRAILINGSPACE(mp);
229                         }
230                         xfer = (left > mlen) ? mlen : left;
231 #ifdef notdef
232                         /* Not Yet.. */
233                         if (uiop->uio_iov->iov_op != NULL)
234                                 (*(uiop->uio_iov->iov_op))
235                                 (uiocp, mtod(mp, caddr_t)+mp->m_len, xfer);
236                         else
237 #endif
238                         if (uiop->uio_segflg == UIO_SYSSPACE)
239                                 bcopy(uiocp, mtod(mp, caddr_t)+mp->m_len, xfer);
240                         else
241                                 copyin(uiocp, mtod(mp, caddr_t)+mp->m_len, xfer);
242                         mp->m_len += xfer;
243                         left -= xfer;
244                         uiocp += xfer;
245                         uiop->uio_offset += xfer;
246                         uiop->uio_resid -= xfer;
247                 }
248                 uiop->uio_iov->iov_base =
249                     (char *)uiop->uio_iov->iov_base + uiosiz;
250                 uiop->uio_iov->iov_len -= uiosiz;
251                 siz -= uiosiz;
252         }
253         if (rem > 0) {
254                 if (rem > M_TRAILINGSPACE(mp)) {
255                         MGET(mp, M_WAIT, MT_DATA);
256                         mp->m_len = 0;
257                         mp2->m_next = mp;
258                 }
259                 cp = mtod(mp, caddr_t)+mp->m_len;
260                 for (left = 0; left < rem; left++)
261                         *cp++ = '\0';
262                 mp->m_len += rem;
263                 *bpos = cp;
264         } else
265                 *bpos = mtod(mp, caddr_t)+mp->m_len;
266         *mq = mp;
267         return (0);
268 }
269
270 /*
271  * Copy a string into mbufs for the hard cases...
272  */
273 int
274 nfsm_strtmbuf(struct mbuf **mb, char **bpos, const char *cp, long siz)
275 {
276         struct mbuf *m1 = NULL, *m2;
277         long left, xfer, len, tlen;
278         u_int32_t *tl;
279         int putsize;
280
281         putsize = 1;
282         m2 = *mb;
283         left = M_TRAILINGSPACE(m2);
284         if (left > 0) {
285                 tl = ((u_int32_t *)(*bpos));
286                 *tl++ = txdr_unsigned(siz);
287                 putsize = 0;
288                 left -= NFSX_UNSIGNED;
289                 m2->m_len += NFSX_UNSIGNED;
290                 if (left > 0) {
291                         bcopy(cp, (caddr_t) tl, left);
292                         siz -= left;
293                         cp += left;
294                         m2->m_len += left;
295                         left = 0;
296                 }
297         }
298         /* Loop around adding mbufs */
299         while (siz > 0) {
300                 MGET(m1, M_WAIT, MT_DATA);
301                 if (siz > MLEN)
302                         MCLGET(m1, M_WAIT);
303                 m1->m_len = NFSMSIZ(m1);
304                 m2->m_next = m1;
305                 m2 = m1;
306                 tl = mtod(m1, u_int32_t *);
307                 tlen = 0;
308                 if (putsize) {
309                         *tl++ = txdr_unsigned(siz);
310                         m1->m_len -= NFSX_UNSIGNED;
311                         tlen = NFSX_UNSIGNED;
312                         putsize = 0;
313                 }
314                 if (siz < m1->m_len) {
315                         len = nfsm_rndup(siz);
316                         xfer = siz;
317                         if (xfer < len)
318                                 *(tl+(xfer>>2)) = 0;
319                 } else {
320                         xfer = len = m1->m_len;
321                 }
322                 bcopy(cp, (caddr_t) tl, xfer);
323                 m1->m_len = len+tlen;
324                 siz -= xfer;
325                 cp += xfer;
326         }
327         *mb = m1;
328         *bpos = mtod(m1, caddr_t)+m1->m_len;
329         return (0);
330 }
331
332 /*
333  * Called once to initialize data structures...
334  */
335 int
336 nfs_init(struct vfsconf *vfsp)
337 {
338         int i;
339
340         nfsmount_zone = uma_zcreate("NFSMOUNT", sizeof(struct nfsmount),
341             NULL, NULL, NULL, NULL, UMA_ALIGN_PTR, 0);
342         nfs_true = txdr_unsigned(TRUE);
343         nfs_false = txdr_unsigned(FALSE);
344         nfs_xdrneg1 = txdr_unsigned(-1);
345         nfs_ticks = (hz * NFS_TICKINTVL + 500) / 1000;
346         if (nfs_ticks < 1)
347                 nfs_ticks = 1;
348         /* Ensure async daemons disabled */
349         for (i = 0; i < NFS_MAXASYNCDAEMON; i++) {
350                 nfs_iodwant[i] = NFSIOD_NOT_AVAILABLE;
351                 nfs_iodmount[i] = NULL;
352         }
353         nfs_nhinit();                   /* Init the nfsnode table */
354
355         /*
356          * Initialize reply list and start timer
357          */
358         mtx_init(&nfs_iod_mtx, "NFS iod lock", NULL, MTX_DEF);
359         mtx_init(&nfs_xid_mtx, "NFS xid lock", NULL, MTX_DEF);
360
361         nfs_pbuf_freecnt = nswbuf / 2 + 1;
362
363         return (0);
364 }
365
366 int
367 nfs_uninit(struct vfsconf *vfsp)
368 {
369         int i;
370
371         /*
372          * Tell all nfsiod processes to exit. Clear nfs_iodmax, and wakeup
373          * any sleeping nfsiods so they check nfs_iodmax and exit.
374          */
375         mtx_lock(&nfs_iod_mtx);
376         nfs_iodmax = 0;
377         for (i = 0; i < nfs_numasync; i++)
378                 if (nfs_iodwant[i] == NFSIOD_AVAILABLE)
379                         wakeup(&nfs_iodwant[i]);
380         /* The last nfsiod to exit will wake us up when nfs_numasync hits 0 */
381         while (nfs_numasync)
382                 msleep(&nfs_numasync, &nfs_iod_mtx, PWAIT, "ioddie", 0);
383         mtx_unlock(&nfs_iod_mtx);
384         nfs_nhuninit();
385         uma_zdestroy(nfsmount_zone);
386         return (0);
387 }
388
389 void 
390 nfs_dircookie_lock(struct nfsnode *np)
391 {
392         mtx_lock(&np->n_mtx);
393         while (np->n_flag & NDIRCOOKIELK)
394                 (void) msleep(&np->n_flag, &np->n_mtx, PZERO, "nfsdirlk", 0);
395         np->n_flag |= NDIRCOOKIELK;
396         mtx_unlock(&np->n_mtx);
397 }
398
399 void 
400 nfs_dircookie_unlock(struct nfsnode *np)
401 {
402         mtx_lock(&np->n_mtx);
403         np->n_flag &= ~NDIRCOOKIELK;
404         wakeup(&np->n_flag);
405         mtx_unlock(&np->n_mtx);
406 }
407
408 int
409 nfs_upgrade_vnlock(struct vnode *vp)
410 {
411         int old_lock;
412
413         ASSERT_VOP_LOCKED(vp, "nfs_upgrade_vnlock");
414         old_lock = VOP_ISLOCKED(vp);
415         if (old_lock != LK_EXCLUSIVE) {
416                 KASSERT(old_lock == LK_SHARED,
417                     ("nfs_upgrade_vnlock: wrong old_lock %d", old_lock));
418                 /* Upgrade to exclusive lock, this might block */
419                 vn_lock(vp, LK_UPGRADE | LK_RETRY);
420         }
421         return (old_lock);
422 }
423
424 void
425 nfs_downgrade_vnlock(struct vnode *vp, int old_lock)
426 {
427         if (old_lock != LK_EXCLUSIVE) {
428                 KASSERT(old_lock == LK_SHARED, ("wrong old_lock %d", old_lock));
429                 /* Downgrade from exclusive lock. */
430                 vn_lock(vp, LK_DOWNGRADE | LK_RETRY);
431         }
432 }
433
434 void
435 nfs_printf(const char *fmt, ...)
436 {
437         va_list ap;
438
439         mtx_lock(&Giant);
440         va_start(ap, fmt);
441         printf(fmt, ap);
442         va_end(ap);
443         mtx_unlock(&Giant);
444 }
445
446 /*
447  * Attribute cache routines.
448  * nfs_loadattrcache() - loads or updates the cache contents from attributes
449  *      that are on the mbuf list
450  * nfs_getattrcache() - returns valid attributes if found in cache, returns
451  *      error otherwise
452  */
453
454 /*
455  * Load the attribute cache (that lives in the nfsnode entry) with
456  * the values on the mbuf list and
457  * Iff vap not NULL
458  *    copy the attributes to *vaper
459  */
460 int
461 nfs_loadattrcache(struct vnode **vpp, struct mbuf **mdp, caddr_t *dposp,
462                   struct vattr *vaper, int dontshrink)
463 {
464         struct vnode *vp = *vpp;
465         struct vattr *vap;
466         struct nfs_fattr *fp;
467         struct nfsnode *np = NULL;
468         int32_t t1;
469         caddr_t cp2;
470         int rdev;
471         struct mbuf *md;
472         enum vtype vtyp;
473         u_short vmode;
474         struct timespec mtime, mtime_save;
475         int v3 = NFS_ISV3(vp);
476         struct thread *td = curthread;
477         int error = 0;
478
479         md = *mdp;
480         t1 = (mtod(md, caddr_t) + md->m_len) - *dposp;
481         cp2 = nfsm_disct(mdp, dposp, NFSX_FATTR(v3), t1, M_WAIT);
482         if (cp2 == NULL) {
483                 error = EBADRPC;
484                 goto out;
485         }
486         fp = (struct nfs_fattr *)cp2;
487         if (v3) {
488                 vtyp = nfsv3tov_type(fp->fa_type);
489                 vmode = fxdr_unsigned(u_short, fp->fa_mode);
490                 rdev = makedev(fxdr_unsigned(int, fp->fa3_rdev.specdata1),
491                         fxdr_unsigned(int, fp->fa3_rdev.specdata2));
492                 fxdr_nfsv3time(&fp->fa3_mtime, &mtime);
493         } else {
494                 vtyp = nfsv2tov_type(fp->fa_type);
495                 vmode = fxdr_unsigned(u_short, fp->fa_mode);
496                 /*
497                  * XXX
498                  *
499                  * The duplicate information returned in fa_type and fa_mode
500                  * is an ambiguity in the NFS version 2 protocol.
501                  *
502                  * VREG should be taken literally as a regular file.  If a
503                  * server intents to return some type information differently
504                  * in the upper bits of the mode field (e.g. for sockets, or
505                  * FIFOs), NFSv2 mandates fa_type to be VNON.  Anyway, we
506                  * leave the examination of the mode bits even in the VREG
507                  * case to avoid breakage for bogus servers, but we make sure
508                  * that there are actually type bits set in the upper part of
509                  * fa_mode (and failing that, trust the va_type field).
510                  *
511                  * NFSv3 cleared the issue, and requires fa_mode to not
512                  * contain any type information (while also introduing sockets
513                  * and FIFOs for fa_type).
514                  */
515                 if (vtyp == VNON || (vtyp == VREG && (vmode & S_IFMT) != 0))
516                         vtyp = IFTOVT(vmode);
517                 rdev = fxdr_unsigned(int32_t, fp->fa2_rdev);
518                 fxdr_nfsv2time(&fp->fa2_mtime, &mtime);
519
520                 /*
521                  * Really ugly NFSv2 kludge.
522                  */
523                 if (vtyp == VCHR && rdev == 0xffffffff)
524                         vtyp = VFIFO;
525         }
526
527         /*
528          * If v_type == VNON it is a new node, so fill in the v_type,
529          * n_mtime fields. Check to see if it represents a special
530          * device, and if so, check for a possible alias. Once the
531          * correct vnode has been obtained, fill in the rest of the
532          * information.
533          */
534         np = VTONFS(vp);
535         mtx_lock(&np->n_mtx);
536         if (vp->v_type != vtyp) {
537                 vp->v_type = vtyp;
538                 if (vp->v_type == VFIFO)
539                         vp->v_op = &nfs_fifoops;
540                 np->n_mtime = mtime;
541         }
542         vap = &np->n_vattr;
543         vap->va_type = vtyp;
544         vap->va_mode = (vmode & 07777);
545         vap->va_rdev = rdev;
546         mtime_save = vap->va_mtime;
547         vap->va_mtime = mtime;
548         vap->va_fsid = vp->v_mount->mnt_stat.f_fsid.val[0];
549         if (v3) {
550                 vap->va_nlink = fxdr_unsigned(u_short, fp->fa_nlink);
551                 vap->va_uid = fxdr_unsigned(uid_t, fp->fa_uid);
552                 vap->va_gid = fxdr_unsigned(gid_t, fp->fa_gid);
553                 vap->va_size = fxdr_hyper(&fp->fa3_size);
554                 vap->va_blocksize = NFS_FABLKSIZE;
555                 vap->va_bytes = fxdr_hyper(&fp->fa3_used);
556                 vap->va_fileid = fxdr_unsigned(int32_t,
557                     fp->fa3_fileid.nfsuquad[1]);
558                 fxdr_nfsv3time(&fp->fa3_atime, &vap->va_atime);
559                 fxdr_nfsv3time(&fp->fa3_ctime, &vap->va_ctime);
560                 vap->va_flags = 0;
561                 vap->va_filerev = 0;
562         } else {
563                 vap->va_nlink = fxdr_unsigned(u_short, fp->fa_nlink);
564                 vap->va_uid = fxdr_unsigned(uid_t, fp->fa_uid);
565                 vap->va_gid = fxdr_unsigned(gid_t, fp->fa_gid);
566                 vap->va_size = fxdr_unsigned(u_int32_t, fp->fa2_size);
567                 vap->va_blocksize = fxdr_unsigned(int32_t, fp->fa2_blocksize);
568                 vap->va_bytes = (u_quad_t)fxdr_unsigned(int32_t, fp->fa2_blocks)
569                     * NFS_FABLKSIZE;
570                 vap->va_fileid = fxdr_unsigned(int32_t, fp->fa2_fileid);
571                 fxdr_nfsv2time(&fp->fa2_atime, &vap->va_atime);
572                 vap->va_flags = 0;
573                 vap->va_ctime.tv_sec = fxdr_unsigned(u_int32_t,
574                     fp->fa2_ctime.nfsv2_sec);
575                 vap->va_ctime.tv_nsec = 0;
576                 vap->va_gen = fxdr_unsigned(u_int32_t, fp->fa2_ctime.nfsv2_usec);
577                 vap->va_filerev = 0;
578         }
579         np->n_attrstamp = time_second;
580         /* Timestamp the NFS otw getattr fetch */
581         if (td->td_proc) {
582                 np->n_ac_ts_tid = td->td_tid;
583                 np->n_ac_ts_pid = td->td_proc->p_pid;
584                 np->n_ac_ts_syscalls = td->td_syscalls;
585         } else
586                 bzero(&np->n_ac_ts, sizeof(struct nfs_attrcache_timestamp));
587         
588         if (vap->va_size != np->n_size) {
589                 if (vap->va_type == VREG) {
590                         if (dontshrink && vap->va_size < np->n_size) {
591                                 /*
592                                  * We've been told not to shrink the file;
593                                  * zero np->n_attrstamp to indicate that
594                                  * the attributes are stale.
595                                  */
596                                 vap->va_size = np->n_size;
597                                 np->n_attrstamp = 0;
598                                 KDTRACE_NFS_ATTRCACHE_FLUSH_DONE(vp);
599                         } else if (np->n_flag & NMODIFIED) {
600                                 /*
601                                  * We've modified the file: Use the larger
602                                  * of our size, and the server's size.
603                                  */
604                                 if (vap->va_size < np->n_size) {
605                                         vap->va_size = np->n_size;
606                                 } else {
607                                         np->n_size = vap->va_size;
608                                         np->n_flag |= NSIZECHANGED;
609                                 }
610                         } else {
611                                 np->n_size = vap->va_size;
612                                 np->n_flag |= NSIZECHANGED;
613                         }
614                         vnode_pager_setsize(vp, np->n_size);
615                 } else {
616                         np->n_size = vap->va_size;
617                 }
618         }
619         /*
620          * The following checks are added to prevent a race between (say)
621          * a READDIR+ and a WRITE. 
622          * READDIR+, WRITE requests sent out.
623          * READDIR+ resp, WRITE resp received on client.
624          * However, the WRITE resp was handled before the READDIR+ resp
625          * causing the post op attrs from the write to be loaded first
626          * and the attrs from the READDIR+ to be loaded later. If this 
627          * happens, we have stale attrs loaded into the attrcache.
628          * We detect this by for the mtime moving back. We invalidate the 
629          * attrcache when this happens.
630          */
631         if (timespeccmp(&mtime_save, &vap->va_mtime, >)) {
632                 /* Size changed or mtime went backwards */
633                 np->n_attrstamp = 0;
634                 KDTRACE_NFS_ATTRCACHE_FLUSH_DONE(vp);
635         }
636         if (vaper != NULL) {
637                 bcopy((caddr_t)vap, (caddr_t)vaper, sizeof(*vap));
638                 if (np->n_flag & NCHG) {
639                         if (np->n_flag & NACC)
640                                 vaper->va_atime = np->n_atim;
641                         if (np->n_flag & NUPD)
642                                 vaper->va_mtime = np->n_mtim;
643                 }
644         }
645
646 #ifdef KDTRACE_HOOKS
647         if (np->n_attrstamp != 0)
648                 KDTRACE_NFS_ATTRCACHE_LOAD_DONE(vp, &np->n_vattr, 0);
649 #endif
650         mtx_unlock(&np->n_mtx);
651 out:
652 #ifdef KDTRACE_HOOKS
653         if (error)
654                 KDTRACE_NFS_ATTRCACHE_LOAD_DONE(vp, NULL, error);
655 #endif
656         return (error);
657 }
658
659 #ifdef NFS_ACDEBUG
660 #include <sys/sysctl.h>
661 SYSCTL_DECL(_vfs_nfs);
662 static int nfs_acdebug;
663 SYSCTL_INT(_vfs_nfs, OID_AUTO, acdebug, CTLFLAG_RW, &nfs_acdebug, 0,
664     "Toggle acdebug (access cache debug) flag");
665 #endif
666
667 /*
668  * Check the time stamp
669  * If the cache is valid, copy contents to *vap and return 0
670  * otherwise return an error
671  */
672 int
673 nfs_getattrcache(struct vnode *vp, struct vattr *vaper)
674 {
675         struct nfsnode *np;
676         struct vattr *vap;
677         struct nfsmount *nmp;
678         int timeo;
679         
680         np = VTONFS(vp);
681         vap = &np->n_vattr;
682         nmp = VFSTONFS(vp->v_mount);
683 #ifdef NFS_ACDEBUG
684         mtx_lock(&Giant);       /* nfs_printf() */
685 #endif
686         mtx_lock(&np->n_mtx);
687         /* XXX n_mtime doesn't seem to be updated on a miss-and-reload */
688         timeo = (time_second - np->n_mtime.tv_sec) / 10;
689
690 #ifdef NFS_ACDEBUG
691         if (nfs_acdebug>1)
692                 nfs_printf("nfs_getattrcache: initial timeo = %d\n", timeo);
693 #endif
694
695         if (vap->va_type == VDIR) {
696                 if ((np->n_flag & NMODIFIED) || timeo < nmp->nm_acdirmin)
697                         timeo = nmp->nm_acdirmin;
698                 else if (timeo > nmp->nm_acdirmax)
699                         timeo = nmp->nm_acdirmax;
700         } else {
701                 if ((np->n_flag & NMODIFIED) || timeo < nmp->nm_acregmin)
702                         timeo = nmp->nm_acregmin;
703                 else if (timeo > nmp->nm_acregmax)
704                         timeo = nmp->nm_acregmax;
705         }
706
707 #ifdef NFS_ACDEBUG
708         if (nfs_acdebug > 2)
709                 nfs_printf("acregmin %d; acregmax %d; acdirmin %d; acdirmax %d\n",
710                            nmp->nm_acregmin, nmp->nm_acregmax,
711                            nmp->nm_acdirmin, nmp->nm_acdirmax);
712
713         if (nfs_acdebug)
714                 nfs_printf("nfs_getattrcache: age = %d; final timeo = %d\n",
715                            (time_second - np->n_attrstamp), timeo);
716 #endif
717
718         if ((time_second - np->n_attrstamp) >= timeo) {
719                 nfsstats.attrcache_misses++;
720                 mtx_unlock(&np->n_mtx);
721                 KDTRACE_NFS_ATTRCACHE_GET_MISS(vp);
722                 return (ENOENT);
723         }
724         nfsstats.attrcache_hits++;
725         if (vap->va_size != np->n_size) {
726                 if (vap->va_type == VREG) {
727                         if (np->n_flag & NMODIFIED) {
728                                 if (vap->va_size < np->n_size)
729                                         vap->va_size = np->n_size;
730                                 else
731                                         np->n_size = vap->va_size;
732                         } else {
733                                 np->n_size = vap->va_size;
734                         }
735                         vnode_pager_setsize(vp, np->n_size);
736                 } else {
737                         np->n_size = vap->va_size;
738                 }
739         }
740         bcopy((caddr_t)vap, (caddr_t)vaper, sizeof(struct vattr));
741         if (np->n_flag & NCHG) {
742                 if (np->n_flag & NACC)
743                         vaper->va_atime = np->n_atim;
744                 if (np->n_flag & NUPD)
745                         vaper->va_mtime = np->n_mtim;
746         }
747         mtx_unlock(&np->n_mtx);
748 #ifdef NFS_ACDEBUG
749         mtx_unlock(&Giant);     /* nfs_printf() */
750 #endif
751         KDTRACE_NFS_ATTRCACHE_GET_HIT(vp, vap);
752         return (0);
753 }
754
755 /*
756  * Purge all cached information about an NFS vnode including name
757  * cache entries, the attribute cache, and the access cache.  This is
758  * called when an NFS request for a node fails with a stale
759  * filehandle.
760  */
761 void
762 nfs_purgecache(struct vnode *vp)
763 {
764         struct nfsnode *np;
765         int i;
766
767         np = VTONFS(vp);
768         cache_purge(vp);
769         mtx_lock(&np->n_mtx);
770         np->n_attrstamp = 0;
771         KDTRACE_NFS_ATTRCACHE_FLUSH_DONE(vp);
772         for (i = 0; i < NFS_ACCESSCACHESIZE; i++)
773                 np->n_accesscache[i].stamp = 0;
774         KDTRACE_NFS_ACCESSCACHE_FLUSH_DONE(vp);
775         mtx_unlock(&np->n_mtx);
776 }
777
778 static nfsuint64 nfs_nullcookie = { { 0, 0 } };
779 /*
780  * This function finds the directory cookie that corresponds to the
781  * logical byte offset given.
782  */
783 nfsuint64 *
784 nfs_getcookie(struct nfsnode *np, off_t off, int add)
785 {
786         struct nfsdmap *dp, *dp2;
787         int pos;
788         nfsuint64 *retval = NULL;
789         
790         pos = (uoff_t)off / NFS_DIRBLKSIZ;
791         if (pos == 0 || off < 0) {
792 #ifdef DIAGNOSTIC
793                 if (add)
794                         panic("nfs getcookie add at <= 0");
795 #endif
796                 return (&nfs_nullcookie);
797         }
798         pos--;
799         dp = LIST_FIRST(&np->n_cookies);
800         if (!dp) {
801                 if (add) {
802                         dp = malloc(sizeof (struct nfsdmap),
803                                 M_NFSDIROFF, M_WAITOK);
804                         dp->ndm_eocookie = 0;
805                         LIST_INSERT_HEAD(&np->n_cookies, dp, ndm_list);
806                 } else
807                         goto out;
808         }
809         while (pos >= NFSNUMCOOKIES) {
810                 pos -= NFSNUMCOOKIES;
811                 if (LIST_NEXT(dp, ndm_list)) {
812                         if (!add && dp->ndm_eocookie < NFSNUMCOOKIES &&
813                             pos >= dp->ndm_eocookie)
814                                 goto out;
815                         dp = LIST_NEXT(dp, ndm_list);
816                 } else if (add) {
817                         dp2 = malloc(sizeof (struct nfsdmap),
818                                 M_NFSDIROFF, M_WAITOK);
819                         dp2->ndm_eocookie = 0;
820                         LIST_INSERT_AFTER(dp, dp2, ndm_list);
821                         dp = dp2;
822                 } else
823                         goto out;
824         }
825         if (pos >= dp->ndm_eocookie) {
826                 if (add)
827                         dp->ndm_eocookie = pos + 1;
828                 else
829                         goto out;
830         }
831         retval = &dp->ndm_cookies[pos];
832 out:
833         return (retval);
834 }
835
836 /*
837  * Invalidate cached directory information, except for the actual directory
838  * blocks (which are invalidated separately).
839  * Done mainly to avoid the use of stale offset cookies.
840  */
841 void
842 nfs_invaldir(struct vnode *vp)
843 {
844         struct nfsnode *np = VTONFS(vp);
845
846 #ifdef DIAGNOSTIC
847         if (vp->v_type != VDIR)
848                 panic("nfs: invaldir not dir");
849 #endif
850         nfs_dircookie_lock(np);
851         np->n_direofoffset = 0;
852         np->n_cookieverf.nfsuquad[0] = 0;
853         np->n_cookieverf.nfsuquad[1] = 0;
854         if (LIST_FIRST(&np->n_cookies))
855                 LIST_FIRST(&np->n_cookies)->ndm_eocookie = 0;
856         nfs_dircookie_unlock(np);
857 }
858
859 /*
860  * The write verifier has changed (probably due to a server reboot), so all
861  * B_NEEDCOMMIT blocks will have to be written again. Since they are on the
862  * dirty block list as B_DELWRI, all this takes is clearing the B_NEEDCOMMIT
863  * and B_CLUSTEROK flags.  Once done the new write verifier can be set for the
864  * mount point.
865  *
866  * B_CLUSTEROK must be cleared along with B_NEEDCOMMIT because stage 1 data
867  * writes are not clusterable.
868  */
869 void
870 nfs_clearcommit(struct mount *mp)
871 {
872         struct vnode *vp, *nvp;
873         struct buf *bp, *nbp;
874         struct bufobj *bo;
875
876         MNT_ILOCK(mp);
877         MNT_VNODE_FOREACH(vp, mp, nvp) {
878                 bo = &vp->v_bufobj;
879                 VI_LOCK(vp);
880                 if (vp->v_iflag & VI_DOOMED) {
881                         VI_UNLOCK(vp);
882                         continue;
883                 }
884                 vholdl(vp);
885                 VI_UNLOCK(vp);
886                 MNT_IUNLOCK(mp);
887                 BO_LOCK(bo);
888                 TAILQ_FOREACH_SAFE(bp, &bo->bo_dirty.bv_hd, b_bobufs, nbp) {
889                         if (!BUF_ISLOCKED(bp) &&
890                             (bp->b_flags & (B_DELWRI | B_NEEDCOMMIT))
891                                 == (B_DELWRI | B_NEEDCOMMIT))
892                                 bp->b_flags &= ~(B_NEEDCOMMIT | B_CLUSTEROK);
893                 }
894                 BO_UNLOCK(bo);
895                 vdrop(vp);
896                 MNT_ILOCK(mp);
897         }
898         MNT_IUNLOCK(mp);
899 }
900
901 /*
902  * Helper functions for former macros.  Some of these should be
903  * moved to their callers.
904  */
905
906 int
907 nfsm_mtofh_xx(struct vnode *d, struct vnode **v, int v3, int *f,
908     struct mbuf **md, caddr_t *dpos)
909 {
910         struct nfsnode *ttnp;
911         struct vnode *ttvp;
912         nfsfh_t *ttfhp;
913         u_int32_t *tl;
914         int ttfhsize;
915         int t1;
916
917         if (v3) {
918                 tl = nfsm_dissect_xx(NFSX_UNSIGNED, md, dpos);
919                 if (tl == NULL)
920                         return EBADRPC;
921                 *f = fxdr_unsigned(int, *tl);
922         } else
923                 *f = 1;
924         if (*f) {
925                 t1 = nfsm_getfh_xx(&ttfhp, &ttfhsize, (v3), md, dpos);
926                 if (t1 != 0)
927                         return t1;
928                 t1 = nfs_nget(d->v_mount, ttfhp, ttfhsize, &ttnp, LK_EXCLUSIVE);
929                 if (t1 != 0)
930                         return t1;
931                 *v = NFSTOV(ttnp);
932         }
933         if (v3) {
934                 tl = nfsm_dissect_xx(NFSX_UNSIGNED, md, dpos);
935                 if (tl == NULL)
936                         return EBADRPC;
937                 if (*f)
938                         *f = fxdr_unsigned(int, *tl);
939                 else if (fxdr_unsigned(int, *tl))
940                         nfsm_adv_xx(NFSX_V3FATTR, md, dpos);
941         }
942         if (*f) {
943                 ttvp = *v;
944                 t1 = nfs_loadattrcache(&ttvp, md, dpos, NULL, 0);
945                 if (t1)
946                         return t1;
947                 *v = ttvp;
948         }
949         return 0;
950 }
951
952 int
953 nfsm_getfh_xx(nfsfh_t **f, int *s, int v3, struct mbuf **md, caddr_t *dpos)
954 {
955         u_int32_t *tl;
956
957         if (v3) {
958                 tl = nfsm_dissect_xx(NFSX_UNSIGNED, md, dpos);
959                 if (tl == NULL)
960                         return EBADRPC;
961                 *s = fxdr_unsigned(int, *tl);
962                 if (*s <= 0 || *s > NFSX_V3FHMAX)
963                         return EBADRPC;
964         } else
965                 *s = NFSX_V2FH;
966         *f = nfsm_dissect_xx(nfsm_rndup(*s), md, dpos);
967         if (*f == NULL)
968                 return EBADRPC;
969         else
970                 return 0;
971 }
972
973
974 int
975 nfsm_loadattr_xx(struct vnode **v, struct vattr *va, struct mbuf **md,
976                  caddr_t *dpos)
977 {
978         int t1;
979
980         struct vnode *ttvp = *v;
981         t1 = nfs_loadattrcache(&ttvp, md, dpos, va, 0);
982         if (t1 != 0)
983                 return t1;
984         *v = ttvp;
985         return 0;
986 }
987
988 int
989 nfsm_postop_attr_xx(struct vnode **v, int *f, struct mbuf **md,
990                     caddr_t *dpos)
991 {
992         u_int32_t *tl;
993         int t1;
994
995         struct vnode *ttvp = *v;
996         tl = nfsm_dissect_xx(NFSX_UNSIGNED, md, dpos);
997         if (tl == NULL)
998                 return EBADRPC;
999         *f = fxdr_unsigned(int, *tl);
1000         if (*f != 0) {
1001                 t1 = nfs_loadattrcache(&ttvp, md, dpos, NULL, 1);
1002                 if (t1 != 0) {
1003                         *f = 0;
1004                         return t1;
1005                 }
1006                 *v = ttvp;
1007         }
1008         return 0;
1009 }
1010
1011 int
1012 nfsm_wcc_data_xx(struct vnode **v, int *f, struct mbuf **md, caddr_t *dpos)
1013 {
1014         u_int32_t *tl;
1015         int ttattrf, ttretf = 0;
1016         int t1;
1017
1018         tl = nfsm_dissect_xx(NFSX_UNSIGNED, md, dpos);
1019         if (tl == NULL)
1020                 return EBADRPC;
1021         if (*tl == nfs_true) {
1022                 tl = nfsm_dissect_xx(6 * NFSX_UNSIGNED, md, dpos);
1023                 if (tl == NULL)
1024                         return EBADRPC;
1025                 mtx_lock(&(VTONFS(*v))->n_mtx);
1026                 if (*f)
1027                         ttretf = (VTONFS(*v)->n_mtime.tv_sec == fxdr_unsigned(u_int32_t, *(tl + 2)) && 
1028                                   VTONFS(*v)->n_mtime.tv_nsec == fxdr_unsigned(u_int32_t, *(tl + 3))); 
1029                 mtx_unlock(&(VTONFS(*v))->n_mtx);
1030         }
1031         t1 = nfsm_postop_attr_xx(v, &ttattrf, md, dpos);
1032         if (t1)
1033                 return t1;
1034         if (*f)
1035                 *f = ttretf;
1036         else
1037                 *f = ttattrf;
1038         return 0;
1039 }
1040
1041 int
1042 nfsm_strtom_xx(const char *a, int s, int m, struct mbuf **mb, caddr_t *bpos)
1043 {
1044         u_int32_t *tl;
1045         int t1;
1046
1047         if (s > m)
1048                 return ENAMETOOLONG;
1049         t1 = nfsm_rndup(s) + NFSX_UNSIGNED;
1050         if (t1 <= M_TRAILINGSPACE(*mb)) {
1051                 tl = nfsm_build_xx(t1, mb, bpos);
1052                 *tl++ = txdr_unsigned(s);
1053                 *(tl + ((t1 >> 2) - 2)) = 0;
1054                 bcopy(a, tl, s);
1055         } else {
1056                 t1 = nfsm_strtmbuf(mb, bpos, a, s);
1057                 if (t1 != 0)
1058                         return t1;
1059         }
1060         return 0;
1061 }
1062
1063 int
1064 nfsm_fhtom_xx(struct vnode *v, int v3, struct mbuf **mb, caddr_t *bpos)
1065 {
1066         u_int32_t *tl;
1067         int t1;
1068         caddr_t cp;
1069
1070         if (v3) {
1071                 t1 = nfsm_rndup(VTONFS(v)->n_fhsize) + NFSX_UNSIGNED;
1072                 if (t1 < M_TRAILINGSPACE(*mb)) {
1073                         tl = nfsm_build_xx(t1, mb, bpos);
1074                         *tl++ = txdr_unsigned(VTONFS(v)->n_fhsize);
1075                         *(tl + ((t1 >> 2) - 2)) = 0;
1076                         bcopy(VTONFS(v)->n_fhp, tl, VTONFS(v)->n_fhsize);
1077                 } else {
1078                         t1 = nfsm_strtmbuf(mb, bpos,
1079                             (const char *)VTONFS(v)->n_fhp,
1080                             VTONFS(v)->n_fhsize);
1081                         if (t1 != 0)
1082                                 return t1;
1083                 }
1084         } else {
1085                 cp = nfsm_build_xx(NFSX_V2FH, mb, bpos);
1086                 bcopy(VTONFS(v)->n_fhp, cp, NFSX_V2FH);
1087         }
1088         return 0;
1089 }
1090
1091 void
1092 nfsm_v3attrbuild_xx(struct vattr *va, int full, struct mbuf **mb,
1093     caddr_t *bpos)
1094 {
1095         u_int32_t *tl;
1096
1097         if (va->va_mode != (mode_t)VNOVAL) {
1098                 tl = nfsm_build_xx(2 * NFSX_UNSIGNED, mb, bpos);
1099                 *tl++ = nfs_true;
1100                 *tl = txdr_unsigned(va->va_mode);
1101         } else {
1102                 tl = nfsm_build_xx(NFSX_UNSIGNED, mb, bpos);
1103                 *tl = nfs_false;
1104         }
1105         if (full && va->va_uid != (uid_t)VNOVAL) {
1106                 tl = nfsm_build_xx(2 * NFSX_UNSIGNED, mb, bpos);
1107                 *tl++ = nfs_true;
1108                 *tl = txdr_unsigned(va->va_uid);
1109         } else {
1110                 tl = nfsm_build_xx(NFSX_UNSIGNED, mb, bpos);
1111                 *tl = nfs_false;
1112         }
1113         if (full && va->va_gid != (gid_t)VNOVAL) {
1114                 tl = nfsm_build_xx(2 * NFSX_UNSIGNED, mb, bpos);
1115                 *tl++ = nfs_true;
1116                 *tl = txdr_unsigned(va->va_gid);
1117         } else {
1118                 tl = nfsm_build_xx(NFSX_UNSIGNED, mb, bpos);
1119                 *tl = nfs_false;
1120         }
1121         if (full && va->va_size != VNOVAL) {
1122                 tl = nfsm_build_xx(3 * NFSX_UNSIGNED, mb, bpos);
1123                 *tl++ = nfs_true;
1124                 txdr_hyper(va->va_size, tl);
1125         } else {
1126                 tl = nfsm_build_xx(NFSX_UNSIGNED, mb, bpos);
1127                 *tl = nfs_false;
1128         }
1129         if (va->va_atime.tv_sec != VNOVAL) {
1130                 if (va->va_atime.tv_sec != time_second) {
1131                         tl = nfsm_build_xx(3 * NFSX_UNSIGNED, mb, bpos);
1132                         *tl++ = txdr_unsigned(NFSV3SATTRTIME_TOCLIENT);
1133                         txdr_nfsv3time(&va->va_atime, tl);
1134                 } else {
1135                         tl = nfsm_build_xx(NFSX_UNSIGNED, mb, bpos);
1136                         *tl = txdr_unsigned(NFSV3SATTRTIME_TOSERVER);
1137                 }
1138         } else {
1139                 tl = nfsm_build_xx(NFSX_UNSIGNED, mb, bpos);
1140                 *tl = txdr_unsigned(NFSV3SATTRTIME_DONTCHANGE);
1141         }
1142         if (va->va_mtime.tv_sec != VNOVAL) {
1143                 if (va->va_mtime.tv_sec != time_second) {
1144                         tl = nfsm_build_xx(3 * NFSX_UNSIGNED, mb, bpos);
1145                         *tl++ = txdr_unsigned(NFSV3SATTRTIME_TOCLIENT);
1146                         txdr_nfsv3time(&va->va_mtime, tl);
1147                 } else {
1148                         tl = nfsm_build_xx(NFSX_UNSIGNED, mb, bpos);
1149                         *tl = txdr_unsigned(NFSV3SATTRTIME_TOSERVER);
1150                 }
1151         } else {
1152                 tl = nfsm_build_xx(NFSX_UNSIGNED, mb, bpos);
1153                 *tl = txdr_unsigned(NFSV3SATTRTIME_DONTCHANGE);
1154         }
1155 }