sys/amd64/amd64/uma_machdep.c

   1 /*-
   2  * Copyright (c) 2003 Alan L. Cox <alc@cs.rice.edu>
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *    notice, this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright
  11  *    notice, this list of conditions and the following disclaimer in the
  12  *    documentation and/or other materials provided with the distribution.
  13  *
  14  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  15  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  16  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  17  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  18  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  19  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  20  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  21  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  22  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  23  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  24  * SUCH DAMAGE.
  25  */
  26
  27 #include <sys/cdefs.h>
  28 __FBSDID("$FreeBSD$");
  29
  30 #include <sys/param.h>
  31 #include <sys/lock.h>
  32 #include <sys/mutex.h>
  33 #include <sys/systm.h>
  34 #include <vm/vm.h>
  35 #include <vm/vm_page.h>
  36 #include <vm/vm_pageout.h>
  37 #include <vm/uma.h>
  38 #include <vm/uma_int.h>
  39 #include <machine/md_var.h>
  40 #include <machine/vmparam.h>
  41
  42 void *
  43 uma_small_alloc(uma_zone_t zone, int bytes, u_int8_t *flags, int wait)
  44 {
  45         vm_page_t m;
  46         vm_paddr_t pa;
  47         void *va;
  48         int pflags;
  49
  50         *flags = UMA_SLAB_PRIV;
  51         if ((wait & (M_NOWAIT|M_USE_RESERVE)) == M_NOWAIT)
  52                 pflags = VM_ALLOC_INTERRUPT | VM_ALLOC_NOOBJ | VM_ALLOC_WIRED;
  53         else
  54                 pflags = VM_ALLOC_SYSTEM | VM_ALLOC_NOOBJ | VM_ALLOC_WIRED;
  55         if (wait & M_ZERO)
  56                 pflags |= VM_ALLOC_ZERO;
  57         for (;;) {
  58                 m = vm_page_alloc(NULL, 0, pflags);
  59                 if (m == NULL) {
  60                         if (wait & M_NOWAIT)
  61                                 return (NULL);
  62                         else
  63                                 VM_WAIT;
  64                 } else
  65                         break;
  66         }
  67         pa = m->phys_addr;
  68         if ((wait & M_NODUMP) == 0)
  69                 dump_add_page(pa);
  70         va = (void *)PHYS_TO_DMAP(pa);
  71         if ((wait & M_ZERO) && (m->flags & PG_ZERO) == 0)
  72                 pagezero(va);
  73         return (va);
  74 }
  75
  76 void
  77 uma_small_free(void *mem, int size, u_int8_t flags)
  78 {
  79         vm_page_t m;
  80         vm_paddr_t pa;
  81
  82         pa = DMAP_TO_PHYS((vm_offset_t)mem);
  83         dump_drop_page(pa);
  84         m = PHYS_TO_VM_PAGE(pa);
  85         m->wire_count--;
  86         vm_page_free(m);
  87         atomic_subtract_int(&cnt.v_wire_count, 1);
  88 }