sys/amd64/amd64/uma_machdep.c

   1 /*-
   2  * Copyright (c) 2003 Alan L. Cox <alc@cs.rice.edu>
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *    notice, this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright
  11  *    notice, this list of conditions and the following disclaimer in the
  12  *    documentation and/or other materials provided with the distribution.
  13  *
  14  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  15  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  16  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  17  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  18  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  19  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  20  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  21  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  22  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  23  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  24  * SUCH DAMAGE.
  25  */
  26
  27 #include <sys/cdefs.h>
  28 __FBSDID("$FreeBSD$");
  29
  30 #include <sys/param.h>
  31 #include <sys/lock.h>
  32 #include <sys/mutex.h>
  33 #include <sys/systm.h>
  34 #include <vm/vm.h>
  35 #include <vm/vm_page.h>
  36 #include <vm/vm_pageout.h>
  37 #include <vm/uma.h>
  38 #include <vm/uma_int.h>
  39 #include <machine/md_var.h>
  40 #include <machine/vmparam.h>
  41
  42 void *
  43 uma_small_alloc(uma_zone_t zone, int bytes, u_int8_t *flags, int wait)
  44 {
  45         static vm_pindex_t colour;
  46         vm_page_t m;
  47         vm_paddr_t pa;
  48         void *va;
  49         int pflags;
  50
  51         *flags = UMA_SLAB_PRIV;
  52         if ((wait & (M_NOWAIT|M_USE_RESERVE)) == M_NOWAIT)
  53                 pflags = VM_ALLOC_INTERRUPT | VM_ALLOC_WIRED;
  54         else
  55                 pflags = VM_ALLOC_SYSTEM | VM_ALLOC_WIRED;
  56         if (wait & M_ZERO)
  57                 pflags |= VM_ALLOC_ZERO;
  58         for (;;) {
  59                 m = vm_page_alloc(NULL, colour++, pflags | VM_ALLOC_NOOBJ);
  60                 if (m == NULL) {
  61                         if (wait & M_NOWAIT)
  62                                 return (NULL);
  63                         else
  64                                 VM_WAIT;
  65                 } else
  66                         break;
  67         }
  68         pa = m->phys_addr;
  69         dump_add_page(pa);
  70         va = (void *)PHYS_TO_DMAP(pa);
  71         if ((wait & M_ZERO) && (m->flags & PG_ZERO) == 0)
  72                 pagezero(va);
  73         return (va);
  74 }
  75
  76 void
  77 uma_small_free(void *mem, int size, u_int8_t flags)
  78 {
  79         vm_page_t m;
  80         vm_paddr_t pa;
  81
  82         pa = DMAP_TO_PHYS((vm_offset_t)mem);
  83         dump_drop_page(pa);
  84         m = PHYS_TO_VM_PAGE(pa);
  85         m->wire_count--;
  86         vm_page_free(m);
  87         atomic_subtract_int(&cnt.v_wire_count, 1);
  88 }