sys/powerpc/powerpc/uma_machdep.c

   1 /*-
   2  * Copyright (c) 2003 The FreeBSD Project
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  *
   9  * 1. Redistributions of source code must retain the above copyright
  10  *    notice, this list of conditions and the following disclaimer.
  11  * 2. Redistributions in binary form must reproduce the above copyright
  12  *    notice, this list of conditions and the following disclaimer in the
  13  *    documentation and/or other materials provided with the distribution.
  14  *
  15  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR ``AS IS'' AND ANY EXPRESS OR
  16  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
  17  * OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.
  18  * IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR ANY DIRECT, INDIRECT,
  19  * INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  20  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  21  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  22  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  23  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
  24  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  25  */
  26
  27 #include <sys/cdefs.h>
  28 __FBSDID("$FreeBSD$");
  29
  30 #include <sys/param.h>
  31 #include <sys/systm.h>
  32 #include <sys/malloc.h>
  33 #include <sys/sysctl.h>
  34 #include <vm/vm.h>
  35 #include <vm/vm_param.h>
  36 #include <vm/pmap.h>
  37 #include <vm/vm_page.h>
  38 #include <vm/vm_dumpset.h>
  39 #include <vm/uma.h>
  40 #include <vm/uma_int.h>
  41 #include <machine/md_var.h>
  42
  43 static int hw_uma_mdpages;
  44 SYSCTL_INT(_hw, OID_AUTO, uma_mdpages, CTLFLAG_RD, &hw_uma_mdpages, 0,
  45            "UMA MD pages in use");
  46
  47 void *
  48 uma_small_alloc(uma_zone_t zone, vm_size_t bytes, int domain, u_int8_t *flags,
  49     int wait)
  50 {
  51         void *va;
  52         vm_paddr_t pa;
  53         vm_page_t m;
  54
  55         *flags = UMA_SLAB_PRIV;
  56
  57         m = vm_page_alloc_domain(NULL, 0, domain,
  58             malloc2vm_flags(wait) | VM_ALLOC_WIRED | VM_ALLOC_NOOBJ);
  59         if (m == NULL)
  60                 return (NULL);
  61
  62         pa = VM_PAGE_TO_PHYS(m);
  63 #ifdef __powerpc64__
  64         if ((wait & M_NODUMP) == 0)
  65                 dump_add_page(pa);
  66 #endif
  67
  68         if (!hw_direct_map) {
  69                 pmap_kenter(pa, pa);
  70                 va = (void *)(vm_offset_t)pa;
  71         } else {
  72                 va = (void *)(vm_offset_t)PHYS_TO_DMAP(pa);
  73         }
  74
  75         if ((wait & M_ZERO) && (m->flags & PG_ZERO) == 0)
  76                 bzero(va, PAGE_SIZE);
  77         atomic_add_int(&hw_uma_mdpages, 1);
  78
  79         return (va);
  80 }
  81
  82 void
  83 uma_small_free(void *mem, vm_size_t size, u_int8_t flags)
  84 {
  85         vm_page_t m;
  86
  87         if (hw_direct_map)
  88                 m = PHYS_TO_VM_PAGE(DMAP_TO_PHYS((vm_offset_t)mem));
  89         else {
  90                 m = PHYS_TO_VM_PAGE(pmap_kextract((vm_offset_t)mem));
  91                 pmap_kremove((vm_offset_t)mem);
  92         }
  93
  94         KASSERT(m != NULL,
  95             ("Freeing UMA block at %p with no associated page", mem));
  96 #ifdef __powerpc64__
  97         dump_drop_page(VM_PAGE_TO_PHYS(m));
  98 #endif
  99         vm_page_unwire_noq(m);
 100         vm_page_free(m);
 101         atomic_subtract_int(&hw_uma_mdpages, 1);
 102 }