sys/arm64/include/vmparam.h

   1 /*-
   2  * Copyright (c) 1990 The Regents of the University of California.
   3  * All rights reserved.
   4  * Copyright (c) 1994 John S. Dyson
   5  * All rights reserved.
   6  *
   7  * This code is derived from software contributed to Berkeley by
   8  * William Jolitz.
   9  *
  10  * Redistribution and use in source and binary forms, with or without
  11  * modification, are permitted provided that the following conditions
  12  * are met:
  13  * 1. Redistributions of source code must retain the above copyright
  14  *    notice, this list of conditions and the following disclaimer.
  15  * 2. Redistributions in binary form must reproduce the above copyright
  16  *    notice, this list of conditions and the following disclaimer in the
  17  *    documentation and/or other materials provided with the distribution.
  18  * 3. Neither the name of the University nor the names of its contributors
  19  *    may be used to endorse or promote products derived from this software
  20  *    without specific prior written permission.
  21  *
  22  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
  23  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  24  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  25  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
  26  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  27  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  28  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  29  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  30  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  31  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  32  * SUCH DAMAGE.
  33  *
  34  *      from: @(#)vmparam.h     5.9 (Berkeley) 5/12/91
  35  *      from: FreeBSD: src/sys/i386/include/vmparam.h,v 1.33 2000/03/30
  36  * $FreeBSD$
  37  */
  38
  39 #ifndef _MACHINE_VMPARAM_H_
  40 #define _MACHINE_VMPARAM_H_
  41
  42 /*
  43  * Virtual memory related constants, all in bytes
  44  */
  45 #ifndef MAXTSIZ
  46 #define MAXTSIZ         (1*1024*1024*1024)      /* max text size */
  47 #endif
  48 #ifndef DFLDSIZ
  49 #define DFLDSIZ         (128*1024*1024)         /* initial data size limit */
  50 #endif
  51 #ifndef MAXDSIZ
  52 #define MAXDSIZ         (1*1024*1024*1024)      /* max data size */
  53 #endif
  54 #ifndef DFLSSIZ
  55 #define DFLSSIZ         (128*1024*1024)         /* initial stack size limit */
  56 #endif
  57 #ifndef MAXSSIZ
  58 #define MAXSSIZ         (1*1024*1024*1024)      /* max stack size */
  59 #endif
  60 #ifndef SGROWSIZ
  61 #define SGROWSIZ        (128*1024)              /* amount to grow stack */
  62 #endif
  63
  64 /*
  65  * The physical address space is sparsely populated.
  66  */
  67 #define VM_PHYSSEG_SPARSE
  68
  69 /*
  70  * The number of PHYSSEG entries.
  71  */
  72 #define VM_PHYSSEG_MAX          64
  73
  74 /*
  75  * Create two free page pools: VM_FREEPOOL_DEFAULT is the default pool
  76  * from which physical pages are allocated and VM_FREEPOOL_DIRECT is
  77  * the pool from which physical pages for small UMA objects are
  78  * allocated.
  79  */
  80 #define VM_NFREEPOOL            2
  81 #define VM_FREEPOOL_DEFAULT     0
  82 #define VM_FREEPOOL_DIRECT      1
  83
  84 /*
  85  * Create one free page lists: VM_FREELIST_DEFAULT is for all physical
  86  * pages.
  87  */
  88 #define VM_NFREELIST            1
  89 #define VM_FREELIST_DEFAULT     0
  90
  91 /*
  92  * When PAGE_SIZE is 4KB, an allocation size of 16MB is supported in order
  93  * to optimize the use of the direct map by UMA.  Specifically, a 64-byte
  94  * cache line contains at most 8 L2 BLOCK entries, collectively mapping 16MB
  95  * of physical memory.  By reducing the number of distinct 16MB "pages" that
  96  * are used by UMA, the physical memory allocator reduces the likelihood of
  97  * both 2MB page TLB misses and cache misses during the page table walk when
  98  * a 2MB page TLB miss does occur.
  99  */
 100 #define VM_NFREEORDER           13
 101
 102 /*
 103  * Enable superpage reservations: 1 level.
 104  */
 105 #ifndef VM_NRESERVLEVEL
 106 #define VM_NRESERVLEVEL         1
 107 #endif
 108
 109 /*
 110  * Level 0 reservations consist of 512 pages.
 111  */
 112 #ifndef VM_LEVEL_0_ORDER
 113 #define VM_LEVEL_0_ORDER        9
 114 #endif
 115
 116 /**
 117  * Address space layout.
 118  *
 119  * ARMv8 implements up to a 48 bit virtual address space. The address space is
 120  * split into 2 regions at each end of the 64 bit address space, with an
 121  * out of range "hole" in the middle.
 122  *
 123  * We use the full 48 bits for each region, however the kernel may only use
 124  * a limited range within this space.
 125  *
 126  * Upper region:    0xffffffffffffffff  Top of virtual memory
 127  *
 128  *                  0xfffffeffffffffff  End of DMAP
 129  *                  0xffffa00000000000  Start of DMAP
 130  *
 131  *                  0xffff009fffffffff  End of KASAN shadow map
 132  *                  0xffff008000000000  Start of KASAN shadow map
 133  *
 134  *                  0xffff007fffffffff  End of KVA
 135  *                  0xffff000000000000  Kernel base address & start of KVA
 136  *
 137  * Hole:            0xfffeffffffffffff
 138  *                  0x0001000000000000
 139  *
 140  * Lower region:    0x0000ffffffffffff End of user address space
 141  *                  0x0000000000000000 Start of user address space
 142  *
 143  * We use the upper region for the kernel, and the lower region for userland.
 144  *
 145  * We define some interesting address constants:
 146  *
 147  * VM_MIN_ADDRESS and VM_MAX_ADDRESS define the start and end of the entire
 148  * 64 bit address space, mostly just for convenience.
 149  *
 150  * VM_MIN_KERNEL_ADDRESS and VM_MAX_KERNEL_ADDRESS define the start and end of
 151  * mappable kernel virtual address space.
 152  *
 153  * VM_MIN_USER_ADDRESS and VM_MAX_USER_ADDRESS define the start and end of the
 154  * user address space.
 155  */
 156 #define VM_MIN_ADDRESS          (0x0000000000000000UL)
 157 #define VM_MAX_ADDRESS          (0xffffffffffffffffUL)
 158
 159 /* 512 GiB of kernel addresses */
 160 #define VM_MIN_KERNEL_ADDRESS   (0xffff000000000000UL)
 161 #define VM_MAX_KERNEL_ADDRESS   (0xffff008000000000UL)
 162
 163 /* 128 GiB KASAN shadow map */
 164 #define KASAN_MIN_ADDRESS       (0xffff008000000000UL)
 165 #define KASAN_MAX_ADDRESS       (0xffff00a000000000UL)
 166
 167 /* The address bits that hold a pointer authentication code */
 168 #define PAC_ADDR_MASK           (0xff7f000000000000UL)
 169
 170 /* If true addr is in the kernel address space */
 171 #define ADDR_IS_KERNEL(addr)    (((addr) & (1ul << 55)) == (1ul << 55))
 172 /* If true addr is in its canonical form (i.e. no TBI, PAC, etc.) */
 173 #define ADDR_IS_CANONICAL(addr) \
 174     (((addr) & 0xffff000000000000UL) == 0 || \
 175      ((addr) & 0xffff000000000000UL) == 0xffff000000000000UL)
 176 #define ADDR_MAKE_CANONICAL(addr) ({                    \
 177         __typeof(addr) _tmp_addr = (addr);              \
 178                                                         \
 179         _tmp_addr &= ~0xffff000000000000UL;             \
 180         if (ADDR_IS_KERNEL(addr))                       \
 181                 _tmp_addr |= 0xffff000000000000UL;      \
 182                                                         \
 183         _tmp_addr;                                      \
 184 })
 185
 186 /* 95 TiB maximum for the direct map region */
 187 #define DMAP_MIN_ADDRESS        (0xffffa00000000000UL)
 188 #define DMAP_MAX_ADDRESS        (0xffffff0000000000UL)
 189
 190 #define DMAP_MIN_PHYSADDR       (dmap_phys_base)
 191 #define DMAP_MAX_PHYSADDR       (dmap_phys_max)
 192
 193 /* True if pa is in the dmap range */
 194 #define PHYS_IN_DMAP(pa)        ((pa) >= DMAP_MIN_PHYSADDR && \
 195     (pa) < DMAP_MAX_PHYSADDR)
 196 /* True if va is in the dmap range */
 197 #define VIRT_IN_DMAP(va)        ((va) >= DMAP_MIN_ADDRESS && \
 198     (va) < (dmap_max_addr))
 199
 200 #define PMAP_HAS_DMAP   1
 201 #define PHYS_TO_DMAP(pa)                                                \
 202 ({                                                                      \
 203         KASSERT(PHYS_IN_DMAP(pa),                                       \
 204             ("%s: PA out of range, PA: 0x%lx", __func__,                \
 205             (vm_paddr_t)(pa)));                                         \
 206         ((pa) - dmap_phys_base) + DMAP_MIN_ADDRESS;                     \
 207 })
 208
 209 #define DMAP_TO_PHYS(va)                                                \
 210 ({                                                                      \
 211         KASSERT(VIRT_IN_DMAP(va),                                       \
 212             ("%s: VA out of range, VA: 0x%lx", __func__,                \
 213             (vm_offset_t)(va)));                                        \
 214         ((va) - DMAP_MIN_ADDRESS) + dmap_phys_base;                     \
 215 })
 216
 217 #define VM_MIN_USER_ADDRESS     (0x0000000000000000UL)
 218 #define VM_MAX_USER_ADDRESS     (0x0001000000000000UL)
 219
 220 #define VM_MINUSER_ADDRESS      (VM_MIN_USER_ADDRESS)
 221 #define VM_MAXUSER_ADDRESS      (VM_MAX_USER_ADDRESS)
 222
 223 #define KERNBASE                (VM_MIN_KERNEL_ADDRESS)
 224 #define SHAREDPAGE              (VM_MAXUSER_ADDRESS - PAGE_SIZE)
 225 #define USRSTACK                SHAREDPAGE
 226
 227 /*
 228  * How many physical pages per kmem arena virtual page.
 229  */
 230 #ifndef VM_KMEM_SIZE_SCALE
 231 #define VM_KMEM_SIZE_SCALE      (1)
 232 #endif
 233
 234 /*
 235  * Optional ceiling (in bytes) on the size of the kmem arena: 60% of the
 236  * kernel map.
 237  */
 238 #ifndef VM_KMEM_SIZE_MAX
 239 #define VM_KMEM_SIZE_MAX        ((VM_MAX_KERNEL_ADDRESS - \
 240     VM_MIN_KERNEL_ADDRESS + 1) * 3 / 5)
 241 #endif
 242
 243 /*
 244  * Initial pagein size of beginning of executable file.
 245  */
 246 #ifndef VM_INITIAL_PAGEIN
 247 #define VM_INITIAL_PAGEIN       16
 248 #endif
 249
 250 #if !defined(KASAN) && !defined(KMSAN)
 251 #define UMA_MD_SMALL_ALLOC
 252 #endif
 253
 254 #ifndef LOCORE
 255
 256 extern vm_paddr_t dmap_phys_base;
 257 extern vm_paddr_t dmap_phys_max;
 258 extern vm_offset_t dmap_max_addr;
 259 extern vm_offset_t vm_max_kernel_address;
 260
 261 #endif
 262
 263 #define ZERO_REGION_SIZE        (64 * 1024)     /* 64KB */
 264
 265 #define DEVMAP_MAX_VADDR        VM_MAX_KERNEL_ADDRESS
 266
 267 /*
 268  * The pmap can create non-transparent large page mappings.
 269  */
 270 #define PMAP_HAS_LARGEPAGES     1
 271
 272 /*
 273  * Need a page dump array for minidump.
 274  */
 275 #define MINIDUMP_PAGE_TRACKING  1
 276
 277 #endif /* !_MACHINE_VMPARAM_H_ */