sys/powerpc/include/pte.h

   1 /*-
   2  * SPDX-License-Identifier: BSD-4-Clause
   3  *
   4  * Copyright (C) 1995, 1996 Wolfgang Solfrank.
   5  * Copyright (C) 1995, 1996 TooLs GmbH.
   6  * All rights reserved.
   7  *
   8  * Redistribution and use in source and binary forms, with or without
   9  * modification, are permitted provided that the following conditions
  10  * are met:
  11  * 1. Redistributions of source code must retain the above copyright
  12  *    notice, this list of conditions and the following disclaimer.
  13  * 2. Redistributions in binary form must reproduce the above copyright
  14  *    notice, this list of conditions and the following disclaimer in the
  15  *    documentation and/or other materials provided with the distribution.
  16  * 3. All advertising materials mentioning features or use of this software
  17  *    must display the following acknowledgement:
  18  *      This product includes software developed by TooLs GmbH.
  19  * 4. The name of TooLs GmbH may not be used to endorse or promote products
  20  *    derived from this software without specific prior written permission.
  21  *
  22  * THIS SOFTWARE IS PROVIDED BY TOOLS GMBH ``AS IS'' AND ANY EXPRESS OR
  23  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
  24  * OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.
  25  * IN NO EVENT SHALL TOOLS GMBH BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  26  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
  27  * PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS;
  28  * OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY,
  29  * WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR
  30  * OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF
  31  * ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  32  *
  33  *      $NetBSD: pte.h,v 1.2 1998/08/31 14:43:40 tsubai Exp $
  34  * $FreeBSD$
  35  */
  36
  37 #ifndef _MACHINE_PTE_H_
  38 #define _MACHINE_PTE_H_
  39
  40 #if defined(AIM)
  41
  42 /*
  43  * Page Table Entries
  44  */
  45 #ifndef LOCORE
  46
  47 /* 32-bit PTE */
  48 struct pte {
  49         u_int32_t pte_hi;
  50         u_int32_t pte_lo;
  51 };
  52
  53 struct pteg {
  54         struct  pte pt[8];
  55 };
  56
  57 /* 64-bit (long) PTE */
  58 struct lpte {
  59         u_int64_t pte_hi;
  60         u_int64_t pte_lo;
  61 };
  62
  63 struct lpteg {
  64         struct lpte pt[8];
  65 };
  66
  67 /* Partition table entry */
  68 struct pate {
  69         u_int64_t pagetab;
  70         u_int64_t proctab;
  71 };
  72
  73 typedef struct pte pte_t;
  74 typedef struct lpte lpte_t;
  75 #endif  /* LOCORE */
  76
  77 /* 32-bit PTE definitions */
  78
  79 /* High word: */
  80 #define PTE_VALID       0x80000000
  81 #define PTE_VSID_SHFT   7
  82 #define PTE_HID         0x00000040
  83 #define PTE_API         0x0000003f
  84 /* Low word: */
  85 #define PTE_RPGN        0xfffff000
  86 #define PTE_REF         0x00000100
  87 #define PTE_CHG         0x00000080
  88 #define PTE_WIMG        0x00000078
  89 #define PTE_W           0x00000040
  90 #define PTE_I           0x00000020
  91 #define PTE_M           0x00000010
  92 #define PTE_G           0x00000008
  93 #define PTE_PP          0x00000003
  94 #define PTE_SO          0x00000000      /* Super. Only       (U: XX, S: RW) */
  95 #define PTE_SW          0x00000001      /* Super. Write-Only (U: RO, S: RW) */
  96 #define PTE_BW          0x00000002      /* Supervisor        (U: RW, S: RW) */
  97 #define PTE_BR          0x00000003      /* Both Read Only    (U: RO, S: RO) */
  98 #define PTE_RW          PTE_BW
  99 #define PTE_RO          PTE_BR
 100
 101 #define PTE_EXEC        0x00000200      /* pseudo bit in attrs; page is exec */
 102
 103 /* 64-bit PTE definitions */
 104
 105 /* High quadword: */
 106 #define LPTE_VSID_SHIFT         12
 107 #define LPTE_AVPN_MASK          0xFFFFFFFFFFFFFF80ULL
 108 #define LPTE_API                0x0000000000000F80ULL
 109 #define LPTE_SWBITS             0x0000000000000078ULL
 110 #define LPTE_WIRED              0x0000000000000010ULL
 111 #define LPTE_LOCKED             0x0000000000000008ULL
 112 #define LPTE_BIG                0x0000000000000004ULL   /* 4kb/16Mb page */
 113 #define LPTE_HID                0x0000000000000002ULL
 114 #define LPTE_VALID              0x0000000000000001ULL
 115
 116 /* Low quadword: */
 117 #define EXTEND_PTE(x)   UINT64_C(x)     /* make constants 64-bit */
 118 #define LPTE_RPGN       0xfffffffffffff000ULL
 119 #define LPTE_REF        EXTEND_PTE( PTE_REF )
 120 #define LPTE_CHG        EXTEND_PTE( PTE_CHG )
 121 #define LPTE_WIMG       EXTEND_PTE( PTE_WIMG )
 122 #define LPTE_W          EXTEND_PTE( PTE_W )
 123 #define LPTE_I          EXTEND_PTE( PTE_I )
 124 #define LPTE_M          EXTEND_PTE( PTE_M )
 125 #define LPTE_G          EXTEND_PTE( PTE_G )
 126 #define LPTE_NOEXEC     0x0000000000000004ULL
 127 #define LPTE_PP         EXTEND_PTE( PTE_PP )
 128
 129 #define LPTE_SO         EXTEND_PTE( PTE_SO )    /* Super. Only */
 130 #define LPTE_SW         EXTEND_PTE( PTE_SW )    /* Super. Write-Only */
 131 #define LPTE_BW         EXTEND_PTE( PTE_BW )    /* Supervisor */
 132 #define LPTE_BR         EXTEND_PTE( PTE_BR )    /* Both Read Only */
 133 #define LPTE_RW         LPTE_BW
 134 #define LPTE_RO         LPTE_BR
 135
 136 /* POWER ISA 3.0 Radix Table Definitions */
 137 #define RPTE_VALID              0x8000000000000000ULL
 138 #define RPTE_LEAF               0x4000000000000000ULL /* is a PTE: always 1 */
 139 #define RPTE_SW0                0x2000000000000000ULL
 140 #define RPTE_RPN_MASK           0x00FFFFFFFFFFF000ULL
 141 #define RPTE_RPN_SHIFT          12
 142 #define RPTE_SW1                0x0000000000000800ULL
 143 #define RPTE_SW2                0x0000000000000400ULL
 144 #define RPTE_SW3                0x0000000000000200ULL
 145 #define RPTE_R                  0x0000000000000100ULL
 146 #define RPTE_C                  0x0000000000000080ULL
 147
 148 #define RPTE_ATTR_MASK          0x0000000000000030ULL
 149 #define RPTE_ATTR_MEM           0x0000000000000000ULL /* PTE M */
 150 #define RPTE_ATTR_SAO           0x0000000000000010ULL /* PTE WIM */
 151 #define RPTE_ATTR_GUARDEDIO     0x0000000000000020ULL /* PTE IMG */
 152 #define RPTE_ATTR_UNGUARDEDIO   0x0000000000000030ULL /* PTE IM */
 153
 154 #define RPTE_EAA_MASK           0x000000000000000FULL
 155 #define RPTE_EAA_P              0x0000000000000008ULL /* Supervisor only */
 156 #define RPTE_EAA_R              0x0000000000000004ULL /* Read allowed */
 157 #define RPTE_EAA_W              0x0000000000000002ULL /* Write (+read) */
 158 #define RPTE_EAA_X              0x0000000000000001ULL /* Execute allowed */
 159
 160 #define RPDE_VALID              RPTE_VALID
 161 #define RPDE_LEAF               RPTE_LEAF             /* is a PTE: always 0 */
 162 #define RPDE_NLB_MASK           0x0FFFFFFFFFFFFF00ULL
 163 #define RPDE_NLB_SHIFT          8
 164 #define RPDE_NLS_MASK           0x000000000000001FULL
 165
 166 /*
 167  * Extract bits from address
 168  */
 169 #define ADDR_SR_SHFT    28
 170 #define ADDR_PIDX       0x0ffff000UL
 171 #define ADDR_PIDX_SHFT  12
 172 #define ADDR_API_SHFT   22
 173 #define ADDR_API_SHFT64 16
 174 #define ADDR_POFF       0x00000fffUL
 175
 176 /*
 177  * Bits in DSISR:
 178  */
 179 #define DSISR_DIRECT    0x80000000
 180 #define DSISR_NOTFOUND  0x40000000
 181 #define DSISR_PROTECT   0x08000000
 182 #define DSISR_INVRX     0x04000000
 183 #define DSISR_STORE     0x02000000
 184 #define DSISR_DABR      0x00400000
 185 #define DSISR_SEGMENT   0x00200000
 186 #define DSISR_EAR       0x00100000
 187
 188 /*
 189  * Bits in SRR1 on ISI:
 190  */
 191 #define ISSRR1_NOTFOUND 0x40000000
 192 #define ISSRR1_DIRECT   0x10000000
 193 #define ISSRR1_PROTECT  0x08000000
 194 #define ISSRR1_SEGMENT  0x00200000
 195
 196 #else /* BOOKE */
 197
 198 #include <machine/tlb.h>
 199
 200 /*
 201  * Flags for pte_remove() routine.
 202  */
 203 #define PTBL_HOLD       0x00000001      /* do not unhold ptbl pages */
 204 #define PTBL_UNHOLD     0x00000002      /* unhold and attempt to free ptbl pages */
 205
 206 #define PTBL_HOLD_FLAG(pmap)    (((pmap) == kernel_pmap) ? PTBL_HOLD : PTBL_UNHOLD)
 207
 208 /*
 209  * Page Table Entry definitions and macros.
 210  *
 211  * RPN need only be 32-bit because Book-E has 36-bit addresses, and the smallest
 212  * page size is 4k (12-bit mask), so RPN can really fit into 24 bits.
 213  */
 214 #ifndef LOCORE
 215 typedef uint64_t pte_t;
 216 #endif
 217
 218 /* RPN mask, TLB0 4K pages */
 219 #define PTE_PA_MASK     PAGE_MASK
 220
 221 #if defined(BOOKE_E500)
 222
 223 /* PTE bits assigned to MAS2, MAS3 flags */
 224 #define PTE_MAS2_SHIFT  19
 225 #define PTE_W           (MAS2_W << PTE_MAS2_SHIFT)
 226 #define PTE_I           (MAS2_I << PTE_MAS2_SHIFT)
 227 #define PTE_M           (MAS2_M << PTE_MAS2_SHIFT)
 228 #define PTE_G           (MAS2_G << PTE_MAS2_SHIFT)
 229 #define PTE_MAS2_MASK   (MAS2_G | MAS2_M | MAS2_I | MAS2_W)
 230
 231 #define PTE_MAS3_SHIFT  2
 232 #define PTE_UX          (MAS3_UX << PTE_MAS3_SHIFT)
 233 #define PTE_SX          (MAS3_SX << PTE_MAS3_SHIFT)
 234 #define PTE_UW          (MAS3_UW << PTE_MAS3_SHIFT)
 235 #define PTE_SW          (MAS3_SW << PTE_MAS3_SHIFT)
 236 #define PTE_UR          (MAS3_UR << PTE_MAS3_SHIFT)
 237 #define PTE_SR          (MAS3_SR << PTE_MAS3_SHIFT)
 238 #define PTE_MAS3_MASK   ((MAS3_UX | MAS3_SX | MAS3_UW   \
 239                         | MAS3_SW | MAS3_UR | MAS3_SR) << PTE_MAS3_SHIFT)
 240
 241 #define PTE_PS_SHIFT    8
 242 #define PTE_PS_4KB      (2 << PTE_PS_SHIFT)
 243
 244 #elif defined(BOOKE_PPC4XX)
 245
 246 #define PTE_WL1         TLB_WL1
 247 #define PTE_IL2I        TLB_IL2I
 248 #define PTE_IL2D        TLB_IL2D
 249
 250 #define PTE_W           TLB_W
 251 #define PTE_I           TLB_I
 252 #define PTE_M           TLB_M
 253 #define PTE_G           TLB_G
 254
 255 #define PTE_UX          TLB_UX
 256 #define PTE_SX          TLB_SX
 257 #define PTE_UW          TLB_UW
 258 #define PTE_SW          TLB_SW
 259 #define PTE_UR          TLB_UR
 260 #define PTE_SR          TLB_SR
 261
 262 #endif
 263
 264 /* Other PTE flags */
 265 #define PTE_VALID       0x00000001      /* Valid */
 266 #define PTE_MODIFIED    0x00001000      /* Modified */
 267 #define PTE_WIRED       0x00002000      /* Wired */
 268 #define PTE_MANAGED     0x00000002      /* Managed */
 269 #define PTE_REFERENCED  0x00040000      /* Referenced */
 270
 271 /*
 272  * Page Table Entry definitions and macros.
 273  *
 274  * We use the hardware page table entry format:
 275  *
 276  * 63       24 23 19 18 17 14  13 12 11  8  7  6  5  4  3  2  1  0
 277  * ---------------------------------------------------------------
 278  * ARPN(12:51) WIMGE  R U0:U3 SW0 C  PSIZE UX SX UW SW UR SR SW1 V
 279  * ---------------------------------------------------------------
 280  */
 281
 282 /* PTE fields. */
 283 #define PTE_TSIZE_SHIFT         (63-54)
 284 #define PTE_TSIZE_MASK          0x7
 285 #define PTE_TSIZE_SHIFT_DIRECT  (63-55)
 286 #define PTE_TSIZE_MASK_DIRECT   0xf
 287 #define PTE_PS_DIRECT(ps)       (ps<<PTE_TSIZE_SHIFT_DIRECT)    /* Direct Entry Page Size */
 288 #define PTE_PS(ps)              (ps<<PTE_TSIZE_SHIFT)   /* Page Size */
 289
 290 /* Macro argument must of pte_t type. */
 291 #define PTE_TSIZE(pte)          (int)((*pte >> PTE_TSIZE_SHIFT) & PTE_TSIZE_MASK)
 292 #define PTE_TSIZE_DIRECT(pte)   (int)((*pte >> PTE_TSIZE_SHIFT_DIRECT) & PTE_TSIZE_MASK_DIRECT)
 293
 294 /* Macro argument must of pte_t type. */
 295 #define PTE_ARPN_SHIFT          12
 296 #define PTE_FLAGS_MASK          0x00ffffff
 297 #define PTE_RPN_FROM_PA(pa)     (((pa) & ~PAGE_MASK) << PTE_ARPN_SHIFT)
 298 #define PTE_PA(pte)             ((vm_paddr_t)(*pte >> PTE_ARPN_SHIFT) & ~PAGE_MASK)
 299 #define PTE_ISVALID(pte)        ((*pte) & PTE_VALID)
 300 #define PTE_ISWIRED(pte)        ((*pte) & PTE_WIRED)
 301 #define PTE_ISMANAGED(pte)      ((*pte) & PTE_MANAGED)
 302 #define PTE_ISMODIFIED(pte)     ((*pte) & PTE_MODIFIED)
 303 #define PTE_ISREFERENCED(pte)   ((*pte) & PTE_REFERENCED)
 304
 305 #endif /* BOOKE */
 306
 307 /* Book-E page table format, broken out for the generic pmap.h. */
 308 #ifdef __powerpc64__
 309
 310 #include <machine/tlb.h>
 311
 312 /*
 313  * The virtual address is:
 314  *
 315  * 4K page size
 316  *   +-----+-----+-----+-------+-------------+-------------+----------------+
 317  *   |  -  |p2d#h|  -  | p2d#l |     dir#    |     pte#    | off in 4K page |
 318  *   +-----+-----+-----+-------+-------------+-------------+----------------+
 319  *    63 62 61 60 59 40 39   30 29    ^    21 20    ^    12 11             0
 320  *                                    |             |
 321  *                                index in 1 page of pointers
 322  *
 323  * 1st level - pointers to page table directory (pp2d)
 324  *
 325  * pp2d consists of PP2D_NENTRIES entries, each being a pointer to
 326  * second level entity, i.e. the page table directory (pdir).
 327  */
 328 #define PP2D_H_H                61
 329 #define PP2D_H_L                60
 330 #define PP2D_L_H                39
 331 #define PP2D_L_L                30      /* >30 would work with no page table pool */
 332 #define PP2D_SIZE               (1 << PP2D_L_L) /* va range mapped by pp2d */
 333 #define PP2D_L_SHIFT            PP2D_L_L
 334 #define PP2D_L_NUM              (PP2D_L_H-PP2D_L_L+1)
 335 #define PP2D_L_MASK             ((1<<PP2D_L_NUM)-1)
 336 #define PP2D_H_SHIFT            (PP2D_H_L-PP2D_L_NUM)
 337 #define PP2D_H_NUM              (PP2D_H_H-PP2D_H_L+1)
 338 #define PP2D_H_MASK             (((1<<PP2D_H_NUM)-1)<<PP2D_L_NUM)
 339 #define PP2D_IDX(va)            (((va >> PP2D_H_SHIFT) & PP2D_H_MASK) | ((va >> PP2D_L_SHIFT) & PP2D_L_MASK))
 340 #define PP2D_NENTRIES           (1<<(PP2D_L_NUM+PP2D_H_NUM))
 341 #define PP2D_ENTRY_SHIFT        3       /* log2 (sizeof(struct pte_entry **)) */
 342
 343 /*
 344  * 2nd level - page table directory (pdir)
 345  *
 346  * pdir consists of PDIR_NENTRIES entries, each being a pointer to
 347  * second level entity, i.e. the actual page table (ptbl).
 348  */
 349 #define PDIR_H                  (PP2D_L_L-1)
 350 #define PDIR_L                  21
 351 #define PDIR_NUM                (PDIR_H-PDIR_L+1)
 352 #define PDIR_SIZE               (1 << PDIR_L)   /* va range mapped by pdir */
 353 #define PDIR_MASK               ((1<<PDIR_NUM)-1)
 354 #define PDIR_SHIFT              PDIR_L
 355 #define PDIR_NENTRIES           (1<<PDIR_NUM)
 356 #define PDIR_IDX(va)            (((va) >> PDIR_SHIFT) & PDIR_MASK)
 357 #define PDIR_ENTRY_SHIFT        3       /* log2 (sizeof(struct pte_entry *)) */
 358 #define PDIR_PAGES              ((PDIR_NENTRIES * (1<<PDIR_ENTRY_SHIFT)) / PAGE_SIZE)
 359
 360 /*
 361  * 3rd level - page table (ptbl)
 362  *
 363  * Page table covers PTBL_NENTRIES page table entries. Page
 364  * table entry (pte) is 64 bit wide and defines mapping
 365  * for a single page.
 366  */
 367 #define PTBL_H                  (PDIR_L-1)
 368 #define PTBL_L                  PAGE_SHIFT
 369 #define PTBL_NUM                (PTBL_H-PTBL_L+1)
 370 #define PTBL_MASK               ((1<<PTBL_NUM)-1)
 371 #define PTBL_SHIFT              PTBL_L
 372 #define PTBL_SIZE               PAGE_SIZE       /* va range mapped by ptbl entry */
 373 #define PTBL_NENTRIES           (1<<PTBL_NUM)
 374 #define PTBL_IDX(va)            ((va >> PTBL_SHIFT) & PTBL_MASK)
 375 #define PTBL_ENTRY_SHIFT         3      /* log2 (sizeof (struct pte_entry)) */
 376 #define PTBL_PAGES              ((PTBL_NENTRIES * (1<<PTBL_ENTRY_SHIFT)) / PAGE_SIZE)
 377
 378 #define KERNEL_LINEAR_MAX       0xc000000040000000
 379 #else
 380 /*
 381  * 1st level - page table directory (pdir)
 382  *
 383  * pdir consists of 1024 entries, each being a pointer to
 384  * second level entity, i.e. the actual page table (ptbl).
 385  */
 386 #define PDIR_SHIFT      22
 387 #define PDIR_SIZE       (1 << PDIR_SHIFT)       /* va range mapped by pdir */
 388 #define PDIR_MASK       (~(PDIR_SIZE - 1))
 389 #define PDIR_NENTRIES   1024                    /* number of page tables in pdir */
 390
 391 /* Returns pdir entry number for given va */
 392 #define PDIR_IDX(va)    ((va) >> PDIR_SHIFT)
 393
 394 #define PDIR_ENTRY_SHIFT 2      /* entry size is 2^2 = 4 bytes */
 395
 396 /*
 397  * 2nd level - page table (ptbl)
 398  *
 399  * Page table covers 1024 page table entries. Page
 400  * table entry (pte) is 32 bit wide and defines mapping
 401  * for a single page.
 402  */
 403 #define PTBL_SHIFT      PAGE_SHIFT
 404 #define PTBL_SIZE       PAGE_SIZE               /* va range mapped by ptbl entry */
 405 #define PTBL_MASK       ((PDIR_SIZE - 1) & ~((1 << PAGE_SHIFT) - 1))
 406 #define PTBL_NENTRIES   1024                    /* number of pages mapped by ptbl */
 407
 408 /* Returns ptbl entry number for given va */
 409 #define PTBL_IDX(va)    (((va) & PTBL_MASK) >> PTBL_SHIFT)
 410
 411 /* Size of ptbl in pages, 1024 entries, each sizeof(struct pte_entry). */
 412 #define PTBL_PAGES      2
 413 #define PTBL_ENTRY_SHIFT 3      /* entry size is 2^3 = 8 bytes */
 414
 415 #endif
 416 #endif /* _MACHINE_PTE_H_ */