contrib/llvm-project/llvm/lib/Target/AMDGPU/EvergreenInstructions.td

   1 //===-- EvergreenInstructions.td - EG Instruction defs  ----*- tablegen -*-===//
   2 //
   3 // Part of the LLVM Project, under the Apache License v2.0 with LLVM Exceptions.
   4 // See https://llvm.org/LICENSE.txt for license information.
   5 // SPDX-License-Identifier: Apache-2.0 WITH LLVM-exception
   6 //
   7 //===----------------------------------------------------------------------===//
   8 //
   9 // TableGen definitions for instructions which are:
  10 // - Available to Evergreen and newer VLIW4/VLIW5 GPUs
  11 // - Available only on Evergreen family GPUs.
  12 //
  13 //===----------------------------------------------------------------------===//
  14
  15 def isEG : Predicate<
  16   "Subtarget->getGeneration() >= AMDGPUSubtarget::EVERGREEN && "
  17   "!Subtarget->hasCaymanISA()"
  18 >;
  19
  20 def isEGorCayman : Predicate<
  21   "Subtarget->getGeneration() == AMDGPUSubtarget::EVERGREEN ||"
  22   "Subtarget->getGeneration() == AMDGPUSubtarget::NORTHERN_ISLANDS"
  23 >;
  24
  25 class EGPat<dag pattern, dag result> : AMDGPUPat<pattern, result> {
  26   let SubtargetPredicate = isEG;
  27 }
  28
  29 class EGOrCaymanPat<dag pattern, dag result> : AMDGPUPat<pattern, result> {
  30   let SubtargetPredicate = isEGorCayman;
  31 }
  32
  33 //===----------------------------------------------------------------------===//
  34 // Evergreen / Cayman store instructions
  35 //===----------------------------------------------------------------------===//
  36
  37 let SubtargetPredicate = isEGorCayman in {
  38
  39 class CF_MEM_RAT_CACHELESS <bits<6> rat_inst, bits<4> rat_id, bits<4> mask, dag ins,
  40                            string name, list<dag> pattern>
  41     : EG_CF_RAT <0x57, rat_inst, rat_id, mask, (outs), ins,
  42                  "MEM_RAT_CACHELESS "#name, pattern>;
  43
  44 class CF_MEM_RAT <bits<6> rat_inst, bits<4> rat_id, bits<4> mask, dag ins,
  45                   dag outs, string name, list<dag> pattern>
  46     : EG_CF_RAT <0x56, rat_inst, rat_id, mask, outs, ins,
  47                  "MEM_RAT "#name, pattern>;
  48
  49 class CF_MEM_RAT_STORE_TYPED<bits<1> has_eop>
  50     : CF_MEM_RAT <0x1, ?, 0xf, (ins R600_Reg128:$rw_gpr, R600_Reg128:$index_gpr,
  51                            i32imm:$rat_id, InstFlag:$eop), (outs),
  52                   "STORE_TYPED RAT($rat_id) $rw_gpr, $index_gpr"
  53                                #!if(has_eop, ", $eop", ""),
  54                   [(int_r600_rat_store_typed R600_Reg128:$rw_gpr,
  55                                              R600_Reg128:$index_gpr,
  56                                              (i32 imm:$rat_id))]>;
  57
  58 def RAT_MSKOR : CF_MEM_RAT <0x11, 0, 0xf,
  59   (ins R600_Reg128:$rw_gpr, R600_TReg32_X:$index_gpr), (outs),
  60   "MSKOR $rw_gpr.XW, $index_gpr",
  61   [(mskor_global v4i32:$rw_gpr, i32:$index_gpr)]
  62 > {
  63   let eop = 0;
  64 }
  65
  66
  67 multiclass RAT_ATOMIC<bits<6> op_ret, bits<6> op_noret, string name> {
  68   let Constraints = "$rw_gpr = $out_gpr", eop = 0, mayStore = 1 in {
  69   def  _RTN: CF_MEM_RAT <op_ret, 0, 0xf,
  70              (ins R600_Reg128:$rw_gpr, R600_TReg32_X:$index_gpr),
  71              (outs R600_Reg128:$out_gpr),
  72              name # "_RTN" # " $rw_gpr, $index_gpr", [] >;
  73   def _NORET: CF_MEM_RAT <op_noret, 0, 0xf,
  74               (ins R600_Reg128:$rw_gpr, R600_TReg32_X:$index_gpr),
  75               (outs R600_Reg128:$out_gpr),
  76               name # " $rw_gpr, $index_gpr", [] >;
  77   }
  78 }
  79
  80 // Swap no-ret is just store. Raw store to cached target
  81 // can only store on dword, which exactly matches swap_no_ret.
  82 defm RAT_ATOMIC_XCHG_INT : RAT_ATOMIC<1, 34, "ATOMIC_XCHG_INT">;
  83 defm RAT_ATOMIC_CMPXCHG_INT : RAT_ATOMIC<4, 36, "ATOMIC_CMPXCHG_INT">;
  84 defm RAT_ATOMIC_ADD : RAT_ATOMIC<7, 39, "ATOMIC_ADD">;
  85 defm RAT_ATOMIC_SUB : RAT_ATOMIC<8, 40, "ATOMIC_SUB">;
  86 defm RAT_ATOMIC_RSUB : RAT_ATOMIC<9, 41, "ATOMIC_RSUB">;
  87 defm RAT_ATOMIC_MIN_INT : RAT_ATOMIC<10, 42, "ATOMIC_MIN_INT">;
  88 defm RAT_ATOMIC_MIN_UINT : RAT_ATOMIC<11, 43, "ATOMIC_MIN_UINT">;
  89 defm RAT_ATOMIC_MAX_INT : RAT_ATOMIC<12, 44, "ATOMIC_MAX_INT">;
  90 defm RAT_ATOMIC_MAX_UINT : RAT_ATOMIC<13, 45, "ATOMIC_MAX_UINT">;
  91 defm RAT_ATOMIC_AND : RAT_ATOMIC<14, 46, "ATOMIC_AND">;
  92 defm RAT_ATOMIC_OR : RAT_ATOMIC<15, 47, "ATOMIC_OR">;
  93 defm RAT_ATOMIC_XOR : RAT_ATOMIC<16, 48, "ATOMIC_XOR">;
  94 defm RAT_ATOMIC_INC_UINT : RAT_ATOMIC<18, 50, "ATOMIC_INC_UINT">;
  95 defm RAT_ATOMIC_DEC_UINT : RAT_ATOMIC<19, 51, "ATOMIC_DEC_UINT">;
  96
  97 } // End SubtargetPredicate = isEGorCayman
  98
  99 //===----------------------------------------------------------------------===//
 100 // Evergreen Only instructions
 101 //===----------------------------------------------------------------------===//
 102
 103 let SubtargetPredicate = isEG in {
 104
 105 def RECIP_IEEE_eg : RECIP_IEEE_Common<0x86>;
 106 defm DIV_eg : DIV_Common<RECIP_IEEE_eg>;
 107
 108 def MULLO_INT_eg : MULLO_INT_Common<0x8F>;
 109 def MULHI_INT_eg : MULHI_INT_Common<0x90>;
 110 def MULLO_UINT_eg : MULLO_UINT_Common<0x91>;
 111 def MULHI_UINT_eg : MULHI_UINT_Common<0x92>;
 112 def MULHI_UINT24_eg : MULHI_UINT24_Common<0xb2>;
 113
 114 def RECIP_UINT_eg : RECIP_UINT_Common<0x94>;
 115 def RECIPSQRT_CLAMPED_eg : RECIPSQRT_CLAMPED_Common<0x87>;
 116 def EXP_IEEE_eg : EXP_IEEE_Common<0x81>;
 117 def LOG_IEEE_eg : LOG_IEEE_Common<0x83>;
 118 def RECIP_CLAMPED_eg : RECIP_CLAMPED_Common<0x84>;
 119 def RECIPSQRT_IEEE_eg : RECIPSQRT_IEEE_Common<0x89>;
 120 def : RsqPat<RECIPSQRT_IEEE_eg, f32>;
 121 def : SqrtPat<RECIPSQRT_IEEE_eg, RECIP_IEEE_eg>;
 122
 123 def SIN_eg : SIN_Common<0x8D>;
 124 def COS_eg : COS_Common<0x8E>;
 125
 126 def : POW_Common <LOG_IEEE_eg, EXP_IEEE_eg, MUL>;
 127 } // End SubtargetPredicate = isEG
 128
 129 //===----------------------------------------------------------------------===//
 130 // Memory read/write instructions
 131 //===----------------------------------------------------------------------===//
 132
 133 let usesCustomInserter = 1 in {
 134
 135 // 32-bit store
 136 def RAT_WRITE_CACHELESS_32_eg : CF_MEM_RAT_CACHELESS <0x2, 0, 0x1,
 137   (ins R600_TReg32_X:$rw_gpr, R600_TReg32_X:$index_gpr, InstFlag:$eop),
 138   "STORE_RAW $rw_gpr, $index_gpr, $eop",
 139   [(store_global i32:$rw_gpr, i32:$index_gpr)]
 140 >;
 141
 142 // 64-bit store
 143 def RAT_WRITE_CACHELESS_64_eg : CF_MEM_RAT_CACHELESS <0x2, 0, 0x3,
 144   (ins R600_Reg64:$rw_gpr, R600_TReg32_X:$index_gpr, InstFlag:$eop),
 145   "STORE_RAW $rw_gpr.XY, $index_gpr, $eop",
 146   [(store_global v2i32:$rw_gpr, i32:$index_gpr)]
 147 >;
 148
 149 //128-bit store
 150 def RAT_WRITE_CACHELESS_128_eg : CF_MEM_RAT_CACHELESS <0x2, 0, 0xf,
 151   (ins R600_Reg128:$rw_gpr, R600_TReg32_X:$index_gpr, InstFlag:$eop),
 152   "STORE_RAW $rw_gpr.XYZW, $index_gpr, $eop",
 153   [(store_global v4i32:$rw_gpr, i32:$index_gpr)]
 154 >;
 155
 156 def RAT_STORE_TYPED_eg: CF_MEM_RAT_STORE_TYPED<1>;
 157
 158 } // End usesCustomInserter = 1
 159
 160 class VTX_READ_eg <string name, dag outs>
 161     : VTX_WORD0_eg, VTX_READ<name, outs, []> {
 162
 163   // Static fields
 164   let VC_INST = 0;
 165   let FETCH_TYPE = 2;
 166   let FETCH_WHOLE_QUAD = 0;
 167   let SRC_REL = 0;
 168   // XXX: We can infer this field based on the SRC_GPR.  This would allow us
 169   // to store vertex addresses in any channel, not just X.
 170   let SRC_SEL_X = 0;
 171
 172   let Inst{31-0} = Word0;
 173 }
 174
 175 def VTX_READ_8_eg
 176     : VTX_READ_eg <"VTX_READ_8 $dst_gpr, $src_gpr",
 177                    (outs R600_TReg32_X:$dst_gpr)> {
 178
 179   let MEGA_FETCH_COUNT = 1;
 180   let DST_SEL_X = 0;
 181   let DST_SEL_Y = 7;   // Masked
 182   let DST_SEL_Z = 7;   // Masked
 183   let DST_SEL_W = 7;   // Masked
 184   let DATA_FORMAT = 1; // FMT_8
 185 }
 186
 187 def VTX_READ_16_eg
 188     : VTX_READ_eg <"VTX_READ_16 $dst_gpr, $src_gpr",
 189                    (outs R600_TReg32_X:$dst_gpr)> {
 190   let MEGA_FETCH_COUNT = 2;
 191   let DST_SEL_X = 0;
 192   let DST_SEL_Y = 7;   // Masked
 193   let DST_SEL_Z = 7;   // Masked
 194   let DST_SEL_W = 7;   // Masked
 195   let DATA_FORMAT = 5; // FMT_16
 196
 197 }
 198
 199 def VTX_READ_32_eg
 200     : VTX_READ_eg <"VTX_READ_32 $dst_gpr, $src_gpr",
 201                    (outs R600_TReg32_X:$dst_gpr)> {
 202
 203   let MEGA_FETCH_COUNT = 4;
 204   let DST_SEL_X        = 0;
 205   let DST_SEL_Y        = 7;   // Masked
 206   let DST_SEL_Z        = 7;   // Masked
 207   let DST_SEL_W        = 7;   // Masked
 208   let DATA_FORMAT      = 0xD; // COLOR_32
 209
 210   // This is not really necessary, but there were some GPU hangs that appeared
 211   // to be caused by ALU instructions in the next instruction group that wrote
 212   // to the $src_gpr registers of the VTX_READ.
 213   // e.g.
 214   // %t3_x = VTX_READ_PARAM_32_eg killed %t2_x, 24
 215   // %t2_x = MOV %zero
 216   //Adding this constraint prevents this from happening.
 217   let Constraints = "$src_gpr.ptr = $dst_gpr";
 218 }
 219
 220 def VTX_READ_64_eg
 221     : VTX_READ_eg <"VTX_READ_64 $dst_gpr.XY, $src_gpr",
 222                    (outs R600_Reg64:$dst_gpr)> {
 223
 224   let MEGA_FETCH_COUNT = 8;
 225   let DST_SEL_X        = 0;
 226   let DST_SEL_Y        = 1;
 227   let DST_SEL_Z        = 7;
 228   let DST_SEL_W        = 7;
 229   let DATA_FORMAT      = 0x1D; // COLOR_32_32
 230 }
 231
 232 def VTX_READ_128_eg
 233     : VTX_READ_eg <"VTX_READ_128 $dst_gpr.XYZW, $src_gpr",
 234                    (outs R600_Reg128:$dst_gpr)> {
 235
 236   let MEGA_FETCH_COUNT = 16;
 237   let DST_SEL_X        =  0;
 238   let DST_SEL_Y        =  1;
 239   let DST_SEL_Z        =  2;
 240   let DST_SEL_W        =  3;
 241   let DATA_FORMAT      =  0x22; // COLOR_32_32_32_32
 242
 243   // XXX: Need to force VTX_READ_128 instructions to write to the same register
 244   // that holds its buffer address to avoid potential hangs.  We can't use
 245   // the same constraint as VTX_READ_32_eg, because the $src_gpr.ptr and $dst
 246   // registers are different sizes.
 247 }
 248
 249 //===----------------------------------------------------------------------===//
 250 // VTX Read from parameter memory space
 251 //===----------------------------------------------------------------------===//
 252 def : EGPat<(i32:$dst_gpr (vtx_id3_az_extloadi8 ADDRVTX_READ:$src_gpr)),
 253           (VTX_READ_8_eg MEMxi:$src_gpr, 3)>;
 254 def : EGPat<(i32:$dst_gpr (vtx_id3_az_extloadi16 ADDRVTX_READ:$src_gpr)),
 255           (VTX_READ_16_eg MEMxi:$src_gpr, 3)>;
 256 def : EGPat<(i32:$dst_gpr (vtx_id3_load ADDRVTX_READ:$src_gpr)),
 257           (VTX_READ_32_eg MEMxi:$src_gpr, 3)>;
 258 def : EGPat<(v2i32:$dst_gpr (vtx_id3_load ADDRVTX_READ:$src_gpr)),
 259           (VTX_READ_64_eg MEMxi:$src_gpr, 3)>;
 260 def : EGPat<(v4i32:$dst_gpr (vtx_id3_load ADDRVTX_READ:$src_gpr)),
 261           (VTX_READ_128_eg MEMxi:$src_gpr, 3)>;
 262
 263 //===----------------------------------------------------------------------===//
 264 // VTX Read from constant memory space
 265 //===----------------------------------------------------------------------===//
 266 def : EGPat<(i32:$dst_gpr (vtx_id2_az_extloadi8 ADDRVTX_READ:$src_gpr)),
 267           (VTX_READ_8_eg MEMxi:$src_gpr, 2)>;
 268 def : EGPat<(i32:$dst_gpr (vtx_id2_az_extloadi16 ADDRVTX_READ:$src_gpr)),
 269           (VTX_READ_16_eg MEMxi:$src_gpr, 2)>;
 270 def : EGPat<(i32:$dst_gpr (vtx_id2_load ADDRVTX_READ:$src_gpr)),
 271           (VTX_READ_32_eg MEMxi:$src_gpr, 2)>;
 272 def : EGPat<(v2i32:$dst_gpr (vtx_id2_load ADDRVTX_READ:$src_gpr)),
 273           (VTX_READ_64_eg MEMxi:$src_gpr, 2)>;
 274 def : EGPat<(v4i32:$dst_gpr (vtx_id2_load ADDRVTX_READ:$src_gpr)),
 275           (VTX_READ_128_eg MEMxi:$src_gpr, 2)>;
 276
 277 //===----------------------------------------------------------------------===//
 278 // VTX Read from global memory space
 279 //===----------------------------------------------------------------------===//
 280 def : EGPat<(i32:$dst_gpr (vtx_id1_az_extloadi8 ADDRVTX_READ:$src_gpr)),
 281           (VTX_READ_8_eg MEMxi:$src_gpr, 1)>;
 282 def : EGPat<(i32:$dst_gpr (vtx_id1_az_extloadi16 ADDRVTX_READ:$src_gpr)),
 283           (VTX_READ_16_eg MEMxi:$src_gpr, 1)>;
 284 def : EGPat<(i32:$dst_gpr (vtx_id1_load ADDRVTX_READ:$src_gpr)),
 285           (VTX_READ_32_eg MEMxi:$src_gpr, 1)>;
 286 def : EGPat<(v2i32:$dst_gpr (vtx_id1_load ADDRVTX_READ:$src_gpr)),
 287           (VTX_READ_64_eg MEMxi:$src_gpr, 1)>;
 288 def : EGPat<(v4i32:$dst_gpr (vtx_id1_load ADDRVTX_READ:$src_gpr)),
 289           (VTX_READ_128_eg MEMxi:$src_gpr, 1)>;
 290
 291 //===----------------------------------------------------------------------===//
 292 // Evergreen / Cayman Instructions
 293 //===----------------------------------------------------------------------===//
 294
 295 let SubtargetPredicate = isEGorCayman in {
 296
 297 multiclass AtomicPat<Instruction inst_ret, Instruction inst_noret,
 298                      SDPatternOperator node_ret, SDPatternOperator node_noret> {
 299   // FIXME: Add _RTN version. We need per WI scratch location to store the old value
 300   // EXTRACT_SUBREG here is dummy, we know the node has no uses
 301   def : EGOrCaymanPat<(i32 (node_noret i32:$ptr, i32:$data)),
 302             (EXTRACT_SUBREG (inst_noret
 303               (INSERT_SUBREG (v4i32 (IMPLICIT_DEF)), $data, sub0), $ptr), sub1)>;
 304 }
 305 multiclass AtomicIncDecPat<Instruction inst_ret, Instruction inst_noret,
 306                      SDPatternOperator node_ret, SDPatternOperator node_noret, int C> {
 307   // FIXME: Add _RTN version. We need per WI scratch location to store the old value
 308   // EXTRACT_SUBREG here is dummy, we know the node has no uses
 309   def : EGOrCaymanPat<(i32 (node_noret i32:$ptr, C)),
 310             (EXTRACT_SUBREG (inst_noret
 311               (INSERT_SUBREG (v4i32 (IMPLICIT_DEF)), (MOV_IMM_I32 -1), sub0), $ptr), sub1)>;
 312 }
 313
 314 // CMPSWAP is pattern is special
 315 // EXTRACT_SUBREG here is dummy, we know the node has no uses
 316 // FIXME: Add _RTN version. We need per WI scratch location to store the old value
 317 def : EGOrCaymanPat<(i32 (atomic_cmp_swap_global_noret i32:$ptr, i32:$cmp, i32:$data)),
 318           (EXTRACT_SUBREG (RAT_ATOMIC_CMPXCHG_INT_NORET
 319             (INSERT_SUBREG
 320               (INSERT_SUBREG (v4i32 (IMPLICIT_DEF)), $cmp, sub3),
 321             $data, sub0),
 322           $ptr), sub1)>;
 323
 324 defm AtomicSwapPat : AtomicPat <RAT_ATOMIC_XCHG_INT_RTN,
 325                                 RAT_ATOMIC_XCHG_INT_NORET,
 326                                 atomic_swap_global_ret_32,
 327                                 atomic_swap_global_noret_32>;
 328 defm AtomicAddPat : AtomicPat <RAT_ATOMIC_ADD_RTN, RAT_ATOMIC_ADD_NORET,
 329                                atomic_load_add_global_ret_32, atomic_load_add_global_noret_32>;
 330 defm AtomicSubPat : AtomicPat <RAT_ATOMIC_SUB_RTN, RAT_ATOMIC_SUB_NORET,
 331                                atomic_load_sub_global_ret_32, atomic_load_sub_global_noret_32>;
 332 defm AtomicMinPat : AtomicPat <RAT_ATOMIC_MIN_INT_RTN,
 333                                RAT_ATOMIC_MIN_INT_NORET,
 334                                atomic_load_min_global_ret_32, atomic_load_min_global_noret_32>;
 335 defm AtomicUMinPat : AtomicPat <RAT_ATOMIC_MIN_UINT_RTN,
 336                                 RAT_ATOMIC_MIN_UINT_NORET,
 337                                 atomic_load_umin_global_ret_32, atomic_load_umin_global_noret_32>;
 338 defm AtomicMaxPat : AtomicPat <RAT_ATOMIC_MAX_INT_RTN,
 339                                RAT_ATOMIC_MAX_INT_NORET,
 340                                atomic_load_max_global_ret_32, atomic_load_max_global_noret_32>;
 341 defm AtomicUMaxPat : AtomicPat <RAT_ATOMIC_MAX_UINT_RTN,
 342                                 RAT_ATOMIC_MAX_UINT_NORET,
 343                                 atomic_load_umax_global_ret_32, atomic_load_umax_global_noret_32>;
 344 defm AtomicAndPat : AtomicPat <RAT_ATOMIC_AND_RTN, RAT_ATOMIC_AND_NORET,
 345                                atomic_load_and_global_ret_32, atomic_load_and_global_noret_32>;
 346 defm AtomicOrPat : AtomicPat <RAT_ATOMIC_OR_RTN, RAT_ATOMIC_OR_NORET,
 347                               atomic_load_or_global_ret_32, atomic_load_or_global_noret_32>;
 348 defm AtomicXorPat : AtomicPat <RAT_ATOMIC_XOR_RTN, RAT_ATOMIC_XOR_NORET,
 349                                atomic_load_xor_global_ret_32, atomic_load_xor_global_noret_32>;
 350 defm AtomicIncAddPat : AtomicIncDecPat <RAT_ATOMIC_INC_UINT_RTN,
 351                                         RAT_ATOMIC_INC_UINT_NORET,
 352                                         atomic_load_add_global_ret_32,
 353                                         atomic_load_add_global_noret_32, 1>;
 354 defm AtomicIncSubPat : AtomicIncDecPat <RAT_ATOMIC_INC_UINT_RTN,
 355                                         RAT_ATOMIC_INC_UINT_NORET,
 356                                         atomic_load_sub_global_ret_32,
 357                                         atomic_load_sub_global_noret_32, -1>;
 358 defm AtomicDecAddPat : AtomicIncDecPat <RAT_ATOMIC_DEC_UINT_RTN,
 359                                         RAT_ATOMIC_DEC_UINT_NORET,
 360                                         atomic_load_add_global_ret_32,
 361                                         atomic_load_add_global_noret_32, -1>;
 362 defm AtomicDecSubPat : AtomicIncDecPat <RAT_ATOMIC_DEC_UINT_RTN,
 363                                         RAT_ATOMIC_DEC_UINT_NORET,
 364                                         atomic_load_sub_global_ret_32,
 365                                         atomic_load_sub_global_noret_32, 1>;
 366
 367 // Should be predicated on FeatureFP64
 368 // def FMA_64 : R600_3OP <
 369 //   0xA, "FMA_64",
 370 //   [(set f64:$dst, (fma f64:$src0, f64:$src1, f64:$src2))]
 371 // >;
 372
 373 // BFE_UINT - bit_extract, an optimization for mask and shift
 374 // Src0 = Input
 375 // Src1 = Offset
 376 // Src2 = Width
 377 //
 378 // bit_extract = (Input << (32 - Offset - Width)) >> (32 - Width)
 379 //
 380 // Example Usage:
 381 // (Offset, Width)
 382 //
 383 // (0, 8)  = (Input << 24) >> 24 = (Input &  0xff)       >> 0
 384 // (8, 8)  = (Input << 16) >> 24 = (Input &  0xffff)     >> 8
 385 // (16, 8) = (Input <<  8) >> 24 = (Input &  0xffffff)   >> 16
 386 // (24, 8) = (Input <<  0) >> 24 = (Input &  0xffffffff) >> 24
 387 def BFE_UINT_eg : R600_3OP <0x4, "BFE_UINT",
 388   [(set i32:$dst, (AMDGPUbfe_u32 i32:$src0, i32:$src1, i32:$src2))],
 389   VecALU
 390 >;
 391
 392 def BFE_INT_eg : R600_3OP <0x5, "BFE_INT",
 393   [(set i32:$dst, (AMDGPUbfe_i32 i32:$src0, i32:$src1, i32:$src2))],
 394   VecALU
 395 >;
 396
 397 defm : BFEPattern <BFE_UINT_eg, BFE_INT_eg, MOV_IMM_I32>;
 398
 399 def BFI_INT_eg : R600_3OP <0x06, "BFI_INT",
 400   [(set i32:$dst, (AMDGPUbfi i32:$src0, i32:$src1, i32:$src2))],
 401   VecALU
 402 >;
 403
 404 def : EGOrCaymanPat<(i32 (sext_inreg i32:$src, i1)),
 405   (BFE_INT_eg i32:$src, (i32 ZERO), (i32 ONE_INT))>;
 406 def : EGOrCaymanPat<(i32 (sext_inreg i32:$src, i8)),
 407   (BFE_INT_eg i32:$src, (i32 ZERO), (MOV_IMM_I32 8))>;
 408 def : EGOrCaymanPat<(i32 (sext_inreg i32:$src, i16)),
 409   (BFE_INT_eg i32:$src, (i32 ZERO), (MOV_IMM_I32 16))>;
 410
 411 defm : BFIPatterns <BFI_INT_eg, MOV_IMM_I32, R600_Reg64>;
 412
 413 def BFM_INT_eg : R600_2OP <0xA0, "BFM_INT",
 414   [(set i32:$dst, (AMDGPUbfm i32:$src0, i32:$src1))],
 415   VecALU
 416 >;
 417
 418 def MULADD_UINT24_eg : R600_3OP <0x10, "MULADD_UINT24",
 419   [(set i32:$dst, (AMDGPUmad_u24 i32:$src0, i32:$src1, i32:$src2))], VecALU
 420 >;
 421
 422 def : UMad24Pat<MULADD_UINT24_eg>;
 423
 424 def BIT_ALIGN_INT_eg : R600_3OP <0xC, "BIT_ALIGN_INT", [], VecALU>;
 425 def : FSHRPattern <BIT_ALIGN_INT_eg>;
 426 def : ROTRPattern <BIT_ALIGN_INT_eg>;
 427 def MULADD_eg : MULADD_Common<0x14>;
 428 def MULADD_IEEE_eg : MULADD_IEEE_Common<0x18>;
 429 def FMA_eg : FMA_Common<0x7>;
 430 def ASHR_eg : ASHR_Common<0x15>;
 431 def LSHR_eg : LSHR_Common<0x16>;
 432 def LSHL_eg : LSHL_Common<0x17>;
 433 def CNDE_eg : CNDE_Common<0x19>;
 434 def CNDGT_eg : CNDGT_Common<0x1A>;
 435 def CNDGE_eg : CNDGE_Common<0x1B>;
 436 def MUL_LIT_eg : MUL_LIT_Common<0x1F>;
 437 def LOG_CLAMPED_eg : LOG_CLAMPED_Common<0x82>;
 438 def MUL_UINT24_eg : R600_2OP <0xB5, "MUL_UINT24",
 439   [(set i32:$dst, (AMDGPUmul_u24 i32:$src0, i32:$src1))], VecALU
 440 >;
 441 def DOT4_eg : DOT4_Common<0xBE>;
 442 defm CUBE_eg : CUBE_Common<0xC0>;
 443
 444
 445 def ADDC_UINT : R600_2OP_Helper <0x52, "ADDC_UINT", AMDGPUcarry>;
 446 def SUBB_UINT : R600_2OP_Helper <0x53, "SUBB_UINT", AMDGPUborrow>;
 447
 448 def FLT32_TO_FLT16 : R600_1OP_Helper <0xA2, "FLT32_TO_FLT16", AMDGPUfp_to_f16, VecALU>;
 449 def FLT16_TO_FLT32 : R600_1OP_Helper <0xA3, "FLT16_TO_FLT32", f16_to_fp, VecALU>;
 450 def BCNT_INT : R600_1OP_Helper <0xAA, "BCNT_INT", ctpop, VecALU>;
 451 def FFBH_UINT : R600_1OP_Helper <0xAB, "FFBH_UINT", AMDGPUffbh_u32, VecALU>;
 452 def FFBL_INT : R600_1OP_Helper <0xAC, "FFBL_INT", AMDGPUffbl_b32, VecALU>;
 453
 454 let hasSideEffects = 1 in {
 455   def MOVA_INT_eg : R600_1OP <0xCC, "MOVA_INT", [], VecALU>;
 456 }
 457
 458 def FLT_TO_INT_eg : FLT_TO_INT_Common<0x50> {
 459   let Pattern = [];
 460   let Itinerary = AnyALU;
 461 }
 462
 463 def INT_TO_FLT_eg : INT_TO_FLT_Common<0x9B>;
 464
 465 def FLT_TO_UINT_eg : FLT_TO_UINT_Common<0x9A> {
 466   let Pattern = [];
 467 }
 468
 469 def UINT_TO_FLT_eg : UINT_TO_FLT_Common<0x9C>;
 470
 471 def GROUP_BARRIER : InstR600 <
 472     (outs), (ins), "  GROUP_BARRIER", [(int_r600_group_barrier)], AnyALU>,
 473     R600ALU_Word0,
 474     R600ALU_Word1_OP2 <0x54> {
 475
 476   let dst = 0;
 477   let dst_rel = 0;
 478   let src0 = 0;
 479   let src0_rel = 0;
 480   let src0_neg = 0;
 481   let src0_abs = 0;
 482   let src1 = 0;
 483   let src1_rel = 0;
 484   let src1_neg = 0;
 485   let src1_abs = 0;
 486   let write = 0;
 487   let omod = 0;
 488   let clamp = 0;
 489   let last = 1;
 490   let bank_swizzle = 0;
 491   let pred_sel = 0;
 492   let update_exec_mask = 0;
 493   let update_pred = 0;
 494
 495   let Inst{31-0}  = Word0;
 496   let Inst{63-32} = Word1;
 497
 498   let ALUInst = 1;
 499 }
 500
 501 //===----------------------------------------------------------------------===//
 502 // LDS Instructions
 503 //===----------------------------------------------------------------------===//
 504 class R600_LDS  <bits<6> op, dag outs, dag ins, string asm,
 505                  list<dag> pattern = []> :
 506
 507     InstR600 <outs, ins, asm, pattern, XALU>,
 508     R600_ALU_LDS_Word0,
 509     R600LDS_Word1 {
 510
 511   bits<6>  offset = 0;
 512   let lds_op = op;
 513
 514   let Word1{27} = offset{0};
 515   let Word1{12} = offset{1};
 516   let Word1{28} = offset{2};
 517   let Word1{31} = offset{3};
 518   let Word0{12} = offset{4};
 519   let Word0{25} = offset{5};
 520
 521
 522   let Inst{31-0}  = Word0;
 523   let Inst{63-32} = Word1;
 524
 525   let ALUInst = 1;
 526   let HasNativeOperands = 1;
 527   let UseNamedOperandTable = 1;
 528 }
 529
 530 class R600_LDS_1A <bits<6> lds_op, string name, list<dag> pattern> : R600_LDS <
 531   lds_op,
 532   (outs R600_Reg32:$dst),
 533   (ins R600_Reg32:$src0, REL:$src0_rel, SEL:$src0_sel,
 534        LAST:$last, R600_Pred:$pred_sel,
 535        BANK_SWIZZLE:$bank_swizzle),
 536   "  "#name#" $last OQAP, $src0$src0_rel $pred_sel",
 537   pattern
 538   > {
 539
 540   let src1 = 0;
 541   let src1_rel = 0;
 542   let src2 = 0;
 543   let src2_rel = 0;
 544
 545   let usesCustomInserter = 1;
 546   let LDS_1A = 1;
 547   let DisableEncoding = "$dst";
 548 }
 549
 550 class R600_LDS_1A1D <bits<6> lds_op, dag outs, string name, list<dag> pattern,
 551                      string dst =""> :
 552     R600_LDS <
 553   lds_op, outs,
 554   (ins R600_Reg32:$src0, REL:$src0_rel, SEL:$src0_sel,
 555        R600_Reg32:$src1, REL:$src1_rel, SEL:$src1_sel,
 556        LAST:$last, R600_Pred:$pred_sel,
 557        BANK_SWIZZLE:$bank_swizzle),
 558   "  "#name#" $last "#dst#"$src0$src0_rel, $src1$src1_rel, $pred_sel",
 559   pattern
 560   > {
 561
 562   field string BaseOp;
 563
 564   let src2 = 0;
 565   let src2_rel = 0;
 566   let LDS_1A1D = 1;
 567 }
 568
 569 class R600_LDS_1A1D_NORET <bits<6> lds_op, string name, list<dag> pattern> :
 570     R600_LDS_1A1D <lds_op, (outs), name, pattern> {
 571   let BaseOp = name;
 572 }
 573
 574 class R600_LDS_1A1D_RET <bits<6> lds_op, string name, list<dag> pattern> :
 575     R600_LDS_1A1D <lds_op,  (outs R600_Reg32:$dst), name#"_RET", pattern, "OQAP, "> {
 576
 577   let BaseOp = name;
 578   let usesCustomInserter = 1;
 579   let DisableEncoding = "$dst";
 580 }
 581
 582 class R600_LDS_1A2D <bits<6> lds_op, dag outs, string name, list<dag> pattern,
 583                      string dst =""> :
 584     R600_LDS <
 585   lds_op, outs,
 586   (ins R600_Reg32:$src0, REL:$src0_rel, SEL:$src0_sel,
 587        R600_Reg32:$src1, REL:$src1_rel, SEL:$src1_sel,
 588        R600_Reg32:$src2, REL:$src2_rel, SEL:$src2_sel,
 589        LAST:$last, R600_Pred:$pred_sel, BANK_SWIZZLE:$bank_swizzle),
 590   "  "#name# "$last "#dst#"$src0$src0_rel, $src1$src1_rel, $src2$src2_rel, $pred_sel",
 591   pattern> {
 592
 593   field string BaseOp;
 594
 595   let LDS_1A1D = 0;
 596   let LDS_1A2D = 1;
 597 }
 598
 599 class R600_LDS_1A2D_NORET <bits<6> lds_op, string name, list<dag> pattern> :
 600     R600_LDS_1A2D <lds_op, (outs), name, pattern> {
 601   let BaseOp = name;
 602 }
 603
 604 class R600_LDS_1A2D_RET <bits<6> lds_op, string name, list<dag> pattern> :
 605     R600_LDS_1A2D <lds_op, (outs R600_Reg32:$dst), name, pattern> {
 606
 607   let BaseOp = name;
 608   let usesCustomInserter = 1;
 609   let DisableEncoding = "$dst";
 610 }
 611
 612 def LDS_ADD : R600_LDS_1A1D_NORET <0x0, "LDS_ADD", [] >;
 613 def LDS_SUB : R600_LDS_1A1D_NORET <0x1, "LDS_SUB", [] >;
 614 def LDS_AND : R600_LDS_1A1D_NORET <0x9, "LDS_AND", [] >;
 615 def LDS_OR : R600_LDS_1A1D_NORET <0xa, "LDS_OR", [] >;
 616 def LDS_XOR : R600_LDS_1A1D_NORET <0xb, "LDS_XOR", [] >;
 617 def LDS_WRXCHG: R600_LDS_1A1D_NORET <0xd, "LDS_WRXCHG", [] >;
 618 def LDS_CMPST: R600_LDS_1A2D_NORET <0x10, "LDS_CMPST", [] >;
 619 def LDS_MIN_INT : R600_LDS_1A1D_NORET <0x5, "LDS_MIN_INT", [] >;
 620 def LDS_MAX_INT : R600_LDS_1A1D_NORET <0x6, "LDS_MAX_INT", [] >;
 621 def LDS_MIN_UINT : R600_LDS_1A1D_NORET <0x7, "LDS_MIN_UINT", [] >;
 622 def LDS_MAX_UINT : R600_LDS_1A1D_NORET <0x8, "LDS_MAX_UINT", [] >;
 623 def LDS_WRITE : R600_LDS_1A1D_NORET <0xD, "LDS_WRITE",
 624   [(store_local (i32 R600_Reg32:$src1), R600_Reg32:$src0)]
 625 >;
 626 def LDS_BYTE_WRITE : R600_LDS_1A1D_NORET<0x12, "LDS_BYTE_WRITE",
 627   [(truncstorei8_local i32:$src1, i32:$src0)]
 628 >;
 629 def LDS_SHORT_WRITE : R600_LDS_1A1D_NORET<0x13, "LDS_SHORT_WRITE",
 630   [(truncstorei16_local i32:$src1, i32:$src0)]
 631 >;
 632 def LDS_ADD_RET : R600_LDS_1A1D_RET <0x20, "LDS_ADD",
 633   [(set i32:$dst, (atomic_load_add_local_32 i32:$src0, i32:$src1))]
 634 >;
 635 def LDS_SUB_RET : R600_LDS_1A1D_RET <0x21, "LDS_SUB",
 636   [(set i32:$dst, (atomic_load_sub_local_32 i32:$src0, i32:$src1))]
 637 >;
 638 def LDS_AND_RET : R600_LDS_1A1D_RET <0x29, "LDS_AND",
 639   [(set i32:$dst, (atomic_load_and_local_32 i32:$src0, i32:$src1))]
 640 >;
 641 def LDS_OR_RET : R600_LDS_1A1D_RET <0x2a, "LDS_OR",
 642   [(set i32:$dst, (atomic_load_or_local_32 i32:$src0, i32:$src1))]
 643 >;
 644 def LDS_XOR_RET : R600_LDS_1A1D_RET <0x2b, "LDS_XOR",
 645   [(set i32:$dst, (atomic_load_xor_local_32 i32:$src0, i32:$src1))]
 646 >;
 647 def LDS_MIN_INT_RET : R600_LDS_1A1D_RET <0x25, "LDS_MIN_INT",
 648   [(set i32:$dst, (atomic_load_min_local_32 i32:$src0, i32:$src1))]
 649 >;
 650 def LDS_MAX_INT_RET : R600_LDS_1A1D_RET <0x26, "LDS_MAX_INT",
 651   [(set i32:$dst, (atomic_load_max_local_32 i32:$src0, i32:$src1))]
 652 >;
 653 def LDS_MIN_UINT_RET : R600_LDS_1A1D_RET <0x27, "LDS_MIN_UINT",
 654   [(set i32:$dst, (atomic_load_umin_local_32 i32:$src0, i32:$src1))]
 655 >;
 656 def LDS_MAX_UINT_RET : R600_LDS_1A1D_RET <0x28, "LDS_MAX_UINT",
 657   [(set i32:$dst, (atomic_load_umax_local_32 i32:$src0, i32:$src1))]
 658 >;
 659 def LDS_WRXCHG_RET : R600_LDS_1A1D_RET <0x2d, "LDS_WRXCHG",
 660   [(set i32:$dst, (atomic_swap_local_32 i32:$src0, i32:$src1))]
 661 >;
 662 def LDS_CMPST_RET : R600_LDS_1A2D_RET <0x30, "LDS_CMPST",
 663   [(set i32:$dst, (atomic_cmp_swap_local_32 i32:$src0, i32:$src1, i32:$src2))]
 664 >;
 665 def LDS_READ_RET : R600_LDS_1A <0x32, "LDS_READ_RET",
 666   [(set (i32 R600_Reg32:$dst), (load_local R600_Reg32:$src0))]
 667 >;
 668 def LDS_BYTE_READ_RET : R600_LDS_1A <0x36, "LDS_BYTE_READ_RET",
 669   [(set i32:$dst, (sextloadi8_local i32:$src0))]
 670 >;
 671 def LDS_UBYTE_READ_RET : R600_LDS_1A <0x37, "LDS_UBYTE_READ_RET",
 672   [(set i32:$dst, (az_extloadi8_local i32:$src0))]
 673 >;
 674 def LDS_SHORT_READ_RET : R600_LDS_1A <0x38, "LDS_SHORT_READ_RET",
 675   [(set i32:$dst, (sextloadi16_local i32:$src0))]
 676 >;
 677 def LDS_USHORT_READ_RET : R600_LDS_1A <0x39, "LDS_USHORT_READ_RET",
 678   [(set i32:$dst, (az_extloadi16_local i32:$src0))]
 679 >;
 680
 681 // TRUNC is used for the FLT_TO_INT instructions to work around a
 682 // perceived problem where the rounding modes are applied differently
 683 // depending on the instruction and the slot they are in.
 684 // See:
 685 // https://bugs.freedesktop.org/show_bug.cgi?id=50232
 686 // Mesa commit: a1a0974401c467cb86ef818f22df67c21774a38c
 687 //
 688 // XXX: Lowering SELECT_CC will sometimes generate fp_to_[su]int nodes,
 689 // which do not need to be truncated since the fp values are 0.0f or 1.0f.
 690 // We should look into handling these cases separately.
 691 def : EGOrCaymanPat<(fp_to_sint f32:$src0), (FLT_TO_INT_eg (TRUNC $src0))>;
 692
 693 def : EGOrCaymanPat<(fp_to_uint f32:$src0), (FLT_TO_UINT_eg (TRUNC $src0))>;
 694
 695 // SHA-256 Patterns
 696 defm : SHA256MaPattern <BFI_INT_eg, XOR_INT, R600_Reg64>;
 697
 698 def EG_ExportSwz : ExportSwzInst {
 699   let Word1{19-16} = 0; // BURST_COUNT
 700   let Word1{20} = 0; // VALID_PIXEL_MODE
 701   let Word1{21} = eop;
 702   let Word1{29-22} = inst;
 703   let Word1{30} = 0; // MARK
 704   let Word1{31} = 1; // BARRIER
 705 }
 706 defm : ExportPattern<EG_ExportSwz, 83>;
 707
 708 def EG_ExportBuf : ExportBufInst {
 709   let Word1{19-16} = 0; // BURST_COUNT
 710   let Word1{20} = 0; // VALID_PIXEL_MODE
 711   let Word1{21} = eop;
 712   let Word1{29-22} = inst;
 713   let Word1{30} = 0; // MARK
 714   let Word1{31} = 1; // BARRIER
 715 }
 716 defm : SteamOutputExportPattern<EG_ExportBuf, 0x40, 0x41, 0x42, 0x43>;
 717
 718 def CF_TC_EG : CF_CLAUSE_EG<1, (ins i32imm:$ADDR, i32imm:$COUNT),
 719   "TEX $COUNT @$ADDR"> {
 720   let POP_COUNT = 0;
 721 }
 722 def CF_VC_EG : CF_CLAUSE_EG<2, (ins i32imm:$ADDR, i32imm:$COUNT),
 723   "VTX $COUNT @$ADDR"> {
 724   let POP_COUNT = 0;
 725 }
 726 def WHILE_LOOP_EG : CF_CLAUSE_EG<6, (ins i32imm:$ADDR),
 727   "LOOP_START_DX10 @$ADDR"> {
 728   let POP_COUNT = 0;
 729   let COUNT = 0;
 730 }
 731 def END_LOOP_EG : CF_CLAUSE_EG<5, (ins i32imm:$ADDR), "END_LOOP @$ADDR"> {
 732   let POP_COUNT = 0;
 733   let COUNT = 0;
 734 }
 735 def LOOP_BREAK_EG : CF_CLAUSE_EG<9, (ins i32imm:$ADDR),
 736   "LOOP_BREAK @$ADDR"> {
 737   let POP_COUNT = 0;
 738   let COUNT = 0;
 739 }
 740 def CF_CONTINUE_EG : CF_CLAUSE_EG<8, (ins i32imm:$ADDR),
 741   "CONTINUE @$ADDR"> {
 742   let POP_COUNT = 0;
 743   let COUNT = 0;
 744 }
 745 def CF_JUMP_EG : CF_CLAUSE_EG<10, (ins i32imm:$ADDR, i32imm:$POP_COUNT),
 746   "JUMP @$ADDR POP:$POP_COUNT"> {
 747   let COUNT = 0;
 748 }
 749 def CF_PUSH_EG : CF_CLAUSE_EG<11, (ins i32imm:$ADDR, i32imm:$POP_COUNT),
 750                               "PUSH @$ADDR POP:$POP_COUNT"> {
 751   let COUNT = 0;
 752 }
 753 def CF_ELSE_EG : CF_CLAUSE_EG<13, (ins i32imm:$ADDR, i32imm:$POP_COUNT),
 754   "ELSE @$ADDR POP:$POP_COUNT"> {
 755   let COUNT = 0;
 756 }
 757 def CF_CALL_FS_EG : CF_CLAUSE_EG<19, (ins), "CALL_FS"> {
 758   let ADDR = 0;
 759   let COUNT = 0;
 760   let POP_COUNT = 0;
 761 }
 762 def POP_EG : CF_CLAUSE_EG<14, (ins i32imm:$ADDR, i32imm:$POP_COUNT),
 763   "POP @$ADDR POP:$POP_COUNT"> {
 764   let COUNT = 0;
 765 }
 766 def CF_END_EG :  CF_CLAUSE_EG<0, (ins), "CF_END"> {
 767   let COUNT = 0;
 768   let POP_COUNT = 0;
 769   let ADDR = 0;
 770   let END_OF_PROGRAM = 1;
 771 }
 772
 773 } // End Predicates = [isEGorCayman]