secure/lib/libcrypto/amd64/vpaes-x86_64.S

   1 # $FreeBSD$
   2 # Do not modify. This file is auto-generated from vpaes-x86_64.pl.
   3 .text
   4
   5
   6
   7
   8
   9
  10
  11
  12
  13
  14
  15
  16
  17
  18
  19
  20 .type   _vpaes_encrypt_core,@function
  21 .align  16
  22 _vpaes_encrypt_core:
  23         movq    %rdx,%r9
  24         movq    $16,%r11
  25         movl    240(%rdx),%eax
  26         movdqa  %xmm9,%xmm1
  27         movdqa  .Lk_ipt(%rip),%xmm2
  28         pandn   %xmm0,%xmm1
  29         movdqu  (%r9),%xmm5
  30         psrld   $4,%xmm1
  31         pand    %xmm9,%xmm0
  32 .byte   102,15,56,0,208
  33         movdqa  .Lk_ipt+16(%rip),%xmm0
  34 .byte   102,15,56,0,193
  35         pxor    %xmm5,%xmm2
  36         pxor    %xmm2,%xmm0
  37         addq    $16,%r9
  38         leaq    .Lk_mc_backward(%rip),%r10
  39         jmp     .Lenc_entry
  40
  41 .align  16
  42 .Lenc_loop:
  43
  44         movdqa  %xmm13,%xmm4
  45 .byte   102,15,56,0,226
  46         pxor    %xmm5,%xmm4
  47         movdqa  %xmm12,%xmm0
  48 .byte   102,15,56,0,195
  49         pxor    %xmm4,%xmm0
  50         movdqa  %xmm15,%xmm5
  51 .byte   102,15,56,0,234
  52         movdqa  -64(%r11,%r10,1),%xmm1
  53         movdqa  %xmm14,%xmm2
  54 .byte   102,15,56,0,211
  55         pxor    %xmm5,%xmm2
  56         movdqa  (%r11,%r10,1),%xmm4
  57         movdqa  %xmm0,%xmm3
  58 .byte   102,15,56,0,193
  59         addq    $16,%r9
  60         pxor    %xmm2,%xmm0
  61 .byte   102,15,56,0,220
  62         addq    $16,%r11
  63         pxor    %xmm0,%xmm3
  64 .byte   102,15,56,0,193
  65         andq    $48,%r11
  66         pxor    %xmm3,%xmm0
  67         subq    $1,%rax
  68
  69 .Lenc_entry:
  70
  71         movdqa  %xmm9,%xmm1
  72         pandn   %xmm0,%xmm1
  73         psrld   $4,%xmm1
  74         pand    %xmm9,%xmm0
  75         movdqa  %xmm11,%xmm5
  76 .byte   102,15,56,0,232
  77         pxor    %xmm1,%xmm0
  78         movdqa  %xmm10,%xmm3
  79 .byte   102,15,56,0,217
  80         pxor    %xmm5,%xmm3
  81         movdqa  %xmm10,%xmm4
  82 .byte   102,15,56,0,224
  83         pxor    %xmm5,%xmm4
  84         movdqa  %xmm10,%xmm2
  85 .byte   102,15,56,0,211
  86         pxor    %xmm0,%xmm2
  87         movdqa  %xmm10,%xmm3
  88         movdqu  (%r9),%xmm5
  89 .byte   102,15,56,0,220
  90         pxor    %xmm1,%xmm3
  91         jnz     .Lenc_loop
  92
  93
  94         movdqa  -96(%r10),%xmm4
  95         movdqa  -80(%r10),%xmm0
  96 .byte   102,15,56,0,226
  97         pxor    %xmm5,%xmm4
  98 .byte   102,15,56,0,195
  99         movdqa  64(%r11,%r10,1),%xmm1
 100         pxor    %xmm4,%xmm0
 101 .byte   102,15,56,0,193
 102         .byte   0xf3,0xc3
 103 .size   _vpaes_encrypt_core,.-_vpaes_encrypt_core
 104
 105
 106
 107
 108
 109
 110 .type   _vpaes_decrypt_core,@function
 111 .align  16
 112 _vpaes_decrypt_core:
 113         movq    %rdx,%r9
 114         movl    240(%rdx),%eax
 115         movdqa  %xmm9,%xmm1
 116         movdqa  .Lk_dipt(%rip),%xmm2
 117         pandn   %xmm0,%xmm1
 118         movq    %rax,%r11
 119         psrld   $4,%xmm1
 120         movdqu  (%r9),%xmm5
 121         shlq    $4,%r11
 122         pand    %xmm9,%xmm0
 123 .byte   102,15,56,0,208
 124         movdqa  .Lk_dipt+16(%rip),%xmm0
 125         xorq    $48,%r11
 126         leaq    .Lk_dsbd(%rip),%r10
 127 .byte   102,15,56,0,193
 128         andq    $48,%r11
 129         pxor    %xmm5,%xmm2
 130         movdqa  .Lk_mc_forward+48(%rip),%xmm5
 131         pxor    %xmm2,%xmm0
 132         addq    $16,%r9
 133         addq    %r10,%r11
 134         jmp     .Ldec_entry
 135
 136 .align  16
 137 .Ldec_loop:
 138
 139
 140
 141         movdqa  -32(%r10),%xmm4
 142 .byte   102,15,56,0,226
 143         pxor    %xmm0,%xmm4
 144         movdqa  -16(%r10),%xmm0
 145 .byte   102,15,56,0,195
 146         pxor    %xmm4,%xmm0
 147         addq    $16,%r9
 148
 149 .byte   102,15,56,0,197
 150         movdqa  0(%r10),%xmm4
 151 .byte   102,15,56,0,226
 152         pxor    %xmm0,%xmm4
 153         movdqa  16(%r10),%xmm0
 154 .byte   102,15,56,0,195
 155         pxor    %xmm4,%xmm0
 156         subq    $1,%rax
 157
 158 .byte   102,15,56,0,197
 159         movdqa  32(%r10),%xmm4
 160 .byte   102,15,56,0,226
 161         pxor    %xmm0,%xmm4
 162         movdqa  48(%r10),%xmm0
 163 .byte   102,15,56,0,195
 164         pxor    %xmm4,%xmm0
 165
 166 .byte   102,15,56,0,197
 167         movdqa  64(%r10),%xmm4
 168 .byte   102,15,56,0,226
 169         pxor    %xmm0,%xmm4
 170         movdqa  80(%r10),%xmm0
 171 .byte   102,15,56,0,195
 172         pxor    %xmm4,%xmm0
 173
 174 .byte   102,15,58,15,237,12
 175
 176 .Ldec_entry:
 177
 178         movdqa  %xmm9,%xmm1
 179         pandn   %xmm0,%xmm1
 180         psrld   $4,%xmm1
 181         pand    %xmm9,%xmm0
 182         movdqa  %xmm11,%xmm2
 183 .byte   102,15,56,0,208
 184         pxor    %xmm1,%xmm0
 185         movdqa  %xmm10,%xmm3
 186 .byte   102,15,56,0,217
 187         pxor    %xmm2,%xmm3
 188         movdqa  %xmm10,%xmm4
 189 .byte   102,15,56,0,224
 190         pxor    %xmm2,%xmm4
 191         movdqa  %xmm10,%xmm2
 192 .byte   102,15,56,0,211
 193         pxor    %xmm0,%xmm2
 194         movdqa  %xmm10,%xmm3
 195 .byte   102,15,56,0,220
 196         pxor    %xmm1,%xmm3
 197         movdqu  (%r9),%xmm0
 198         jnz     .Ldec_loop
 199
 200
 201         movdqa  96(%r10),%xmm4
 202 .byte   102,15,56,0,226
 203         pxor    %xmm0,%xmm4
 204         movdqa  112(%r10),%xmm0
 205         movdqa  -352(%r11),%xmm2
 206 .byte   102,15,56,0,195
 207         pxor    %xmm4,%xmm0
 208 .byte   102,15,56,0,194
 209         .byte   0xf3,0xc3
 210 .size   _vpaes_decrypt_core,.-_vpaes_decrypt_core
 211
 212
 213
 214
 215
 216
 217 .type   _vpaes_schedule_core,@function
 218 .align  16
 219 _vpaes_schedule_core:
 220
 221
 222
 223
 224
 225         call    _vpaes_preheat
 226         movdqa  .Lk_rcon(%rip),%xmm8
 227         movdqu  (%rdi),%xmm0
 228
 229
 230         movdqa  %xmm0,%xmm3
 231         leaq    .Lk_ipt(%rip),%r11
 232         call    _vpaes_schedule_transform
 233         movdqa  %xmm0,%xmm7
 234
 235         leaq    .Lk_sr(%rip),%r10
 236         testq   %rcx,%rcx
 237         jnz     .Lschedule_am_decrypting
 238
 239
 240         movdqu  %xmm0,(%rdx)
 241         jmp     .Lschedule_go
 242
 243 .Lschedule_am_decrypting:
 244
 245         movdqa  (%r8,%r10,1),%xmm1
 246 .byte   102,15,56,0,217
 247         movdqu  %xmm3,(%rdx)
 248         xorq    $48,%r8
 249
 250 .Lschedule_go:
 251         cmpl    $192,%esi
 252         ja      .Lschedule_256
 253         je      .Lschedule_192
 254
 255
 256
 257
 258
 259
 260
 261
 262
 263
 264 .Lschedule_128:
 265         movl    $10,%esi
 266
 267 .Loop_schedule_128:
 268         call    _vpaes_schedule_round
 269         decq    %rsi
 270         jz      .Lschedule_mangle_last
 271         call    _vpaes_schedule_mangle
 272         jmp     .Loop_schedule_128
 273
 274
 275
 276
 277
 278
 279
 280
 281
 282
 283
 284
 285
 286
 287
 288
 289 .align  16
 290 .Lschedule_192:
 291         movdqu  8(%rdi),%xmm0
 292         call    _vpaes_schedule_transform
 293         movdqa  %xmm0,%xmm6
 294         pxor    %xmm4,%xmm4
 295         movhlps %xmm4,%xmm6
 296         movl    $4,%esi
 297
 298 .Loop_schedule_192:
 299         call    _vpaes_schedule_round
 300 .byte   102,15,58,15,198,8
 301         call    _vpaes_schedule_mangle
 302         call    _vpaes_schedule_192_smear
 303         call    _vpaes_schedule_mangle
 304         call    _vpaes_schedule_round
 305         decq    %rsi
 306         jz      .Lschedule_mangle_last
 307         call    _vpaes_schedule_mangle
 308         call    _vpaes_schedule_192_smear
 309         jmp     .Loop_schedule_192
 310
 311
 312
 313
 314
 315
 316
 317
 318
 319
 320
 321 .align  16
 322 .Lschedule_256:
 323         movdqu  16(%rdi),%xmm0
 324         call    _vpaes_schedule_transform
 325         movl    $7,%esi
 326
 327 .Loop_schedule_256:
 328         call    _vpaes_schedule_mangle
 329         movdqa  %xmm0,%xmm6
 330
 331
 332         call    _vpaes_schedule_round
 333         decq    %rsi
 334         jz      .Lschedule_mangle_last
 335         call    _vpaes_schedule_mangle
 336
 337
 338         pshufd  $255,%xmm0,%xmm0
 339         movdqa  %xmm7,%xmm5
 340         movdqa  %xmm6,%xmm7
 341         call    _vpaes_schedule_low_round
 342         movdqa  %xmm5,%xmm7
 343
 344         jmp     .Loop_schedule_256
 345
 346
 347
 348
 349
 350
 351
 352
 353
 354
 355
 356
 357 .align  16
 358 .Lschedule_mangle_last:
 359
 360         leaq    .Lk_deskew(%rip),%r11
 361         testq   %rcx,%rcx
 362         jnz     .Lschedule_mangle_last_dec
 363
 364
 365         movdqa  (%r8,%r10,1),%xmm1
 366 .byte   102,15,56,0,193
 367         leaq    .Lk_opt(%rip),%r11
 368         addq    $32,%rdx
 369
 370 .Lschedule_mangle_last_dec:
 371         addq    $-16,%rdx
 372         pxor    .Lk_s63(%rip),%xmm0
 373         call    _vpaes_schedule_transform
 374         movdqu  %xmm0,(%rdx)
 375
 376
 377         pxor    %xmm0,%xmm0
 378         pxor    %xmm1,%xmm1
 379         pxor    %xmm2,%xmm2
 380         pxor    %xmm3,%xmm3
 381         pxor    %xmm4,%xmm4
 382         pxor    %xmm5,%xmm5
 383         pxor    %xmm6,%xmm6
 384         pxor    %xmm7,%xmm7
 385         .byte   0xf3,0xc3
 386 .size   _vpaes_schedule_core,.-_vpaes_schedule_core
 387
 388
 389
 390
 391
 392
 393
 394
 395
 396
 397
 398
 399
 400
 401
 402 .type   _vpaes_schedule_192_smear,@function
 403 .align  16
 404 _vpaes_schedule_192_smear:
 405         pshufd  $128,%xmm6,%xmm0
 406         pxor    %xmm0,%xmm6
 407         pshufd  $254,%xmm7,%xmm0
 408         pxor    %xmm0,%xmm6
 409         movdqa  %xmm6,%xmm0
 410         pxor    %xmm1,%xmm1
 411         movhlps %xmm1,%xmm6
 412         .byte   0xf3,0xc3
 413 .size   _vpaes_schedule_192_smear,.-_vpaes_schedule_192_smear
 414
 415
 416
 417
 418
 419
 420
 421
 422
 423
 424
 425
 426
 427
 428
 429
 430
 431
 432
 433 .type   _vpaes_schedule_round,@function
 434 .align  16
 435 _vpaes_schedule_round:
 436
 437         pxor    %xmm1,%xmm1
 438 .byte   102,65,15,58,15,200,15
 439 .byte   102,69,15,58,15,192,15
 440         pxor    %xmm1,%xmm7
 441
 442
 443         pshufd  $255,%xmm0,%xmm0
 444 .byte   102,15,58,15,192,1
 445
 446
 447
 448
 449 _vpaes_schedule_low_round:
 450
 451         movdqa  %xmm7,%xmm1
 452         pslldq  $4,%xmm7
 453         pxor    %xmm1,%xmm7
 454         movdqa  %xmm7,%xmm1
 455         pslldq  $8,%xmm7
 456         pxor    %xmm1,%xmm7
 457         pxor    .Lk_s63(%rip),%xmm7
 458
 459
 460         movdqa  %xmm9,%xmm1
 461         pandn   %xmm0,%xmm1
 462         psrld   $4,%xmm1
 463         pand    %xmm9,%xmm0
 464         movdqa  %xmm11,%xmm2
 465 .byte   102,15,56,0,208
 466         pxor    %xmm1,%xmm0
 467         movdqa  %xmm10,%xmm3
 468 .byte   102,15,56,0,217
 469         pxor    %xmm2,%xmm3
 470         movdqa  %xmm10,%xmm4
 471 .byte   102,15,56,0,224
 472         pxor    %xmm2,%xmm4
 473         movdqa  %xmm10,%xmm2
 474 .byte   102,15,56,0,211
 475         pxor    %xmm0,%xmm2
 476         movdqa  %xmm10,%xmm3
 477 .byte   102,15,56,0,220
 478         pxor    %xmm1,%xmm3
 479         movdqa  %xmm13,%xmm4
 480 .byte   102,15,56,0,226
 481         movdqa  %xmm12,%xmm0
 482 .byte   102,15,56,0,195
 483         pxor    %xmm4,%xmm0
 484
 485
 486         pxor    %xmm7,%xmm0
 487         movdqa  %xmm0,%xmm7
 488         .byte   0xf3,0xc3
 489 .size   _vpaes_schedule_round,.-_vpaes_schedule_round
 490
 491
 492
 493
 494
 495
 496
 497
 498
 499
 500 .type   _vpaes_schedule_transform,@function
 501 .align  16
 502 _vpaes_schedule_transform:
 503         movdqa  %xmm9,%xmm1
 504         pandn   %xmm0,%xmm1
 505         psrld   $4,%xmm1
 506         pand    %xmm9,%xmm0
 507         movdqa  (%r11),%xmm2
 508 .byte   102,15,56,0,208
 509         movdqa  16(%r11),%xmm0
 510 .byte   102,15,56,0,193
 511         pxor    %xmm2,%xmm0
 512         .byte   0xf3,0xc3
 513 .size   _vpaes_schedule_transform,.-_vpaes_schedule_transform
 514
 515
 516
 517
 518
 519
 520
 521
 522
 523
 524
 525
 526
 527
 528
 529
 530
 531
 532
 533
 534
 535
 536
 537
 538 .type   _vpaes_schedule_mangle,@function
 539 .align  16
 540 _vpaes_schedule_mangle:
 541         movdqa  %xmm0,%xmm4
 542         movdqa  .Lk_mc_forward(%rip),%xmm5
 543         testq   %rcx,%rcx
 544         jnz     .Lschedule_mangle_dec
 545
 546
 547         addq    $16,%rdx
 548         pxor    .Lk_s63(%rip),%xmm4
 549 .byte   102,15,56,0,229
 550         movdqa  %xmm4,%xmm3
 551 .byte   102,15,56,0,229
 552         pxor    %xmm4,%xmm3
 553 .byte   102,15,56,0,229
 554         pxor    %xmm4,%xmm3
 555
 556         jmp     .Lschedule_mangle_both
 557 .align  16
 558 .Lschedule_mangle_dec:
 559
 560         leaq    .Lk_dksd(%rip),%r11
 561         movdqa  %xmm9,%xmm1
 562         pandn   %xmm4,%xmm1
 563         psrld   $4,%xmm1
 564         pand    %xmm9,%xmm4
 565
 566         movdqa  0(%r11),%xmm2
 567 .byte   102,15,56,0,212
 568         movdqa  16(%r11),%xmm3
 569 .byte   102,15,56,0,217
 570         pxor    %xmm2,%xmm3
 571 .byte   102,15,56,0,221
 572
 573         movdqa  32(%r11),%xmm2
 574 .byte   102,15,56,0,212
 575         pxor    %xmm3,%xmm2
 576         movdqa  48(%r11),%xmm3
 577 .byte   102,15,56,0,217
 578         pxor    %xmm2,%xmm3
 579 .byte   102,15,56,0,221
 580
 581         movdqa  64(%r11),%xmm2
 582 .byte   102,15,56,0,212
 583         pxor    %xmm3,%xmm2
 584         movdqa  80(%r11),%xmm3
 585 .byte   102,15,56,0,217
 586         pxor    %xmm2,%xmm3
 587 .byte   102,15,56,0,221
 588
 589         movdqa  96(%r11),%xmm2
 590 .byte   102,15,56,0,212
 591         pxor    %xmm3,%xmm2
 592         movdqa  112(%r11),%xmm3
 593 .byte   102,15,56,0,217
 594         pxor    %xmm2,%xmm3
 595
 596         addq    $-16,%rdx
 597
 598 .Lschedule_mangle_both:
 599         movdqa  (%r8,%r10,1),%xmm1
 600 .byte   102,15,56,0,217
 601         addq    $-16,%r8
 602         andq    $48,%r8
 603         movdqu  %xmm3,(%rdx)
 604         .byte   0xf3,0xc3
 605 .size   _vpaes_schedule_mangle,.-_vpaes_schedule_mangle
 606
 607
 608
 609
 610 .globl  vpaes_set_encrypt_key
 611 .type   vpaes_set_encrypt_key,@function
 612 .align  16
 613 vpaes_set_encrypt_key:
 614         movl    %esi,%eax
 615         shrl    $5,%eax
 616         addl    $5,%eax
 617         movl    %eax,240(%rdx)
 618
 619         movl    $0,%ecx
 620         movl    $48,%r8d
 621         call    _vpaes_schedule_core
 622         xorl    %eax,%eax
 623         .byte   0xf3,0xc3
 624 .size   vpaes_set_encrypt_key,.-vpaes_set_encrypt_key
 625
 626 .globl  vpaes_set_decrypt_key
 627 .type   vpaes_set_decrypt_key,@function
 628 .align  16
 629 vpaes_set_decrypt_key:
 630         movl    %esi,%eax
 631         shrl    $5,%eax
 632         addl    $5,%eax
 633         movl    %eax,240(%rdx)
 634         shll    $4,%eax
 635         leaq    16(%rdx,%rax,1),%rdx
 636
 637         movl    $1,%ecx
 638         movl    %esi,%r8d
 639         shrl    $1,%r8d
 640         andl    $32,%r8d
 641         xorl    $32,%r8d
 642         call    _vpaes_schedule_core
 643         xorl    %eax,%eax
 644         .byte   0xf3,0xc3
 645 .size   vpaes_set_decrypt_key,.-vpaes_set_decrypt_key
 646
 647 .globl  vpaes_encrypt
 648 .type   vpaes_encrypt,@function
 649 .align  16
 650 vpaes_encrypt:
 651         movdqu  (%rdi),%xmm0
 652         call    _vpaes_preheat
 653         call    _vpaes_encrypt_core
 654         movdqu  %xmm0,(%rsi)
 655         .byte   0xf3,0xc3
 656 .size   vpaes_encrypt,.-vpaes_encrypt
 657
 658 .globl  vpaes_decrypt
 659 .type   vpaes_decrypt,@function
 660 .align  16
 661 vpaes_decrypt:
 662         movdqu  (%rdi),%xmm0
 663         call    _vpaes_preheat
 664         call    _vpaes_decrypt_core
 665         movdqu  %xmm0,(%rsi)
 666         .byte   0xf3,0xc3
 667 .size   vpaes_decrypt,.-vpaes_decrypt
 668 .globl  vpaes_cbc_encrypt
 669 .type   vpaes_cbc_encrypt,@function
 670 .align  16
 671 vpaes_cbc_encrypt:
 672         xchgq   %rcx,%rdx
 673         subq    $16,%rcx
 674         jc      .Lcbc_abort
 675         movdqu  (%r8),%xmm6
 676         subq    %rdi,%rsi
 677         call    _vpaes_preheat
 678         cmpl    $0,%r9d
 679         je      .Lcbc_dec_loop
 680         jmp     .Lcbc_enc_loop
 681 .align  16
 682 .Lcbc_enc_loop:
 683         movdqu  (%rdi),%xmm0
 684         pxor    %xmm6,%xmm0
 685         call    _vpaes_encrypt_core
 686         movdqa  %xmm0,%xmm6
 687         movdqu  %xmm0,(%rsi,%rdi,1)
 688         leaq    16(%rdi),%rdi
 689         subq    $16,%rcx
 690         jnc     .Lcbc_enc_loop
 691         jmp     .Lcbc_done
 692 .align  16
 693 .Lcbc_dec_loop:
 694         movdqu  (%rdi),%xmm0
 695         movdqa  %xmm0,%xmm7
 696         call    _vpaes_decrypt_core
 697         pxor    %xmm6,%xmm0
 698         movdqa  %xmm7,%xmm6
 699         movdqu  %xmm0,(%rsi,%rdi,1)
 700         leaq    16(%rdi),%rdi
 701         subq    $16,%rcx
 702         jnc     .Lcbc_dec_loop
 703 .Lcbc_done:
 704         movdqu  %xmm6,(%r8)
 705 .Lcbc_abort:
 706         .byte   0xf3,0xc3
 707 .size   vpaes_cbc_encrypt,.-vpaes_cbc_encrypt
 708
 709
 710
 711
 712
 713
 714 .type   _vpaes_preheat,@function
 715 .align  16
 716 _vpaes_preheat:
 717         leaq    .Lk_s0F(%rip),%r10
 718         movdqa  -32(%r10),%xmm10
 719         movdqa  -16(%r10),%xmm11
 720         movdqa  0(%r10),%xmm9
 721         movdqa  48(%r10),%xmm13
 722         movdqa  64(%r10),%xmm12
 723         movdqa  80(%r10),%xmm15
 724         movdqa  96(%r10),%xmm14
 725         .byte   0xf3,0xc3
 726 .size   _vpaes_preheat,.-_vpaes_preheat
 727
 728
 729
 730
 731
 732 .type   _vpaes_consts,@object
 733 .align  64
 734 _vpaes_consts:
 735 .Lk_inv:
 736 .quad   0x0E05060F0D080180, 0x040703090A0B0C02
 737 .quad   0x01040A060F0B0780, 0x030D0E0C02050809
 738
 739 .Lk_s0F:
 740 .quad   0x0F0F0F0F0F0F0F0F, 0x0F0F0F0F0F0F0F0F
 741
 742 .Lk_ipt:
 743 .quad   0xC2B2E8985A2A7000, 0xCABAE09052227808
 744 .quad   0x4C01307D317C4D00, 0xCD80B1FCB0FDCC81
 745
 746 .Lk_sb1:
 747 .quad   0xB19BE18FCB503E00, 0xA5DF7A6E142AF544
 748 .quad   0x3618D415FAE22300, 0x3BF7CCC10D2ED9EF
 749 .Lk_sb2:
 750 .quad   0xE27A93C60B712400, 0x5EB7E955BC982FCD
 751 .quad   0x69EB88400AE12900, 0xC2A163C8AB82234A
 752 .Lk_sbo:
 753 .quad   0xD0D26D176FBDC700, 0x15AABF7AC502A878
 754 .quad   0xCFE474A55FBB6A00, 0x8E1E90D1412B35FA
 755
 756 .Lk_mc_forward:
 757 .quad   0x0407060500030201, 0x0C0F0E0D080B0A09
 758 .quad   0x080B0A0904070605, 0x000302010C0F0E0D
 759 .quad   0x0C0F0E0D080B0A09, 0x0407060500030201
 760 .quad   0x000302010C0F0E0D, 0x080B0A0904070605
 761
 762 .Lk_mc_backward:
 763 .quad   0x0605040702010003, 0x0E0D0C0F0A09080B
 764 .quad   0x020100030E0D0C0F, 0x0A09080B06050407
 765 .quad   0x0E0D0C0F0A09080B, 0x0605040702010003
 766 .quad   0x0A09080B06050407, 0x020100030E0D0C0F
 767
 768 .Lk_sr:
 769 .quad   0x0706050403020100, 0x0F0E0D0C0B0A0908
 770 .quad   0x030E09040F0A0500, 0x0B06010C07020D08
 771 .quad   0x0F060D040B020900, 0x070E050C030A0108
 772 .quad   0x0B0E0104070A0D00, 0x0306090C0F020508
 773
 774 .Lk_rcon:
 775 .quad   0x1F8391B9AF9DEEB6, 0x702A98084D7C7D81
 776
 777 .Lk_s63:
 778 .quad   0x5B5B5B5B5B5B5B5B, 0x5B5B5B5B5B5B5B5B
 779
 780 .Lk_opt:
 781 .quad   0xFF9F4929D6B66000, 0xF7974121DEBE6808
 782 .quad   0x01EDBD5150BCEC00, 0xE10D5DB1B05C0CE0
 783
 784 .Lk_deskew:
 785 .quad   0x07E4A34047A4E300, 0x1DFEB95A5DBEF91A
 786 .quad   0x5F36B5DC83EA6900, 0x2841C2ABF49D1E77
 787
 788
 789
 790
 791
 792 .Lk_dksd:
 793 .quad   0xFEB91A5DA3E44700, 0x0740E3A45A1DBEF9
 794 .quad   0x41C277F4B5368300, 0x5FDC69EAAB289D1E
 795 .Lk_dksb:
 796 .quad   0x9A4FCA1F8550D500, 0x03D653861CC94C99
 797 .quad   0x115BEDA7B6FC4A00, 0xD993256F7E3482C8
 798 .Lk_dkse:
 799 .quad   0xD5031CCA1FC9D600, 0x53859A4C994F5086
 800 .quad   0xA23196054FDC7BE8, 0xCD5EF96A20B31487
 801 .Lk_dks9:
 802 .quad   0xB6116FC87ED9A700, 0x4AED933482255BFC
 803 .quad   0x4576516227143300, 0x8BB89FACE9DAFDCE
 804
 805
 806
 807
 808
 809 .Lk_dipt:
 810 .quad   0x0F505B040B545F00, 0x154A411E114E451A
 811 .quad   0x86E383E660056500, 0x12771772F491F194
 812
 813 .Lk_dsb9:
 814 .quad   0x851C03539A86D600, 0xCAD51F504F994CC9
 815 .quad   0xC03B1789ECD74900, 0x725E2C9EB2FBA565
 816 .Lk_dsbd:
 817 .quad   0x7D57CCDFE6B1A200, 0xF56E9B13882A4439
 818 .quad   0x3CE2FAF724C6CB00, 0x2931180D15DEEFD3
 819 .Lk_dsbb:
 820 .quad   0xD022649296B44200, 0x602646F6B0F2D404
 821 .quad   0xC19498A6CD596700, 0xF3FF0C3E3255AA6B
 822 .Lk_dsbe:
 823 .quad   0x46F2929626D4D000, 0x2242600464B4F6B0
 824 .quad   0x0C55A6CDFFAAC100, 0x9467F36B98593E32
 825 .Lk_dsbo:
 826 .quad   0x1387EA537EF94000, 0xC7AA6DB9D4943E2D
 827 .quad   0x12D7560F93441D00, 0xCA4B8159D8C58E9C
 828 .byte   86,101,99,116,111,114,32,80,101,114,109,117,116,97,116,105,111,110,32,65,69,83,32,102,111,114,32,120,56,54,95,54,52,47,83,83,83,69,51,44,32,77,105,107,101,32,72,97,109,98,117,114,103,32,40,83,116,97,110,102,111,114,100,32,85,110,105,118,101,114,115,105,116,121,41,0
 829 .align  64
 830 .size   _vpaes_consts,.-_vpaes_consts