libexec/rtld-elf/ia64/reloc.c

   1 /*-
   2  * Copyright 1996, 1997, 1998, 1999 John D. Polstra.
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *    notice, this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright
  11  *    notice, this list of conditions and the following disclaimer in the
  12  *    documentation and/or other materials provided with the distribution.
  13  *
  14  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR ``AS IS'' AND ANY EXPRESS OR
  15  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
  16  * OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.
  17  * IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR ANY DIRECT, INDIRECT,
  18  * INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  19  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  20  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  21  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  22  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
  23  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  24  *
  25  * $FreeBSD$
  26  */
  27
  28 /*
  29  * Dynamic linker for ELF.
  30  *
  31  * John Polstra <jdp@polstra.com>.
  32  */
  33
  34 #include <sys/param.h>
  35 #include <sys/mman.h>
  36 #include <machine/ia64_cpu.h>
  37
  38 #include <dlfcn.h>
  39 #include <err.h>
  40 #include <errno.h>
  41 #include <fcntl.h>
  42 #include <stdarg.h>
  43 #include <stdio.h>
  44 #include <stdlib.h>
  45 #include <string.h>
  46 #include <unistd.h>
  47
  48 #include "debug.h"
  49 #include "rtld.h"
  50
  51 extern Elf_Dyn _DYNAMIC;
  52
  53 /*
  54  * Macros for loading/storing unaligned 64-bit values.  These are
  55  * needed because relocations can point to unaligned data.  This
  56  * occurs in the DWARF2 exception frame tables generated by the
  57  * compiler, for instance.
  58  *
  59  * We don't use these when relocating jump slots and GOT entries,
  60  * since they are guaranteed to be aligned.
  61  *
  62  * XXX dfr stub for now.
  63  */
  64 #define load64(p)       (*(u_int64_t *) (p))
  65 #define store64(p, v)   (*(u_int64_t *) (p) = (v))
  66
  67 /* Allocate an @fptr. */
  68
  69 #define FPTR_CHUNK_SIZE         64
  70
  71 struct fptr_chunk {
  72         struct fptr fptrs[FPTR_CHUNK_SIZE];
  73 };
  74
  75 static struct fptr_chunk first_chunk;
  76 static struct fptr_chunk *current_chunk = &first_chunk;
  77 static struct fptr *next_fptr = &first_chunk.fptrs[0];
  78 static struct fptr *last_fptr = &first_chunk.fptrs[FPTR_CHUNK_SIZE];
  79
  80 /*
  81  * We use static storage initially so that we don't have to call
  82  * malloc during init_rtld().
  83  */
  84 static struct fptr *
  85 alloc_fptr(Elf_Addr target, Elf_Addr gp)
  86 {
  87         struct fptr* fptr;
  88
  89         if (next_fptr == last_fptr) {
  90                 current_chunk = malloc(sizeof(struct fptr_chunk));
  91                 next_fptr = &current_chunk->fptrs[0];
  92                 last_fptr = &current_chunk->fptrs[FPTR_CHUNK_SIZE];
  93         }
  94         fptr = next_fptr;
  95         next_fptr++;
  96         fptr->target = target;
  97         fptr->gp = gp;
  98         return fptr;
  99 }
 100
 101 static struct fptr **
 102 alloc_fptrs(Obj_Entry *obj, bool mapped)
 103 {
 104         struct fptr **fptrs;
 105         size_t fbytes;
 106
 107         fbytes = obj->nchains * sizeof(struct fptr *);
 108
 109         /*
 110          * Avoid malloc, if requested. Happens when relocating
 111          * rtld itself on startup.
 112          */
 113         if (mapped) {
 114                 fptrs = mmap(NULL, fbytes, PROT_READ|PROT_WRITE,
 115                     MAP_ANON, -1, 0);
 116                 if (fptrs == MAP_FAILED)
 117                         fptrs = NULL;
 118         } else {
 119                 fptrs = malloc(fbytes);
 120                 if (fptrs != NULL)
 121                         memset(fptrs, 0, fbytes);
 122         }
 123
 124         /*
 125          * This assertion is necessary to guarantee function pointer
 126          * uniqueness
 127          */
 128         assert(fptrs != NULL);
 129
 130         return (obj->priv = fptrs);
 131 }
 132
 133 static void
 134 free_fptrs(Obj_Entry *obj, bool mapped)
 135 {
 136         struct fptr **fptrs;
 137         size_t fbytes;
 138
 139         fptrs  = obj->priv;
 140         if (fptrs == NULL)
 141                 return;
 142
 143         fbytes = obj->nchains * sizeof(struct fptr *);
 144         if (mapped)
 145                 munmap(fptrs, fbytes);
 146         else
 147                 free(fptrs);
 148         obj->priv = NULL;
 149 }
 150
 151 /* Relocate a non-PLT object with addend. */
 152 static int
 153 reloc_non_plt_obj(Obj_Entry *obj_rtld, Obj_Entry *obj, const Elf_Rela *rela,
 154     SymCache *cache, RtldLockState *lockstate)
 155 {
 156         struct fptr **fptrs;
 157         Elf_Addr *where = (Elf_Addr *) (obj->relocbase + rela->r_offset);
 158
 159         switch (ELF_R_TYPE(rela->r_info)) {
 160         case R_IA_64_REL64LSB:
 161                 /*
 162                  * We handle rtld's relocations in rtld_start.S
 163                  */
 164                 if (obj != obj_rtld)
 165                         store64(where,
 166                                 load64(where) + (Elf_Addr) obj->relocbase);
 167                 break;
 168
 169         case R_IA_64_DIR64LSB: {
 170                 const Elf_Sym *def;
 171                 const Obj_Entry *defobj;
 172                 Elf_Addr target;
 173
 174                 def = find_symdef(ELF_R_SYM(rela->r_info), obj, &defobj,
 175                     false, cache, lockstate);
 176                 if (def == NULL)
 177                         return -1;
 178
 179                 target = (def->st_shndx != SHN_UNDEF)
 180                     ? (Elf_Addr)(defobj->relocbase + def->st_value) : 0;
 181                 store64(where, target + rela->r_addend);
 182                 break;
 183         }
 184
 185         case R_IA_64_FPTR64LSB: {
 186                 /*
 187                  * We have to make sure that all @fptr references to
 188                  * the same function are identical so that code can
 189                  * compare function pointers.
 190                  */
 191                 const Elf_Sym *def;
 192                 const Obj_Entry *defobj;
 193                 struct fptr *fptr = 0;
 194                 Elf_Addr target, gp;
 195                 int sym_index;
 196
 197                 def = find_symdef(ELF_R_SYM(rela->r_info), obj, &defobj,
 198                     true, cache, lockstate);
 199                 if (def == NULL) {
 200                         /*
 201                          * XXX r_debug_state is problematic and find_symdef()
 202                          * returns NULL for it. This probably has something to
 203                          * do with symbol versioning (r_debug_state is in the
 204                          * symbol map). If we return -1 in that case we abort
 205                          * relocating rtld, which typically is fatal. So, for
 206                          * now just skip the symbol when we're relocating
 207                          * rtld. We don't care about r_debug_state unless we
 208                          * are being debugged.
 209                          */
 210                         if (obj != obj_rtld)
 211                                 return -1;
 212                         break;
 213                 }
 214
 215                 if (def->st_shndx != SHN_UNDEF) {
 216                         target = (Elf_Addr)(defobj->relocbase + def->st_value);
 217                         gp = (Elf_Addr)defobj->pltgot;
 218
 219                         /* rtld is allowed to reference itself only */
 220                         assert(!obj->rtld || obj == defobj);
 221                         fptrs = defobj->priv;
 222                         if (fptrs == NULL)
 223                                 fptrs = alloc_fptrs((Obj_Entry *) defobj,
 224                                     obj->rtld);
 225
 226                         sym_index = def - defobj->symtab;
 227
 228                         /*
 229                          * Find the @fptr, using fptrs as a helper.
 230                          */
 231                         if (fptrs)
 232                                 fptr = fptrs[sym_index];
 233                         if (!fptr) {
 234                                 fptr = alloc_fptr(target, gp);
 235                                 if (fptrs)
 236                                         fptrs[sym_index] = fptr;
 237                         }
 238                 } else
 239                         fptr = NULL;
 240
 241                 store64(where, (Elf_Addr)fptr);
 242                 break;
 243         }
 244
 245         case R_IA_64_IPLTLSB: {
 246                 /*
 247                  * Relocation typically used to populate C++ virtual function
 248                  * tables. It creates a 128-bit function descriptor at the
 249                  * specified memory address.
 250                  */
 251                 const Elf_Sym *def;
 252                 const Obj_Entry *defobj;
 253                 struct fptr *fptr;
 254                 Elf_Addr target, gp;
 255
 256                 def = find_symdef(ELF_R_SYM(rela->r_info), obj, &defobj,
 257                     false, cache, lockstate);
 258                 if (def == NULL)
 259                         return -1;
 260
 261                 if (def->st_shndx != SHN_UNDEF) {
 262                         target = (Elf_Addr)(defobj->relocbase + def->st_value);
 263                         gp = (Elf_Addr)defobj->pltgot;
 264                 } else {
 265                         target = 0;
 266                         gp = 0;
 267                 }
 268
 269                 fptr = (void*)where;
 270                 store64(&fptr->target, target);
 271                 store64(&fptr->gp, gp);
 272                 break;
 273         }
 274
 275         case R_IA_64_DTPMOD64LSB: {
 276                 const Elf_Sym *def;
 277                 const Obj_Entry *defobj;
 278
 279                 def = find_symdef(ELF_R_SYM(rela->r_info), obj, &defobj,
 280                     false, cache, lockstate);
 281                 if (def == NULL)
 282                         return -1;
 283
 284                 store64(where, defobj->tlsindex);
 285                 break;
 286         }
 287
 288         case R_IA_64_DTPREL64LSB: {
 289                 const Elf_Sym *def;
 290                 const Obj_Entry *defobj;
 291
 292                 def = find_symdef(ELF_R_SYM(rela->r_info), obj, &defobj,
 293                     false, cache, lockstate);
 294                 if (def == NULL)
 295                         return -1;
 296
 297                 store64(where, def->st_value + rela->r_addend);
 298                 break;
 299         }
 300
 301         case R_IA_64_TPREL64LSB: {
 302                 const Elf_Sym *def;
 303                 const Obj_Entry *defobj;
 304
 305                 def = find_symdef(ELF_R_SYM(rela->r_info), obj, &defobj,
 306                     false, cache, lockstate);
 307                 if (def == NULL)
 308                         return -1;
 309
 310                 /*
 311                  * We lazily allocate offsets for static TLS as we
 312                  * see the first relocation that references the
 313                  * TLS block. This allows us to support (small
 314                  * amounts of) static TLS in dynamically loaded
 315                  * modules. If we run out of space, we generate an
 316                  * error.
 317                  */
 318                 if (!defobj->tls_done) {
 319                         if (!allocate_tls_offset((Obj_Entry*) defobj)) {
 320                                 _rtld_error("%s: No space available for static "
 321                                     "Thread Local Storage", obj->path);
 322                                 return -1;
 323                         }
 324                 }
 325
 326                 store64(where, defobj->tlsoffset + def->st_value + rela->r_addend);
 327                 break;
 328         }
 329
 330         case R_IA_64_NONE:
 331                 break;
 332
 333         default:
 334                 _rtld_error("%s: Unsupported relocation type %u"
 335                             " in non-PLT relocations\n", obj->path,
 336                             (unsigned int)ELF_R_TYPE(rela->r_info));
 337                 return -1;
 338         }
 339
 340         return(0);
 341 }
 342
 343 /* Process the non-PLT relocations. */
 344 int
 345 reloc_non_plt(Obj_Entry *obj, Obj_Entry *obj_rtld, RtldLockState *lockstate)
 346 {
 347         const Elf_Rel *rellim;
 348         const Elf_Rel *rel;
 349         const Elf_Rela *relalim;
 350         const Elf_Rela *rela;
 351         SymCache *cache;
 352         int bytes = obj->nchains * sizeof(SymCache);
 353         int r = -1;
 354
 355         /*
 356          * The dynamic loader may be called from a thread, we have
 357          * limited amounts of stack available so we cannot use alloca().
 358          */
 359         cache = mmap(NULL, bytes, PROT_READ|PROT_WRITE, MAP_ANON, -1, 0);
 360         if (cache == MAP_FAILED)
 361                 cache = NULL;
 362
 363         /* Perform relocations without addend if there are any: */
 364         rellim = (const Elf_Rel *) ((caddr_t) obj->rel + obj->relsize);
 365         for (rel = obj->rel;  obj->rel != NULL && rel < rellim;  rel++) {
 366                 Elf_Rela locrela;
 367
 368                 locrela.r_info = rel->r_info;
 369                 locrela.r_offset = rel->r_offset;
 370                 locrela.r_addend = 0;
 371                 if (reloc_non_plt_obj(obj_rtld, obj, &locrela, cache,
 372                     lockstate))
 373                         goto done;
 374         }
 375
 376         /* Perform relocations with addend if there are any: */
 377         relalim = (const Elf_Rela *) ((caddr_t) obj->rela + obj->relasize);
 378         for (rela = obj->rela;  obj->rela != NULL && rela < relalim;  rela++) {
 379                 if (reloc_non_plt_obj(obj_rtld, obj, rela, cache, lockstate))
 380                         goto done;
 381         }
 382
 383         r = 0;
 384 done:
 385         if (cache)
 386                 munmap(cache, bytes);
 387
 388         /*
 389          * Release temporarily mapped fptrs if relocating
 390          * rtld object itself. A new table will be created
 391          * in make_function_pointer using malloc when needed.
 392          */
 393         if (obj->rtld && obj->priv)
 394                 free_fptrs(obj, true);
 395
 396         return (r);
 397 }
 398
 399 /* Process the PLT relocations. */
 400 int
 401 reloc_plt(Obj_Entry *obj)
 402 {
 403         /* All PLT relocations are the same kind: Elf_Rel or Elf_Rela. */
 404         if (obj->pltrelsize != 0) {
 405                 const Elf_Rel *rellim;
 406                 const Elf_Rel *rel;
 407
 408                 rellim = (const Elf_Rel *)
 409                         ((char *)obj->pltrel + obj->pltrelsize);
 410                 for (rel = obj->pltrel;  rel < rellim;  rel++) {
 411                         Elf_Addr *where;
 412
 413                         assert(ELF_R_TYPE(rel->r_info) == R_IA_64_IPLTLSB);
 414
 415                         /* Relocate the @fptr pointing into the PLT. */
 416                         where = (Elf_Addr *)(obj->relocbase + rel->r_offset);
 417                         *where += (Elf_Addr)obj->relocbase;
 418                 }
 419         } else {
 420                 const Elf_Rela *relalim;
 421                 const Elf_Rela *rela;
 422
 423                 relalim = (const Elf_Rela *)
 424                         ((char *)obj->pltrela + obj->pltrelasize);
 425                 for (rela = obj->pltrela;  rela < relalim;  rela++) {
 426                         Elf_Addr *where;
 427
 428                         assert(ELF_R_TYPE(rela->r_info) == R_IA_64_IPLTLSB);
 429
 430                         /* Relocate the @fptr pointing into the PLT. */
 431                         where = (Elf_Addr *)(obj->relocbase + rela->r_offset);
 432                         *where += (Elf_Addr)obj->relocbase;
 433                 }
 434         }
 435         return 0;
 436 }
 437
 438 /* Relocate the jump slots in an object. */
 439 int
 440 reloc_jmpslots(Obj_Entry *obj, RtldLockState *lockstate)
 441 {
 442         if (obj->jmpslots_done)
 443                 return 0;
 444         /* All PLT relocations are the same kind: Elf_Rel or Elf_Rela. */
 445         if (obj->pltrelsize != 0) {
 446                 const Elf_Rel *rellim;
 447                 const Elf_Rel *rel;
 448
 449                 rellim = (const Elf_Rel *)
 450                         ((char *)obj->pltrel + obj->pltrelsize);
 451                 for (rel = obj->pltrel;  rel < rellim;  rel++) {
 452                         Elf_Addr *where;
 453                         const Elf_Sym *def;
 454                         const Obj_Entry *defobj;
 455
 456                         assert(ELF_R_TYPE(rel->r_info) == R_IA_64_IPLTLSB);
 457                         where = (Elf_Addr *)(obj->relocbase + rel->r_offset);
 458                         def = find_symdef(ELF_R_SYM(rel->r_info), obj,
 459                             &defobj, true, NULL, lockstate);
 460                         if (def == NULL)
 461                                 return -1;
 462                         reloc_jmpslot(where,
 463                                       (Elf_Addr)(defobj->relocbase
 464                                                  + def->st_value),
 465                                       defobj, obj, rel);
 466                 }
 467         } else {
 468                 const Elf_Rela *relalim;
 469                 const Elf_Rela *rela;
 470
 471                 relalim = (const Elf_Rela *)
 472                         ((char *)obj->pltrela + obj->pltrelasize);
 473                 for (rela = obj->pltrela;  rela < relalim;  rela++) {
 474                         Elf_Addr *where;
 475                         const Elf_Sym *def;
 476                         const Obj_Entry *defobj;
 477
 478                         where = (Elf_Addr *)(obj->relocbase + rela->r_offset);
 479                         def = find_symdef(ELF_R_SYM(rela->r_info), obj,
 480                             &defobj, true, NULL, lockstate);
 481                         if (def == NULL)
 482                                 return -1;
 483                         reloc_jmpslot(where,
 484                                       (Elf_Addr)(defobj->relocbase
 485                                                  + def->st_value),
 486                                       defobj, obj, (Elf_Rel *)rela);
 487                 }
 488         }
 489         obj->jmpslots_done = true;
 490         return 0;
 491 }
 492
 493 /* Fixup the jump slot at "where" to transfer control to "target". */
 494 Elf_Addr
 495 reloc_jmpslot(Elf_Addr *where, Elf_Addr target, const Obj_Entry *obj,
 496               const Obj_Entry *refobj, const Elf_Rel *rel)
 497 {
 498         Elf_Addr stubaddr;
 499
 500         dbg(" reloc_jmpslot: where=%p, target=%p, gp=%p",
 501             (void *)where, (void *)target, (void *)obj->pltgot);
 502         stubaddr = *where;
 503         if (stubaddr != target) {
 504
 505                 /*
 506                  * Point this @fptr directly at the target. Update the
 507                  * gp value first so that we don't break another cpu
 508                  * which is currently executing the PLT entry.
 509                  */
 510                 where[1] = (Elf_Addr) obj->pltgot;
 511                 ia64_mf();
 512                 where[0] = target;
 513                 ia64_mf();
 514         }
 515
 516         /*
 517          * The caller needs an @fptr for the adjusted entry. The PLT
 518          * entry serves this purpose nicely.
 519          */
 520         return (Elf_Addr) where;
 521 }
 522
 523 /*
 524  * XXX ia64 doesn't seem to have copy relocations.
 525  *
 526  * Returns 0 on success, -1 on failure.
 527  */
 528 int
 529 do_copy_relocations(Obj_Entry *dstobj)
 530 {
 531
 532         return 0;
 533 }
 534
 535 /*
 536  * Return the @fptr representing a given function symbol.
 537  */
 538 void *
 539 make_function_pointer(const Elf_Sym *sym, const Obj_Entry *obj)
 540 {
 541         struct fptr **fptrs = obj->priv;
 542         int index = sym - obj->symtab;
 543
 544         if (!fptrs) {
 545                 /*
 546                  * This should only happen for something like
 547                  * dlsym("dlopen"). Actually, I'm not sure it can ever
 548                  * happen.
 549                  */
 550                 fptrs = alloc_fptrs((Obj_Entry *) obj, false);
 551         }
 552         if (!fptrs[index]) {
 553                 Elf_Addr target, gp;
 554                 target = (Elf_Addr) (obj->relocbase + sym->st_value);
 555                 gp = (Elf_Addr) obj->pltgot;
 556                 fptrs[index] = alloc_fptr(target, gp);
 557         }
 558         return fptrs[index];
 559 }
 560
 561 void
 562 call_initfini_pointer(const Obj_Entry *obj, Elf_Addr target)
 563 {
 564         struct fptr fptr;
 565
 566         fptr.gp = (Elf_Addr) obj->pltgot;
 567         fptr.target = target;
 568         dbg(" initfini: target=%p, gp=%p",
 569             (void *) fptr.target, (void *) fptr.gp);
 570         ((InitFunc) &fptr)();
 571 }
 572
 573 /* Initialize the special PLT entries. */
 574 void
 575 init_pltgot(Obj_Entry *obj)
 576 {
 577         const Elf_Dyn *dynp;
 578         Elf_Addr *pltres = 0;
 579
 580         /*
 581          * When there are no PLT relocations, the DT_IA_64_PLT_RESERVE entry
 582          * is bogus. Do not setup the BOR pointers in that case. An example
 583          * of where this happens is /usr/lib/libxpg4.so.3.
 584          */
 585         if (obj->pltrelasize == 0 && obj->pltrelsize == 0)
 586                 return;
 587
 588         /*
 589          * Find the PLT RESERVE section.
 590          */
 591         for (dynp = obj->dynamic;  dynp->d_tag != DT_NULL;  dynp++) {
 592                 if (dynp->d_tag == DT_IA_64_PLT_RESERVE)
 593                         pltres = (u_int64_t *)
 594                                 (obj->relocbase + dynp->d_un.d_ptr);
 595         }
 596         if (!pltres)
 597                 errx(1, "Can't find DT_IA_64_PLT_RESERVE entry");
 598
 599         /*
 600          * The PLT RESERVE section is used to get values to pass to
 601          * _rtld_bind when lazy binding.
 602          */
 603         pltres[0] = (Elf_Addr) obj;
 604         pltres[1] = FPTR_TARGET(_rtld_bind_start);
 605         pltres[2] = FPTR_GP(_rtld_bind_start);
 606 }
 607
 608 void
 609 allocate_initial_tls(Obj_Entry *list)
 610 {
 611     void *tpval;
 612
 613     /*
 614      * Fix the size of the static TLS block by using the maximum
 615      * offset allocated so far and adding a bit for dynamic modules to
 616      * use.
 617      */
 618     tls_static_space = tls_last_offset + tls_last_size + RTLD_STATIC_TLS_EXTRA;
 619
 620     tpval = allocate_tls(list, NULL, TLS_TCB_SIZE, 16);
 621     __asm __volatile("mov r13 = %0" :: "r"(tpval));
 622 }
 623
 624 void *__tls_get_addr(unsigned long module, unsigned long offset)
 625 {
 626     register Elf_Addr** tp __asm__("r13");
 627
 628     return tls_get_addr_common(tp, module, offset);
 629 }