sys/dev/ata/ata-pci.c

   1 /*-
   2  * Copyright (c) 1998 - 2008 Søren Schmidt <sos@FreeBSD.org>
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *    notice, this list of conditions and the following disclaimer,
  10  *    without modification, immediately at the beginning of the file.
  11  * 2. Redistributions in binary form must reproduce the above copyright
  12  *    notice, this list of conditions and the following disclaimer in the
  13  *    documentation and/or other materials provided with the distribution.
  14  *
  15  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR ``AS IS'' AND ANY EXPRESS OR
  16  * IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES
  17  * OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.
  18  * IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR ANY DIRECT, INDIRECT,
  19  * INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT
  20  * NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
  21  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY
  22  * THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT
  23  * (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF
  24  * THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  25  */
  26
  27 #include <sys/cdefs.h>
  28 __FBSDID("$FreeBSD$");
  29
  30 #include "opt_ata.h"
  31 #include <sys/param.h>
  32 #include <sys/systm.h>
  33 #include <sys/kernel.h>
  34 #include <sys/module.h>
  35 #include <sys/ata.h>
  36 #include <sys/bus.h>
  37 #include <sys/conf.h>
  38 #include <sys/malloc.h>
  39 #include <sys/sema.h>
  40 #include <sys/taskqueue.h>
  41 #include <vm/uma.h>
  42 #include <machine/stdarg.h>
  43 #include <machine/resource.h>
  44 #include <machine/bus.h>
  45 #include <sys/rman.h>
  46 #include <dev/pci/pcivar.h>
  47 #include <dev/pci/pcireg.h>
  48 #include <dev/ata/ata-all.h>
  49 #include <dev/ata/ata-pci.h>
  50 #include <ata_if.h>
  51
  52 MALLOC_DEFINE(M_ATAPCI, "ata_pci", "ATA driver PCI");
  53
  54 /* misc defines */
  55 #define IOMASK                  0xfffffffc
  56
  57 /*
  58  * generic PCI ATA device probe
  59  */
  60 int
  61 ata_pci_probe(device_t dev)
  62 {
  63     struct ata_pci_controller *ctlr = device_get_softc(dev);
  64     char buffer[64];
  65
  66     /* is this a storage class device ? */
  67     if (pci_get_class(dev) != PCIC_STORAGE)
  68         return (ENXIO);
  69
  70     /* is this an IDE/ATA type device ? */
  71     if (pci_get_subclass(dev) != PCIS_STORAGE_IDE)
  72         return (ENXIO);
  73
  74     sprintf(buffer, "%s ATA controller", ata_pcivendor2str(dev));
  75     device_set_desc_copy(dev, buffer);
  76     ctlr->chipinit = ata_generic_chipinit;
  77
  78     /* we are a low priority handler */
  79     return (BUS_PROBE_GENERIC);
  80 }
  81
  82 int
  83 ata_pci_attach(device_t dev)
  84 {
  85     struct ata_pci_controller *ctlr = device_get_softc(dev);
  86     device_t child;
  87     u_int32_t cmd;
  88     int unit;
  89
  90     /* do chipset specific setups only needed once */
  91     ctlr->legacy = ata_legacy(dev);
  92     if (ctlr->legacy || pci_read_config(dev, PCIR_BAR(2), 4) & IOMASK)
  93         ctlr->channels = 2;
  94     else
  95         ctlr->channels = 1;
  96     ctlr->ichannels = -1;
  97     ctlr->ch_attach = ata_pci_ch_attach;
  98     ctlr->ch_detach = ata_pci_ch_detach;
  99     ctlr->dev = dev;
 100
 101     /* if needed try to enable busmastering */
 102     cmd = pci_read_config(dev, PCIR_COMMAND, 2);
 103     if (!(cmd & PCIM_CMD_BUSMASTEREN)) {
 104         pci_write_config(dev, PCIR_COMMAND, cmd | PCIM_CMD_BUSMASTEREN, 2);
 105         cmd = pci_read_config(dev, PCIR_COMMAND, 2);
 106     }
 107
 108     /* if busmastering mode "stuck" use it */
 109     if ((cmd & PCIM_CMD_BUSMASTEREN) == PCIM_CMD_BUSMASTEREN) {
 110         ctlr->r_type1 = SYS_RES_IOPORT;
 111         ctlr->r_rid1 = ATA_BMADDR_RID;
 112         ctlr->r_res1 = bus_alloc_resource_any(dev, ctlr->r_type1, &ctlr->r_rid1,
 113                                               RF_ACTIVE);
 114     }
 115
 116     if (ctlr->chipinit(dev))
 117         return ENXIO;
 118
 119     /* attach all channels on this controller */
 120     for (unit = 0; unit < ctlr->channels; unit++) {
 121         if ((ctlr->ichannels & (1 << unit)) == 0)
 122             continue;
 123         child = device_add_child(dev, "ata",
 124             ((unit == 0 || unit == 1) && ctlr->legacy) ?
 125             unit : devclass_find_free_unit(ata_devclass, 2));
 126         if (child == NULL)
 127             device_printf(dev, "failed to add ata child device\n");
 128         else
 129             device_set_ivars(child, (void *)(intptr_t)unit);
 130     }
 131     bus_generic_attach(dev);
 132     return 0;
 133 }
 134
 135 int
 136 ata_pci_detach(device_t dev)
 137 {
 138     struct ata_pci_controller *ctlr = device_get_softc(dev);
 139     device_t *children;
 140     int nchildren, i;
 141
 142     /* detach & delete all children */
 143     if (!device_get_children(dev, &children, &nchildren)) {
 144         for (i = 0; i < nchildren; i++)
 145             device_delete_child(dev, children[i]);
 146         free(children, M_TEMP);
 147     }
 148     if (ctlr->r_irq) {
 149         bus_teardown_intr(dev, ctlr->r_irq, ctlr->handle);
 150         bus_release_resource(dev, SYS_RES_IRQ, ctlr->r_irq_rid, ctlr->r_irq);
 151         if (ctlr->r_irq_rid != ATA_IRQ_RID)
 152             pci_release_msi(dev);
 153     }
 154     if (ctlr->chipdeinit != NULL)
 155         ctlr->chipdeinit(dev);
 156     if (ctlr->r_res2)
 157         bus_release_resource(dev, ctlr->r_type2, ctlr->r_rid2, ctlr->r_res2);
 158     if (ctlr->r_res1)
 159         bus_release_resource(dev, ctlr->r_type1, ctlr->r_rid1, ctlr->r_res1);
 160
 161     return 0;
 162 }
 163
 164 int
 165 ata_pci_suspend(device_t dev)
 166 {
 167     struct ata_pci_controller *ctlr = device_get_softc(dev);
 168     int error = 0;
 169
 170     bus_generic_suspend(dev);
 171     if (ctlr->suspend)
 172         error = ctlr->suspend(dev);
 173     return error;
 174 }
 175
 176 int
 177 ata_pci_resume(device_t dev)
 178 {
 179     struct ata_pci_controller *ctlr = device_get_softc(dev);
 180     int error = 0;
 181
 182     if (ctlr->resume)
 183         error = ctlr->resume(dev);
 184     bus_generic_resume(dev);
 185     return error;
 186 }
 187
 188 int
 189 ata_pci_read_ivar(device_t dev, device_t child, int which, uintptr_t *result)
 190 {
 191
 192         return (BUS_READ_IVAR(device_get_parent(dev), dev, which, result));
 193 }
 194
 195 int
 196 ata_pci_write_ivar(device_t dev, device_t child, int which, uintptr_t value)
 197 {
 198
 199         return (BUS_WRITE_IVAR(device_get_parent(dev), dev, which, value));
 200 }
 201
 202 uint32_t
 203 ata_pci_read_config(device_t dev, device_t child, int reg, int width)
 204 {
 205
 206         return (pci_read_config(dev, reg, width));
 207 }
 208
 209 void
 210 ata_pci_write_config(device_t dev, device_t child, int reg,
 211     uint32_t val, int width)
 212 {
 213
 214         pci_write_config(dev, reg, val, width);
 215 }
 216
 217 struct resource *
 218 ata_pci_alloc_resource(device_t dev, device_t child, int type, int *rid,
 219                        u_long start, u_long end, u_long count, u_int flags)
 220 {
 221         struct ata_pci_controller *controller = device_get_softc(dev);
 222         struct resource *res = NULL;
 223
 224         if (device_get_devclass(child) == ata_devclass) {
 225                 int unit = ((struct ata_channel *)device_get_softc(child))->unit;
 226                 int myrid;
 227
 228                 if (type == SYS_RES_IOPORT) {
 229                         switch (*rid) {
 230                         case ATA_IOADDR_RID:
 231                             if (controller->legacy) {
 232                                 start = (unit ? ATA_SECONDARY : ATA_PRIMARY);
 233                                 count = ATA_IOSIZE;
 234                                 end = start + count - 1;
 235                             }
 236                             myrid = PCIR_BAR(0) + (unit << 3);
 237                             res = BUS_ALLOC_RESOURCE(device_get_parent(dev), dev,
 238                                 SYS_RES_IOPORT, &myrid,
 239                                 start, end, count, flags);
 240                             break;
 241                         case ATA_CTLADDR_RID:
 242                             if (controller->legacy) {
 243                                 start = (unit ? ATA_SECONDARY : ATA_PRIMARY) +
 244                                     ATA_CTLOFFSET;
 245                                 count = ATA_CTLIOSIZE;
 246                                 end = start + count - 1;
 247                             }
 248                             myrid = PCIR_BAR(1) + (unit << 3);
 249                             res = BUS_ALLOC_RESOURCE(device_get_parent(dev), dev,
 250                                 SYS_RES_IOPORT, &myrid,
 251                                 start, end, count, flags);
 252                             break;
 253                         }
 254                 }
 255                 if (type == SYS_RES_IRQ && *rid == ATA_IRQ_RID) {
 256                         if (controller->legacy) {
 257                             int irq = (unit == 0 ? 14 : 15);
 258
 259                             res = BUS_ALLOC_RESOURCE(device_get_parent(dev), child,
 260                                 SYS_RES_IRQ, rid, irq, irq, 1, flags);
 261                         } else
 262                             res = controller->r_irq;
 263                 }
 264         } else {
 265                 if (type == SYS_RES_IRQ) {
 266                         if (*rid != ATA_IRQ_RID)
 267                                 return (NULL);
 268                         res = controller->r_irq;
 269                 } else {
 270                         res = BUS_ALLOC_RESOURCE(device_get_parent(dev), dev,
 271                              type, rid, start, end, count, flags);
 272                 }
 273         }
 274         return (res);
 275 }
 276
 277 int
 278 ata_pci_release_resource(device_t dev, device_t child, int type, int rid,
 279                          struct resource *r)
 280 {
 281
 282         if (device_get_devclass(child) == ata_devclass) {
 283                 struct ata_pci_controller *controller = device_get_softc(dev);
 284                 int unit = ((struct ata_channel *)device_get_softc(child))->unit;
 285
 286                 if (type == SYS_RES_IOPORT) {
 287                         switch (rid) {
 288                         case ATA_IOADDR_RID:
 289                             return BUS_RELEASE_RESOURCE(device_get_parent(dev), dev,
 290                                 SYS_RES_IOPORT,
 291                                 PCIR_BAR(0) + (unit << 3), r);
 292                         case ATA_CTLADDR_RID:
 293                             return BUS_RELEASE_RESOURCE(device_get_parent(dev), dev,
 294                                 SYS_RES_IOPORT,
 295                                 PCIR_BAR(1) + (unit << 3), r);
 296                         default:
 297                             return ENOENT;
 298                         }
 299                 }
 300                 if (type == SYS_RES_IRQ) {
 301                         if (rid != ATA_IRQ_RID)
 302                                 return ENOENT;
 303                         if (controller->legacy) {
 304                                 return BUS_RELEASE_RESOURCE(device_get_parent(dev), child,
 305                                     SYS_RES_IRQ, rid, r);
 306                         } else
 307                                 return 0;
 308                 }
 309         } else {
 310                 if (type == SYS_RES_IRQ) {
 311                         if (rid != ATA_IRQ_RID)
 312                                 return (ENOENT);
 313                         return (0);
 314                 } else {
 315                         return (BUS_RELEASE_RESOURCE(device_get_parent(dev), child,
 316                             type, rid, r));
 317                 }
 318         }
 319         return (EINVAL);
 320 }
 321
 322 int
 323 ata_pci_setup_intr(device_t dev, device_t child, struct resource *irq,
 324                    int flags, driver_filter_t *filter, driver_intr_t *function,
 325                    void *argument, void **cookiep)
 326 {
 327         struct ata_pci_controller *controller = device_get_softc(dev);
 328
 329         if (controller->legacy) {
 330                 return BUS_SETUP_INTR(device_get_parent(dev), child, irq,
 331                               flags, filter, function, argument, cookiep);
 332         } else {
 333                 struct ata_pci_controller *controller = device_get_softc(dev);
 334                 int unit;
 335
 336                 if (filter != NULL) {
 337                         printf("ata-pci.c: we cannot use a filter here\n");
 338                         return (EINVAL);
 339                 }
 340                 if (device_get_devclass(child) == ata_devclass)
 341                         unit = ((struct ata_channel *)device_get_softc(child))->unit;
 342                 else
 343                         unit = ATA_PCI_MAX_CH - 1;
 344                 controller->interrupt[unit].function = function;
 345                 controller->interrupt[unit].argument = argument;
 346                 *cookiep = controller;
 347                 return 0;
 348         }
 349 }
 350
 351 int
 352 ata_pci_teardown_intr(device_t dev, device_t child, struct resource *irq,
 353                       void *cookie)
 354 {
 355         struct ata_pci_controller *controller = device_get_softc(dev);
 356
 357         if (controller->legacy) {
 358                 return BUS_TEARDOWN_INTR(device_get_parent(dev), child, irq, cookie);
 359         } else {
 360                 struct ata_pci_controller *controller = device_get_softc(dev);
 361                 int unit;
 362
 363                 if (device_get_devclass(child) == ata_devclass)
 364                         unit = ((struct ata_channel *)device_get_softc(child))->unit;
 365                 else
 366                         unit = ATA_PCI_MAX_CH - 1;
 367                 controller->interrupt[unit].function = NULL;
 368                 controller->interrupt[unit].argument = NULL;
 369                 return 0;
 370         }
 371 }
 372
 373 int
 374 ata_generic_setmode(device_t dev, int target, int mode)
 375 {
 376
 377         return (min(mode, ATA_UDMA2));
 378 }
 379
 380 int
 381 ata_generic_chipinit(device_t dev)
 382 {
 383     struct ata_pci_controller *ctlr = device_get_softc(dev);
 384
 385     if (ata_setup_interrupt(dev, ata_generic_intr))
 386         return ENXIO;
 387     ctlr->setmode = ata_generic_setmode;
 388     return 0;
 389 }
 390
 391 int
 392 ata_pci_ch_attach(device_t dev)
 393 {
 394     struct ata_pci_controller *ctlr = device_get_softc(device_get_parent(dev));
 395     struct ata_channel *ch = device_get_softc(dev);
 396     struct resource *io = NULL, *ctlio = NULL;
 397     int i, rid;
 398
 399     rid = ATA_IOADDR_RID;
 400     if (!(io = bus_alloc_resource_any(dev, SYS_RES_IOPORT, &rid, RF_ACTIVE)))
 401         return ENXIO;
 402
 403     rid = ATA_CTLADDR_RID;
 404     if (!(ctlio = bus_alloc_resource_any(dev, SYS_RES_IOPORT, &rid,RF_ACTIVE))){
 405         bus_release_resource(dev, SYS_RES_IOPORT, ATA_IOADDR_RID, io);
 406         return ENXIO;
 407     }
 408
 409     ata_pci_dmainit(dev);
 410
 411     for (i = ATA_DATA; i <= ATA_COMMAND; i ++) {
 412         ch->r_io[i].res = io;
 413         ch->r_io[i].offset = i;
 414     }
 415     ch->r_io[ATA_CONTROL].res = ctlio;
 416     ch->r_io[ATA_CONTROL].offset = ctlr->legacy ? 0 : 2;
 417     ch->r_io[ATA_IDX_ADDR].res = io;
 418     ata_default_registers(dev);
 419     if (ctlr->r_res1) {
 420         for (i = ATA_BMCMD_PORT; i <= ATA_BMDTP_PORT; i++) {
 421             ch->r_io[i].res = ctlr->r_res1;
 422             ch->r_io[i].offset = (i - ATA_BMCMD_PORT) + (ch->unit*ATA_BMIOSIZE);
 423         }
 424     }
 425
 426     ata_pci_hw(dev);
 427     return 0;
 428 }
 429
 430 int
 431 ata_pci_ch_detach(device_t dev)
 432 {
 433     struct ata_channel *ch = device_get_softc(dev);
 434
 435     ata_pci_dmafini(dev);
 436
 437     bus_release_resource(dev, SYS_RES_IOPORT, ATA_CTLADDR_RID,
 438         ch->r_io[ATA_CONTROL].res);
 439     bus_release_resource(dev, SYS_RES_IOPORT, ATA_IOADDR_RID,
 440         ch->r_io[ATA_IDX_ADDR].res);
 441
 442     return (0);
 443 }
 444
 445 int
 446 ata_pci_status(device_t dev)
 447 {
 448     struct ata_pci_controller *controller =
 449         device_get_softc(device_get_parent(dev));
 450     struct ata_channel *ch = device_get_softc(dev);
 451
 452     if ((dumping || !controller->legacy) &&
 453         ((ch->flags & ATA_ALWAYS_DMASTAT) ||
 454          (ch->dma.flags & ATA_DMA_ACTIVE))) {
 455         int bmstat = ATA_IDX_INB(ch, ATA_BMSTAT_PORT) & ATA_BMSTAT_MASK;
 456
 457         if ((bmstat & ATA_BMSTAT_INTERRUPT) == 0)
 458             return 0;
 459         ATA_IDX_OUTB(ch, ATA_BMSTAT_PORT, bmstat & ~ATA_BMSTAT_ERROR);
 460         DELAY(1);
 461     }
 462     if (ATA_IDX_INB(ch, ATA_ALTSTAT) & ATA_S_BUSY) {
 463         DELAY(100);
 464         if (ATA_IDX_INB(ch, ATA_ALTSTAT) & ATA_S_BUSY)
 465             return 0;
 466     }
 467     return 1;
 468 }
 469
 470 void
 471 ata_pci_hw(device_t dev)
 472 {
 473     struct ata_channel *ch = device_get_softc(dev);
 474
 475     ata_generic_hw(dev);
 476     ch->hw.status = ata_pci_status;
 477 }
 478
 479 static int
 480 ata_pci_dmastart(struct ata_request *request)
 481 {
 482     struct ata_channel *ch = device_get_softc(request->parent);
 483
 484     ATA_DEBUG_RQ(request, "dmastart");
 485
 486     ATA_IDX_OUTB(ch, ATA_BMSTAT_PORT, (ATA_IDX_INB(ch, ATA_BMSTAT_PORT) |
 487                  (ATA_BMSTAT_INTERRUPT | ATA_BMSTAT_ERROR)));
 488     ATA_IDX_OUTL(ch, ATA_BMDTP_PORT, request->dma->sg_bus);
 489     ch->dma.flags |= ATA_DMA_ACTIVE;
 490     ATA_IDX_OUTB(ch, ATA_BMCMD_PORT,
 491                  (ATA_IDX_INB(ch, ATA_BMCMD_PORT) & ~ATA_BMCMD_WRITE_READ) |
 492                  ((request->flags & ATA_R_READ) ? ATA_BMCMD_WRITE_READ : 0)|
 493                  ATA_BMCMD_START_STOP);
 494     return 0;
 495 }
 496
 497 static int
 498 ata_pci_dmastop(struct ata_request *request)
 499 {
 500     struct ata_channel *ch = device_get_softc(request->parent);
 501     int error;
 502
 503     ATA_DEBUG_RQ(request, "dmastop");
 504
 505     ATA_IDX_OUTB(ch, ATA_BMCMD_PORT,
 506                  ATA_IDX_INB(ch, ATA_BMCMD_PORT) & ~ATA_BMCMD_START_STOP);
 507     ch->dma.flags &= ~ATA_DMA_ACTIVE;
 508     error = ATA_IDX_INB(ch, ATA_BMSTAT_PORT) & ATA_BMSTAT_MASK;
 509     ATA_IDX_OUTB(ch, ATA_BMSTAT_PORT, ATA_BMSTAT_INTERRUPT | ATA_BMSTAT_ERROR);
 510     return error;
 511 }
 512
 513 static void
 514 ata_pci_dmareset(device_t dev)
 515 {
 516     struct ata_channel *ch = device_get_softc(dev);
 517     struct ata_request *request;
 518
 519     ATA_IDX_OUTB(ch, ATA_BMCMD_PORT,
 520                  ATA_IDX_INB(ch, ATA_BMCMD_PORT) & ~ATA_BMCMD_START_STOP);
 521     ch->dma.flags &= ~ATA_DMA_ACTIVE;
 522     ATA_IDX_OUTB(ch, ATA_BMSTAT_PORT, ATA_BMSTAT_INTERRUPT | ATA_BMSTAT_ERROR);
 523     if ((request = ch->running)) {
 524         device_printf(dev, "DMA reset calling unload\n");
 525         ch->dma.unload(request);
 526     }
 527 }
 528
 529 void
 530 ata_pci_dmainit(device_t dev)
 531 {
 532     struct ata_channel *ch = device_get_softc(dev);
 533
 534     ata_dmainit(dev);
 535     ch->dma.start = ata_pci_dmastart;
 536     ch->dma.stop = ata_pci_dmastop;
 537     ch->dma.reset = ata_pci_dmareset;
 538 }
 539
 540 void
 541 ata_pci_dmafini(device_t dev)
 542 {
 543
 544     ata_dmafini(dev);
 545 }
 546
 547 int
 548 ata_pci_child_location_str(device_t dev, device_t child, char *buf,
 549     size_t buflen)
 550 {
 551
 552         snprintf(buf, buflen, "channel=%d",
 553             (int)(intptr_t)device_get_ivars(child));
 554         return (0);
 555 }
 556
 557 static device_method_t ata_pci_methods[] = {
 558     /* device interface */
 559     DEVMETHOD(device_probe,             ata_pci_probe),
 560     DEVMETHOD(device_attach,            ata_pci_attach),
 561     DEVMETHOD(device_detach,            ata_pci_detach),
 562     DEVMETHOD(device_suspend,           ata_pci_suspend),
 563     DEVMETHOD(device_resume,            ata_pci_resume),
 564     DEVMETHOD(device_shutdown,          bus_generic_shutdown),
 565
 566     /* bus methods */
 567     DEVMETHOD(bus_read_ivar,            ata_pci_read_ivar),
 568     DEVMETHOD(bus_write_ivar,           ata_pci_write_ivar),
 569     DEVMETHOD(bus_alloc_resource,       ata_pci_alloc_resource),
 570     DEVMETHOD(bus_release_resource,     ata_pci_release_resource),
 571     DEVMETHOD(bus_activate_resource,    bus_generic_activate_resource),
 572     DEVMETHOD(bus_deactivate_resource,  bus_generic_deactivate_resource),
 573     DEVMETHOD(bus_setup_intr,           ata_pci_setup_intr),
 574     DEVMETHOD(bus_teardown_intr,        ata_pci_teardown_intr),
 575     DEVMETHOD(pci_read_config,          ata_pci_read_config),
 576     DEVMETHOD(pci_write_config,         ata_pci_write_config),
 577     DEVMETHOD(bus_child_location_str,   ata_pci_child_location_str),
 578
 579     { 0, 0 }
 580 };
 581
 582 devclass_t ata_pci_devclass;
 583
 584 static driver_t ata_pci_driver = {
 585     "atapci",
 586     ata_pci_methods,
 587     sizeof(struct ata_pci_controller),
 588 };
 589
 590 DRIVER_MODULE(atapci, pci, ata_pci_driver, ata_pci_devclass, 0, 0);
 591 MODULE_VERSION(atapci, 1);
 592 MODULE_DEPEND(atapci, ata, 1, 1, 1);
 593
 594 static int
 595 ata_pcichannel_probe(device_t dev)
 596 {
 597     char buffer[32];
 598
 599     if ((intptr_t)device_get_ivars(dev) < 0)
 600             return (ENXIO);
 601     sprintf(buffer, "ATA channel %d", (int)(intptr_t)device_get_ivars(dev));
 602     device_set_desc_copy(dev, buffer);
 603
 604     return ata_probe(dev);
 605 }
 606
 607 static int
 608 ata_pcichannel_attach(device_t dev)
 609 {
 610     struct ata_pci_controller *ctlr = device_get_softc(device_get_parent(dev));
 611     struct ata_channel *ch = device_get_softc(dev);
 612     int error;
 613
 614     if (ch->attached)
 615         return (0);
 616     ch->attached = 1;
 617
 618     ch->dev = dev;
 619     ch->unit = (intptr_t)device_get_ivars(dev);
 620
 621     resource_int_value(device_get_name(dev),
 622         device_get_unit(dev), "pm_level", &ch->pm_level);
 623
 624     if ((error = ctlr->ch_attach(dev)))
 625         return error;
 626
 627     return ata_attach(dev);
 628 }
 629
 630 static int
 631 ata_pcichannel_detach(device_t dev)
 632 {
 633     struct ata_pci_controller *ctlr = device_get_softc(device_get_parent(dev));
 634     struct ata_channel *ch = device_get_softc(dev);
 635     int error;
 636
 637     if (!ch->attached)
 638         return (0);
 639     ch->attached = 0;
 640
 641     if ((error = ata_detach(dev)))
 642         return error;
 643
 644     if (ctlr->ch_detach)
 645         return (ctlr->ch_detach(dev));
 646
 647     return (0);
 648 }
 649 static int
 650 ata_pcichannel_suspend(device_t dev)
 651 {
 652     struct ata_pci_controller *ctlr = device_get_softc(device_get_parent(dev));
 653     struct ata_channel *ch = device_get_softc(dev);
 654     int error;
 655
 656     if (!ch->attached)
 657         return (0);
 658
 659     if ((error = ata_suspend(dev)))
 660         return (error);
 661
 662     if (ctlr->ch_suspend != NULL && (error = ctlr->ch_suspend(dev)))
 663         return (error);
 664
 665     return (0);
 666 }
 667
 668 static int
 669 ata_pcichannel_resume(device_t dev)
 670 {
 671     struct ata_pci_controller *ctlr = device_get_softc(device_get_parent(dev));
 672     struct ata_channel *ch = device_get_softc(dev);
 673     int error;
 674
 675     if (!ch->attached)
 676         return (0);
 677
 678     if (ctlr->ch_resume != NULL && (error = ctlr->ch_resume(dev)))
 679         return (error);
 680
 681     return ata_resume(dev);
 682 }
 683
 684
 685 static int
 686 ata_pcichannel_locking(device_t dev, int mode)
 687 {
 688     struct ata_pci_controller *ctlr = device_get_softc(device_get_parent(dev));
 689     struct ata_channel *ch = device_get_softc(dev);
 690
 691     if (ctlr->locking)
 692         return ctlr->locking(dev, mode);
 693     else
 694         return ch->unit;
 695 }
 696
 697 static void
 698 ata_pcichannel_reset(device_t dev)
 699 {
 700     struct ata_pci_controller *ctlr = device_get_softc(device_get_parent(dev));
 701     struct ata_channel *ch = device_get_softc(dev);
 702
 703     /* if DMA engine present reset it  */
 704     if (ch->dma.reset)
 705         ch->dma.reset(dev);
 706
 707     /* reset the controller HW */
 708     if (ctlr->reset)
 709         ctlr->reset(dev);
 710     else
 711         ata_generic_reset(dev);
 712 }
 713
 714 static int
 715 ata_pcichannel_setmode(device_t dev, int target, int mode)
 716 {
 717         struct ata_pci_controller *ctlr = device_get_softc(device_get_parent(dev));
 718
 719         if (ctlr->setmode)
 720                 return (ctlr->setmode(dev, target, mode));
 721         else
 722                 return (ata_generic_setmode(dev, target, mode));
 723 }
 724
 725 static int
 726 ata_pcichannel_getrev(device_t dev, int target)
 727 {
 728         struct ata_pci_controller *ctlr = device_get_softc(device_get_parent(dev));
 729         struct ata_channel *ch = device_get_softc(dev);
 730
 731         if (ch->flags & ATA_SATA) {
 732                 if (ctlr->getrev)
 733                         return (ctlr->getrev(dev, target));
 734                 else
 735                         return (0xff);
 736         } else
 737                 return (0);
 738 }
 739
 740 static device_method_t ata_pcichannel_methods[] = {
 741     /* device interface */
 742     DEVMETHOD(device_probe,     ata_pcichannel_probe),
 743     DEVMETHOD(device_attach,    ata_pcichannel_attach),
 744     DEVMETHOD(device_detach,    ata_pcichannel_detach),
 745     DEVMETHOD(device_shutdown,  bus_generic_shutdown),
 746     DEVMETHOD(device_suspend,   ata_pcichannel_suspend),
 747     DEVMETHOD(device_resume,    ata_pcichannel_resume),
 748
 749     /* ATA methods */
 750     DEVMETHOD(ata_setmode,      ata_pcichannel_setmode),
 751     DEVMETHOD(ata_getrev,       ata_pcichannel_getrev),
 752     DEVMETHOD(ata_locking,      ata_pcichannel_locking),
 753     DEVMETHOD(ata_reset,        ata_pcichannel_reset),
 754
 755     { 0, 0 }
 756 };
 757
 758 driver_t ata_pcichannel_driver = {
 759     "ata",
 760     ata_pcichannel_methods,
 761     sizeof(struct ata_channel),
 762 };
 763
 764 DRIVER_MODULE(ata, atapci, ata_pcichannel_driver, ata_devclass, 0, 0);
 765
 766
 767 /*
 768  * misc support fucntions
 769  */
 770 int
 771 ata_legacy(device_t dev)
 772 {
 773     return (((pci_read_config(dev, PCIR_SUBCLASS, 1) == PCIS_STORAGE_IDE) &&
 774              (pci_read_config(dev, PCIR_PROGIF, 1)&PCIP_STORAGE_IDE_MASTERDEV)&&
 775              ((pci_read_config(dev, PCIR_PROGIF, 1) &
 776                (PCIP_STORAGE_IDE_MODEPRIM | PCIP_STORAGE_IDE_MODESEC)) !=
 777               (PCIP_STORAGE_IDE_MODEPRIM | PCIP_STORAGE_IDE_MODESEC))) ||
 778             (!pci_read_config(dev, PCIR_BAR(0), 4) &&
 779              !pci_read_config(dev, PCIR_BAR(1), 4) &&
 780              !pci_read_config(dev, PCIR_BAR(2), 4) &&
 781              !pci_read_config(dev, PCIR_BAR(3), 4) &&
 782              !pci_read_config(dev, PCIR_BAR(5), 4)));
 783 }
 784
 785 void
 786 ata_generic_intr(void *data)
 787 {
 788     struct ata_pci_controller *ctlr = data;
 789     struct ata_channel *ch;
 790     int unit;
 791
 792     for (unit = 0; unit < ATA_PCI_MAX_CH; unit++) {
 793         if ((ch = ctlr->interrupt[unit].argument))
 794             ctlr->interrupt[unit].function(ch);
 795     }
 796 }
 797
 798 int
 799 ata_setup_interrupt(device_t dev, void *intr_func)
 800 {
 801     struct ata_pci_controller *ctlr = device_get_softc(dev);
 802     int i, msi = 0;
 803
 804     if (!ctlr->legacy) {
 805         if (resource_int_value(device_get_name(dev),
 806                 device_get_unit(dev), "msi", &i) == 0 && i != 0)
 807             msi = 1;
 808         if (msi && pci_msi_count(dev) > 0 && pci_alloc_msi(dev, &msi) == 0) {
 809             ctlr->r_irq_rid = 0x1;
 810         } else {
 811             msi = 0;
 812             ctlr->r_irq_rid = ATA_IRQ_RID;
 813         }
 814         if (!(ctlr->r_irq = bus_alloc_resource_any(dev, SYS_RES_IRQ,
 815                 &ctlr->r_irq_rid, RF_SHAREABLE | RF_ACTIVE))) {
 816             device_printf(dev, "unable to map interrupt\n");
 817             if (msi)
 818                     pci_release_msi(dev);
 819             return ENXIO;
 820         }
 821         if ((bus_setup_intr(dev, ctlr->r_irq, ATA_INTR_FLAGS, NULL,
 822                             intr_func, ctlr, &ctlr->handle))) {
 823             device_printf(dev, "unable to setup interrupt\n");
 824             bus_release_resource(dev,
 825                 SYS_RES_IRQ, ctlr->r_irq_rid, ctlr->r_irq);
 826             if (msi)
 827                     pci_release_msi(dev);
 828             return ENXIO;
 829         }
 830     }
 831     return 0;
 832 }
 833
 834 void
 835 ata_set_desc(device_t dev)
 836 {
 837     struct ata_pci_controller *ctlr = device_get_softc(dev);
 838     char buffer[128];
 839
 840     sprintf(buffer, "%s %s %s controller",
 841             ata_pcivendor2str(dev), ctlr->chip->text,
 842             ata_mode2str(ctlr->chip->max_dma));
 843     device_set_desc_copy(dev, buffer);
 844 }
 845
 846 struct ata_chip_id *
 847 ata_match_chip(device_t dev, struct ata_chip_id *index)
 848 {
 849     uint32_t devid;
 850     uint8_t revid;
 851
 852     devid = pci_get_devid(dev);
 853     revid = pci_get_revid(dev);
 854     while (index->chipid != 0) {
 855         if (devid == index->chipid && revid >= index->chiprev)
 856             return (index);
 857         index++;
 858     }
 859     return (NULL);
 860 }
 861
 862 struct ata_chip_id *
 863 ata_find_chip(device_t dev, struct ata_chip_id *index, int slot)
 864 {
 865     struct ata_chip_id *idx;
 866     device_t *children;
 867     int nchildren, i;
 868     uint8_t s;
 869
 870     if (device_get_children(device_get_parent(dev), &children, &nchildren))
 871         return (NULL);
 872
 873     for (i = 0; i < nchildren; i++) {
 874         s = pci_get_slot(children[i]);
 875         if ((slot >= 0 && s == slot) || (slot < 0 && s <= -slot)) {
 876             idx = ata_match_chip(children[i], index);
 877             if (idx != NULL) {
 878                 free(children, M_TEMP);
 879                 return (idx);
 880             }
 881         }
 882     }
 883     free(children, M_TEMP);
 884     return (NULL);
 885 }
 886
 887 char *
 888 ata_pcivendor2str(device_t dev)
 889 {
 890     switch (pci_get_vendor(dev)) {
 891     case ATA_ACARD_ID:          return "Acard";
 892     case ATA_ACER_LABS_ID:      return "AcerLabs";
 893     case ATA_AMD_ID:            return "AMD";
 894     case ATA_ADAPTEC_ID:        return "Adaptec";
 895     case ATA_ATI_ID:            return "ATI";
 896     case ATA_CYRIX_ID:          return "Cyrix";
 897     case ATA_CYPRESS_ID:        return "Cypress";
 898     case ATA_HIGHPOINT_ID:      return "HighPoint";
 899     case ATA_INTEL_ID:          return "Intel";
 900     case ATA_ITE_ID:            return "ITE";
 901     case ATA_JMICRON_ID:        return "JMicron";
 902     case ATA_MARVELL_ID:        return "Marvell";
 903     case ATA_MARVELL2_ID:       return "Marvell";
 904     case ATA_NATIONAL_ID:       return "National";
 905     case ATA_NETCELL_ID:        return "Netcell";
 906     case ATA_NVIDIA_ID:         return "nVidia";
 907     case ATA_PROMISE_ID:        return "Promise";
 908     case ATA_SERVERWORKS_ID:    return "ServerWorks";
 909     case ATA_SILICON_IMAGE_ID:  return "SiI";
 910     case ATA_SIS_ID:            return "SiS";
 911     case ATA_VIA_ID:            return "VIA";
 912     case ATA_CENATEK_ID:        return "Cenatek";
 913     case ATA_MICRON_ID:         return "Micron";
 914     default:                    return "Generic";
 915     }
 916 }
 917
 918 int
 919 ata_mode2idx(int mode)
 920 {
 921     if ((mode & ATA_DMA_MASK) == ATA_UDMA0)
 922         return (mode & ATA_MODE_MASK) + 8;
 923     if ((mode & ATA_DMA_MASK) == ATA_WDMA0)
 924         return (mode & ATA_MODE_MASK) + 5;
 925     return (mode & ATA_MODE_MASK) - ATA_PIO0;
 926 }
 927