sys/dev/iir/iir.c

   1 /*-
   2  *       Copyright (c) 2000-04 ICP vortex GmbH
   3  *       Copyright (c) 2002-04 Intel Corporation
   4  *       Copyright (c) 2003-04 Adaptec Inc.
   5  *       All Rights Reserved
   6  *
   7  * Redistribution and use in source and binary forms, with or without
   8  * modification, are permitted provided that the following conditions
   9  * are met:
  10  * 1. Redistributions of source code must retain the above copyright
  11  *    notice, this list of conditions, and the following disclaimer,
  12  *    without modification, immediately at the beginning of the file.
  13  * 2. Redistributions in binary form must reproduce the above copyright
  14  *    notice, this list of conditions and the following disclaimer in the
  15  *    documentation and/or other materials provided with the distribution.
  16  * 3. The name of the author may not be used to endorse or promote products
  17  *    derived from this software without specific prior written permission.
  18  *
  19  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  20  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  21  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  22  * ARE DISCLAIMED. IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE FOR
  23  * ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  24  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  25  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  26  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  27  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  28  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  29  * SUCH DAMAGE.
  30  */
  31
  32 /*
  33  * iir.c: SCSI dependant code for the Intel Integrated RAID Controller driver
  34  *
  35  * Written by: Achim Leubner <achim_leubner@adaptec.com>
  36  * Fixes/Additions: Boji Tony Kannanthanam <boji.t.kannanthanam@intel.com>
  37  *
  38  * credits:     Niklas Hallqvist;       OpenBSD driver for the ICP Controllers.
  39  *              Mike Smith;             Some driver source code.
  40  *              FreeBSD.ORG;            Great O/S to work on and for.
  41  *
  42  * $Id: iir.c 1.5 2004/03/30 10:17:53 achim Exp $"
  43  */
  44
  45 #include <sys/cdefs.h>
  46 __FBSDID("$FreeBSD$");
  47
  48 #define _IIR_C_
  49
  50 /* #include "opt_iir.h" */
  51 #include <sys/param.h>
  52 #include <sys/systm.h>
  53 #include <sys/endian.h>
  54 #include <sys/eventhandler.h>
  55 #include <sys/malloc.h>
  56 #include <sys/kernel.h>
  57 #include <sys/bus.h>
  58
  59 #include <machine/bus.h>
  60 #include <machine/stdarg.h>
  61
  62 #include <cam/cam.h>
  63 #include <cam/cam_ccb.h>
  64 #include <cam/cam_sim.h>
  65 #include <cam/cam_xpt_sim.h>
  66 #include <cam/cam_debug.h>
  67 #include <cam/scsi/scsi_all.h>
  68 #include <cam/scsi/scsi_message.h>
  69
  70 #include <dev/iir/iir.h>
  71
  72 static MALLOC_DEFINE(M_GDTBUF, "iirbuf", "iir driver buffer");
  73
  74 struct gdt_softc *gdt_wait_gdt;
  75 int     gdt_wait_index;
  76
  77 #ifdef GDT_DEBUG
  78 int     gdt_debug = GDT_DEBUG;
  79 #ifdef __SERIAL__
  80 #define MAX_SERBUF 160
  81 static void ser_init(void);
  82 static void ser_puts(char *str);
  83 static void ser_putc(int c);
  84 static char strbuf[MAX_SERBUF+1];
  85 #ifdef __COM2__
  86 #define COM_BASE 0x2f8
  87 #else
  88 #define COM_BASE 0x3f8
  89 #endif
  90 static void ser_init()
  91 {
  92     unsigned port=COM_BASE;
  93
  94     outb(port+3, 0x80);
  95     outb(port+1, 0);
  96     /* 19200 Baud, if 9600: outb(12,port) */
  97     outb(port, 6);
  98     outb(port+3, 3);
  99     outb(port+1, 0);
 100 }
 101
 102 static void ser_puts(char *str)
 103 {
 104     char *ptr;
 105
 106     ser_init();
 107     for (ptr=str;*ptr;++ptr)
 108         ser_putc((int)(*ptr));
 109 }
 110
 111 static void ser_putc(int c)
 112 {
 113     unsigned port=COM_BASE;
 114
 115     while ((inb(port+5) & 0x20)==0);
 116     outb(port, c);
 117     if (c==0x0a)
 118     {
 119         while ((inb(port+5) & 0x20)==0);
 120         outb(port, 0x0d);
 121     }
 122 }
 123
 124 int ser_printf(const char *fmt, ...)
 125 {
 126     va_list args;
 127     int i;
 128
 129     va_start(args,fmt);
 130     i = vsprintf(strbuf,fmt,args);
 131     ser_puts(strbuf);
 132     va_end(args);
 133     return i;
 134 }
 135 #endif
 136 #endif
 137
 138 /* The linked list of softc structures */
 139 struct gdt_softc_list gdt_softcs = TAILQ_HEAD_INITIALIZER(gdt_softcs);
 140 /* controller cnt. */
 141 int gdt_cnt = 0;
 142 /* event buffer */
 143 static gdt_evt_str ebuffer[GDT_MAX_EVENTS];
 144 static int elastidx, eoldidx;
 145 /* statistics */
 146 gdt_statist_t gdt_stat;
 147
 148 /* Definitions for our use of the SIM private CCB area */
 149 #define ccb_sim_ptr     spriv_ptr0
 150 #define ccb_priority    spriv_field1
 151
 152 static void     iir_action(struct cam_sim *sim, union ccb *ccb);
 153 static void     iir_poll(struct cam_sim *sim);
 154 static void     iir_shutdown(void *arg, int howto);
 155 static void     iir_timeout(void *arg);
 156
 157 static void     gdt_eval_mapping(u_int32_t size, int *cyls, int *heads,
 158                                  int *secs);
 159 static int      gdt_internal_cmd(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 160                                  u_int8_t service, u_int16_t opcode,
 161                                  u_int32_t arg1, u_int32_t arg2, u_int32_t arg3);
 162 static int      gdt_wait(struct gdt_softc *gdt, struct gdt_ccb *ccb,
 163                          int timeout);
 164
 165 static struct gdt_ccb *gdt_get_ccb(struct gdt_softc *gdt);
 166
 167 static int      gdt_sync_event(struct gdt_softc *gdt, int service,
 168                                u_int8_t index, struct gdt_ccb *gccb);
 169 static int      gdt_async_event(struct gdt_softc *gdt, int service);
 170 static struct gdt_ccb *gdt_raw_cmd(struct gdt_softc *gdt,
 171                                    union ccb *ccb, int *lock);
 172 static struct gdt_ccb *gdt_cache_cmd(struct gdt_softc *gdt,
 173                                      union ccb *ccb, int *lock);
 174 static struct gdt_ccb *gdt_ioctl_cmd(struct gdt_softc *gdt,
 175                                      gdt_ucmd_t *ucmd, int *lock);
 176 static void     gdt_internal_cache_cmd(struct gdt_softc *gdt,union ccb *ccb);
 177
 178 static void     gdtmapmem(void *arg, bus_dma_segment_t *dm_segs,
 179                           int nseg, int error);
 180 static void     gdtexecuteccb(void *arg, bus_dma_segment_t *dm_segs,
 181                               int nseg, int error);
 182
 183 int
 184 iir_init(struct gdt_softc *gdt)
 185 {
 186     u_int16_t cdev_cnt;
 187     int i, id, drv_cyls, drv_hds, drv_secs;
 188     struct gdt_ccb *gccb;
 189
 190     GDT_DPRINTF(GDT_D_DEBUG, ("iir_init()\n"));
 191
 192     gdt->sc_state = GDT_POLLING;
 193     gdt_clear_events();
 194     bzero(&gdt_stat, sizeof(gdt_statist_t));
 195
 196     SLIST_INIT(&gdt->sc_free_gccb);
 197     SLIST_INIT(&gdt->sc_pending_gccb);
 198     TAILQ_INIT(&gdt->sc_ccb_queue);
 199     TAILQ_INIT(&gdt->sc_ucmd_queue);
 200     TAILQ_INSERT_TAIL(&gdt_softcs, gdt, links);
 201
 202     /* DMA tag for mapping buffers into device visible space. */
 203     if (bus_dma_tag_create(gdt->sc_parent_dmat, /*alignment*/1, /*boundary*/0,
 204                            /*lowaddr*/BUS_SPACE_MAXADDR_32BIT,
 205                            /*highaddr*/BUS_SPACE_MAXADDR,
 206                            /*filter*/NULL, /*filterarg*/NULL,
 207                            /*maxsize*/MAXBSIZE, /*nsegments*/GDT_MAXSG,
 208                            /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT,
 209                            /*flags*/BUS_DMA_ALLOCNOW,
 210                            /*lockfunc*/busdma_lock_mutex, /*lockarg*/&Giant,
 211                            &gdt->sc_buffer_dmat) != 0) {
 212         printf("iir%d: bus_dma_tag_create(...,gdt->sc_buffer_dmat) failed\n",
 213                gdt->sc_hanum);
 214         return (1);
 215     }
 216     gdt->sc_init_level++;
 217
 218     /* DMA tag for our ccb structures */
 219     if (bus_dma_tag_create(gdt->sc_parent_dmat,
 220                            /*alignment*/1,
 221                            /*boundary*/0,
 222                            /*lowaddr*/BUS_SPACE_MAXADDR_32BIT,
 223                            /*highaddr*/BUS_SPACE_MAXADDR,
 224                            /*filter*/NULL,
 225                            /*filterarg*/NULL,
 226                            GDT_MAXCMDS * GDT_SCRATCH_SZ, /* maxsize */
 227                            /*nsegments*/1,
 228                            /*maxsegsz*/BUS_SPACE_MAXSIZE_32BIT,
 229                            /*flags*/0, /*lockfunc*/busdma_lock_mutex,
 230                            /*lockarg*/&Giant, &gdt->sc_gcscratch_dmat) != 0) {
 231         printf("iir%d: bus_dma_tag_create(...,gdt->sc_gcscratch_dmat) failed\n",
 232                gdt->sc_hanum);
 233         return (1);
 234     }
 235     gdt->sc_init_level++;
 236
 237     /* Allocation for our ccb scratch area */
 238     if (bus_dmamem_alloc(gdt->sc_gcscratch_dmat, (void **)&gdt->sc_gcscratch,
 239                          BUS_DMA_NOWAIT, &gdt->sc_gcscratch_dmamap) != 0) {
 240         printf("iir%d: bus_dmamem_alloc(...,&gdt->sc_gccbs,...) failed\n",
 241                gdt->sc_hanum);
 242         return (1);
 243     }
 244     gdt->sc_init_level++;
 245
 246     /* And permanently map them */
 247     bus_dmamap_load(gdt->sc_gcscratch_dmat, gdt->sc_gcscratch_dmamap,
 248                     gdt->sc_gcscratch, GDT_MAXCMDS * GDT_SCRATCH_SZ,
 249                     gdtmapmem, &gdt->sc_gcscratch_busbase, /*flags*/0);
 250     gdt->sc_init_level++;
 251
 252     /* Clear them out. */
 253     bzero(gdt->sc_gcscratch, GDT_MAXCMDS * GDT_SCRATCH_SZ);
 254
 255     /* Initialize the ccbs */
 256     gdt->sc_gccbs = malloc(sizeof(struct gdt_ccb) * GDT_MAXCMDS, M_GDTBUF,
 257         M_NOWAIT | M_ZERO);
 258     if (gdt->sc_gccbs == NULL) {
 259         printf("iir%d: no memory for gccbs.\n", gdt->sc_hanum);
 260         return (1);
 261     }
 262     for (i = GDT_MAXCMDS-1; i >= 0; i--) {
 263         gccb = &gdt->sc_gccbs[i];
 264         gccb->gc_cmd_index = i + 2;
 265         gccb->gc_flags = GDT_GCF_UNUSED;
 266         gccb->gc_map_flag = FALSE;
 267         if (bus_dmamap_create(gdt->sc_buffer_dmat, /*flags*/0,
 268                               &gccb->gc_dmamap) != 0)
 269             return(1);
 270         gccb->gc_map_flag = TRUE;
 271         gccb->gc_scratch = &gdt->sc_gcscratch[GDT_SCRATCH_SZ * i];
 272         gccb->gc_scratch_busbase = gdt->sc_gcscratch_busbase + GDT_SCRATCH_SZ * i;
 273         callout_handle_init(&gccb->gc_timeout_ch);
 274         SLIST_INSERT_HEAD(&gdt->sc_free_gccb, gccb, sle);
 275     }
 276     gdt->sc_init_level++;
 277
 278     /* create the control device */
 279     gdt->sc_dev = gdt_make_dev(gdt->sc_hanum);
 280
 281     /* allocate ccb for gdt_internal_cmd() */
 282     gccb = gdt_get_ccb(gdt);
 283     if (gccb == NULL) {
 284         printf("iir%d: No free command index found\n",
 285                gdt->sc_hanum);
 286         return (1);
 287     }
 288     bzero(gccb->gc_cmd, GDT_CMD_SZ);
 289
 290     if (!gdt_internal_cmd(gdt, gccb, GDT_SCREENSERVICE, GDT_INIT,
 291                           0, 0, 0)) {
 292         printf("iir%d: Screen service initialization error %d\n",
 293                gdt->sc_hanum, gdt->sc_status);
 294         gdt_free_ccb(gdt, gccb);
 295         return (1);
 296     }
 297
 298     gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_UNFREEZE_IO,
 299                      0, 0, 0);
 300
 301     if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_INIT,
 302                           GDT_LINUX_OS, 0, 0)) {
 303         printf("iir%d: Cache service initialization error %d\n",
 304                gdt->sc_hanum, gdt->sc_status);
 305         gdt_free_ccb(gdt, gccb);
 306         return (1);
 307     }
 308     cdev_cnt = (u_int16_t)gdt->sc_info;
 309     gdt->sc_fw_vers = gdt->sc_service;
 310
 311     /* Detect number of buses */
 312     gdt_enc32(gccb->gc_scratch + GDT_IOC_VERSION, GDT_IOC_NEWEST);
 313     gccb->gc_scratch[GDT_IOC_LIST_ENTRIES] = GDT_MAXBUS;
 314     gccb->gc_scratch[GDT_IOC_FIRST_CHAN] = 0;
 315     gccb->gc_scratch[GDT_IOC_LAST_CHAN] = GDT_MAXBUS - 1;
 316     gdt_enc32(gccb->gc_scratch + GDT_IOC_LIST_OFFSET, GDT_IOC_HDR_SZ);
 317     if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_IOCTL,
 318                          GDT_IOCHAN_RAW_DESC, GDT_INVALID_CHANNEL,
 319                          GDT_IOC_HDR_SZ + GDT_MAXBUS * GDT_RAWIOC_SZ)) {
 320         gdt->sc_bus_cnt = gccb->gc_scratch[GDT_IOC_CHAN_COUNT];
 321         for (i = 0; i < gdt->sc_bus_cnt; i++) {
 322             id = gccb->gc_scratch[GDT_IOC_HDR_SZ +
 323                                  i * GDT_RAWIOC_SZ + GDT_RAWIOC_PROC_ID];
 324             gdt->sc_bus_id[i] = id < GDT_MAXID_FC ? id : 0xff;
 325         }
 326     } else {
 327         /* New method failed, use fallback. */
 328         for (i = 0; i < GDT_MAXBUS; i++) {
 329             gdt_enc32(gccb->gc_scratch + GDT_GETCH_CHANNEL_NO, i);
 330             if (!gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_IOCTL,
 331                                   GDT_SCSI_CHAN_CNT | GDT_L_CTRL_PATTERN,
 332                                   GDT_IO_CHANNEL | GDT_INVALID_CHANNEL,
 333                                   GDT_GETCH_SZ)) {
 334                 if (i == 0) {
 335                     printf("iir%d: Cannot get channel count, "
 336                            "error %d\n", gdt->sc_hanum, gdt->sc_status);
 337                     gdt_free_ccb(gdt, gccb);
 338                     return (1);
 339                 }
 340                 break;
 341             }
 342             gdt->sc_bus_id[i] =
 343                 (gccb->gc_scratch[GDT_GETCH_SIOP_ID] < GDT_MAXID_FC) ?
 344                 gccb->gc_scratch[GDT_GETCH_SIOP_ID] : 0xff;
 345         }
 346         gdt->sc_bus_cnt = i;
 347     }
 348     /* add one "virtual" channel for the host drives */
 349     gdt->sc_virt_bus = gdt->sc_bus_cnt;
 350     gdt->sc_bus_cnt++;
 351
 352     if (!gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_INIT,
 353                           0, 0, 0)) {
 354             printf("iir%d: Raw service initialization error %d\n",
 355                    gdt->sc_hanum, gdt->sc_status);
 356             gdt_free_ccb(gdt, gccb);
 357             return (1);
 358     }
 359
 360     /* Set/get features raw service (scatter/gather) */
 361     gdt->sc_raw_feat = 0;
 362     if (gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_SET_FEAT,
 363                          GDT_SCATTER_GATHER, 0, 0)) {
 364         if (gdt_internal_cmd(gdt, gccb, GDT_SCSIRAWSERVICE, GDT_GET_FEAT,
 365                              0, 0, 0)) {
 366             gdt->sc_raw_feat = gdt->sc_info;
 367             if (!(gdt->sc_info & GDT_SCATTER_GATHER)) {
 368                 panic("iir%d: Scatter/Gather Raw Service "
 369                       "required but not supported!\n", gdt->sc_hanum);
 370                 gdt_free_ccb(gdt, gccb);
 371                 return (1);
 372             }
 373         }
 374     }
 375
 376     /* Set/get features cache service (scatter/gather) */
 377     gdt->sc_cache_feat = 0;
 378     if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_SET_FEAT,
 379                          0, GDT_SCATTER_GATHER, 0)) {
 380         if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_GET_FEAT,
 381                              0, 0, 0)) {
 382             gdt->sc_cache_feat = gdt->sc_info;
 383             if (!(gdt->sc_info & GDT_SCATTER_GATHER)) {
 384                 panic("iir%d: Scatter/Gather Cache Service "
 385                   "required but not supported!\n", gdt->sc_hanum);
 386                 gdt_free_ccb(gdt, gccb);
 387                 return (1);
 388             }
 389         }
 390     }
 391
 392     /* OEM */
 393     gdt_enc32(gccb->gc_scratch + GDT_OEM_VERSION, 0x01);
 394     gdt_enc32(gccb->gc_scratch + GDT_OEM_BUFSIZE, sizeof(gdt_oem_record_t));
 395     if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_IOCTL,
 396                          GDT_OEM_STR_RECORD, GDT_INVALID_CHANNEL,
 397                          sizeof(gdt_oem_str_record_t))) {
 398             strncpy(gdt->oem_name, ((gdt_oem_str_record_t *)
 399             gccb->gc_scratch)->text.scsi_host_drive_inquiry_vendor_id, 7);
 400                 gdt->oem_name[7]='\0';
 401         } else {
 402                 /* Old method, based on PCI ID */
 403                 if (gdt->sc_vendor == INTEL_VENDOR_ID_IIR)
 404             strcpy(gdt->oem_name,"Intel  ");
 405         else
 406             strcpy(gdt->oem_name,"ICP    ");
 407     }
 408
 409     /* Scan for cache devices */
 410     for (i = 0; i < cdev_cnt && i < GDT_MAX_HDRIVES; i++) {
 411         if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE, GDT_INFO,
 412                              i, 0, 0)) {
 413             gdt->sc_hdr[i].hd_present = 1;
 414             gdt->sc_hdr[i].hd_size = gdt->sc_info;
 415
 416             /*
 417              * Evaluate mapping (sectors per head, heads per cyl)
 418              */
 419             gdt->sc_hdr[i].hd_size &= ~GDT_SECS32;
 420             if (gdt->sc_info2 == 0)
 421                 gdt_eval_mapping(gdt->sc_hdr[i].hd_size,
 422                                  &drv_cyls, &drv_hds, &drv_secs);
 423             else {
 424                 drv_hds = gdt->sc_info2 & 0xff;
 425                 drv_secs = (gdt->sc_info2 >> 8) & 0xff;
 426                 drv_cyls = gdt->sc_hdr[i].hd_size / drv_hds /
 427                     drv_secs;
 428             }
 429             gdt->sc_hdr[i].hd_heads = drv_hds;
 430             gdt->sc_hdr[i].hd_secs = drv_secs;
 431             /* Round the size */
 432             gdt->sc_hdr[i].hd_size = drv_cyls * drv_hds * drv_secs;
 433
 434             if (gdt_internal_cmd(gdt, gccb, GDT_CACHESERVICE,
 435                                  GDT_DEVTYPE, i, 0, 0))
 436                 gdt->sc_hdr[i].hd_devtype = gdt->sc_info;
 437         }
 438     }
 439
 440     GDT_DPRINTF(GDT_D_INIT, ("dpmem %x %d-bus %d cache device%s\n",
 441                              gdt->sc_dpmembase,
 442                              gdt->sc_bus_cnt, cdev_cnt,
 443                              cdev_cnt == 1 ? "" : "s"));
 444     gdt_free_ccb(gdt, gccb);
 445
 446     gdt_cnt++;
 447     return (0);
 448 }
 449
 450 void
 451 iir_free(struct gdt_softc *gdt)
 452 {
 453     int i;
 454
 455     GDT_DPRINTF(GDT_D_INIT, ("iir_free()\n"));
 456
 457     switch (gdt->sc_init_level) {
 458       default:
 459         gdt_destroy_dev(gdt->sc_dev);
 460       case 5:
 461         for (i = GDT_MAXCMDS-1; i >= 0; i--)
 462             if (gdt->sc_gccbs[i].gc_map_flag)
 463                 bus_dmamap_destroy(gdt->sc_buffer_dmat,
 464                                    gdt->sc_gccbs[i].gc_dmamap);
 465         bus_dmamap_unload(gdt->sc_gcscratch_dmat, gdt->sc_gcscratch_dmamap);
 466         free(gdt->sc_gccbs, M_GDTBUF);
 467       case 4:
 468         bus_dmamem_free(gdt->sc_gcscratch_dmat, gdt->sc_gcscratch, gdt->sc_gcscratch_dmamap);
 469       case 3:
 470         bus_dma_tag_destroy(gdt->sc_gcscratch_dmat);
 471       case 2:
 472         bus_dma_tag_destroy(gdt->sc_buffer_dmat);
 473       case 1:
 474         bus_dma_tag_destroy(gdt->sc_parent_dmat);
 475       case 0:
 476         break;
 477     }
 478     TAILQ_REMOVE(&gdt_softcs, gdt, links);
 479 }
 480
 481 void
 482 iir_attach(struct gdt_softc *gdt)
 483 {
 484     struct cam_devq *devq;
 485     int i;
 486
 487     GDT_DPRINTF(GDT_D_INIT, ("iir_attach()\n"));
 488
 489     /*
 490      * Create the device queue for our SIM.
 491      * XXX Throttle this down since the card has problems under load.
 492      */
 493     devq = cam_simq_alloc(32);
 494     if (devq == NULL)
 495         return;
 496
 497     for (i = 0; i < gdt->sc_bus_cnt; i++) {
 498         /*
 499          * Construct our SIM entry
 500          */
 501         gdt->sims[i] = cam_sim_alloc(iir_action, iir_poll, "iir",
 502                                      gdt, gdt->sc_hanum, &Giant,
 503                                      /*untagged*/1,
 504                                      /*tagged*/GDT_MAXCMDS, devq);
 505         if (xpt_bus_register(gdt->sims[i], gdt->sc_devnode, i) != CAM_SUCCESS) {
 506             cam_sim_free(gdt->sims[i], /*free_devq*/i == 0);
 507             break;
 508         }
 509
 510         if (xpt_create_path(&gdt->paths[i], /*periph*/NULL,
 511                             cam_sim_path(gdt->sims[i]),
 512                             CAM_TARGET_WILDCARD,
 513                             CAM_LUN_WILDCARD) != CAM_REQ_CMP) {
 514             xpt_bus_deregister(cam_sim_path(gdt->sims[i]));
 515             cam_sim_free(gdt->sims[i], /*free_devq*/i == 0);
 516             break;
 517         }
 518     }
 519     if (i > 0)
 520         EVENTHANDLER_REGISTER(shutdown_final, iir_shutdown,
 521                               gdt, SHUTDOWN_PRI_DEFAULT);
 522     /* iir_watchdog(gdt); */
 523     gdt->sc_state = GDT_NORMAL;
 524 }
 525
 526 static void
 527 gdt_eval_mapping(u_int32_t size, int *cyls, int *heads, int *secs)
 528 {
 529     *cyls = size / GDT_HEADS / GDT_SECS;
 530     if (*cyls < GDT_MAXCYLS) {
 531         *heads = GDT_HEADS;
 532         *secs = GDT_SECS;
 533     } else {
 534         /* Too high for 64 * 32 */
 535         *cyls = size / GDT_MEDHEADS / GDT_MEDSECS;
 536         if (*cyls < GDT_MAXCYLS) {
 537             *heads = GDT_MEDHEADS;
 538             *secs = GDT_MEDSECS;
 539         } else {
 540             /* Too high for 127 * 63 */
 541             *cyls = size / GDT_BIGHEADS / GDT_BIGSECS;
 542             *heads = GDT_BIGHEADS;
 543             *secs = GDT_BIGSECS;
 544         }
 545     }
 546 }
 547
 548 static int
 549 gdt_wait(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 550          int timeout)
 551 {
 552     int rv = 0;
 553
 554     GDT_DPRINTF(GDT_D_INIT,
 555                 ("gdt_wait(%p, %p, %d)\n", gdt, gccb, timeout));
 556
 557     gdt->sc_state |= GDT_POLL_WAIT;
 558     do {
 559         iir_intr(gdt);
 560         if (gdt == gdt_wait_gdt &&
 561             gccb->gc_cmd_index == gdt_wait_index) {
 562             rv = 1;
 563             break;
 564         }
 565         DELAY(1);
 566     } while (--timeout);
 567     gdt->sc_state &= ~GDT_POLL_WAIT;
 568
 569     while (gdt->sc_test_busy(gdt))
 570         DELAY(1);               /* XXX correct? */
 571
 572     return (rv);
 573 }
 574
 575 static int
 576 gdt_internal_cmd(struct gdt_softc *gdt, struct gdt_ccb *gccb,
 577                  u_int8_t service, u_int16_t opcode,
 578                  u_int32_t arg1, u_int32_t arg2, u_int32_t arg3)
 579 {
 580     int retries;
 581
 582     GDT_DPRINTF(GDT_D_CMD, ("gdt_internal_cmd(%p, %d, %d, %d, %d, %d)\n",
 583                             gdt, service, opcode, arg1, arg2, arg3));
 584
 585     bzero(gccb->gc_cmd, GDT_CMD_SZ);
 586
 587     for (retries = GDT_RETRIES; ; ) {
 588         gccb->gc_service = service;
 589         gccb->gc_flags = GDT_GCF_INTERNAL;
 590
 591         gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
 592                   gccb->gc_cmd_index);
 593         gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, opcode);
 594
 595         switch (service) {
 596           case GDT_CACHESERVICE:
 597             if (opcode == GDT_IOCTL) {
 598                 gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION +
 599                           GDT_IOCTL_SUBFUNC, arg1);
 600                 gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION +
 601                           GDT_IOCTL_CHANNEL, arg2);
 602                 gdt_enc16(gccb->gc_cmd + GDT_CMD_UNION +
 603                           GDT_IOCTL_PARAM_SIZE, (u_int16_t)arg3);
 604                 gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_IOCTL_P_PARAM,
 605                           gccb->gc_scratch_busbase);
 606             } else {
 607                 gdt_enc16(gccb->gc_cmd + GDT_CMD_UNION +
 608                           GDT_CACHE_DEVICENO, (u_int16_t)arg1);
 609                 gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION +
 610                           GDT_CACHE_BLOCKNO, arg2);
 611             }
 612             break;
 613
 614           case GDT_SCSIRAWSERVICE:
 615             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION +
 616                       GDT_RAW_DIRECTION, arg1);
 617             gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
 618                 (u_int8_t)arg2;
 619             gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
 620                 (u_int8_t)arg3;
 621             gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
 622                 (u_int8_t)(arg3 >> 8);
 623         }
 624
 625         gdt->sc_set_sema0(gdt);
 626         gccb->gc_cmd_len = GDT_CMD_SZ;
 627         gdt->sc_cmd_off = 0;
 628         gdt->sc_cmd_cnt = 0;
 629         gdt->sc_copy_cmd(gdt, gccb);
 630         gdt->sc_release_event(gdt);
 631         DELAY(20);
 632         if (!gdt_wait(gdt, gccb, GDT_POLL_TIMEOUT))
 633             return (0);
 634         if (gdt->sc_status != GDT_S_BSY || --retries == 0)
 635             break;
 636         DELAY(1);
 637     }
 638     return (gdt->sc_status == GDT_S_OK);
 639 }
 640
 641 static struct gdt_ccb *
 642 gdt_get_ccb(struct gdt_softc *gdt)
 643 {
 644     struct gdt_ccb *gccb;
 645     int lock;
 646
 647     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_get_ccb(%p)\n", gdt));
 648
 649     lock = splcam();
 650     gccb = SLIST_FIRST(&gdt->sc_free_gccb);
 651     if (gccb != NULL) {
 652         SLIST_REMOVE_HEAD(&gdt->sc_free_gccb, sle);
 653         SLIST_INSERT_HEAD(&gdt->sc_pending_gccb, gccb, sle);
 654         ++gdt_stat.cmd_index_act;
 655         if (gdt_stat.cmd_index_act > gdt_stat.cmd_index_max)
 656             gdt_stat.cmd_index_max = gdt_stat.cmd_index_act;
 657     }
 658     splx(lock);
 659     return (gccb);
 660 }
 661
 662 void
 663 gdt_free_ccb(struct gdt_softc *gdt, struct gdt_ccb *gccb)
 664 {
 665     int lock;
 666
 667     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_free_ccb(%p, %p)\n", gdt, gccb));
 668
 669     lock = splcam();
 670     gccb->gc_flags = GDT_GCF_UNUSED;
 671     SLIST_REMOVE(&gdt->sc_pending_gccb, gccb, gdt_ccb, sle);
 672     SLIST_INSERT_HEAD(&gdt->sc_free_gccb, gccb, sle);
 673     --gdt_stat.cmd_index_act;
 674     splx(lock);
 675     if (gdt->sc_state & GDT_SHUTDOWN)
 676         wakeup(gccb);
 677 }
 678
 679 void
 680 gdt_next(struct gdt_softc *gdt)
 681 {
 682     int lock;
 683     union ccb *ccb;
 684     gdt_ucmd_t *ucmd;
 685     struct cam_sim *sim;
 686     int bus, target, lun;
 687     int next_cmd;
 688
 689     struct ccb_scsiio *csio;
 690     struct ccb_hdr *ccbh;
 691     struct gdt_ccb *gccb = NULL;
 692     u_int8_t cmd;
 693
 694     GDT_DPRINTF(GDT_D_QUEUE, ("gdt_next(%p)\n", gdt));
 695
 696     lock = splcam();
 697     if (gdt->sc_test_busy(gdt)) {
 698         if (!(gdt->sc_state & GDT_POLLING)) {
 699             splx(lock);
 700             return;
 701         }
 702         while (gdt->sc_test_busy(gdt))
 703             DELAY(1);
 704     }
 705
 706     gdt->sc_cmd_cnt = gdt->sc_cmd_off = 0;
 707     next_cmd = TRUE;
 708     for (;;) {
 709         /* I/Os in queue? controller ready? */
 710         if (!TAILQ_FIRST(&gdt->sc_ucmd_queue) &&
 711             !TAILQ_FIRST(&gdt->sc_ccb_queue))
 712             break;
 713
 714         /* 1.: I/Os without ccb (IOCTLs) */
 715         ucmd = TAILQ_FIRST(&gdt->sc_ucmd_queue);
 716         if (ucmd != NULL) {
 717             TAILQ_REMOVE(&gdt->sc_ucmd_queue, ucmd, links);
 718             if ((gccb = gdt_ioctl_cmd(gdt, ucmd, &lock)) == NULL) {
 719                 TAILQ_INSERT_HEAD(&gdt->sc_ucmd_queue, ucmd, links);
 720                 break;
 721             }
 722             break;
 723             /* wenn mehrere Kdos. zulassen: if (!gdt_polling) continue; */
 724         }
 725
 726         /* 2.: I/Os with ccb */
 727         ccb = (union ccb *)TAILQ_FIRST(&gdt->sc_ccb_queue);
 728         /* ist dann immer != NULL, da oben getestet */
 729         sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 730         bus = cam_sim_bus(sim);
 731         target = ccb->ccb_h.target_id;
 732         lun = ccb->ccb_h.target_lun;
 733
 734         TAILQ_REMOVE(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
 735         --gdt_stat.req_queue_act;
 736         /* ccb->ccb_h.func_code is XPT_SCSI_IO */
 737         GDT_DPRINTF(GDT_D_QUEUE, ("XPT_SCSI_IO flags 0x%x)\n",
 738                                   ccb->ccb_h.flags));
 739         csio = &ccb->csio;
 740         ccbh = &ccb->ccb_h;
 741         cmd  = csio->cdb_io.cdb_bytes[0];
 742         /* Max CDB length is 12 bytes */
 743         if (csio->cdb_len > 12) {
 744             ccbh->status = CAM_REQ_INVALID;
 745             --gdt_stat.io_count_act;
 746             xpt_done(ccb);
 747         } else if (bus != gdt->sc_virt_bus) {
 748             /* raw service command */
 749             if ((gccb = gdt_raw_cmd(gdt, ccb, &lock)) == NULL) {
 750                 TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h,
 751                                   sim_links.tqe);
 752                 ++gdt_stat.req_queue_act;
 753                 if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
 754                     gdt_stat.req_queue_max = gdt_stat.req_queue_act;
 755                 next_cmd = FALSE;
 756             }
 757         } else if (target >= GDT_MAX_HDRIVES ||
 758                    !gdt->sc_hdr[target].hd_present || lun != 0) {
 759             ccbh->status = CAM_DEV_NOT_THERE;
 760             --gdt_stat.io_count_act;
 761             xpt_done(ccb);
 762         } else {
 763             /* cache service command */
 764             if (cmd == READ_6  || cmd == WRITE_6 ||
 765                 cmd == READ_10 || cmd == WRITE_10) {
 766                 if ((gccb = gdt_cache_cmd(gdt, ccb, &lock)) == NULL) {
 767                     TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h,
 768                                       sim_links.tqe);
 769                     ++gdt_stat.req_queue_act;
 770                     if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
 771                         gdt_stat.req_queue_max = gdt_stat.req_queue_act;
 772                     next_cmd = FALSE;
 773                 }
 774             } else {
 775                 splx(lock);
 776                 gdt_internal_cache_cmd(gdt, ccb);
 777                 lock = splcam();
 778             }
 779         }
 780         if ((gdt->sc_state & GDT_POLLING) || !next_cmd)
 781             break;
 782     }
 783     if (gdt->sc_cmd_cnt > 0)
 784         gdt->sc_release_event(gdt);
 785
 786     splx(lock);
 787
 788     if ((gdt->sc_state & GDT_POLLING) && gdt->sc_cmd_cnt > 0) {
 789         gdt_wait(gdt, gccb, GDT_POLL_TIMEOUT);
 790     }
 791 }
 792
 793 static struct gdt_ccb *
 794 gdt_raw_cmd(struct gdt_softc *gdt, union ccb *ccb, int *lock)
 795 {
 796     struct gdt_ccb *gccb;
 797     struct cam_sim *sim;
 798     int error;
 799
 800     GDT_DPRINTF(GDT_D_CMD, ("gdt_raw_cmd(%p, %p)\n", gdt, ccb));
 801
 802     if (roundup(GDT_CMD_UNION + GDT_RAW_SZ, sizeof(u_int32_t)) +
 803         gdt->sc_cmd_off + GDT_DPMEM_COMMAND_OFFSET >
 804         gdt->sc_ic_all_size) {
 805         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_raw_cmd(): DPMEM overflow\n",
 806                                     gdt->sc_hanum));
 807         return (NULL);
 808     }
 809
 810     gccb = gdt_get_ccb(gdt);
 811     if (gccb == NULL) {
 812         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: No free command index found\n",
 813                                     gdt->sc_hanum));
 814         return (gccb);
 815     }
 816     bzero(gccb->gc_cmd, GDT_CMD_SZ);
 817     sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 818     gccb->gc_ccb = ccb;
 819     gccb->gc_service = GDT_SCSIRAWSERVICE;
 820     gccb->gc_flags = GDT_GCF_SCSI;
 821
 822     if (gdt->sc_cmd_cnt == 0)
 823         gdt->sc_set_sema0(gdt);
 824     splx(*lock);
 825     gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
 826               gccb->gc_cmd_index);
 827     gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, GDT_WRITE);
 828
 829     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_DIRECTION,
 830               (ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN ?
 831               GDT_DATA_IN : GDT_DATA_OUT);
 832     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SDLEN,
 833               ccb->csio.dxfer_len);
 834     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_CLEN,
 835               ccb->csio.cdb_len);
 836     bcopy(ccb->csio.cdb_io.cdb_bytes, gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_CMD,
 837           ccb->csio.cdb_len);
 838     gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
 839         ccb->ccb_h.target_id;
 840     gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
 841         ccb->ccb_h.target_lun;
 842     gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
 843         cam_sim_bus(sim);
 844     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_LEN,
 845               sizeof(struct scsi_sense_data));
 846     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_DATA,
 847               gccb->gc_scratch_busbase);
 848
 849     error = bus_dmamap_load_ccb(gdt->sc_buffer_dmat,
 850                                 gccb->gc_dmamap,
 851                                 ccb,
 852                                 gdtexecuteccb,
 853                                 gccb, /*flags*/0);
 854     if (error == EINPROGRESS) {
 855         xpt_freeze_simq(sim, 1);
 856         gccb->gc_ccb->ccb_h.status |= CAM_RELEASE_SIMQ;
 857     }
 858
 859     *lock = splcam();
 860     return (gccb);
 861 }
 862
 863 static struct gdt_ccb *
 864 gdt_cache_cmd(struct gdt_softc *gdt, union ccb *ccb, int *lock)
 865 {
 866     struct gdt_ccb *gccb;
 867     struct cam_sim *sim;
 868     u_int8_t *cmdp;
 869     u_int16_t opcode;
 870     u_int32_t blockno, blockcnt;
 871     int error;
 872
 873     GDT_DPRINTF(GDT_D_CMD, ("gdt_cache_cmd(%p, %p)\n", gdt, ccb));
 874
 875     if (roundup(GDT_CMD_UNION + GDT_CACHE_SZ, sizeof(u_int32_t)) +
 876         gdt->sc_cmd_off + GDT_DPMEM_COMMAND_OFFSET >
 877         gdt->sc_ic_all_size) {
 878         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_cache_cmd(): DPMEM overflow\n",
 879                                     gdt->sc_hanum));
 880         return (NULL);
 881     }
 882
 883     gccb = gdt_get_ccb(gdt);
 884     if (gccb == NULL) {
 885         GDT_DPRINTF(GDT_D_DEBUG, ("iir%d: No free command index found\n",
 886                                   gdt->sc_hanum));
 887         return (gccb);
 888     }
 889     bzero(gccb->gc_cmd, GDT_CMD_SZ);
 890     sim = (struct cam_sim *)ccb->ccb_h.ccb_sim_ptr;
 891     gccb->gc_ccb = ccb;
 892     gccb->gc_service = GDT_CACHESERVICE;
 893     gccb->gc_flags = GDT_GCF_SCSI;
 894
 895     if (gdt->sc_cmd_cnt == 0)
 896         gdt->sc_set_sema0(gdt);
 897     splx(*lock);
 898     gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
 899               gccb->gc_cmd_index);
 900     cmdp = ccb->csio.cdb_io.cdb_bytes;
 901     opcode = (*cmdp == WRITE_6 || *cmdp == WRITE_10) ? GDT_WRITE : GDT_READ;
 902     if ((gdt->sc_state & GDT_SHUTDOWN) && opcode == GDT_WRITE)
 903         opcode = GDT_WRITE_THR;
 904     gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, opcode);
 905
 906     gdt_enc16(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_DEVICENO,
 907               ccb->ccb_h.target_id);
 908     if (ccb->csio.cdb_len == 6) {
 909         struct scsi_rw_6 *rw = (struct scsi_rw_6 *)cmdp;
 910         blockno = scsi_3btoul(rw->addr) & ((SRW_TOPADDR<<16) | 0xffff);
 911         blockcnt = rw->length ? rw->length : 0x100;
 912     } else {
 913         struct scsi_rw_10 *rw = (struct scsi_rw_10 *)cmdp;
 914         blockno = scsi_4btoul(rw->addr);
 915         blockcnt = scsi_2btoul(rw->length);
 916     }
 917     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKNO,
 918               blockno);
 919     gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKCNT,
 920               blockcnt);
 921
 922     error = bus_dmamap_load_ccb(gdt->sc_buffer_dmat,
 923                                 gccb->gc_dmamap,
 924                                 ccb,
 925                                 gdtexecuteccb,
 926                                 gccb, /*flags*/0);
 927     if (error == EINPROGRESS) {
 928         xpt_freeze_simq(sim, 1);
 929         gccb->gc_ccb->ccb_h.status |= CAM_RELEASE_SIMQ;
 930     }
 931     *lock = splcam();
 932     return (gccb);
 933 }
 934
 935 static struct gdt_ccb *
 936 gdt_ioctl_cmd(struct gdt_softc *gdt, gdt_ucmd_t *ucmd, int *lock)
 937 {
 938     struct gdt_ccb *gccb;
 939     u_int32_t cnt;
 940
 941     GDT_DPRINTF(GDT_D_DEBUG, ("gdt_ioctl_cmd(%p, %p)\n", gdt, ucmd));
 942
 943     gccb = gdt_get_ccb(gdt);
 944     if (gccb == NULL) {
 945         GDT_DPRINTF(GDT_D_DEBUG, ("iir%d: No free command index found\n",
 946                                   gdt->sc_hanum));
 947         return (gccb);
 948     }
 949     bzero(gccb->gc_cmd, GDT_CMD_SZ);
 950     gccb->gc_ucmd = ucmd;
 951     gccb->gc_service = ucmd->service;
 952     gccb->gc_flags = GDT_GCF_IOCTL;
 953
 954     /* check DPMEM space, copy data buffer from user space */
 955     if (ucmd->service == GDT_CACHESERVICE) {
 956         if (ucmd->OpCode == GDT_IOCTL) {
 957             gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_IOCTL_SZ,
 958                                       sizeof(u_int32_t));
 959             cnt = ucmd->u.ioctl.param_size;
 960             if (cnt > GDT_SCRATCH_SZ) {
 961                 printf("iir%d: Scratch buffer too small (%d/%d)\n",
 962                        gdt->sc_hanum, GDT_SCRATCH_SZ, cnt);
 963                 gdt_free_ccb(gdt, gccb);
 964                 return (NULL);
 965             }
 966         } else {
 967             gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_CACHE_SG_LST +
 968                                       GDT_SG_SZ, sizeof(u_int32_t));
 969             cnt = ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE;
 970             if (cnt > GDT_SCRATCH_SZ) {
 971                 printf("iir%d: Scratch buffer too small (%d/%d)\n",
 972                        gdt->sc_hanum, GDT_SCRATCH_SZ, cnt);
 973                 gdt_free_ccb(gdt, gccb);
 974                 return (NULL);
 975             }
 976         }
 977     } else {
 978         gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_RAW_SG_LST +
 979                                   GDT_SG_SZ, sizeof(u_int32_t));
 980         cnt = ucmd->u.raw.sdlen;
 981         if (cnt + ucmd->u.raw.sense_len > GDT_SCRATCH_SZ) {
 982             printf("iir%d: Scratch buffer too small (%d/%d)\n",
 983                    gdt->sc_hanum, GDT_SCRATCH_SZ, cnt + ucmd->u.raw.sense_len);
 984             gdt_free_ccb(gdt, gccb);
 985             return (NULL);
 986         }
 987     }
 988     if (cnt != 0)
 989         bcopy(ucmd->data, gccb->gc_scratch, cnt);
 990
 991     if (gdt->sc_cmd_off + gccb->gc_cmd_len + GDT_DPMEM_COMMAND_OFFSET >
 992         gdt->sc_ic_all_size) {
 993         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: gdt_ioctl_cmd(): DPMEM overflow\n",
 994                                     gdt->sc_hanum));
 995         gdt_free_ccb(gdt, gccb);
 996         return (NULL);
 997     }
 998
 999     if (gdt->sc_cmd_cnt == 0)
1000         gdt->sc_set_sema0(gdt);
1001     splx(*lock);
1002
1003     /* fill cmd structure */
1004     gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
1005               gccb->gc_cmd_index);
1006     gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE,
1007               ucmd->OpCode);
1008
1009     if (ucmd->service == GDT_CACHESERVICE) {
1010         if (ucmd->OpCode == GDT_IOCTL) {
1011             /* IOCTL */
1012             gdt_enc16(gccb->gc_cmd + GDT_CMD_UNION + GDT_IOCTL_PARAM_SIZE,
1013                       ucmd->u.ioctl.param_size);
1014             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_IOCTL_SUBFUNC,
1015                       ucmd->u.ioctl.subfunc);
1016             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_IOCTL_CHANNEL,
1017                       ucmd->u.ioctl.channel);
1018             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_IOCTL_P_PARAM,
1019                       gccb->gc_scratch_busbase);
1020         } else {
1021             /* cache service command */
1022             gdt_enc16(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_DEVICENO,
1023                       ucmd->u.cache.DeviceNo);
1024             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKNO,
1025                       ucmd->u.cache.BlockNo);
1026             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_BLOCKCNT,
1027                       ucmd->u.cache.BlockCnt);
1028             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_DESTADDR,
1029                       0xffffffffUL);
1030             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_CANZ,
1031                       1);
1032             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1033                       GDT_SG_PTR, gccb->gc_scratch_busbase);
1034             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1035                       GDT_SG_LEN, ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE);
1036         }
1037     } else {
1038         /* raw service command */
1039         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_DIRECTION,
1040                   ucmd->u.raw.direction);
1041         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SDATA,
1042                   0xffffffffUL);
1043         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SDLEN,
1044                   ucmd->u.raw.sdlen);
1045         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_CLEN,
1046                   ucmd->u.raw.clen);
1047         bcopy(ucmd->u.raw.cmd, gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_CMD,
1048               12);
1049         gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_TARGET] =
1050             ucmd->u.raw.target;
1051         gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_LUN] =
1052             ucmd->u.raw.lun;
1053         gccb->gc_cmd[GDT_CMD_UNION + GDT_RAW_BUS] =
1054             ucmd->u.raw.bus;
1055         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_LEN,
1056                   ucmd->u.raw.sense_len);
1057         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SENSE_DATA,
1058                   gccb->gc_scratch_busbase + ucmd->u.raw.sdlen);
1059         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_RANZ,
1060                   1);
1061         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1062                   GDT_SG_PTR, gccb->gc_scratch_busbase);
1063         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1064                   GDT_SG_LEN, ucmd->u.raw.sdlen);
1065     }
1066
1067     *lock = splcam();
1068     gdt_stat.sg_count_act = 1;
1069     gdt->sc_copy_cmd(gdt, gccb);
1070     return (gccb);
1071 }
1072
1073 static void
1074 gdt_internal_cache_cmd(struct gdt_softc *gdt,union ccb *ccb)
1075 {
1076     int t;
1077
1078     t = ccb->ccb_h.target_id;
1079     GDT_DPRINTF(GDT_D_CMD, ("gdt_internal_cache_cmd(%p, %p, 0x%x, %d)\n",
1080         gdt, ccb, ccb->csio.cdb_io.cdb_bytes[0], t));
1081
1082     switch (ccb->csio.cdb_io.cdb_bytes[0]) {
1083       case TEST_UNIT_READY:
1084       case START_STOP:
1085         break;
1086       case REQUEST_SENSE:
1087         GDT_DPRINTF(GDT_D_MISC, ("REQUEST_SENSE\n"));
1088         break;
1089       case INQUIRY:
1090         {
1091             struct scsi_inquiry_data inq;
1092             size_t copylen = MIN(sizeof(inq), ccb->csio.dxfer_len);
1093
1094             bzero(&inq, sizeof(inq));
1095             inq.device = (gdt->sc_hdr[t].hd_devtype & 4) ?
1096                 T_CDROM : T_DIRECT;
1097             inq.dev_qual2 = (gdt->sc_hdr[t].hd_devtype & 1) ? 0x80 : 0;
1098             inq.version = SCSI_REV_2;
1099             inq.response_format = 2;
1100             inq.additional_length = 32;
1101             inq.flags = SID_CmdQue | SID_Sync;
1102             strncpy(inq.vendor, gdt->oem_name, sizeof(inq.vendor));
1103             snprintf(inq.product, sizeof(inq.product),
1104                      "Host Drive   #%02d", t);
1105             strncpy(inq.revision, "   ", sizeof(inq.revision));
1106             bcopy(&inq, ccb->csio.data_ptr, copylen );
1107             if( ccb->csio.dxfer_len > copylen )
1108                 bzero( ccb->csio.data_ptr+copylen,
1109                        ccb->csio.dxfer_len - copylen );
1110             break;
1111         }
1112       case MODE_SENSE_6:
1113         {
1114             struct mpd_data {
1115                 struct scsi_mode_hdr_6 hd;
1116                 struct scsi_mode_block_descr bd;
1117                 struct scsi_control_page cp;
1118             } mpd;
1119             size_t copylen = MIN(sizeof(mpd), ccb->csio.dxfer_len);
1120             u_int8_t page;
1121
1122             /*mpd = (struct mpd_data *)ccb->csio.data_ptr;*/
1123             bzero(&mpd, sizeof(mpd));
1124             mpd.hd.datalen = sizeof(struct scsi_mode_hdr_6) +
1125                 sizeof(struct scsi_mode_block_descr);
1126             mpd.hd.dev_specific = (gdt->sc_hdr[t].hd_devtype & 2) ? 0x80 : 0;
1127             mpd.hd.block_descr_len = sizeof(struct scsi_mode_block_descr);
1128             mpd.bd.block_len[0] = (GDT_SECTOR_SIZE & 0x00ff0000) >> 16;
1129             mpd.bd.block_len[1] = (GDT_SECTOR_SIZE & 0x0000ff00) >> 8;
1130             mpd.bd.block_len[2] = (GDT_SECTOR_SIZE & 0x000000ff);
1131
1132             bcopy(&mpd, ccb->csio.data_ptr, copylen );
1133             if( ccb->csio.dxfer_len > copylen )
1134                 bzero( ccb->csio.data_ptr+copylen,
1135                        ccb->csio.dxfer_len - copylen );
1136             page=((struct scsi_mode_sense_6 *)ccb->csio.cdb_io.cdb_bytes)->page;
1137             switch (page) {
1138               default:
1139                 GDT_DPRINTF(GDT_D_MISC, ("MODE_SENSE_6: page 0x%x\n", page));
1140                 break;
1141             }
1142             break;
1143         }
1144       case READ_CAPACITY:
1145         {
1146             struct scsi_read_capacity_data rcd;
1147             size_t copylen = MIN(sizeof(rcd), ccb->csio.dxfer_len);
1148
1149             /*rcd = (struct scsi_read_capacity_data *)ccb->csio.data_ptr;*/
1150             bzero(&rcd, sizeof(rcd));
1151             scsi_ulto4b(gdt->sc_hdr[t].hd_size - 1, rcd.addr);
1152             scsi_ulto4b(GDT_SECTOR_SIZE, rcd.length);
1153             bcopy(&rcd, ccb->csio.data_ptr, copylen );
1154             if( ccb->csio.dxfer_len > copylen )
1155                 bzero( ccb->csio.data_ptr+copylen,
1156                        ccb->csio.dxfer_len - copylen );
1157             break;
1158         }
1159       default:
1160         GDT_DPRINTF(GDT_D_MISC, ("gdt_internal_cache_cmd(%d) unknown\n",
1161                                     ccb->csio.cdb_io.cdb_bytes[0]));
1162         break;
1163     }
1164     ccb->ccb_h.status |= CAM_REQ_CMP;
1165     --gdt_stat.io_count_act;
1166     xpt_done(ccb);
1167 }
1168
1169 static void
1170 gdtmapmem(void *arg, bus_dma_segment_t *dm_segs, int nseg, int error)
1171 {
1172     bus_addr_t *busaddrp;
1173
1174     busaddrp = (bus_addr_t *)arg;
1175     *busaddrp = dm_segs->ds_addr;
1176 }
1177
1178 static void
1179 gdtexecuteccb(void *arg, bus_dma_segment_t *dm_segs, int nseg, int error)
1180 {
1181     struct gdt_ccb *gccb;
1182     union ccb *ccb;
1183     struct gdt_softc *gdt;
1184     int i, lock;
1185
1186     lock = splcam();
1187
1188     gccb = (struct gdt_ccb *)arg;
1189     ccb = gccb->gc_ccb;
1190     gdt = cam_sim_softc((struct cam_sim *)ccb->ccb_h.ccb_sim_ptr);
1191
1192     GDT_DPRINTF(GDT_D_CMD, ("gdtexecuteccb(%p, %p, %p, %d, %d)\n",
1193                             gdt, gccb, dm_segs, nseg, error));
1194     gdt_stat.sg_count_act = nseg;
1195     if (nseg > gdt_stat.sg_count_max)
1196         gdt_stat.sg_count_max = nseg;
1197
1198     /* Copy the segments into our SG list */
1199     if (gccb->gc_service == GDT_CACHESERVICE) {
1200         for (i = 0; i < nseg; ++i) {
1201             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1202                       i * GDT_SG_SZ + GDT_SG_PTR, dm_segs->ds_addr);
1203             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_LST +
1204                       i * GDT_SG_SZ + GDT_SG_LEN, dm_segs->ds_len);
1205             dm_segs++;
1206         }
1207         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_SG_CANZ,
1208                   nseg);
1209         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_CACHE_DESTADDR,
1210                   0xffffffffUL);
1211
1212         gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_CACHE_SG_LST +
1213                                   nseg * GDT_SG_SZ, sizeof(u_int32_t));
1214     } else {
1215         for (i = 0; i < nseg; ++i) {
1216             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1217                       i * GDT_SG_SZ + GDT_SG_PTR, dm_segs->ds_addr);
1218             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_LST +
1219                       i * GDT_SG_SZ + GDT_SG_LEN, dm_segs->ds_len);
1220             dm_segs++;
1221         }
1222         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SG_RANZ,
1223                   nseg);
1224         gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_RAW_SDATA,
1225                   0xffffffffUL);
1226
1227         gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_RAW_SG_LST +
1228                                   nseg * GDT_SG_SZ, sizeof(u_int32_t));
1229     }
1230
1231     if (nseg != 0) {
1232         bus_dmamap_sync(gdt->sc_buffer_dmat, gccb->gc_dmamap,
1233             (ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN ?
1234             BUS_DMASYNC_PREREAD : BUS_DMASYNC_PREWRITE);
1235     }
1236
1237     /* We must NOT abort the command here if CAM_REQ_INPROG is not set,
1238      * because command semaphore is already set!
1239      */
1240
1241     ccb->ccb_h.status |= CAM_SIM_QUEUED;
1242     /* timeout handling */
1243     gccb->gc_timeout_ch =
1244         timeout(iir_timeout, (caddr_t)gccb,
1245                 (ccb->ccb_h.timeout * hz) / 1000);
1246
1247     gdt->sc_copy_cmd(gdt, gccb);
1248     splx(lock);
1249 }
1250
1251
1252 static void
1253 iir_action( struct cam_sim *sim, union ccb *ccb )
1254 {
1255     struct gdt_softc *gdt;
1256     int lock, bus, target, lun;
1257
1258     gdt = (struct gdt_softc *)cam_sim_softc( sim );
1259     ccb->ccb_h.ccb_sim_ptr = sim;
1260     bus = cam_sim_bus(sim);
1261     target = ccb->ccb_h.target_id;
1262     lun = ccb->ccb_h.target_lun;
1263     GDT_DPRINTF(GDT_D_CMD,
1264                 ("iir_action(%p) func 0x%x cmd 0x%x bus %d target %d lun %d\n",
1265                  gdt, ccb->ccb_h.func_code, ccb->csio.cdb_io.cdb_bytes[0],
1266                  bus, target, lun));
1267     ++gdt_stat.io_count_act;
1268     if (gdt_stat.io_count_act > gdt_stat.io_count_max)
1269         gdt_stat.io_count_max = gdt_stat.io_count_act;
1270
1271     switch (ccb->ccb_h.func_code) {
1272       case XPT_SCSI_IO:
1273         lock = splcam();
1274         TAILQ_INSERT_TAIL(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
1275         ++gdt_stat.req_queue_act;
1276         if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
1277             gdt_stat.req_queue_max = gdt_stat.req_queue_act;
1278         splx(lock);
1279         gdt_next(gdt);
1280         break;
1281       case XPT_RESET_DEV:   /* Bus Device Reset the specified SCSI device */
1282       case XPT_ABORT:                       /* Abort the specified CCB */
1283         /* XXX Implement */
1284         ccb->ccb_h.status = CAM_REQ_INVALID;
1285         --gdt_stat.io_count_act;
1286         xpt_done(ccb);
1287         break;
1288       case XPT_SET_TRAN_SETTINGS:
1289         ccb->ccb_h.status = CAM_FUNC_NOTAVAIL;
1290         --gdt_stat.io_count_act;
1291         xpt_done(ccb);
1292         break;
1293       case XPT_GET_TRAN_SETTINGS:
1294         /* Get default/user set transfer settings for the target */
1295           {
1296               struct        ccb_trans_settings *cts = &ccb->cts;
1297               struct ccb_trans_settings_scsi *scsi = &cts->proto_specific.scsi;
1298               struct ccb_trans_settings_spi *spi = &cts->xport_specific.spi;
1299
1300               cts->protocol = PROTO_SCSI;
1301               cts->protocol_version = SCSI_REV_2;
1302               cts->transport = XPORT_SPI;
1303               cts->transport_version = 2;
1304
1305               if (cts->type == CTS_TYPE_USER_SETTINGS) {
1306                   spi->flags = CTS_SPI_FLAGS_DISC_ENB;
1307                   scsi->flags = CTS_SCSI_FLAGS_TAG_ENB;
1308                   spi->bus_width = MSG_EXT_WDTR_BUS_16_BIT;
1309                   spi->sync_period = 25; /* 10MHz */
1310                   if (spi->sync_period != 0)
1311                       spi->sync_offset = 15;
1312
1313                   spi->valid = CTS_SPI_VALID_SYNC_RATE
1314                       | CTS_SPI_VALID_SYNC_OFFSET
1315                       | CTS_SPI_VALID_BUS_WIDTH
1316                       | CTS_SPI_VALID_DISC;
1317                   scsi->valid = CTS_SCSI_VALID_TQ;
1318                   ccb->ccb_h.status = CAM_REQ_CMP;
1319               } else {
1320                   ccb->ccb_h.status = CAM_FUNC_NOTAVAIL;
1321               }
1322               --gdt_stat.io_count_act;
1323               xpt_done(ccb);
1324               break;
1325           }
1326       case XPT_CALC_GEOMETRY:
1327           {
1328               struct ccb_calc_geometry *ccg;
1329               u_int32_t secs_per_cylinder;
1330
1331               ccg = &ccb->ccg;
1332               ccg->heads = gdt->sc_hdr[target].hd_heads;
1333               ccg->secs_per_track = gdt->sc_hdr[target].hd_secs;
1334               secs_per_cylinder = ccg->heads * ccg->secs_per_track;
1335               ccg->cylinders = ccg->volume_size / secs_per_cylinder;
1336               ccb->ccb_h.status = CAM_REQ_CMP;
1337               --gdt_stat.io_count_act;
1338               xpt_done(ccb);
1339               break;
1340           }
1341       case XPT_RESET_BUS:           /* Reset the specified SCSI bus */
1342           {
1343               /* XXX Implement */
1344               ccb->ccb_h.status = CAM_REQ_CMP;
1345               --gdt_stat.io_count_act;
1346               xpt_done(ccb);
1347               break;
1348           }
1349       case XPT_TERM_IO:             /* Terminate the I/O process */
1350         /* XXX Implement */
1351         ccb->ccb_h.status = CAM_REQ_INVALID;
1352         --gdt_stat.io_count_act;
1353         xpt_done(ccb);
1354         break;
1355       case XPT_PATH_INQ:            /* Path routing inquiry */
1356           {
1357               struct ccb_pathinq *cpi = &ccb->cpi;
1358
1359               cpi->version_num = 1;
1360               cpi->hba_inquiry = PI_SDTR_ABLE|PI_TAG_ABLE;
1361               cpi->hba_inquiry |= PI_WIDE_16;
1362               cpi->target_sprt = 1;
1363               cpi->hba_misc = 0;
1364               cpi->hba_eng_cnt = 0;
1365               if (bus == gdt->sc_virt_bus)
1366                   cpi->max_target = GDT_MAX_HDRIVES - 1;
1367               else if (gdt->sc_class & GDT_FC)
1368                   cpi->max_target = GDT_MAXID_FC - 1;
1369               else
1370                   cpi->max_target = GDT_MAXID - 1;
1371               cpi->max_lun = 7;
1372               cpi->unit_number = cam_sim_unit(sim);
1373               cpi->bus_id = bus;
1374               cpi->initiator_id =
1375                   (bus == gdt->sc_virt_bus ? 127 : gdt->sc_bus_id[bus]);
1376               cpi->base_transfer_speed = 3300;
1377               strncpy(cpi->sim_vid, "FreeBSD", SIM_IDLEN);
1378               if (gdt->sc_vendor == INTEL_VENDOR_ID_IIR)
1379                   strncpy(cpi->hba_vid, "Intel Corp.", HBA_IDLEN);
1380               else
1381                   strncpy(cpi->hba_vid, "ICP vortex ", HBA_IDLEN);
1382               strncpy(cpi->dev_name, cam_sim_name(sim), DEV_IDLEN);
1383               cpi->transport = XPORT_SPI;
1384               cpi->transport_version = 2;
1385               cpi->protocol = PROTO_SCSI;
1386               cpi->protocol_version = SCSI_REV_2;
1387               cpi->ccb_h.status = CAM_REQ_CMP;
1388               --gdt_stat.io_count_act;
1389               xpt_done(ccb);
1390               break;
1391           }
1392       default:
1393         GDT_DPRINTF(GDT_D_INVALID, ("gdt_next(%p) cmd 0x%x invalid\n",
1394                                     gdt, ccb->ccb_h.func_code));
1395         ccb->ccb_h.status = CAM_REQ_INVALID;
1396         --gdt_stat.io_count_act;
1397         xpt_done(ccb);
1398         break;
1399     }
1400 }
1401
1402 static void
1403 iir_poll( struct cam_sim *sim )
1404 {
1405     struct gdt_softc *gdt;
1406
1407     gdt = (struct gdt_softc *)cam_sim_softc( sim );
1408     GDT_DPRINTF(GDT_D_CMD, ("iir_poll sim %p gdt %p\n", sim, gdt));
1409     iir_intr(gdt);
1410 }
1411
1412 static void
1413 iir_timeout(void *arg)
1414 {
1415     GDT_DPRINTF(GDT_D_TIMEOUT, ("iir_timeout(%p)\n", gccb));
1416 }
1417
1418 static void
1419 iir_shutdown( void *arg, int howto )
1420 {
1421     struct gdt_softc *gdt;
1422     struct gdt_ccb *gccb;
1423     gdt_ucmd_t *ucmd;
1424     int lock, i;
1425
1426     gdt = (struct gdt_softc *)arg;
1427     GDT_DPRINTF(GDT_D_CMD, ("iir_shutdown(%p, %d)\n", gdt, howto));
1428
1429     printf("iir%d: Flushing all Host Drives. Please wait ...  ",
1430            gdt->sc_hanum);
1431
1432     /* allocate ucmd buffer */
1433     ucmd = malloc(sizeof(gdt_ucmd_t), M_GDTBUF, M_NOWAIT);
1434     if (ucmd == NULL) {
1435         printf("iir%d: iir_shutdown(): Cannot allocate resource\n",
1436                gdt->sc_hanum);
1437         return;
1438     }
1439     bzero(ucmd, sizeof(gdt_ucmd_t));
1440
1441     /* wait for pending IOs */
1442     lock = splcam();
1443     gdt->sc_state = GDT_SHUTDOWN;
1444     splx(lock);
1445     if ((gccb = SLIST_FIRST(&gdt->sc_pending_gccb)) != NULL)
1446         (void) tsleep((void *)gccb, PCATCH | PRIBIO, "iirshw", 100 * hz);
1447
1448     /* flush */
1449     for (i = 0; i < GDT_MAX_HDRIVES; ++i) {
1450         if (gdt->sc_hdr[i].hd_present) {
1451             ucmd->service = GDT_CACHESERVICE;
1452             ucmd->OpCode = GDT_FLUSH;
1453             ucmd->u.cache.DeviceNo = i;
1454             lock = splcam();
1455             TAILQ_INSERT_TAIL(&gdt->sc_ucmd_queue, ucmd, links);
1456             ucmd->complete_flag = FALSE;
1457             splx(lock);
1458             gdt_next(gdt);
1459             if (!ucmd->complete_flag)
1460                 (void) tsleep((void *)ucmd, PCATCH|PRIBIO, "iirshw", 10*hz);
1461         }
1462     }
1463
1464     free(ucmd, M_DEVBUF);
1465     printf("Done.\n");
1466 }
1467
1468 void
1469 iir_intr(void *arg)
1470 {
1471     struct gdt_softc *gdt = arg;
1472     struct gdt_intr_ctx ctx;
1473     int lock = 0;
1474     struct gdt_ccb *gccb;
1475     gdt_ucmd_t *ucmd;
1476     u_int32_t cnt;
1477
1478     GDT_DPRINTF(GDT_D_INTR, ("gdt_intr(%p)\n", gdt));
1479
1480     /* If polling and we were not called from gdt_wait, just return */
1481     if ((gdt->sc_state & GDT_POLLING) &&
1482         !(gdt->sc_state & GDT_POLL_WAIT))
1483         return;
1484
1485     if (!(gdt->sc_state & GDT_POLLING))
1486         lock = splcam();
1487     gdt_wait_index = 0;
1488
1489     ctx.istatus = gdt->sc_get_status(gdt);
1490     if (ctx.istatus == 0x00) {
1491         if (!(gdt->sc_state & GDT_POLLING))
1492             splx(lock);
1493         gdt->sc_status = GDT_S_NO_STATUS;
1494         return;
1495     }
1496
1497     gdt->sc_intr(gdt, &ctx);
1498
1499     gdt->sc_status = ctx.cmd_status;
1500     gdt->sc_service = ctx.service;
1501     gdt->sc_info = ctx.info;
1502     gdt->sc_info2 = ctx.info2;
1503
1504     if (gdt->sc_state & GDT_POLL_WAIT) {
1505         gdt_wait_gdt = gdt;
1506         gdt_wait_index = ctx.istatus;
1507     }
1508
1509     if (ctx.istatus == GDT_ASYNCINDEX) {
1510         gdt_async_event(gdt, ctx.service);
1511         if (!(gdt->sc_state & GDT_POLLING))
1512             splx(lock);
1513         return;
1514     }
1515     if (ctx.istatus == GDT_SPEZINDEX) {
1516         GDT_DPRINTF(GDT_D_INVALID,
1517                     ("iir%d: Service unknown or not initialized!\n",
1518                      gdt->sc_hanum));
1519         gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.driver);
1520         gdt->sc_dvr.eu.driver.ionode = gdt->sc_hanum;
1521         gdt_store_event(GDT_ES_DRIVER, 4, &gdt->sc_dvr);
1522         if (!(gdt->sc_state & GDT_POLLING))
1523             splx(lock);
1524         return;
1525     }
1526
1527     gccb = &gdt->sc_gccbs[ctx.istatus - 2];
1528     ctx.service = gccb->gc_service;
1529
1530     switch (gccb->gc_flags) {
1531       case GDT_GCF_UNUSED:
1532         GDT_DPRINTF(GDT_D_INVALID, ("iir%d: Index (%d) to unused command!\n",
1533                     gdt->sc_hanum, ctx.istatus));
1534         gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.driver);
1535         gdt->sc_dvr.eu.driver.ionode = gdt->sc_hanum;
1536         gdt->sc_dvr.eu.driver.index = ctx.istatus;
1537         gdt_store_event(GDT_ES_DRIVER, 1, &gdt->sc_dvr);
1538         gdt_free_ccb(gdt, gccb);
1539         /* fallthrough */
1540
1541       case GDT_GCF_INTERNAL:
1542         if (!(gdt->sc_state & GDT_POLLING))
1543             splx(lock);
1544         break;
1545
1546       case GDT_GCF_IOCTL:
1547         ucmd = gccb->gc_ucmd;
1548         if (gdt->sc_status == GDT_S_BSY) {
1549             GDT_DPRINTF(GDT_D_DEBUG, ("iir_intr(%p) ioctl: gccb %p busy\n",
1550                                       gdt, gccb));
1551             TAILQ_INSERT_HEAD(&gdt->sc_ucmd_queue, ucmd, links);
1552             if (!(gdt->sc_state & GDT_POLLING))
1553                 splx(lock);
1554         } else {
1555             ucmd->status = gdt->sc_status;
1556             ucmd->info = gdt->sc_info;
1557             ucmd->complete_flag = TRUE;
1558             if (ucmd->service == GDT_CACHESERVICE) {
1559                 if (ucmd->OpCode == GDT_IOCTL) {
1560                     cnt = ucmd->u.ioctl.param_size;
1561                     if (cnt != 0)
1562                         bcopy(gccb->gc_scratch, ucmd->data, cnt);
1563                 } else {
1564                     cnt = ucmd->u.cache.BlockCnt * GDT_SECTOR_SIZE;
1565                     if (cnt != 0)
1566                         bcopy(gccb->gc_scratch, ucmd->data, cnt);
1567                 }
1568             } else {
1569                 cnt = ucmd->u.raw.sdlen;
1570                 if (cnt != 0)
1571                     bcopy(gccb->gc_scratch, ucmd->data, cnt);
1572                 if (ucmd->u.raw.sense_len != 0)
1573                     bcopy(gccb->gc_scratch, ucmd->data, cnt);
1574             }
1575             gdt_free_ccb(gdt, gccb);
1576             if (!(gdt->sc_state & GDT_POLLING))
1577                 splx(lock);
1578             /* wakeup */
1579             wakeup(ucmd);
1580         }
1581         gdt_next(gdt);
1582         break;
1583
1584       default:
1585         gdt_free_ccb(gdt, gccb);
1586         gdt_sync_event(gdt, ctx.service, ctx.istatus, gccb);
1587         if (!(gdt->sc_state & GDT_POLLING))
1588             splx(lock);
1589         gdt_next(gdt);
1590         break;
1591     }
1592 }
1593
1594 int
1595 gdt_async_event(struct gdt_softc *gdt, int service)
1596 {
1597     struct gdt_ccb *gccb;
1598
1599     GDT_DPRINTF(GDT_D_INTR, ("gdt_async_event(%p, %d)\n", gdt, service));
1600
1601     if (service == GDT_SCREENSERVICE) {
1602         if (gdt->sc_status == GDT_MSG_REQUEST) {
1603             while (gdt->sc_test_busy(gdt))
1604                 DELAY(1);
1605             gccb = gdt_get_ccb(gdt);
1606             if (gccb == NULL) {
1607                 printf("iir%d: No free command index found\n",
1608                        gdt->sc_hanum);
1609                 return (1);
1610             }
1611             bzero(gccb->gc_cmd, GDT_CMD_SZ);
1612             gccb->gc_service = service;
1613             gccb->gc_flags = GDT_GCF_SCREEN;
1614             gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
1615                       gccb->gc_cmd_index);
1616             gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, GDT_READ);
1617             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1618                       GDT_MSG_INV_HANDLE);
1619             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1620                       gccb->gc_scratch_busbase);
1621             gdt->sc_set_sema0(gdt);
1622             gdt->sc_cmd_off = 0;
1623             gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1624                                       sizeof(u_int32_t));
1625             gdt->sc_cmd_cnt = 0;
1626             gdt->sc_copy_cmd(gdt, gccb);
1627             printf("iir%d: [PCI %d/%d] ",
1628                 gdt->sc_hanum,gdt->sc_bus,gdt->sc_slot);
1629             gdt->sc_release_event(gdt);
1630         }
1631
1632     } else {
1633         if ((gdt->sc_fw_vers & 0xff) >= 0x1a) {
1634             gdt->sc_dvr.size = 0;
1635             gdt->sc_dvr.eu.async.ionode = gdt->sc_hanum;
1636             gdt->sc_dvr.eu.async.status  = gdt->sc_status;
1637             /* severity and event_string already set! */
1638         } else {
1639             gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.async);
1640             gdt->sc_dvr.eu.async.ionode   = gdt->sc_hanum;
1641             gdt->sc_dvr.eu.async.service = service;
1642             gdt->sc_dvr.eu.async.status  = gdt->sc_status;
1643             gdt->sc_dvr.eu.async.info    = gdt->sc_info;
1644             *(u_int32_t *)gdt->sc_dvr.eu.async.scsi_coord  = gdt->sc_info2;
1645         }
1646         gdt_store_event(GDT_ES_ASYNC, service, &gdt->sc_dvr);
1647         printf("iir%d: %s\n", gdt->sc_hanum, gdt->sc_dvr.event_string);
1648     }
1649
1650     return (0);
1651 }
1652
1653 int
1654 gdt_sync_event(struct gdt_softc *gdt, int service,
1655                u_int8_t index, struct gdt_ccb *gccb)
1656 {
1657     union ccb *ccb;
1658
1659     GDT_DPRINTF(GDT_D_INTR,
1660                 ("gdt_sync_event(%p, %d, %d, %p)\n", gdt,service,index,gccb));
1661
1662     ccb = gccb->gc_ccb;
1663
1664     if (service == GDT_SCREENSERVICE) {
1665         u_int32_t msg_len;
1666
1667         msg_len = gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_LEN);
1668         if (msg_len)
1669             if (!(gccb->gc_scratch[GDT_SCR_MSG_ANSWER] &&
1670                   gccb->gc_scratch[GDT_SCR_MSG_EXT])) {
1671                 gccb->gc_scratch[GDT_SCR_MSG_TEXT + msg_len] = '\0';
1672                 printf("%s",&gccb->gc_scratch[GDT_SCR_MSG_TEXT]);
1673             }
1674
1675         if (gccb->gc_scratch[GDT_SCR_MSG_EXT] &&
1676             !gccb->gc_scratch[GDT_SCR_MSG_ANSWER]) {
1677             while (gdt->sc_test_busy(gdt))
1678                 DELAY(1);
1679             bzero(gccb->gc_cmd, GDT_CMD_SZ);
1680             gccb = gdt_get_ccb(gdt);
1681             if (gccb == NULL) {
1682                 printf("iir%d: No free command index found\n",
1683                        gdt->sc_hanum);
1684                 return (1);
1685             }
1686             gccb->gc_service = service;
1687             gccb->gc_flags = GDT_GCF_SCREEN;
1688             gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
1689                       gccb->gc_cmd_index);
1690             gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, GDT_READ);
1691             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1692                       gccb->gc_scratch[GDT_SCR_MSG_HANDLE]);
1693             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1694                       gccb->gc_scratch_busbase);
1695             gdt->sc_set_sema0(gdt);
1696             gdt->sc_cmd_off = 0;
1697             gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1698                                       sizeof(u_int32_t));
1699             gdt->sc_cmd_cnt = 0;
1700             gdt->sc_copy_cmd(gdt, gccb);
1701             gdt->sc_release_event(gdt);
1702             return (0);
1703         }
1704
1705         if (gccb->gc_scratch[GDT_SCR_MSG_ANSWER] &&
1706             gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN)) {
1707             /* default answers (getchar() not possible) */
1708             if (gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN) == 1) {
1709                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_ALEN, 0);
1710                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_LEN, 1);
1711                 gccb->gc_scratch[GDT_SCR_MSG_TEXT] = 0;
1712             } else {
1713                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_ALEN,
1714                           gdt_dec32(gccb->gc_scratch + GDT_SCR_MSG_ALEN) - 2);
1715                 gdt_enc32(gccb->gc_scratch + GDT_SCR_MSG_LEN, 2);
1716                 gccb->gc_scratch[GDT_SCR_MSG_TEXT] = 1;
1717                 gccb->gc_scratch[GDT_SCR_MSG_TEXT + 1] = 0;
1718             }
1719             gccb->gc_scratch[GDT_SCR_MSG_EXT] = 0;
1720             gccb->gc_scratch[GDT_SCR_MSG_ANSWER] = 0;
1721             while (gdt->sc_test_busy(gdt))
1722                 DELAY(1);
1723             bzero(gccb->gc_cmd, GDT_CMD_SZ);
1724             gccb = gdt_get_ccb(gdt);
1725             if (gccb == NULL) {
1726                 printf("iir%d: No free command index found\n",
1727                        gdt->sc_hanum);
1728                 return (1);
1729             }
1730             gccb->gc_service = service;
1731             gccb->gc_flags = GDT_GCF_SCREEN;
1732             gdt_enc32(gccb->gc_cmd + GDT_CMD_COMMANDINDEX,
1733                       gccb->gc_cmd_index);
1734             gdt_enc16(gccb->gc_cmd + GDT_CMD_OPCODE, GDT_WRITE);
1735             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_HANDLE,
1736                       gccb->gc_scratch[GDT_SCR_MSG_HANDLE]);
1737             gdt_enc32(gccb->gc_cmd + GDT_CMD_UNION + GDT_SCREEN_MSG_ADDR,
1738                       gccb->gc_scratch_busbase);
1739             gdt->sc_set_sema0(gdt);
1740             gdt->sc_cmd_off = 0;
1741             gccb->gc_cmd_len = roundup(GDT_CMD_UNION + GDT_SCREEN_SZ,
1742                                       sizeof(u_int32_t));
1743             gdt->sc_cmd_cnt = 0;
1744             gdt->sc_copy_cmd(gdt, gccb);
1745             gdt->sc_release_event(gdt);
1746             return (0);
1747         }
1748         printf("\n");
1749         return (0);
1750     } else {
1751         untimeout(iir_timeout, gccb, gccb->gc_timeout_ch);
1752         if (gdt->sc_status == GDT_S_BSY) {
1753             GDT_DPRINTF(GDT_D_DEBUG, ("gdt_sync_event(%p) gccb %p busy\n",
1754                                       gdt, gccb));
1755             TAILQ_INSERT_HEAD(&gdt->sc_ccb_queue, &ccb->ccb_h, sim_links.tqe);
1756             ++gdt_stat.req_queue_act;
1757             if (gdt_stat.req_queue_act > gdt_stat.req_queue_max)
1758                 gdt_stat.req_queue_max = gdt_stat.req_queue_act;
1759             return (2);
1760         }
1761
1762         bus_dmamap_sync(gdt->sc_buffer_dmat, gccb->gc_dmamap,
1763             (ccb->ccb_h.flags & CAM_DIR_MASK) == CAM_DIR_IN ?
1764             BUS_DMASYNC_POSTREAD : BUS_DMASYNC_POSTWRITE);
1765         bus_dmamap_unload(gdt->sc_buffer_dmat, gccb->gc_dmamap);
1766
1767         ccb->csio.resid = 0;
1768         if (gdt->sc_status == GDT_S_OK) {
1769             ccb->ccb_h.status |= CAM_REQ_CMP;
1770             ccb->ccb_h.status &= ~CAM_SIM_QUEUED;
1771         } else {
1772             /* error */
1773             if (gccb->gc_service == GDT_CACHESERVICE) {
1774                 struct scsi_sense_data *sense;
1775
1776                 ccb->ccb_h.status |= CAM_SCSI_STATUS_ERROR | CAM_AUTOSNS_VALID;
1777                 ccb->ccb_h.status &= ~CAM_SIM_QUEUED;
1778                 ccb->csio.scsi_status = SCSI_STATUS_CHECK_COND;
1779                 bzero(&ccb->csio.sense_data, ccb->csio.sense_len);
1780                 sense = &ccb->csio.sense_data;
1781                 scsi_set_sense_data(sense,
1782                                     /*sense_format*/ SSD_TYPE_NONE,
1783                                     /*current_error*/ 1,
1784                                     /*sense_key*/ SSD_KEY_NOT_READY,
1785                                     /*asc*/ 0x4,
1786                                     /*ascq*/ 0x01,
1787                                     SSD_ELEM_NONE);
1788
1789                 gdt->sc_dvr.size = sizeof(gdt->sc_dvr.eu.sync);
1790                 gdt->sc_dvr.eu.sync.ionode  = gdt->sc_hanum;
1791                 gdt->sc_dvr.eu.sync.service = service;
1792                 gdt->sc_dvr.eu.sync.status  = gdt->sc_status;
1793                 gdt->sc_dvr.eu.sync.info    = gdt->sc_info;
1794                 gdt->sc_dvr.eu.sync.hostdrive = ccb->ccb_h.target_id;
1795                 if (gdt->sc_status >= 0x8000)
1796                     gdt_store_event(GDT_ES_SYNC, 0, &gdt->sc_dvr);
1797                 else
1798                     gdt_store_event(GDT_ES_SYNC, service, &gdt->sc_dvr);
1799             } else {
1800                 /* raw service */
1801                 if (gdt->sc_status != GDT_S_RAW_SCSI || gdt->sc_info >= 0x100) {
1802                     ccb->ccb_h.status = CAM_DEV_NOT_THERE;
1803                 } else {
1804                     ccb->ccb_h.status |= CAM_SCSI_STATUS_ERROR|CAM_AUTOSNS_VALID;
1805                     ccb->ccb_h.status &= ~CAM_SIM_QUEUED;
1806                     ccb->csio.scsi_status = gdt->sc_info;
1807                     bcopy(gccb->gc_scratch, &ccb->csio.sense_data,
1808                           ccb->csio.sense_len);
1809                 }
1810             }
1811         }
1812         --gdt_stat.io_count_act;
1813         xpt_done(ccb);
1814     }
1815     return (0);
1816 }
1817
1818 /* Controller event handling functions */
1819 gdt_evt_str *gdt_store_event(u_int16_t source, u_int16_t idx,
1820                              gdt_evt_data *evt)
1821 {
1822     gdt_evt_str *e;
1823     struct timeval tv;
1824
1825     GDT_DPRINTF(GDT_D_MISC, ("gdt_store_event(%d, %d)\n", source, idx));
1826     if (source == 0)                        /* no source -> no event */
1827         return 0;
1828
1829     if (ebuffer[elastidx].event_source == source &&
1830         ebuffer[elastidx].event_idx == idx &&
1831         ((evt->size != 0 && ebuffer[elastidx].event_data.size != 0 &&
1832           !memcmp((char *)&ebuffer[elastidx].event_data.eu,
1833                   (char *)&evt->eu, evt->size)) ||
1834          (evt->size == 0 && ebuffer[elastidx].event_data.size == 0 &&
1835           !strcmp((char *)&ebuffer[elastidx].event_data.event_string,
1836                   (char *)&evt->event_string)))) {
1837         e = &ebuffer[elastidx];
1838         getmicrotime(&tv);
1839         e->last_stamp = tv.tv_sec;
1840         ++e->same_count;
1841     } else {
1842         if (ebuffer[elastidx].event_source != 0) {  /* entry not free ? */
1843             ++elastidx;
1844             if (elastidx == GDT_MAX_EVENTS)
1845                 elastidx = 0;
1846             if (elastidx == eoldidx) {              /* reached mark ? */
1847                 ++eoldidx;
1848                 if (eoldidx == GDT_MAX_EVENTS)
1849                     eoldidx = 0;
1850             }
1851         }
1852         e = &ebuffer[elastidx];
1853         e->event_source = source;
1854         e->event_idx = idx;
1855         getmicrotime(&tv);
1856         e->first_stamp = e->last_stamp = tv.tv_sec;
1857         e->same_count = 1;
1858         e->event_data = *evt;
1859         e->application = 0;
1860     }
1861     return e;
1862 }
1863
1864 int gdt_read_event(int handle, gdt_evt_str *estr)
1865 {
1866     gdt_evt_str *e;
1867     int eindex, lock;
1868
1869     GDT_DPRINTF(GDT_D_MISC, ("gdt_read_event(%d)\n", handle));
1870     lock = splcam();
1871     if (handle == -1)
1872         eindex = eoldidx;
1873     else
1874         eindex = handle;
1875     estr->event_source = 0;
1876
1877     if (eindex >= GDT_MAX_EVENTS) {
1878         splx(lock);
1879         return eindex;
1880     }
1881     e = &ebuffer[eindex];
1882     if (e->event_source != 0) {
1883         if (eindex != elastidx) {
1884             if (++eindex == GDT_MAX_EVENTS)
1885                 eindex = 0;
1886         } else {
1887             eindex = -1;
1888         }
1889         memcpy(estr, e, sizeof(gdt_evt_str));
1890     }
1891     splx(lock);
1892     return eindex;
1893 }
1894
1895 void gdt_readapp_event(u_int8_t application, gdt_evt_str *estr)
1896 {
1897     gdt_evt_str *e;
1898     int found = FALSE;
1899     int eindex, lock;
1900
1901     GDT_DPRINTF(GDT_D_MISC, ("gdt_readapp_event(%d)\n", application));
1902     lock = splcam();
1903     eindex = eoldidx;
1904     for (;;) {
1905         e = &ebuffer[eindex];
1906         if (e->event_source == 0)
1907             break;
1908         if ((e->application & application) == 0) {
1909             e->application |= application;
1910             found = TRUE;
1911             break;
1912         }
1913         if (eindex == elastidx)
1914             break;
1915         if (++eindex == GDT_MAX_EVENTS)
1916             eindex = 0;
1917     }
1918     if (found)
1919         memcpy(estr, e, sizeof(gdt_evt_str));
1920     else
1921         estr->event_source = 0;
1922     splx(lock);
1923 }
1924
1925 void gdt_clear_events()
1926 {
1927     GDT_DPRINTF(GDT_D_MISC, ("gdt_clear_events\n"));
1928
1929     eoldidx = elastidx = 0;
1930     ebuffer[0].event_source = 0;
1931 }