sys/dev/isp/isp_target.c

   1 /*-
   2  * SPDX-License-Identifier: BSD-2-Clause-FreeBSD
   3  *
   4  *  Copyright (c) 2009-2020 Alexander Motin <mav@FreeBSD.org>
   5  *  Copyright (c) 1997-2009 by Matthew Jacob
   6  *  All rights reserved.
   7  *
   8  *  Redistribution and use in source and binary forms, with or without
   9  *  modification, are permitted provided that the following conditions
  10  *  are met:
  11  *
  12  *  1. Redistributions of source code must retain the above copyright
  13  *     notice, this list of conditions and the following disclaimer.
  14  *  2. Redistributions in binary form must reproduce the above copyright
  15  *     notice, this list of conditions and the following disclaimer in the
  16  *     documentation and/or other materials provided with the distribution.
  17  *
  18  *  THIS SOFTWARE IS PROVIDED BY AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  19  *  ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  20  *  IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  21  *  ARE DISCLAIMED.  IN NO EVENT SHALL AUTHOR OR CONTRIBUTORS BE LIABLE
  22  *  FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  23  *  DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  24  *  OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  25  *  HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  26  *  LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  27  *  OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  28  *  SUCH DAMAGE.
  29  *
  30  */
  31 /*
  32  * Machine and OS Independent Target Mode Code for the Qlogic FC adapters.
  33  */
  34 /*
  35  * Bug fixes gratefully acknowledged from:
  36  *      Oded Kedem <oded@kashya.com>
  37  */
  38 /*
  39  * Include header file appropriate for platform we're building on.
  40  */
  41
  42 #ifdef  __NetBSD__
  43 #include <dev/ic/isp_netbsd.h>
  44 #endif
  45 #ifdef  __FreeBSD__
  46 #include <sys/cdefs.h>
  47 __FBSDID("$FreeBSD$");
  48 #include <dev/isp/isp_freebsd.h>
  49 #endif
  50 #ifdef  __OpenBSD__
  51 #include <dev/ic/isp_openbsd.h>
  52 #endif
  53 #ifdef  __linux__
  54 #include "isp_linux.h"
  55 #endif
  56
  57 #ifdef  ISP_TARGET_MODE
  58 static const char rqo[] = "%s: Request Queue Overflow";
  59
  60 static void isp_got_tmf_24xx(ispsoftc_t *, at7_entry_t *);
  61 static void isp_handle_abts(ispsoftc_t *, abts_t *);
  62 static void isp_handle_ctio7(ispsoftc_t *, ct7_entry_t *);
  63 static void isp_handle_notify_24xx(ispsoftc_t *, in_fcentry_24xx_t *);
  64
  65 /*
  66  * The Qlogic driver gets an interrupt to look at response queue entries.
  67  * Some of these are status completions for initiatior mode commands, but
  68  * if target mode is enabled, we get a whole wad of response queue entries
  69  * to be handled here.
  70  *
  71  * Basically the split into 3 main groups: Lun Enable/Modification responses,
  72  * SCSI Command processing, and Immediate Notification events.
  73  *
  74  * You start by writing a request queue entry to enable target mode (and
  75  * establish some resource limitations which you can modify later).
  76  * The f/w responds with a LUN ENABLE or LUN MODIFY response with
  77  * the status of this action. If the enable was successful, you can expect...
  78  *
  79  * Response queue entries with SCSI commands encapsulate show up in an ATIO
  80  * (Accept Target IO) type- sometimes with enough info to stop the command at
  81  * this level. Ultimately the driver has to feed back to the f/w's request
  82  * queue a sequence of CTIOs (continue target I/O) that describe data to
  83  * be moved and/or status to be sent) and finally finishing with sending
  84  * to the f/w's response queue an ATIO which then completes the handshake
  85  * with the f/w for that command. There's a lot of variations on this theme,
  86  * including flags you can set in the CTIO for the Qlogic 2X00 fibre channel
  87  * cards that 'auto-replenish' the f/w's ATIO count, but this is the basic
  88  * gist of it.
  89  *
  90  * The third group that can show up in the response queue are Immediate
  91  * Notification events. These include things like notifications of SCSI bus
  92  * resets, or Bus Device Reset messages or other messages received. This
  93  * a classic oddbins area. It can get  a little weird because you then turn
  94  * around and acknowledge the Immediate Notify by writing an entry onto the
  95  * request queue and then the f/w turns around and gives you an acknowledgement
  96  * to *your* acknowledgement on the response queue (the idea being to let
  97  * the f/w tell you when the event is *really* over I guess).
  98  *
  99  */
 100
 101
 102 /*
 103  * A new response queue entry has arrived. The interrupt service code
 104  * has already swizzled it into the platform dependent from canonical form.
 105  *
 106  * Because of the way this driver is designed, unfortunately most of the
 107  * actual synchronization work has to be done in the platform specific
 108  * code- we have no synchroniation primitives in the common code.
 109  */
 110
 111 int
 112 isp_target_notify(ispsoftc_t *isp, void *vptr, uint32_t *optrp, uint16_t ql)
 113 {
 114         union {
 115                 at7_entry_t     *at7iop;
 116                 ct7_entry_t     *ct7iop;
 117                 in_fcentry_24xx_t *inot_24xx;
 118                 na_fcentry_24xx_t *nack_24xx;
 119                 isphdr_t        *hp;
 120                 abts_t          *abts;
 121                 abts_rsp_t      *abts_rsp;
 122                 void *          *vp;
 123 #define at7iop          unp.at7iop
 124 #define ct7iop          unp.ct7iop
 125 #define inot_24xx       unp.inot_24xx
 126 #define nack_24xx       unp.nack_24xx
 127 #define abts            unp.abts
 128 #define abts_rsp        unp.abts_rsp
 129 #define hdrp            unp.hp
 130         } unp;
 131         uint8_t local[QENTRY_LEN];
 132         int type, len, level, rval = 1;
 133
 134         type = isp_get_response_type(isp, (isphdr_t *)vptr);
 135         unp.vp = vptr;
 136
 137         ISP_TDQE(isp, "isp_target_notify", (int) *optrp, vptr);
 138
 139         switch (type) {
 140         case RQSTYPE_ATIO:
 141                 isp_get_atio7(isp, at7iop, (at7_entry_t *) local);
 142                 at7iop = (at7_entry_t *) local;
 143                 /*
 144                  * Check for and do something with commands whose
 145                  * IULEN extends past a single queue entry.
 146                  */
 147                 len = at7iop->at_ta_len & 0x0fff;
 148                 if (len > (QENTRY_LEN - 8)) {
 149                         len -= (QENTRY_LEN - 8);
 150                         isp_prt(isp, ISP_LOGINFO, "long IU length (%d) ignored", len);
 151                         while (len > 0) {
 152                                 *optrp = ISP_NXT_QENTRY(*optrp, ql);
 153                                 len -= QENTRY_LEN;
 154                         }
 155                 }
 156                 /*
 157                  * Check for a task management function
 158                  */
 159                 if (at7iop->at_cmnd.fcp_cmnd_task_management) {
 160                         isp_got_tmf_24xx(isp, at7iop);
 161                         break;
 162                 }
 163                 /*
 164                  * Just go straight to outer layer for this one.
 165                  */
 166                 isp_async(isp, ISPASYNC_TARGET_ACTION, local);
 167                 break;
 168
 169         case RQSTYPE_CTIO7:
 170                 isp_get_ctio7(isp, ct7iop, (ct7_entry_t *) local);
 171                 isp_handle_ctio7(isp, (ct7_entry_t *) local);
 172                 break;
 173
 174         case RQSTYPE_NOTIFY:
 175                 isp_get_notify_24xx(isp, inot_24xx, (in_fcentry_24xx_t *)local);
 176                 isp_handle_notify_24xx(isp, (in_fcentry_24xx_t *)local);
 177
 178         case RQSTYPE_NOTIFY_ACK:
 179                 /*
 180                  * The ISP is acknowledging our acknowledgement of an
 181                  * Immediate Notify entry for some asynchronous event.
 182                  */
 183                 isp_get_notify_ack_24xx(isp, nack_24xx, (na_fcentry_24xx_t *) local);
 184                 nack_24xx = (na_fcentry_24xx_t *) local;
 185                 if (nack_24xx->na_status != NA_OK)
 186                         level = ISP_LOGINFO;
 187                 else
 188                         level = ISP_LOGTDEBUG1;
 189                 isp_prt(isp, level, "Notify Ack Status=0x%x; Subcode 0x%x seqid=0x%x", nack_24xx->na_status, nack_24xx->na_status_subcode, nack_24xx->na_rxid);
 190                 break;
 191
 192         case RQSTYPE_ABTS_RCVD:
 193                 isp_get_abts(isp, abts, (abts_t *)local);
 194                 isp_handle_abts(isp, (abts_t *)local);
 195                 break;
 196         case RQSTYPE_ABTS_RSP:
 197                 isp_get_abts_rsp(isp, abts_rsp, (abts_rsp_t *)local);
 198                 abts_rsp = (abts_rsp_t *) local;
 199                 if (abts_rsp->abts_rsp_status)
 200                         level = ISP_LOGINFO;
 201                 else
 202                         level = ISP_LOGTDEBUG0;
 203                 isp_prt(isp, level, "ABTS RSP response[0x%x]: status=0x%x sub=(0x%x 0x%x)", abts_rsp->abts_rsp_rxid_task, abts_rsp->abts_rsp_status,
 204                     abts_rsp->abts_rsp_payload.rsp.subcode1, abts_rsp->abts_rsp_payload.rsp.subcode2);
 205                 break;
 206         default:
 207                 isp_prt(isp, ISP_LOGERR, "%s: unknown entry type 0x%x", __func__, type);
 208                 rval = 0;
 209                 break;
 210         }
 211 #undef  at7iop
 212 #undef  ct7iop
 213 #undef  inot_24xx
 214 #undef  hack_24xx
 215 #undef  abts
 216 #undef  abts_rsp
 217 #undef  hdrp
 218         return (rval);
 219 }
 220
 221 int
 222 isp_target_put_entry(ispsoftc_t *isp, void *ap)
 223 {
 224         void *outp;
 225         uint8_t etype = ((isphdr_t *) ap)->rqs_entry_type;
 226
 227         outp = isp_getrqentry(isp);
 228         if (outp == NULL) {
 229                 isp_prt(isp, ISP_LOGWARN, rqo, __func__);
 230                 return (-1);
 231         }
 232         switch (etype) {
 233         case RQSTYPE_NOTIFY_ACK:
 234                 isp_put_notify_ack_24xx(isp, (na_fcentry_24xx_t *)ap,
 235                     (na_fcentry_24xx_t *)outp);
 236                 break;
 237         case RQSTYPE_CTIO7:
 238                 isp_put_ctio7(isp, (ct7_entry_t *)ap, (ct7_entry_t *)outp);
 239                 break;
 240         case RQSTYPE_ABTS_RSP:
 241                 isp_put_abts_rsp(isp, (abts_rsp_t *)ap, (abts_rsp_t *)outp);
 242                 break;
 243         default:
 244                 isp_prt(isp, ISP_LOGERR, "%s: Unknown type 0x%x", __func__, etype);
 245                 return (-1);
 246         }
 247         ISP_TDQE(isp, __func__, isp->isp_reqidx, ap);
 248         ISP_SYNC_REQUEST(isp);
 249         return (0);
 250 }
 251
 252 /*
 253  * Command completion- both for handling cases of no resources or
 254  * no blackhole driver, or other cases where we have to, inline,
 255  * finish the command sanely, or for normal command completion.
 256  *
 257  * The 'completion' code value has the scsi status byte in the low 8 bits.
 258  * If status is a CHECK CONDITION and bit 8 is nonzero, then bits 12..15 have
 259  * the sense key and  bits 16..23 have the ASCQ and bits 24..31 have the ASC
 260  * values.
 261  *
 262  * NB: the key, asc, ascq, cannot be used for parallel SCSI as it doesn't
 263  * NB: inline SCSI sense reporting. As such, we lose this information. XXX.
 264  *
 265  * For both parallel && fibre channel, we use the feature that does
 266  * an automatic resource autoreplenish so we don't have then later do
 267  * put of an atio to replenish the f/w's resource count.
 268  */
 269
 270 int
 271 isp_endcmd(ispsoftc_t *isp, ...)
 272 {
 273         uint32_t code, hdl;
 274         uint8_t sts;
 275         at7_entry_t *aep;
 276         ct7_entry_t _ctio7, *cto = &_ctio7;
 277         va_list ap;
 278         int vpidx, nphdl;
 279
 280         va_start(ap, isp);
 281         aep = va_arg(ap, at7_entry_t *);
 282         nphdl = va_arg(ap, int);
 283         /*
 284          * Note that vpidx may equal 0xff (unknown) here
 285          */
 286         vpidx = va_arg(ap, int);
 287         code = va_arg(ap, uint32_t);
 288         hdl = va_arg(ap, uint32_t);
 289         va_end(ap);
 290         isp_prt(isp, ISP_LOGTDEBUG0, "%s: [RX_ID 0x%x] chan %d code %x", __func__, aep->at_rxid, vpidx, code);
 291
 292         sts = code & 0xff;
 293         ISP_MEMZERO(cto, sizeof(*cto));
 294         cto->ct_header.rqs_entry_type = RQSTYPE_CTIO7;
 295         cto->ct_header.rqs_entry_count = 1;
 296         cto->ct_nphdl = nphdl;
 297         cto->ct_rxid = aep->at_rxid;
 298         cto->ct_iid_lo = (aep->at_hdr.s_id[1] << 8) | aep->at_hdr.s_id[2];
 299         cto->ct_iid_hi = aep->at_hdr.s_id[0];
 300         cto->ct_oxid = aep->at_hdr.ox_id;
 301         cto->ct_scsi_status = sts;
 302         cto->ct_vpidx = vpidx;
 303         cto->ct_flags = CT7_NOACK;
 304         if (code & ECMD_TERMINATE) {
 305                 cto->ct_flags |= CT7_TERMINATE;
 306         } else if (code & ECMD_SVALID) {
 307                 cto->ct_flags |= CT7_FLAG_MODE1 | CT7_SENDSTATUS;
 308                 cto->ct_scsi_status |= (FCP_SNSLEN_VALID << 8);
 309                 cto->ct_senselen = min(16, MAXRESPLEN_24XX);
 310                 ISP_MEMZERO(cto->rsp.m1.ct_resp, sizeof (cto->rsp.m1.ct_resp));
 311                 cto->rsp.m1.ct_resp[0] = 0xf0;
 312                 cto->rsp.m1.ct_resp[2] = (code >> 12) & 0xf;
 313                 cto->rsp.m1.ct_resp[7] = 8;
 314                 cto->rsp.m1.ct_resp[12] = (code >> 16) & 0xff;
 315                 cto->rsp.m1.ct_resp[13] = (code >> 24) & 0xff;
 316         } else if (code & ECMD_RVALID) {
 317                 cto->ct_flags |= CT7_FLAG_MODE1 | CT7_SENDSTATUS;
 318                 cto->ct_scsi_status |= (FCP_RSPLEN_VALID << 8);
 319                 cto->rsp.m1.ct_resplen = 4;
 320                 ISP_MEMZERO(cto->rsp.m1.ct_resp, sizeof (cto->rsp.m1.ct_resp));
 321                 cto->rsp.m1.ct_resp[0] = (code >> 12) & 0xf;
 322                 cto->rsp.m1.ct_resp[1] = (code >> 16) & 0xff;
 323                 cto->rsp.m1.ct_resp[2] = (code >> 24) & 0xff;
 324                 cto->rsp.m1.ct_resp[3] = 0;
 325         } else {
 326                 cto->ct_flags |= CT7_FLAG_MODE1 | CT7_SENDSTATUS;
 327         }
 328         if (aep->at_cmnd.cdb_dl.sf.fcp_cmnd_dl != 0) {
 329                 cto->ct_resid = aep->at_cmnd.cdb_dl.sf.fcp_cmnd_dl;
 330                 cto->ct_scsi_status |= (FCP_RESID_UNDERFLOW << 8);
 331         }
 332         cto->ct_syshandle = hdl;
 333         return (isp_target_put_entry(isp, cto));
 334 }
 335
 336 /*
 337  * These are either broadcast events or specifically CTIO fast completion
 338  */
 339
 340 void
 341 isp_target_async(ispsoftc_t *isp, int bus, int event)
 342 {
 343         isp_notify_t notify;
 344
 345         ISP_MEMZERO(&notify, sizeof (isp_notify_t));
 346         notify.nt_hba = isp;
 347         notify.nt_wwn = INI_ANY;
 348         notify.nt_nphdl = NIL_HANDLE;
 349         notify.nt_sid = PORT_ANY;
 350         notify.nt_did = PORT_ANY;
 351         notify.nt_tgt = TGT_ANY;
 352         notify.nt_channel = bus;
 353         notify.nt_lun = LUN_ANY;
 354         notify.nt_tagval = TAG_ANY;
 355         notify.nt_tagval |= (((uint64_t)(isp->isp_serno++)) << 32);
 356
 357         switch (event) {
 358         case ASYNC_LOOP_UP:
 359         case ASYNC_PTPMODE:
 360                 isp_prt(isp, ISP_LOGTDEBUG0, "%s: LOOP UP", __func__);
 361                 notify.nt_ncode = NT_LINK_UP;
 362                 isp_async(isp, ISPASYNC_TARGET_NOTIFY, &notify);
 363                 break;
 364         case ASYNC_LOOP_DOWN:
 365                 isp_prt(isp, ISP_LOGTDEBUG0, "%s: LOOP DOWN", __func__);
 366                 notify.nt_ncode = NT_LINK_DOWN;
 367                 isp_async(isp, ISPASYNC_TARGET_NOTIFY, &notify);
 368                 break;
 369         case ASYNC_LIP_ERROR:
 370         case ASYNC_LIP_NOS_OLS_RECV:
 371         case ASYNC_LIP_OCCURRED:
 372         case ASYNC_LOOP_RESET:
 373                 isp_prt(isp, ISP_LOGTDEBUG0, "%s: LIP RESET", __func__);
 374                 notify.nt_ncode = NT_LIP_RESET;
 375                 isp_async(isp, ISPASYNC_TARGET_NOTIFY, &notify);
 376                 break;
 377         default:
 378                 isp_prt(isp, ISP_LOGERR, "%s: unknown event 0x%x", __func__, event);
 379                 break;
 380         }
 381 }
 382
 383 static void
 384 isp_got_tmf_24xx(ispsoftc_t *isp, at7_entry_t *aep)
 385 {
 386         isp_notify_t notify;
 387         static const char f1[] = "%s from PortID 0x%06x lun %jx seq 0x%08x";
 388         static const char f2[] = "unknown Task Flag 0x%x lun %jx PortID 0x%x tag 0x%08x";
 389         fcportdb_t *lp;
 390         uint16_t chan;
 391         uint32_t sid, did;
 392
 393         ISP_MEMZERO(&notify, sizeof (isp_notify_t));
 394         notify.nt_hba = isp;
 395         notify.nt_wwn = INI_ANY;
 396         notify.nt_lun = CAM_EXTLUN_BYTE_SWIZZLE(be64dec(aep->at_cmnd.fcp_cmnd_lun));
 397         notify.nt_tagval = aep->at_rxid;
 398         notify.nt_tagval |= (((uint64_t)(isp->isp_serno++)) << 32);
 399         notify.nt_lreserved = aep;
 400         sid = (aep->at_hdr.s_id[0] << 16) | (aep->at_hdr.s_id[1] << 8) | aep->at_hdr.s_id[2];
 401         did = (aep->at_hdr.d_id[0] << 16) | (aep->at_hdr.d_id[1] << 8) | aep->at_hdr.d_id[2];
 402         if (ISP_CAP_MULTI_ID(isp) && isp->isp_nchan > 1) {
 403                 /* Channel has to be derived from D_ID */
 404                 isp_find_chan_by_did(isp, did, &chan);
 405                 if (chan == ISP_NOCHAN) {
 406                         isp_prt(isp, ISP_LOGWARN,
 407                             "%s: D_ID 0x%x not found on any channel",
 408                             __func__, did);
 409                         isp_endcmd(isp, aep, NIL_HANDLE, ISP_NOCHAN,
 410                             ECMD_TERMINATE, 0);
 411                         return;
 412                 }
 413         } else {
 414                 chan = 0;
 415         }
 416         if (isp_find_pdb_by_portid(isp, chan, sid, &lp))
 417                 notify.nt_nphdl = lp->handle;
 418         else
 419                 notify.nt_nphdl = NIL_HANDLE;
 420         notify.nt_sid = sid;
 421         notify.nt_did = did;
 422         notify.nt_channel = chan;
 423         if (aep->at_cmnd.fcp_cmnd_task_management & FCP_CMND_TMF_QUERY_TASK_SET) {
 424                 isp_prt(isp, ISP_LOGINFO, f1, "QUERY TASK SET", sid, notify.nt_lun, aep->at_rxid);
 425                 notify.nt_ncode = NT_QUERY_TASK_SET;
 426         } else if (aep->at_cmnd.fcp_cmnd_task_management & FCP_CMND_TMF_ABORT_TASK_SET) {
 427                 isp_prt(isp, ISP_LOGINFO, f1, "ABORT TASK SET", sid, notify.nt_lun, aep->at_rxid);
 428                 notify.nt_ncode = NT_ABORT_TASK_SET;
 429         } else if (aep->at_cmnd.fcp_cmnd_task_management & FCP_CMND_TMF_CLEAR_TASK_SET) {
 430                 isp_prt(isp, ISP_LOGINFO, f1, "CLEAR TASK SET", sid, notify.nt_lun, aep->at_rxid);
 431                 notify.nt_ncode = NT_CLEAR_TASK_SET;
 432         } else if (aep->at_cmnd.fcp_cmnd_task_management & FCP_CMND_TMF_QUERY_ASYNC_EVENT) {
 433                 isp_prt(isp, ISP_LOGINFO, f1, "QUERY ASYNC EVENT", sid, notify.nt_lun, aep->at_rxid);
 434                 notify.nt_ncode = NT_QUERY_ASYNC_EVENT;
 435         } else if (aep->at_cmnd.fcp_cmnd_task_management & FCP_CMND_TMF_LUN_RESET) {
 436                 isp_prt(isp, ISP_LOGINFO, f1, "LUN RESET", sid, notify.nt_lun, aep->at_rxid);
 437                 notify.nt_ncode = NT_LUN_RESET;
 438         } else if (aep->at_cmnd.fcp_cmnd_task_management & FCP_CMND_TMF_TGT_RESET) {
 439                 isp_prt(isp, ISP_LOGINFO, f1, "TARGET RESET", sid, notify.nt_lun, aep->at_rxid);
 440                 notify.nt_ncode = NT_TARGET_RESET;
 441         } else if (aep->at_cmnd.fcp_cmnd_task_management & FCP_CMND_TMF_CLEAR_ACA) {
 442                 isp_prt(isp, ISP_LOGINFO, f1, "CLEAR ACA", sid, notify.nt_lun, aep->at_rxid);
 443                 notify.nt_ncode = NT_CLEAR_ACA;
 444         } else {
 445                 isp_prt(isp, ISP_LOGWARN, f2, aep->at_cmnd.fcp_cmnd_task_management, notify.nt_lun, sid, aep->at_rxid);
 446                 notify.nt_ncode = NT_UNKNOWN;
 447                 isp_endcmd(isp, aep, notify.nt_nphdl, chan, ECMD_RVALID | (0x4 << 12), 0);
 448                 return;
 449         }
 450         isp_async(isp, ISPASYNC_TARGET_NOTIFY, &notify);
 451 }
 452
 453 int
 454 isp_notify_ack(ispsoftc_t *isp, void *arg)
 455 {
 456         na_fcentry_24xx_t _na, *na = &_na;
 457
 458         /*
 459          * This is in case a Task Management Function ends up here.
 460          */
 461         if (((isphdr_t *)arg)->rqs_entry_type == RQSTYPE_ATIO)
 462                 return (isp_endcmd(isp, arg, NIL_HANDLE, 0, 0, 0));
 463
 464         in_fcentry_24xx_t *in = arg;
 465
 466         ISP_MEMZERO(na, sizeof(*na));
 467         na->na_header.rqs_entry_type = RQSTYPE_NOTIFY_ACK;
 468         na->na_header.rqs_entry_count = 1;
 469         na->na_nphdl = in->in_nphdl;
 470         na->na_flags = in->in_flags;
 471         na->na_status = in->in_status;
 472         na->na_status_subcode = in->in_status_subcode;
 473         na->na_fwhandle = in->in_fwhandle;
 474         na->na_rxid = in->in_rxid;
 475         na->na_oxid = in->in_oxid;
 476         na->na_vpidx = in->in_vpidx;
 477         if (in->in_status == IN24XX_SRR_RCVD) {
 478                 na->na_srr_rxid = in->in_srr_rxid;
 479                 na->na_srr_reloff_hi = in->in_srr_reloff_hi;
 480                 na->na_srr_reloff_lo = in->in_srr_reloff_lo;
 481                 na->na_srr_iu = in->in_srr_iu;
 482                 /*
 483                  * Whether we're accepting the SRR or rejecting
 484                  * it is determined by looking at the in_reserved
 485                  * field in the original notify structure.
 486                  */
 487                 if (in->in_reserved) {
 488                         na->na_srr_flags = 1;
 489                         na->na_srr_reject_vunique = 0;
 490                         /* Unable to perform this command at this time. */
 491                         na->na_srr_reject_code = 9;
 492                         /* Unable to supply the requested data. */
 493                         na->na_srr_reject_explanation = 0x2a;
 494                 }
 495         }
 496         return (isp_target_put_entry(isp, na));
 497 }
 498
 499 int
 500 isp_acknak_abts(ispsoftc_t *isp, void *arg, int errno)
 501 {
 502         char storage[QENTRY_LEN];
 503         uint16_t tmpw;
 504         uint8_t tmpb;
 505         abts_t *abts = arg;
 506         abts_rsp_t *rsp = (abts_rsp_t *) storage;
 507
 508         if (abts->abts_header.rqs_entry_type != RQSTYPE_ABTS_RCVD) {
 509                 isp_prt(isp, ISP_LOGERR, "%s: called for non-ABTS entry (0x%x)", __func__, abts->abts_header.rqs_entry_type);
 510                 return (0);
 511         }
 512
 513         ISP_MEMCPY(rsp, abts, QENTRY_LEN);
 514         rsp->abts_rsp_header.rqs_entry_type = RQSTYPE_ABTS_RSP;
 515
 516         /*
 517          * Swap destination and source for response.
 518          */
 519         rsp->abts_rsp_r_ctl = BA_ACC;
 520         tmpw = rsp->abts_rsp_did_lo;
 521         tmpb = rsp->abts_rsp_did_hi;
 522         rsp->abts_rsp_did_lo = rsp->abts_rsp_sid_lo;
 523         rsp->abts_rsp_did_hi = rsp->abts_rsp_sid_hi;
 524         rsp->abts_rsp_sid_lo = tmpw;
 525         rsp->abts_rsp_sid_hi = tmpb;
 526
 527         rsp->abts_rsp_f_ctl_hi ^= 0x80;         /* invert Exchange Context */
 528         rsp->abts_rsp_f_ctl_hi &= ~0x7f;        /* clear Sequence Initiator and other bits */
 529         rsp->abts_rsp_f_ctl_hi |= 0x10;         /* abort the whole exchange */
 530         rsp->abts_rsp_f_ctl_hi |= 0x8;          /* last data frame of sequence */
 531         rsp->abts_rsp_f_ctl_hi |= 0x1;          /* transfer Sequence Initiative */
 532         rsp->abts_rsp_f_ctl_lo = 0;
 533
 534         if (errno == 0) {
 535                 uint16_t rx_id, ox_id;
 536
 537                 rx_id = rsp->abts_rsp_rx_id;
 538                 ox_id = rsp->abts_rsp_ox_id;
 539                 ISP_MEMZERO(&rsp->abts_rsp_payload.ba_acc, sizeof (rsp->abts_rsp_payload.ba_acc));
 540                 isp_prt(isp, ISP_LOGTINFO, "[0x%x] ABTS of 0x%x being BA_ACC'd", rsp->abts_rsp_rxid_abts, rsp->abts_rsp_rxid_task);
 541                 rsp->abts_rsp_payload.ba_acc.aborted_rx_id = rx_id;
 542                 rsp->abts_rsp_payload.ba_acc.aborted_ox_id = ox_id;
 543                 rsp->abts_rsp_payload.ba_acc.high_seq_cnt = 0xffff;
 544         } else {
 545                 ISP_MEMZERO(&rsp->abts_rsp_payload.ba_rjt, sizeof (rsp->abts_rsp_payload.ba_acc));
 546                 switch (errno) {
 547                 case ENOMEM:
 548                         rsp->abts_rsp_payload.ba_rjt.reason = 5;        /* Logical Unit Busy */
 549                         break;
 550                 default:
 551                         rsp->abts_rsp_payload.ba_rjt.reason = 9;        /* Unable to perform command request */
 552                         break;
 553                 }
 554         }
 555         return (isp_target_put_entry(isp, rsp));
 556 }
 557
 558 static void
 559 isp_handle_abts(ispsoftc_t *isp, abts_t *abts)
 560 {
 561         isp_notify_t notify, *nt = &notify;
 562         fcportdb_t *lp;
 563         uint16_t chan;
 564         uint32_t sid, did;
 565
 566         did = (abts->abts_did_hi << 16) | abts->abts_did_lo;
 567         sid = (abts->abts_sid_hi << 16) | abts->abts_sid_lo;
 568         ISP_MEMZERO(nt, sizeof (isp_notify_t));
 569
 570         nt->nt_hba = isp;
 571         nt->nt_did = did;
 572         nt->nt_nphdl = abts->abts_nphdl;
 573         nt->nt_sid = sid;
 574         if (ISP_CAP_MULTI_ID(isp) && isp->isp_nchan > 1) {
 575                 /* Channel has to be derived from D_ID */
 576                 isp_find_chan_by_did(isp, did, &chan);
 577                 if (chan == ISP_NOCHAN) {
 578                         isp_prt(isp, ISP_LOGWARN,
 579                             "%s: D_ID 0x%x not found on any channel",
 580                             __func__, did);
 581                         isp_acknak_abts(isp, abts, ENXIO);
 582                         return;
 583                 }
 584         } else
 585                 chan = 0;
 586         nt->nt_tgt = FCPARAM(isp, chan)->isp_wwpn;
 587         if (isp_find_pdb_by_handle(isp, chan, abts->abts_nphdl, &lp))
 588                 nt->nt_wwn = lp->port_wwn;
 589         else
 590                 nt->nt_wwn = INI_ANY;
 591         nt->nt_lun = LUN_ANY;
 592         nt->nt_need_ack = 1;
 593         nt->nt_tagval = abts->abts_rxid_task;
 594         nt->nt_tagval |= (((uint64_t) abts->abts_rxid_abts) << 32);
 595         isp_prt(isp, ISP_LOGTINFO, "[0x%x] ABTS from N-Port handle 0x%x"
 596             " Port 0x%06x for task 0x%x (rx_id 0x%04x ox_id 0x%04x)",
 597             abts->abts_rxid_abts, abts->abts_nphdl, sid, abts->abts_rxid_task,
 598             abts->abts_rx_id, abts->abts_ox_id);
 599         nt->nt_channel = chan;
 600         nt->nt_ncode = NT_ABORT_TASK;
 601         nt->nt_lreserved = abts;
 602         isp_async(isp, ISPASYNC_TARGET_NOTIFY, &notify);
 603 }
 604
 605 static void
 606 isp_handle_ctio7(ispsoftc_t *isp, ct7_entry_t *ct)
 607 {
 608         void *xs;
 609         int pl = ISP_LOGTDEBUG2;
 610         char *fmsg = NULL;
 611
 612         if (ct->ct_syshandle) {
 613                 xs = isp_find_xs(isp, ct->ct_syshandle);
 614                 if (xs == NULL) {
 615                         pl = ISP_LOGALL;
 616                 }
 617         } else {
 618                 xs = NULL;
 619         }
 620
 621         switch (ct->ct_nphdl) {
 622         case CT7_BUS_ERROR:
 623                 isp_prt(isp, ISP_LOGERR, "PCI DMA Bus Error");
 624                 /* FALL Through */
 625         case CT7_DATA_OVER:
 626         case CT7_DATA_UNDER:
 627         case CT7_OK:
 628                 /*
 629                  * There are generally 2 possibilities as to why we'd get
 630                  * this condition:
 631                  *      We sent or received data.
 632                  *      We sent status & command complete.
 633                  */
 634
 635                 break;
 636
 637         case CT7_RESET:
 638                 if (fmsg == NULL) {
 639                         fmsg = "LIP Reset";
 640                 }
 641                 /*FALLTHROUGH*/
 642         case CT7_ABORTED:
 643                 /*
 644                  * When an Abort message is received the firmware goes to
 645                  * Bus Free and returns all outstanding CTIOs with the status
 646                  * set, then sends us an Immediate Notify entry.
 647                  */
 648                 if (fmsg == NULL) {
 649                         fmsg = "ABORT";
 650                 }
 651                 isp_prt(isp, ISP_LOGTDEBUG0, "CTIO7 destroyed by %s: RX_ID=0x%x", fmsg, ct->ct_rxid);
 652                 break;
 653
 654         case CT7_TIMEOUT:
 655                 if (fmsg == NULL) {
 656                         fmsg = "command";
 657                 }
 658                 isp_prt(isp, ISP_LOGWARN, "Firmware timed out on %s", fmsg);
 659                 break;
 660
 661         case CT7_ERR:
 662                 fmsg = "Completed with Error";
 663                 /*FALLTHROUGH*/
 664         case CT7_LOGOUT:
 665                 if (fmsg == NULL) {
 666                         fmsg = "Port Logout";
 667                 }
 668                 /*FALLTHROUGH*/
 669         case CT7_PORTUNAVAIL:
 670                 if (fmsg == NULL) {
 671                         fmsg = "Port not available";
 672                 }
 673                 /*FALLTHROUGH*/
 674         case CT7_PORTCHANGED:
 675                 if (fmsg == NULL) {
 676                         fmsg = "Port Changed";
 677                 }
 678                 isp_prt(isp, ISP_LOGWARN, "CTIO returned by f/w- %s", fmsg);
 679                 break;
 680
 681         case CT7_INVRXID:
 682                 /*
 683                  * CTIO rejected by the firmware because an invalid RX_ID.
 684                  * Just print a message.
 685                  */
 686                 isp_prt(isp, ISP_LOGWARN, "CTIO7 completed with Invalid RX_ID 0x%x", ct->ct_rxid);
 687                 break;
 688
 689         case CT7_REASSY_ERR:
 690                 isp_prt(isp, ISP_LOGWARN, "reassembly error");
 691                 break;
 692
 693         case CT7_SRR:
 694                 isp_prt(isp, ISP_LOGTDEBUG0, "SRR received");
 695                 break;
 696
 697         default:
 698                 isp_prt(isp, ISP_LOGERR, "Unknown CTIO7 status 0x%x", ct->ct_nphdl);
 699                 break;
 700         }
 701
 702         if (xs == NULL) {
 703                 /*
 704                  * There may be more than one CTIO for a data transfer,
 705                  * or this may be a status CTIO we're not monitoring.
 706                  *
 707                  * The assumption is that they'll all be returned in the
 708                  * order we got them.
 709                  */
 710                 if (ct->ct_syshandle == 0) {
 711                         if (ct->ct_flags & CT7_TERMINATE) {
 712                                 isp_prt(isp, ISP_LOGINFO, "termination of [RX_ID 0x%x] complete", ct->ct_rxid);
 713                         } else if ((ct->ct_flags & CT7_SENDSTATUS) == 0) {
 714                                 isp_prt(isp, pl, "intermediate CTIO completed ok");
 715                         } else {
 716                                 isp_prt(isp, pl, "unmonitored CTIO completed ok");
 717                         }
 718                 } else {
 719                         isp_prt(isp, pl, "NO xs for CTIO (handle 0x%x) status 0x%x", ct->ct_syshandle, ct->ct_nphdl);
 720                 }
 721         } else {
 722                 ISP_DMAFREE(isp, xs);
 723                 if (ct->ct_flags & CT7_SENDSTATUS) {
 724                         /*
 725                          * Sent status and command complete.
 726                          *
 727                          * We're now really done with this command, so we
 728                          * punt to the platform dependent layers because
 729                          * only there can we do the appropriate command
 730                          * complete thread synchronization.
 731                          */
 732                         isp_prt(isp, pl, "status CTIO complete");
 733                 } else {
 734                         /*
 735                          * Final CTIO completed. Release DMA resources and
 736                          * notify platform dependent layers.
 737                          */
 738                         isp_prt(isp, pl, "data CTIO complete");
 739                 }
 740                 isp_async(isp, ISPASYNC_TARGET_ACTION, ct);
 741                 /*
 742                  * The platform layer will destroy the handle if appropriate.
 743                  */
 744         }
 745 }
 746
 747 static void
 748 isp_handle_notify_24xx(ispsoftc_t *isp, in_fcentry_24xx_t *inot)
 749 {
 750         uint8_t chan;
 751         uint16_t nphdl, prli_options = 0;
 752         uint32_t portid;
 753         fcportdb_t *lp;
 754         char *msg = NULL;
 755         uint8_t *ptr = (uint8_t *)inot;
 756         uint64_t wwpn = INI_NONE, wwnn = INI_NONE;
 757         isp_notify_t notify;
 758         char buf[16];
 759
 760         nphdl = inot->in_nphdl;
 761         if (nphdl != NIL_HANDLE) {
 762                 portid = inot->in_portid_hi << 16 | inot->in_portid_lo;
 763         } else {
 764                 portid = PORT_ANY;
 765         }
 766
 767         chan = ISP_GET_VPIDX(isp, inot->in_vpidx);
 768         if (chan >= isp->isp_nchan &&
 769             inot->in_status != IN24XX_LIP_RESET &&
 770             inot->in_status != IN24XX_LINK_RESET &&
 771             inot->in_status != IN24XX_LINK_FAILED) {
 772                 isp_prt(isp, ISP_LOGWARN, "%s: Received INOT with status %x on VP %x",
 773                     __func__, inot->in_status, chan);
 774                 isp_async(isp, ISPASYNC_TARGET_NOTIFY_ACK, inot);
 775                 return;
 776         }
 777
 778         switch (inot->in_status) {
 779         case IN24XX_ELS_RCVD:
 780         {
 781                 /*
 782                  * Note that we're just getting notification that an ELS was
 783                  * received (possibly with some associated information sent
 784                  * upstream).  This is *not* the same as being given the ELS
 785                  * frame to accept or reject.
 786                  */
 787                 switch (inot->in_status_subcode) {
 788                 case LOGO:
 789                         msg = "LOGO";
 790                         wwpn = be64dec(&ptr[IN24XX_PLOGI_WWPN_OFF]);
 791                         isp_del_wwn_entry(isp, chan, wwpn, nphdl, portid);
 792                         break;
 793                 case PRLO:
 794                         msg = "PRLO";
 795                         break;
 796                 case PLOGI:
 797                         msg = "PLOGI";
 798                         wwnn = be64dec(&ptr[IN24XX_PLOGI_WWNN_OFF]);
 799                         wwpn = be64dec(&ptr[IN24XX_PLOGI_WWPN_OFF]);
 800                         isp_add_wwn_entry(isp, chan, wwpn, wwnn,
 801                             nphdl, portid, prli_options);
 802                         break;
 803                 case PRLI:
 804                         msg = "PRLI";
 805                         prli_options = inot->in_prli_options;
 806                         if (inot->in_flags & IN24XX_FLAG_PN_NN_VALID)
 807                                 wwnn = be64dec(&ptr[IN24XX_PRLI_WWNN_OFF]);
 808                         wwpn = be64dec(&ptr[IN24XX_PRLI_WWPN_OFF]);
 809                         isp_add_wwn_entry(isp, chan, wwpn, wwnn,
 810                             nphdl, portid, prli_options);
 811                         break;
 812                 case TPRLO:
 813                         msg = "TPRLO";
 814                         break;
 815                 case PDISC:
 816                         msg = "PDISC";
 817                         break;
 818                 case ADISC:
 819                         msg = "ADISC";
 820                         break;
 821                 default:
 822                         ISP_SNPRINTF(buf, sizeof (buf), "ELS 0x%x",
 823                             inot->in_status_subcode);
 824                         msg = buf;
 825                         break;
 826                 }
 827                 if (inot->in_flags & IN24XX_FLAG_PUREX_IOCB) {
 828                         isp_prt(isp, ISP_LOGERR, "%s Chan %d ELS N-port handle %x"
 829                             " PortID 0x%06x marked as needing a PUREX response",
 830                             msg, chan, nphdl, portid);
 831                         break;
 832                 }
 833                 isp_prt(isp, ISP_LOGTDEBUG0, "%s Chan %d ELS N-port handle %x"
 834                     " PortID 0x%06x RX_ID 0x%x OX_ID 0x%x", msg, chan, nphdl,
 835                     portid, inot->in_rxid, inot->in_oxid);
 836                 isp_async(isp, ISPASYNC_TARGET_NOTIFY_ACK, inot);
 837                 break;
 838         }
 839
 840         case IN24XX_PORT_LOGOUT:
 841                 msg = "PORT LOGOUT";
 842                 if (isp_find_pdb_by_handle(isp, chan, nphdl, &lp))
 843                         isp_del_wwn_entry(isp, chan, lp->port_wwn, nphdl, lp->portid);
 844                 /* FALLTHROUGH */
 845         case IN24XX_PORT_CHANGED:
 846                 if (msg == NULL)
 847                         msg = "PORT CHANGED";
 848                 /* FALLTHROUGH */
 849         case IN24XX_LIP_RESET:
 850                 if (msg == NULL)
 851                         msg = "LIP RESET";
 852                 isp_prt(isp, ISP_LOGINFO, "Chan %d %s (sub-status 0x%x) for "
 853                     "N-port handle 0x%x",
 854                     chan, msg, inot->in_status_subcode, nphdl);
 855
 856                 /*
 857                  * All subcodes here are irrelevant. What is relevant
 858                  * is that we need to terminate all active commands from
 859                  * this initiator (known by N-port handle).
 860                  */
 861                 /* XXX IMPLEMENT XXX */
 862                 isp_async(isp, ISPASYNC_TARGET_NOTIFY_ACK, inot);
 863                 break;
 864
 865         case IN24XX_SRR_RCVD:
 866 #ifdef  ISP_TARGET_MODE
 867                 ISP_MEMZERO(&notify, sizeof (isp_notify_t));
 868                 notify.nt_hba = isp;
 869                 notify.nt_wwn = INI_ANY;
 870                 notify.nt_tgt = FCPARAM(isp, chan)->isp_wwpn;
 871                 notify.nt_nphdl = nphdl;
 872                 notify.nt_sid = portid;
 873                 notify.nt_did = PORT_ANY;
 874                 notify.nt_lun = LUN_ANY;
 875                 notify.nt_tagval = inot->in_rxid;
 876                 notify.nt_tagval |= ((uint64_t)inot->in_srr_rxid << 32);
 877                 notify.nt_need_ack = 1;
 878                 notify.nt_channel = chan;
 879                 notify.nt_lreserved = inot;
 880                 notify.nt_ncode = NT_SRR;
 881                 isp_async(isp, ISPASYNC_TARGET_NOTIFY, &notify);
 882                 break;
 883 #else
 884                 if (msg == NULL)
 885                         msg = "SRR RCVD";
 886                 /* FALLTHROUGH */
 887 #endif
 888         case IN24XX_LINK_RESET:
 889                 if (msg == NULL)
 890                         msg = "LINK RESET";
 891         case IN24XX_LINK_FAILED:
 892                 if (msg == NULL)
 893                         msg = "LINK FAILED";
 894         default:
 895                 isp_prt(isp, ISP_LOGWARN, "Chan %d %s", chan, msg);
 896                 isp_async(isp, ISPASYNC_TARGET_NOTIFY_ACK, inot);
 897                 break;
 898         }
 899 }
 900 #endif