sys/dev/sfxge/common/efx_mcdi.c

   1 /*-
   2  * Copyright (c) 2008-2015 Solarflare Communications Inc.
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions are met:
   7  *
   8  * 1. Redistributions of source code must retain the above copyright notice,
   9  *    this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright notice,
  11  *    this list of conditions and the following disclaimer in the documentation
  12  *    and/or other materials provided with the distribution.
  13  *
  14  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
  15  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO,
  16  * THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  17  * PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT OWNER OR
  18  * CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL,
  19  * EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO,
  20  * PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS;
  21  * OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY,
  22  * WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR
  23  * OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE,
  24  * EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  25  *
  26  * The views and conclusions contained in the software and documentation are
  27  * those of the authors and should not be interpreted as representing official
  28  * policies, either expressed or implied, of the FreeBSD Project.
  29  */
  30
  31 #include <sys/cdefs.h>
  32 __FBSDID("$FreeBSD$");
  33
  34 #include "efsys.h"
  35 #include "efx.h"
  36 #include "efx_types.h"
  37 #include "efx_regs.h"
  38 #include "efx_regs_mcdi.h"
  39 #include "efx_impl.h"
  40
  41 #if EFSYS_OPT_MCDI
  42
  43
  44 #if EFSYS_OPT_SIENA
  45
  46 static efx_mcdi_ops_t   __efx_mcdi_siena_ops = {
  47         siena_mcdi_init,                /* emco_init */
  48         siena_mcdi_request_copyin,      /* emco_request_copyin */
  49         siena_mcdi_request_poll,        /* emco_request_poll */
  50         siena_mcdi_request_copyout,     /* emco_request_copyout */
  51         siena_mcdi_poll_reboot,         /* emco_poll_reboot */
  52         siena_mcdi_fini,                /* emco_fini */
  53         siena_mcdi_feature_supported,   /* emco_feature_supported */
  54         siena_mcdi_read_response,       /* emco_read_response */
  55 };
  56
  57 #endif  /* EFSYS_OPT_SIENA */
  58
  59 #if EFSYS_OPT_HUNTINGTON
  60
  61 static efx_mcdi_ops_t   __efx_mcdi_hunt_ops = {
  62         hunt_mcdi_init,                 /* emco_init */
  63         hunt_mcdi_request_copyin,       /* emco_request_copyin */
  64         hunt_mcdi_request_poll,         /* emco_request_poll */
  65         hunt_mcdi_request_copyout,      /* emco_request_copyout */
  66         hunt_mcdi_poll_reboot,          /* emco_poll_reboot */
  67         hunt_mcdi_fini,                 /* emco_fini */
  68         hunt_mcdi_feature_supported,    /* emco_feature_supported */
  69         hunt_mcdi_read_response,        /* emco_read_response */
  70 };
  71
  72 #endif  /* EFSYS_OPT_HUNTINGTON */
  73
  74
  75
  76         __checkReturn   efx_rc_t
  77 efx_mcdi_init(
  78         __in            efx_nic_t *enp,
  79         __in            const efx_mcdi_transport_t *emtp)
  80 {
  81         efx_mcdi_ops_t *emcop;
  82         efx_rc_t rc;
  83
  84         EFSYS_ASSERT3U(enp->en_magic, ==, EFX_NIC_MAGIC);
  85         EFSYS_ASSERT3U(enp->en_mod_flags, ==, 0);
  86
  87         switch (enp->en_family) {
  88 #if EFSYS_OPT_FALCON
  89         case EFX_FAMILY_FALCON:
  90                 emcop = NULL;
  91                 emtp = NULL;
  92                 break;
  93 #endif  /* EFSYS_OPT_FALCON */
  94
  95 #if EFSYS_OPT_SIENA
  96         case EFX_FAMILY_SIENA:
  97                 emcop = (efx_mcdi_ops_t *)&__efx_mcdi_siena_ops;
  98                 break;
  99 #endif  /* EFSYS_OPT_SIENA */
 100
 101 #if EFSYS_OPT_HUNTINGTON
 102         case EFX_FAMILY_HUNTINGTON:
 103                 emcop = (efx_mcdi_ops_t *)&__efx_mcdi_hunt_ops;
 104                 break;
 105 #endif  /* EFSYS_OPT_HUNTINGTON */
 106
 107         default:
 108                 EFSYS_ASSERT(0);
 109                 rc = ENOTSUP;
 110                 goto fail1;
 111         }
 112
 113         if (enp->en_features & EFX_FEATURE_MCDI_DMA) {
 114                 /* MCDI requires a DMA buffer in host memory */
 115                 if ((emtp == NULL) || (emtp->emt_dma_mem) == NULL) {
 116                         rc = EINVAL;
 117                         goto fail2;
 118                 }
 119         }
 120         enp->en_mcdi.em_emtp = emtp;
 121
 122         if (emcop != NULL && emcop->emco_init != NULL) {
 123                 if ((rc = emcop->emco_init(enp, emtp)) != 0)
 124                         goto fail3;
 125         }
 126
 127         enp->en_mcdi.em_emcop = emcop;
 128         enp->en_mod_flags |= EFX_MOD_MCDI;
 129
 130         return (0);
 131
 132 fail3:
 133         EFSYS_PROBE(fail3);
 134 fail2:
 135         EFSYS_PROBE(fail2);
 136 fail1:
 137         EFSYS_PROBE1(fail1, efx_rc_t, rc);
 138
 139         enp->en_mcdi.em_emcop = NULL;
 140         enp->en_mcdi.em_emtp = NULL;
 141         enp->en_mod_flags &= ~EFX_MOD_MCDI;
 142
 143         return (rc);
 144 }
 145
 146                         void
 147 efx_mcdi_fini(
 148         __in            efx_nic_t *enp)
 149 {
 150         efx_mcdi_iface_t *emip = &(enp->en_mcdi.em_emip);
 151         efx_mcdi_ops_t *emcop = enp->en_mcdi.em_emcop;
 152
 153         EFSYS_ASSERT3U(enp->en_magic, ==, EFX_NIC_MAGIC);
 154         EFSYS_ASSERT3U(enp->en_mod_flags, ==, EFX_MOD_MCDI);
 155
 156         if (emcop != NULL && emcop->emco_fini != NULL)
 157                 emcop->emco_fini(enp);
 158
 159         emip->emi_port = 0;
 160         emip->emi_aborted = 0;
 161
 162         enp->en_mcdi.em_emcop = NULL;
 163         enp->en_mod_flags &= ~EFX_MOD_MCDI;
 164 }
 165
 166                         void
 167 efx_mcdi_new_epoch(
 168         __in            efx_nic_t *enp)
 169 {
 170         efx_mcdi_iface_t *emip = &(enp->en_mcdi.em_emip);
 171         int state;
 172
 173         /* Start a new epoch (allow fresh MCDI requests to succeed) */
 174         EFSYS_LOCK(enp->en_eslp, state);
 175         emip->emi_new_epoch = B_TRUE;
 176         EFSYS_UNLOCK(enp->en_eslp, state);
 177 }
 178
 179 static                  void
 180 efx_mcdi_request_copyin(
 181         __in            efx_nic_t *enp,
 182         __in            efx_mcdi_req_t *emrp,
 183         __in            unsigned int seq,
 184         __in            boolean_t ev_cpl,
 185         __in            boolean_t new_epoch)
 186 {
 187         efx_mcdi_ops_t *emcop = enp->en_mcdi.em_emcop;
 188
 189         emcop->emco_request_copyin(enp, emrp, seq, ev_cpl, new_epoch);
 190 }
 191
 192 static                  void    __unused
 193 efx_mcdi_request_copyout(
 194         __in            efx_nic_t *enp,
 195         __in            efx_mcdi_req_t *emrp)
 196 {
 197         efx_mcdi_ops_t *emcop = enp->en_mcdi.em_emcop;
 198
 199         emcop->emco_request_copyout(enp, emrp);
 200 }
 201
 202 static                  efx_rc_t
 203 efx_mcdi_poll_reboot(
 204         __in            efx_nic_t *enp)
 205 {
 206         efx_mcdi_ops_t *emcop = enp->en_mcdi.em_emcop;
 207         efx_rc_t rc;
 208
 209         rc = emcop->emco_poll_reboot(enp);
 210         return (rc);
 211 }
 212
 213 static                  void
 214 efx_mcdi_read_response(
 215         __in            efx_nic_t *enp,
 216         __out           void *bufferp,
 217         __in            size_t offset,
 218         __in            size_t length)
 219 {
 220         efx_mcdi_ops_t *emcop = enp->en_mcdi.em_emcop;
 221
 222         emcop->emco_read_response(enp, bufferp, offset, length);
 223 }
 224
 225                         void
 226 efx_mcdi_request_start(
 227         __in            efx_nic_t *enp,
 228         __in            efx_mcdi_req_t *emrp,
 229         __in            boolean_t ev_cpl)
 230 {
 231         efx_mcdi_iface_t *emip = &(enp->en_mcdi.em_emip);
 232         unsigned int seq;
 233         boolean_t new_epoch;
 234         int state;
 235
 236         EFSYS_ASSERT3U(enp->en_magic, ==, EFX_NIC_MAGIC);
 237         EFSYS_ASSERT3U(enp->en_mod_flags, &, EFX_MOD_MCDI);
 238         EFSYS_ASSERT3U(enp->en_features, &, EFX_FEATURE_MCDI);
 239
 240         /*
 241          * efx_mcdi_request_start() is naturally serialised against both
 242          * efx_mcdi_request_poll() and efx_mcdi_ev_cpl()/efx_mcdi_ev_death(),
 243          * by virtue of there only being one outstanding MCDI request.
 244          * Unfortunately, upper layers may also call efx_mcdi_request_abort()
 245          * at any time, to timeout a pending mcdi request, That request may
 246          * then subsequently complete, meaning efx_mcdi_ev_cpl() or
 247          * efx_mcdi_ev_death() may end up running in parallel with
 248          * efx_mcdi_request_start(). This race is handled by ensuring that
 249          * %emi_pending_req, %emi_ev_cpl and %emi_seq are protected by the
 250          * en_eslp lock.
 251          */
 252         EFSYS_LOCK(enp->en_eslp, state);
 253         EFSYS_ASSERT(emip->emi_pending_req == NULL);
 254         emip->emi_pending_req = emrp;
 255         emip->emi_ev_cpl = ev_cpl;
 256         emip->emi_poll_cnt = 0;
 257         seq = emip->emi_seq++ & EFX_MASK32(MCDI_HEADER_SEQ);
 258         new_epoch = emip->emi_new_epoch;
 259         EFSYS_UNLOCK(enp->en_eslp, state);
 260
 261         efx_mcdi_request_copyin(enp, emrp, seq, ev_cpl, new_epoch);
 262 }
 263
 264
 265                         void
 266 efx_mcdi_read_response_header(
 267         __in            efx_nic_t *enp,
 268         __inout         efx_mcdi_req_t *emrp)
 269 {
 270 #if EFSYS_OPT_MCDI_LOGGING
 271         const efx_mcdi_transport_t *emtp = enp->en_mcdi.em_emtp;
 272 #endif /* EFSYS_OPT_MCDI_LOGGING */
 273         efx_mcdi_iface_t *emip = &(enp->en_mcdi.em_emip);
 274         efx_dword_t hdr[2];
 275         unsigned int hdr_len;
 276         unsigned int data_len;
 277         unsigned int seq;
 278         unsigned int cmd;
 279         unsigned int error;
 280         efx_rc_t rc;
 281
 282         EFSYS_ASSERT(emrp != NULL);
 283
 284         efx_mcdi_read_response(enp, &hdr[0], 0, sizeof (hdr[0]));
 285         hdr_len = sizeof (hdr[0]);
 286
 287         cmd = EFX_DWORD_FIELD(hdr[0], MCDI_HEADER_CODE);
 288         seq = EFX_DWORD_FIELD(hdr[0], MCDI_HEADER_SEQ);
 289         error = EFX_DWORD_FIELD(hdr[0], MCDI_HEADER_ERROR);
 290
 291         if (cmd != MC_CMD_V2_EXTN) {
 292                 data_len = EFX_DWORD_FIELD(hdr[0], MCDI_HEADER_DATALEN);
 293         } else {
 294                 efx_mcdi_read_response(enp, &hdr[1], hdr_len, sizeof (hdr[1]));
 295                 hdr_len += sizeof (hdr[1]);
 296
 297                 cmd = EFX_DWORD_FIELD(hdr[1], MC_CMD_V2_EXTN_IN_EXTENDED_CMD);
 298                 data_len =
 299                     EFX_DWORD_FIELD(hdr[1], MC_CMD_V2_EXTN_IN_ACTUAL_LEN);
 300         }
 301
 302         if (error && (data_len == 0)) {
 303                 /* The MC has rebooted since the request was sent. */
 304                 EFSYS_SPIN(EFX_MCDI_STATUS_SLEEP_US);
 305                 efx_mcdi_poll_reboot(enp);
 306                 rc = EIO;
 307                 goto fail1;
 308         }
 309         if ((cmd != emrp->emr_cmd) ||
 310             (seq != ((emip->emi_seq - 1) & EFX_MASK32(MCDI_HEADER_SEQ)))) {
 311                 /* Response is for a different request */
 312                 rc = EIO;
 313                 goto fail2;
 314         }
 315         if (error) {
 316                 efx_dword_t err[2];
 317                 unsigned int err_len = MIN(data_len, sizeof (err));
 318                 int err_code = MC_CMD_ERR_EPROTO;
 319                 int err_arg = 0;
 320
 321                 /* Read error code (and arg num for MCDI v2 commands) */
 322                 efx_mcdi_read_response(enp, &err, hdr_len, err_len);
 323
 324                 if (err_len >= (MC_CMD_ERR_CODE_OFST + sizeof (efx_dword_t)))
 325                         err_code = EFX_DWORD_FIELD(err[0], EFX_DWORD_0);
 326 #ifdef WITH_MCDI_V2
 327                 if (err_len >= (MC_CMD_ERR_ARG_OFST + sizeof (efx_dword_t)))
 328                         err_arg = EFX_DWORD_FIELD(err[1], EFX_DWORD_0);
 329 #endif
 330                 emrp->emr_err_code = err_code;
 331                 emrp->emr_err_arg = err_arg;
 332
 333 #if EFSYS_OPT_MCDI_PROXY_AUTH
 334                 if ((err_code == MC_CMD_ERR_PROXY_PENDING) &&
 335                     (err_len == sizeof (err))) {
 336                         /*
 337                          * The MCDI request would normally fail with EPERM, but
 338                          * firmware has forwarded it to an authorization agent
 339                          * attached to a privileged PF.
 340                          *
 341                          * Save the authorization request handle. The client
 342                          * must wait for a PROXY_RESPONSE event, or timeout.
 343                          */
 344                         emrp->emr_proxy_handle = err_arg;
 345                 }
 346 #endif /* EFSYS_OPT_MCDI_PROXY_AUTH */
 347
 348 #if EFSYS_OPT_MCDI_LOGGING
 349                 if (emtp->emt_logger != NULL) {
 350                         emtp->emt_logger(emtp->emt_context,
 351                             EFX_LOG_MCDI_RESPONSE,
 352                             &hdr, hdr_len,
 353                             &err, err_len);
 354                 }
 355 #endif /* EFSYS_OPT_MCDI_LOGGING */
 356
 357                 if (!emrp->emr_quiet) {
 358                         EFSYS_PROBE3(mcdi_err_arg, int, emrp->emr_cmd,
 359                             int, err_code, int, err_arg);
 360                 }
 361
 362                 rc = efx_mcdi_request_errcode(err_code);
 363                 goto fail3;
 364         }
 365
 366         emrp->emr_rc = 0;
 367         emrp->emr_out_length_used = data_len;
 368 #if EFSYS_OPT_MCDI_PROXY_AUTH
 369         emrp->emr_proxy_handle = 0;
 370 #endif /* EFSYS_OPT_MCDI_PROXY_AUTH */
 371         return;
 372
 373 fail3:
 374         if (!emrp->emr_quiet)
 375                 EFSYS_PROBE(fail3);
 376 fail2:
 377         if (!emrp->emr_quiet)
 378                 EFSYS_PROBE(fail2);
 379 fail1:
 380         if (!emrp->emr_quiet)
 381                 EFSYS_PROBE1(fail1, efx_rc_t, rc);
 382
 383         emrp->emr_rc = rc;
 384         emrp->emr_out_length_used = 0;
 385 }
 386
 387
 388         __checkReturn   boolean_t
 389 efx_mcdi_request_poll(
 390         __in            efx_nic_t *enp)
 391 {
 392         efx_mcdi_ops_t *emcop = enp->en_mcdi.em_emcop;
 393         boolean_t completed;
 394
 395         EFSYS_ASSERT3U(enp->en_magic, ==, EFX_NIC_MAGIC);
 396         EFSYS_ASSERT3U(enp->en_mod_flags, &, EFX_MOD_MCDI);
 397         EFSYS_ASSERT3U(enp->en_features, &, EFX_FEATURE_MCDI);
 398
 399         completed = B_FALSE;
 400
 401         if (emcop != NULL && emcop->emco_request_poll != NULL)
 402                 completed = emcop->emco_request_poll(enp);
 403
 404         return (completed);
 405 }
 406
 407         __checkReturn   boolean_t
 408 efx_mcdi_request_abort(
 409         __in            efx_nic_t *enp)
 410 {
 411         efx_mcdi_iface_t *emip = &(enp->en_mcdi.em_emip);
 412         efx_mcdi_req_t *emrp;
 413         boolean_t aborted;
 414         int state;
 415
 416         EFSYS_ASSERT3U(enp->en_magic, ==, EFX_NIC_MAGIC);
 417         EFSYS_ASSERT3U(enp->en_mod_flags, &, EFX_MOD_MCDI);
 418         EFSYS_ASSERT3U(enp->en_features, &, EFX_FEATURE_MCDI);
 419
 420         /*
 421          * efx_mcdi_ev_* may have already completed this event, and be
 422          * spinning/blocked on the upper layer lock. So it *is* legitimate
 423          * to for emi_pending_req to be NULL. If there is a pending event
 424          * completed request, then provide a "credit" to allow
 425          * efx_mcdi_ev_cpl() to accept a single spurious completion.
 426          */
 427         EFSYS_LOCK(enp->en_eslp, state);
 428         emrp = emip->emi_pending_req;
 429         aborted = (emrp != NULL);
 430         if (aborted) {
 431                 emip->emi_pending_req = NULL;
 432
 433                 /* Error the request */
 434                 emrp->emr_out_length_used = 0;
 435                 emrp->emr_rc = ETIMEDOUT;
 436
 437                 /* Provide a credit for seqno/emr_pending_req mismatches */
 438                 if (emip->emi_ev_cpl)
 439                         ++emip->emi_aborted;
 440
 441                 /*
 442                  * The upper layer has called us, so we don't
 443                  * need to complete the request.
 444                  */
 445         }
 446         EFSYS_UNLOCK(enp->en_eslp, state);
 447
 448         return (aborted);
 449 }
 450
 451         __checkReturn   efx_rc_t
 452 efx_mcdi_request_errcode(
 453         __in            unsigned int err)
 454 {
 455
 456         switch (err) {
 457                 /* MCDI v1 */
 458         case MC_CMD_ERR_EPERM:
 459                 return (EACCES);
 460         case MC_CMD_ERR_ENOENT:
 461                 return (ENOENT);
 462         case MC_CMD_ERR_EINTR:
 463                 return (EINTR);
 464         case MC_CMD_ERR_EACCES:
 465                 return (EACCES);
 466         case MC_CMD_ERR_EBUSY:
 467                 return (EBUSY);
 468         case MC_CMD_ERR_EINVAL:
 469                 return (EINVAL);
 470         case MC_CMD_ERR_EDEADLK:
 471                 return (EDEADLK);
 472         case MC_CMD_ERR_ENOSYS:
 473                 return (ENOTSUP);
 474         case MC_CMD_ERR_ETIME:
 475                 return (ETIMEDOUT);
 476         case MC_CMD_ERR_ENOTSUP:
 477                 return (ENOTSUP);
 478         case MC_CMD_ERR_EALREADY:
 479                 return (EALREADY);
 480
 481                 /* MCDI v2 */
 482 #ifdef MC_CMD_ERR_EAGAIN
 483         case MC_CMD_ERR_EAGAIN:
 484                 return (EAGAIN);
 485 #endif
 486 #ifdef MC_CMD_ERR_ENOSPC
 487         case MC_CMD_ERR_ENOSPC:
 488                 return (ENOSPC);
 489 #endif
 490
 491         case MC_CMD_ERR_ALLOC_FAIL:
 492                 return (ENOMEM);
 493         case MC_CMD_ERR_NO_VADAPTOR:
 494                 return (ENOENT);
 495         case MC_CMD_ERR_NO_EVB_PORT:
 496                 return (ENOENT);
 497         case MC_CMD_ERR_NO_VSWITCH:
 498                 return (ENODEV);
 499         case MC_CMD_ERR_VLAN_LIMIT:
 500                 return (EINVAL);
 501         case MC_CMD_ERR_BAD_PCI_FUNC:
 502                 return (ENODEV);
 503         case MC_CMD_ERR_BAD_VLAN_MODE:
 504                 return (EINVAL);
 505         case MC_CMD_ERR_BAD_VSWITCH_TYPE:
 506                 return (EINVAL);
 507         case MC_CMD_ERR_BAD_VPORT_TYPE:
 508                 return (EINVAL);
 509         case MC_CMD_ERR_MAC_EXIST:
 510                 return (EEXIST);
 511
 512         case MC_CMD_ERR_PROXY_PENDING:
 513                 return (EAGAIN);
 514
 515         default:
 516                 EFSYS_PROBE1(mc_pcol_error, int, err);
 517                 return (EIO);
 518         }
 519 }
 520
 521                         void
 522 efx_mcdi_raise_exception(
 523         __in            efx_nic_t *enp,
 524         __in_opt        efx_mcdi_req_t *emrp,
 525         __in            int rc)
 526 {
 527         const efx_mcdi_transport_t *emtp = enp->en_mcdi.em_emtp;
 528         efx_mcdi_exception_t exception;
 529
 530         /* Reboot or Assertion failure only */
 531         EFSYS_ASSERT(rc == EIO || rc == EINTR);
 532
 533         /*
 534          * If MC_CMD_REBOOT causes a reboot (dependent on parameters),
 535          * then the EIO is not worthy of an exception.
 536          */
 537         if (emrp != NULL && emrp->emr_cmd == MC_CMD_REBOOT && rc == EIO)
 538                 return;
 539
 540         exception = (rc == EIO)
 541                 ? EFX_MCDI_EXCEPTION_MC_REBOOT
 542                 : EFX_MCDI_EXCEPTION_MC_BADASSERT;
 543
 544         emtp->emt_exception(emtp->emt_context, exception);
 545 }
 546
 547                         void
 548 efx_mcdi_execute(
 549         __in            efx_nic_t *enp,
 550         __inout         efx_mcdi_req_t *emrp)
 551 {
 552         const efx_mcdi_transport_t *emtp = enp->en_mcdi.em_emtp;
 553
 554         EFSYS_ASSERT3U(enp->en_mod_flags, &, EFX_MOD_MCDI);
 555         EFSYS_ASSERT3U(enp->en_features, &, EFX_FEATURE_MCDI);
 556
 557         emrp->emr_quiet = B_FALSE;
 558         emtp->emt_execute(emtp->emt_context, emrp);
 559 }
 560
 561                         void
 562 efx_mcdi_execute_quiet(
 563         __in            efx_nic_t *enp,
 564         __inout         efx_mcdi_req_t *emrp)
 565 {
 566         const efx_mcdi_transport_t *emtp = enp->en_mcdi.em_emtp;
 567
 568         EFSYS_ASSERT3U(enp->en_mod_flags, &, EFX_MOD_MCDI);
 569         EFSYS_ASSERT3U(enp->en_features, &, EFX_FEATURE_MCDI);
 570
 571         emrp->emr_quiet = B_TRUE;
 572         emtp->emt_execute(emtp->emt_context, emrp);
 573 }
 574
 575                         void
 576 efx_mcdi_ev_cpl(
 577         __in            efx_nic_t *enp,
 578         __in            unsigned int seq,
 579         __in            unsigned int outlen,
 580         __in            int errcode)
 581 {
 582         efx_mcdi_iface_t *emip = &(enp->en_mcdi.em_emip);
 583         const efx_mcdi_transport_t *emtp = enp->en_mcdi.em_emtp;
 584         efx_mcdi_ops_t *emcop = enp->en_mcdi.em_emcop;
 585         efx_nic_cfg_t *encp = &enp->en_nic_cfg;
 586         efx_mcdi_req_t *emrp;
 587         int state;
 588
 589         EFSYS_ASSERT3U(enp->en_mod_flags, &, EFX_MOD_MCDI);
 590         EFSYS_ASSERT3U(enp->en_features, &, EFX_FEATURE_MCDI);
 591
 592         /*
 593          * Serialise against efx_mcdi_request_poll()/efx_mcdi_request_start()
 594          * when we're completing an aborted request.
 595          */
 596         EFSYS_LOCK(enp->en_eslp, state);
 597         if (emip->emi_pending_req == NULL || !emip->emi_ev_cpl ||
 598             (seq != ((emip->emi_seq - 1) & EFX_MASK32(MCDI_HEADER_SEQ)))) {
 599                 EFSYS_ASSERT(emip->emi_aborted > 0);
 600                 if (emip->emi_aborted > 0)
 601                         --emip->emi_aborted;
 602                 EFSYS_UNLOCK(enp->en_eslp, state);
 603                 return;
 604         }
 605
 606         emrp = emip->emi_pending_req;
 607         emip->emi_pending_req = NULL;
 608         EFSYS_UNLOCK(enp->en_eslp, state);
 609
 610         if (encp->enc_mcdi_max_payload_length > MCDI_CTL_SDU_LEN_MAX_V1) {
 611                 /* MCDIv2 response details do not fit into an event. */
 612                 efx_mcdi_read_response_header(enp, emrp);
 613         } else {
 614                 if (errcode != 0) {
 615                         if (!emrp->emr_quiet) {
 616                                 EFSYS_PROBE2(mcdi_err, int, emrp->emr_cmd,
 617                                     int, errcode);
 618                         }
 619                         emrp->emr_out_length_used = 0;
 620                         emrp->emr_rc = efx_mcdi_request_errcode(errcode);
 621                 } else {
 622                         emrp->emr_out_length_used = outlen;
 623                         emrp->emr_rc = 0;
 624                 }
 625         }
 626         if (errcode == 0) {
 627                 emcop->emco_request_copyout(enp, emrp);
 628         }
 629
 630         emtp->emt_ev_cpl(emtp->emt_context);
 631 }
 632
 633 #if EFSYS_OPT_MCDI_PROXY_AUTH
 634
 635         __checkReturn   efx_rc_t
 636 efx_mcdi_get_proxy_handle(
 637         __in            efx_nic_t *enp,
 638         __in            efx_mcdi_req_t *emrp,
 639         __out           uint32_t *handlep)
 640 {
 641         efx_mcdi_iface_t *emip = &(enp->en_mcdi.em_emip);
 642         efx_rc_t rc;
 643
 644         /*
 645          * Return proxy handle from MCDI request that returned with error
 646          * MC_MCD_ERR_PROXY_PENDING. This handle is used to wait for a matching
 647          * PROXY_RESPONSE event.
 648          */
 649         if ((emrp == NULL) || (handlep == NULL)) {
 650                 rc = EINVAL;
 651                 goto fail1;
 652         }
 653         if ((emrp->emr_rc != 0) &&
 654             (emrp->emr_err_code == MC_CMD_ERR_PROXY_PENDING)) {
 655                 *handlep = emrp->emr_proxy_handle;
 656                 rc = 0;
 657         } else {
 658                 *handlep = 0;
 659                 rc = ENOENT;
 660         }
 661         return (rc);
 662
 663 fail1:
 664         EFSYS_PROBE1(fail1, efx_rc_t, rc);
 665         return (rc);
 666 }
 667
 668                         void
 669 efx_mcdi_ev_proxy_response(
 670         __in            efx_nic_t *enp,
 671         __in            unsigned int handle,
 672         __in            unsigned int status)
 673 {
 674         const efx_mcdi_transport_t *emtp = enp->en_mcdi.em_emtp;
 675         efx_rc_t rc;
 676
 677         /*
 678          * Handle results of an authorization request for a privileged MCDI
 679          * command. If authorization was granted then we must re-issue the
 680          * original MCDI request. If authorization failed or timed out,
 681          * then the original MCDI request should be completed with the
 682          * result code from this event.
 683          */
 684         rc = (status == 0) ? 0 : efx_mcdi_request_errcode(status);
 685
 686         emtp->emt_ev_proxy_response(emtp->emt_context, handle, rc);
 687 }
 688 #endif /* EFSYS_OPT_MCDI_PROXY_AUTH */
 689
 690                         void
 691 efx_mcdi_ev_death(
 692         __in            efx_nic_t *enp,
 693         __in            int rc)
 694 {
 695         efx_mcdi_iface_t *emip = &(enp->en_mcdi.em_emip);
 696         const efx_mcdi_transport_t *emtp = enp->en_mcdi.em_emtp;
 697         efx_mcdi_req_t *emrp = NULL;
 698         boolean_t ev_cpl;
 699         int state;
 700
 701         /*
 702          * The MCDI request (if there is one) has been terminated, either
 703          * by a BADASSERT or REBOOT event.
 704          *
 705          * If there is an outstanding event-completed MCDI operation, then we
 706          * will never receive the completion event (because both MCDI
 707          * completions and BADASSERT events are sent to the same evq). So
 708          * complete this MCDI op.
 709          *
 710          * This function might run in parallel with efx_mcdi_request_poll()
 711          * for poll completed mcdi requests, and also with
 712          * efx_mcdi_request_start() for post-watchdog completions.
 713          */
 714         EFSYS_LOCK(enp->en_eslp, state);
 715         emrp = emip->emi_pending_req;
 716         ev_cpl = emip->emi_ev_cpl;
 717         if (emrp != NULL && emip->emi_ev_cpl) {
 718                 emip->emi_pending_req = NULL;
 719
 720                 emrp->emr_out_length_used = 0;
 721                 emrp->emr_rc = rc;
 722                 ++emip->emi_aborted;
 723         }
 724
 725         /*
 726          * Since we're running in parallel with a request, consume the
 727          * status word before dropping the lock.
 728          */
 729         if (rc == EIO || rc == EINTR) {
 730                 EFSYS_SPIN(EFX_MCDI_STATUS_SLEEP_US);
 731                 (void) efx_mcdi_poll_reboot(enp);
 732                 emip->emi_new_epoch = B_TRUE;
 733         }
 734
 735         EFSYS_UNLOCK(enp->en_eslp, state);
 736
 737         efx_mcdi_raise_exception(enp, emrp, rc);
 738
 739         if (emrp != NULL && ev_cpl)
 740                 emtp->emt_ev_cpl(emtp->emt_context);
 741 }
 742
 743         __checkReturn           efx_rc_t
 744 efx_mcdi_version(
 745         __in                    efx_nic_t *enp,
 746         __out_ecount_opt(4)     uint16_t versionp[4],
 747         __out_opt               uint32_t *buildp,
 748         __out_opt               efx_mcdi_boot_t *statusp)
 749 {
 750         efx_mcdi_req_t req;
 751         uint8_t payload[MAX(MAX(MC_CMD_GET_VERSION_IN_LEN,
 752                                 MC_CMD_GET_VERSION_OUT_LEN),
 753                             MAX(MC_CMD_GET_BOOT_STATUS_IN_LEN,
 754                                 MC_CMD_GET_BOOT_STATUS_OUT_LEN))];
 755         efx_word_t *ver_words;
 756         uint16_t version[4];
 757         uint32_t build;
 758         efx_mcdi_boot_t status;
 759         efx_rc_t rc;
 760
 761         EFSYS_ASSERT3U(enp->en_features, &, EFX_FEATURE_MCDI);
 762
 763         (void) memset(payload, 0, sizeof (payload));
 764         req.emr_cmd = MC_CMD_GET_VERSION;
 765         req.emr_in_buf = payload;
 766         req.emr_in_length = MC_CMD_GET_VERSION_IN_LEN;
 767         req.emr_out_buf = payload;
 768         req.emr_out_length = MC_CMD_GET_VERSION_OUT_LEN;
 769
 770         efx_mcdi_execute(enp, &req);
 771
 772         if (req.emr_rc != 0) {
 773                 rc = req.emr_rc;
 774                 goto fail1;
 775         }
 776
 777         /* bootrom support */
 778         if (req.emr_out_length_used == MC_CMD_GET_VERSION_V0_OUT_LEN) {
 779                 version[0] = version[1] = version[2] = version[3] = 0;
 780                 build = MCDI_OUT_DWORD(req, GET_VERSION_OUT_FIRMWARE);
 781
 782                 goto version;
 783         }
 784
 785         if (req.emr_out_length_used < MC_CMD_GET_VERSION_OUT_LEN) {
 786                 rc = EMSGSIZE;
 787                 goto fail2;
 788         }
 789
 790         ver_words = MCDI_OUT2(req, efx_word_t, GET_VERSION_OUT_VERSION);
 791         version[0] = EFX_WORD_FIELD(ver_words[0], EFX_WORD_0);
 792         version[1] = EFX_WORD_FIELD(ver_words[1], EFX_WORD_0);
 793         version[2] = EFX_WORD_FIELD(ver_words[2], EFX_WORD_0);
 794         version[3] = EFX_WORD_FIELD(ver_words[3], EFX_WORD_0);
 795         build = MCDI_OUT_DWORD(req, GET_VERSION_OUT_FIRMWARE);
 796
 797 version:
 798         /* The bootrom doesn't understand BOOT_STATUS */
 799         if (MC_FW_VERSION_IS_BOOTLOADER(build)) {
 800                 status = EFX_MCDI_BOOT_ROM;
 801                 goto out;
 802         }
 803
 804         (void) memset(payload, 0, sizeof (payload));
 805         req.emr_cmd = MC_CMD_GET_BOOT_STATUS;
 806         req.emr_in_buf = payload;
 807         req.emr_in_length = MC_CMD_GET_BOOT_STATUS_IN_LEN;
 808         req.emr_out_buf = payload;
 809         req.emr_out_length = MC_CMD_GET_BOOT_STATUS_OUT_LEN;
 810
 811         efx_mcdi_execute_quiet(enp, &req);
 812
 813         if (req.emr_rc == EACCES) {
 814                 /* Unprivileged functions cannot access BOOT_STATUS */
 815                 status = EFX_MCDI_BOOT_PRIMARY;
 816                 version[0] = version[1] = version[2] = version[3] = 0;
 817                 build = 0;
 818                 goto out;
 819         }
 820
 821         if (req.emr_rc != 0) {
 822                 rc = req.emr_rc;
 823                 goto fail3;
 824         }
 825
 826         if (req.emr_out_length_used < MC_CMD_GET_BOOT_STATUS_OUT_LEN) {
 827                 rc = EMSGSIZE;
 828                 goto fail4;
 829         }
 830
 831         if (MCDI_OUT_DWORD_FIELD(req, GET_BOOT_STATUS_OUT_FLAGS,
 832             GET_BOOT_STATUS_OUT_FLAGS_PRIMARY))
 833                 status = EFX_MCDI_BOOT_PRIMARY;
 834         else
 835                 status = EFX_MCDI_BOOT_SECONDARY;
 836
 837 out:
 838         if (versionp != NULL)
 839                 memcpy(versionp, version, sizeof (version));
 840         if (buildp != NULL)
 841                 *buildp = build;
 842         if (statusp != NULL)
 843                 *statusp = status;
 844
 845         return (0);
 846
 847 fail4:
 848         EFSYS_PROBE(fail4);
 849 fail3:
 850         EFSYS_PROBE(fail3);
 851 fail2:
 852         EFSYS_PROBE(fail2);
 853 fail1:
 854         EFSYS_PROBE1(fail1, efx_rc_t, rc);
 855
 856         return (rc);
 857 }
 858
 859 static  __checkReturn   efx_rc_t
 860 efx_mcdi_do_reboot(
 861         __in            efx_nic_t *enp,
 862         __in            boolean_t after_assertion)
 863 {
 864         uint8_t payload[MAX(MC_CMD_REBOOT_IN_LEN, MC_CMD_REBOOT_OUT_LEN)];
 865         efx_mcdi_req_t req;
 866         efx_rc_t rc;
 867
 868         /*
 869          * We could require the caller to have caused en_mod_flags=0 to
 870          * call this function. This doesn't help the other port though,
 871          * who's about to get the MC ripped out from underneath them.
 872          * Since they have to cope with the subsequent fallout of MCDI
 873          * failures, we should as well.
 874          */
 875         EFSYS_ASSERT3U(enp->en_magic, ==, EFX_NIC_MAGIC);
 876
 877         (void) memset(payload, 0, sizeof (payload));
 878         req.emr_cmd = MC_CMD_REBOOT;
 879         req.emr_in_buf = payload;
 880         req.emr_in_length = MC_CMD_REBOOT_IN_LEN;
 881         req.emr_out_buf = payload;
 882         req.emr_out_length = MC_CMD_REBOOT_OUT_LEN;
 883
 884         MCDI_IN_SET_DWORD(req, REBOOT_IN_FLAGS,
 885             (after_assertion ? MC_CMD_REBOOT_FLAGS_AFTER_ASSERTION : 0));
 886
 887         efx_mcdi_execute_quiet(enp, &req);
 888
 889         if (req.emr_rc == EACCES) {
 890                 /* Unprivileged functions cannot reboot the MC. */
 891                 goto out;
 892         }
 893
 894         /* A successful reboot request returns EIO. */
 895         if (req.emr_rc != 0 && req.emr_rc != EIO) {
 896                 rc = req.emr_rc;
 897                 goto fail1;
 898         }
 899
 900 out:
 901         return (0);
 902
 903 fail1:
 904         EFSYS_PROBE1(fail1, efx_rc_t, rc);
 905
 906         return (rc);
 907 }
 908
 909         __checkReturn   efx_rc_t
 910 efx_mcdi_reboot(
 911         __in            efx_nic_t *enp)
 912 {
 913         return (efx_mcdi_do_reboot(enp, B_FALSE));
 914 }
 915
 916         __checkReturn   efx_rc_t
 917 efx_mcdi_exit_assertion_handler(
 918         __in            efx_nic_t *enp)
 919 {
 920         return (efx_mcdi_do_reboot(enp, B_TRUE));
 921 }
 922
 923         __checkReturn   efx_rc_t
 924 efx_mcdi_read_assertion(
 925         __in            efx_nic_t *enp)
 926 {
 927         efx_mcdi_req_t req;
 928         uint8_t payload[MAX(MC_CMD_GET_ASSERTS_IN_LEN,
 929                             MC_CMD_GET_ASSERTS_OUT_LEN)];
 930         const char *reason;
 931         unsigned int flags;
 932         unsigned int index;
 933         unsigned int ofst;
 934         int retry;
 935         efx_rc_t rc;
 936
 937         /*
 938          * Before we attempt to chat to the MC, we should verify that the MC
 939          * isn't in it's assertion handler, either due to a previous reboot,
 940          * or because we're reinitializing due to an eec_exception().
 941          *
 942          * Use GET_ASSERTS to read any assertion state that may be present.
 943          * Retry this command twice. Once because a boot-time assertion failure
 944          * might cause the 1st MCDI request to fail. And once again because
 945          * we might race with efx_mcdi_exit_assertion_handler() running on
 946          * partner port(s) on the same NIC.
 947          */
 948         retry = 2;
 949         do {
 950                 (void) memset(payload, 0, sizeof (payload));
 951                 req.emr_cmd = MC_CMD_GET_ASSERTS;
 952                 req.emr_in_buf = payload;
 953                 req.emr_in_length = MC_CMD_GET_ASSERTS_IN_LEN;
 954                 req.emr_out_buf = payload;
 955                 req.emr_out_length = MC_CMD_GET_ASSERTS_OUT_LEN;
 956
 957                 MCDI_IN_SET_DWORD(req, GET_ASSERTS_IN_CLEAR, 1);
 958                 efx_mcdi_execute_quiet(enp, &req);
 959
 960         } while ((req.emr_rc == EINTR || req.emr_rc == EIO) && retry-- > 0);
 961
 962         if (req.emr_rc != 0) {
 963                 if (req.emr_rc == EACCES) {
 964                         /* Unprivileged functions cannot clear assertions. */
 965                         goto out;
 966                 }
 967                 rc = req.emr_rc;
 968                 goto fail1;
 969         }
 970
 971         if (req.emr_out_length_used < MC_CMD_GET_ASSERTS_OUT_LEN) {
 972                 rc = EMSGSIZE;
 973                 goto fail2;
 974         }
 975
 976         /* Print out any assertion state recorded */
 977         flags = MCDI_OUT_DWORD(req, GET_ASSERTS_OUT_GLOBAL_FLAGS);
 978         if (flags == MC_CMD_GET_ASSERTS_FLAGS_NO_FAILS)
 979                 return (0);
 980
 981         reason = (flags == MC_CMD_GET_ASSERTS_FLAGS_SYS_FAIL)
 982                 ? "system-level assertion"
 983                 : (flags == MC_CMD_GET_ASSERTS_FLAGS_THR_FAIL)
 984                 ? "thread-level assertion"
 985                 : (flags == MC_CMD_GET_ASSERTS_FLAGS_WDOG_FIRED)
 986                 ? "watchdog reset"
 987                 : (flags == MC_CMD_GET_ASSERTS_FLAGS_ADDR_TRAP)
 988                 ? "illegal address trap"
 989                 : "unknown assertion";
 990         EFSYS_PROBE3(mcpu_assertion,
 991             const char *, reason, unsigned int,
 992             MCDI_OUT_DWORD(req, GET_ASSERTS_OUT_SAVED_PC_OFFS),
 993             unsigned int,
 994             MCDI_OUT_DWORD(req, GET_ASSERTS_OUT_THREAD_OFFS));
 995
 996         /* Print out the registers (r1 ... r31) */
 997         ofst = MC_CMD_GET_ASSERTS_OUT_GP_REGS_OFFS_OFST;
 998         for (index = 1;
 999                 index < 1 + MC_CMD_GET_ASSERTS_OUT_GP_REGS_OFFS_NUM;
1000                 index++) {
1001                 EFSYS_PROBE2(mcpu_register, unsigned int, index, unsigned int,
1002                             EFX_DWORD_FIELD(*MCDI_OUT(req, efx_dword_t, ofst),
1003                                             EFX_DWORD_0));
1004                 ofst += sizeof (efx_dword_t);
1005         }
1006         EFSYS_ASSERT(ofst <= MC_CMD_GET_ASSERTS_OUT_LEN);
1007
1008 out:
1009         return (0);
1010
1011 fail2:
1012         EFSYS_PROBE(fail2);
1013 fail1:
1014         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1015
1016         return (rc);
1017 }
1018
1019
1020 /*
1021  * Internal routines for for specific MCDI requests.
1022  */
1023
1024         __checkReturn   efx_rc_t
1025 efx_mcdi_drv_attach(
1026         __in            efx_nic_t *enp,
1027         __in            boolean_t attach)
1028 {
1029         efx_nic_cfg_t *encp = &(enp->en_nic_cfg);
1030         efx_mcdi_req_t req;
1031         uint8_t payload[MAX(MC_CMD_DRV_ATTACH_IN_LEN,
1032                             MC_CMD_DRV_ATTACH_EXT_OUT_LEN)];
1033         uint32_t flags;
1034         efx_rc_t rc;
1035
1036         (void) memset(payload, 0, sizeof (payload));
1037         req.emr_cmd = MC_CMD_DRV_ATTACH;
1038         req.emr_in_buf = payload;
1039         req.emr_in_length = MC_CMD_DRV_ATTACH_IN_LEN;
1040         req.emr_out_buf = payload;
1041         req.emr_out_length = MC_CMD_DRV_ATTACH_EXT_OUT_LEN;
1042
1043         /*
1044          * Use DONT_CARE for the datapath firmware type to ensure that the
1045          * driver can attach to an unprivileged function. The datapath firmware
1046          * type to use is controlled by the 'sfboot' utility.
1047          */
1048         MCDI_IN_SET_DWORD(req, DRV_ATTACH_IN_NEW_STATE, attach ? 1 : 0);
1049         MCDI_IN_SET_DWORD(req, DRV_ATTACH_IN_UPDATE, 1);
1050         MCDI_IN_SET_DWORD(req, DRV_ATTACH_IN_FIRMWARE_ID, MC_CMD_FW_DONT_CARE);
1051
1052         efx_mcdi_execute(enp, &req);
1053
1054         if (req.emr_rc != 0) {
1055                 rc = req.emr_rc;
1056                 goto fail1;
1057         }
1058
1059         if (req.emr_out_length_used < MC_CMD_DRV_ATTACH_OUT_LEN) {
1060                 rc = EMSGSIZE;
1061                 goto fail2;
1062         }
1063
1064         if (attach == B_FALSE) {
1065                 flags = 0;
1066         } else if (enp->en_family == EFX_FAMILY_SIENA) {
1067                 efx_mcdi_iface_t *emip = &(enp->en_mcdi.em_emip);
1068
1069                 /* Create synthetic privileges for Siena functions */
1070                 flags = EFX_NIC_FUNC_LINKCTRL | EFX_NIC_FUNC_TRUSTED;
1071                 if (emip->emi_port == 1)
1072                         flags |= EFX_NIC_FUNC_PRIMARY;
1073         } else {
1074                 EFX_STATIC_ASSERT(EFX_NIC_FUNC_PRIMARY ==
1075                     (1u << MC_CMD_DRV_ATTACH_EXT_OUT_FLAG_PRIMARY));
1076                 EFX_STATIC_ASSERT(EFX_NIC_FUNC_LINKCTRL ==
1077                     (1u << MC_CMD_DRV_ATTACH_EXT_OUT_FLAG_LINKCTRL));
1078                 EFX_STATIC_ASSERT(EFX_NIC_FUNC_TRUSTED ==
1079                     (1u << MC_CMD_DRV_ATTACH_EXT_OUT_FLAG_TRUSTED));
1080
1081                 /* Save function privilege flags (EF10 and later) */
1082                 if (req.emr_out_length_used < MC_CMD_DRV_ATTACH_EXT_OUT_LEN) {
1083                         rc = EMSGSIZE;
1084                         goto fail3;
1085                 }
1086                 flags = MCDI_OUT_DWORD(req, DRV_ATTACH_EXT_OUT_FUNC_FLAGS);
1087         }
1088         encp->enc_func_flags = flags;
1089
1090         return (0);
1091
1092 fail3:
1093         EFSYS_PROBE(fail3);
1094 fail2:
1095         EFSYS_PROBE(fail2);
1096 fail1:
1097         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1098
1099         return (rc);
1100 }
1101
1102         __checkReturn           efx_rc_t
1103 efx_mcdi_get_board_cfg(
1104         __in                    efx_nic_t *enp,
1105         __out_opt               uint32_t *board_typep,
1106         __out_opt               efx_dword_t *capabilitiesp,
1107         __out_ecount_opt(6)     uint8_t mac_addrp[6])
1108 {
1109         efx_mcdi_iface_t *emip = &(enp->en_mcdi.em_emip);
1110         efx_mcdi_req_t req;
1111         uint8_t payload[MAX(MC_CMD_GET_BOARD_CFG_IN_LEN,
1112                             MC_CMD_GET_BOARD_CFG_OUT_LENMIN)];
1113         efx_rc_t rc;
1114
1115         (void) memset(payload, 0, sizeof (payload));
1116         req.emr_cmd = MC_CMD_GET_BOARD_CFG;
1117         req.emr_in_buf = payload;
1118         req.emr_in_length = MC_CMD_GET_BOARD_CFG_IN_LEN;
1119         req.emr_out_buf = payload;
1120         req.emr_out_length = MC_CMD_GET_BOARD_CFG_OUT_LENMIN;
1121
1122         efx_mcdi_execute(enp, &req);
1123
1124         if (req.emr_rc != 0) {
1125                 rc = req.emr_rc;
1126                 goto fail1;
1127         }
1128
1129         if (req.emr_out_length_used < MC_CMD_GET_BOARD_CFG_OUT_LENMIN) {
1130                 rc = EMSGSIZE;
1131                 goto fail2;
1132         }
1133
1134         if (mac_addrp != NULL) {
1135                 uint8_t *addrp;
1136
1137                 if (emip->emi_port == 1) {
1138                         addrp = MCDI_OUT2(req, uint8_t,
1139                             GET_BOARD_CFG_OUT_MAC_ADDR_BASE_PORT0);
1140                 } else if (emip->emi_port == 2) {
1141                         addrp = MCDI_OUT2(req, uint8_t,
1142                             GET_BOARD_CFG_OUT_MAC_ADDR_BASE_PORT1);
1143                 } else {
1144                         rc = EINVAL;
1145                         goto fail3;
1146                 }
1147
1148                 EFX_MAC_ADDR_COPY(mac_addrp, addrp);
1149         }
1150
1151         if (capabilitiesp != NULL) {
1152                 if (emip->emi_port == 1) {
1153                         *capabilitiesp = *MCDI_OUT2(req, efx_dword_t,
1154                             GET_BOARD_CFG_OUT_CAPABILITIES_PORT0);
1155                 } else if (emip->emi_port == 2) {
1156                         *capabilitiesp = *MCDI_OUT2(req, efx_dword_t,
1157                             GET_BOARD_CFG_OUT_CAPABILITIES_PORT1);
1158                 } else {
1159                         rc = EINVAL;
1160                         goto fail4;
1161                 }
1162         }
1163
1164         if (board_typep != NULL) {
1165                 *board_typep = MCDI_OUT_DWORD(req,
1166                     GET_BOARD_CFG_OUT_BOARD_TYPE);
1167         }
1168
1169         return (0);
1170
1171 fail4:
1172         EFSYS_PROBE(fail4);
1173 fail3:
1174         EFSYS_PROBE(fail3);
1175 fail2:
1176         EFSYS_PROBE(fail2);
1177 fail1:
1178         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1179
1180         return (rc);
1181 }
1182
1183         __checkReturn   efx_rc_t
1184 efx_mcdi_get_resource_limits(
1185         __in            efx_nic_t *enp,
1186         __out_opt       uint32_t *nevqp,
1187         __out_opt       uint32_t *nrxqp,
1188         __out_opt       uint32_t *ntxqp)
1189 {
1190         efx_mcdi_req_t req;
1191         uint8_t payload[MAX(MC_CMD_GET_RESOURCE_LIMITS_IN_LEN,
1192                             MC_CMD_GET_RESOURCE_LIMITS_OUT_LEN)];
1193         efx_rc_t rc;
1194
1195         (void) memset(payload, 0, sizeof (payload));
1196         req.emr_cmd = MC_CMD_GET_RESOURCE_LIMITS;
1197         req.emr_in_buf = payload;
1198         req.emr_in_length = MC_CMD_GET_RESOURCE_LIMITS_IN_LEN;
1199         req.emr_out_buf = payload;
1200         req.emr_out_length = MC_CMD_GET_RESOURCE_LIMITS_OUT_LEN;
1201
1202         efx_mcdi_execute(enp, &req);
1203
1204         if (req.emr_rc != 0) {
1205                 rc = req.emr_rc;
1206                 goto fail1;
1207         }
1208
1209         if (req.emr_out_length_used < MC_CMD_GET_RESOURCE_LIMITS_OUT_LEN) {
1210                 rc = EMSGSIZE;
1211                 goto fail2;
1212         }
1213
1214         if (nevqp != NULL)
1215                 *nevqp = MCDI_OUT_DWORD(req, GET_RESOURCE_LIMITS_OUT_EVQ);
1216         if (nrxqp != NULL)
1217                 *nrxqp = MCDI_OUT_DWORD(req, GET_RESOURCE_LIMITS_OUT_RXQ);
1218         if (ntxqp != NULL)
1219                 *ntxqp = MCDI_OUT_DWORD(req, GET_RESOURCE_LIMITS_OUT_TXQ);
1220
1221         return (0);
1222
1223 fail2:
1224         EFSYS_PROBE(fail2);
1225 fail1:
1226         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1227
1228         return (rc);
1229 }
1230
1231         __checkReturn   efx_rc_t
1232 efx_mcdi_get_phy_cfg(
1233         __in            efx_nic_t *enp)
1234 {
1235         efx_port_t *epp = &(enp->en_port);
1236         efx_nic_cfg_t *encp = &(enp->en_nic_cfg);
1237         efx_mcdi_req_t req;
1238         uint8_t payload[MAX(MC_CMD_GET_PHY_CFG_IN_LEN,
1239                             MC_CMD_GET_PHY_CFG_OUT_LEN)];
1240         efx_rc_t rc;
1241
1242         (void) memset(payload, 0, sizeof (payload));
1243         req.emr_cmd = MC_CMD_GET_PHY_CFG;
1244         req.emr_in_buf = payload;
1245         req.emr_in_length = MC_CMD_GET_PHY_CFG_IN_LEN;
1246         req.emr_out_buf = payload;
1247         req.emr_out_length = MC_CMD_GET_PHY_CFG_OUT_LEN;
1248
1249         efx_mcdi_execute(enp, &req);
1250
1251         if (req.emr_rc != 0) {
1252                 rc = req.emr_rc;
1253                 goto fail1;
1254         }
1255
1256         if (req.emr_out_length_used < MC_CMD_GET_PHY_CFG_OUT_LEN) {
1257                 rc = EMSGSIZE;
1258                 goto fail2;
1259         }
1260
1261         encp->enc_phy_type = MCDI_OUT_DWORD(req, GET_PHY_CFG_OUT_TYPE);
1262 #if EFSYS_OPT_NAMES
1263         (void) strncpy(encp->enc_phy_name,
1264                 MCDI_OUT2(req, char, GET_PHY_CFG_OUT_NAME),
1265                 MIN(sizeof (encp->enc_phy_name) - 1,
1266                     MC_CMD_GET_PHY_CFG_OUT_NAME_LEN));
1267 #endif  /* EFSYS_OPT_NAMES */
1268         (void) memset(encp->enc_phy_revision, 0,
1269             sizeof (encp->enc_phy_revision));
1270         memcpy(encp->enc_phy_revision,
1271                 MCDI_OUT2(req, char, GET_PHY_CFG_OUT_REVISION),
1272                 MIN(sizeof (encp->enc_phy_revision) - 1,
1273                     MC_CMD_GET_PHY_CFG_OUT_REVISION_LEN));
1274 #if EFSYS_OPT_PHY_LED_CONTROL
1275         encp->enc_led_mask = ((1 << EFX_PHY_LED_DEFAULT) |
1276                             (1 << EFX_PHY_LED_OFF) |
1277                             (1 << EFX_PHY_LED_ON));
1278 #endif  /* EFSYS_OPT_PHY_LED_CONTROL */
1279
1280 #if EFSYS_OPT_PHY_PROPS
1281         encp->enc_phy_nprops  = 0;
1282 #endif  /* EFSYS_OPT_PHY_PROPS */
1283
1284         /* Get the media type of the fixed port, if recognised. */
1285         EFX_STATIC_ASSERT(MC_CMD_MEDIA_XAUI == EFX_PHY_MEDIA_XAUI);
1286         EFX_STATIC_ASSERT(MC_CMD_MEDIA_CX4 == EFX_PHY_MEDIA_CX4);
1287         EFX_STATIC_ASSERT(MC_CMD_MEDIA_KX4 == EFX_PHY_MEDIA_KX4);
1288         EFX_STATIC_ASSERT(MC_CMD_MEDIA_XFP == EFX_PHY_MEDIA_XFP);
1289         EFX_STATIC_ASSERT(MC_CMD_MEDIA_SFP_PLUS == EFX_PHY_MEDIA_SFP_PLUS);
1290         EFX_STATIC_ASSERT(MC_CMD_MEDIA_BASE_T == EFX_PHY_MEDIA_BASE_T);
1291         EFX_STATIC_ASSERT(MC_CMD_MEDIA_QSFP_PLUS == EFX_PHY_MEDIA_QSFP_PLUS);
1292         epp->ep_fixed_port_type =
1293                 MCDI_OUT_DWORD(req, GET_PHY_CFG_OUT_MEDIA_TYPE);
1294         if (epp->ep_fixed_port_type >= EFX_PHY_MEDIA_NTYPES)
1295                 epp->ep_fixed_port_type = EFX_PHY_MEDIA_INVALID;
1296
1297         epp->ep_phy_cap_mask =
1298                 MCDI_OUT_DWORD(req, GET_PHY_CFG_OUT_SUPPORTED_CAP);
1299 #if EFSYS_OPT_PHY_FLAGS
1300         encp->enc_phy_flags_mask = MCDI_OUT_DWORD(req, GET_PHY_CFG_OUT_FLAGS);
1301 #endif  /* EFSYS_OPT_PHY_FLAGS */
1302
1303         encp->enc_port = (uint8_t)MCDI_OUT_DWORD(req, GET_PHY_CFG_OUT_PRT);
1304
1305         /* Populate internal state */
1306         encp->enc_mcdi_mdio_channel =
1307                 (uint8_t)MCDI_OUT_DWORD(req, GET_PHY_CFG_OUT_CHANNEL);
1308
1309 #if EFSYS_OPT_PHY_STATS
1310         encp->enc_mcdi_phy_stat_mask =
1311                 MCDI_OUT_DWORD(req, GET_PHY_CFG_OUT_STATS_MASK);
1312 #endif  /* EFSYS_OPT_PHY_STATS */
1313
1314 #if EFSYS_OPT_BIST
1315         encp->enc_bist_mask = 0;
1316         if (MCDI_OUT_DWORD_FIELD(req, GET_PHY_CFG_OUT_FLAGS,
1317             GET_PHY_CFG_OUT_BIST_CABLE_SHORT))
1318                 encp->enc_bist_mask |= (1 << EFX_BIST_TYPE_PHY_CABLE_SHORT);
1319         if (MCDI_OUT_DWORD_FIELD(req, GET_PHY_CFG_OUT_FLAGS,
1320             GET_PHY_CFG_OUT_BIST_CABLE_LONG))
1321                 encp->enc_bist_mask |= (1 << EFX_BIST_TYPE_PHY_CABLE_LONG);
1322         if (MCDI_OUT_DWORD_FIELD(req, GET_PHY_CFG_OUT_FLAGS,
1323             GET_PHY_CFG_OUT_BIST))
1324                 encp->enc_bist_mask |= (1 << EFX_BIST_TYPE_PHY_NORMAL);
1325 #endif  /* EFSYS_OPT_BIST */
1326
1327         return (0);
1328
1329 fail2:
1330         EFSYS_PROBE(fail2);
1331 fail1:
1332         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1333
1334         return (rc);
1335 }
1336
1337         __checkReturn           efx_rc_t
1338 efx_mcdi_firmware_update_supported(
1339         __in                    efx_nic_t *enp,
1340         __out                   boolean_t *supportedp)
1341 {
1342         efx_mcdi_ops_t *emcop = enp->en_mcdi.em_emcop;
1343         efx_rc_t rc;
1344
1345         if (emcop != NULL) {
1346                 if ((rc = emcop->emco_feature_supported(enp,
1347                             EFX_MCDI_FEATURE_FW_UPDATE, supportedp)) != 0)
1348                         goto fail1;
1349         } else {
1350                 /* Earlier devices always supported updates */
1351                 *supportedp = B_TRUE;
1352         }
1353
1354         return (0);
1355
1356 fail1:
1357         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1358
1359         return (rc);
1360 }
1361
1362         __checkReturn           efx_rc_t
1363 efx_mcdi_macaddr_change_supported(
1364         __in                    efx_nic_t *enp,
1365         __out                   boolean_t *supportedp)
1366 {
1367         efx_mcdi_ops_t *emcop = enp->en_mcdi.em_emcop;
1368         efx_rc_t rc;
1369
1370         if (emcop != NULL) {
1371                 if ((rc = emcop->emco_feature_supported(enp,
1372                             EFX_MCDI_FEATURE_MACADDR_CHANGE, supportedp)) != 0)
1373                         goto fail1;
1374         } else {
1375                 /* Earlier devices always supported MAC changes */
1376                 *supportedp = B_TRUE;
1377         }
1378
1379         return (0);
1380
1381 fail1:
1382         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1383
1384         return (rc);
1385 }
1386
1387         __checkReturn           efx_rc_t
1388 efx_mcdi_link_control_supported(
1389         __in                    efx_nic_t *enp,
1390         __out                   boolean_t *supportedp)
1391 {
1392         efx_mcdi_ops_t *emcop = enp->en_mcdi.em_emcop;
1393         efx_rc_t rc;
1394
1395         if (emcop != NULL) {
1396                 if ((rc = emcop->emco_feature_supported(enp,
1397                             EFX_MCDI_FEATURE_LINK_CONTROL, supportedp)) != 0)
1398                         goto fail1;
1399         } else {
1400                 /* Earlier devices always supported link control */
1401                 *supportedp = B_TRUE;
1402         }
1403
1404         return (0);
1405
1406 fail1:
1407         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1408
1409         return (rc);
1410 }
1411
1412         __checkReturn           efx_rc_t
1413 efx_mcdi_mac_spoofing_supported(
1414         __in                    efx_nic_t *enp,
1415         __out                   boolean_t *supportedp)
1416 {
1417         efx_mcdi_ops_t *emcop = enp->en_mcdi.em_emcop;
1418         efx_rc_t rc;
1419
1420         if (emcop != NULL) {
1421                 if ((rc = emcop->emco_feature_supported(enp,
1422                             EFX_MCDI_FEATURE_MAC_SPOOFING, supportedp)) != 0)
1423                         goto fail1;
1424         } else {
1425                 /* Earlier devices always supported MAC spoofing */
1426                 *supportedp = B_TRUE;
1427         }
1428
1429         return (0);
1430
1431 fail1:
1432         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1433
1434         return (rc);
1435 }
1436
1437 #if EFSYS_OPT_BIST
1438
1439 #if EFSYS_OPT_HUNTINGTON
1440 /*
1441  * Enter bist offline mode. This is a fw mode which puts the NIC into a state
1442  * where memory BIST tests can be run and not much else can interfere or happen.
1443  * A reboot is required to exit this mode.
1444  */
1445         __checkReturn           efx_rc_t
1446 efx_mcdi_bist_enable_offline(
1447         __in                    efx_nic_t *enp)
1448 {
1449         efx_mcdi_req_t req;
1450         efx_rc_t rc;
1451
1452         EFX_STATIC_ASSERT(MC_CMD_ENABLE_OFFLINE_BIST_IN_LEN == 0);
1453         EFX_STATIC_ASSERT(MC_CMD_ENABLE_OFFLINE_BIST_OUT_LEN == 0);
1454
1455         req.emr_cmd = MC_CMD_ENABLE_OFFLINE_BIST;
1456         req.emr_in_buf = NULL;
1457         req.emr_in_length = 0;
1458         req.emr_out_buf = NULL;
1459         req.emr_out_length = 0;
1460
1461         efx_mcdi_execute(enp, &req);
1462
1463         if (req.emr_rc != 0) {
1464                 rc = req.emr_rc;
1465                 goto fail1;
1466         }
1467
1468         return (0);
1469
1470 fail1:
1471         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1472
1473         return (rc);
1474 }
1475 #endif /* EFSYS_OPT_HUNTINGTON */
1476
1477         __checkReturn           efx_rc_t
1478 efx_mcdi_bist_start(
1479         __in                    efx_nic_t *enp,
1480         __in                    efx_bist_type_t type)
1481 {
1482         efx_mcdi_req_t req;
1483         uint8_t payload[MAX(MC_CMD_START_BIST_IN_LEN,
1484                             MC_CMD_START_BIST_OUT_LEN)];
1485         efx_rc_t rc;
1486
1487         (void) memset(payload, 0, sizeof (payload));
1488         req.emr_cmd = MC_CMD_START_BIST;
1489         req.emr_in_buf = payload;
1490         req.emr_in_length = MC_CMD_START_BIST_IN_LEN;
1491         req.emr_out_buf = payload;
1492         req.emr_out_length = MC_CMD_START_BIST_OUT_LEN;
1493
1494         switch (type) {
1495         case EFX_BIST_TYPE_PHY_NORMAL:
1496                 MCDI_IN_SET_DWORD(req, START_BIST_IN_TYPE, MC_CMD_PHY_BIST);
1497                 break;
1498         case EFX_BIST_TYPE_PHY_CABLE_SHORT:
1499                 MCDI_IN_SET_DWORD(req, START_BIST_IN_TYPE,
1500                     MC_CMD_PHY_BIST_CABLE_SHORT);
1501                 break;
1502         case EFX_BIST_TYPE_PHY_CABLE_LONG:
1503                 MCDI_IN_SET_DWORD(req, START_BIST_IN_TYPE,
1504                     MC_CMD_PHY_BIST_CABLE_LONG);
1505                 break;
1506         case EFX_BIST_TYPE_MC_MEM:
1507                 MCDI_IN_SET_DWORD(req, START_BIST_IN_TYPE,
1508                     MC_CMD_MC_MEM_BIST);
1509                 break;
1510         case EFX_BIST_TYPE_SAT_MEM:
1511                 MCDI_IN_SET_DWORD(req, START_BIST_IN_TYPE,
1512                     MC_CMD_PORT_MEM_BIST);
1513                 break;
1514         case EFX_BIST_TYPE_REG:
1515                 MCDI_IN_SET_DWORD(req, START_BIST_IN_TYPE,
1516                     MC_CMD_REG_BIST);
1517                 break;
1518         default:
1519                 EFSYS_ASSERT(0);
1520         }
1521
1522         efx_mcdi_execute(enp, &req);
1523
1524         if (req.emr_rc != 0) {
1525                 rc = req.emr_rc;
1526                 goto fail1;
1527         }
1528
1529         return (0);
1530
1531 fail1:
1532         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1533
1534         return (rc);
1535 }
1536
1537 #endif /* EFSYS_OPT_BIST */
1538
1539
1540 /* Enable logging of some events (e.g. link state changes) */
1541         __checkReturn   efx_rc_t
1542 efx_mcdi_log_ctrl(
1543         __in            efx_nic_t *enp)
1544 {
1545         efx_mcdi_req_t req;
1546         uint8_t payload[MAX(MC_CMD_LOG_CTRL_IN_LEN,
1547                             MC_CMD_LOG_CTRL_OUT_LEN)];
1548         efx_rc_t rc;
1549
1550         (void) memset(payload, 0, sizeof (payload));
1551         req.emr_cmd = MC_CMD_LOG_CTRL;
1552         req.emr_in_buf = payload;
1553         req.emr_in_length = MC_CMD_LOG_CTRL_IN_LEN;
1554         req.emr_out_buf = payload;
1555         req.emr_out_length = MC_CMD_LOG_CTRL_OUT_LEN;
1556
1557         MCDI_IN_SET_DWORD(req, LOG_CTRL_IN_LOG_DEST,
1558                     MC_CMD_LOG_CTRL_IN_LOG_DEST_EVQ);
1559         MCDI_IN_SET_DWORD(req, LOG_CTRL_IN_LOG_DEST_EVQ, 0);
1560
1561         efx_mcdi_execute(enp, &req);
1562
1563         if (req.emr_rc != 0) {
1564                 rc = req.emr_rc;
1565                 goto fail1;
1566         }
1567
1568         return (0);
1569
1570 fail1:
1571         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1572
1573         return (rc);
1574 }
1575
1576
1577 #if EFSYS_OPT_MAC_STATS
1578
1579 typedef enum efx_stats_action_e
1580 {
1581         EFX_STATS_CLEAR,
1582         EFX_STATS_UPLOAD,
1583         EFX_STATS_ENABLE_NOEVENTS,
1584         EFX_STATS_ENABLE_EVENTS,
1585         EFX_STATS_DISABLE,
1586 } efx_stats_action_t;
1587
1588 static  __checkReturn   efx_rc_t
1589 efx_mcdi_mac_stats(
1590         __in            efx_nic_t *enp,
1591         __in_opt        efsys_mem_t *esmp,
1592         __in            efx_stats_action_t action)
1593 {
1594         efx_mcdi_req_t req;
1595         uint8_t payload[MAX(MC_CMD_MAC_STATS_IN_LEN,
1596                             MC_CMD_MAC_STATS_OUT_DMA_LEN)];
1597         int clear = (action == EFX_STATS_CLEAR);
1598         int upload = (action == EFX_STATS_UPLOAD);
1599         int enable = (action == EFX_STATS_ENABLE_NOEVENTS);
1600         int events = (action == EFX_STATS_ENABLE_EVENTS);
1601         int disable = (action == EFX_STATS_DISABLE);
1602         efx_rc_t rc;
1603
1604         (void) memset(payload, 0, sizeof (payload));
1605         req.emr_cmd = MC_CMD_MAC_STATS;
1606         req.emr_in_buf = payload;
1607         req.emr_in_length = MC_CMD_MAC_STATS_IN_LEN;
1608         req.emr_out_buf = payload;
1609         req.emr_out_length = MC_CMD_MAC_STATS_OUT_DMA_LEN;
1610
1611         MCDI_IN_POPULATE_DWORD_6(req, MAC_STATS_IN_CMD,
1612             MAC_STATS_IN_DMA, upload,
1613             MAC_STATS_IN_CLEAR, clear,
1614             MAC_STATS_IN_PERIODIC_CHANGE, enable | events | disable,
1615             MAC_STATS_IN_PERIODIC_ENABLE, enable | events,
1616             MAC_STATS_IN_PERIODIC_NOEVENT, !events,
1617             MAC_STATS_IN_PERIOD_MS, (enable | events) ? 1000: 0);
1618
1619         if (esmp != NULL) {
1620                 int bytes = MC_CMD_MAC_NSTATS * sizeof (uint64_t);
1621
1622                 EFX_STATIC_ASSERT(MC_CMD_MAC_NSTATS * sizeof (uint64_t) <=
1623                     EFX_MAC_STATS_SIZE);
1624
1625                 MCDI_IN_SET_DWORD(req, MAC_STATS_IN_DMA_ADDR_LO,
1626                             EFSYS_MEM_ADDR(esmp) & 0xffffffff);
1627                 MCDI_IN_SET_DWORD(req, MAC_STATS_IN_DMA_ADDR_HI,
1628                             EFSYS_MEM_ADDR(esmp) >> 32);
1629                 MCDI_IN_SET_DWORD(req, MAC_STATS_IN_DMA_LEN, bytes);
1630         } else {
1631                 EFSYS_ASSERT(!upload && !enable && !events);
1632         }
1633
1634         /*
1635          * NOTE: Do not use EVB_PORT_ID_ASSIGNED when disabling periodic stats,
1636          *       as this may fail (and leave periodic DMA enabled) if the
1637          *       vadapter has already been deleted.
1638          */
1639         MCDI_IN_SET_DWORD(req, MAC_STATS_IN_PORT_ID,
1640             (disable ? EVB_PORT_ID_NULL : enp->en_vport_id));
1641
1642         efx_mcdi_execute(enp, &req);
1643
1644         if (req.emr_rc != 0) {
1645                 /* EF10: Expect ENOENT if no DMA queues are initialised */
1646                 if ((req.emr_rc != ENOENT) ||
1647                     (enp->en_rx_qcount + enp->en_tx_qcount != 0)) {
1648                         rc = req.emr_rc;
1649                         goto fail1;
1650                 }
1651         }
1652
1653         return (0);
1654
1655 fail1:
1656         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1657
1658         return (rc);
1659 }
1660
1661         __checkReturn   efx_rc_t
1662 efx_mcdi_mac_stats_clear(
1663         __in            efx_nic_t *enp)
1664 {
1665         efx_rc_t rc;
1666
1667         if ((rc = efx_mcdi_mac_stats(enp, NULL, EFX_STATS_CLEAR)) != 0)
1668                 goto fail1;
1669
1670         return (0);
1671
1672 fail1:
1673         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1674
1675         return (rc);
1676 }
1677
1678         __checkReturn   efx_rc_t
1679 efx_mcdi_mac_stats_upload(
1680         __in            efx_nic_t *enp,
1681         __in            efsys_mem_t *esmp)
1682 {
1683         efx_rc_t rc;
1684
1685         /*
1686          * The MC DMAs aggregate statistics for our convenience, so we can
1687          * avoid having to pull the statistics buffer into the cache to
1688          * maintain cumulative statistics.
1689          */
1690         if ((rc = efx_mcdi_mac_stats(enp, esmp, EFX_STATS_UPLOAD)) != 0)
1691                 goto fail1;
1692
1693         return (0);
1694
1695 fail1:
1696         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1697
1698         return (rc);
1699 }
1700
1701         __checkReturn   efx_rc_t
1702 efx_mcdi_mac_stats_periodic(
1703         __in            efx_nic_t *enp,
1704         __in            efsys_mem_t *esmp,
1705         __in            uint16_t period,
1706         __in            boolean_t events)
1707 {
1708         efx_rc_t rc;
1709
1710         /*
1711          * The MC DMAs aggregate statistics for our convenience, so we can
1712          * avoid having to pull the statistics buffer into the cache to
1713          * maintain cumulative statistics.
1714          * Huntington uses a fixed 1sec period, so use that on Siena too.
1715          */
1716         if (period == 0)
1717                 rc = efx_mcdi_mac_stats(enp, NULL, EFX_STATS_DISABLE);
1718         else if (events)
1719                 rc = efx_mcdi_mac_stats(enp, esmp, EFX_STATS_ENABLE_EVENTS);
1720         else
1721                 rc = efx_mcdi_mac_stats(enp, esmp, EFX_STATS_ENABLE_NOEVENTS);
1722
1723         if (rc != 0)
1724                 goto fail1;
1725
1726         return (0);
1727
1728 fail1:
1729         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1730
1731         return (rc);
1732 }
1733
1734 #endif  /* EFSYS_OPT_MAC_STATS */
1735
1736 #if EFSYS_OPT_HUNTINGTON
1737
1738 /*
1739  * This function returns the pf and vf number of a function.  If it is a pf the
1740  * vf number is 0xffff.  The vf number is the index of the vf on that
1741  * function. So if you have 3 vfs on pf 0 the 3 vfs will return (pf=0,vf=0),
1742  * (pf=0,vf=1), (pf=0,vf=2) aand the pf will return (pf=0, vf=0xffff).
1743  */
1744         __checkReturn           efx_rc_t
1745 efx_mcdi_get_function_info(
1746         __in                    efx_nic_t *enp,
1747         __out                   uint32_t *pfp,
1748         __out_opt               uint32_t *vfp)
1749 {
1750         efx_mcdi_req_t req;
1751         uint8_t payload[MAX(MC_CMD_GET_FUNCTION_INFO_IN_LEN,
1752                             MC_CMD_GET_FUNCTION_INFO_OUT_LEN)];
1753         efx_rc_t rc;
1754
1755         (void) memset(payload, 0, sizeof (payload));
1756         req.emr_cmd = MC_CMD_GET_FUNCTION_INFO;
1757         req.emr_in_buf = payload;
1758         req.emr_in_length = MC_CMD_GET_FUNCTION_INFO_IN_LEN;
1759         req.emr_out_buf = payload;
1760         req.emr_out_length = MC_CMD_GET_FUNCTION_INFO_OUT_LEN;
1761
1762         efx_mcdi_execute(enp, &req);
1763
1764         if (req.emr_rc != 0) {
1765                 rc = req.emr_rc;
1766                 goto fail1;
1767         }
1768
1769         if (req.emr_out_length_used < MC_CMD_GET_FUNCTION_INFO_OUT_LEN) {
1770                 rc = EMSGSIZE;
1771                 goto fail2;
1772         }
1773
1774         *pfp = MCDI_OUT_DWORD(req, GET_FUNCTION_INFO_OUT_PF);
1775         if (vfp != NULL)
1776                 *vfp = MCDI_OUT_DWORD(req, GET_FUNCTION_INFO_OUT_VF);
1777
1778         return (0);
1779
1780 fail2:
1781         EFSYS_PROBE(fail2);
1782 fail1:
1783         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1784
1785         return (rc);
1786 }
1787
1788         __checkReturn           efx_rc_t
1789 efx_mcdi_privilege_mask(
1790         __in                    efx_nic_t *enp,
1791         __in                    uint32_t pf,
1792         __in                    uint32_t vf,
1793         __out                   uint32_t *maskp)
1794 {
1795         efx_mcdi_req_t req;
1796         uint8_t payload[MAX(MC_CMD_PRIVILEGE_MASK_IN_LEN,
1797                             MC_CMD_PRIVILEGE_MASK_OUT_LEN)];
1798         efx_rc_t rc;
1799
1800         (void) memset(payload, 0, sizeof (payload));
1801         req.emr_cmd = MC_CMD_PRIVILEGE_MASK;
1802         req.emr_in_buf = payload;
1803         req.emr_in_length = MC_CMD_PRIVILEGE_MASK_IN_LEN;
1804         req.emr_out_buf = payload;
1805         req.emr_out_length = MC_CMD_PRIVILEGE_MASK_OUT_LEN;
1806
1807         MCDI_IN_POPULATE_DWORD_2(req, PRIVILEGE_MASK_IN_FUNCTION,
1808             PRIVILEGE_MASK_IN_FUNCTION_PF, pf,
1809             PRIVILEGE_MASK_IN_FUNCTION_VF, vf);
1810
1811         efx_mcdi_execute(enp, &req);
1812
1813         if (req.emr_rc != 0) {
1814                 rc = req.emr_rc;
1815                 goto fail1;
1816         }
1817
1818         if (req.emr_out_length_used < MC_CMD_PRIVILEGE_MASK_OUT_LEN) {
1819                 rc = EMSGSIZE;
1820                 goto fail2;
1821         }
1822
1823         *maskp = MCDI_OUT_DWORD(req, PRIVILEGE_MASK_OUT_OLD_MASK);
1824
1825         return (0);
1826
1827 fail2:
1828         EFSYS_PROBE(fail2);
1829 fail1:
1830         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1831
1832         return (rc);
1833 }
1834
1835 #endif /* EFSYS_OPT_HUNTINGTON */
1836
1837         __checkReturn           efx_rc_t
1838 efx_mcdi_set_workaround(
1839         __in                    efx_nic_t *enp,
1840         __in                    uint32_t type,
1841         __in                    boolean_t enabled,
1842         __out_opt               uint32_t *flagsp)
1843 {
1844         efx_mcdi_req_t req;
1845         uint8_t payload[MAX(MC_CMD_WORKAROUND_IN_LEN,
1846                             MC_CMD_WORKAROUND_EXT_OUT_LEN)];
1847         efx_rc_t rc;
1848
1849         (void) memset(payload, 0, sizeof (payload));
1850         req.emr_cmd = MC_CMD_WORKAROUND;
1851         req.emr_in_buf = payload;
1852         req.emr_in_length = MC_CMD_WORKAROUND_IN_LEN;
1853         req.emr_out_buf = payload;
1854         req.emr_out_length = MC_CMD_WORKAROUND_OUT_LEN;
1855
1856         MCDI_IN_SET_DWORD(req, WORKAROUND_IN_TYPE, type);
1857         MCDI_IN_SET_DWORD(req, WORKAROUND_IN_ENABLED, enabled ? 1 : 0);
1858
1859         efx_mcdi_execute_quiet(enp, &req);
1860
1861         if (req.emr_rc != 0) {
1862                 rc = req.emr_rc;
1863                 goto fail1;
1864         }
1865
1866         if (flagsp != NULL) {
1867                 if (req.emr_out_length_used >= MC_CMD_WORKAROUND_EXT_OUT_LEN)
1868                         *flagsp = MCDI_OUT_DWORD(req, WORKAROUND_EXT_OUT_FLAGS);
1869                 else
1870                         *flagsp = 0;
1871         }
1872
1873         return (0);
1874
1875 fail1:
1876         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1877
1878         return (rc);
1879 }
1880
1881
1882         __checkReturn           efx_rc_t
1883 efx_mcdi_get_workarounds(
1884         __in                    efx_nic_t *enp,
1885         __out_opt               uint32_t *implementedp,
1886         __out_opt               uint32_t *enabledp)
1887 {
1888         efx_mcdi_req_t req;
1889         uint8_t payload[MC_CMD_GET_WORKAROUNDS_OUT_LEN];
1890         efx_rc_t rc;
1891
1892         (void) memset(payload, 0, sizeof (payload));
1893         req.emr_cmd = MC_CMD_GET_WORKAROUNDS;
1894         req.emr_in_buf = NULL;
1895         req.emr_in_length = 0;
1896         req.emr_out_buf = payload;
1897         req.emr_out_length = MC_CMD_GET_WORKAROUNDS_OUT_LEN;
1898
1899         efx_mcdi_execute(enp, &req);
1900
1901         if (req.emr_rc != 0) {
1902                 rc = req.emr_rc;
1903                 goto fail1;
1904         }
1905
1906         if (implementedp != NULL) {
1907                 *implementedp =
1908                     MCDI_OUT_DWORD(req, GET_WORKAROUNDS_OUT_IMPLEMENTED);
1909         }
1910
1911         if (enabledp != NULL) {
1912                 *enabledp = MCDI_OUT_DWORD(req, GET_WORKAROUNDS_OUT_ENABLED);
1913         }
1914
1915         return (0);
1916
1917 fail1:
1918         EFSYS_PROBE1(fail1, efx_rc_t, rc);
1919
1920         return (rc);
1921 }
1922
1923
1924 #endif  /* EFSYS_OPT_MCDI */