sys/dev/cxgbe/common/common.h

   1 /*-
   2  * SPDX-License-Identifier: BSD-2-Clause-FreeBSD
   3  *
   4  * Copyright (c) 2011 Chelsio Communications, Inc.
   5  * All rights reserved.
   6  *
   7  * Redistribution and use in source and binary forms, with or without
   8  * modification, are permitted provided that the following conditions
   9  * are met:
  10  * 1. Redistributions of source code must retain the above copyright
  11  *    notice, this list of conditions and the following disclaimer.
  12  * 2. Redistributions in binary form must reproduce the above copyright
  13  *    notice, this list of conditions and the following disclaimer in the
  14  *    documentation and/or other materials provided with the distribution.
  15  *
  16  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
  17  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  18  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  19  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
  20  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  21  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  22  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  23  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  24  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  25  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  26  * SUCH DAMAGE.
  27  *
  28  * $FreeBSD$
  29  *
  30  */
  31
  32 #ifndef __CHELSIO_COMMON_H
  33 #define __CHELSIO_COMMON_H
  34
  35 #include "t4_hw.h"
  36
  37 enum {
  38         MAX_NPORTS     = 4,     /* max # of ports */
  39         SERNUM_LEN     = 24,    /* Serial # length */
  40         EC_LEN         = 16,    /* E/C length */
  41         ID_LEN         = 16,    /* ID length */
  42         PN_LEN         = 16,    /* Part Number length */
  43         MD_LEN         = 16,    /* MFG diags version length */
  44         MACADDR_LEN    = 12,    /* MAC Address length */
  45 };
  46
  47 enum {
  48         T4_REGMAP_SIZE = (160 * 1024),
  49         T5_REGMAP_SIZE = (332 * 1024),
  50 };
  51
  52 enum { MEM_EDC0, MEM_EDC1, MEM_MC, MEM_MC0 = MEM_MC, MEM_MC1 };
  53
  54 enum dev_master { MASTER_CANT, MASTER_MAY, MASTER_MUST };
  55
  56 enum dev_state { DEV_STATE_UNINIT, DEV_STATE_INIT, DEV_STATE_ERR };
  57
  58 enum {
  59         PAUSE_RX      = 1 << 0,
  60         PAUSE_TX      = 1 << 1,
  61         PAUSE_AUTONEG = 1 << 2
  62 };
  63
  64 enum {
  65         /*
  66          * Real FECs.  In the same order as the FEC portion of caps32 so that
  67          * the code can do (fec & M_FW_PORT_CAP32_FEC) to get all the real FECs.
  68          */
  69         FEC_RS        = 1 << 0, /* Reed-Solomon */
  70         FEC_BASER_RS  = 1 << 1, /* BASE-R, aka Firecode */
  71         FEC_NONE      = 1 << 2, /* no FEC */
  72
  73         /*
  74          * Pseudo FECs that translate to real FECs.  The firmware knows nothing
  75          * about these and they start at M_FW_PORT_CAP32_FEC + 1.  AUTO should
  76          * be set all by itself.
  77          */
  78         FEC_AUTO      = 1 << 5,
  79         FEC_MODULE    = 1 << 6, /* FEC suggested by the cable/transceiver. */
  80 };
  81
  82 enum t4_bar2_qtype { T4_BAR2_QTYPE_EGRESS, T4_BAR2_QTYPE_INGRESS };
  83
  84 struct port_stats {
  85         u64 tx_octets;            /* total # of octets in good frames */
  86         u64 tx_frames;            /* all good frames */
  87         u64 tx_bcast_frames;      /* all broadcast frames */
  88         u64 tx_mcast_frames;      /* all multicast frames */
  89         u64 tx_ucast_frames;      /* all unicast frames */
  90         u64 tx_error_frames;      /* all error frames */
  91
  92         u64 tx_frames_64;         /* # of Tx frames in a particular range */
  93         u64 tx_frames_65_127;
  94         u64 tx_frames_128_255;
  95         u64 tx_frames_256_511;
  96         u64 tx_frames_512_1023;
  97         u64 tx_frames_1024_1518;
  98         u64 tx_frames_1519_max;
  99
 100         u64 tx_drop;              /* # of dropped Tx frames */
 101         u64 tx_pause;             /* # of transmitted pause frames */
 102         u64 tx_ppp0;              /* # of transmitted PPP prio 0 frames */
 103         u64 tx_ppp1;              /* # of transmitted PPP prio 1 frames */
 104         u64 tx_ppp2;              /* # of transmitted PPP prio 2 frames */
 105         u64 tx_ppp3;              /* # of transmitted PPP prio 3 frames */
 106         u64 tx_ppp4;              /* # of transmitted PPP prio 4 frames */
 107         u64 tx_ppp5;              /* # of transmitted PPP prio 5 frames */
 108         u64 tx_ppp6;              /* # of transmitted PPP prio 6 frames */
 109         u64 tx_ppp7;              /* # of transmitted PPP prio 7 frames */
 110
 111         u64 rx_octets;            /* total # of octets in good frames */
 112         u64 rx_frames;            /* all good frames */
 113         u64 rx_bcast_frames;      /* all broadcast frames */
 114         u64 rx_mcast_frames;      /* all multicast frames */
 115         u64 rx_ucast_frames;      /* all unicast frames */
 116         u64 rx_too_long;          /* # of frames exceeding MTU */
 117         u64 rx_jabber;            /* # of jabber frames */
 118         u64 rx_fcs_err;           /* # of received frames with bad FCS */
 119         u64 rx_len_err;           /* # of received frames with length error */
 120         u64 rx_symbol_err;        /* symbol errors */
 121         u64 rx_runt;              /* # of short frames */
 122
 123         u64 rx_frames_64;         /* # of Rx frames in a particular range */
 124         u64 rx_frames_65_127;
 125         u64 rx_frames_128_255;
 126         u64 rx_frames_256_511;
 127         u64 rx_frames_512_1023;
 128         u64 rx_frames_1024_1518;
 129         u64 rx_frames_1519_max;
 130
 131         u64 rx_pause;             /* # of received pause frames */
 132         u64 rx_ppp0;              /* # of received PPP prio 0 frames */
 133         u64 rx_ppp1;              /* # of received PPP prio 1 frames */
 134         u64 rx_ppp2;              /* # of received PPP prio 2 frames */
 135         u64 rx_ppp3;              /* # of received PPP prio 3 frames */
 136         u64 rx_ppp4;              /* # of received PPP prio 4 frames */
 137         u64 rx_ppp5;              /* # of received PPP prio 5 frames */
 138         u64 rx_ppp6;              /* # of received PPP prio 6 frames */
 139         u64 rx_ppp7;              /* # of received PPP prio 7 frames */
 140
 141         u64 rx_ovflow0;           /* drops due to buffer-group 0 overflows */
 142         u64 rx_ovflow1;           /* drops due to buffer-group 1 overflows */
 143         u64 rx_ovflow2;           /* drops due to buffer-group 2 overflows */
 144         u64 rx_ovflow3;           /* drops due to buffer-group 3 overflows */
 145         u64 rx_trunc0;            /* buffer-group 0 truncated packets */
 146         u64 rx_trunc1;            /* buffer-group 1 truncated packets */
 147         u64 rx_trunc2;            /* buffer-group 2 truncated packets */
 148         u64 rx_trunc3;            /* buffer-group 3 truncated packets */
 149 };
 150
 151 struct lb_port_stats {
 152         u64 octets;
 153         u64 frames;
 154         u64 bcast_frames;
 155         u64 mcast_frames;
 156         u64 ucast_frames;
 157         u64 error_frames;
 158
 159         u64 frames_64;
 160         u64 frames_65_127;
 161         u64 frames_128_255;
 162         u64 frames_256_511;
 163         u64 frames_512_1023;
 164         u64 frames_1024_1518;
 165         u64 frames_1519_max;
 166
 167         u64 drop;
 168
 169         u64 ovflow0;
 170         u64 ovflow1;
 171         u64 ovflow2;
 172         u64 ovflow3;
 173         u64 trunc0;
 174         u64 trunc1;
 175         u64 trunc2;
 176         u64 trunc3;
 177 };
 178
 179 struct tp_tcp_stats {
 180         u32 tcp_out_rsts;
 181         u64 tcp_in_segs;
 182         u64 tcp_out_segs;
 183         u64 tcp_retrans_segs;
 184 };
 185
 186 struct tp_usm_stats {
 187         u32 frames;
 188         u32 drops;
 189         u64 octets;
 190 };
 191
 192 struct tp_tid_stats {
 193         u32 del;
 194         u32 inv;
 195         u32 act;
 196         u32 pas;
 197 };
 198
 199 struct tp_fcoe_stats {
 200         u32 frames_ddp;
 201         u32 frames_drop;
 202         u64 octets_ddp;
 203 };
 204
 205 struct tp_err_stats {
 206         u32 mac_in_errs[MAX_NCHAN];
 207         u32 hdr_in_errs[MAX_NCHAN];
 208         u32 tcp_in_errs[MAX_NCHAN];
 209         u32 tnl_cong_drops[MAX_NCHAN];
 210         u32 ofld_chan_drops[MAX_NCHAN];
 211         u32 tnl_tx_drops[MAX_NCHAN];
 212         u32 ofld_vlan_drops[MAX_NCHAN];
 213         u32 tcp6_in_errs[MAX_NCHAN];
 214         u32 ofld_no_neigh;
 215         u32 ofld_cong_defer;
 216 };
 217
 218 struct tp_tnl_stats {
 219         u32 out_pkt[MAX_NCHAN];
 220         u32 in_pkt[MAX_NCHAN];
 221 };
 222
 223 struct tp_proxy_stats {
 224         u32 proxy[MAX_NCHAN];
 225 };
 226
 227 struct tp_cpl_stats {
 228         u32 req[MAX_NCHAN];
 229         u32 rsp[MAX_NCHAN];
 230 };
 231
 232 struct tp_rdma_stats {
 233         u32 rqe_dfr_pkt;
 234         u32 rqe_dfr_mod;
 235 };
 236
 237 struct sge_params {
 238         int timer_val[SGE_NTIMERS];     /* final, scaled values */
 239         int counter_val[SGE_NCOUNTERS];
 240         int fl_starve_threshold;
 241         int fl_starve_threshold2;
 242         int page_shift;
 243         int eq_s_qpp;
 244         int iq_s_qpp;
 245         int spg_len;
 246         int pad_boundary;
 247         int pack_boundary;
 248         int fl_pktshift;
 249         u32 sge_control;
 250         u32 sge_fl_buffer_size[SGE_FLBUF_SIZES];
 251 };
 252
 253 struct tp_params {
 254         unsigned int tre;            /* log2 of core clocks per TP tick */
 255         unsigned int dack_re;        /* DACK timer resolution */
 256         unsigned int la_mask;        /* what events are recorded by TP LA */
 257         unsigned short tx_modq[MAX_NCHAN];  /* channel to modulation queue map */
 258
 259         uint32_t vlan_pri_map;
 260         uint32_t ingress_config;
 261         uint32_t max_rx_pdu;
 262         uint32_t max_tx_pdu;
 263         uint64_t hash_filter_mask;
 264         bool rx_pkt_encap;
 265
 266         int8_t fcoe_shift;
 267         int8_t port_shift;
 268         int8_t vnic_shift;
 269         int8_t vlan_shift;
 270         int8_t tos_shift;
 271         int8_t protocol_shift;
 272         int8_t ethertype_shift;
 273         int8_t macmatch_shift;
 274         int8_t matchtype_shift;
 275         int8_t frag_shift;
 276 };
 277
 278 struct vpd_params {
 279         unsigned int cclk;
 280         u8 ec[EC_LEN + 1];
 281         u8 sn[SERNUM_LEN + 1];
 282         u8 id[ID_LEN + 1];
 283         u8 pn[PN_LEN + 1];
 284         u8 na[MACADDR_LEN + 1];
 285         u8 md[MD_LEN + 1];
 286 };
 287
 288 struct pci_params {
 289         unsigned int vpd_cap_addr;
 290         unsigned int mps;
 291         unsigned short speed;
 292         unsigned short width;
 293 };
 294
 295 /*
 296  * Firmware device log.
 297  */
 298 struct devlog_params {
 299         u32 memtype;                    /* which memory (FW_MEMTYPE_* ) */
 300         u32 start;                      /* start of log in firmware memory */
 301         u32 size;                       /* size of log */
 302         u32 addr;                       /* start address in flat addr space */
 303 };
 304
 305 /* Stores chip specific parameters */
 306 struct chip_params {
 307         u8 nchan;
 308         u8 pm_stats_cnt;
 309         u8 cng_ch_bits_log;             /* congestion channel map bits width */
 310         u8 nsched_cls;
 311         u8 cim_num_obq;
 312         u16 mps_rplc_size;
 313         u16 vfcount;
 314         u32 sge_fl_db;
 315         u16 mps_tcam_size;
 316         u16 rss_nentries;
 317 };
 318
 319 /* VF-only parameters. */
 320
 321 /*
 322  * Global Receive Side Scaling (RSS) parameters in host-native format.
 323  */
 324 struct rss_params {
 325         unsigned int mode;              /* RSS mode */
 326         union {
 327             struct {
 328                 u_int synmapen:1;       /* SYN Map Enable */
 329                 u_int syn4tupenipv6:1;  /* enable hashing 4-tuple IPv6 SYNs */
 330                 u_int syn2tupenipv6:1;  /* enable hashing 2-tuple IPv6 SYNs */
 331                 u_int syn4tupenipv4:1;  /* enable hashing 4-tuple IPv4 SYNs */
 332                 u_int syn2tupenipv4:1;  /* enable hashing 2-tuple IPv4 SYNs */
 333                 u_int ofdmapen:1;       /* Offload Map Enable */
 334                 u_int tnlmapen:1;       /* Tunnel Map Enable */
 335                 u_int tnlalllookup:1;   /* Tunnel All Lookup */
 336                 u_int hashtoeplitz:1;   /* use Toeplitz hash */
 337             } basicvirtual;
 338         } u;
 339 };
 340
 341 /*
 342  * Maximum resources provisioned for a PCI VF.
 343  */
 344 struct vf_resources {
 345         unsigned int nvi;               /* N virtual interfaces */
 346         unsigned int neq;               /* N egress Qs */
 347         unsigned int nethctrl;          /* N egress ETH or CTRL Qs */
 348         unsigned int niqflint;          /* N ingress Qs/w free list(s) & intr */
 349         unsigned int niq;               /* N ingress Qs */
 350         unsigned int tc;                /* PCI-E traffic class */
 351         unsigned int pmask;             /* port access rights mask */
 352         unsigned int nexactf;           /* N exact MPS filters */
 353         unsigned int r_caps;            /* read capabilities */
 354         unsigned int wx_caps;           /* write/execute capabilities */
 355 };
 356
 357 struct adapter_params {
 358         struct sge_params sge;
 359         struct tp_params  tp;           /* PF-only */
 360         struct vpd_params vpd;
 361         struct pci_params pci;
 362         struct devlog_params devlog;    /* PF-only */
 363         struct rss_params rss;          /* VF-only */
 364         struct vf_resources vfres;      /* VF-only */
 365         unsigned int core_vdd;
 366
 367         unsigned int sf_size;             /* serial flash size in bytes */
 368         unsigned int sf_nsec;             /* # of flash sectors */
 369
 370         unsigned int fw_vers;           /* firmware version */
 371         unsigned int bs_vers;           /* bootstrap version */
 372         unsigned int tp_vers;           /* TP microcode version */
 373         unsigned int er_vers;           /* expansion ROM version */
 374         unsigned int scfg_vers;         /* Serial Configuration version */
 375         unsigned int vpd_vers;          /* VPD version */
 376
 377         unsigned short mtus[NMTUS];
 378         unsigned short a_wnd[NCCTRL_WIN];
 379         unsigned short b_wnd[NCCTRL_WIN];
 380
 381         unsigned int cim_la_size;
 382
 383         uint8_t nports;         /* # of ethernet ports */
 384         uint8_t portvec;
 385         unsigned int chipid:4;  /* chip ID.  T4 = 4, T5 = 5, ... */
 386         unsigned int rev:4;     /* chip revision */
 387         unsigned int fpga:1;    /* this is an FPGA */
 388         unsigned int offload:1; /* hw is TOE capable, fw has divvied up card
 389                                    resources for TOE operation. */
 390         unsigned int bypass:1;  /* this is a bypass card */
 391         unsigned int ethoffload:1;
 392         unsigned int hash_filter:1;
 393         unsigned int filter2_wr_support:1;
 394         unsigned int port_caps32:1;
 395         unsigned int smac_add_support:1;
 396
 397         unsigned int ofldq_wr_cred;
 398         unsigned int eo_wr_cred;
 399
 400         unsigned int max_ordird_qp;
 401         unsigned int max_ird_adapter;
 402
 403         uint32_t mps_bg_map;    /* rx buffer group map for all ports (upto 4) */
 404
 405         bool ulptx_memwrite_dsgl;       /* use of T5 DSGL allowed */
 406         bool fr_nsmr_tpte_wr_support;   /* FW support for FR_NSMR_TPTE_WR */
 407         bool viid_smt_extn_support;     /* FW returns vin, vfvld & smt index? */
 408         unsigned int max_pkts_per_eth_tx_pkts_wr;
 409 };
 410
 411 #define CHELSIO_T4              0x4
 412 #define CHELSIO_T5              0x5
 413 #define CHELSIO_T6              0x6
 414
 415 /*
 416  * State needed to monitor the forward progress of SGE Ingress DMA activities
 417  * and possible hangs.
 418  */
 419 struct sge_idma_monitor_state {
 420         unsigned int idma_1s_thresh;    /* 1s threshold in Core Clock ticks */
 421         unsigned int idma_stalled[2];   /* synthesized stalled timers in HZ */
 422         unsigned int idma_state[2];     /* IDMA Hang detect state */
 423         unsigned int idma_qid[2];       /* IDMA Hung Ingress Queue ID */
 424         unsigned int idma_warn[2];      /* time to warning in HZ */
 425 };
 426
 427 struct trace_params {
 428         u32 data[TRACE_LEN / 4];
 429         u32 mask[TRACE_LEN / 4];
 430         unsigned short snap_len;
 431         unsigned short min_len;
 432         unsigned char skip_ofst;
 433         unsigned char skip_len;
 434         unsigned char invert;
 435         unsigned char port;
 436 };
 437
 438 struct link_config {
 439         /* OS-specific code owns all the requested_* fields. */
 440         int8_t requested_aneg;  /* link autonegotiation */
 441         int8_t requested_fc;    /* flow control */
 442         int8_t requested_fec;   /* FEC */
 443         u_int requested_speed;  /* speed (Mbps) */
 444
 445         uint32_t pcaps;         /* link capabilities */
 446         uint32_t acaps;         /* advertised capabilities */
 447         uint32_t lpacaps;       /* peer advertised capabilities */
 448         u_int speed;            /* actual link speed (Mbps) */
 449         int8_t fc;              /* actual link flow control */
 450         int8_t fec_hint;        /* cable/transceiver recommended fec */
 451         int8_t fec;             /* actual FEC */
 452         bool link_ok;           /* link up? */
 453         uint8_t link_down_rc;   /* link down reason */
 454 };
 455
 456 #include "adapter.h"
 457
 458 #ifndef PCI_VENDOR_ID_CHELSIO
 459 # define PCI_VENDOR_ID_CHELSIO 0x1425
 460 #endif
 461
 462 #define for_each_port(adapter, iter) \
 463         for (iter = 0; iter < (adapter)->params.nports; ++iter)
 464
 465 static inline int is_ftid(const struct adapter *sc, u_int tid)
 466 {
 467
 468         return (sc->tids.nftids > 0 && tid >= sc->tids.ftid_base &&
 469             tid <= sc->tids.ftid_end);
 470 }
 471
 472 static inline int is_hpftid(const struct adapter *sc, u_int tid)
 473 {
 474
 475         return (sc->tids.nhpftids > 0 && tid >= sc->tids.hpftid_base &&
 476             tid <= sc->tids.hpftid_end);
 477 }
 478
 479 static inline int is_etid(const struct adapter *sc, u_int tid)
 480 {
 481
 482         return (sc->tids.netids > 0 && tid >= sc->tids.etid_base &&
 483             tid <= sc->tids.etid_end);
 484 }
 485
 486 static inline int is_offload(const struct adapter *adap)
 487 {
 488         return adap->params.offload;
 489 }
 490
 491 static inline int is_ethoffload(const struct adapter *adap)
 492 {
 493         return adap->params.ethoffload;
 494 }
 495
 496 static inline int is_hashfilter(const struct adapter *adap)
 497 {
 498         return adap->params.hash_filter;
 499 }
 500
 501 static inline int chip_id(struct adapter *adap)
 502 {
 503         return adap->params.chipid;
 504 }
 505
 506 static inline int chip_rev(struct adapter *adap)
 507 {
 508         return adap->params.rev;
 509 }
 510
 511 static inline int is_t4(struct adapter *adap)
 512 {
 513         return adap->params.chipid == CHELSIO_T4;
 514 }
 515
 516 static inline int is_t5(struct adapter *adap)
 517 {
 518         return adap->params.chipid == CHELSIO_T5;
 519 }
 520
 521 static inline int is_t6(struct adapter *adap)
 522 {
 523         return adap->params.chipid == CHELSIO_T6;
 524 }
 525
 526 static inline int is_fpga(struct adapter *adap)
 527 {
 528          return adap->params.fpga;
 529 }
 530
 531 static inline unsigned int core_ticks_per_usec(const struct adapter *adap)
 532 {
 533         return adap->params.vpd.cclk / 1000;
 534 }
 535
 536 static inline unsigned int us_to_core_ticks(const struct adapter *adap,
 537                                             unsigned int us)
 538 {
 539         return (us * adap->params.vpd.cclk) / 1000;
 540 }
 541
 542 static inline unsigned int core_ticks_to_us(const struct adapter *adapter,
 543                                             unsigned int ticks)
 544 {
 545         /* add Core Clock / 2 to round ticks to nearest uS */
 546         return ((ticks * 1000 + adapter->params.vpd.cclk/2) /
 547                 adapter->params.vpd.cclk);
 548 }
 549
 550 static inline unsigned int dack_ticks_to_usec(const struct adapter *adap,
 551                                               unsigned int ticks)
 552 {
 553         return (ticks << adap->params.tp.dack_re) / core_ticks_per_usec(adap);
 554 }
 555
 556 static inline u_int us_to_tcp_ticks(const struct adapter *adap, u_long us)
 557 {
 558
 559         return (us * adap->params.vpd.cclk / 1000 >> adap->params.tp.tre);
 560 }
 561
 562 static inline u_int tcp_ticks_to_us(const struct adapter *adap, u_int ticks)
 563 {
 564         return ((uint64_t)ticks << adap->params.tp.tre) /
 565             core_ticks_per_usec(adap);
 566 }
 567
 568 void t4_set_reg_field(struct adapter *adap, unsigned int addr, u32 mask, u32 val);
 569
 570 int t4_wr_mbox_meat_timeout(struct adapter *adap, int mbox, const void *cmd,
 571                             int size, void *rpl, bool sleep_ok, int timeout);
 572 int t4_wr_mbox_meat(struct adapter *adap, int mbox, const void *cmd, int size,
 573                     void *rpl, bool sleep_ok);
 574
 575 static inline int t4_wr_mbox_timeout(struct adapter *adap, int mbox,
 576                                      const void *cmd, int size, void *rpl,
 577                                      int timeout)
 578 {
 579         return t4_wr_mbox_meat_timeout(adap, mbox, cmd, size, rpl, true,
 580                                        timeout);
 581 }
 582
 583 static inline int t4_wr_mbox(struct adapter *adap, int mbox, const void *cmd,
 584                              int size, void *rpl)
 585 {
 586         return t4_wr_mbox_meat(adap, mbox, cmd, size, rpl, true);
 587 }
 588
 589 static inline int t4_wr_mbox_ns(struct adapter *adap, int mbox, const void *cmd,
 590                                 int size, void *rpl)
 591 {
 592         return t4_wr_mbox_meat(adap, mbox, cmd, size, rpl, false);
 593 }
 594
 595 void t4_read_indirect(struct adapter *adap, unsigned int addr_reg,
 596                       unsigned int data_reg, u32 *vals, unsigned int nregs,
 597                       unsigned int start_idx);
 598 void t4_write_indirect(struct adapter *adap, unsigned int addr_reg,
 599                        unsigned int data_reg, const u32 *vals,
 600                        unsigned int nregs, unsigned int start_idx);
 601
 602 u32 t4_hw_pci_read_cfg4(adapter_t *adapter, int reg);
 603
 604 struct fw_filter_wr;
 605
 606 void t4_intr_enable(struct adapter *adapter);
 607 void t4_intr_disable(struct adapter *adapter);
 608 void t4_intr_clear(struct adapter *adapter);
 609 int t4_slow_intr_handler(struct adapter *adapter, bool verbose);
 610
 611 int t4_hash_mac_addr(const u8 *addr);
 612 int t4_link_l1cfg(struct adapter *adap, unsigned int mbox, unsigned int port,
 613                   struct link_config *lc);
 614 int t4_restart_aneg(struct adapter *adap, unsigned int mbox, unsigned int port);
 615 int t4_seeprom_read(struct adapter *adapter, u32 addr, u32 *data);
 616 int t4_seeprom_write(struct adapter *adapter, u32 addr, u32 data);
 617 int t4_eeprom_ptov(unsigned int phys_addr, unsigned int fn, unsigned int sz);
 618 int t4_seeprom_wp(struct adapter *adapter, int enable);
 619 int t4_read_flash(struct adapter *adapter, unsigned int addr, unsigned int nwords,
 620                   u32 *data, int byte_oriented);
 621 int t4_write_flash(struct adapter *adapter, unsigned int addr,
 622                    unsigned int n, const u8 *data, int byte_oriented);
 623 int t4_load_fw(struct adapter *adapter, const u8 *fw_data, unsigned int size);
 624 int t4_fwcache(struct adapter *adap, enum fw_params_param_dev_fwcache op);
 625 int t5_fw_init_extern_mem(struct adapter *adap);
 626 int t4_load_bootcfg(struct adapter *adapter, const u8 *cfg_data, unsigned int size);
 627 int t4_load_boot(struct adapter *adap, u8 *boot_data,
 628                  unsigned int boot_addr, unsigned int size);
 629 int t4_flash_erase_sectors(struct adapter *adapter, int start, int end);
 630 int t4_flash_cfg_addr(struct adapter *adapter);
 631 int t4_load_cfg(struct adapter *adapter, const u8 *cfg_data, unsigned int size);
 632 int t4_get_fw_version(struct adapter *adapter, u32 *vers);
 633 int t4_get_fw_hdr(struct adapter *adapter, struct fw_hdr *hdr);
 634 int t4_get_bs_version(struct adapter *adapter, u32 *vers);
 635 int t4_get_tp_version(struct adapter *adapter, u32 *vers);
 636 int t4_get_exprom_version(struct adapter *adapter, u32 *vers);
 637 int t4_get_scfg_version(struct adapter *adapter, u32 *vers);
 638 int t4_get_vpd_version(struct adapter *adapter, u32 *vers);
 639 int t4_get_version_info(struct adapter *adapter);
 640 int t4_init_hw(struct adapter *adapter, u32 fw_params);
 641 const struct chip_params *t4_get_chip_params(int chipid);
 642 int t4_prep_adapter(struct adapter *adapter, u32 *buf);
 643 int t4_shutdown_adapter(struct adapter *adapter);
 644 int t4_init_devlog_params(struct adapter *adapter, int fw_attach);
 645 int t4_init_sge_params(struct adapter *adapter);
 646 int t4_init_tp_params(struct adapter *adap, bool sleep_ok);
 647 int t4_filter_field_shift(const struct adapter *adap, int filter_sel);
 648 int t4_port_init(struct adapter *adap, int mbox, int pf, int vf, int port_id);
 649 void t4_fatal_err(struct adapter *adapter, bool fw_error);
 650 int t4_set_trace_filter(struct adapter *adapter, const struct trace_params *tp,
 651                         int filter_index, int enable);
 652 void t4_get_trace_filter(struct adapter *adapter, struct trace_params *tp,
 653                          int filter_index, int *enabled);
 654 int t4_config_rss_range(struct adapter *adapter, int mbox, unsigned int viid,
 655                         int start, int n, const u16 *rspq, unsigned int nrspq);
 656 int t4_config_glbl_rss(struct adapter *adapter, int mbox, unsigned int mode,
 657                        unsigned int flags);
 658 int t4_config_vi_rss(struct adapter *adapter, int mbox, unsigned int viid,
 659                      unsigned int flags, unsigned int defq, unsigned int skeyidx,
 660                      unsigned int skey);
 661 int t4_read_rss(struct adapter *adapter, u16 *entries);
 662 void t4_read_rss_key(struct adapter *adapter, u32 *key, bool sleep_ok);
 663 void t4_write_rss_key(struct adapter *adap, const u32 *key, int idx,
 664                       bool sleep_ok);
 665 void t4_read_rss_pf_config(struct adapter *adapter, unsigned int index,
 666                            u32 *valp, bool sleep_ok);
 667 void t4_write_rss_pf_config(struct adapter *adapter, unsigned int index,
 668                             u32 val, bool sleep_ok);
 669 void t4_read_rss_vf_config(struct adapter *adapter, unsigned int index,
 670                            u32 *vfl, u32 *vfh, bool sleep_ok);
 671 void t4_write_rss_vf_config(struct adapter *adapter, unsigned int index,
 672                             u32 vfl, u32 vfh, bool sleep_ok);
 673 u32 t4_read_rss_pf_map(struct adapter *adapter, bool sleep_ok);
 674 void t4_write_rss_pf_map(struct adapter *adapter, u32 pfmap, bool sleep_ok);
 675 u32 t4_read_rss_pf_mask(struct adapter *adapter, bool sleep_ok);
 676 void t4_write_rss_pf_mask(struct adapter *adapter, u32 pfmask, bool sleep_ok);
 677 int t4_mps_set_active_ports(struct adapter *adap, unsigned int port_mask);
 678 void t4_pmtx_get_stats(struct adapter *adap, u32 cnt[], u64 cycles[]);
 679 void t4_pmrx_get_stats(struct adapter *adap, u32 cnt[], u64 cycles[]);
 680 void t4_read_cimq_cfg(struct adapter *adap, u16 *base, u16 *size, u16 *thres);
 681 int t4_read_cim_ibq(struct adapter *adap, unsigned int qid, u32 *data, size_t n);
 682 int t4_read_cim_obq(struct adapter *adap, unsigned int qid, u32 *data, size_t n);
 683 int t4_cim_read(struct adapter *adap, unsigned int addr, unsigned int n,
 684                 unsigned int *valp);
 685 int t4_cim_write(struct adapter *adap, unsigned int addr, unsigned int n,
 686                  const unsigned int *valp);
 687 int t4_cim_ctl_read(struct adapter *adap, unsigned int addr, unsigned int n,
 688                     unsigned int *valp);
 689 int t4_cim_read_la(struct adapter *adap, u32 *la_buf, unsigned int *wrptr);
 690 void t4_cim_read_pif_la(struct adapter *adap, u32 *pif_req, u32 *pif_rsp,
 691                 unsigned int *pif_req_wrptr, unsigned int *pif_rsp_wrptr);
 692 void t4_cim_read_ma_la(struct adapter *adap, u32 *ma_req, u32 *ma_rsp);
 693 int t4_get_flash_params(struct adapter *adapter);
 694
 695 u32 t4_read_pcie_cfg4(struct adapter *adap, int reg, int drv_fw_attach);
 696 int t4_mc_read(struct adapter *adap, int idx, u32 addr,
 697                __be32 *data, u64 *parity);
 698 int t4_edc_read(struct adapter *adap, int idx, u32 addr, __be32 *data, u64 *parity);
 699 int t4_mem_read(struct adapter *adap, int mtype, u32 addr, u32 size,
 700                 __be32 *data);
 701 void t4_idma_monitor_init(struct adapter *adapter,
 702                           struct sge_idma_monitor_state *idma);
 703 void t4_idma_monitor(struct adapter *adapter,
 704                      struct sge_idma_monitor_state *idma,
 705                      int hz, int ticks);
 706 int t4_set_vf_mac(struct adapter *adapter, unsigned int pf, unsigned int vf,
 707                   unsigned int naddr, u8 *addr);
 708
 709 unsigned int t4_get_regs_len(struct adapter *adapter);
 710 void t4_get_regs(struct adapter *adap, u8 *buf, size_t buf_size);
 711
 712 const char *t4_get_port_type_description(enum fw_port_type port_type);
 713 void t4_get_port_stats(struct adapter *adap, int idx, struct port_stats *p);
 714 void t4_get_port_stats_offset(struct adapter *adap, int idx,
 715                 struct port_stats *stats,
 716                 struct port_stats *offset);
 717 void t4_get_lb_stats(struct adapter *adap, int idx, struct lb_port_stats *p);
 718 void t4_clr_port_stats(struct adapter *adap, int idx);
 719
 720 void t4_read_mtu_tbl(struct adapter *adap, u16 *mtus, u8 *mtu_log);
 721 void t4_read_cong_tbl(struct adapter *adap, u16 incr[NMTUS][NCCTRL_WIN]);
 722 void t4_read_pace_tbl(struct adapter *adap, unsigned int pace_vals[NTX_SCHED]);
 723 void t4_get_tx_sched(struct adapter *adap, unsigned int sched, unsigned int *kbps,
 724                      unsigned int *ipg, bool sleep_ok);
 725 void t4_tp_wr_bits_indirect(struct adapter *adap, unsigned int addr,
 726                             unsigned int mask, unsigned int val);
 727 void t4_tp_read_la(struct adapter *adap, u64 *la_buf, unsigned int *wrptr);
 728 void t4_tp_get_err_stats(struct adapter *adap, struct tp_err_stats *st,
 729                          bool sleep_ok);
 730 void t4_tp_get_tnl_stats(struct adapter *adap, struct tp_tnl_stats *st,
 731                          bool sleep_ok);
 732 void t4_tp_get_proxy_stats(struct adapter *adap, struct tp_proxy_stats *st,
 733                            bool sleep_ok);
 734 void t4_tp_get_cpl_stats(struct adapter *adap, struct tp_cpl_stats *st,
 735                          bool sleep_ok);
 736 void t4_tp_get_rdma_stats(struct adapter *adap, struct tp_rdma_stats *st,
 737                           bool sleep_ok);
 738 void t4_get_usm_stats(struct adapter *adap, struct tp_usm_stats *st,
 739                       bool sleep_ok);
 740 void t4_tp_get_tid_stats(struct adapter *adap, struct tp_tid_stats *st,
 741                       bool sleep_ok);
 742 void t4_tp_get_tcp_stats(struct adapter *adap, struct tp_tcp_stats *v4,
 743                          struct tp_tcp_stats *v6, bool sleep_ok);
 744 void t4_get_fcoe_stats(struct adapter *adap, unsigned int idx,
 745                        struct tp_fcoe_stats *st, bool sleep_ok);
 746 void t4_load_mtus(struct adapter *adap, const unsigned short *mtus,
 747                   const unsigned short *alpha, const unsigned short *beta);
 748
 749 void t4_ulprx_read_la(struct adapter *adap, u32 *la_buf);
 750
 751 int t4_set_sched_bps(struct adapter *adap, int sched, unsigned int kbps);
 752 int t4_set_sched_ipg(struct adapter *adap, int sched, unsigned int ipg);
 753 int t4_set_pace_tbl(struct adapter *adap, const unsigned int *pace_vals,
 754                     unsigned int start, unsigned int n);
 755 void t4_get_chan_txrate(struct adapter *adap, u64 *nic_rate, u64 *ofld_rate);
 756 int t4_set_filter_mode(struct adapter *adap, unsigned int mode_map,
 757     bool sleep_ok);
 758 void t4_mk_filtdelwr(unsigned int ftid, struct fw_filter_wr *wr, int qid);
 759
 760 void t4_wol_magic_enable(struct adapter *adap, unsigned int port, const u8 *addr);
 761 int t4_wol_pat_enable(struct adapter *adap, unsigned int port, unsigned int map,
 762                       u64 mask0, u64 mask1, unsigned int crc, bool enable);
 763
 764 int t4_fw_hello(struct adapter *adap, unsigned int mbox, unsigned int evt_mbox,
 765                 enum dev_master master, enum dev_state *state);
 766 int t4_fw_bye(struct adapter *adap, unsigned int mbox);
 767 int t4_fw_reset(struct adapter *adap, unsigned int mbox, int reset);
 768 int t4_fw_halt(struct adapter *adap, unsigned int mbox, int force);
 769 int t4_fw_restart(struct adapter *adap, unsigned int mbox);
 770 int t4_fw_upgrade(struct adapter *adap, unsigned int mbox,
 771                   const u8 *fw_data, unsigned int size, int force);
 772 int t4_fw_initialize(struct adapter *adap, unsigned int mbox);
 773 int t4_query_params(struct adapter *adap, unsigned int mbox, unsigned int pf,
 774                     unsigned int vf, unsigned int nparams, const u32 *params,
 775                     u32 *val);
 776 int t4_query_params_rw(struct adapter *adap, unsigned int mbox, unsigned int pf,
 777                        unsigned int vf, unsigned int nparams, const u32 *params,
 778                        u32 *val, int rw);
 779 int t4_set_params_timeout(struct adapter *adap, unsigned int mbox,
 780                           unsigned int pf, unsigned int vf,
 781                           unsigned int nparams, const u32 *params,
 782                           const u32 *val, int timeout);
 783 int t4_set_params(struct adapter *adap, unsigned int mbox, unsigned int pf,
 784                   unsigned int vf, unsigned int nparams, const u32 *params,
 785                   const u32 *val);
 786 int t4_cfg_pfvf(struct adapter *adap, unsigned int mbox, unsigned int pf,
 787                 unsigned int vf, unsigned int txq, unsigned int txq_eth_ctrl,
 788                 unsigned int rxqi, unsigned int rxq, unsigned int tc,
 789                 unsigned int vi, unsigned int cmask, unsigned int pmask,
 790                 unsigned int exactf, unsigned int rcaps, unsigned int wxcaps);
 791 int t4_alloc_vi_func(struct adapter *adap, unsigned int mbox,
 792                      unsigned int port, unsigned int pf, unsigned int vf,
 793                      unsigned int nmac, u8 *mac, u16 *rss_size,
 794                      uint8_t *vfvld, uint16_t *vin,
 795                      unsigned int portfunc, unsigned int idstype);
 796 int t4_alloc_vi(struct adapter *adap, unsigned int mbox, unsigned int port,
 797                 unsigned int pf, unsigned int vf, unsigned int nmac, u8 *mac,
 798                 u16 *rss_size, uint8_t *vfvld, uint16_t *vin);
 799 int t4_free_vi(struct adapter *adap, unsigned int mbox,
 800                unsigned int pf, unsigned int vf,
 801                unsigned int viid);
 802 int t4_set_rxmode(struct adapter *adap, unsigned int mbox, unsigned int viid,
 803                   int mtu, int promisc, int all_multi, int bcast, int vlanex,
 804                   bool sleep_ok);
 805 int t4_alloc_mac_filt(struct adapter *adap, unsigned int mbox, unsigned int viid,
 806                       bool free, unsigned int naddr, const u8 **addr, u16 *idx,
 807                       u64 *hash, bool sleep_ok);
 808 int t4_free_mac_filt(struct adapter *adap, unsigned int mbox,
 809                       unsigned int viid, unsigned int naddr,
 810                       const u8 **addr, bool sleep_ok);
 811 int t4_free_encap_mac_filt(struct adapter *adap, unsigned int viid,
 812                            int idx, bool sleep_ok);
 813 int t4_free_raw_mac_filt(struct adapter *adap, unsigned int viid,
 814                          const u8 *addr, const u8 *mask, unsigned int idx,
 815                          u8 lookup_type, u8 port_id, bool sleep_ok);
 816 int t4_alloc_raw_mac_filt(struct adapter *adap, unsigned int viid,
 817                           const u8 *addr, const u8 *mask, unsigned int idx,
 818                           u8 lookup_type, u8 port_id, bool sleep_ok);
 819 int t4_alloc_encap_mac_filt(struct adapter *adap, unsigned int viid,
 820                             const u8 *addr, const u8 *mask, unsigned int vni,
 821                             unsigned int vni_mask, u8 dip_hit, u8 lookup_type,
 822                             bool sleep_ok);
 823 int t4_change_mac(struct adapter *adap, unsigned int mbox, unsigned int viid,
 824                   int idx, const u8 *addr, bool persist, uint16_t *smt_idx);
 825 int t4_del_mac(struct adapter *adap, unsigned int mbox, unsigned int viid,
 826                const u8 *addr, bool smac);
 827 int t4_add_mac(struct adapter *adap, unsigned int mbox, unsigned int viid,
 828                int idx, const u8 *addr, bool persist, u8 *smt_idx, bool smac);
 829 int t4_set_addr_hash(struct adapter *adap, unsigned int mbox, unsigned int viid,
 830                      bool ucast, u64 vec, bool sleep_ok);
 831 int t4_enable_vi_params(struct adapter *adap, unsigned int mbox,
 832                         unsigned int viid, bool rx_en, bool tx_en, bool dcb_en);
 833 int t4_enable_vi(struct adapter *adap, unsigned int mbox, unsigned int viid,
 834                  bool rx_en, bool tx_en);
 835 int t4_identify_port(struct adapter *adap, unsigned int mbox, unsigned int viid,
 836                      unsigned int nblinks);
 837 int t4_mdio_rd(struct adapter *adap, unsigned int mbox, unsigned int phy_addr,
 838                unsigned int mmd, unsigned int reg, unsigned int *valp);
 839 int t4_mdio_wr(struct adapter *adap, unsigned int mbox, unsigned int phy_addr,
 840                unsigned int mmd, unsigned int reg, unsigned int val);
 841 int t4_i2c_io(struct adapter *adap, unsigned int mbox,
 842               int port, unsigned int devid,
 843               unsigned int offset, unsigned int len,
 844               u8 *buf, bool write);
 845 int t4_i2c_rd(struct adapter *adap, unsigned int mbox,
 846               int port, unsigned int devid,
 847               unsigned int offset, unsigned int len,
 848               u8 *buf);
 849 int t4_i2c_wr(struct adapter *adap, unsigned int mbox,
 850               int port, unsigned int devid,
 851               unsigned int offset, unsigned int len,
 852               u8 *buf);
 853 int t4_iq_stop(struct adapter *adap, unsigned int mbox, unsigned int pf,
 854                unsigned int vf, unsigned int iqtype, unsigned int iqid,
 855                unsigned int fl0id, unsigned int fl1id);
 856 int t4_iq_free(struct adapter *adap, unsigned int mbox, unsigned int pf,
 857                unsigned int vf, unsigned int iqtype, unsigned int iqid,
 858                unsigned int fl0id, unsigned int fl1id);
 859 int t4_eth_eq_stop(struct adapter *adap, unsigned int mbox, unsigned int pf,
 860                    unsigned int vf, unsigned int eqid);
 861 int t4_eth_eq_free(struct adapter *adap, unsigned int mbox, unsigned int pf,
 862                    unsigned int vf, unsigned int eqid);
 863 int t4_ctrl_eq_free(struct adapter *adap, unsigned int mbox, unsigned int pf,
 864                     unsigned int vf, unsigned int eqid);
 865 int t4_ofld_eq_free(struct adapter *adap, unsigned int mbox, unsigned int pf,
 866                     unsigned int vf, unsigned int eqid);
 867 int t4_sge_ctxt_rd(struct adapter *adap, unsigned int mbox, unsigned int cid,
 868                    enum ctxt_type ctype, u32 *data);
 869 int t4_sge_ctxt_rd_bd(struct adapter *adap, unsigned int cid, enum ctxt_type ctype,
 870                       u32 *data);
 871 int t4_sge_ctxt_flush(struct adapter *adap, unsigned int mbox, int ctxt_type);
 872 const char *t4_link_down_rc_str(unsigned char link_down_rc);
 873 int t4_update_port_info(struct port_info *pi);
 874 int t4_handle_fw_rpl(struct adapter *adap, const __be64 *rpl);
 875 int t4_fwaddrspace_write(struct adapter *adap, unsigned int mbox, u32 addr, u32 val);
 876 int t4_sched_config(struct adapter *adapter, int type, int minmaxen,
 877                     int sleep_ok);
 878 int t4_sched_params(struct adapter *adapter, int type, int level, int mode,
 879                     int rateunit, int ratemode, int channel, int cl,
 880                     int minrate, int maxrate, int weight, int pktsize,
 881                     int burstsize, int sleep_ok);
 882 int t4_sched_params_ch_rl(struct adapter *adapter, int channel, int ratemode,
 883                           unsigned int maxrate, int sleep_ok);
 884 int t4_sched_params_cl_wrr(struct adapter *adapter, int channel, int cl,
 885                            int weight, int sleep_ok);
 886 int t4_sched_params_cl_rl_kbps(struct adapter *adapter, int channel, int cl,
 887                                int mode, unsigned int maxrate, int pktsize,
 888                                int sleep_ok);
 889 int t4_config_watchdog(struct adapter *adapter, unsigned int mbox,
 890                        unsigned int pf, unsigned int vf,
 891                        unsigned int timeout, unsigned int action);
 892 int t4_get_devlog_level(struct adapter *adapter, unsigned int *level);
 893 int t4_set_devlog_level(struct adapter *adapter, unsigned int level);
 894 void t4_sge_decode_idma_state(struct adapter *adapter, int state);
 895
 896 void t4_tp_pio_read(struct adapter *adap, u32 *buff, u32 nregs,
 897                     u32 start_index, bool sleep_ok);
 898 void t4_tp_pio_write(struct adapter *adap, const u32 *buff, u32 nregs,
 899                      u32 start_index, bool sleep_ok);
 900 void t4_tp_tm_pio_read(struct adapter *adap, u32 *buff, u32 nregs,
 901                        u32 start_index, bool sleep_ok);
 902 void t4_tp_mib_read(struct adapter *adap, u32 *buff, u32 nregs,
 903                     u32 start_index, bool sleep_ok);
 904 int t4_configure_ringbb(struct adapter *adap);
 905 int t4_configure_add_smac(struct adapter *adap);
 906 int t4_set_vlan_acl(struct adapter *adap, unsigned int mbox, unsigned int vf,
 907                     u16 vlan);
 908
 909 static inline int t4vf_query_params(struct adapter *adapter,
 910                                     unsigned int nparams, const u32 *params,
 911                                     u32 *vals)
 912 {
 913         return t4_query_params(adapter, 0, 0, 0, nparams, params, vals);
 914 }
 915
 916 static inline int t4vf_set_params(struct adapter *adapter,
 917                                   unsigned int nparams, const u32 *params,
 918                                   const u32 *vals)
 919 {
 920         return t4_set_params(adapter, 0, 0, 0, nparams, params, vals);
 921 }
 922
 923 static inline int t4vf_wr_mbox(struct adapter *adap, const void *cmd,
 924                                int size, void *rpl)
 925 {
 926         return t4_wr_mbox(adap, adap->mbox, cmd, size, rpl);
 927 }
 928
 929 int t4vf_wait_dev_ready(struct adapter *adapter);
 930 int t4vf_fw_reset(struct adapter *adapter);
 931 int t4vf_get_sge_params(struct adapter *adapter);
 932 int t4vf_get_rss_glb_config(struct adapter *adapter);
 933 int t4vf_get_vfres(struct adapter *adapter);
 934 int t4vf_prep_adapter(struct adapter *adapter);
 935 int t4vf_get_vf_mac(struct adapter *adapter, unsigned int port,
 936                     unsigned int *naddr, u8 *addr);
 937 int t4_bar2_sge_qregs(struct adapter *adapter, unsigned int qid,
 938                 enum t4_bar2_qtype qtype, int user, u64 *pbar2_qoffset,
 939                 unsigned int *pbar2_qid);
 940 unsigned int fwcap_to_speed(uint32_t caps);
 941 uint32_t speed_to_fwcap(unsigned int speed);
 942 uint32_t fwcap_top_speed(uint32_t caps);
 943
 944 static inline int
 945 port_top_speed(const struct port_info *pi)
 946 {
 947
 948         /* Mbps -> Gbps */
 949         return (fwcap_to_speed(pi->link_cfg.pcaps) / 1000);
 950 }
 951
 952 #endif /* __CHELSIO_COMMON_H */