sys/net/if.c

   1 /*-
   2  * Copyright (c) 1980, 1986, 1993
   3  *      The Regents of the University of California.  All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *    notice, this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright
  11  *    notice, this list of conditions and the following disclaimer in the
  12  *    documentation and/or other materials provided with the distribution.
  13  * 4. Neither the name of the University nor the names of its contributors
  14  *    may be used to endorse or promote products derived from this software
  15  *    without specific prior written permission.
  16  *
  17  * THIS SOFTWARE IS PROVIDED BY THE REGENTS AND CONTRIBUTORS ``AS IS'' AND
  18  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  19  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  20  * ARE DISCLAIMED.  IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
  21  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  22  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
  23  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
  24  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
  25  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
  26  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  27  * SUCH DAMAGE.
  28  *
  29  *      @(#)if.c        8.5 (Berkeley) 1/9/95
  30  * $FreeBSD$
  31  */
  32
  33 #include "opt_compat.h"
  34 #include "opt_inet6.h"
  35 #include "opt_inet.h"
  36
  37 #include <sys/param.h>
  38 #include <sys/types.h>
  39 #include <sys/conf.h>
  40 #include <sys/malloc.h>
  41 #include <sys/sbuf.h>
  42 #include <sys/bus.h>
  43 #include <sys/mbuf.h>
  44 #include <sys/systm.h>
  45 #include <sys/priv.h>
  46 #include <sys/proc.h>
  47 #include <sys/socket.h>
  48 #include <sys/socketvar.h>
  49 #include <sys/protosw.h>
  50 #include <sys/kernel.h>
  51 #include <sys/lock.h>
  52 #include <sys/refcount.h>
  53 #include <sys/module.h>
  54 #include <sys/rwlock.h>
  55 #include <sys/sockio.h>
  56 #include <sys/syslog.h>
  57 #include <sys/sysctl.h>
  58 #include <sys/taskqueue.h>
  59 #include <sys/domain.h>
  60 #include <sys/jail.h>
  61 #include <sys/priv.h>
  62
  63 #include <machine/stdarg.h>
  64 #include <vm/uma.h>
  65
  66 #include <net/if.h>
  67 #include <net/if_arp.h>
  68 #include <net/if_clone.h>
  69 #include <net/if_dl.h>
  70 #include <net/if_types.h>
  71 #include <net/if_var.h>
  72 #include <net/radix.h>
  73 #include <net/route.h>
  74 #include <net/vnet.h>
  75
  76 #if defined(INET) || defined(INET6)
  77 #include <net/ethernet.h>
  78 #include <netinet/in.h>
  79 #include <netinet/in_var.h>
  80 #include <netinet/ip.h>
  81 #include <netinet/ip_carp.h>
  82 #ifdef INET
  83 #include <netinet/if_ether.h>
  84 #endif /* INET */
  85 #ifdef INET6
  86 #include <netinet6/in6_var.h>
  87 #include <netinet6/in6_ifattach.h>
  88 #endif /* INET6 */
  89 #endif /* INET || INET6 */
  90
  91 #include <security/mac/mac_framework.h>
  92
  93 #ifdef COMPAT_FREEBSD32
  94 #include <sys/mount.h>
  95 #include <compat/freebsd32/freebsd32.h>
  96 #endif
  97
  98 struct ifindex_entry {
  99         struct  ifnet *ife_ifnet;
 100 };
 101
 102 SYSCTL_NODE(_net, PF_LINK, link, CTLFLAG_RW, 0, "Link layers");
 103 SYSCTL_NODE(_net_link, 0, generic, CTLFLAG_RW, 0, "Generic link-management");
 104
 105 TUNABLE_INT("net.link.ifqmaxlen", &ifqmaxlen);
 106 SYSCTL_INT(_net_link, OID_AUTO, ifqmaxlen, CTLFLAG_RDTUN,
 107     &ifqmaxlen, 0, "max send queue size");
 108
 109 /* Log link state change events */
 110 static int log_link_state_change = 1;
 111
 112 SYSCTL_INT(_net_link, OID_AUTO, log_link_state_change, CTLFLAG_RW,
 113         &log_link_state_change, 0,
 114         "log interface link state change events");
 115
 116 /* Interface description */
 117 static unsigned int ifdescr_maxlen = 1024;
 118 SYSCTL_UINT(_net, OID_AUTO, ifdescr_maxlen, CTLFLAG_RW,
 119         &ifdescr_maxlen, 0,
 120         "administrative maximum length for interface description");
 121
 122 static MALLOC_DEFINE(M_IFDESCR, "ifdescr", "ifnet descriptions");
 123
 124 /* global sx for non-critical path ifdescr */
 125 static struct sx ifdescr_sx;
 126 SX_SYSINIT(ifdescr_sx, &ifdescr_sx, "ifnet descr");
 127
 128 void    (*bridge_linkstate_p)(struct ifnet *ifp);
 129 void    (*ng_ether_link_state_p)(struct ifnet *ifp, int state);
 130 void    (*lagg_linkstate_p)(struct ifnet *ifp, int state);
 131 /* These are external hooks for CARP. */
 132 void    (*carp_linkstate_p)(struct ifnet *ifp);
 133 void    (*carp_demote_adj_p)(int, char *);
 134 int     (*carp_master_p)(struct ifaddr *);
 135 #if defined(INET) || defined(INET6)
 136 int     (*carp_forus_p)(struct ifnet *ifp, u_char *dhost);
 137 int     (*carp_output_p)(struct ifnet *ifp, struct mbuf *m,
 138     const struct sockaddr *sa);
 139 int     (*carp_ioctl_p)(struct ifreq *, u_long, struct thread *);
 140 int     (*carp_attach_p)(struct ifaddr *, int);
 141 void    (*carp_detach_p)(struct ifaddr *);
 142 #endif
 143 #ifdef INET
 144 int     (*carp_iamatch_p)(struct ifaddr *, uint8_t **);
 145 #endif
 146 #ifdef INET6
 147 struct ifaddr *(*carp_iamatch6_p)(struct ifnet *ifp, struct in6_addr *taddr6);
 148 caddr_t (*carp_macmatch6_p)(struct ifnet *ifp, struct mbuf *m,
 149     const struct in6_addr *taddr);
 150 #endif
 151
 152 struct mbuf *(*tbr_dequeue_ptr)(struct ifaltq *, int) = NULL;
 153
 154 /*
 155  * XXX: Style; these should be sorted alphabetically, and unprototyped
 156  * static functions should be prototyped. Currently they are sorted by
 157  * declaration order.
 158  */
 159 static void     if_attachdomain(void *);
 160 static void     if_attachdomain1(struct ifnet *);
 161 static int      ifconf(u_long, caddr_t);
 162 static void     if_freemulti(struct ifmultiaddr *);
 163 static void     if_init(void *);
 164 static void     if_grow(void);
 165 static void     if_input_default(struct ifnet *, struct mbuf *);
 166 static void     if_route(struct ifnet *, int flag, int fam);
 167 static int      if_setflag(struct ifnet *, int, int, int *, int);
 168 static int      if_transmit(struct ifnet *ifp, struct mbuf *m);
 169 static void     if_unroute(struct ifnet *, int flag, int fam);
 170 static void     link_rtrequest(int, struct rtentry *, struct rt_addrinfo *);
 171 static int      if_rtdel(struct radix_node *, void *);
 172 static int      ifhwioctl(u_long, struct ifnet *, caddr_t, struct thread *);
 173 static int      if_delmulti_locked(struct ifnet *, struct ifmultiaddr *, int);
 174 static void     do_link_state_change(void *, int);
 175 static int      if_getgroup(struct ifgroupreq *, struct ifnet *);
 176 static int      if_getgroupmembers(struct ifgroupreq *);
 177 static void     if_delgroups(struct ifnet *);
 178 static void     if_attach_internal(struct ifnet *, int, struct if_clone *);
 179 static int      if_detach_internal(struct ifnet *, int, struct if_clone **);
 180
 181 #ifdef INET6
 182 /*
 183  * XXX: declare here to avoid to include many inet6 related files..
 184  * should be more generalized?
 185  */
 186 extern void     nd6_setmtu(struct ifnet *);
 187 #endif
 188
 189 VNET_DEFINE(int, if_index);
 190 int     ifqmaxlen = IFQ_MAXLEN;
 191 VNET_DEFINE(struct ifnethead, ifnet);   /* depend on static init XXX */
 192 VNET_DEFINE(struct ifgrouphead, ifg_head);
 193
 194 static VNET_DEFINE(int, if_indexlim) = 8;
 195
 196 /* Table of ifnet by index. */
 197 VNET_DEFINE(struct ifindex_entry *, ifindex_table);
 198
 199 #define V_if_indexlim           VNET(if_indexlim)
 200 #define V_ifindex_table         VNET(ifindex_table)
 201
 202 /*
 203  * The global network interface list (V_ifnet) and related state (such as
 204  * if_index, if_indexlim, and ifindex_table) are protected by an sxlock and
 205  * an rwlock.  Either may be acquired shared to stablize the list, but both
 206  * must be acquired writable to modify the list.  This model allows us to
 207  * both stablize the interface list during interrupt thread processing, but
 208  * also to stablize it over long-running ioctls, without introducing priority
 209  * inversions and deadlocks.
 210  */
 211 struct rwlock ifnet_rwlock;
 212 struct sx ifnet_sxlock;
 213
 214 /*
 215  * The allocation of network interfaces is a rather non-atomic affair; we
 216  * need to select an index before we are ready to expose the interface for
 217  * use, so will use this pointer value to indicate reservation.
 218  */
 219 #define IFNET_HOLD      (void *)(uintptr_t)(-1)
 220
 221 static  if_com_alloc_t *if_com_alloc[256];
 222 static  if_com_free_t *if_com_free[256];
 223
 224 static MALLOC_DEFINE(M_IFNET, "ifnet", "interface internals");
 225 MALLOC_DEFINE(M_IFADDR, "ifaddr", "interface address");
 226 MALLOC_DEFINE(M_IFMADDR, "ether_multi", "link-level multicast address");
 227
 228 struct ifnet *
 229 ifnet_byindex_locked(u_short idx)
 230 {
 231
 232         if (idx > V_if_index)
 233                 return (NULL);
 234         if (V_ifindex_table[idx].ife_ifnet == IFNET_HOLD)
 235                 return (NULL);
 236         return (V_ifindex_table[idx].ife_ifnet);
 237 }
 238
 239 struct ifnet *
 240 ifnet_byindex(u_short idx)
 241 {
 242         struct ifnet *ifp;
 243
 244         IFNET_RLOCK_NOSLEEP();
 245         ifp = ifnet_byindex_locked(idx);
 246         IFNET_RUNLOCK_NOSLEEP();
 247         return (ifp);
 248 }
 249
 250 struct ifnet *
 251 ifnet_byindex_ref(u_short idx)
 252 {
 253         struct ifnet *ifp;
 254
 255         IFNET_RLOCK_NOSLEEP();
 256         ifp = ifnet_byindex_locked(idx);
 257         if (ifp == NULL || (ifp->if_flags & IFF_DYING)) {
 258                 IFNET_RUNLOCK_NOSLEEP();
 259                 return (NULL);
 260         }
 261         if_ref(ifp);
 262         IFNET_RUNLOCK_NOSLEEP();
 263         return (ifp);
 264 }
 265
 266 /*
 267  * Allocate an ifindex array entry; return 0 on success or an error on
 268  * failure.
 269  */
 270 static int
 271 ifindex_alloc_locked(u_short *idxp)
 272 {
 273         u_short idx;
 274
 275         IFNET_WLOCK_ASSERT();
 276
 277 retry:
 278         /*
 279          * Try to find an empty slot below V_if_index.  If we fail, take the
 280          * next slot.
 281          */
 282         for (idx = 1; idx <= V_if_index; idx++) {
 283                 if (V_ifindex_table[idx].ife_ifnet == NULL)
 284                         break;
 285         }
 286
 287         /* Catch if_index overflow. */
 288         if (idx < 1)
 289                 return (ENOSPC);
 290         if (idx >= V_if_indexlim) {
 291                 if_grow();
 292                 goto retry;
 293         }
 294         if (idx > V_if_index)
 295                 V_if_index = idx;
 296         *idxp = idx;
 297         return (0);
 298 }
 299
 300 static void
 301 ifindex_free_locked(u_short idx)
 302 {
 303
 304         IFNET_WLOCK_ASSERT();
 305
 306         V_ifindex_table[idx].ife_ifnet = NULL;
 307         while (V_if_index > 0 &&
 308             V_ifindex_table[V_if_index].ife_ifnet == NULL)
 309                 V_if_index--;
 310 }
 311
 312 static void
 313 ifindex_free(u_short idx)
 314 {
 315
 316         IFNET_WLOCK();
 317         ifindex_free_locked(idx);
 318         IFNET_WUNLOCK();
 319 }
 320
 321 static void
 322 ifnet_setbyindex_locked(u_short idx, struct ifnet *ifp)
 323 {
 324
 325         IFNET_WLOCK_ASSERT();
 326
 327         V_ifindex_table[idx].ife_ifnet = ifp;
 328 }
 329
 330 static void
 331 ifnet_setbyindex(u_short idx, struct ifnet *ifp)
 332 {
 333
 334         IFNET_WLOCK();
 335         ifnet_setbyindex_locked(idx, ifp);
 336         IFNET_WUNLOCK();
 337 }
 338
 339 struct ifaddr *
 340 ifaddr_byindex(u_short idx)
 341 {
 342         struct ifnet *ifp;
 343         struct ifaddr *ifa = NULL;
 344
 345         IFNET_RLOCK_NOSLEEP();
 346         ifp = ifnet_byindex_locked(idx);
 347         if (ifp != NULL && (ifa = ifp->if_addr) != NULL)
 348                 ifa_ref(ifa);
 349         IFNET_RUNLOCK_NOSLEEP();
 350         return (ifa);
 351 }
 352
 353 /*
 354  * Network interface utility routines.
 355  *
 356  * Routines with ifa_ifwith* names take sockaddr *'s as
 357  * parameters.
 358  */
 359
 360 static void
 361 vnet_if_init(const void *unused __unused)
 362 {
 363
 364         TAILQ_INIT(&V_ifnet);
 365         TAILQ_INIT(&V_ifg_head);
 366         IFNET_WLOCK();
 367         if_grow();                              /* create initial table */
 368         IFNET_WUNLOCK();
 369         vnet_if_clone_init();
 370 }
 371 VNET_SYSINIT(vnet_if_init, SI_SUB_INIT_IF, SI_ORDER_SECOND, vnet_if_init,
 372     NULL);
 373
 374 /* ARGSUSED*/
 375 static void
 376 if_init(void *dummy __unused)
 377 {
 378
 379         IFNET_LOCK_INIT();
 380         if_clone_init();
 381 }
 382 SYSINIT(interfaces, SI_SUB_INIT_IF, SI_ORDER_FIRST, if_init, NULL);
 383
 384
 385 #ifdef VIMAGE
 386 static void
 387 vnet_if_uninit(const void *unused __unused)
 388 {
 389
 390         VNET_ASSERT(TAILQ_EMPTY(&V_ifnet), ("%s:%d tailq &V_ifnet=%p "
 391             "not empty", __func__, __LINE__, &V_ifnet));
 392         VNET_ASSERT(TAILQ_EMPTY(&V_ifg_head), ("%s:%d tailq &V_ifg_head=%p "
 393             "not empty", __func__, __LINE__, &V_ifg_head));
 394
 395         free((caddr_t)V_ifindex_table, M_IFNET);
 396 }
 397 VNET_SYSUNINIT(vnet_if_uninit, SI_SUB_INIT_IF, SI_ORDER_FIRST,
 398     vnet_if_uninit, NULL);
 399 #endif
 400
 401 static void
 402 if_grow(void)
 403 {
 404         int oldlim;
 405         u_int n;
 406         struct ifindex_entry *e;
 407
 408         IFNET_WLOCK_ASSERT();
 409         oldlim = V_if_indexlim;
 410         IFNET_WUNLOCK();
 411         n = (oldlim << 1) * sizeof(*e);
 412         e = malloc(n, M_IFNET, M_WAITOK | M_ZERO);
 413         IFNET_WLOCK();
 414         if (V_if_indexlim != oldlim) {
 415                 free(e, M_IFNET);
 416                 return;
 417         }
 418         if (V_ifindex_table != NULL) {
 419                 memcpy((caddr_t)e, (caddr_t)V_ifindex_table, n/2);
 420                 free((caddr_t)V_ifindex_table, M_IFNET);
 421         }
 422         V_if_indexlim <<= 1;
 423         V_ifindex_table = e;
 424 }
 425
 426 /*
 427  * Allocate a struct ifnet and an index for an interface.  A layer 2
 428  * common structure will also be allocated if an allocation routine is
 429  * registered for the passed type.
 430  */
 431 struct ifnet *
 432 if_alloc(u_char type)
 433 {
 434         struct ifnet *ifp;
 435         u_short idx;
 436
 437         ifp = malloc(sizeof(struct ifnet), M_IFNET, M_WAITOK|M_ZERO);
 438         IFNET_WLOCK();
 439         if (ifindex_alloc_locked(&idx) != 0) {
 440                 IFNET_WUNLOCK();
 441                 free(ifp, M_IFNET);
 442                 return (NULL);
 443         }
 444         ifnet_setbyindex_locked(idx, IFNET_HOLD);
 445         IFNET_WUNLOCK();
 446         ifp->if_index = idx;
 447         ifp->if_type = type;
 448         ifp->if_alloctype = type;
 449         if (if_com_alloc[type] != NULL) {
 450                 ifp->if_l2com = if_com_alloc[type](type, ifp);
 451                 if (ifp->if_l2com == NULL) {
 452                         free(ifp, M_IFNET);
 453                         ifindex_free(idx);
 454                         return (NULL);
 455                 }
 456         }
 457
 458         IF_ADDR_LOCK_INIT(ifp);
 459         TASK_INIT(&ifp->if_linktask, 0, do_link_state_change, ifp);
 460         ifp->if_afdata_initialized = 0;
 461         IF_AFDATA_LOCK_INIT(ifp);
 462         TAILQ_INIT(&ifp->if_addrhead);
 463         TAILQ_INIT(&ifp->if_multiaddrs);
 464         TAILQ_INIT(&ifp->if_groups);
 465 #ifdef MAC
 466         mac_ifnet_init(ifp);
 467 #endif
 468         ifq_init(&ifp->if_snd, ifp);
 469
 470         refcount_init(&ifp->if_refcount, 1);    /* Index reference. */
 471         ifnet_setbyindex(ifp->if_index, ifp);
 472         return (ifp);
 473 }
 474
 475 /*
 476  * Do the actual work of freeing a struct ifnet, and layer 2 common
 477  * structure.  This call is made when the last reference to an
 478  * interface is released.
 479  */
 480 static void
 481 if_free_internal(struct ifnet *ifp)
 482 {
 483
 484         KASSERT((ifp->if_flags & IFF_DYING),
 485             ("if_free_internal: interface not dying"));
 486
 487         if (if_com_free[ifp->if_alloctype] != NULL)
 488                 if_com_free[ifp->if_alloctype](ifp->if_l2com,
 489                     ifp->if_alloctype);
 490
 491 #ifdef MAC
 492         mac_ifnet_destroy(ifp);
 493 #endif /* MAC */
 494         if (ifp->if_description != NULL)
 495                 free(ifp->if_description, M_IFDESCR);
 496         IF_AFDATA_DESTROY(ifp);
 497         IF_ADDR_LOCK_DESTROY(ifp);
 498         ifq_delete(&ifp->if_snd);
 499         free(ifp, M_IFNET);
 500 }
 501
 502 /*
 503  * Deregister an interface and free the associated storage.
 504  */
 505 void
 506 if_free(struct ifnet *ifp)
 507 {
 508
 509         ifp->if_flags |= IFF_DYING;                     /* XXX: Locking */
 510
 511         CURVNET_SET_QUIET(ifp->if_vnet);
 512         IFNET_WLOCK();
 513         KASSERT(ifp == ifnet_byindex_locked(ifp->if_index),
 514             ("%s: freeing unallocated ifnet", ifp->if_xname));
 515
 516         ifindex_free_locked(ifp->if_index);
 517         IFNET_WUNLOCK();
 518
 519         if (refcount_release(&ifp->if_refcount))
 520                 if_free_internal(ifp);
 521         CURVNET_RESTORE();
 522 }
 523
 524 /*
 525  * Interfaces to keep an ifnet type-stable despite the possibility of the
 526  * driver calling if_free().  If there are additional references, we defer
 527  * freeing the underlying data structure.
 528  */
 529 void
 530 if_ref(struct ifnet *ifp)
 531 {
 532
 533         /* We don't assert the ifnet list lock here, but arguably should. */
 534         refcount_acquire(&ifp->if_refcount);
 535 }
 536
 537 void
 538 if_rele(struct ifnet *ifp)
 539 {
 540
 541         if (!refcount_release(&ifp->if_refcount))
 542                 return;
 543         if_free_internal(ifp);
 544 }
 545
 546 void
 547 ifq_init(struct ifaltq *ifq, struct ifnet *ifp)
 548 {
 549
 550         mtx_init(&ifq->ifq_mtx, ifp->if_xname, "if send queue", MTX_DEF);
 551
 552         if (ifq->ifq_maxlen == 0)
 553                 ifq->ifq_maxlen = ifqmaxlen;
 554
 555         ifq->altq_type = 0;
 556         ifq->altq_disc = NULL;
 557         ifq->altq_flags &= ALTQF_CANTCHANGE;
 558         ifq->altq_tbr  = NULL;
 559         ifq->altq_ifp  = ifp;
 560 }
 561
 562 void
 563 ifq_delete(struct ifaltq *ifq)
 564 {
 565         mtx_destroy(&ifq->ifq_mtx);
 566 }
 567
 568 /*
 569  * Perform generic interface initalization tasks and attach the interface
 570  * to the list of "active" interfaces.  If vmove flag is set on entry
 571  * to if_attach_internal(), perform only a limited subset of initialization
 572  * tasks, given that we are moving from one vnet to another an ifnet which
 573  * has already been fully initialized.
 574  *
 575  * Note that if_detach_internal() removes group membership unconditionally
 576  * even when vmove flag is set, and if_attach_internal() adds only IFG_ALL.
 577  * Thus, when if_vmove() is applied to a cloned interface, group membership
 578  * is lost while a cloned one always joins a group whose name is
 579  * ifc->ifc_name.  To recover this after if_detach_internal() and
 580  * if_attach_internal(), the cloner should be specified to
 581  * if_attach_internal() via ifc.  If it is non-NULL, if_attach_internal()
 582  * attempts to join a group whose name is ifc->ifc_name.
 583  *
 584  * XXX:
 585  *  - The decision to return void and thus require this function to
 586  *    succeed is questionable.
 587  *  - We should probably do more sanity checking.  For instance we don't
 588  *    do anything to insure if_xname is unique or non-empty.
 589  */
 590 void
 591 if_attach(struct ifnet *ifp)
 592 {
 593
 594         if_attach_internal(ifp, 0, NULL);
 595 }
 596
 597 /*
 598  * Compute the least common TSO limit.
 599  */
 600 void
 601 if_hw_tsomax_common(struct ifnet *ifp, struct ifnet_hw_tsomax *pmax)
 602 {
 603         /*
 604          * 1) If there is no limit currently, take the limit from
 605          * the network adapter.
 606          *
 607          * 2) If the network adapter has a limit below the current
 608          * limit, apply it.
 609          */
 610         if (pmax->tsomaxbytes == 0 || (ifp->if_hw_tsomax != 0 &&
 611             ifp->if_hw_tsomax < pmax->tsomaxbytes)) {
 612                 pmax->tsomaxbytes = ifp->if_hw_tsomax;
 613         }
 614         if (pmax->tsomaxsegcount == 0 || (ifp->if_hw_tsomaxsegcount != 0 &&
 615             ifp->if_hw_tsomaxsegcount < pmax->tsomaxsegcount)) {
 616                 pmax->tsomaxsegcount = ifp->if_hw_tsomaxsegcount;
 617         }
 618         if (pmax->tsomaxsegsize == 0 || (ifp->if_hw_tsomaxsegsize != 0 &&
 619             ifp->if_hw_tsomaxsegsize < pmax->tsomaxsegsize)) {
 620                 pmax->tsomaxsegsize = ifp->if_hw_tsomaxsegsize;
 621         }
 622 }
 623
 624 /*
 625  * Update TSO limit of a network adapter.
 626  *
 627  * Returns zero if no change. Else non-zero.
 628  */
 629 int
 630 if_hw_tsomax_update(struct ifnet *ifp, struct ifnet_hw_tsomax *pmax)
 631 {
 632         int retval = 0;
 633         if (ifp->if_hw_tsomax != pmax->tsomaxbytes) {
 634                 ifp->if_hw_tsomax = pmax->tsomaxbytes;
 635                 retval++;
 636         }
 637         if (ifp->if_hw_tsomaxsegsize != pmax->tsomaxsegsize) {
 638                 ifp->if_hw_tsomaxsegsize = pmax->tsomaxsegsize;
 639                 retval++;
 640         }
 641         if (ifp->if_hw_tsomaxsegcount != pmax->tsomaxsegcount) {
 642                 ifp->if_hw_tsomaxsegcount = pmax->tsomaxsegcount;
 643                 retval++;
 644         }
 645         return (retval);
 646 }
 647
 648 static void
 649 if_attach_internal(struct ifnet *ifp, int vmove, struct if_clone *ifc)
 650 {
 651         unsigned socksize, ifasize;
 652         int namelen, masklen;
 653         struct sockaddr_dl *sdl;
 654         struct ifaddr *ifa;
 655
 656         if (ifp->if_index == 0 || ifp != ifnet_byindex(ifp->if_index))
 657                 panic ("%s: BUG: if_attach called without if_alloc'd input()\n",
 658                     ifp->if_xname);
 659
 660 #ifdef VIMAGE
 661         ifp->if_vnet = curvnet;
 662         if (ifp->if_home_vnet == NULL)
 663                 ifp->if_home_vnet = curvnet;
 664 #endif
 665
 666         if_addgroup(ifp, IFG_ALL);
 667
 668         /* Restore group membership for cloned interfaces. */
 669         if (vmove && ifc != NULL)
 670                 if_clone_addgroup(ifp, ifc);
 671
 672         getmicrotime(&ifp->if_lastchange);
 673         ifp->if_data.ifi_epoch = time_uptime;
 674         ifp->if_data.ifi_datalen = sizeof(struct if_data);
 675
 676         KASSERT((ifp->if_transmit == NULL && ifp->if_qflush == NULL) ||
 677             (ifp->if_transmit != NULL && ifp->if_qflush != NULL),
 678             ("transmit and qflush must both either be set or both be NULL"));
 679         if (ifp->if_transmit == NULL) {
 680                 ifp->if_transmit = if_transmit;
 681                 ifp->if_qflush = if_qflush;
 682         }
 683         if (ifp->if_input == NULL)
 684                 ifp->if_input = if_input_default;
 685
 686         if (!vmove) {
 687 #ifdef MAC
 688                 mac_ifnet_create(ifp);
 689 #endif
 690
 691                 /*
 692                  * Create a Link Level name for this device.
 693                  */
 694                 namelen = strlen(ifp->if_xname);
 695                 /*
 696                  * Always save enough space for any possiable name so we
 697                  * can do a rename in place later.
 698                  */
 699                 masklen = offsetof(struct sockaddr_dl, sdl_data[0]) + IFNAMSIZ;
 700                 socksize = masklen + ifp->if_addrlen;
 701                 if (socksize < sizeof(*sdl))
 702                         socksize = sizeof(*sdl);
 703                 socksize = roundup2(socksize, sizeof(long));
 704                 ifasize = sizeof(*ifa) + 2 * socksize;
 705                 ifa = malloc(ifasize, M_IFADDR, M_WAITOK | M_ZERO);
 706                 ifa_init(ifa);
 707                 sdl = (struct sockaddr_dl *)(ifa + 1);
 708                 sdl->sdl_len = socksize;
 709                 sdl->sdl_family = AF_LINK;
 710                 bcopy(ifp->if_xname, sdl->sdl_data, namelen);
 711                 sdl->sdl_nlen = namelen;
 712                 sdl->sdl_index = ifp->if_index;
 713                 sdl->sdl_type = ifp->if_type;
 714                 ifp->if_addr = ifa;
 715                 ifa->ifa_ifp = ifp;
 716                 ifa->ifa_rtrequest = link_rtrequest;
 717                 ifa->ifa_addr = (struct sockaddr *)sdl;
 718                 sdl = (struct sockaddr_dl *)(socksize + (caddr_t)sdl);
 719                 ifa->ifa_netmask = (struct sockaddr *)sdl;
 720                 sdl->sdl_len = masklen;
 721                 while (namelen != 0)
 722                         sdl->sdl_data[--namelen] = 0xff;
 723                 TAILQ_INSERT_HEAD(&ifp->if_addrhead, ifa, ifa_link);
 724                 /* Reliably crash if used uninitialized. */
 725                 ifp->if_broadcastaddr = NULL;
 726
 727 #if defined(INET) || defined(INET6)
 728                 /* Use defaults for TSO, if nothing is set */
 729                 if (ifp->if_hw_tsomax == 0 &&
 730                     ifp->if_hw_tsomaxsegcount == 0 &&
 731                     ifp->if_hw_tsomaxsegsize == 0) {
 732                         /*
 733                          * The TSO defaults needs to be such that an
 734                          * NFS mbuf list of 35 mbufs totalling just
 735                          * below 64K works and that a chain of mbufs
 736                          * can be defragged into at most 32 segments:
 737                          */
 738                         ifp->if_hw_tsomax = min(IP_MAXPACKET, (32 * MCLBYTES) -
 739                             (ETHER_HDR_LEN + ETHER_VLAN_ENCAP_LEN));
 740                         ifp->if_hw_tsomaxsegcount = 35;
 741                         ifp->if_hw_tsomaxsegsize = 2048;        /* 2K */
 742
 743                         /* XXX some drivers set IFCAP_TSO after ethernet attach */
 744                         if (ifp->if_capabilities & IFCAP_TSO) {
 745                                 if_printf(ifp, "Using defaults for TSO: %u/%u/%u\n",
 746                                     ifp->if_hw_tsomax,
 747                                     ifp->if_hw_tsomaxsegcount,
 748                                     ifp->if_hw_tsomaxsegsize);
 749                         }
 750                 }
 751 #endif
 752         }
 753 #ifdef VIMAGE
 754         else {
 755                 /*
 756                  * Update the interface index in the link layer address
 757                  * of the interface.
 758                  */
 759                 for (ifa = ifp->if_addr; ifa != NULL;
 760                     ifa = TAILQ_NEXT(ifa, ifa_link)) {
 761                         if (ifa->ifa_addr->sa_family == AF_LINK) {
 762                                 sdl = (struct sockaddr_dl *)ifa->ifa_addr;
 763                                 sdl->sdl_index = ifp->if_index;
 764                         }
 765                 }
 766         }
 767 #endif
 768
 769         IFNET_WLOCK();
 770         TAILQ_INSERT_TAIL(&V_ifnet, ifp, if_link);
 771 #ifdef VIMAGE
 772         curvnet->vnet_ifcnt++;
 773 #endif
 774         IFNET_WUNLOCK();
 775
 776         if (domain_init_status >= 2)
 777                 if_attachdomain1(ifp);
 778
 779         EVENTHANDLER_INVOKE(ifnet_arrival_event, ifp);
 780         if (IS_DEFAULT_VNET(curvnet))
 781                 devctl_notify("IFNET", ifp->if_xname, "ATTACH", NULL);
 782
 783         /* Announce the interface. */
 784         rt_ifannouncemsg(ifp, IFAN_ARRIVAL);
 785 }
 786
 787 static void
 788 if_attachdomain(void *dummy)
 789 {
 790         struct ifnet *ifp;
 791
 792         TAILQ_FOREACH(ifp, &V_ifnet, if_link)
 793                 if_attachdomain1(ifp);
 794 }
 795 SYSINIT(domainifattach, SI_SUB_PROTO_IFATTACHDOMAIN, SI_ORDER_SECOND,
 796     if_attachdomain, NULL);
 797
 798 static void
 799 if_attachdomain1(struct ifnet *ifp)
 800 {
 801         struct domain *dp;
 802
 803         /*
 804          * Since dp->dom_ifattach calls malloc() with M_WAITOK, we
 805          * cannot lock ifp->if_afdata initialization, entirely.
 806          */
 807         if (IF_AFDATA_TRYLOCK(ifp) == 0)
 808                 return;
 809         if (ifp->if_afdata_initialized >= domain_init_status) {
 810                 IF_AFDATA_UNLOCK(ifp);
 811                 log(LOG_WARNING, "%s called more than once on %s\n",
 812                     __func__, ifp->if_xname);
 813                 return;
 814         }
 815         ifp->if_afdata_initialized = domain_init_status;
 816         IF_AFDATA_UNLOCK(ifp);
 817
 818         /* address family dependent data region */
 819         bzero(ifp->if_afdata, sizeof(ifp->if_afdata));
 820         for (dp = domains; dp; dp = dp->dom_next) {
 821                 if (dp->dom_ifattach)
 822                         ifp->if_afdata[dp->dom_family] =
 823                             (*dp->dom_ifattach)(ifp);
 824         }
 825 }
 826
 827 /*
 828  * Remove any unicast or broadcast network addresses from an interface.
 829  */
 830 void
 831 if_purgeaddrs(struct ifnet *ifp)
 832 {
 833         struct ifaddr *ifa, *next;
 834
 835         TAILQ_FOREACH_SAFE(ifa, &ifp->if_addrhead, ifa_link, next) {
 836                 if (ifa->ifa_addr->sa_family == AF_LINK)
 837                         continue;
 838 #ifdef INET
 839                 /* XXX: Ugly!! ad hoc just for INET */
 840                 if (ifa->ifa_addr->sa_family == AF_INET) {
 841                         struct ifaliasreq ifr;
 842
 843                         bzero(&ifr, sizeof(ifr));
 844                         ifr.ifra_addr = *ifa->ifa_addr;
 845                         if (ifa->ifa_dstaddr)
 846                                 ifr.ifra_broadaddr = *ifa->ifa_dstaddr;
 847                         if (in_control(NULL, SIOCDIFADDR, (caddr_t)&ifr, ifp,
 848                             NULL) == 0)
 849                                 continue;
 850                 }
 851 #endif /* INET */
 852 #ifdef INET6
 853                 if (ifa->ifa_addr->sa_family == AF_INET6) {
 854                         in6_purgeaddr(ifa);
 855                         /* ifp_addrhead is already updated */
 856                         continue;
 857                 }
 858 #endif /* INET6 */
 859                 TAILQ_REMOVE(&ifp->if_addrhead, ifa, ifa_link);
 860                 ifa_free(ifa);
 861         }
 862 }
 863
 864 /*
 865  * Remove any multicast network addresses from an interface when an ifnet
 866  * is going away.
 867  */
 868 static void
 869 if_purgemaddrs(struct ifnet *ifp)
 870 {
 871         struct ifmultiaddr *ifma;
 872         struct ifmultiaddr *next;
 873
 874         IF_ADDR_WLOCK(ifp);
 875         TAILQ_FOREACH_SAFE(ifma, &ifp->if_multiaddrs, ifma_link, next)
 876                 if_delmulti_locked(ifp, ifma, 1);
 877         IF_ADDR_WUNLOCK(ifp);
 878 }
 879
 880 /*
 881  * Detach an interface, removing it from the list of "active" interfaces.
 882  * If vmove flag is set on entry to if_detach_internal(), perform only a
 883  * limited subset of cleanup tasks, given that we are moving an ifnet from
 884  * one vnet to another, where it must be fully operational.
 885  *
 886  * XXXRW: There are some significant questions about event ordering, and
 887  * how to prevent things from starting to use the interface during detach.
 888  */
 889 void
 890 if_detach(struct ifnet *ifp)
 891 {
 892
 893         CURVNET_SET_QUIET(ifp->if_vnet);
 894         if_detach_internal(ifp, 0, NULL);
 895         CURVNET_RESTORE();
 896 }
 897
 898 static int
 899 if_detach_internal(struct ifnet *ifp, int vmove, struct if_clone **ifcp)
 900 {
 901         struct ifaddr *ifa;
 902         struct radix_node_head  *rnh;
 903         int i, j;
 904         struct domain *dp;
 905         struct ifnet *iter;
 906         int found = 0;
 907
 908         IFNET_WLOCK();
 909         TAILQ_FOREACH(iter, &V_ifnet, if_link)
 910                 if (iter == ifp) {
 911                         TAILQ_REMOVE(&V_ifnet, ifp, if_link);
 912                         found = 1;
 913                         break;
 914                 }
 915 #ifdef VIMAGE
 916         if (found)
 917                 curvnet->vnet_ifcnt--;
 918 #endif
 919         IFNET_WUNLOCK();
 920         if (!found) {
 921                 /*
 922                  * While we would want to panic here, we cannot
 923                  * guarantee that the interface is indeed still on
 924                  * the list given we don't hold locks all the way.
 925                  */
 926                 return (ENOENT);
 927 #if 0
 928                 if (vmove)
 929                         panic("%s: ifp=%p not on the ifnet tailq %p",
 930                             __func__, ifp, &V_ifnet);
 931                 else
 932                         return; /* XXX this should panic as well? */
 933 #endif
 934         }
 935
 936         /* Check if this is a cloned interface or not. */
 937         if (vmove && ifcp != NULL)
 938                 *ifcp = if_clone_findifc(ifp);
 939
 940         /*
 941          * Remove/wait for pending events.
 942          */
 943         taskqueue_drain(taskqueue_swi, &ifp->if_linktask);
 944
 945         /*
 946          * Remove routes and flush queues.
 947          */
 948         if_down(ifp);
 949 #ifdef ALTQ
 950         if (ALTQ_IS_ENABLED(&ifp->if_snd))
 951                 altq_disable(&ifp->if_snd);
 952         if (ALTQ_IS_ATTACHED(&ifp->if_snd))
 953                 altq_detach(&ifp->if_snd);
 954 #endif
 955
 956         if_purgeaddrs(ifp);
 957
 958 #ifdef INET
 959         in_ifdetach(ifp);
 960 #endif
 961
 962 #ifdef INET6
 963         /*
 964          * Remove all IPv6 kernel structs related to ifp.  This should be done
 965          * before removing routing entries below, since IPv6 interface direct
 966          * routes are expected to be removed by the IPv6-specific kernel API.
 967          * Otherwise, the kernel will detect some inconsistency and bark it.
 968          */
 969         in6_ifdetach(ifp);
 970 #endif
 971         if_purgemaddrs(ifp);
 972
 973         if (!vmove) {
 974                 /*
 975                  * Prevent further calls into the device driver via ifnet.
 976                  */
 977                 if_dead(ifp);
 978
 979                 /*
 980                  * Remove link ifaddr pointer and maybe decrement if_index.
 981                  * Clean up all addresses.
 982                  */
 983                 ifp->if_addr = NULL;
 984
 985                 /* We can now free link ifaddr. */
 986                 if (!TAILQ_EMPTY(&ifp->if_addrhead)) {
 987                         ifa = TAILQ_FIRST(&ifp->if_addrhead);
 988                         TAILQ_REMOVE(&ifp->if_addrhead, ifa, ifa_link);
 989                         ifa_free(ifa);
 990                 }
 991         }
 992
 993         /*
 994          * Delete all remaining routes using this interface
 995          * Unfortuneatly the only way to do this is to slog through
 996          * the entire routing table looking for routes which point
 997          * to this interface...oh well...
 998          */
 999         for (i = 1; i <= AF_MAX; i++) {
1000                 for (j = 0; j < rt_numfibs; j++) {
1001                         rnh = rt_tables_get_rnh(j, i);
1002                         if (rnh == NULL)
1003                                 continue;
1004                         RADIX_NODE_HEAD_LOCK(rnh);
1005                         (void) rnh->rnh_walktree(rnh, if_rtdel, ifp);
1006                         RADIX_NODE_HEAD_UNLOCK(rnh);
1007                 }
1008         }
1009
1010         /* Announce that the interface is gone. */
1011         rt_ifannouncemsg(ifp, IFAN_DEPARTURE);
1012         EVENTHANDLER_INVOKE(ifnet_departure_event, ifp);
1013         if (IS_DEFAULT_VNET(curvnet))
1014                 devctl_notify("IFNET", ifp->if_xname, "DETACH", NULL);
1015         if_delgroups(ifp);
1016
1017         /*
1018          * We cannot hold the lock over dom_ifdetach calls as they might
1019          * sleep, for example trying to drain a callout, thus open up the
1020          * theoretical race with re-attaching.
1021          */
1022         IF_AFDATA_LOCK(ifp);
1023         i = ifp->if_afdata_initialized;
1024         ifp->if_afdata_initialized = 0;
1025         IF_AFDATA_UNLOCK(ifp);
1026         for (dp = domains; i > 0 && dp; dp = dp->dom_next) {
1027                 if (dp->dom_ifdetach && ifp->if_afdata[dp->dom_family])
1028                         (*dp->dom_ifdetach)(ifp,
1029                             ifp->if_afdata[dp->dom_family]);
1030         }
1031
1032         return (0);
1033 }
1034
1035 #ifdef VIMAGE
1036 /*
1037  * if_vmove() performs a limited version of if_detach() in current
1038  * vnet and if_attach()es the ifnet to the vnet specified as 2nd arg.
1039  * An attempt is made to shrink if_index in current vnet, find an
1040  * unused if_index in target vnet and calls if_grow() if necessary,
1041  * and finally find an unused if_xname for the target vnet.
1042  */
1043 void
1044 if_vmove(struct ifnet *ifp, struct vnet *new_vnet)
1045 {
1046         u_short idx;
1047         struct if_clone *ifc;
1048         int rc;
1049
1050         /*
1051          * Detach from current vnet, but preserve LLADDR info, do not
1052          * mark as dead etc. so that the ifnet can be reattached later.
1053          * If we cannot find it, we lost the race to someone else.
1054          */
1055         rc = if_detach_internal(ifp, 1, &ifc);
1056         if (rc != 0)
1057                 return;
1058
1059         /*
1060          * Unlink the ifnet from ifindex_table[] in current vnet, and shrink
1061          * the if_index for that vnet if possible.
1062          *
1063          * NOTE: IFNET_WLOCK/IFNET_WUNLOCK() are assumed to be unvirtualized,
1064          * or we'd lock on one vnet and unlock on another.
1065          */
1066         IFNET_WLOCK();
1067         ifindex_free_locked(ifp->if_index);
1068         IFNET_WUNLOCK();
1069
1070         /*
1071          * Perform interface-specific reassignment tasks, if provided by
1072          * the driver.
1073          */
1074         if (ifp->if_reassign != NULL)
1075                 ifp->if_reassign(ifp, new_vnet, NULL);
1076
1077         /*
1078          * Switch to the context of the target vnet.
1079          */
1080         CURVNET_SET_QUIET(new_vnet);
1081
1082         IFNET_WLOCK();
1083         if (ifindex_alloc_locked(&idx) != 0) {
1084                 IFNET_WUNLOCK();
1085                 panic("if_index overflow");
1086         }
1087         ifp->if_index = idx;
1088         ifnet_setbyindex_locked(ifp->if_index, ifp);
1089         IFNET_WUNLOCK();
1090
1091         if_attach_internal(ifp, 1, ifc);
1092
1093         CURVNET_RESTORE();
1094 }
1095
1096 /*
1097  * Move an ifnet to or from another child prison/vnet, specified by the jail id.
1098  */
1099 static int
1100 if_vmove_loan(struct thread *td, struct ifnet *ifp, char *ifname, int jid)
1101 {
1102         struct prison *pr;
1103         struct ifnet *difp;
1104
1105         /* Try to find the prison within our visibility. */
1106         sx_slock(&allprison_lock);
1107         pr = prison_find_child(td->td_ucred->cr_prison, jid);
1108         sx_sunlock(&allprison_lock);
1109         if (pr == NULL)
1110                 return (ENXIO);
1111         prison_hold_locked(pr);
1112         mtx_unlock(&pr->pr_mtx);
1113
1114         /* Do not try to move the iface from and to the same prison. */
1115         if (pr->pr_vnet == ifp->if_vnet) {
1116                 prison_free(pr);
1117                 return (EEXIST);
1118         }
1119
1120         /* Make sure the named iface does not exists in the dst. prison/vnet. */
1121         /* XXX Lock interfaces to avoid races. */
1122         CURVNET_SET_QUIET(pr->pr_vnet);
1123         difp = ifunit(ifname);
1124         CURVNET_RESTORE();
1125         if (difp != NULL) {
1126                 prison_free(pr);
1127                 return (EEXIST);
1128         }
1129
1130         /* Move the interface into the child jail/vnet. */
1131         if_vmove(ifp, pr->pr_vnet);
1132
1133         /* Report the new if_xname back to the userland. */
1134         sprintf(ifname, "%s", ifp->if_xname);
1135
1136         prison_free(pr);
1137         return (0);
1138 }
1139
1140 static int
1141 if_vmove_reclaim(struct thread *td, char *ifname, int jid)
1142 {
1143         struct prison *pr;
1144         struct vnet *vnet_dst;
1145         struct ifnet *ifp;
1146
1147         /* Try to find the prison within our visibility. */
1148         sx_slock(&allprison_lock);
1149         pr = prison_find_child(td->td_ucred->cr_prison, jid);
1150         sx_sunlock(&allprison_lock);
1151         if (pr == NULL)
1152                 return (ENXIO);
1153         prison_hold_locked(pr);
1154         mtx_unlock(&pr->pr_mtx);
1155
1156         /* Make sure the named iface exists in the source prison/vnet. */
1157         CURVNET_SET(pr->pr_vnet);
1158         ifp = ifunit(ifname);           /* XXX Lock to avoid races. */
1159         if (ifp == NULL) {
1160                 CURVNET_RESTORE();
1161                 prison_free(pr);
1162                 return (ENXIO);
1163         }
1164
1165         /* Do not try to move the iface from and to the same prison. */
1166         vnet_dst = TD_TO_VNET(td);
1167         if (vnet_dst == ifp->if_vnet) {
1168                 CURVNET_RESTORE();
1169                 prison_free(pr);
1170                 return (EEXIST);
1171         }
1172
1173         /* Get interface back from child jail/vnet. */
1174         if_vmove(ifp, vnet_dst);
1175         CURVNET_RESTORE();
1176
1177         /* Report the new if_xname back to the userland. */
1178         sprintf(ifname, "%s", ifp->if_xname);
1179
1180         prison_free(pr);
1181         return (0);
1182 }
1183 #endif /* VIMAGE */
1184
1185 /*
1186  * Add a group to an interface
1187  */
1188 int
1189 if_addgroup(struct ifnet *ifp, const char *groupname)
1190 {
1191         struct ifg_list         *ifgl;
1192         struct ifg_group        *ifg = NULL;
1193         struct ifg_member       *ifgm;
1194         int                      new = 0;
1195
1196         if (groupname[0] && groupname[strlen(groupname) - 1] >= '0' &&
1197             groupname[strlen(groupname) - 1] <= '9')
1198                 return (EINVAL);
1199
1200         IFNET_WLOCK();
1201         TAILQ_FOREACH(ifgl, &ifp->if_groups, ifgl_next)
1202                 if (!strcmp(ifgl->ifgl_group->ifg_group, groupname)) {
1203                         IFNET_WUNLOCK();
1204                         return (EEXIST);
1205                 }
1206
1207         if ((ifgl = (struct ifg_list *)malloc(sizeof(struct ifg_list), M_TEMP,
1208             M_NOWAIT)) == NULL) {
1209                 IFNET_WUNLOCK();
1210                 return (ENOMEM);
1211         }
1212
1213         if ((ifgm = (struct ifg_member *)malloc(sizeof(struct ifg_member),
1214             M_TEMP, M_NOWAIT)) == NULL) {
1215                 free(ifgl, M_TEMP);
1216                 IFNET_WUNLOCK();
1217                 return (ENOMEM);
1218         }
1219
1220         TAILQ_FOREACH(ifg, &V_ifg_head, ifg_next)
1221                 if (!strcmp(ifg->ifg_group, groupname))
1222                         break;
1223
1224         if (ifg == NULL) {
1225                 if ((ifg = (struct ifg_group *)malloc(sizeof(struct ifg_group),
1226                     M_TEMP, M_NOWAIT)) == NULL) {
1227                         free(ifgl, M_TEMP);
1228                         free(ifgm, M_TEMP);
1229                         IFNET_WUNLOCK();
1230                         return (ENOMEM);
1231                 }
1232                 strlcpy(ifg->ifg_group, groupname, sizeof(ifg->ifg_group));
1233                 ifg->ifg_refcnt = 0;
1234                 TAILQ_INIT(&ifg->ifg_members);
1235                 TAILQ_INSERT_TAIL(&V_ifg_head, ifg, ifg_next);
1236                 new = 1;
1237         }
1238
1239         ifg->ifg_refcnt++;
1240         ifgl->ifgl_group = ifg;
1241         ifgm->ifgm_ifp = ifp;
1242
1243         IF_ADDR_WLOCK(ifp);
1244         TAILQ_INSERT_TAIL(&ifg->ifg_members, ifgm, ifgm_next);
1245         TAILQ_INSERT_TAIL(&ifp->if_groups, ifgl, ifgl_next);
1246         IF_ADDR_WUNLOCK(ifp);
1247
1248         IFNET_WUNLOCK();
1249
1250         if (new)
1251                 EVENTHANDLER_INVOKE(group_attach_event, ifg);
1252         EVENTHANDLER_INVOKE(group_change_event, groupname);
1253
1254         return (0);
1255 }
1256
1257 /*
1258  * Remove a group from an interface
1259  */
1260 int
1261 if_delgroup(struct ifnet *ifp, const char *groupname)
1262 {
1263         struct ifg_list         *ifgl;
1264         struct ifg_member       *ifgm;
1265
1266         IFNET_WLOCK();
1267         TAILQ_FOREACH(ifgl, &ifp->if_groups, ifgl_next)
1268                 if (!strcmp(ifgl->ifgl_group->ifg_group, groupname))
1269                         break;
1270         if (ifgl == NULL) {
1271                 IFNET_WUNLOCK();
1272                 return (ENOENT);
1273         }
1274
1275         IF_ADDR_WLOCK(ifp);
1276         TAILQ_REMOVE(&ifp->if_groups, ifgl, ifgl_next);
1277         IF_ADDR_WUNLOCK(ifp);
1278
1279         TAILQ_FOREACH(ifgm, &ifgl->ifgl_group->ifg_members, ifgm_next)
1280                 if (ifgm->ifgm_ifp == ifp)
1281                         break;
1282
1283         if (ifgm != NULL) {
1284                 TAILQ_REMOVE(&ifgl->ifgl_group->ifg_members, ifgm, ifgm_next);
1285                 free(ifgm, M_TEMP);
1286         }
1287
1288         if (--ifgl->ifgl_group->ifg_refcnt == 0) {
1289                 TAILQ_REMOVE(&V_ifg_head, ifgl->ifgl_group, ifg_next);
1290                 IFNET_WUNLOCK();
1291                 EVENTHANDLER_INVOKE(group_detach_event, ifgl->ifgl_group);
1292                 free(ifgl->ifgl_group, M_TEMP);
1293         } else
1294                 IFNET_WUNLOCK();
1295
1296         free(ifgl, M_TEMP);
1297
1298         EVENTHANDLER_INVOKE(group_change_event, groupname);
1299
1300         return (0);
1301 }
1302
1303 /*
1304  * Remove an interface from all groups
1305  */
1306 static void
1307 if_delgroups(struct ifnet *ifp)
1308 {
1309         struct ifg_list         *ifgl;
1310         struct ifg_member       *ifgm;
1311         char groupname[IFNAMSIZ];
1312
1313         IFNET_WLOCK();
1314         while (!TAILQ_EMPTY(&ifp->if_groups)) {
1315                 ifgl = TAILQ_FIRST(&ifp->if_groups);
1316
1317                 strlcpy(groupname, ifgl->ifgl_group->ifg_group, IFNAMSIZ);
1318
1319                 IF_ADDR_WLOCK(ifp);
1320                 TAILQ_REMOVE(&ifp->if_groups, ifgl, ifgl_next);
1321                 IF_ADDR_WUNLOCK(ifp);
1322
1323                 TAILQ_FOREACH(ifgm, &ifgl->ifgl_group->ifg_members, ifgm_next)
1324                         if (ifgm->ifgm_ifp == ifp)
1325                                 break;
1326
1327                 if (ifgm != NULL) {
1328                         TAILQ_REMOVE(&ifgl->ifgl_group->ifg_members, ifgm,
1329                             ifgm_next);
1330                         free(ifgm, M_TEMP);
1331                 }
1332
1333                 if (--ifgl->ifgl_group->ifg_refcnt == 0) {
1334                         TAILQ_REMOVE(&V_ifg_head, ifgl->ifgl_group, ifg_next);
1335                         IFNET_WUNLOCK();
1336                         EVENTHANDLER_INVOKE(group_detach_event,
1337                             ifgl->ifgl_group);
1338                         free(ifgl->ifgl_group, M_TEMP);
1339                 } else
1340                         IFNET_WUNLOCK();
1341
1342                 free(ifgl, M_TEMP);
1343
1344                 EVENTHANDLER_INVOKE(group_change_event, groupname);
1345
1346                 IFNET_WLOCK();
1347         }
1348         IFNET_WUNLOCK();
1349 }
1350
1351 /*
1352  * Stores all groups from an interface in memory pointed
1353  * to by data
1354  */
1355 static int
1356 if_getgroup(struct ifgroupreq *data, struct ifnet *ifp)
1357 {
1358         int                      len, error;
1359         struct ifg_list         *ifgl;
1360         struct ifg_req           ifgrq, *ifgp;
1361         struct ifgroupreq       *ifgr = data;
1362
1363         if (ifgr->ifgr_len == 0) {
1364                 IF_ADDR_RLOCK(ifp);
1365                 TAILQ_FOREACH(ifgl, &ifp->if_groups, ifgl_next)
1366                         ifgr->ifgr_len += sizeof(struct ifg_req);
1367                 IF_ADDR_RUNLOCK(ifp);
1368                 return (0);
1369         }
1370
1371         len = ifgr->ifgr_len;
1372         ifgp = ifgr->ifgr_groups;
1373         /* XXX: wire */
1374         IF_ADDR_RLOCK(ifp);
1375         TAILQ_FOREACH(ifgl, &ifp->if_groups, ifgl_next) {
1376                 if (len < sizeof(ifgrq)) {
1377                         IF_ADDR_RUNLOCK(ifp);
1378                         return (EINVAL);
1379                 }
1380                 bzero(&ifgrq, sizeof ifgrq);
1381                 strlcpy(ifgrq.ifgrq_group, ifgl->ifgl_group->ifg_group,
1382                     sizeof(ifgrq.ifgrq_group));
1383                 if ((error = copyout(&ifgrq, ifgp, sizeof(struct ifg_req)))) {
1384                         IF_ADDR_RUNLOCK(ifp);
1385                         return (error);
1386                 }
1387                 len -= sizeof(ifgrq);
1388                 ifgp++;
1389         }
1390         IF_ADDR_RUNLOCK(ifp);
1391
1392         return (0);
1393 }
1394
1395 /*
1396  * Stores all members of a group in memory pointed to by data
1397  */
1398 static int
1399 if_getgroupmembers(struct ifgroupreq *data)
1400 {
1401         struct ifgroupreq       *ifgr = data;
1402         struct ifg_group        *ifg;
1403         struct ifg_member       *ifgm;
1404         struct ifg_req           ifgrq, *ifgp;
1405         int                      len, error;
1406
1407         IFNET_RLOCK();
1408         TAILQ_FOREACH(ifg, &V_ifg_head, ifg_next)
1409                 if (!strcmp(ifg->ifg_group, ifgr->ifgr_name))
1410                         break;
1411         if (ifg == NULL) {
1412                 IFNET_RUNLOCK();
1413                 return (ENOENT);
1414         }
1415
1416         if (ifgr->ifgr_len == 0) {
1417                 TAILQ_FOREACH(ifgm, &ifg->ifg_members, ifgm_next)
1418                         ifgr->ifgr_len += sizeof(ifgrq);
1419                 IFNET_RUNLOCK();
1420                 return (0);
1421         }
1422
1423         len = ifgr->ifgr_len;
1424         ifgp = ifgr->ifgr_groups;
1425         TAILQ_FOREACH(ifgm, &ifg->ifg_members, ifgm_next) {
1426                 if (len < sizeof(ifgrq)) {
1427                         IFNET_RUNLOCK();
1428                         return (EINVAL);
1429                 }
1430                 bzero(&ifgrq, sizeof ifgrq);
1431                 strlcpy(ifgrq.ifgrq_member, ifgm->ifgm_ifp->if_xname,
1432                     sizeof(ifgrq.ifgrq_member));
1433                 if ((error = copyout(&ifgrq, ifgp, sizeof(struct ifg_req)))) {
1434                         IFNET_RUNLOCK();
1435                         return (error);
1436                 }
1437                 len -= sizeof(ifgrq);
1438                 ifgp++;
1439         }
1440         IFNET_RUNLOCK();
1441
1442         return (0);
1443 }
1444
1445 /*
1446  * Delete Routes for a Network Interface
1447  *
1448  * Called for each routing entry via the rnh->rnh_walktree() call above
1449  * to delete all route entries referencing a detaching network interface.
1450  *
1451  * Arguments:
1452  *      rn      pointer to node in the routing table
1453  *      arg     argument passed to rnh->rnh_walktree() - detaching interface
1454  *
1455  * Returns:
1456  *      0       successful
1457  *      errno   failed - reason indicated
1458  *
1459  */
1460 static int
1461 if_rtdel(struct radix_node *rn, void *arg)
1462 {
1463         struct rtentry  *rt = (struct rtentry *)rn;
1464         struct ifnet    *ifp = arg;
1465         int             err;
1466
1467         if (rt->rt_ifp == ifp) {
1468
1469                 /*
1470                  * Protect (sorta) against walktree recursion problems
1471                  * with cloned routes
1472                  */
1473                 if ((rt->rt_flags & RTF_UP) == 0)
1474                         return (0);
1475
1476                 err = rtrequest_fib(RTM_DELETE, rt_key(rt), rt->rt_gateway,
1477                                 rt_mask(rt),
1478                                 rt->rt_flags|RTF_RNH_LOCKED|RTF_PINNED,
1479                                 (struct rtentry **) NULL, rt->rt_fibnum);
1480                 if (err) {
1481                         log(LOG_WARNING, "if_rtdel: error %d\n", err);
1482                 }
1483         }
1484
1485         return (0);
1486 }
1487
1488 /*
1489  * A compatibility function returns ifnet counter values.
1490  */
1491 uint64_t
1492 if_get_counter_default(struct ifnet *ifp, ift_counter cnt)
1493 {
1494
1495         KASSERT(cnt < IFCOUNTERS, ("%s: invalid cnt %d", __func__, cnt));
1496         switch (cnt) {
1497         case IFCOUNTER_IPACKETS:
1498                 return (ifp->if_ipackets);
1499         case IFCOUNTER_IERRORS:
1500                 return (ifp->if_ierrors);
1501         case IFCOUNTER_OPACKETS:
1502                 return (ifp->if_opackets);
1503         case IFCOUNTER_OERRORS:
1504                 return (ifp->if_oerrors);
1505         case IFCOUNTER_COLLISIONS:
1506                 return (ifp->if_collisions);
1507         case IFCOUNTER_IBYTES:
1508                 return (ifp->if_ibytes);
1509         case IFCOUNTER_OBYTES:
1510                 return (ifp->if_obytes);
1511         case IFCOUNTER_IMCASTS:
1512                 return (ifp->if_imcasts);
1513         case IFCOUNTER_OMCASTS:
1514                 return (ifp->if_omcasts);
1515         case IFCOUNTER_IQDROPS:
1516                 return (ifp->if_iqdrops);
1517 #ifdef _IFI_OQDROPS
1518         case IFCOUNTER_OQDROPS:
1519                 return (ifp->if_oqdrops);
1520 #endif
1521         case IFCOUNTER_NOPROTO:
1522                 return (ifp->if_noproto);
1523         default:
1524                 break;
1525         };
1526         return (0);
1527 }
1528
1529 /*
1530  * Increase an ifnet counter. Usually used for counters shared
1531  * between the stack and a driver, but function supports them all.
1532  */
1533 void
1534 if_inc_counter(struct ifnet *ifp, ift_counter cnt, int64_t inc)
1535 {
1536
1537         KASSERT(cnt < IFCOUNTERS, ("%s: invalid cnt %d", __func__, cnt));
1538         switch (cnt) {
1539         case IFCOUNTER_IPACKETS:
1540                 ifp->if_ipackets += inc;
1541                 break;
1542         case IFCOUNTER_IERRORS:
1543                 ifp->if_ierrors += inc;
1544                 break;
1545         case IFCOUNTER_OPACKETS:
1546                 ifp->if_opackets += inc;
1547                 break;
1548         case IFCOUNTER_OERRORS:
1549                 ifp->if_oerrors += inc;
1550                 break;
1551         case IFCOUNTER_COLLISIONS:
1552                 ifp->if_collisions += inc;
1553                 break;
1554         case IFCOUNTER_IBYTES:
1555                 ifp->if_ibytes += inc;
1556                 break;
1557         case IFCOUNTER_OBYTES:
1558                 ifp->if_obytes += inc;
1559                 break;
1560         case IFCOUNTER_IMCASTS:
1561                 ifp->if_imcasts += inc;
1562                 break;
1563         case IFCOUNTER_OMCASTS:
1564                 ifp->if_omcasts += inc;
1565                 break;
1566         case IFCOUNTER_IQDROPS:
1567                 ifp->if_iqdrops += inc;
1568                 break;
1569 #ifdef _IFI_OQDROPS
1570         case IFCOUNTER_OQDROPS:
1571                 ifp->if_oqdrops += inc;
1572                 break;
1573 #endif
1574         case IFCOUNTER_NOPROTO:
1575                 ifp->if_noproto += inc;
1576                 break;
1577         default:
1578                 break;
1579         };
1580 }
1581
1582 /*
1583  * Wrapper functions for struct ifnet address list locking macros.  These are
1584  * used by kernel modules to avoid encoding programming interface or binary
1585  * interface assumptions that may be violated when kernel-internal locking
1586  * approaches change.
1587  */
1588 void
1589 if_addr_rlock(struct ifnet *ifp)
1590 {
1591
1592         IF_ADDR_RLOCK(ifp);
1593 }
1594
1595 void
1596 if_addr_runlock(struct ifnet *ifp)
1597 {
1598
1599         IF_ADDR_RUNLOCK(ifp);
1600 }
1601
1602 void
1603 if_maddr_rlock(struct ifnet *ifp)
1604 {
1605
1606         IF_ADDR_RLOCK(ifp);
1607 }
1608
1609 void
1610 if_maddr_runlock(struct ifnet *ifp)
1611 {
1612
1613         IF_ADDR_RUNLOCK(ifp);
1614 }
1615
1616 /*
1617  * Initialization, destruction and refcounting functions for ifaddrs.
1618  */
1619 void
1620 ifa_init(struct ifaddr *ifa)
1621 {
1622
1623         mtx_init(&ifa->ifa_mtx, "ifaddr", NULL, MTX_DEF);
1624         refcount_init(&ifa->ifa_refcnt, 1);
1625         ifa->if_data.ifi_datalen = sizeof(ifa->if_data);
1626 }
1627
1628 void
1629 ifa_ref(struct ifaddr *ifa)
1630 {
1631
1632         refcount_acquire(&ifa->ifa_refcnt);
1633 }
1634
1635 void
1636 ifa_free(struct ifaddr *ifa)
1637 {
1638
1639         if (refcount_release(&ifa->ifa_refcnt)) {
1640                 mtx_destroy(&ifa->ifa_mtx);
1641                 free(ifa, M_IFADDR);
1642         }
1643 }
1644
1645 int
1646 ifa_add_loopback_route(struct ifaddr *ifa, struct sockaddr *ia)
1647 {
1648         int error = 0;
1649         struct rtentry *rt = NULL;
1650         struct rt_addrinfo info;
1651         static struct sockaddr_dl null_sdl = {sizeof(null_sdl), AF_LINK};
1652
1653         bzero(&info, sizeof(info));
1654         info.rti_ifp = V_loif;
1655         info.rti_flags = ifa->ifa_flags | RTF_HOST | RTF_STATIC;
1656         info.rti_info[RTAX_DST] = ia;
1657         info.rti_info[RTAX_GATEWAY] = (struct sockaddr *)&null_sdl;
1658         error = rtrequest1_fib(RTM_ADD, &info, &rt, ifa->ifa_ifp->if_fib);
1659
1660         if (error == 0 && rt != NULL) {
1661                 RT_LOCK(rt);
1662                 ((struct sockaddr_dl *)rt->rt_gateway)->sdl_type  =
1663                         ifa->ifa_ifp->if_type;
1664                 ((struct sockaddr_dl *)rt->rt_gateway)->sdl_index =
1665                         ifa->ifa_ifp->if_index;
1666                 RT_REMREF(rt);
1667                 RT_UNLOCK(rt);
1668         } else if (error != 0)
1669                 log(LOG_DEBUG, "%s: insertion failed: %u\n", __func__, error);
1670
1671         return (error);
1672 }
1673
1674 int
1675 ifa_del_loopback_route(struct ifaddr *ifa, struct sockaddr *ia)
1676 {
1677         int error = 0;
1678         struct rt_addrinfo info;
1679         struct sockaddr_dl null_sdl;
1680
1681         bzero(&null_sdl, sizeof(null_sdl));
1682         null_sdl.sdl_len = sizeof(null_sdl);
1683         null_sdl.sdl_family = AF_LINK;
1684         null_sdl.sdl_type = ifa->ifa_ifp->if_type;
1685         null_sdl.sdl_index = ifa->ifa_ifp->if_index;
1686         bzero(&info, sizeof(info));
1687         info.rti_flags = ifa->ifa_flags | RTF_HOST | RTF_STATIC;
1688         info.rti_info[RTAX_DST] = ia;
1689         info.rti_info[RTAX_GATEWAY] = (struct sockaddr *)&null_sdl;
1690         error = rtrequest1_fib(RTM_DELETE, &info, NULL, ifa->ifa_ifp->if_fib);
1691
1692         if (error != 0)
1693                 log(LOG_DEBUG, "%s: deletion failed: %u\n", __func__, error);
1694
1695         return (error);
1696 }
1697
1698 /*
1699  * XXX: Because sockaddr_dl has deeper structure than the sockaddr
1700  * structs used to represent other address families, it is necessary
1701  * to perform a different comparison.
1702  */
1703
1704 #define sa_equal(a1, a2)        \
1705         (bcmp((a1), (a2), ((a1))->sa_len) == 0)
1706
1707 #define sa_dl_equal(a1, a2)     \
1708         ((((struct sockaddr_dl *)(a1))->sdl_len ==                      \
1709          ((struct sockaddr_dl *)(a2))->sdl_len) &&                      \
1710          (bcmp(LLADDR((struct sockaddr_dl *)(a1)),                      \
1711                LLADDR((struct sockaddr_dl *)(a2)),                      \
1712                ((struct sockaddr_dl *)(a1))->sdl_alen) == 0))
1713
1714 /*
1715  * Locate an interface based on a complete address.
1716  */
1717 /*ARGSUSED*/
1718 static struct ifaddr *
1719 ifa_ifwithaddr_internal(struct sockaddr *addr, int getref)
1720 {
1721         struct ifnet *ifp;
1722         struct ifaddr *ifa;
1723
1724         IFNET_RLOCK_NOSLEEP();
1725         TAILQ_FOREACH(ifp, &V_ifnet, if_link) {
1726                 IF_ADDR_RLOCK(ifp);
1727                 TAILQ_FOREACH(ifa, &ifp->if_addrhead, ifa_link) {
1728                         if (ifa->ifa_addr->sa_family != addr->sa_family)
1729                                 continue;
1730                         if (sa_equal(addr, ifa->ifa_addr)) {
1731                                 if (getref)
1732                                         ifa_ref(ifa);
1733                                 IF_ADDR_RUNLOCK(ifp);
1734                                 goto done;
1735                         }
1736                         /* IP6 doesn't have broadcast */
1737                         if ((ifp->if_flags & IFF_BROADCAST) &&
1738                             ifa->ifa_broadaddr &&
1739                             ifa->ifa_broadaddr->sa_len != 0 &&
1740                             sa_equal(ifa->ifa_broadaddr, addr)) {
1741                                 if (getref)
1742                                         ifa_ref(ifa);
1743                                 IF_ADDR_RUNLOCK(ifp);
1744                                 goto done;
1745                         }
1746                 }
1747                 IF_ADDR_RUNLOCK(ifp);
1748         }
1749         ifa = NULL;
1750 done:
1751         IFNET_RUNLOCK_NOSLEEP();
1752         return (ifa);
1753 }
1754
1755 struct ifaddr *
1756 ifa_ifwithaddr(struct sockaddr *addr)
1757 {
1758
1759         return (ifa_ifwithaddr_internal(addr, 1));
1760 }
1761
1762 int
1763 ifa_ifwithaddr_check(struct sockaddr *addr)
1764 {
1765
1766         return (ifa_ifwithaddr_internal(addr, 0) != NULL);
1767 }
1768
1769 /*
1770  * Locate an interface based on the broadcast address.
1771  */
1772 /* ARGSUSED */
1773 struct ifaddr *
1774 ifa_ifwithbroadaddr(struct sockaddr *addr)
1775 {
1776         struct ifnet *ifp;
1777         struct ifaddr *ifa;
1778
1779         IFNET_RLOCK_NOSLEEP();
1780         TAILQ_FOREACH(ifp, &V_ifnet, if_link) {
1781                 IF_ADDR_RLOCK(ifp);
1782                 TAILQ_FOREACH(ifa, &ifp->if_addrhead, ifa_link) {
1783                         if (ifa->ifa_addr->sa_family != addr->sa_family)
1784                                 continue;
1785                         if ((ifp->if_flags & IFF_BROADCAST) &&
1786                             ifa->ifa_broadaddr &&
1787                             ifa->ifa_broadaddr->sa_len != 0 &&
1788                             sa_equal(ifa->ifa_broadaddr, addr)) {
1789                                 ifa_ref(ifa);
1790                                 IF_ADDR_RUNLOCK(ifp);
1791                                 goto done;
1792                         }
1793                 }
1794                 IF_ADDR_RUNLOCK(ifp);
1795         }
1796         ifa = NULL;
1797 done:
1798         IFNET_RUNLOCK_NOSLEEP();
1799         return (ifa);
1800 }
1801
1802 /*
1803  * Locate the point to point interface with a given destination address.
1804  */
1805 /*ARGSUSED*/
1806 struct ifaddr *
1807 ifa_ifwithdstaddr_fib(struct sockaddr *addr, int fibnum)
1808 {
1809         struct ifnet *ifp;
1810         struct ifaddr *ifa;
1811
1812         IFNET_RLOCK_NOSLEEP();
1813         TAILQ_FOREACH(ifp, &V_ifnet, if_link) {
1814                 if ((ifp->if_flags & IFF_POINTOPOINT) == 0)
1815                         continue;
1816                 if ((fibnum != RT_ALL_FIBS) && (ifp->if_fib != fibnum))
1817                         continue;
1818                 IF_ADDR_RLOCK(ifp);
1819                 TAILQ_FOREACH(ifa, &ifp->if_addrhead, ifa_link) {
1820                         if (ifa->ifa_addr->sa_family != addr->sa_family)
1821                                 continue;
1822                         if (ifa->ifa_dstaddr != NULL &&
1823                             sa_equal(addr, ifa->ifa_dstaddr)) {
1824                                 ifa_ref(ifa);
1825                                 IF_ADDR_RUNLOCK(ifp);
1826                                 goto done;
1827                         }
1828                 }
1829                 IF_ADDR_RUNLOCK(ifp);
1830         }
1831         ifa = NULL;
1832 done:
1833         IFNET_RUNLOCK_NOSLEEP();
1834         return (ifa);
1835 }
1836
1837 struct ifaddr *
1838 ifa_ifwithdstaddr(struct sockaddr *addr)
1839 {
1840
1841         return (ifa_ifwithdstaddr_fib(addr, RT_ALL_FIBS));
1842 }
1843
1844 /*
1845  * Find an interface on a specific network.  If many, choice
1846  * is most specific found.
1847  */
1848 struct ifaddr *
1849 ifa_ifwithnet_fib(struct sockaddr *addr, int ignore_ptp, int fibnum)
1850 {
1851         struct ifnet *ifp;
1852         struct ifaddr *ifa;
1853         struct ifaddr *ifa_maybe = NULL;
1854         u_int af = addr->sa_family;
1855         char *addr_data = addr->sa_data, *cplim;
1856
1857         /*
1858          * AF_LINK addresses can be looked up directly by their index number,
1859          * so do that if we can.
1860          */
1861         if (af == AF_LINK) {
1862             struct sockaddr_dl *sdl = (struct sockaddr_dl *)addr;
1863             if (sdl->sdl_index && sdl->sdl_index <= V_if_index)
1864                 return (ifaddr_byindex(sdl->sdl_index));
1865         }
1866
1867         /*
1868          * Scan though each interface, looking for ones that have addresses
1869          * in this address family and the requested fib.  Maintain a reference
1870          * on ifa_maybe once we find one, as we release the IF_ADDR_RLOCK() that
1871          * kept it stable when we move onto the next interface.
1872          */
1873         IFNET_RLOCK_NOSLEEP();
1874         TAILQ_FOREACH(ifp, &V_ifnet, if_link) {
1875                 if ((fibnum != RT_ALL_FIBS) && (ifp->if_fib != fibnum))
1876                         continue;
1877                 IF_ADDR_RLOCK(ifp);
1878                 TAILQ_FOREACH(ifa, &ifp->if_addrhead, ifa_link) {
1879                         char *cp, *cp2, *cp3;
1880
1881                         if (ifa->ifa_addr->sa_family != af)
1882 next:                           continue;
1883                         if (af == AF_INET &&
1884                             ifp->if_flags & IFF_POINTOPOINT && !ignore_ptp) {
1885                                 /*
1886                                  * This is a bit broken as it doesn't
1887                                  * take into account that the remote end may
1888                                  * be a single node in the network we are
1889                                  * looking for.
1890                                  * The trouble is that we don't know the
1891                                  * netmask for the remote end.
1892                                  */
1893                                 if (ifa->ifa_dstaddr != NULL &&
1894                                     sa_equal(addr, ifa->ifa_dstaddr)) {
1895                                         ifa_ref(ifa);
1896                                         IF_ADDR_RUNLOCK(ifp);
1897                                         goto done;
1898                                 }
1899                         } else {
1900                                 /*
1901                                  * if we have a special address handler,
1902                                  * then use it instead of the generic one.
1903                                  */
1904                                 if (ifa->ifa_claim_addr) {
1905                                         if ((*ifa->ifa_claim_addr)(ifa, addr)) {
1906                                                 ifa_ref(ifa);
1907                                                 IF_ADDR_RUNLOCK(ifp);
1908                                                 goto done;
1909                                         }
1910                                         continue;
1911                                 }
1912
1913                                 /*
1914                                  * Scan all the bits in the ifa's address.
1915                                  * If a bit dissagrees with what we are
1916                                  * looking for, mask it with the netmask
1917                                  * to see if it really matters.
1918                                  * (A byte at a time)
1919                                  */
1920                                 if (ifa->ifa_netmask == 0)
1921                                         continue;
1922                                 cp = addr_data;
1923                                 cp2 = ifa->ifa_addr->sa_data;
1924                                 cp3 = ifa->ifa_netmask->sa_data;
1925                                 cplim = ifa->ifa_netmask->sa_len
1926                                         + (char *)ifa->ifa_netmask;
1927                                 while (cp3 < cplim)
1928                                         if ((*cp++ ^ *cp2++) & *cp3++)
1929                                                 goto next; /* next address! */
1930                                 /*
1931                                  * If the netmask of what we just found
1932                                  * is more specific than what we had before
1933                                  * (if we had one), or if the virtual status
1934                                  * of new prefix is better than of the old one,
1935                                  * then remember the new one before continuing
1936                                  * to search for an even better one.
1937                                  */
1938                                 if (ifa_maybe == NULL ||
1939                                     ifa_preferred(ifa_maybe, ifa) ||
1940                                     rn_refines((caddr_t)ifa->ifa_netmask,
1941                                     (caddr_t)ifa_maybe->ifa_netmask)) {
1942                                         if (ifa_maybe != NULL)
1943                                                 ifa_free(ifa_maybe);
1944                                         ifa_maybe = ifa;
1945                                         ifa_ref(ifa_maybe);
1946                                 }
1947                         }
1948                 }
1949                 IF_ADDR_RUNLOCK(ifp);
1950         }
1951         ifa = ifa_maybe;
1952         ifa_maybe = NULL;
1953 done:
1954         IFNET_RUNLOCK_NOSLEEP();
1955         if (ifa_maybe != NULL)
1956                 ifa_free(ifa_maybe);
1957         return (ifa);
1958 }
1959
1960 struct ifaddr *
1961 ifa_ifwithnet(struct sockaddr *addr, int ignore_ptp)
1962 {
1963
1964         return (ifa_ifwithnet_fib(addr, ignore_ptp, RT_ALL_FIBS));
1965 }
1966
1967 /*
1968  * Find an interface address specific to an interface best matching
1969  * a given address.
1970  */
1971 struct ifaddr *
1972 ifaof_ifpforaddr(struct sockaddr *addr, struct ifnet *ifp)
1973 {
1974         struct ifaddr *ifa;
1975         char *cp, *cp2, *cp3;
1976         char *cplim;
1977         struct ifaddr *ifa_maybe = NULL;
1978         u_int af = addr->sa_family;
1979
1980         if (af >= AF_MAX)
1981                 return (NULL);
1982         IF_ADDR_RLOCK(ifp);
1983         TAILQ_FOREACH(ifa, &ifp->if_addrhead, ifa_link) {
1984                 if (ifa->ifa_addr->sa_family != af)
1985                         continue;
1986                 if (ifa_maybe == NULL)
1987                         ifa_maybe = ifa;
1988                 if (ifa->ifa_netmask == 0) {
1989                         if (sa_equal(addr, ifa->ifa_addr) ||
1990                             (ifa->ifa_dstaddr &&
1991                             sa_equal(addr, ifa->ifa_dstaddr)))
1992                                 goto done;
1993                         continue;
1994                 }
1995                 if (ifp->if_flags & IFF_POINTOPOINT) {
1996                         if (sa_equal(addr, ifa->ifa_dstaddr))
1997                                 goto done;
1998                 } else {
1999                         cp = addr->sa_data;
2000                         cp2 = ifa->ifa_addr->sa_data;
2001                         cp3 = ifa->ifa_netmask->sa_data;
2002                         cplim = ifa->ifa_netmask->sa_len + (char *)ifa->ifa_netmask;
2003                         for (; cp3 < cplim; cp3++)
2004                                 if ((*cp++ ^ *cp2++) & *cp3)
2005                                         break;
2006                         if (cp3 == cplim)
2007                                 goto done;
2008                 }
2009         }
2010         ifa = ifa_maybe;
2011 done:
2012         if (ifa != NULL)
2013                 ifa_ref(ifa);
2014         IF_ADDR_RUNLOCK(ifp);
2015         return (ifa);
2016 }
2017
2018 /*
2019  * See whether new ifa is better than current one:
2020  * 1) A non-virtual one is preferred over virtual.
2021  * 2) A virtual in master state preferred over any other state.
2022  *
2023  * Used in several address selecting functions.
2024  */
2025 int
2026 ifa_preferred(struct ifaddr *cur, struct ifaddr *next)
2027 {
2028
2029         return (cur->ifa_carp && (!next->ifa_carp ||
2030             ((*carp_master_p)(next) && !(*carp_master_p)(cur))));
2031 }
2032
2033 #include <net/if_llatbl.h>
2034
2035 /*
2036  * Default action when installing a route with a Link Level gateway.
2037  * Lookup an appropriate real ifa to point to.
2038  * This should be moved to /sys/net/link.c eventually.
2039  */
2040 static void
2041 link_rtrequest(int cmd, struct rtentry *rt, struct rt_addrinfo *info)
2042 {
2043         struct ifaddr *ifa, *oifa;
2044         struct sockaddr *dst;
2045         struct ifnet *ifp;
2046
2047         RT_LOCK_ASSERT(rt);
2048
2049         if (cmd != RTM_ADD || ((ifa = rt->rt_ifa) == 0) ||
2050             ((ifp = ifa->ifa_ifp) == 0) || ((dst = rt_key(rt)) == 0))
2051                 return;
2052         ifa = ifaof_ifpforaddr(dst, ifp);
2053         if (ifa) {
2054                 oifa = rt->rt_ifa;
2055                 rt->rt_ifa = ifa;
2056                 ifa_free(oifa);
2057                 if (ifa->ifa_rtrequest && ifa->ifa_rtrequest != link_rtrequest)
2058                         ifa->ifa_rtrequest(cmd, rt, info);
2059         }
2060 }
2061
2062 /*
2063  * Mark an interface down and notify protocols of
2064  * the transition.
2065  */
2066 static void
2067 if_unroute(struct ifnet *ifp, int flag, int fam)
2068 {
2069         struct ifaddr *ifa;
2070
2071         KASSERT(flag == IFF_UP, ("if_unroute: flag != IFF_UP"));
2072
2073         ifp->if_flags &= ~flag;
2074         getmicrotime(&ifp->if_lastchange);
2075         TAILQ_FOREACH(ifa, &ifp->if_addrhead, ifa_link)
2076                 if (fam == PF_UNSPEC || (fam == ifa->ifa_addr->sa_family))
2077                         pfctlinput(PRC_IFDOWN, ifa->ifa_addr);
2078         ifp->if_qflush(ifp);
2079
2080         if (ifp->if_carp)
2081                 (*carp_linkstate_p)(ifp);
2082         rt_ifmsg(ifp);
2083 }
2084
2085 /*
2086  * Mark an interface up and notify protocols of
2087  * the transition.
2088  */
2089 static void
2090 if_route(struct ifnet *ifp, int flag, int fam)
2091 {
2092         struct ifaddr *ifa;
2093
2094         KASSERT(flag == IFF_UP, ("if_route: flag != IFF_UP"));
2095
2096         ifp->if_flags |= flag;
2097         getmicrotime(&ifp->if_lastchange);
2098         TAILQ_FOREACH(ifa, &ifp->if_addrhead, ifa_link)
2099                 if (fam == PF_UNSPEC || (fam == ifa->ifa_addr->sa_family))
2100                         pfctlinput(PRC_IFUP, ifa->ifa_addr);
2101         if (ifp->if_carp)
2102                 (*carp_linkstate_p)(ifp);
2103         rt_ifmsg(ifp);
2104 #ifdef INET6
2105         in6_if_up(ifp);
2106 #endif
2107 }
2108
2109 void    (*vlan_link_state_p)(struct ifnet *);   /* XXX: private from if_vlan */
2110 void    (*vlan_trunk_cap_p)(struct ifnet *);            /* XXX: private from if_vlan */
2111 struct ifnet *(*vlan_trunkdev_p)(struct ifnet *);
2112 struct  ifnet *(*vlan_devat_p)(struct ifnet *, uint16_t);
2113 int     (*vlan_tag_p)(struct ifnet *, uint16_t *);
2114 int     (*vlan_setcookie_p)(struct ifnet *, void *);
2115 void    *(*vlan_cookie_p)(struct ifnet *);
2116
2117 /*
2118  * Handle a change in the interface link state. To avoid LORs
2119  * between driver lock and upper layer locks, as well as possible
2120  * recursions, we post event to taskqueue, and all job
2121  * is done in static do_link_state_change().
2122  */
2123 void
2124 if_link_state_change(struct ifnet *ifp, int link_state)
2125 {
2126         /* Return if state hasn't changed. */
2127         if (ifp->if_link_state == link_state)
2128                 return;
2129
2130         ifp->if_link_state = link_state;
2131
2132         taskqueue_enqueue(taskqueue_swi, &ifp->if_linktask);
2133 }
2134
2135 static void
2136 do_link_state_change(void *arg, int pending)
2137 {
2138         struct ifnet *ifp = (struct ifnet *)arg;
2139         int link_state = ifp->if_link_state;
2140         CURVNET_SET(ifp->if_vnet);
2141
2142         /* Notify that the link state has changed. */
2143         rt_ifmsg(ifp);
2144         if (ifp->if_vlantrunk != NULL)
2145                 (*vlan_link_state_p)(ifp);
2146
2147         if ((ifp->if_type == IFT_ETHER || ifp->if_type == IFT_L2VLAN) &&
2148             IFP2AC(ifp)->ac_netgraph != NULL)
2149                 (*ng_ether_link_state_p)(ifp, link_state);
2150         if (ifp->if_carp)
2151                 (*carp_linkstate_p)(ifp);
2152         if (ifp->if_bridge)
2153                 (*bridge_linkstate_p)(ifp);
2154         if (ifp->if_lagg)
2155                 (*lagg_linkstate_p)(ifp, link_state);
2156
2157         if (IS_DEFAULT_VNET(curvnet))
2158                 devctl_notify("IFNET", ifp->if_xname,
2159                     (link_state == LINK_STATE_UP) ? "LINK_UP" : "LINK_DOWN",
2160                     NULL);
2161         if (pending > 1)
2162                 if_printf(ifp, "%d link states coalesced\n", pending);
2163         if (log_link_state_change)
2164                 log(LOG_NOTICE, "%s: link state changed to %s\n", ifp->if_xname,
2165                     (link_state == LINK_STATE_UP) ? "UP" : "DOWN" );
2166         EVENTHANDLER_INVOKE(ifnet_link_event, ifp, ifp->if_link_state);
2167         CURVNET_RESTORE();
2168 }
2169
2170 /*
2171  * Mark an interface down and notify protocols of
2172  * the transition.
2173  */
2174 void
2175 if_down(struct ifnet *ifp)
2176 {
2177
2178         if_unroute(ifp, IFF_UP, AF_UNSPEC);
2179 }
2180
2181 /*
2182  * Mark an interface up and notify protocols of
2183  * the transition.
2184  */
2185 void
2186 if_up(struct ifnet *ifp)
2187 {
2188
2189         if_route(ifp, IFF_UP, AF_UNSPEC);
2190 }
2191
2192 /*
2193  * Flush an interface queue.
2194  */
2195 void
2196 if_qflush(struct ifnet *ifp)
2197 {
2198         struct mbuf *m, *n;
2199         struct ifaltq *ifq;
2200
2201         ifq = &ifp->if_snd;
2202         IFQ_LOCK(ifq);
2203 #ifdef ALTQ
2204         if (ALTQ_IS_ENABLED(ifq))
2205                 ALTQ_PURGE(ifq);
2206 #endif
2207         n = ifq->ifq_head;
2208         while ((m = n) != 0) {
2209                 n = m->m_nextpkt;
2210                 m_freem(m);
2211         }
2212         ifq->ifq_head = 0;
2213         ifq->ifq_tail = 0;
2214         ifq->ifq_len = 0;
2215         IFQ_UNLOCK(ifq);
2216 }
2217
2218 /*
2219  * Map interface name to interface structure pointer, with or without
2220  * returning a reference.
2221  */
2222 struct ifnet *
2223 ifunit_ref(const char *name)
2224 {
2225         struct ifnet *ifp;
2226
2227         IFNET_RLOCK_NOSLEEP();
2228         TAILQ_FOREACH(ifp, &V_ifnet, if_link) {
2229                 if (strncmp(name, ifp->if_xname, IFNAMSIZ) == 0 &&
2230                     !(ifp->if_flags & IFF_DYING))
2231                         break;
2232         }
2233         if (ifp != NULL)
2234                 if_ref(ifp);
2235         IFNET_RUNLOCK_NOSLEEP();
2236         return (ifp);
2237 }
2238
2239 struct ifnet *
2240 ifunit(const char *name)
2241 {
2242         struct ifnet *ifp;
2243
2244         IFNET_RLOCK_NOSLEEP();
2245         TAILQ_FOREACH(ifp, &V_ifnet, if_link) {
2246                 if (strncmp(name, ifp->if_xname, IFNAMSIZ) == 0)
2247                         break;
2248         }
2249         IFNET_RUNLOCK_NOSLEEP();
2250         return (ifp);
2251 }
2252
2253 /*
2254  * Hardware specific interface ioctls.
2255  */
2256 static int
2257 ifhwioctl(u_long cmd, struct ifnet *ifp, caddr_t data, struct thread *td)
2258 {
2259         struct ifreq *ifr;
2260         struct ifstat *ifs;
2261         int error = 0;
2262         int new_flags, temp_flags;
2263         size_t namelen, onamelen;
2264         size_t descrlen;
2265         char *descrbuf, *odescrbuf;
2266         char new_name[IFNAMSIZ];
2267         struct ifaddr *ifa;
2268         struct sockaddr_dl *sdl;
2269
2270         ifr = (struct ifreq *)data;
2271         switch (cmd) {
2272         case SIOCGIFINDEX:
2273                 ifr->ifr_index = ifp->if_index;
2274                 break;
2275
2276         case SIOCGIFFLAGS:
2277                 temp_flags = ifp->if_flags | ifp->if_drv_flags;
2278                 ifr->ifr_flags = temp_flags & 0xffff;
2279                 ifr->ifr_flagshigh = temp_flags >> 16;
2280                 break;
2281
2282         case SIOCGIFCAP:
2283                 ifr->ifr_reqcap = ifp->if_capabilities;
2284                 ifr->ifr_curcap = ifp->if_capenable;
2285                 break;
2286
2287 #ifdef MAC
2288         case SIOCGIFMAC:
2289                 error = mac_ifnet_ioctl_get(td->td_ucred, ifr, ifp);
2290                 break;
2291 #endif
2292
2293         case SIOCGIFMETRIC:
2294                 ifr->ifr_metric = ifp->if_metric;
2295                 break;
2296
2297         case SIOCGIFMTU:
2298                 ifr->ifr_mtu = ifp->if_mtu;
2299                 break;
2300
2301         case SIOCGIFPHYS:
2302                 ifr->ifr_phys = ifp->if_physical;
2303                 break;
2304
2305         case SIOCGIFDESCR:
2306                 error = 0;
2307                 sx_slock(&ifdescr_sx);
2308                 if (ifp->if_description == NULL)
2309                         error = ENOMSG;
2310                 else {
2311                         /* space for terminating nul */
2312                         descrlen = strlen(ifp->if_description) + 1;
2313                         if (ifr->ifr_buffer.length < descrlen)
2314                                 ifr->ifr_buffer.buffer = NULL;
2315                         else
2316                                 error = copyout(ifp->if_description,
2317                                     ifr->ifr_buffer.buffer, descrlen);
2318                         ifr->ifr_buffer.length = descrlen;
2319                 }
2320                 sx_sunlock(&ifdescr_sx);
2321                 break;
2322
2323         case SIOCSIFDESCR:
2324                 error = priv_check(td, PRIV_NET_SETIFDESCR);
2325                 if (error)
2326                         return (error);
2327
2328                 /*
2329                  * Copy only (length-1) bytes to make sure that
2330                  * if_description is always nul terminated.  The
2331                  * length parameter is supposed to count the
2332                  * terminating nul in.
2333                  */
2334                 if (ifr->ifr_buffer.length > ifdescr_maxlen)
2335                         return (ENAMETOOLONG);
2336                 else if (ifr->ifr_buffer.length == 0)
2337                         descrbuf = NULL;
2338                 else {
2339                         descrbuf = malloc(ifr->ifr_buffer.length, M_IFDESCR,
2340                             M_WAITOK | M_ZERO);
2341                         error = copyin(ifr->ifr_buffer.buffer, descrbuf,
2342                             ifr->ifr_buffer.length - 1);
2343                         if (error) {
2344                                 free(descrbuf, M_IFDESCR);
2345                                 break;
2346                         }
2347                 }
2348
2349                 sx_xlock(&ifdescr_sx);
2350                 odescrbuf = ifp->if_description;
2351                 ifp->if_description = descrbuf;
2352                 sx_xunlock(&ifdescr_sx);
2353
2354                 getmicrotime(&ifp->if_lastchange);
2355                 free(odescrbuf, M_IFDESCR);
2356                 break;
2357
2358         case SIOCGIFFIB:
2359                 ifr->ifr_fib = ifp->if_fib;
2360                 break;
2361
2362         case SIOCSIFFIB:
2363                 error = priv_check(td, PRIV_NET_SETIFFIB);
2364                 if (error)
2365                         return (error);
2366                 if (ifr->ifr_fib >= rt_numfibs)
2367                         return (EINVAL);
2368
2369                 ifp->if_fib = ifr->ifr_fib;
2370                 break;
2371
2372         case SIOCSIFFLAGS:
2373                 error = priv_check(td, PRIV_NET_SETIFFLAGS);
2374                 if (error)
2375                         return (error);
2376                 /*
2377                  * Currently, no driver owned flags pass the IFF_CANTCHANGE
2378                  * check, so we don't need special handling here yet.
2379                  */
2380                 new_flags = (ifr->ifr_flags & 0xffff) |
2381                     (ifr->ifr_flagshigh << 16);
2382                 if (ifp->if_flags & IFF_SMART) {
2383                         /* Smart drivers twiddle their own routes */
2384                 } else if (ifp->if_flags & IFF_UP &&
2385                     (new_flags & IFF_UP) == 0) {
2386                         if_down(ifp);
2387                 } else if (new_flags & IFF_UP &&
2388                     (ifp->if_flags & IFF_UP) == 0) {
2389                         if_up(ifp);
2390                 }
2391                 /* See if permanently promiscuous mode bit is about to flip */
2392                 if ((ifp->if_flags ^ new_flags) & IFF_PPROMISC) {
2393                         if (new_flags & IFF_PPROMISC)
2394                                 ifp->if_flags |= IFF_PROMISC;
2395                         else if (ifp->if_pcount == 0)
2396                                 ifp->if_flags &= ~IFF_PROMISC;
2397                         log(LOG_INFO, "%s: permanently promiscuous mode %s\n",
2398                             ifp->if_xname,
2399                             (new_flags & IFF_PPROMISC) ? "enabled" : "disabled");
2400                 }
2401                 ifp->if_flags = (ifp->if_flags & IFF_CANTCHANGE) |
2402                         (new_flags &~ IFF_CANTCHANGE);
2403                 if (ifp->if_ioctl) {
2404                         (void) (*ifp->if_ioctl)(ifp, cmd, data);
2405                 }
2406                 getmicrotime(&ifp->if_lastchange);
2407                 break;
2408
2409         case SIOCSIFCAP:
2410                 error = priv_check(td, PRIV_NET_SETIFCAP);
2411                 if (error)
2412                         return (error);
2413                 if (ifp->if_ioctl == NULL)
2414                         return (EOPNOTSUPP);
2415                 if (ifr->ifr_reqcap & ~ifp->if_capabilities)
2416                         return (EINVAL);
2417                 error = (*ifp->if_ioctl)(ifp, cmd, data);
2418                 if (error == 0)
2419                         getmicrotime(&ifp->if_lastchange);
2420                 break;
2421
2422 #ifdef MAC
2423         case SIOCSIFMAC:
2424                 error = mac_ifnet_ioctl_set(td->td_ucred, ifr, ifp);
2425                 break;
2426 #endif
2427
2428         case SIOCSIFNAME:
2429                 error = priv_check(td, PRIV_NET_SETIFNAME);
2430                 if (error)
2431                         return (error);
2432                 error = copyinstr(ifr->ifr_data, new_name, IFNAMSIZ, NULL);
2433                 if (error != 0)
2434                         return (error);
2435                 if (new_name[0] == '\0')
2436                         return (EINVAL);
2437                 if (ifunit(new_name) != NULL)
2438                         return (EEXIST);
2439
2440                 /*
2441                  * XXX: Locking.  Nothing else seems to lock if_flags,
2442                  * and there are numerous other races with the
2443                  * ifunit() checks not being atomic with namespace
2444                  * changes (renames, vmoves, if_attach, etc).
2445                  */
2446                 ifp->if_flags |= IFF_RENAMING;
2447
2448                 /* Announce the departure of the interface. */
2449                 rt_ifannouncemsg(ifp, IFAN_DEPARTURE);
2450                 EVENTHANDLER_INVOKE(ifnet_departure_event, ifp);
2451
2452                 log(LOG_INFO, "%s: changing name to '%s'\n",
2453                     ifp->if_xname, new_name);
2454
2455                 strlcpy(ifp->if_xname, new_name, sizeof(ifp->if_xname));
2456                 ifa = ifp->if_addr;
2457                 IFA_LOCK(ifa);
2458                 sdl = (struct sockaddr_dl *)ifa->ifa_addr;
2459                 namelen = strlen(new_name);
2460                 onamelen = sdl->sdl_nlen;
2461                 /*
2462                  * Move the address if needed.  This is safe because we
2463                  * allocate space for a name of length IFNAMSIZ when we
2464                  * create this in if_attach().
2465                  */
2466                 if (namelen != onamelen) {
2467                         bcopy(sdl->sdl_data + onamelen,
2468                             sdl->sdl_data + namelen, sdl->sdl_alen);
2469                 }
2470                 bcopy(new_name, sdl->sdl_data, namelen);
2471                 sdl->sdl_nlen = namelen;
2472                 sdl = (struct sockaddr_dl *)ifa->ifa_netmask;
2473                 bzero(sdl->sdl_data, onamelen);
2474                 while (namelen != 0)
2475                         sdl->sdl_data[--namelen] = 0xff;
2476                 IFA_UNLOCK(ifa);
2477
2478                 EVENTHANDLER_INVOKE(ifnet_arrival_event, ifp);
2479                 /* Announce the return of the interface. */
2480                 rt_ifannouncemsg(ifp, IFAN_ARRIVAL);
2481
2482                 ifp->if_flags &= ~IFF_RENAMING;
2483                 break;
2484
2485 #ifdef VIMAGE
2486         case SIOCSIFVNET:
2487                 error = priv_check(td, PRIV_NET_SETIFVNET);
2488                 if (error)
2489                         return (error);
2490                 error = if_vmove_loan(td, ifp, ifr->ifr_name, ifr->ifr_jid);
2491                 break;
2492 #endif
2493
2494         case SIOCSIFMETRIC:
2495                 error = priv_check(td, PRIV_NET_SETIFMETRIC);
2496                 if (error)
2497                         return (error);
2498                 ifp->if_metric = ifr->ifr_metric;
2499                 getmicrotime(&ifp->if_lastchange);
2500                 break;
2501
2502         case SIOCSIFPHYS:
2503                 error = priv_check(td, PRIV_NET_SETIFPHYS);
2504                 if (error)
2505                         return (error);
2506                 if (ifp->if_ioctl == NULL)
2507                         return (EOPNOTSUPP);
2508                 error = (*ifp->if_ioctl)(ifp, cmd, data);
2509                 if (error == 0)
2510                         getmicrotime(&ifp->if_lastchange);
2511                 break;
2512
2513         case SIOCSIFMTU:
2514         {
2515                 u_long oldmtu = ifp->if_mtu;
2516
2517                 error = priv_check(td, PRIV_NET_SETIFMTU);
2518                 if (error)
2519                         return (error);
2520                 if (ifr->ifr_mtu < IF_MINMTU || ifr->ifr_mtu > IF_MAXMTU)
2521                         return (EINVAL);
2522                 if (ifp->if_ioctl == NULL)
2523                         return (EOPNOTSUPP);
2524                 error = (*ifp->if_ioctl)(ifp, cmd, data);
2525                 if (error == 0) {
2526                         getmicrotime(&ifp->if_lastchange);
2527                         rt_ifmsg(ifp);
2528                 }
2529                 /*
2530                  * If the link MTU changed, do network layer specific procedure.
2531                  */
2532                 if (ifp->if_mtu != oldmtu) {
2533 #ifdef INET6
2534                         nd6_setmtu(ifp);
2535 #endif
2536                 }
2537                 break;
2538         }
2539
2540         case SIOCADDMULTI:
2541         case SIOCDELMULTI:
2542                 if (cmd == SIOCADDMULTI)
2543                         error = priv_check(td, PRIV_NET_ADDMULTI);
2544                 else
2545                         error = priv_check(td, PRIV_NET_DELMULTI);
2546                 if (error)
2547                         return (error);
2548
2549                 /* Don't allow group membership on non-multicast interfaces. */
2550                 if ((ifp->if_flags & IFF_MULTICAST) == 0)
2551                         return (EOPNOTSUPP);
2552
2553                 /* Don't let users screw up protocols' entries. */
2554                 if (ifr->ifr_addr.sa_family != AF_LINK)
2555                         return (EINVAL);
2556
2557                 if (cmd == SIOCADDMULTI) {
2558                         struct ifmultiaddr *ifma;
2559
2560                         /*
2561                          * Userland is only permitted to join groups once
2562                          * via the if_addmulti() KPI, because it cannot hold
2563                          * struct ifmultiaddr * between calls. It may also
2564                          * lose a race while we check if the membership
2565                          * already exists.
2566                          */
2567                         IF_ADDR_RLOCK(ifp);
2568                         ifma = if_findmulti(ifp, &ifr->ifr_addr);
2569                         IF_ADDR_RUNLOCK(ifp);
2570                         if (ifma != NULL)
2571                                 error = EADDRINUSE;
2572                         else
2573                                 error = if_addmulti(ifp, &ifr->ifr_addr, &ifma);
2574                 } else {
2575                         error = if_delmulti(ifp, &ifr->ifr_addr);
2576                 }
2577                 if (error == 0)
2578                         getmicrotime(&ifp->if_lastchange);
2579                 break;
2580
2581         case SIOCSIFPHYADDR:
2582         case SIOCDIFPHYADDR:
2583 #ifdef INET6
2584         case SIOCSIFPHYADDR_IN6:
2585 #endif
2586         case SIOCSLIFPHYADDR:
2587         case SIOCSIFMEDIA:
2588         case SIOCSIFGENERIC:
2589                 error = priv_check(td, PRIV_NET_HWIOCTL);
2590                 if (error)
2591                         return (error);
2592                 if (ifp->if_ioctl == NULL)
2593                         return (EOPNOTSUPP);
2594                 error = (*ifp->if_ioctl)(ifp, cmd, data);
2595                 if (error == 0)
2596                         getmicrotime(&ifp->if_lastchange);
2597                 break;
2598
2599         case SIOCGIFSTATUS:
2600                 ifs = (struct ifstat *)data;
2601                 ifs->ascii[0] = '\0';
2602
2603         case SIOCGIFPSRCADDR:
2604         case SIOCGIFPDSTADDR:
2605         case SIOCGLIFPHYADDR:
2606         case SIOCGIFMEDIA:
2607         case SIOCGIFXMEDIA:
2608         case SIOCGIFGENERIC:
2609                 if (ifp->if_ioctl == NULL)
2610                         return (EOPNOTSUPP);
2611                 error = (*ifp->if_ioctl)(ifp, cmd, data);
2612                 break;
2613
2614         case SIOCSIFLLADDR:
2615                 error = priv_check(td, PRIV_NET_SETLLADDR);
2616                 if (error)
2617                         return (error);
2618                 error = if_setlladdr(ifp,
2619                     ifr->ifr_addr.sa_data, ifr->ifr_addr.sa_len);
2620                 EVENTHANDLER_INVOKE(iflladdr_event, ifp);
2621                 break;
2622
2623         case SIOCAIFGROUP:
2624         {
2625                 struct ifgroupreq *ifgr = (struct ifgroupreq *)ifr;
2626
2627                 error = priv_check(td, PRIV_NET_ADDIFGROUP);
2628                 if (error)
2629                         return (error);
2630                 if ((error = if_addgroup(ifp, ifgr->ifgr_group)))
2631                         return (error);
2632                 break;
2633         }
2634
2635         case SIOCGIFGROUP:
2636                 if ((error = if_getgroup((struct ifgroupreq *)ifr, ifp)))
2637                         return (error);
2638                 break;
2639
2640         case SIOCDIFGROUP:
2641         {
2642                 struct ifgroupreq *ifgr = (struct ifgroupreq *)ifr;
2643
2644                 error = priv_check(td, PRIV_NET_DELIFGROUP);
2645                 if (error)
2646                         return (error);
2647                 if ((error = if_delgroup(ifp, ifgr->ifgr_group)))
2648                         return (error);
2649                 break;
2650         }
2651
2652         default:
2653                 error = ENOIOCTL;
2654                 break;
2655         }
2656         return (error);
2657 }
2658
2659 #ifdef COMPAT_FREEBSD32
2660 struct ifconf32 {
2661         int32_t ifc_len;
2662         union {
2663                 uint32_t        ifcu_buf;
2664                 uint32_t        ifcu_req;
2665         } ifc_ifcu;
2666 };
2667 #define SIOCGIFCONF32   _IOWR('i', 36, struct ifconf32)
2668 #endif
2669
2670 /*
2671  * Interface ioctls.
2672  */
2673 int
2674 ifioctl(struct socket *so, u_long cmd, caddr_t data, struct thread *td)
2675 {
2676         struct ifnet *ifp;
2677         struct ifreq *ifr;
2678         int error;
2679         int oif_flags;
2680
2681         CURVNET_SET(so->so_vnet);
2682         switch (cmd) {
2683         case SIOCGIFCONF:
2684         case OSIOCGIFCONF:
2685                 error = ifconf(cmd, data);
2686                 CURVNET_RESTORE();
2687                 return (error);
2688
2689 #ifdef COMPAT_FREEBSD32
2690         case SIOCGIFCONF32:
2691                 {
2692                         struct ifconf32 *ifc32;
2693                         struct ifconf ifc;
2694
2695                         ifc32 = (struct ifconf32 *)data;
2696                         ifc.ifc_len = ifc32->ifc_len;
2697                         ifc.ifc_buf = PTRIN(ifc32->ifc_buf);
2698
2699                         error = ifconf(SIOCGIFCONF, (void *)&ifc);
2700                         CURVNET_RESTORE();
2701                         if (error == 0)
2702                                 ifc32->ifc_len = ifc.ifc_len;
2703                         return (error);
2704                 }
2705 #endif
2706         }
2707         ifr = (struct ifreq *)data;
2708
2709         switch (cmd) {
2710 #ifdef VIMAGE
2711         case SIOCSIFRVNET:
2712                 error = priv_check(td, PRIV_NET_SETIFVNET);
2713                 if (error == 0)
2714                         error = if_vmove_reclaim(td, ifr->ifr_name,
2715                             ifr->ifr_jid);
2716                 CURVNET_RESTORE();
2717                 return (error);
2718 #endif
2719         case SIOCIFCREATE:
2720         case SIOCIFCREATE2:
2721                 error = priv_check(td, PRIV_NET_IFCREATE);
2722                 if (error == 0)
2723                         error = if_clone_create(ifr->ifr_name,
2724                             sizeof(ifr->ifr_name),
2725                             cmd == SIOCIFCREATE2 ? ifr->ifr_data : NULL);
2726                 CURVNET_RESTORE();
2727                 return (error);
2728         case SIOCIFDESTROY:
2729                 error = priv_check(td, PRIV_NET_IFDESTROY);
2730                 if (error == 0)
2731                         error = if_clone_destroy(ifr->ifr_name);
2732                 CURVNET_RESTORE();
2733                 return (error);
2734
2735         case SIOCIFGCLONERS:
2736                 error = if_clone_list((struct if_clonereq *)data);
2737                 CURVNET_RESTORE();
2738                 return (error);
2739         case SIOCGIFGMEMB:
2740                 error = if_getgroupmembers((struct ifgroupreq *)data);
2741                 CURVNET_RESTORE();
2742                 return (error);
2743 #if defined(INET) || defined(INET6)
2744         case SIOCSVH:
2745         case SIOCGVH:
2746                 if (carp_ioctl_p == NULL)
2747                         error = EPROTONOSUPPORT;
2748                 else
2749                         error = (*carp_ioctl_p)(ifr, cmd, td);
2750                 CURVNET_RESTORE();
2751                 return (error);
2752 #endif
2753         }
2754
2755         ifp = ifunit_ref(ifr->ifr_name);
2756         if (ifp == NULL) {
2757                 CURVNET_RESTORE();
2758                 return (ENXIO);
2759         }
2760
2761         error = ifhwioctl(cmd, ifp, data, td);
2762         if (error != ENOIOCTL) {
2763                 if_rele(ifp);
2764                 CURVNET_RESTORE();
2765                 return (error);
2766         }
2767
2768         oif_flags = ifp->if_flags;
2769         if (so->so_proto == NULL) {
2770                 if_rele(ifp);
2771                 CURVNET_RESTORE();
2772                 return (EOPNOTSUPP);
2773         }
2774
2775         /*
2776          * Pass the request on to the socket control method, and if the
2777          * latter returns EOPNOTSUPP, directly to the interface.
2778          *
2779          * Make an exception for the legacy SIOCSIF* requests.  Drivers
2780          * trust SIOCSIFADDR et al to come from an already privileged
2781          * layer, and do not perform any credentials checks or input
2782          * validation.
2783          */
2784 #ifndef COMPAT_43
2785         error = ((*so->so_proto->pr_usrreqs->pru_control)(so, cmd,
2786                                                                  data,
2787                                                                  ifp, td));
2788         if (error == EOPNOTSUPP && ifp != NULL && ifp->if_ioctl != NULL &&
2789             cmd != SIOCSIFADDR && cmd != SIOCSIFBRDADDR &&
2790             cmd != SIOCSIFDSTADDR && cmd != SIOCSIFNETMASK)
2791                 error = (*ifp->if_ioctl)(ifp, cmd, data);
2792 #else
2793         {
2794                 u_long ocmd = cmd;
2795
2796                 switch (cmd) {
2797
2798                 case SIOCSIFDSTADDR:
2799                 case SIOCSIFADDR:
2800                 case SIOCSIFBRDADDR:
2801                 case SIOCSIFNETMASK:
2802 #if BYTE_ORDER != BIG_ENDIAN
2803                         if (ifr->ifr_addr.sa_family == 0 &&
2804                             ifr->ifr_addr.sa_len < 16) {
2805                                 ifr->ifr_addr.sa_family = ifr->ifr_addr.sa_len;
2806                                 ifr->ifr_addr.sa_len = 16;
2807                         }
2808 #else
2809                         if (ifr->ifr_addr.sa_len == 0)
2810                                 ifr->ifr_addr.sa_len = 16;
2811 #endif
2812                         break;
2813
2814                 case OSIOCGIFADDR:
2815                         cmd = SIOCGIFADDR;
2816                         break;
2817
2818                 case OSIOCGIFDSTADDR:
2819                         cmd = SIOCGIFDSTADDR;
2820                         break;
2821
2822                 case OSIOCGIFBRDADDR:
2823                         cmd = SIOCGIFBRDADDR;
2824                         break;
2825
2826                 case OSIOCGIFNETMASK:
2827                         cmd = SIOCGIFNETMASK;
2828                 }
2829                 error =  ((*so->so_proto->pr_usrreqs->pru_control)(so,
2830                                                                    cmd,
2831                                                                    data,
2832                                                                    ifp, td));
2833                 if (error == EOPNOTSUPP && ifp != NULL &&
2834                     ifp->if_ioctl != NULL &&
2835                     cmd != SIOCSIFADDR && cmd != SIOCSIFBRDADDR &&
2836                     cmd != SIOCSIFDSTADDR && cmd != SIOCSIFNETMASK)
2837                         error = (*ifp->if_ioctl)(ifp, cmd, data);
2838                 switch (ocmd) {
2839
2840                 case OSIOCGIFADDR:
2841                 case OSIOCGIFDSTADDR:
2842                 case OSIOCGIFBRDADDR:
2843                 case OSIOCGIFNETMASK:
2844                         *(u_short *)&ifr->ifr_addr = ifr->ifr_addr.sa_family;
2845
2846                 }
2847         }
2848 #endif /* COMPAT_43 */
2849
2850         if ((oif_flags ^ ifp->if_flags) & IFF_UP) {
2851 #ifdef INET6
2852                 if (ifp->if_flags & IFF_UP)
2853                         in6_if_up(ifp);
2854 #endif
2855         }
2856         if_rele(ifp);
2857         CURVNET_RESTORE();
2858         return (error);
2859 }
2860
2861 /*
2862  * The code common to handling reference counted flags,
2863  * e.g., in ifpromisc() and if_allmulti().
2864  * The "pflag" argument can specify a permanent mode flag to check,
2865  * such as IFF_PPROMISC for promiscuous mode; should be 0 if none.
2866  *
2867  * Only to be used on stack-owned flags, not driver-owned flags.
2868  */
2869 static int
2870 if_setflag(struct ifnet *ifp, int flag, int pflag, int *refcount, int onswitch)
2871 {
2872         struct ifreq ifr;
2873         int error;
2874         int oldflags, oldcount;
2875
2876         /* Sanity checks to catch programming errors */
2877         KASSERT((flag & (IFF_DRV_OACTIVE|IFF_DRV_RUNNING)) == 0,
2878             ("%s: setting driver-owned flag %d", __func__, flag));
2879
2880         if (onswitch)
2881                 KASSERT(*refcount >= 0,
2882                     ("%s: increment negative refcount %d for flag %d",
2883                     __func__, *refcount, flag));
2884         else
2885                 KASSERT(*refcount > 0,
2886                     ("%s: decrement non-positive refcount %d for flag %d",
2887                     __func__, *refcount, flag));
2888
2889         /* In case this mode is permanent, just touch refcount */
2890         if (ifp->if_flags & pflag) {
2891                 *refcount += onswitch ? 1 : -1;
2892                 return (0);
2893         }
2894
2895         /* Save ifnet parameters for if_ioctl() may fail */
2896         oldcount = *refcount;
2897         oldflags = ifp->if_flags;
2898
2899         /*
2900          * See if we aren't the only and touching refcount is enough.
2901          * Actually toggle interface flag if we are the first or last.
2902          */
2903         if (onswitch) {
2904                 if ((*refcount)++)
2905                         return (0);
2906                 ifp->if_flags |= flag;
2907         } else {
2908                 if (--(*refcount))
2909                         return (0);
2910                 ifp->if_flags &= ~flag;
2911         }
2912
2913         /* Call down the driver since we've changed interface flags */
2914         if (ifp->if_ioctl == NULL) {
2915                 error = EOPNOTSUPP;
2916                 goto recover;
2917         }
2918         ifr.ifr_flags = ifp->if_flags & 0xffff;
2919         ifr.ifr_flagshigh = ifp->if_flags >> 16;
2920         error = (*ifp->if_ioctl)(ifp, SIOCSIFFLAGS, (caddr_t)&ifr);
2921         if (error)
2922                 goto recover;
2923         /* Notify userland that interface flags have changed */
2924         rt_ifmsg(ifp);
2925         return (0);
2926
2927 recover:
2928         /* Recover after driver error */
2929         *refcount = oldcount;
2930         ifp->if_flags = oldflags;
2931         return (error);
2932 }
2933
2934 /*
2935  * Set/clear promiscuous mode on interface ifp based on the truth value
2936  * of pswitch.  The calls are reference counted so that only the first
2937  * "on" request actually has an effect, as does the final "off" request.
2938  * Results are undefined if the "off" and "on" requests are not matched.
2939  */
2940 int
2941 ifpromisc(struct ifnet *ifp, int pswitch)
2942 {
2943         int error;
2944         int oldflags = ifp->if_flags;
2945
2946         error = if_setflag(ifp, IFF_PROMISC, IFF_PPROMISC,
2947                            &ifp->if_pcount, pswitch);
2948         /* If promiscuous mode status has changed, log a message */
2949         if (error == 0 && ((ifp->if_flags ^ oldflags) & IFF_PROMISC))
2950                 log(LOG_INFO, "%s: promiscuous mode %s\n",
2951                     ifp->if_xname,
2952                     (ifp->if_flags & IFF_PROMISC) ? "enabled" : "disabled");
2953         return (error);
2954 }
2955
2956 /*
2957  * Return interface configuration
2958  * of system.  List may be used
2959  * in later ioctl's (above) to get
2960  * other information.
2961  */
2962 /*ARGSUSED*/
2963 static int
2964 ifconf(u_long cmd, caddr_t data)
2965 {
2966         struct ifconf *ifc = (struct ifconf *)data;
2967         struct ifnet *ifp;
2968         struct ifaddr *ifa;
2969         struct ifreq ifr;
2970         struct sbuf *sb;
2971         int error, full = 0, valid_len, max_len;
2972
2973         /* Limit initial buffer size to MAXPHYS to avoid DoS from userspace. */
2974         max_len = MAXPHYS - 1;
2975
2976         /* Prevent hostile input from being able to crash the system */
2977         if (ifc->ifc_len <= 0)
2978                 return (EINVAL);
2979
2980 again:
2981         if (ifc->ifc_len <= max_len) {
2982                 max_len = ifc->ifc_len;
2983                 full = 1;
2984         }
2985         sb = sbuf_new(NULL, NULL, max_len + 1, SBUF_FIXEDLEN);
2986         max_len = 0;
2987         valid_len = 0;
2988
2989         IFNET_RLOCK();
2990         TAILQ_FOREACH(ifp, &V_ifnet, if_link) {
2991                 int addrs;
2992
2993                 /*
2994                  * Zero the ifr_name buffer to make sure we don't
2995                  * disclose the contents of the stack.
2996                  */
2997                 memset(ifr.ifr_name, 0, sizeof(ifr.ifr_name));
2998
2999                 if (strlcpy(ifr.ifr_name, ifp->if_xname, sizeof(ifr.ifr_name))
3000                     >= sizeof(ifr.ifr_name)) {
3001                         sbuf_delete(sb);
3002                         IFNET_RUNLOCK();
3003                         return (ENAMETOOLONG);
3004                 }
3005
3006                 addrs = 0;
3007                 IF_ADDR_RLOCK(ifp);
3008                 TAILQ_FOREACH(ifa, &ifp->if_addrhead, ifa_link) {
3009                         struct sockaddr *sa = ifa->ifa_addr;
3010
3011                         if (prison_if(curthread->td_ucred, sa) != 0)
3012                                 continue;
3013                         addrs++;
3014 #ifdef COMPAT_43
3015                         if (cmd == OSIOCGIFCONF) {
3016                                 struct osockaddr *osa =
3017                                          (struct osockaddr *)&ifr.ifr_addr;
3018                                 ifr.ifr_addr = *sa;
3019                                 osa->sa_family = sa->sa_family;
3020                                 sbuf_bcat(sb, &ifr, sizeof(ifr));
3021                                 max_len += sizeof(ifr);
3022                         } else
3023 #endif
3024                         if (sa->sa_len <= sizeof(*sa)) {
3025                                 ifr.ifr_addr = *sa;
3026                                 sbuf_bcat(sb, &ifr, sizeof(ifr));
3027                                 max_len += sizeof(ifr);
3028                         } else {
3029                                 sbuf_bcat(sb, &ifr,
3030                                     offsetof(struct ifreq, ifr_addr));
3031                                 max_len += offsetof(struct ifreq, ifr_addr);
3032                                 sbuf_bcat(sb, sa, sa->sa_len);
3033                                 max_len += sa->sa_len;
3034                         }
3035
3036                         if (sbuf_error(sb) == 0)
3037                                 valid_len = sbuf_len(sb);
3038                 }
3039                 IF_ADDR_RUNLOCK(ifp);
3040                 if (addrs == 0) {
3041                         bzero((caddr_t)&ifr.ifr_addr, sizeof(ifr.ifr_addr));
3042                         sbuf_bcat(sb, &ifr, sizeof(ifr));
3043                         max_len += sizeof(ifr);
3044
3045                         if (sbuf_error(sb) == 0)
3046                                 valid_len = sbuf_len(sb);
3047                 }
3048         }
3049         IFNET_RUNLOCK();
3050
3051         /*
3052          * If we didn't allocate enough space (uncommon), try again.  If
3053          * we have already allocated as much space as we are allowed,
3054          * return what we've got.
3055          */
3056         if (valid_len != max_len && !full) {
3057                 sbuf_delete(sb);
3058                 goto again;
3059         }
3060
3061         ifc->ifc_len = valid_len;
3062         sbuf_finish(sb);
3063         error = copyout(sbuf_data(sb), ifc->ifc_req, ifc->ifc_len);
3064         sbuf_delete(sb);
3065         return (error);
3066 }
3067
3068 /*
3069  * Just like ifpromisc(), but for all-multicast-reception mode.
3070  */
3071 int
3072 if_allmulti(struct ifnet *ifp, int onswitch)
3073 {
3074
3075         return (if_setflag(ifp, IFF_ALLMULTI, 0, &ifp->if_amcount, onswitch));
3076 }
3077
3078 struct ifmultiaddr *
3079 if_findmulti(struct ifnet *ifp, struct sockaddr *sa)
3080 {
3081         struct ifmultiaddr *ifma;
3082
3083         IF_ADDR_LOCK_ASSERT(ifp);
3084
3085         TAILQ_FOREACH(ifma, &ifp->if_multiaddrs, ifma_link) {
3086                 if (sa->sa_family == AF_LINK) {
3087                         if (sa_dl_equal(ifma->ifma_addr, sa))
3088                                 break;
3089                 } else {
3090                         if (sa_equal(ifma->ifma_addr, sa))
3091                                 break;
3092                 }
3093         }
3094
3095         return ifma;
3096 }
3097
3098 /*
3099  * Allocate a new ifmultiaddr and initialize based on passed arguments.  We
3100  * make copies of passed sockaddrs.  The ifmultiaddr will not be added to
3101  * the ifnet multicast address list here, so the caller must do that and
3102  * other setup work (such as notifying the device driver).  The reference
3103  * count is initialized to 1.
3104  */
3105 static struct ifmultiaddr *
3106 if_allocmulti(struct ifnet *ifp, struct sockaddr *sa, struct sockaddr *llsa,
3107     int mflags)
3108 {
3109         struct ifmultiaddr *ifma;
3110         struct sockaddr *dupsa;
3111
3112         ifma = malloc(sizeof *ifma, M_IFMADDR, mflags |
3113             M_ZERO);
3114         if (ifma == NULL)
3115                 return (NULL);
3116
3117         dupsa = malloc(sa->sa_len, M_IFMADDR, mflags);
3118         if (dupsa == NULL) {
3119                 free(ifma, M_IFMADDR);
3120                 return (NULL);
3121         }
3122         bcopy(sa, dupsa, sa->sa_len);
3123         ifma->ifma_addr = dupsa;
3124
3125         ifma->ifma_ifp = ifp;
3126         ifma->ifma_refcount = 1;
3127         ifma->ifma_protospec = NULL;
3128
3129         if (llsa == NULL) {
3130                 ifma->ifma_lladdr = NULL;
3131                 return (ifma);
3132         }
3133
3134         dupsa = malloc(llsa->sa_len, M_IFMADDR, mflags);
3135         if (dupsa == NULL) {
3136                 free(ifma->ifma_addr, M_IFMADDR);
3137                 free(ifma, M_IFMADDR);
3138                 return (NULL);
3139         }
3140         bcopy(llsa, dupsa, llsa->sa_len);
3141         ifma->ifma_lladdr = dupsa;
3142
3143         return (ifma);
3144 }
3145
3146 /*
3147  * if_freemulti: free ifmultiaddr structure and possibly attached related
3148  * addresses.  The caller is responsible for implementing reference
3149  * counting, notifying the driver, handling routing messages, and releasing
3150  * any dependent link layer state.
3151  */
3152 static void
3153 if_freemulti(struct ifmultiaddr *ifma)
3154 {
3155
3156         KASSERT(ifma->ifma_refcount == 0, ("if_freemulti: refcount %d",
3157             ifma->ifma_refcount));
3158         KASSERT(ifma->ifma_protospec == NULL,
3159             ("if_freemulti: protospec not NULL"));
3160
3161         if (ifma->ifma_lladdr != NULL)
3162                 free(ifma->ifma_lladdr, M_IFMADDR);
3163         free(ifma->ifma_addr, M_IFMADDR);
3164         free(ifma, M_IFMADDR);
3165 }
3166
3167 /*
3168  * Register an additional multicast address with a network interface.
3169  *
3170  * - If the address is already present, bump the reference count on the
3171  *   address and return.
3172  * - If the address is not link-layer, look up a link layer address.
3173  * - Allocate address structures for one or both addresses, and attach to the
3174  *   multicast address list on the interface.  If automatically adding a link
3175  *   layer address, the protocol address will own a reference to the link
3176  *   layer address, to be freed when it is freed.
3177  * - Notify the network device driver of an addition to the multicast address
3178  *   list.
3179  *
3180  * 'sa' points to caller-owned memory with the desired multicast address.
3181  *
3182  * 'retifma' will be used to return a pointer to the resulting multicast
3183  * address reference, if desired.
3184  */
3185 int
3186 if_addmulti(struct ifnet *ifp, struct sockaddr *sa,
3187     struct ifmultiaddr **retifma)
3188 {
3189         struct ifmultiaddr *ifma, *ll_ifma;
3190         struct sockaddr *llsa;
3191         int error;
3192
3193         /*
3194          * If the address is already present, return a new reference to it;
3195          * otherwise, allocate storage and set up a new address.
3196          */
3197         IF_ADDR_WLOCK(ifp);
3198         ifma = if_findmulti(ifp, sa);
3199         if (ifma != NULL) {
3200                 ifma->ifma_refcount++;
3201                 if (retifma != NULL)
3202                         *retifma = ifma;
3203                 IF_ADDR_WUNLOCK(ifp);
3204                 return (0);
3205         }
3206
3207         /*
3208          * The address isn't already present; resolve the protocol address
3209          * into a link layer address, and then look that up, bump its
3210          * refcount or allocate an ifma for that also.  If 'llsa' was
3211          * returned, we will need to free it later.
3212          */
3213         llsa = NULL;
3214         ll_ifma = NULL;
3215         if (ifp->if_resolvemulti != NULL) {
3216                 error = ifp->if_resolvemulti(ifp, &llsa, sa);
3217                 if (error)
3218                         goto unlock_out;
3219         }
3220
3221         /*
3222          * Allocate the new address.  Don't hook it up yet, as we may also
3223          * need to allocate a link layer multicast address.
3224          */
3225         ifma = if_allocmulti(ifp, sa, llsa, M_NOWAIT);
3226         if (ifma == NULL) {
3227                 error = ENOMEM;
3228                 goto free_llsa_out;
3229         }
3230
3231         /*
3232          * If a link layer address is found, we'll need to see if it's
3233          * already present in the address list, or allocate is as well.
3234          * When this block finishes, the link layer address will be on the
3235          * list.
3236          */
3237         if (llsa != NULL) {
3238                 ll_ifma = if_findmulti(ifp, llsa);
3239                 if (ll_ifma == NULL) {
3240                         ll_ifma = if_allocmulti(ifp, llsa, NULL, M_NOWAIT);
3241                         if (ll_ifma == NULL) {
3242                                 --ifma->ifma_refcount;
3243                                 if_freemulti(ifma);
3244                                 error = ENOMEM;
3245                                 goto free_llsa_out;
3246                         }
3247                         TAILQ_INSERT_HEAD(&ifp->if_multiaddrs, ll_ifma,
3248                             ifma_link);
3249                 } else
3250                         ll_ifma->ifma_refcount++;
3251                 ifma->ifma_llifma = ll_ifma;
3252         }
3253
3254         /*
3255          * We now have a new multicast address, ifma, and possibly a new or
3256          * referenced link layer address.  Add the primary address to the
3257          * ifnet address list.
3258          */
3259         TAILQ_INSERT_HEAD(&ifp->if_multiaddrs, ifma, ifma_link);
3260
3261         if (retifma != NULL)
3262                 *retifma = ifma;
3263
3264         /*
3265          * Must generate the message while holding the lock so that 'ifma'
3266          * pointer is still valid.
3267          */
3268         rt_newmaddrmsg(RTM_NEWMADDR, ifma);
3269         IF_ADDR_WUNLOCK(ifp);
3270
3271         /*
3272          * We are certain we have added something, so call down to the
3273          * interface to let them know about it.
3274          */
3275         if (ifp->if_ioctl != NULL) {
3276                 (void) (*ifp->if_ioctl)(ifp, SIOCADDMULTI, 0);
3277         }
3278
3279         if (llsa != NULL)
3280                 free(llsa, M_IFMADDR);
3281
3282         return (0);
3283
3284 free_llsa_out:
3285         if (llsa != NULL)
3286                 free(llsa, M_IFMADDR);
3287
3288 unlock_out:
3289         IF_ADDR_WUNLOCK(ifp);
3290         return (error);
3291 }
3292
3293 /*
3294  * Delete a multicast group membership by network-layer group address.
3295  *
3296  * Returns ENOENT if the entry could not be found. If ifp no longer
3297  * exists, results are undefined. This entry point should only be used
3298  * from subsystems which do appropriate locking to hold ifp for the
3299  * duration of the call.
3300  * Network-layer protocol domains must use if_delmulti_ifma().
3301  */
3302 int
3303 if_delmulti(struct ifnet *ifp, struct sockaddr *sa)
3304 {
3305         struct ifmultiaddr *ifma;
3306         int lastref;
3307 #ifdef INVARIANTS
3308         struct ifnet *oifp;
3309
3310         IFNET_RLOCK_NOSLEEP();
3311         TAILQ_FOREACH(oifp, &V_ifnet, if_link)
3312                 if (ifp == oifp)
3313                         break;
3314         if (ifp != oifp)
3315                 ifp = NULL;
3316         IFNET_RUNLOCK_NOSLEEP();
3317
3318         KASSERT(ifp != NULL, ("%s: ifnet went away", __func__));
3319 #endif
3320         if (ifp == NULL)
3321                 return (ENOENT);
3322
3323         IF_ADDR_WLOCK(ifp);
3324         lastref = 0;
3325         ifma = if_findmulti(ifp, sa);
3326         if (ifma != NULL)
3327                 lastref = if_delmulti_locked(ifp, ifma, 0);
3328         IF_ADDR_WUNLOCK(ifp);
3329
3330         if (ifma == NULL)
3331                 return (ENOENT);
3332
3333         if (lastref && ifp->if_ioctl != NULL) {
3334                 (void)(*ifp->if_ioctl)(ifp, SIOCDELMULTI, 0);
3335         }
3336
3337         return (0);
3338 }
3339
3340 /*
3341  * Delete all multicast group membership for an interface.
3342  * Should be used to quickly flush all multicast filters.
3343  */
3344 void
3345 if_delallmulti(struct ifnet *ifp)
3346 {
3347         struct ifmultiaddr *ifma;
3348         struct ifmultiaddr *next;
3349
3350         IF_ADDR_WLOCK(ifp);
3351         TAILQ_FOREACH_SAFE(ifma, &ifp->if_multiaddrs, ifma_link, next)
3352                 if_delmulti_locked(ifp, ifma, 0);
3353         IF_ADDR_WUNLOCK(ifp);
3354 }
3355
3356 /*
3357  * Delete a multicast group membership by group membership pointer.
3358  * Network-layer protocol domains must use this routine.
3359  *
3360  * It is safe to call this routine if the ifp disappeared.
3361  */
3362 void
3363 if_delmulti_ifma(struct ifmultiaddr *ifma)
3364 {
3365         struct ifnet *ifp;
3366         int lastref;
3367
3368         ifp = ifma->ifma_ifp;
3369 #ifdef DIAGNOSTIC
3370         if (ifp == NULL) {
3371                 printf("%s: ifma_ifp seems to be detached\n", __func__);
3372         } else {
3373                 struct ifnet *oifp;
3374
3375                 IFNET_RLOCK_NOSLEEP();
3376                 TAILQ_FOREACH(oifp, &V_ifnet, if_link)
3377                         if (ifp == oifp)
3378                                 break;
3379                 if (ifp != oifp) {
3380                         printf("%s: ifnet %p disappeared\n", __func__, ifp);
3381                         ifp = NULL;
3382                 }
3383                 IFNET_RUNLOCK_NOSLEEP();
3384         }
3385 #endif
3386         /*
3387          * If and only if the ifnet instance exists: Acquire the address lock.
3388          */
3389         if (ifp != NULL)
3390                 IF_ADDR_WLOCK(ifp);
3391
3392         lastref = if_delmulti_locked(ifp, ifma, 0);
3393
3394         if (ifp != NULL) {
3395                 /*
3396                  * If and only if the ifnet instance exists:
3397                  *  Release the address lock.
3398                  *  If the group was left: update the hardware hash filter.
3399                  */
3400                 IF_ADDR_WUNLOCK(ifp);
3401                 if (lastref && ifp->if_ioctl != NULL) {
3402                         (void)(*ifp->if_ioctl)(ifp, SIOCDELMULTI, 0);
3403                 }
3404         }
3405 }
3406
3407 /*
3408  * Perform deletion of network-layer and/or link-layer multicast address.
3409  *
3410  * Return 0 if the reference count was decremented.
3411  * Return 1 if the final reference was released, indicating that the
3412  * hardware hash filter should be reprogrammed.
3413  */
3414 static int
3415 if_delmulti_locked(struct ifnet *ifp, struct ifmultiaddr *ifma, int detaching)
3416 {
3417         struct ifmultiaddr *ll_ifma;
3418
3419         if (ifp != NULL && ifma->ifma_ifp != NULL) {
3420                 KASSERT(ifma->ifma_ifp == ifp,
3421                     ("%s: inconsistent ifp %p", __func__, ifp));
3422                 IF_ADDR_WLOCK_ASSERT(ifp);
3423         }
3424
3425         ifp = ifma->ifma_ifp;
3426
3427         /*
3428          * If the ifnet is detaching, null out references to ifnet,
3429          * so that upper protocol layers will notice, and not attempt
3430          * to obtain locks for an ifnet which no longer exists. The
3431          * routing socket announcement must happen before the ifnet
3432          * instance is detached from the system.
3433          */
3434         if (detaching) {
3435 #ifdef DIAGNOSTIC
3436                 printf("%s: detaching ifnet instance %p\n", __func__, ifp);
3437 #endif
3438                 /*
3439                  * ifp may already be nulled out if we are being reentered
3440                  * to delete the ll_ifma.
3441                  */
3442                 if (ifp != NULL) {
3443                         rt_newmaddrmsg(RTM_DELMADDR, ifma);
3444                         ifma->ifma_ifp = NULL;
3445                 }
3446         }
3447
3448         if (--ifma->ifma_refcount > 0)
3449                 return 0;
3450
3451         /*
3452          * If this ifma is a network-layer ifma, a link-layer ifma may
3453          * have been associated with it. Release it first if so.
3454          */
3455         ll_ifma = ifma->ifma_llifma;
3456         if (ll_ifma != NULL) {
3457                 KASSERT(ifma->ifma_lladdr != NULL,
3458                     ("%s: llifma w/o lladdr", __func__));
3459                 if (detaching)
3460                         ll_ifma->ifma_ifp = NULL;       /* XXX */
3461                 if (--ll_ifma->ifma_refcount == 0) {
3462                         if (ifp != NULL) {
3463                                 TAILQ_REMOVE(&ifp->if_multiaddrs, ll_ifma,
3464                                     ifma_link);
3465                         }
3466                         if_freemulti(ll_ifma);
3467                 }
3468         }
3469
3470         if (ifp != NULL)
3471                 TAILQ_REMOVE(&ifp->if_multiaddrs, ifma, ifma_link);
3472
3473         if_freemulti(ifma);
3474
3475         /*
3476          * The last reference to this instance of struct ifmultiaddr
3477          * was released; the hardware should be notified of this change.
3478          */
3479         return 1;
3480 }
3481
3482 /*
3483  * Set the link layer address on an interface.
3484  *
3485  * At this time we only support certain types of interfaces,
3486  * and we don't allow the length of the address to change.
3487  */
3488 int
3489 if_setlladdr(struct ifnet *ifp, const u_char *lladdr, int len)
3490 {
3491         struct sockaddr_dl *sdl;
3492         struct ifaddr *ifa;
3493         struct ifreq ifr;
3494
3495         IF_ADDR_RLOCK(ifp);
3496         ifa = ifp->if_addr;
3497         if (ifa == NULL) {
3498                 IF_ADDR_RUNLOCK(ifp);
3499                 return (EINVAL);
3500         }
3501         ifa_ref(ifa);
3502         IF_ADDR_RUNLOCK(ifp);
3503         sdl = (struct sockaddr_dl *)ifa->ifa_addr;
3504         if (sdl == NULL) {
3505                 ifa_free(ifa);
3506                 return (EINVAL);
3507         }
3508         if (len != sdl->sdl_alen) {     /* don't allow length to change */
3509                 ifa_free(ifa);
3510                 return (EINVAL);
3511         }
3512         switch (ifp->if_type) {
3513         case IFT_ETHER:
3514         case IFT_FDDI:
3515         case IFT_XETHER:
3516         case IFT_ISO88025:
3517         case IFT_L2VLAN:
3518         case IFT_BRIDGE:
3519         case IFT_ARCNET:
3520         case IFT_IEEE8023ADLAG:
3521         case IFT_IEEE80211:
3522                 bcopy(lladdr, LLADDR(sdl), len);
3523                 ifa_free(ifa);
3524                 break;
3525         default:
3526                 ifa_free(ifa);
3527                 return (ENODEV);
3528         }
3529
3530         /*
3531          * If the interface is already up, we need
3532          * to re-init it in order to reprogram its
3533          * address filter.
3534          */
3535         if ((ifp->if_flags & IFF_UP) != 0) {
3536                 if (ifp->if_ioctl) {
3537                         ifp->if_flags &= ~IFF_UP;
3538                         ifr.ifr_flags = ifp->if_flags & 0xffff;
3539                         ifr.ifr_flagshigh = ifp->if_flags >> 16;
3540                         (*ifp->if_ioctl)(ifp, SIOCSIFFLAGS, (caddr_t)&ifr);
3541                         ifp->if_flags |= IFF_UP;
3542                         ifr.ifr_flags = ifp->if_flags & 0xffff;
3543                         ifr.ifr_flagshigh = ifp->if_flags >> 16;
3544                         (*ifp->if_ioctl)(ifp, SIOCSIFFLAGS, (caddr_t)&ifr);
3545                 }
3546 #ifdef INET
3547                 /*
3548                  * Also send gratuitous ARPs to notify other nodes about
3549                  * the address change.
3550                  */
3551                 TAILQ_FOREACH(ifa, &ifp->if_addrhead, ifa_link) {
3552                         if (ifa->ifa_addr->sa_family == AF_INET)
3553                                 arp_ifinit(ifp, ifa);
3554                 }
3555 #endif
3556         }
3557         return (0);
3558 }
3559
3560 /*
3561  * The name argument must be a pointer to storage which will last as
3562  * long as the interface does.  For physical devices, the result of
3563  * device_get_name(dev) is a good choice and for pseudo-devices a
3564  * static string works well.
3565  */
3566 void
3567 if_initname(struct ifnet *ifp, const char *name, int unit)
3568 {
3569         ifp->if_dname = name;
3570         ifp->if_dunit = unit;
3571         if (unit != IF_DUNIT_NONE)
3572                 snprintf(ifp->if_xname, IFNAMSIZ, "%s%d", name, unit);
3573         else
3574                 strlcpy(ifp->if_xname, name, IFNAMSIZ);
3575 }
3576
3577 int
3578 if_printf(struct ifnet *ifp, const char * fmt, ...)
3579 {
3580         va_list ap;
3581         int retval;
3582
3583         retval = printf("%s: ", ifp->if_xname);
3584         va_start(ap, fmt);
3585         retval += vprintf(fmt, ap);
3586         va_end(ap);
3587         return (retval);
3588 }
3589
3590 void
3591 if_start(struct ifnet *ifp)
3592 {
3593
3594         (*(ifp)->if_start)(ifp);
3595 }
3596
3597 /*
3598  * Backwards compatibility interface for drivers
3599  * that have not implemented it
3600  */
3601 static int
3602 if_transmit(struct ifnet *ifp, struct mbuf *m)
3603 {
3604         int error;
3605
3606         IFQ_HANDOFF(ifp, m, error);
3607         return (error);
3608 }
3609
3610 static void
3611 if_input_default(struct ifnet *ifp __unused, struct mbuf *m)
3612 {
3613
3614         m_freem(m);
3615 }
3616
3617 int
3618 if_handoff(struct ifqueue *ifq, struct mbuf *m, struct ifnet *ifp, int adjust)
3619 {
3620         int active = 0;
3621
3622         IF_LOCK(ifq);
3623         if (_IF_QFULL(ifq)) {
3624                 _IF_DROP(ifq);
3625                 IF_UNLOCK(ifq);
3626                 m_freem(m);
3627                 return (0);
3628         }
3629         if (ifp != NULL) {
3630                 ifp->if_obytes += m->m_pkthdr.len + adjust;
3631                 if (m->m_flags & (M_BCAST|M_MCAST))
3632                         ifp->if_omcasts++;
3633                 active = ifp->if_drv_flags & IFF_DRV_OACTIVE;
3634         }
3635         _IF_ENQUEUE(ifq, m);
3636         IF_UNLOCK(ifq);
3637         if (ifp != NULL && !active)
3638                 (*(ifp)->if_start)(ifp);
3639         return (1);
3640 }
3641
3642 void
3643 if_register_com_alloc(u_char type,
3644     if_com_alloc_t *a, if_com_free_t *f)
3645 {
3646
3647         KASSERT(if_com_alloc[type] == NULL,
3648             ("if_register_com_alloc: %d already registered", type));
3649         KASSERT(if_com_free[type] == NULL,
3650             ("if_register_com_alloc: %d free already registered", type));
3651
3652         if_com_alloc[type] = a;
3653         if_com_free[type] = f;
3654 }
3655
3656 void
3657 if_deregister_com_alloc(u_char type)
3658 {
3659
3660         KASSERT(if_com_alloc[type] != NULL,
3661             ("if_deregister_com_alloc: %d not registered", type));
3662         KASSERT(if_com_free[type] != NULL,
3663             ("if_deregister_com_alloc: %d free not registered", type));
3664         if_com_alloc[type] = NULL;
3665         if_com_free[type] = NULL;
3666 }