[BACK]Return to udp_usrreq.c CVS log [TXT][DIR] Up to [cvs.NetBSD.org] / src / sys / netinet

Please note that diffs are not public domain; they are subject to the copyright notices on the relevant files.

Diff for /src/sys/netinet/udp_usrreq.c between version 1.75.2.5 and 1.163.14.2

version 1.75.2.5, 2001/11/14 19:17:59 version 1.163.14.2, 2008/09/28 10:40:58
Line 3 
Line 3 
 /*  /*
  * Copyright (C) 1995, 1996, 1997, and 1998 WIDE Project.   * Copyright (C) 1995, 1996, 1997, and 1998 WIDE Project.
  * All rights reserved.   * All rights reserved.
  *   *
  * Redistribution and use in source and binary forms, with or without   * Redistribution and use in source and binary forms, with or without
  * modification, are permitted provided that the following conditions   * modification, are permitted provided that the following conditions
  * are met:   * are met:
Line 15 
Line 15 
  * 3. Neither the name of the project nor the names of its contributors   * 3. Neither the name of the project nor the names of its contributors
  *    may be used to endorse or promote products derived from this software   *    may be used to endorse or promote products derived from this software
  *    without specific prior written permission.   *    without specific prior written permission.
  *   *
  * THIS SOFTWARE IS PROVIDED BY THE PROJECT AND CONTRIBUTORS ``AS IS'' AND   * THIS SOFTWARE IS PROVIDED BY THE PROJECT AND CONTRIBUTORS ``AS IS'' AND
  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE   * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE   * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
Line 41 
Line 41 
  * 2. Redistributions in binary form must reproduce the above copyright   * 2. Redistributions in binary form must reproduce the above copyright
  *    notice, this list of conditions and the following disclaimer in the   *    notice, this list of conditions and the following disclaimer in the
  *    documentation and/or other materials provided with the distribution.   *    documentation and/or other materials provided with the distribution.
  * 3. All advertising materials mentioning features or use of this software   * 3. Neither the name of the University nor the names of its contributors
  *    must display the following acknowledgement:  
  *      This product includes software developed by the University of  
  *      California, Berkeley and its contributors.  
  * 4. Neither the name of the University nor the names of its contributors  
  *    may be used to endorse or promote products derived from this software   *    may be used to endorse or promote products derived from this software
  *    without specific prior written permission.   *    without specific prior written permission.
  *   *
Line 71  __KERNEL_RCSID(0, "$NetBSD$");
Line 67  __KERNEL_RCSID(0, "$NetBSD$");
 #include "opt_ipsec.h"  #include "opt_ipsec.h"
 #include "opt_inet_csum.h"  #include "opt_inet_csum.h"
 #include "opt_ipkdb.h"  #include "opt_ipkdb.h"
   #include "opt_mbuftrace.h"
   
 #include <sys/param.h>  #include <sys/param.h>
 #include <sys/malloc.h>  #include <sys/malloc.h>
Line 97  __KERNEL_RCSID(0, "$NetBSD$");
Line 94  __KERNEL_RCSID(0, "$NetBSD$");
 #include <netinet/ip_icmp.h>  #include <netinet/ip_icmp.h>
 #include <netinet/udp.h>  #include <netinet/udp.h>
 #include <netinet/udp_var.h>  #include <netinet/udp_var.h>
   #include <netinet/udp_private.h>
   
 #ifdef INET6  #ifdef INET6
 #include <netinet/ip6.h>  #include <netinet/ip6.h>
 #include <netinet/icmp6.h>  #include <netinet/icmp6.h>
 #include <netinet6/ip6_var.h>  #include <netinet6/ip6_var.h>
   #include <netinet6/ip6_private.h>
 #include <netinet6/in6_pcb.h>  #include <netinet6/in6_pcb.h>
 #include <netinet6/udp6_var.h>  #include <netinet6/udp6_var.h>
   #include <netinet6/udp6_private.h>
   #include <netinet6/scope6_var.h>
 #endif  #endif
   
 #ifdef PULLDOWN_TEST  
 #ifndef INET6  #ifndef INET6
 /* always need ip6.h for IP6_EXTHDR_GET */  /* always need ip6.h for IP6_EXTHDR_GET */
 #include <netinet/ip6.h>  #include <netinet/ip6.h>
 #endif  #endif
 #endif  
   
 #include "faith.h"  #include "faith.h"
 #if defined(NFAITH) && NFAITH > 0  #if defined(NFAITH) && NFAITH > 0
Line 120  __KERNEL_RCSID(0, "$NetBSD$");
Line 119  __KERNEL_RCSID(0, "$NetBSD$");
   
 #include <machine/stdarg.h>  #include <machine/stdarg.h>
   
   #ifdef FAST_IPSEC
   #include <netipsec/ipsec.h>
   #include <netipsec/ipsec_var.h>
   #include <netipsec/ipsec_private.h>
   #include <netipsec/esp.h>
   #ifdef INET6
   #include <netipsec/ipsec6.h>
   #endif
   #endif  /* FAST_IPSEC */
   
 #ifdef IPSEC  #ifdef IPSEC
 #include <netinet6/ipsec.h>  #include <netinet6/ipsec.h>
   #include <netinet6/ipsec_private.h>
   #include <netinet6/esp.h>
 #include <netkey/key.h>  #include <netkey/key.h>
 #endif /*IPSEC*/  #endif /* IPSEC */
   
 #ifdef IPKDB  #ifdef IPKDB
 #include <ipkdb/ipkdb.h>  #include <ipkdb/ipkdb.h>
Line 133  __KERNEL_RCSID(0, "$NetBSD$");
Line 144  __KERNEL_RCSID(0, "$NetBSD$");
  * UDP protocol implementation.   * UDP protocol implementation.
  * Per RFC 768, August, 1980.   * Per RFC 768, August, 1980.
  */   */
 #ifndef COMPAT_42  
 int     udpcksum = 1;  int     udpcksum = 1;
 #else  int     udp_do_loopback_cksum = 0;
 int     udpcksum = 0;           /* XXX */  
 #endif  struct  inpcbtable udbtable;
   
   percpu_t *udpstat_percpu;
   
 #ifdef INET  #ifdef INET
 static void udp4_sendup __P((struct mbuf *, int, struct sockaddr *,  #ifdef IPSEC_NAT_T
         struct socket *));  static int udp4_espinudp (struct mbuf **, int, struct sockaddr *,
 static int udp4_realinput __P((struct sockaddr_in *, struct sockaddr_in *,          struct socket *);
         struct mbuf *, int));  #endif
   static void udp4_sendup (struct mbuf *, int, struct sockaddr *,
           struct socket *);
   static int udp4_realinput (struct sockaddr_in *, struct sockaddr_in *,
           struct mbuf **, int);
   static int udp4_input_checksum(struct mbuf *, const struct udphdr *, int, int);
 #endif  #endif
 #ifdef INET6  #ifdef INET6
 static void udp6_sendup __P((struct mbuf *, int, struct sockaddr *,  static void udp6_sendup (struct mbuf *, int, struct sockaddr *,
         struct socket *));          struct socket *);
 static int udp6_realinput __P((int, struct sockaddr_in6 *,  static int udp6_realinput (int, struct sockaddr_in6 *,
         struct sockaddr_in6 *, struct mbuf *, int));          struct sockaddr_in6 *, struct mbuf *, int);
   static int udp6_input_checksum(struct mbuf *, const struct udphdr *, int, int);
 #endif  #endif
 #ifdef INET  #ifdef INET
 static  void udp_notify __P((struct inpcb *, int));  static  void udp_notify (struct inpcb *, int);
 #endif  #endif
   
 #ifndef UDBHASHSIZE  #ifndef UDBHASHSIZE
Line 160  static void udp_notify __P((struct inpcb
Line 178  static void udp_notify __P((struct inpcb
 #endif  #endif
 int     udbhashsize = UDBHASHSIZE;  int     udbhashsize = UDBHASHSIZE;
   
   #ifdef MBUFTRACE
   struct mowner udp_mowner = MOWNER_INIT("udp", "");
   struct mowner udp_rx_mowner = MOWNER_INIT("udp", "rx");
   struct mowner udp_tx_mowner = MOWNER_INIT("udp", "tx");
   #endif
   
 #ifdef UDP_CSUM_COUNTERS  #ifdef UDP_CSUM_COUNTERS
 #include <sys/device.h>  #include <sys/device.h>
   
   #if defined(INET)
 struct evcnt udp_hwcsum_bad = EVCNT_INITIALIZER(EVCNT_TYPE_MISC,  struct evcnt udp_hwcsum_bad = EVCNT_INITIALIZER(EVCNT_TYPE_MISC,
     NULL, "udp", "hwcsum bad");      NULL, "udp", "hwcsum bad");
 struct evcnt udp_hwcsum_ok = EVCNT_INITIALIZER(EVCNT_TYPE_MISC,  struct evcnt udp_hwcsum_ok = EVCNT_INITIALIZER(EVCNT_TYPE_MISC,
Line 172  struct evcnt udp_hwcsum_data = EVCNT_INI
Line 197  struct evcnt udp_hwcsum_data = EVCNT_INI
 struct evcnt udp_swcsum = EVCNT_INITIALIZER(EVCNT_TYPE_MISC,  struct evcnt udp_swcsum = EVCNT_INITIALIZER(EVCNT_TYPE_MISC,
     NULL, "udp", "swcsum");      NULL, "udp", "swcsum");
   
   EVCNT_ATTACH_STATIC(udp_hwcsum_bad);
   EVCNT_ATTACH_STATIC(udp_hwcsum_ok);
   EVCNT_ATTACH_STATIC(udp_hwcsum_data);
   EVCNT_ATTACH_STATIC(udp_swcsum);
   #endif /* defined(INET) */
   
   #if defined(INET6)
   struct evcnt udp6_hwcsum_bad = EVCNT_INITIALIZER(EVCNT_TYPE_MISC,
       NULL, "udp6", "hwcsum bad");
   struct evcnt udp6_hwcsum_ok = EVCNT_INITIALIZER(EVCNT_TYPE_MISC,
       NULL, "udp6", "hwcsum ok");
   struct evcnt udp6_hwcsum_data = EVCNT_INITIALIZER(EVCNT_TYPE_MISC,
       NULL, "udp6", "hwcsum data");
   struct evcnt udp6_swcsum = EVCNT_INITIALIZER(EVCNT_TYPE_MISC,
       NULL, "udp6", "swcsum");
   
   EVCNT_ATTACH_STATIC(udp6_hwcsum_bad);
   EVCNT_ATTACH_STATIC(udp6_hwcsum_ok);
   EVCNT_ATTACH_STATIC(udp6_hwcsum_data);
   EVCNT_ATTACH_STATIC(udp6_swcsum);
   #endif /* defined(INET6) */
   
 #define UDP_CSUM_COUNTER_INCR(ev)       (ev)->ev_count++  #define UDP_CSUM_COUNTER_INCR(ev)       (ev)->ev_count++
   
 #else  #else
Line 181  struct evcnt udp_swcsum = EVCNT_INITIALI
Line 228  struct evcnt udp_swcsum = EVCNT_INITIALI
 #endif /* UDP_CSUM_COUNTERS */  #endif /* UDP_CSUM_COUNTERS */
   
 void  void
 udp_init()  udp_init(void)
 {  {
   
 #ifdef INET  
         in_pcbinit(&udbtable, udbhashsize, udbhashsize);          in_pcbinit(&udbtable, udbhashsize, udbhashsize);
   
           MOWNER_ATTACH(&udp_tx_mowner);
           MOWNER_ATTACH(&udp_rx_mowner);
           MOWNER_ATTACH(&udp_mowner);
   
   #ifdef INET
           udpstat_percpu = percpu_alloc(sizeof(uint64_t) * UDP_NSTATS);
 #endif  #endif
   #ifdef INET6
           udp6stat_percpu = percpu_alloc(sizeof(uint64_t) * UDP6_NSTATS);
   #endif
   }
   
 #ifdef UDP_CSUM_COUNTERS  /*
         evcnt_attach_static(&udp_hwcsum_bad);   * Checksum extended UDP header and data.
         evcnt_attach_static(&udp_hwcsum_ok);   */
         evcnt_attach_static(&udp_hwcsum_data);  
         evcnt_attach_static(&udp_swcsum);  int
 #endif /* UDP_CSUM_COUNTERS */  udp_input_checksum(int af, struct mbuf *m, const struct udphdr *uh,
       int iphlen, int len)
   {
   
           switch (af) {
   #ifdef INET
           case AF_INET:
                   return udp4_input_checksum(m, uh, iphlen, len);
   #endif
   #ifdef INET6
           case AF_INET6:
                   return udp6_input_checksum(m, uh, iphlen, len);
   #endif
           }
   #ifdef DIAGNOSTIC
           panic("udp_input_checksum: unknown af %d", af);
   #endif
           /* NOTREACHED */
           return -1;
 }  }
   
 #ifdef INET  #ifdef INET
   
   /*
    * Checksum extended UDP header and data.
    */
   
   static int
   udp4_input_checksum(struct mbuf *m, const struct udphdr *uh,
       int iphlen, int len)
   {
   
           /*
            * XXX it's better to record and check if this mbuf is
            * already checked.
            */
   
           if (uh->uh_sum == 0)
                   return 0;
   
           switch (m->m_pkthdr.csum_flags &
               ((m->m_pkthdr.rcvif->if_csum_flags_rx & M_CSUM_UDPv4) |
               M_CSUM_TCP_UDP_BAD | M_CSUM_DATA)) {
           case M_CSUM_UDPv4|M_CSUM_TCP_UDP_BAD:
                   UDP_CSUM_COUNTER_INCR(&udp_hwcsum_bad);
                   goto badcsum;
   
           case M_CSUM_UDPv4|M_CSUM_DATA: {
                   u_int32_t hw_csum = m->m_pkthdr.csum_data;
   
                   UDP_CSUM_COUNTER_INCR(&udp_hwcsum_data);
                   if (m->m_pkthdr.csum_flags & M_CSUM_NO_PSEUDOHDR) {
                           const struct ip *ip =
                               mtod(m, const struct ip *);
   
                           hw_csum = in_cksum_phdr(ip->ip_src.s_addr,
                               ip->ip_dst.s_addr,
                               htons(hw_csum + len + IPPROTO_UDP));
                   }
                   if ((hw_csum ^ 0xffff) != 0)
                           goto badcsum;
                   break;
           }
   
           case M_CSUM_UDPv4:
                   /* Checksum was okay. */
                   UDP_CSUM_COUNTER_INCR(&udp_hwcsum_ok);
                   break;
   
           default:
                   /*
                    * Need to compute it ourselves.  Maybe skip checksum
                    * on loopback interfaces.
                    */
                   if (__predict_true(!(m->m_pkthdr.rcvif->if_flags &
                                        IFF_LOOPBACK) ||
                                      udp_do_loopback_cksum)) {
                           UDP_CSUM_COUNTER_INCR(&udp_swcsum);
                           if (in4_cksum(m, IPPROTO_UDP, iphlen, len) != 0)
                                   goto badcsum;
                   }
                   break;
           }
   
           return 0;
   
   badcsum:
           UDP_STATINC(UDP_STAT_BADSUM);
           return -1;
   }
   
 void  void
 #if __STDC__  
 udp_input(struct mbuf *m, ...)  udp_input(struct mbuf *m, ...)
 #else  
 udp_input(m, va_alist)  
         struct mbuf *m;  
         va_dcl  
 #endif  
 {  {
         va_list ap;          va_list ap;
         struct sockaddr_in src, dst;          struct sockaddr_in src, dst;
         struct ip *ip;          struct ip *ip;
         struct udphdr *uh;          struct udphdr *uh;
         int iphlen, proto;          int iphlen;
         int len;          int len;
         int n;          int n;
           u_int16_t ip_len;
   
         va_start(ap, m);          va_start(ap, m);
         iphlen = va_arg(ap, int);          iphlen = va_arg(ap, int);
         proto = va_arg(ap, int);          (void)va_arg(ap, int);          /* ignore value, advance ap */
         va_end(ap);          va_end(ap);
   
         udpstat.udps_ipackets++;          MCLAIM(m, &udp_rx_mowner);
           UDP_STATINC(UDP_STAT_IPACKETS);
 #ifndef PULLDOWN_TEST  
         /*  
          * Strip IP options, if any; should skip this,  
          * make available to user, and use on returned packets,  
          * but we don't yet have a way to check the checksum  
          * with options still present.  
          */  
         if (iphlen > sizeof (struct ip)) {  
                 ip_stripoptions(m, (struct mbuf *)0);  
                 iphlen = sizeof(struct ip);  
         }  
 #else  
         /*  
          * we may enable the above code if we save and pass IPv4 options  
          * to the userland.  
          */  
 #endif  
   
         /*          /*
          * Get IP and UDP header together in first mbuf.           * Get IP and UDP header together in first mbuf.
          */           */
         ip = mtod(m, struct ip *);          ip = mtod(m, struct ip *);
 #ifndef PULLDOWN_TEST  
         if (m->m_len < iphlen + sizeof(struct udphdr)) {  
                 if ((m = m_pullup(m, iphlen + sizeof(struct udphdr))) == 0) {  
                         udpstat.udps_hdrops++;  
                         return;  
                 }  
                 ip = mtod(m, struct ip *);  
         }  
         uh = (struct udphdr *)((caddr_t)ip + iphlen);  
 #else  
         IP6_EXTHDR_GET(uh, struct udphdr *, m, iphlen, sizeof(struct udphdr));          IP6_EXTHDR_GET(uh, struct udphdr *, m, iphlen, sizeof(struct udphdr));
         if (uh == NULL) {          if (uh == NULL) {
                 udpstat.udps_hdrops++;                  UDP_STATINC(UDP_STAT_HDROPS);
                 return;                  return;
         }          }
 #endif          KASSERT(UDP_HDR_ALIGNED_P(uh));
   
         /* destination port of 0 is illegal, based on RFC768. */          /* destination port of 0 is illegal, based on RFC768. */
         if (uh->uh_dport == 0)          if (uh->uh_dport == 0)
Line 268  udp_input(m, va_alist)
Line 380  udp_input(m, va_alist)
          * Make mbuf data length reflect UDP length.           * Make mbuf data length reflect UDP length.
          * If not enough data to reflect UDP length, drop.           * If not enough data to reflect UDP length, drop.
          */           */
           ip_len = ntohs(ip->ip_len);
         len = ntohs((u_int16_t)uh->uh_ulen);          len = ntohs((u_int16_t)uh->uh_ulen);
         if (ip->ip_len != iphlen + len) {          if (ip_len != iphlen + len) {
                 if (ip->ip_len < iphlen + len || len < sizeof(struct udphdr)) {                  if (ip_len < iphlen + len || len < sizeof(struct udphdr)) {
                         udpstat.udps_badlen++;                          UDP_STATINC(UDP_STAT_BADLEN);
                         goto bad;                          goto bad;
                 }                  }
                 m_adj(m, iphlen + len - ip->ip_len);                  m_adj(m, iphlen + len - ip_len);
         }          }
   
         /*          /*
          * Checksum extended UDP header and data.           * Checksum extended UDP header and data.
          */           */
         if (uh->uh_sum) {          if (udp4_input_checksum(m, uh, iphlen, len))
                 switch (m->m_pkthdr.csum_flags &                  goto badcsum;
                         ((m->m_pkthdr.rcvif->if_csum_flags_rx & M_CSUM_UDPv4) |  
                          M_CSUM_TCP_UDP_BAD | M_CSUM_DATA)) {  
                 case M_CSUM_UDPv4|M_CSUM_TCP_UDP_BAD:  
                         UDP_CSUM_COUNTER_INCR(&udp_hwcsum_bad);  
                         goto badcsum;  
   
                 case M_CSUM_UDPv4|M_CSUM_DATA:  
                         UDP_CSUM_COUNTER_INCR(&udp_hwcsum_data);  
                         if ((m->m_pkthdr.csum_data ^ 0xffff) != 0)  
                                 goto badcsum;  
                         break;  
   
                 case M_CSUM_UDPv4:  
                         /* Checksum was okay. */  
                         UDP_CSUM_COUNTER_INCR(&udp_hwcsum_ok);  
                         break;  
   
                 default:  
                         /* Need to compute it ourselves. */  
                         UDP_CSUM_COUNTER_INCR(&udp_swcsum);  
                         if (in4_cksum(m, IPPROTO_UDP, iphlen, len) != 0)  
                                 goto badcsum;  
                         break;  
                 }  
         }  
   
         /* construct source and dst sockaddrs. */          /* construct source and dst sockaddrs. */
         bzero(&src, sizeof(src));          sockaddr_in_init(&src, &ip->ip_src, uh->uh_sport);
         src.sin_family = AF_INET;          sockaddr_in_init(&dst, &ip->ip_dst, uh->uh_dport);
         src.sin_len = sizeof(struct sockaddr_in);  
         bcopy(&ip->ip_src, &src.sin_addr, sizeof(src.sin_addr));  
         src.sin_port = uh->uh_sport;  
         bzero(&dst, sizeof(dst));  
         dst.sin_family = AF_INET;  
         dst.sin_len = sizeof(struct sockaddr_in);  
         bcopy(&ip->ip_dst, &dst.sin_addr, sizeof(dst.sin_addr));  
         dst.sin_port = uh->uh_dport;  
   
         n = udp4_realinput(&src, &dst, m, iphlen);          if ((n = udp4_realinput(&src, &dst, &m, iphlen)) == -1) {
                   UDP_STATINC(UDP_STAT_HDROPS);
                   return;
           }
 #ifdef INET6  #ifdef INET6
         if (IN_MULTICAST(ip->ip_dst.s_addr) || n == 0) {          if (IN_MULTICAST(ip->ip_dst.s_addr) || n == 0) {
                 struct sockaddr_in6 src6, dst6;                  struct sockaddr_in6 src6, dst6;
Line 346  udp_input(m, va_alist)
Line 429  udp_input(m, va_alist)
   
         if (n == 0) {          if (n == 0) {
                 if (m->m_flags & (M_BCAST | M_MCAST)) {                  if (m->m_flags & (M_BCAST | M_MCAST)) {
                         udpstat.udps_noportbcast++;                          UDP_STATINC(UDP_STAT_NOPORTBCAST);
                         goto bad;                          goto bad;
                 }                  }
                 udpstat.udps_noport++;                  UDP_STATINC(UDP_STAT_NOPORT);
 #ifdef IPKDB  #ifdef IPKDB
                 if (checkipkdb(&ip->ip_src, uh->uh_sport, uh->uh_dport,                  if (checkipkdb(&ip->ip_src, uh->uh_sport, uh->uh_dport,
                                 m, iphlen + sizeof(struct udphdr),                                  m, iphlen + sizeof(struct udphdr),
Line 372  bad:
Line 455  bad:
   
 badcsum:  badcsum:
         m_freem(m);          m_freem(m);
         udpstat.udps_badsum++;  
 }  }
 #endif  #endif
   
 #ifdef INET6  #ifdef INET6
   static int
   udp6_input_checksum(struct mbuf *m, const struct udphdr *uh, int off, int len)
   {
   
           /*
            * XXX it's better to record and check if this mbuf is
            * already checked.
            */
   
           if (__predict_false((m->m_flags & M_LOOP) && !udp_do_loopback_cksum)) {
                   goto good;
           }
           if (uh->uh_sum == 0) {
                   UDP6_STATINC(UDP6_STAT_NOSUM);
                   goto bad;
           }
   
           switch (m->m_pkthdr.csum_flags &
               ((m->m_pkthdr.rcvif->if_csum_flags_rx & M_CSUM_UDPv6) |
               M_CSUM_TCP_UDP_BAD | M_CSUM_DATA)) {
           case M_CSUM_UDPv6|M_CSUM_TCP_UDP_BAD:
                   UDP_CSUM_COUNTER_INCR(&udp6_hwcsum_bad);
                   UDP6_STATINC(UDP6_STAT_BADSUM);
                   goto bad;
   
   #if 0 /* notyet */
           case M_CSUM_UDPv6|M_CSUM_DATA:
   #endif
   
           case M_CSUM_UDPv6:
                   /* Checksum was okay. */
                   UDP_CSUM_COUNTER_INCR(&udp6_hwcsum_ok);
                   break;
   
           default:
                   /*
                    * Need to compute it ourselves.  Maybe skip checksum
                    * on loopback interfaces.
                    */
                   UDP_CSUM_COUNTER_INCR(&udp6_swcsum);
                   if (in6_cksum(m, IPPROTO_UDP, off, len) != 0) {
                           UDP6_STATINC(UDP6_STAT_BADSUM);
                           goto bad;
                   }
           }
   
   good:
           return 0;
   bad:
           return -1;
   }
   
 int  int
 udp6_input(mp, offp, proto)  udp6_input(struct mbuf **mp, int *offp, int proto)
         struct mbuf **mp;  
         int *offp, proto;  
 {  {
         struct mbuf *m = *mp;          struct mbuf *m = *mp;
         int off = *offp;          int off = *offp;
Line 389  udp6_input(mp, offp, proto)
Line 521  udp6_input(mp, offp, proto)
         struct udphdr *uh;          struct udphdr *uh;
         u_int32_t plen, ulen;          u_int32_t plen, ulen;
   
 #ifndef PULLDOWN_TEST  
         IP6_EXTHDR_CHECK(m, off, sizeof(struct udphdr), IPPROTO_DONE);  
 #endif  
         ip6 = mtod(m, struct ip6_hdr *);          ip6 = mtod(m, struct ip6_hdr *);
   
 #if defined(NFAITH) && 0 < NFAITH  #if defined(NFAITH) && 0 < NFAITH
Line 402  udp6_input(mp, offp, proto)
Line 531  udp6_input(mp, offp, proto)
         }          }
 #endif  #endif
   
         udp6stat.udp6s_ipackets++;          UDP6_STATINC(UDP6_STAT_IPACKETS);
   
         /* check for jumbogram is done in ip6_input.  we can trust pkthdr.len */          /* check for jumbogram is done in ip6_input.  we can trust pkthdr.len */
         plen = m->m_pkthdr.len - off;          plen = m->m_pkthdr.len - off;
 #ifndef PULLDOWN_TEST  
         uh = (struct udphdr *)((caddr_t)ip6 + off);  
 #else  
         IP6_EXTHDR_GET(uh, struct udphdr *, m, off, sizeof(struct udphdr));          IP6_EXTHDR_GET(uh, struct udphdr *, m, off, sizeof(struct udphdr));
         if (uh == NULL) {          if (uh == NULL) {
                 ip6stat.ip6s_tooshort++;                  IP6_STATINC(IP6_STAT_TOOSHORT);
                 return IPPROTO_DONE;                  return IPPROTO_DONE;
         }          }
 #endif          KASSERT(UDP_HDR_ALIGNED_P(uh));
         ulen = ntohs((u_short)uh->uh_ulen);          ulen = ntohs((u_short)uh->uh_ulen);
         /*          /*
          * RFC2675 section 4: jumbograms will have 0 in the UDP header field,           * RFC2675 section 4: jumbograms will have 0 in the UDP header field,
Line 424  udp6_input(mp, offp, proto)
Line 550  udp6_input(mp, offp, proto)
                 ulen = plen;                  ulen = plen;
   
         if (plen != ulen) {          if (plen != ulen) {
                 udp6stat.udp6s_badlen++;                  UDP6_STATINC(UDP6_STAT_BADLEN);
                 goto bad;                  goto bad;
         }          }
   
Line 440  udp6_input(mp, offp, proto)
Line 566  udp6_input(mp, offp, proto)
         }          }
   
         /*          /*
          * Checksum extended UDP header and data.           * Checksum extended UDP header and data.  Maybe skip checksum
            * on loopback interfaces.
          */           */
         if (uh->uh_sum == 0)          if (udp6_input_checksum(m, uh, off, ulen))
                 udp6stat.udp6s_nosum++;  
         else if (in6_cksum(m, IPPROTO_UDP, off, ulen) != 0) {  
                 udp6stat.udp6s_badsum++;  
                 goto bad;                  goto bad;
         }  
   
         /*          /*
          * Construct source and dst sockaddrs.           * Construct source and dst sockaddrs.
          * Note that ifindex (s6_addr16[1]) is already filled.  
          */           */
         bzero(&src, sizeof(src));          bzero(&src, sizeof(src));
         src.sin6_family = AF_INET6;          src.sin6_family = AF_INET6;
         src.sin6_len = sizeof(struct sockaddr_in6);          src.sin6_len = sizeof(struct sockaddr_in6);
         /* KAME hack: recover scopeid */          src.sin6_addr = ip6->ip6_src;
         (void)in6_recoverscope(&src, &ip6->ip6_src, m->m_pkthdr.rcvif);  
         src.sin6_port = uh->uh_sport;          src.sin6_port = uh->uh_sport;
         bzero(&dst, sizeof(dst));          bzero(&dst, sizeof(dst));
         dst.sin6_family = AF_INET6;          dst.sin6_family = AF_INET6;
         dst.sin6_len = sizeof(struct sockaddr_in6);          dst.sin6_len = sizeof(struct sockaddr_in6);
         /* KAME hack: recover scopeid */          dst.sin6_addr = ip6->ip6_dst;
         (void)in6_recoverscope(&dst, &ip6->ip6_dst, m->m_pkthdr.rcvif);  
         dst.sin6_port = uh->uh_dport;          dst.sin6_port = uh->uh_dport;
   
         if (udp6_realinput(AF_INET6, &src, &dst, m, off) == 0) {          if (udp6_realinput(AF_INET6, &src, &dst, m, off) == 0) {
                 if (m->m_flags & M_MCAST) {                  if (m->m_flags & M_MCAST) {
                         udp6stat.udp6s_noportmcast++;                          UDP6_STATINC(UDP6_STAT_NOPORTMCAST);
                         goto bad;                          goto bad;
                 }                  }
                 udp6stat.udp6s_noport++;                  UDP6_STATINC(UDP6_STAT_NOPORT);
                 icmp6_error(m, ICMP6_DST_UNREACH, ICMP6_DST_UNREACH_NOPORT, 0);                  icmp6_error(m, ICMP6_DST_UNREACH, ICMP6_DST_UNREACH_NOPORT, 0);
                 m = NULL;                  m = NULL;
         }          }
Line 485  bad:
Line 605  bad:
   
 #ifdef INET  #ifdef INET
 static void  static void
 udp4_sendup(m, off, src, so)  udp4_sendup(struct mbuf *m, int off /* offset of data portion */,
         struct mbuf *m;          struct sockaddr *src, struct socket *so)
         int off;        /* offset of data portion */  
         struct sockaddr *src;  
         struct socket *so;  
 {  {
         struct mbuf *opts = NULL;          struct mbuf *opts = NULL;
         struct mbuf *n;          struct mbuf *n;
         struct inpcb *inp = NULL;          struct inpcb *inp = NULL;
 #ifdef INET6  
         struct in6pcb *in6p = NULL;  
 #endif  
   
         if (!so)          if (!so)
                 return;                  return;
Line 506  udp4_sendup(m, off, src, so)
Line 620  udp4_sendup(m, off, src, so)
                 break;                  break;
 #ifdef INET6  #ifdef INET6
         case AF_INET6:          case AF_INET6:
                 in6p = sotoin6pcb(so);  
                 break;                  break;
 #endif  #endif
         default:          default:
                 return;                  return;
         }          }
   
 #ifdef IPSEC  #if defined(IPSEC) || defined(FAST_IPSEC)
         /* check AH/ESP integrity. */          /* check AH/ESP integrity. */
         if (so != NULL && ipsec4_in_reject_so(m, so)) {          if (so != NULL && ipsec4_in_reject_so(m, so)) {
                 ipsecstat.in_polvio++;                  IPSEC_STATINC(IPSEC_STAT_IN_POLVIO);
                   if ((n = m_copypacket(m, M_DONTWAIT)) != NULL)
                           icmp_error(n, ICMP_UNREACH, ICMP_UNREACH_ADMIN_PROHIBIT,
                               0, 0);
                 return;                  return;
         }          }
 #endif /*IPSEC*/  #endif /*IPSEC*/
   
         if ((n = m_copy(m, 0, M_COPYALL)) != NULL) {          if ((n = m_copypacket(m, M_DONTWAIT)) != NULL) {
                 if (inp && (inp->inp_flags & INP_CONTROLOPTS                  if (inp && (inp->inp_flags & INP_CONTROLOPTS
                          || so->so_options & SO_TIMESTAMP)) {                           || so->so_options & SO_TIMESTAMP)) {
                         struct ip *ip = mtod(n, struct ip *);                          struct ip *ip = mtod(n, struct ip *);
Line 534  udp4_sendup(m, off, src, so)
Line 650  udp4_sendup(m, off, src, so)
                         m_freem(n);                          m_freem(n);
                         if (opts)                          if (opts)
                                 m_freem(opts);                                  m_freem(opts);
                         udpstat.udps_fullsock++;                          so->so_rcv.sb_overflowed++;
                           UDP_STATINC(UDP_STAT_FULLSOCK);
                 } else                  } else
                         sorwakeup(so);                          sorwakeup(so);
         }          }
Line 543  udp4_sendup(m, off, src, so)
Line 660  udp4_sendup(m, off, src, so)
   
 #ifdef INET6  #ifdef INET6
 static void  static void
 udp6_sendup(m, off, src, so)  udp6_sendup(struct mbuf *m, int off /* offset of data portion */,
         struct mbuf *m;          struct sockaddr *src, struct socket *so)
         int off;        /* offset of data portion */  
         struct sockaddr *src;  
         struct socket *so;  
 {  {
         struct mbuf *opts = NULL;          struct mbuf *opts = NULL;
         struct mbuf *n;          struct mbuf *n;
Line 559  udp6_sendup(m, off, src, so)
Line 673  udp6_sendup(m, off, src, so)
                 return;                  return;
         in6p = sotoin6pcb(so);          in6p = sotoin6pcb(so);
   
 #ifdef IPSEC  #if defined(IPSEC) || defined(FAST_IPSEC)
         /* check AH/ESP integrity. */          /* check AH/ESP integrity. */
         if (so != NULL && ipsec6_in_reject_so(m, so)) {          if (so != NULL && ipsec6_in_reject_so(m, so)) {
                 ipsec6stat.in_polvio++;                  IPSEC6_STATINC(IPSEC_STAT_IN_POLVIO);
                   if ((n = m_copypacket(m, M_DONTWAIT)) != NULL)
                           icmp6_error(n, ICMP6_DST_UNREACH,
                               ICMP6_DST_UNREACH_ADMIN, 0);
                 return;                  return;
         }          }
 #endif /*IPSEC*/  #endif /*IPSEC*/
   
         if ((n = m_copy(m, 0, M_COPYALL)) != NULL) {          if ((n = m_copypacket(m, M_DONTWAIT)) != NULL) {
                 if (in6p && (in6p->in6p_flags & IN6P_CONTROLOPTS                  if (in6p && (in6p->in6p_flags & IN6P_CONTROLOPTS
                           || in6p->in6p_socket->so_options & SO_TIMESTAMP)) {                            || in6p->in6p_socket->so_options & SO_TIMESTAMP)) {
                         struct ip6_hdr *ip6 = mtod(n, struct ip6_hdr *);                          struct ip6_hdr *ip6 = mtod(n, struct ip6_hdr *);
Line 579  udp6_sendup(m, off, src, so)
Line 696  udp6_sendup(m, off, src, so)
                         m_freem(n);                          m_freem(n);
                         if (opts)                          if (opts)
                                 m_freem(opts);                                  m_freem(opts);
                         udp6stat.udp6s_fullsock++;                          so->so_rcv.sb_overflowed++;
                           UDP6_STATINC(UDP6_STAT_FULLSOCK);
                 } else                  } else
                         sorwakeup(so);                          sorwakeup(so);
         }          }
Line 588  udp6_sendup(m, off, src, so)
Line 706  udp6_sendup(m, off, src, so)
   
 #ifdef INET  #ifdef INET
 static int  static int
 udp4_realinput(src, dst, m, off)  udp4_realinput(struct sockaddr_in *src, struct sockaddr_in *dst,
         struct sockaddr_in *src;          struct mbuf **mp, int off /* offset of udphdr */)
         struct sockaddr_in *dst;  
         struct mbuf *m;  
         int off;        /* offset of udphdr */  
 {  {
         u_int16_t *sport, *dport;          u_int16_t *sport, *dport;
         int rcvcnt;          int rcvcnt;
         struct in_addr *src4, *dst4;          struct in_addr *src4, *dst4;
           struct inpcb_hdr *inph;
         struct inpcb *inp;          struct inpcb *inp;
           struct mbuf *m = *mp;
   
         rcvcnt = 0;          rcvcnt = 0;
         off += sizeof(struct udphdr);   /* now, offset of payload */          off += sizeof(struct udphdr);   /* now, offset of payload */
Line 612  udp4_realinput(src, dst, m, off)
Line 729  udp4_realinput(src, dst, m, off)
   
         if (IN_MULTICAST(dst4->s_addr) ||          if (IN_MULTICAST(dst4->s_addr) ||
             in_broadcast(*dst4, m->m_pkthdr.rcvif)) {              in_broadcast(*dst4, m->m_pkthdr.rcvif)) {
                 struct inpcb *last;  
                 /*                  /*
                  * Deliver a multicast or broadcast datagram to *all* sockets                   * Deliver a multicast or broadcast datagram to *all* sockets
                  * for which the local and remote addresses and ports match                   * for which the local and remote addresses and ports match
Line 630  udp4_realinput(src, dst, m, off)
Line 746  udp4_realinput(src, dst, m, off)
                  */                   */
   
                 /*                  /*
                  * KAME note: usually we drop udpiphdr from mbuf here.                   * KAME note: traditionally we dropped udpiphdr from mbuf here.
                  * we need udpiphdr for IPsec processing so we do that later.                   * we need udpiphdr for IPsec processing so we do that later.
                  */                   */
                 /*                  /*
                  * Locate pcb(s) for datagram.                   * Locate pcb(s) for datagram.
                  */                   */
                 CIRCLEQ_FOREACH(inp, &udbtable.inpt_queue, inp_queue) {                  CIRCLEQ_FOREACH(inph, &udbtable.inpt_queue, inph_queue) {
                           inp = (struct inpcb *)inph;
                           if (inp->inp_af != AF_INET)
                                   continue;
   
                         if (inp->inp_lport != *dport)                          if (inp->inp_lport != *dport)
                                 continue;                                  continue;
                         if (!in_nullhost(inp->inp_laddr)) {                          if (!in_nullhost(inp->inp_laddr)) {
Line 649  udp4_realinput(src, dst, m, off)
Line 769  udp4_realinput(src, dst, m, off)
                                         continue;                                          continue;
                         }                          }
   
                         last = inp;  
                         udp4_sendup(m, off, (struct sockaddr *)src,                          udp4_sendup(m, off, (struct sockaddr *)src,
                                 inp->inp_socket);                                  inp->inp_socket);
                         rcvcnt++;                          rcvcnt++;
Line 672  udp4_realinput(src, dst, m, off)
Line 791  udp4_realinput(src, dst, m, off)
                  */                   */
                 inp = in_pcblookup_connect(&udbtable, *src4, *sport, *dst4, *dport);                  inp = in_pcblookup_connect(&udbtable, *src4, *sport, *dst4, *dport);
                 if (inp == 0) {                  if (inp == 0) {
                         ++udpstat.udps_pcbhashmiss;                          UDP_STATINC(UDP_STAT_PCBHASHMISS);
                         inp = in_pcblookup_bind(&udbtable, *dst4, *dport);                          inp = in_pcblookup_bind(&udbtable, *dst4, *dport);
                         if (inp == 0)                          if (inp == 0)
                                 return rcvcnt;                                  return rcvcnt;
                 }                  }
   
   #ifdef IPSEC_NAT_T
                   /* Handle ESP over UDP */
                   if (inp->inp_flags & INP_ESPINUDP_ALL) {
                           struct sockaddr *sa = (struct sockaddr *)src;
   
                           switch(udp4_espinudp(mp, off, sa, inp->inp_socket)) {
                           case -1:        /* Error, m was freeed */
                                   rcvcnt = -1;
                                   goto bad;
                                   break;
   
                           case 1:         /* ESP over UDP */
                                   rcvcnt++;
                                   goto bad;
                                   break;
   
                           case 0:         /* plain UDP */
                           default:        /* Unexpected */
                                   /*
                                    * Normal UDP processing will take place
                                    * m may have changed.
                                    */
                                   m = *mp;
                                   break;
                           }
                   }
   #endif
   
                 udp4_sendup(m, off, (struct sockaddr *)src, inp->inp_socket);                  udp4_sendup(m, off, (struct sockaddr *)src, inp->inp_socket);
                 rcvcnt++;                  rcvcnt++;
         }          }
Line 689  bad:
Line 836  bad:
   
 #ifdef INET6  #ifdef INET6
 static int  static int
 udp6_realinput(af, src, dst, m, off)  udp6_realinput(int af, struct sockaddr_in6 *src, struct sockaddr_in6 *dst,
         int af;         /* af on packet */          struct mbuf *m, int off)
         struct sockaddr_in6 *src;  
         struct sockaddr_in6 *dst;  
         struct mbuf *m;  
         int off;        /* offset of udphdr */  
 {  {
         u_int16_t sport, dport;          u_int16_t sport, dport;
         int rcvcnt;          int rcvcnt;
         struct in6_addr src6, dst6;          struct in6_addr src6, *dst6;
         const struct in_addr *dst4;          const struct in_addr *dst4;
           struct inpcb_hdr *inph;
         struct in6pcb *in6p;          struct in6pcb *in6p;
   
         rcvcnt = 0;          rcvcnt = 0;
Line 710  udp6_realinput(af, src, dst, m, off)
Line 854  udp6_realinput(af, src, dst, m, off)
         if (src->sin6_family != AF_INET6 || dst->sin6_family != AF_INET6)          if (src->sin6_family != AF_INET6 || dst->sin6_family != AF_INET6)
                 goto bad;                  goto bad;
   
         in6_embedscope(&src6, src, NULL, NULL);          src6 = src->sin6_addr;
           if (sa6_recoverscope(src) != 0) {
                   /* XXX: should be impossible. */
                   goto bad;
           }
         sport = src->sin6_port;          sport = src->sin6_port;
         in6_embedscope(&dst6, dst, NULL, NULL);  
         dport = dst->sin6_port;          dport = dst->sin6_port;
         dst4 = (struct in_addr *)&dst->sin6_addr.s6_addr[12];          dst4 = (struct in_addr *)&dst->sin6_addr.s6_addr[12];
           dst6 = &dst->sin6_addr;
   
         if (IN6_IS_ADDR_MULTICAST(&dst6) ||          if (IN6_IS_ADDR_MULTICAST(dst6) ||
             (af == AF_INET && IN_MULTICAST(dst4->s_addr))) {              (af == AF_INET && IN_MULTICAST(dst4->s_addr))) {
                 struct in6pcb *last;  
                 /*                  /*
                  * Deliver a multicast or broadcast datagram to *all* sockets                   * Deliver a multicast or broadcast datagram to *all* sockets
                  * for which the local and remote addresses and ports match                   * for which the local and remote addresses and ports match
Line 736  udp6_realinput(af, src, dst, m, off)
Line 884  udp6_realinput(af, src, dst, m, off)
                  */                   */
   
                 /*                  /*
                  * KAME note: usually we drop udpiphdr from mbuf here.                   * KAME note: traditionally we dropped udpiphdr from mbuf here.
                  * we need udpiphdr for IPsec processing so we do that later.                   * we need udpiphdr for IPsec processing so we do that later.
                  */                   */
                 /*                  /*
                  * Locate pcb(s) for datagram.                   * Locate pcb(s) for datagram.
                  */                   */
                 for (in6p = udb6.in6p_next; in6p != &udb6;                  CIRCLEQ_FOREACH(inph, &udbtable.inpt_queue, inph_queue) {
                      in6p = in6p->in6p_next) {                          in6p = (struct in6pcb *)inph;
                           if (in6p->in6p_af != AF_INET6)
                                   continue;
   
                         if (in6p->in6p_lport != dport)                          if (in6p->in6p_lport != dport)
                                 continue;                                  continue;
                         if (!IN6_IS_ADDR_UNSPECIFIED(&in6p->in6p_laddr)) {                          if (!IN6_IS_ADDR_UNSPECIFIED(&in6p->in6p_laddr)) {
                                 if (!IN6_ARE_ADDR_EQUAL(&in6p->in6p_laddr, &dst6))                                  if (!IN6_ARE_ADDR_EQUAL(&in6p->in6p_laddr,
                                       dst6))
                                         continue;                                          continue;
                         }                          } else {
                         else {                                  if (IN6_IS_ADDR_V4MAPPED(dst6) &&
                                 if (IN6_IS_ADDR_V4MAPPED(&dst6) &&  
                                     (in6p->in6p_flags & IN6P_IPV6_V6ONLY))                                      (in6p->in6p_flags & IN6P_IPV6_V6ONLY))
                                         continue;                                          continue;
                         }                          }
Line 759  udp6_realinput(af, src, dst, m, off)
Line 910  udp6_realinput(af, src, dst, m, off)
                                 if (!IN6_ARE_ADDR_EQUAL(&in6p->in6p_faddr,                                  if (!IN6_ARE_ADDR_EQUAL(&in6p->in6p_faddr,
                                     &src6) || in6p->in6p_fport != sport)                                      &src6) || in6p->in6p_fport != sport)
                                         continue;                                          continue;
                         }                          } else {
                         else {  
                                 if (IN6_IS_ADDR_V4MAPPED(&src6) &&                                  if (IN6_IS_ADDR_V4MAPPED(&src6) &&
                                     (in6p->in6p_flags & IN6P_IPV6_V6ONLY))                                      (in6p->in6p_flags & IN6P_IPV6_V6ONLY))
                                         continue;                                          continue;
                         }                          }
   
                         last = in6p;  
                         udp6_sendup(m, off, (struct sockaddr *)src,                          udp6_sendup(m, off, (struct sockaddr *)src,
                                 in6p->in6p_socket);                                  in6p->in6p_socket);
                         rcvcnt++;                          rcvcnt++;
Line 787  udp6_realinput(af, src, dst, m, off)
Line 936  udp6_realinput(af, src, dst, m, off)
                 /*                  /*
                  * Locate pcb for datagram.                   * Locate pcb for datagram.
                  */                   */
                 in6p = in6_pcblookup_connect(&udb6, &src6, sport,                  in6p = in6_pcblookup_connect(&udbtable, &src6, sport, dst6,
                     &dst6, dport, 0);                      dport, 0);
                 if (in6p == 0) {                  if (in6p == 0) {
                         ++udpstat.udps_pcbhashmiss;                          UDP_STATINC(UDP_STAT_PCBHASHMISS);
                         in6p = in6_pcblookup_bind(&udb6, &dst6, dport, 0);                          in6p = in6_pcblookup_bind(&udbtable, dst6, dport, 0);
                         if (in6p == 0)                          if (in6p == 0)
                                 return rcvcnt;                                  return rcvcnt;
                 }                  }
Line 811  bad:
Line 960  bad:
  * just wake up so that he can collect error status.   * just wake up so that he can collect error status.
  */   */
 static void  static void
 udp_notify(inp, errno)  udp_notify(struct inpcb *inp, int errno)
         struct inpcb *inp;  
         int errno;  
 {  {
   
         inp->inp_socket->so_error = errno;          inp->inp_socket->so_error = errno;
         sorwakeup(inp->inp_socket);          sorwakeup(inp->inp_socket);
         sowwakeup(inp->inp_socket);          sowwakeup(inp->inp_socket);
 }  }
   
 void *  void *
 udp_ctlinput(cmd, sa, v)  udp_ctlinput(int cmd, const struct sockaddr *sa, void *v)
         int cmd;  
         struct sockaddr *sa;  
         void *v;  
 {  {
         struct ip *ip = v;          struct ip *ip = v;
         struct udphdr *uh;          struct udphdr *uh;
         void (*notify) __P((struct inpcb *, int)) = udp_notify;          void (*notify)(struct inpcb *, int) = udp_notify;
         int errno;          int errno;
   
         if (sa->sa_family != AF_INET          if (sa->sa_family != AF_INET
Line 845  udp_ctlinput(cmd, sa, v)
Line 988  udp_ctlinput(cmd, sa, v)
         else if (errno == 0)          else if (errno == 0)
                 return NULL;                  return NULL;
         if (ip) {          if (ip) {
                 uh = (struct udphdr *)((caddr_t)ip + (ip->ip_hl << 2));                  uh = (struct udphdr *)((char *)ip + (ip->ip_hl << 2));
                 in_pcbnotify(&udbtable, satosin(sa)->sin_addr, uh->uh_dport,                  in_pcbnotify(&udbtable, satocsin(sa)->sin_addr, uh->uh_dport,
                     ip->ip_src, uh->uh_sport, errno, notify);                      ip->ip_src, uh->uh_sport, errno, notify);
   
                 /* XXX mapped address case */                  /* XXX mapped address case */
         } else          } else
                 in_pcbnotifyall(&udbtable, satosin(sa)->sin_addr, errno,                  in_pcbnotifyall(&udbtable, satocsin(sa)->sin_addr, errno,
                     notify);                      notify);
         return NULL;          return NULL;
 }  }
   
 int  int
 #if __STDC__  udp_ctloutput(int op, struct socket *so, struct sockopt *sopt)
 udp_output(struct mbuf *m, ...)  {
 #else          int s;
 udp_output(m, va_alist)          int error = 0;
         struct mbuf *m;          struct inpcb *inp;
         va_dcl          int family;
           int optval;
   
           family = so->so_proto->pr_domain->dom_family;
   
           s = splsoftnet();
           switch (family) {
   #ifdef INET
           case PF_INET:
                   if (sopt->sopt_level != IPPROTO_UDP) {
                           error = ip_ctloutput(op, so, sopt);
                           goto end;
                   }
                   break;
   #endif
   #ifdef INET6
           case PF_INET6:
                   if (sopt->sopt_level != IPPROTO_UDP) {
                           error = ip6_ctloutput(op, so, sopt);
                           goto end;
                   }
                   break;
   #endif
           default:
                   error = EAFNOSUPPORT;
                   goto end;
           }
   
   
           switch (op) {
           case PRCO_SETOPT:
                   inp = sotoinpcb(so);
   
                   switch (sopt->sopt_name) {
                   case UDP_ENCAP:
                           error = sockopt_getint(sopt, &optval);
                           if (error)
                                   break;
   
                           switch(optval) {
   #ifdef IPSEC_NAT_T
                           case 0:
                                   inp->inp_flags &= ~INP_ESPINUDP_ALL;
                                   break;
   
                           case UDP_ENCAP_ESPINUDP:
                                   inp->inp_flags &= ~INP_ESPINUDP_ALL;
                                   inp->inp_flags |= INP_ESPINUDP;
                                   break;
   
                           case UDP_ENCAP_ESPINUDP_NON_IKE:
                                   inp->inp_flags &= ~INP_ESPINUDP_ALL;
                                   inp->inp_flags |= INP_ESPINUDP_NON_IKE;
                                   break;
 #endif  #endif
                           default:
                                   error = EINVAL;
                                   break;
                           }
                           break;
   
                   default:
                           error = ENOPROTOOPT;
                           break;
                   }
                   break;
   
           default:
                   error = EINVAL;
                   break;
           }
   
   end:
           splx(s);
           return error;
   }
   
   
   int
   udp_output(struct mbuf *m, ...)
 {  {
         struct inpcb *inp;          struct inpcb *inp;
         struct udpiphdr *ui;          struct udpiphdr *ui;
           struct route *ro;
         int len = m->m_pkthdr.len;          int len = m->m_pkthdr.len;
         int error = 0;          int error = 0;
         va_list ap;          va_list ap;
   
           MCLAIM(m, &udp_tx_mowner);
         va_start(ap, m);          va_start(ap, m);
         inp = va_arg(ap, struct inpcb *);          inp = va_arg(ap, struct inpcb *);
         va_end(ap);          va_end(ap);
Line 889  udp_output(m, va_alist)
Line 1112  udp_output(m, va_alist)
          * Compute the packet length of the IP header, and           * Compute the packet length of the IP header, and
          * punt if the length looks bogus.           * punt if the length looks bogus.
          */           */
         if ((len + sizeof(struct udpiphdr)) > IP_MAXPACKET) {          if (len + sizeof(struct udpiphdr) > IP_MAXPACKET) {
                 error = EMSGSIZE;                  error = EMSGSIZE;
                 goto release;                  goto release;
         }          }
Line 906  udp_output(m, va_alist)
Line 1129  udp_output(m, va_alist)
         ui->ui_dport = inp->inp_fport;          ui->ui_dport = inp->inp_fport;
         ui->ui_ulen = htons((u_int16_t)len + sizeof(struct udphdr));          ui->ui_ulen = htons((u_int16_t)len + sizeof(struct udphdr));
   
           ro = &inp->inp_route;
   
         /*          /*
          * Set up checksum and output datagram.           * Set up checksum and output datagram.
          */           */
Line 921  udp_output(m, va_alist)
Line 1146  udp_output(m, va_alist)
                 m->m_pkthdr.csum_data = offsetof(struct udphdr, uh_sum);                  m->m_pkthdr.csum_data = offsetof(struct udphdr, uh_sum);
         } else          } else
                 ui->ui_sum = 0;                  ui->ui_sum = 0;
         ((struct ip *)ui)->ip_len = sizeof (struct udpiphdr) + len;          ((struct ip *)ui)->ip_len = htons(sizeof (struct udpiphdr) + len);
         ((struct ip *)ui)->ip_ttl = inp->inp_ip.ip_ttl; /* XXX */          ((struct ip *)ui)->ip_ttl = inp->inp_ip.ip_ttl; /* XXX */
         ((struct ip *)ui)->ip_tos = inp->inp_ip.ip_tos; /* XXX */          ((struct ip *)ui)->ip_tos = inp->inp_ip.ip_tos; /* XXX */
         udpstat.udps_opackets++;          UDP_STATINC(UDP_STAT_OPACKETS);
   
 #ifdef IPSEC          return (ip_output(m, inp->inp_options, ro,
         if (ipsec_setsocket(m, inp->inp_socket) != 0) {  
                 error = ENOBUFS;  
                 goto release;  
         }  
 #endif /*IPSEC*/  
   
         return (ip_output(m, inp->inp_options, &inp->inp_route,  
             inp->inp_socket->so_options & (SO_DONTROUTE | SO_BROADCAST),              inp->inp_socket->so_options & (SO_DONTROUTE | SO_BROADCAST),
             inp->inp_moptions));              inp->inp_moptions, inp->inp_socket));
   
 release:  release:
         m_freem(m);          m_freem(m);
Line 948  int udp_recvspace = 40 * (1024 + sizeof(
Line 1166  int udp_recvspace = 40 * (1024 + sizeof(
   
 /*ARGSUSED*/  /*ARGSUSED*/
 int  int
 udp_usrreq(so, req, m, nam, control, p)  udp_usrreq(struct socket *so, int req, struct mbuf *m, struct mbuf *nam,
         struct socket *so;          struct mbuf *control, struct lwp *l)
         int req;  
         struct mbuf *m, *nam, *control;  
         struct proc *p;  
 {  {
         struct inpcb *inp;          struct inpcb *inp;
         int s;          int s;
         int error = 0;          int error = 0;
   
         if (req == PRU_CONTROL)          if (req == PRU_CONTROL)
                 return (in_control(so, (long)m, (caddr_t)nam,                  return (in_control(so, (long)m, (void *)nam,
                     (struct ifnet *)control, p));                      (struct ifnet *)control, l));
   
           s = splsoftnet();
   
         if (req == PRU_PURGEIF) {          if (req == PRU_PURGEIF) {
                   mutex_enter(softnet_lock);
                 in_pcbpurgeif0(&udbtable, (struct ifnet *)control);                  in_pcbpurgeif0(&udbtable, (struct ifnet *)control);
                 in_purgeif((struct ifnet *)control);                  in_purgeif((struct ifnet *)control);
                 in_pcbpurgeif(&udbtable, (struct ifnet *)control);                  in_pcbpurgeif(&udbtable, (struct ifnet *)control);
                   mutex_exit(softnet_lock);
                   splx(s);
                 return (0);                  return (0);
         }          }
   
         s = splsoftnet();  
         inp = sotoinpcb(so);          inp = sotoinpcb(so);
 #ifdef DIAGNOSTIC  #ifdef DIAGNOSTIC
         if (req != PRU_SEND && req != PRU_SENDOOB && control)          if (req != PRU_SEND && req != PRU_SENDOOB && control)
                 panic("udp_usrreq: unexpected control mbuf");                  panic("udp_usrreq: unexpected control mbuf");
 #endif  #endif
         if (inp == 0 && req != PRU_ATTACH) {          if (req == PRU_ATTACH) {
                   sosetlock(so);
           } else if (inp == 0) {
                 error = EINVAL;                  error = EINVAL;
                 goto release;                  goto release;
         }          }
Line 991  udp_usrreq(so, req, m, nam, control, p)
Line 1212  udp_usrreq(so, req, m, nam, control, p)
                         error = EISCONN;                          error = EISCONN;
                         break;                          break;
                 }                  }
   #ifdef MBUFTRACE
                   so->so_mowner = &udp_mowner;
                   so->so_rcv.sb_mowner = &udp_rx_mowner;
                   so->so_snd.sb_mowner = &udp_tx_mowner;
   #endif
                 if (so->so_snd.sb_hiwat == 0 || so->so_rcv.sb_hiwat == 0) {                  if (so->so_snd.sb_hiwat == 0 || so->so_rcv.sb_hiwat == 0) {
                         error = soreserve(so, udp_sendspace, udp_recvspace);                          error = soreserve(so, udp_sendspace, udp_recvspace);
                         if (error)                          if (error)
Line 1008  udp_usrreq(so, req, m, nam, control, p)
Line 1234  udp_usrreq(so, req, m, nam, control, p)
                 break;                  break;
   
         case PRU_BIND:          case PRU_BIND:
                 error = in_pcbbind(inp, nam, p);                  error = in_pcbbind(inp, nam, l);
                 break;                  break;
   
         case PRU_LISTEN:          case PRU_LISTEN:
Line 1016  udp_usrreq(so, req, m, nam, control, p)
Line 1242  udp_usrreq(so, req, m, nam, control, p)
                 break;                  break;
   
         case PRU_CONNECT:          case PRU_CONNECT:
                 error = in_pcbconnect(inp, nam);                  error = in_pcbconnect(inp, nam, l);
                 if (error)                  if (error)
                         break;                          break;
                 soisconnected(so);                  soisconnected(so);
Line 1058  udp_usrreq(so, req, m, nam, control, p)
Line 1284  udp_usrreq(so, req, m, nam, control, p)
                                 error = EISCONN;                                  error = EISCONN;
                                 goto die;                                  goto die;
                         }                          }
                         error = in_pcbconnect(inp, nam);                          error = in_pcbconnect(inp, nam, l);
                         if (error) {                          if (error)
                         die:                                  goto die;
                                 m_freem(m);  
                                 break;  
                         }  
                 } else {                  } else {
                         if ((so->so_state & SS_ISCONNECTED) == 0) {                          if ((so->so_state & SS_ISCONNECTED) == 0) {
                                 error = ENOTCONN;                                  error = ENOTCONN;
Line 1071  udp_usrreq(so, req, m, nam, control, p)
Line 1294  udp_usrreq(so, req, m, nam, control, p)
                         }                          }
                 }                  }
                 error = udp_output(m, inp);                  error = udp_output(m, inp);
                   m = NULL;
                 if (nam) {                  if (nam) {
                         in_pcbdisconnect(inp);                          in_pcbdisconnect(inp);
                         inp->inp_laddr = laddr;         /* XXX */                          inp->inp_laddr = laddr;         /* XXX */
                         in_pcbstate(inp, INP_BOUND);    /* XXX */                          in_pcbstate(inp, INP_BOUND);    /* XXX */
                 }                  }
             die:
                   if (m)
                           m_freem(m);
         }          }
                 break;                  break;
   
Line 1113  release:
Line 1340  release:
         return (error);          return (error);
 }  }
   
   static int
   sysctl_net_inet_udp_stats(SYSCTLFN_ARGS)
   {
   
           return (NETSTAT_SYSCTL(udpstat_percpu, UDP_NSTATS));
   }
   
 /*  /*
  * Sysctl for udp variables.   * Sysctl for udp variables.
  */   */
 int  SYSCTL_SETUP(sysctl_net_inet_udp_setup, "sysctl net.inet.udp subtree setup")
 udp_sysctl(name, namelen, oldp, oldlenp, newp, newlen)  
         int *name;  
         u_int namelen;  
         void *oldp;  
         size_t *oldlenp;  
         void *newp;  
         size_t newlen;  
 {  {
         /* All sysctl names at this level are terminal. */  
         if (namelen != 1)          sysctl_createv(clog, 0, NULL, NULL,
                 return (ENOTDIR);                         CTLFLAG_PERMANENT,
                          CTLTYPE_NODE, "net", NULL,
         switch (name[0]) {                         NULL, 0, NULL, 0,
         case UDPCTL_CHECKSUM:                         CTL_NET, CTL_EOL);
                 return (sysctl_int(oldp, oldlenp, newp, newlen, &udpcksum));          sysctl_createv(clog, 0, NULL, NULL,
         case UDPCTL_SENDSPACE:                         CTLFLAG_PERMANENT,
                 return (sysctl_int(oldp, oldlenp, newp, newlen,                         CTLTYPE_NODE, "inet", NULL,
                     &udp_sendspace));                         NULL, 0, NULL, 0,
         case UDPCTL_RECVSPACE:                         CTL_NET, PF_INET, CTL_EOL);
                 return (sysctl_int(oldp, oldlenp, newp, newlen,          sysctl_createv(clog, 0, NULL, NULL,
                     &udp_recvspace));                         CTLFLAG_PERMANENT,
         default:                         CTLTYPE_NODE, "udp",
                 return (ENOPROTOOPT);                         SYSCTL_DESCR("UDPv4 related settings"),
                          NULL, 0, NULL, 0,
                          CTL_NET, PF_INET, IPPROTO_UDP, CTL_EOL);
   
           sysctl_createv(clog, 0, NULL, NULL,
                          CTLFLAG_PERMANENT|CTLFLAG_READWRITE,
                          CTLTYPE_INT, "checksum",
                          SYSCTL_DESCR("Compute UDP checksums"),
                          NULL, 0, &udpcksum, 0,
                          CTL_NET, PF_INET, IPPROTO_UDP, UDPCTL_CHECKSUM,
                          CTL_EOL);
           sysctl_createv(clog, 0, NULL, NULL,
                          CTLFLAG_PERMANENT|CTLFLAG_READWRITE,
                          CTLTYPE_INT, "sendspace",
                          SYSCTL_DESCR("Default UDP send buffer size"),
                          NULL, 0, &udp_sendspace, 0,
                          CTL_NET, PF_INET, IPPROTO_UDP, UDPCTL_SENDSPACE,
                          CTL_EOL);
           sysctl_createv(clog, 0, NULL, NULL,
                          CTLFLAG_PERMANENT|CTLFLAG_READWRITE,
                          CTLTYPE_INT, "recvspace",
                          SYSCTL_DESCR("Default UDP receive buffer size"),
                          NULL, 0, &udp_recvspace, 0,
                          CTL_NET, PF_INET, IPPROTO_UDP, UDPCTL_RECVSPACE,
                          CTL_EOL);
           sysctl_createv(clog, 0, NULL, NULL,
                          CTLFLAG_PERMANENT|CTLFLAG_READWRITE,
                          CTLTYPE_INT, "do_loopback_cksum",
                          SYSCTL_DESCR("Perform UDP checksum on loopback"),
                          NULL, 0, &udp_do_loopback_cksum, 0,
                          CTL_NET, PF_INET, IPPROTO_UDP, UDPCTL_LOOPBACKCKSUM,
                          CTL_EOL);
           sysctl_createv(clog, 0, NULL, NULL,
                          CTLFLAG_PERMANENT,
                          CTLTYPE_STRUCT, "pcblist",
                          SYSCTL_DESCR("UDP protocol control block list"),
                          sysctl_inpcblist, 0, &udbtable, 0,
                          CTL_NET, PF_INET, IPPROTO_UDP, CTL_CREATE,
                          CTL_EOL);
           sysctl_createv(clog, 0, NULL, NULL,
                          CTLFLAG_PERMANENT,
                          CTLTYPE_STRUCT, "stats",
                          SYSCTL_DESCR("UDP statistics"),
                          sysctl_net_inet_udp_stats, 0, NULL, 0,
                          CTL_NET, PF_INET, IPPROTO_UDP, UDPCTL_STATS,
                          CTL_EOL);
   }
   #endif
   
   void
   udp_statinc(u_int stat)
   {
   
           KASSERT(stat < UDP_NSTATS);
           UDP_STATINC(stat);
   }
   
   #if (defined INET && defined IPSEC_NAT_T)
   /*
    * Returns:
    * 1 if the packet was processed
    * 0 if normal UDP processing should take place
    * -1 if an error occurent and m was freed
    */
   static int
   udp4_espinudp(struct mbuf **mp, int off, struct sockaddr *src,
       struct socket *so)
   {
           size_t len;
           void *data;
           struct inpcb *inp;
           size_t skip = 0;
           size_t minlen;
           size_t iphdrlen;
           struct ip *ip;
           struct mbuf *n;
           struct m_tag *tag;
           struct udphdr *udphdr;
           u_int16_t sport, dport;
           struct mbuf *m = *mp;
   
           /*
            * Collapse the mbuf chain if the first mbuf is too short
            * The longest case is: UDP + non ESP marker + ESP
            */
           minlen = off + sizeof(u_int64_t) + sizeof(struct esp);
           if (minlen > m->m_pkthdr.len)
                   minlen = m->m_pkthdr.len;
   
           if (m->m_len < minlen) {
                   if ((*mp = m_pullup(m, minlen)) == NULL) {
                           printf("udp4_espinudp: m_pullup failed\n");
                           return -1;
                   }
                   m = *mp;
         }          }
         /* NOTREACHED */  
           len = m->m_len - off;
           data = mtod(m, char *) + off;
           inp = sotoinpcb(so);
   
           /* Ignore keepalive packets */
           if ((len == 1) && (*(unsigned char *)data == 0xff)) {
                   return 1;
           }
   
           /*
            * Check that the payload is long enough to hold
            * an ESP header and compute the length of encapsulation
            * header to remove
            */
           if (inp->inp_flags & INP_ESPINUDP) {
                   u_int32_t *st = (u_int32_t *)data;
   
                   if ((len <= sizeof(struct esp)) || (*st == 0))
                           return 0; /* Normal UDP processing */
   
                   skip = sizeof(struct udphdr);
           }
   
           if (inp->inp_flags & INP_ESPINUDP_NON_IKE) {
                   u_int32_t *st = (u_int32_t *)data;
   
                   if ((len <= sizeof(u_int64_t) + sizeof(struct esp))
                       || ((st[0] | st[1]) != 0))
                           return 0; /* Normal UDP processing */
   
                   skip = sizeof(struct udphdr) + sizeof(u_int64_t);
           }
   
           /*
            * Get the UDP ports. They are handled in network
            * order everywhere in IPSEC_NAT_T code.
            */
           udphdr = (struct udphdr *)((char *)data - skip);
           sport = udphdr->uh_sport;
           dport = udphdr->uh_dport;
   
           /*
            * Remove the UDP header (and possibly the non ESP marker)
            * IP header lendth is iphdrlen
            * Before:
            *   <--- off --->
            *   +----+------+-----+
            *   | IP |  UDP | ESP |
            *   +----+------+-----+
            *        <-skip->
            * After:
            *          +----+-----+
            *          | IP | ESP |
            *          +----+-----+
            *   <-skip->
            */
           iphdrlen = off - sizeof(struct udphdr);
           memmove(mtod(m, char *) + skip, mtod(m, void *), iphdrlen);
           m_adj(m, skip);
   
           ip = mtod(m, struct ip *);
           ip->ip_len = htons(ntohs(ip->ip_len) - skip);
           ip->ip_p = IPPROTO_ESP;
   
           /*
            * Copy the mbuf to avoid multiple free, as both
            * esp4_input (which we call) and udp_input (which
            * called us) free the mbuf.
            */
           if ((n = m_dup(m, 0, M_COPYALL, M_DONTWAIT)) == NULL) {
                   printf("udp4_espinudp: m_dup failed\n");
                   return 0;
           }
   
           /*
            * Add a PACKET_TAG_IPSEC_NAT_T_PORT tag to remember
            * the source UDP port. This is required if we want
            * to select the right SPD for multiple hosts behind
            * same NAT
            */
           if ((tag = m_tag_get(PACKET_TAG_IPSEC_NAT_T_PORTS,
               sizeof(sport) + sizeof(dport), M_DONTWAIT)) == NULL) {
                   printf("udp4_espinudp: m_tag_get failed\n");
                   m_freem(n);
                   return 0;
           }
           ((u_int16_t *)(tag + 1))[0] = sport;
           ((u_int16_t *)(tag + 1))[1] = dport;
           m_tag_prepend(n, tag);
   
   #ifdef FAST_IPSEC
           ipsec4_common_input(n, iphdrlen, IPPROTO_ESP);
   #else
           esp4_input(n, iphdrlen);
   #endif
   
           /* We handled it, it shoudln't be handled by UDP */
           return 1;
 }  }
 #endif  #endif

Legend:
Removed from v.1.75.2.5  
changed lines
  Added in v.1.163.14.2

CVSweb <webmaster@jp.NetBSD.org>