[BACK]Return to ip_input.c CVS log [TXT][DIR] Up to [cvs.NetBSD.org] / src / sys / netinet

Please note that diffs are not public domain; they are subject to the copyright notices on the relevant files.

Diff for /src/sys/netinet/ip_input.c between version 1.317 and 1.318

version 1.317, 2014/05/30 01:39:03 version 1.318, 2014/06/05 23:48:16
Line 103  __KERNEL_RCSID(0, "$NetBSD$");
Line 103  __KERNEL_RCSID(0, "$NetBSD$");
   
 #include <sys/param.h>  #include <sys/param.h>
 #include <sys/systm.h>  #include <sys/systm.h>
   #include <sys/cpu.h>
 #include <sys/mbuf.h>  #include <sys/mbuf.h>
 #include <sys/domain.h>  #include <sys/domain.h>
 #include <sys/protosw.h>  #include <sys/protosw.h>
Line 118  __KERNEL_RCSID(0, "$NetBSD$");
Line 119  __KERNEL_RCSID(0, "$NetBSD$");
 #include <net/if.h>  #include <net/if.h>
 #include <net/if_dl.h>  #include <net/if_dl.h>
 #include <net/route.h>  #include <net/route.h>
   #include <net/pktqueue.h>
 #include <net/pfil.h>  #include <net/pfil.h>
   
 #include <netinet/in.h>  #include <netinet/in.h>
Line 210  int ip_do_randomid = 0;
Line 212  int ip_do_randomid = 0;
  * to the loopback interface instead of the interface where the   * to the loopback interface instead of the interface where the
  * packets for those addresses are received.   * packets for those addresses are received.
  */   */
 int     ip_checkinterface = 0;  static int              ip_checkinterface       __read_mostly = 0;
   
 struct rttimer_queue *ip_mtudisc_timeout_q = NULL;  struct rttimer_queue *ip_mtudisc_timeout_q = NULL;
   
 struct  ifqueue ipintrq;  pktqueue_t *            ip_pktq                 __read_mostly;
   pfil_head_t *           inet_pfil_hook          __read_mostly;
   ipid_state_t *          ip_ids                  __read_mostly;
   percpu_t *              ipstat_percpu           __read_mostly;
   
 ipid_state_t *          ip_ids;  static struct route     ipforward_rt            __cacheline_aligned;
 uint16_t ip_id;  
   
 percpu_t *ipstat_percpu;  
   
 pfil_head_t *inet_pfil_hook;  uint16_t ip_id;
   
 #ifdef INET_CSUM_COUNTERS  #ifdef INET_CSUM_COUNTERS
 #include <sys/device.h>  #include <sys/device.h>
Line 264  static struct ip_srcrt {
Line 266  static struct ip_srcrt {
   
 static int ip_drainwanted;  static int ip_drainwanted;
   
   struct  sockaddr_in ipaddr = {
           .sin_len = sizeof(ipaddr),
           .sin_family = AF_INET,
   };
   
 static void save_rte(u_char *, struct in_addr);  static void save_rte(u_char *, struct in_addr);
   
 #ifdef MBUFTRACE  #ifdef MBUFTRACE
Line 271  struct mowner ip_rx_mowner = MOWNER_INIT
Line 278  struct mowner ip_rx_mowner = MOWNER_INIT
 struct mowner ip_tx_mowner = MOWNER_INIT("internet", "tx");  struct mowner ip_tx_mowner = MOWNER_INIT("internet", "tx");
 #endif  #endif
   
   static void             ipintr(void *);
 static void             ip_input(struct mbuf *);  static void             ip_input(struct mbuf *);
 static void             ip_forward(struct mbuf *, int);  static void             ip_forward(struct mbuf *, int);
 static bool             ip_dooptions(struct mbuf *);  static bool             ip_dooptions(struct mbuf *);
 static struct in_ifaddr *ip_rtaddr(struct in_addr);  static struct in_ifaddr *ip_rtaddr(struct in_addr);
 static void             sysctl_net_inet_ip_setup(struct sysctllog **);  static void             sysctl_net_inet_ip_setup(struct sysctllog **);
   
   /* XXX: Not yet enabled. */
   #define SOFTNET_LOCK()          KASSERT(mutex_owned(softnet_lock))
   #define SOFTNET_UNLOCK()        KASSERT(mutex_owned(softnet_lock))
   
 /*  /*
  * IP initialization: fill in IP protocol switch table.   * IP initialization: fill in IP protocol switch table.
  * All protocols not implemented in kernel go to raw IP protocol handler.   * All protocols not implemented in kernel go to raw IP protocol handler.
Line 292  ip_init(void)
Line 304  ip_init(void)
         pr = pffindproto(PF_INET, IPPROTO_RAW, SOCK_RAW);          pr = pffindproto(PF_INET, IPPROTO_RAW, SOCK_RAW);
         KASSERT(pr != NULL);          KASSERT(pr != NULL);
   
           ip_pktq = pktq_create(IFQ_MAXLEN, ipintr);
           KASSERT(ip_pktq != NULL);
   
         for (u_int i = 0; i < IPPROTO_MAX; i++) {          for (u_int i = 0; i < IPPROTO_MAX; i++) {
                 ip_protox[i] = pr - inetsw;                  ip_protox[i] = pr - inetsw;
         }          }
Line 306  ip_init(void)
Line 321  ip_init(void)
         ip_ids = ip_id_init();          ip_ids = ip_id_init();
         ip_id = time_second & 0xfffff;          ip_id = time_second & 0xfffff;
   
         ipintrq.ifq_maxlen = IFQ_MAXLEN;  
   
         ip_mtudisc_timeout_q = rt_timer_queue_create(ip_mtudisc_timeout);          ip_mtudisc_timeout_q = rt_timer_queue_create(ip_mtudisc_timeout);
 #ifdef GATEWAY  #ifdef GATEWAY
         ipflow_init();          ipflow_init();
Line 325  ip_init(void)
Line 338  ip_init(void)
         ipstat_percpu = percpu_alloc(sizeof(uint64_t) * IP_NSTATS);          ipstat_percpu = percpu_alloc(sizeof(uint64_t) * IP_NSTATS);
 }  }
   
 struct  sockaddr_in ipaddr = {  
         .sin_len = sizeof(ipaddr),  
         .sin_family = AF_INET,  
 };  
   
 static struct route     ipforward_rt;  
   
 /*  /*
  * IP software interrupt routine   * IP software interrupt routine.
  */   */
 void  static void
 ipintr(void)  ipintr(void *arg __unused)
 {  {
         int s;  
         struct mbuf *m;          struct mbuf *m;
         struct ifqueue lcl_intrq;  
   
         memset(&lcl_intrq, 0, sizeof(lcl_intrq));          KASSERT(cpu_softintr_p());
   
         mutex_enter(softnet_lock);          mutex_enter(softnet_lock);
         KERNEL_LOCK(1, NULL);          while ((m = pktq_dequeue(ip_pktq)) != NULL) {
         if (!IF_IS_EMPTY(&ipintrq)) {  
                 s = splnet();  
   
                 /* Take existing queue onto stack */  
                 lcl_intrq = ipintrq;  
   
                 /* Zero out global queue, preserving maxlen and drops */  
                 ipintrq.ifq_head = NULL;  
                 ipintrq.ifq_tail = NULL;  
                 ipintrq.ifq_len = 0;  
                 ipintrq.ifq_maxlen = lcl_intrq.ifq_maxlen;  
                 ipintrq.ifq_drops = lcl_intrq.ifq_drops;  
   
                 splx(s);  
         }  
         KERNEL_UNLOCK_ONE(NULL);  
         while (!IF_IS_EMPTY(&lcl_intrq)) {  
                 IF_DEQUEUE(&lcl_intrq, m);  
                 if (m == NULL)  
                         break;  
                 ip_input(m);                  ip_input(m);
         }          }
         mutex_exit(softnet_lock);          mutex_exit(softnet_lock);
 }  }
   
 /*  /*
  * Ip input routine.  Checksum and byte swap header.  If fragmented   * IP input routine.  Checksum and byte swap header.  If fragmented
  * try to reassemble.  Process options.  Pass to next level.   * try to reassemble.  Process options.  Pass to next level.
  */   */
 static void  static void
Line 387  ip_input(struct mbuf *m)
Line 371  ip_input(struct mbuf *m)
         int srcrt = 0;          int srcrt = 0;
         ifnet_t *ifp;          ifnet_t *ifp;
   
           KASSERTMSG(cpu_softintr_p(), "ip_input: not in the software "
               "interrupt handler; synchronization assumptions violated");
   
         MCLAIM(m, &ip_rx_mowner);          MCLAIM(m, &ip_rx_mowner);
         KASSERT((m->m_flags & M_PKTHDR) != 0);          KASSERT((m->m_flags & M_PKTHDR) != 0);
         ifp = m->m_pkthdr.rcvif;          ifp = m->m_pkthdr.rcvif;
Line 394  ip_input(struct mbuf *m)
Line 381  ip_input(struct mbuf *m)
         /*          /*
          * If no IP addresses have been set yet but the interfaces           * If no IP addresses have been set yet but the interfaces
          * are receiving, can't do anything with incoming packets yet.           * are receiving, can't do anything with incoming packets yet.
            * Note: we pre-check without locks held.
          */           */
         if (TAILQ_FIRST(&in_ifaddrhead) == 0)          if (!TAILQ_FIRST(&in_ifaddrhead)) {
                 goto bad;                  goto bad;
           }
         IP_STATINC(IP_STAT_TOTAL);          IP_STATINC(IP_STAT_TOTAL);
   
         /*          /*
          * If the IP header is not aligned, slurp it up into a new           * If the IP header is not aligned, slurp it up into a new
          * mbuf with space for link headers, in the event we forward           * mbuf with space for link headers, in the event we forward
Line 528  ip_input(struct mbuf *m)
Line 518  ip_input(struct mbuf *m)
 #endif  #endif
         {          {
                 struct in_addr odst = ip->ip_dst;                  struct in_addr odst = ip->ip_dst;
                   bool freed;
   
                 if (pfil_run_hooks(inet_pfil_hook, &m, ifp, PFIL_IN) != 0)                  SOFTNET_LOCK();
                         return;                  freed = pfil_run_hooks(inet_pfil_hook, &m, ifp, PFIL_IN) != 0;
                 if (m == NULL)                  SOFTNET_UNLOCK();
                   if (freed || m == NULL) {
                         return;                          return;
                   }
                 ip = mtod(m, struct ip *);                  ip = mtod(m, struct ip *);
                 hlen = ip->ip_hl << 2;                  hlen = ip->ip_hl << 2;
   
                 /*                  /*
                  * XXX The setting of "srcrt" here is to prevent ip_forward()                   * XXX The setting of "srcrt" here is to prevent ip_forward()
                  * from generating ICMP redirects for packets that have                   * from generating ICMP redirects for packets that have
Line 554  ip_input(struct mbuf *m)
Line 548  ip_input(struct mbuf *m)
   
 #ifdef ALTQ  #ifdef ALTQ
         /* XXX Temporary until ALTQ is changed to use a pfil hook */          /* XXX Temporary until ALTQ is changed to use a pfil hook */
         if (altq_input != NULL && (*altq_input)(m, AF_INET) == 0) {          if (altq_input) {
                 /* packet dropped by traffic conditioner */                  SOFTNET_LOCK();
                 return;                  if ((*altq_input)(m, AF_INET) == 0) {
                           /* Packet dropped by traffic conditioner. */
                           SOFTNET_UNLOCK();
                           return;
                   }
                   SOFTNET_UNLOCK();
         }          }
 #endif  #endif
   
Line 648  ip_input(struct mbuf *m)
Line 647  ip_input(struct mbuf *m)
                          * as expected when ip_mforward() is called from                           * as expected when ip_mforward() is called from
                          * ip_output().)                           * ip_output().)
                          */                           */
                           SOFTNET_LOCK();
                         if (ip_mforward(m, ifp) != 0) {                          if (ip_mforward(m, ifp) != 0) {
                                   SOFTNET_UNLOCK();
                                 IP_STATINC(IP_STAT_CANTFORWARD);                                  IP_STATINC(IP_STAT_CANTFORWARD);
                                 m_freem(m);                                  m_freem(m);
                                 return;                                  return;
                         }                          }
                           SOFTNET_UNLOCK();
   
                         /*                          /*
                          * The process-level routing demon needs to receive                           * The process-level routing demon needs to receive
                          * all multicast IGMP packets, whether or not this                           * all multicast IGMP packets, whether or not this
                          * host belongs to their destination groups.                           * host belongs to their destination groups.
                          */                           */
                         if (ip->ip_p == IPPROTO_IGMP)                          if (ip->ip_p == IPPROTO_IGMP) {
                                 goto ours;                                  goto ours;
                           }
                         IP_STATINC(IP_STAT_CANTFORWARD);                          IP_STATINC(IP_STAT_CANTFORWARD);
                 }                  }
 #endif  #endif
Line 699  ip_input(struct mbuf *m)
Line 702  ip_input(struct mbuf *m)
                 }                  }
 #ifdef IPSEC  #ifdef IPSEC
                 /* Perform IPsec, if any. */                  /* Perform IPsec, if any. */
                 if (ipsec_used &&                  if (ipsec_used) {
                     ipsec4_input(m, IP_FORWARDING | (ip_directedbcast ?                          SOFTNET_LOCK();
                     IP_ALLOWBROADCAST : 0)) != 0) {                          if (ipsec4_input(m, IP_FORWARDING |
                         goto bad;                              (ip_directedbcast ? IP_ALLOWBROADCAST : 0)) != 0) {
                                   SOFTNET_UNLOCK();
                                   goto bad;
                           }
                           SOFTNET_UNLOCK();
                 }                  }
 #endif  #endif
                 ip_forward(m, srcrt);                  ip_forward(m, srcrt);
Line 741  ours:
Line 748  ours:
          */           */
         if (ipsec_used &&          if (ipsec_used &&
             (inetsw[ip_protox[ip->ip_p]].pr_flags & PR_LASTHDR) != 0) {              (inetsw[ip_protox[ip->ip_p]].pr_flags & PR_LASTHDR) != 0) {
                   SOFTNET_LOCK();
                 if (ipsec4_input(m, 0) != 0) {                  if (ipsec4_input(m, 0) != 0) {
                           SOFTNET_UNLOCK();
                         goto bad;                          goto bad;
                 }                  }
                   SOFTNET_UNLOCK();
         }          }
 #endif  #endif
   
Line 755  ours:
Line 765  ours:
                 ia->ia_ifa.ifa_data.ifad_inbytes += ntohs(ip->ip_len);                  ia->ia_ifa.ifa_data.ifad_inbytes += ntohs(ip->ip_len);
 #endif  #endif
         IP_STATINC(IP_STAT_DELIVERED);          IP_STATINC(IP_STAT_DELIVERED);
     {  
         int off = hlen, nh = ip->ip_p;  
   
           const int off = hlen, nh = ip->ip_p;
   
           SOFTNET_LOCK();
         (*inetsw[ip_protox[nh]].pr_input)(m, off, nh);          (*inetsw[ip_protox[nh]].pr_input)(m, off, nh);
           SOFTNET_UNLOCK();
         return;          return;
     }  
 bad:  bad:
         m_freem(m);          m_freem(m);
         return;          return;
Line 1045  ip_rtaddr(struct in_addr dst)
Line 1056  ip_rtaddr(struct in_addr dst)
   
         sockaddr_in_init(&u.dst4, &dst, 0);          sockaddr_in_init(&u.dst4, &dst, 0);
   
         if ((rt = rtcache_lookup(&ipforward_rt, &u.dst)) == NULL)          SOFTNET_LOCK();
           rt = rtcache_lookup(&ipforward_rt, &u.dst);
           SOFTNET_UNLOCK();
           if (rt == NULL)
                 return NULL;                  return NULL;
   
         return ifatoia(rt->rt_ifa);          return ifatoia(rt->rt_ifa);
Line 1176  ip_forward(struct mbuf *m, int srcrt)
Line 1190  ip_forward(struct mbuf *m, int srcrt)
                 struct sockaddr_in      dst4;                  struct sockaddr_in      dst4;
         } u;          } u;
   
           KASSERTMSG(cpu_softintr_p(), "ip_forward: not in the software "
               "interrupt handler; synchronization assumptions violated");
   
         /*          /*
          * We are now in the output path.           * We are now in the output path.
          */           */
Line 1192  ip_forward(struct mbuf *m, int srcrt)
Line 1209  ip_forward(struct mbuf *m, int srcrt)
                 m_freem(m);                  m_freem(m);
                 return;                  return;
         }          }
   
           SOFTNET_LOCK();
   
         if (ip->ip_ttl <= IPTTLDEC) {          if (ip->ip_ttl <= IPTTLDEC) {
                 icmp_error(m, ICMP_TIMXCEED, ICMP_TIMXCEED_INTRANS, dest, 0);                  icmp_error(m, ICMP_TIMXCEED, ICMP_TIMXCEED_INTRANS, dest, 0);
                   SOFTNET_UNLOCK();
                 return;                  return;
         }          }
   
         sockaddr_in_init(&u.dst4, &ip->ip_dst, 0);          sockaddr_in_init(&u.dst4, &ip->ip_dst, 0);
   
         if ((rt = rtcache_lookup(&ipforward_rt, &u.dst)) == NULL) {          if ((rt = rtcache_lookup(&ipforward_rt, &u.dst)) == NULL) {
                 icmp_error(m, ICMP_UNREACH, ICMP_UNREACH_NET, dest, 0);                  icmp_error(m, ICMP_UNREACH, ICMP_UNREACH_NET, dest, 0);
                   SOFTNET_UNLOCK();
                 return;                  return;
         }          }
   
Line 1263  ip_forward(struct mbuf *m, int srcrt)
Line 1286  ip_forward(struct mbuf *m, int srcrt)
 #endif  #endif
                                 m_freem(mcopy);                                  m_freem(mcopy);
                         }                          }
                           SOFTNET_UNLOCK();
                         return;                          return;
                 }                  }
         }          }
         if (mcopy == NULL)          if (mcopy == NULL) {
                   SOFTNET_UNLOCK();
                 return;                  return;
           }
   
         switch (error) {          switch (error) {
   
Line 1306  ip_forward(struct mbuf *m, int srcrt)
Line 1332  ip_forward(struct mbuf *m, int srcrt)
                  */                   */
                 if (mcopy)                  if (mcopy)
                         m_freem(mcopy);                          m_freem(mcopy);
                   SOFTNET_UNLOCK();
                 return;                  return;
         }          }
         icmp_error(mcopy, type, code, dest, destmtu);          icmp_error(mcopy, type, code, dest, destmtu);
           SOFTNET_UNLOCK();
 }  }
   
 void  void

Legend:
Removed from v.1.317  
changed lines
  Added in v.1.318

CVSweb <webmaster@jp.NetBSD.org>