日期:2014-05-16  浏览次数:21074 次

[百度分享]以太网卡TSO技术浅析(二)
网卡驱动层对TSO的支持 
  如果skb_shinfo(skb)->tso_size不为0,则表明网卡需要对这样的skb作特殊的处理(而只有当网卡驱动初始化时声明自己支持TSO,才可能出现这样的skb),以e1000网卡驱动为例: 
函数e1000_tso,在文件drivers/net/e1000/e1000_main.c,被e1000_xmit_frame (即hard_start_xmit服务函数)调用
if(skb_shinfo(skb)->tso_size) {

  // 计算头部偏移
  ipcss = skb->nh.raw - skb->data;
  ipcso = (void *)&(skb->nh.iph->check) - (void *)skb->data;
  tucss = skb->h.raw - skb->data;
  tucso = (void *)&(skb->h.th->check) - (void *)skb->data;
  tucse = 0;
……
  //把头部偏移放入context,最终写入寄存器
  context_desc = E1000_CONTEXT_DESC(adapter->tx_ring, i);
  context_desc->lower_setup.ip_fields.ipcss = ipcss;
  context_desc->lower_setup.ip_fields.ipcso = ipcso;
  context_desc->lower_setup.ip_fields.ipcse = cpu_to_le16(ipcse);
  context_desc->upper_setup.tcp_fields.tucss = tucss;
  context_desc->upper_setup.tcp_fields.tucso = tucso;
  context_desc->upper_setup.tcp_fields.tucse = cpu_to_le16(tucse);
  context_desc->tcp_seg_setup.fields.mss = cpu_to_le16(mss);
  context_desc->tcp_seg_setup.fields.hdr_len = hdr_len;
  context_desc->cmd_and_length = cpu_to_le32(cmd_length);
……
}
……
  //设置TSO标志
  if (likely(tso))
  tx_flags |= E1000_TX_FLAGS_TSO;
……
  //发送“大”的skb数据
e1000_tx_queue(adapter,
  e1000_tx_map(adapter, skb, first, max_per_txd, nr_frags, mss),
  tx_flags);
即驱动需要告诉网卡硬件(设置E1000_TX_FLAGS_TSO标志),让网卡对这个skb重新分块,对每一个分块计算TCP头和IP头校验和,为此需要告诉网卡对应字段的偏移。 




  TSO对基于RAW_SOCKET的抓包工具的影响
当发送数据包时,skb经过如下路径发向网卡驱动 
net_tx_action->dev_queue_xmit()->驱动的hard_start_xmit服务函数

在函数dev_queue_xmit()中,如果有抓包工具开启了RAW_SOCKET,则该函数会在调用hard_start_xmit之前调用 dev_queue_xmit_nit clone一份skb交给抓包工具。如果skb是一个TSO-enable的特殊skb,抓包工具将会看到这个长度大于MTU的“特殊”skb。 而且,由于TCP、IP的校验和与长度字段将由网卡重新计算,一些版本的内核有可能为了优化而不去计算填写这些数值,所以除了会出现大数据包、校验和与长 度错误的现象。 

例如:使用tcpdump在支持TSO的网卡抓取外出数据包可能会出现如下3种错误,其中第一种一般出现在使用e1000网卡驱动的2.6.9内核上,第2种出现在使用bnx2网卡驱动的2.6.9内核上,第3种出现在2.6.23+版本后的内核上: 
? ip bad len = 0 
000001 IP 192.168.13.1.61941 > 192.168.13.223.32879: . ack 4345 win 32768 <nop,nop,timestamp 945581949 19361257>
000145 IP bad-len 0
000229 IP 192.168.13.1.61941 > 192.168.13.223.32879: . ack 8689 win 32768 <nop,nop,timestamp 945581949 19361257>
000011 IP bad-len 0
? bad csum 
16:29:32.561407 IP (tos 0x60, ttl 48, id 14116, offset 0, flags [DF], length: 
80) 69.42.67.34.2612 > 81.13.94.6.1234: . [bad cksum 0 (->2610)!] ack 93407 
win 9821
 <nop,nop,timestamp 1046528205 5497679,nop,nop,sack sack 3 
{122367:127103}{128551:129572}{122367:127103} >
? “包合并” 
在MTU=1500的网卡上抓包,出现了比1500还大的IP包 
21:58:36.691026 IP (tos 0x0, ttl 64, id 38181, offset 0, flags [DF], proto 6, length: 52) 10.13.100.34.45043 > 10.1
3.100.102.34476: . [tcp sum ok] 1:1(0) ack 482281 win 16664 <nop,nop,timestamp 2304130362 99107965>
21:58:36.691029 IP (tos 0x0, ttl 64, id 10688, offset 0, flags [DF], proto 6, length: 23220) 10.13.100.102.34476 > 
10.13.100.34.45043: . 525769:548937(23168) ack 1 win 1448 <nop,nop,timestamp 99107965 2304130362>
21:58:36.691031 IP (tos 0x0, ttl 64, id 38183, offset 0, flags [DF], proto 6, length: 52) 10.13.100.34.45043 > 10.1
3.100.102.34476: . [tcp sum ok] 1:1(0) ack 485177 win 16664 <nop,nop,timestamp 2304130362 99107965>
21:58:36.691033 IP (tos 0x0, ttl 64, id 38185, offset 0, flag