Identificación y seguimiento de ASIC CRC de la escala de nube Nexus 9000
Introducción
Este documento describe los pasos utilizados para rastrear el origen de los errores CRC observados en los módulos ASIC de la escala de nube Cisco Nexus 9000.
Prerequisites
Requirements
Cisco recomienda que comprenda los aspectos básicos de la conmutación con conexión directa y con almacenamiento y retransmisión. Cisco también recomienda que comprenda los aspectos básicos del campo Secuencia de comprobación de tramas Ethernet (FCS) y del algoritmo de comprobación de redundancia cíclica (CRC) que utiliza el campo FCS. Para obtener más información, consulte este documento:
Componentes Utilizados
La información de este documento se basa en los switches Nexus de Cisco serie 9000 con ASIC de ampliación a la nube que ejecuta la versión 7.0(3)I7(8) del software NX-OS.
La información que contiene este documento se creó a partir de los dispositivos en un ambiente de laboratorio específico. Todos los dispositivos que se utilizan en este documento se pusieron en funcionamiento con una configuración verificada (predeterminada). Si tiene una red en vivo, asegúrese de entender el posible impacto de cualquier comando.
Antecedentes
Este documento también describe el procedimiento utilizado para diferenciar los errores CRC estrujados y no estrujados observados en las interfaces físicas y los links de fabric internos de los switches modulares Nexus.
Los switches Nexus de Cisco serie 9000 utilizan switching por conexión directa de forma predeterminada. La conmutación con conexión directa es cuando un switch toma una decisión de reenvío en una trama y comienza a reenviar la trama fuera de una interfaz de salida tan pronto como el switch ha procesado suficiente encabezado de la trama para tomar una decisión de reenvío válida. Esto difiere de la conmutación con almacenamiento y reenvío, donde un switch almacena en búfer toda la trama antes de reenviar la trama fuera de una interfaz de salida.
El campo FCS de una trama Ethernet valida la integridad de la trama y garantiza que la trama no se dañó durante el tránsito. El campo FCS de una trama Ethernet se encuentra en el extremo de la trama Ethernet detrás de la carga útil de la trama. Un switch que opera en un modo de conmutación con almacenamiento y reenvío puede verificar la integridad de una trama Ethernet con el campo FCS antes de reenviar la trama fuera de una interfaz de egreso (o descartar la trama si el campo FCS tiene contenido no válido). Sin embargo, un switch que funciona en un modo de switching de conexión directa no puede verificar la integridad de una trama Ethernet con el campo FCS antes de reenviar la trama fuera de una interfaz de egreso; en otras palabras, cuando un switch de conexión directa puede verificar la integridad de una trama Ethernet, la mayoría de la trama Ethernet ya ha sido reenviada fuera de una interfaz de egreso.
Si un switch que opera en un modo de conmutación por conexión directa recibe una trama Ethernet con un campo FCS no válido, el switch puede realizar estas acciones:
- Calcule el valor CRC de la trama dañada entrante y, a continuación, vuelva a escribir el campo FCS de la trama Ethernet con el bit a bit inverso del valor CRC calculado. Si la trama necesita ser ruteada, el valor CRC de la trama dañada se calcularía e invertiría el bit a bit después de que se reescriba el encabezado Ethernet de la trama. Esta acción se conoce como "pisotear" el CRC.
- Reenvíe el resto de la trama Ethernet (junto con el CRC pisado) fuera de la interfaz de salida según la decisión de reenvío tomada en la trama.
- Incremente el contador de errores de entrada y/o el contador de errores CRC en la interfaz de ingreso.
Este documento describe los pasos para verificar si los contadores CRC asociados con una interfaz de ingreso son CRC normales (que normalmente indican problemas de capa física en el link conectado a la interfaz de ingreso) o CRC pisoteados (que indican que el dispositivo conectado a la interfaz de ingreso también funciona en un modo de conmutación por conexión directa y recibió una trama Ethernet mal formada).
Hardware aplicable
El procedimiento que se describe en este documento sólo se aplica a este hardware:
Switches fijos Nexus 9200/9300
- N9K-C92160YC-X
- N9K-C92300YC
- N9K-C92304QC
- N9K-C92348GC-X
- N9K-C923C
- N9K-C9272Q
- N9K-C9332C
- N9K-C936C
- N9K-C93108TC-EX
- N9K-C93108TC-EX-24
- N9K-C93180LC-EX
- N9K-C93180YC-EX
- N9K-C93180YC-EX-24
- N9K-C93108TC-FX
- N9K-C93108TC-FX-24
- N9K-C93180YC-FX
- N9K-C93180YC-FX-24
- N9K-C9348GC-FXP
- N9K-C93240YC-FX2
- N9K-C93216TC-FX2
- N9K-C9336C-FX2
- N9K-C9336C-FX2-E
- N9K-C93360YC-FX2
- N9K-C93180YC-FX3
- N9K-C93108TC-FX3P
- N9K-C93180YC-FX3S
- N9K-C9316D-GX
- N9K-C93600CD-GX
- N9K-C9364C-GX
- N9K-C9364D-GX2A
- N9K-C9332D-GX2B
Tarjetas de línea de switch modular Nexus 9500
- N9K-X97160YC-EX
- N9K-X9732C-EX
- N9K-X9736C-EX
- N9K-X97284YC-FX
- N9K-X9732C-FX
- N9K-X9788TC-FX
- N9K-X9716D-GX
Procedimiento de identificación y seguimiento de CRC en la escala de la nube Cisco Nexus 9200 y 9300
Esta sección del documento describe instrucciones paso a paso para identificar el origen de los errores CRC observados en una interfaz física específica Ethernet1/1 en los switches Nexus de Cisco serie 9200 y 9300.
Versión 10.2(1) y posteriores del software NX-OS
A partir de la versión 10.2(1) del software NX-OS, los switches Nexus equipados con ASIC a escala de nube cuentan con un nuevo contador de interfaz para paquetes con una CRC pisada en el campo FCS de las tramas Ethernet que atraviesan el switch. Puede utilizar el comando show interface para identificar las interfaces físicas con CRC que aumenta y los contadores CRC pisoteados. Aquí se muestra un ejemplo de esto, donde la interfaz física Ethernet1/1 tiene un contador CRC cero y un contador CRC con estampado distinto de cero, lo que indica que se recibieron tramas con un CRC no válido y estampado en esta interfaz.
switch# show interface
<snip>
Ethernet1/1 is up
admin state is up, Dedicated Interface
Hardware: 100/1000/10000/25000 Ethernet, address: 00d7.8f86.2bbe (bia 00d7.8f86.2bbe)
MTU 1500 bytes, BW 10000000 Kbit, DLY 10 usec
reliability 255/255, txload 1/255, rxload 1/255
Encapsulation ARPA, medium is broadcast
Port mode is trunk
full-duplex, 10 Gb/s, media type is 10G
Beacon is turned off
Auto-Negotiation is turned on FEC mode is Auto
Input flow-control is off, output flow-control is off
Auto-mdix is turned off
Rate mode is dedicated
Switchport monitor is off
EtherType is 0x8100
EEE (efficient-ethernet) : n/a
admin fec state is auto, oper fec state is off
Last link flapped 04:09:21
Last clearing of "show interface" counters 00:50:37
0 interface resets
RX
8 unicast packets 253 multicast packets 2 broadcast packets
1832838280 input packets 2199405650587 bytes
0 jumbo packets 0 storm suppression bytes
0 runts 0 giants 1832838019 CRC 0 no buffer
1832838019 input error 0 short frame 0 overrun 0 underrun 0 ignored
0 watchdog 0 bad etype drop 0 bad proto drop 0 if down drop
0 input with dribble 0 input discard
0 Rx pause
1832838019 Stomped CRC
TX
908 unicast packets 323 multicast packets 3 broadcast packets
1234 output packets 113342 bytes
0 jumbo packets
0 output error 0 collision 0 deferred 0 late collision
0 lost carrier 0 no carrier 0 babble 0 output discard
0 Tx pause
Nota: Un contador CRC en aumento indica que se recibió una trama con CRC pisoteado o con un CRC no válido pero sin pisotear. Un incremento en el contador CRC pisoteado indica que se recibió una trama con un CRC pisoteado.
Alternativamente, el comando show interface counters errors non-zero se puede utilizar para ver los contadores de errores de interfaz. A continuación, se muestra un ejemplo.
switch# show interface counters errors non-zero
--------------------------------------------------------------------------------
Port Align-Err FCS-Err Xmit-Err Rcv-Err UnderSize OutDiscards
--------------------------------------------------------------------------------
Eth1/1 1790348828 1790348828 0 1790348828 0 0
--------------------------------------------------------------------------------
Port Single-Col Multi-Col Late-Col Exces-Col Carri-Sen Runts
--------------------------------------------------------------------------------
--------------------------------------------------------------------------------
Port Giants SQETest-Err Deferred-Tx IntMacTx-Er IntMacRx-Er Symbol-Err
--------------------------------------------------------------------------------
--------------------------------------------------------------------------------
Port InDiscards
--------------------------------------------------------------------------------
--------------------------------------------------------------------------------
Port Stomped-CRC
--------------------------------------------------------------------------------
Eth1/1 1790348828
Puede canalizar el comando show interface a los comandos json o json-pretty para obtener estadísticas de contador CRC y CRC pisoteado en un formato estructurado. A continuación, se muestra un ejemplo.
switch# show interface Ethernet1/1 | json-pretty | include ignore-case crc
"eth_crc": "828640831",
"eth_stomped_crc": "828640831",
La API REST de NX-API se puede utilizar para recuperar estas mismas estadísticas mediante el modelo de objetos sys/intf/phys-[intf-id]/dbgEtherStats.json. A continuación, se muestra un ejemplo.
/api/node/mo/sys/intf/phys-[eth1/1]/dbgEtherStats.json
{
"totalCount": "1",
"imdata": [
{
"rmonEtherStats": {
"attributes": {
"cRCAlignErrors": "26874272810",
"dn": "sys/intf/phys-[eth1/1]/dbgEtherStats",
"dropEvents": "0",
"rXNoErrors": "26874276337",
"stompedCRCAlignErrors": "26874272810",
...
}
}
}
]
}
Versión 10.1(2) y anteriores del software NX-OS
Para las versiones del software NX-OS anteriores a la 10.2(1), el contador CRC comprimido no está disponible en las interfaces. Se necesitan varios pasos para determinar la interfaz de ingreso donde se observan los CRC inválidos y validar si los CRC son inválidos o pisoteados.
Paso 1. Identificar contadores CRC en aumento en interfaces físicas
Utilice el comando show interface para identificar las interfaces físicas con contadores CRC que no son cero en aumento. Aquí se muestra un ejemplo de esto, donde la interfaz física Ethernet1/1 tiene un contador CRC distinto de cero.
switch# show interface
<snip> Ethernet1/1 is up admin state is up, Dedicated Interface Hardware: 100/1000/10000/25000 Ethernet, address: 00d7.8f86.2bbe (bia 00d7.8f86.2bbe) MTU 1500 bytes, BW 10000000 Kbit, DLY 10 usec reliability 255/255, txload 1/255, rxload 1/255 Encapsulation ARPA, medium is broadcast Port mode is trunk full-duplex, 10 Gb/s, media type is 10G Beacon is turned off Auto-Negotiation is turned on FEC mode is Auto Input flow-control is off, output flow-control is off Auto-mdix is turned off Rate mode is dedicated Switchport monitor is off EtherType is 0x8100 EEE (efficient-ethernet) : n/a admin fec state is auto, oper fec state is off Last link flapped 04:09:21 Last clearing of "show interface" counters 00:50:37 0 interface resets RX 3 unicast packets 3087 multicast packets 0 broadcast packets 3097 input packets 244636 bytes 7 jumbo packets 0 storm suppression bytes 0 runts 7 giants 7 CRC 0 no buffer 7 input error 0 short frame 0 overrun 0 underrun 0 ignored 0 watchdog 0 bad etype drop 0 bad proto drop 0 if down drop 0 input with dribble 0 input discard 0 Rx pause
Alternativamente, puede utilizar el comando show interface counters errors non-zero para mostrar todas las interfaces con contadores de error distintos de cero (que incluye contadores CRC distintos de cero). Un ejemplo de esto se muestra aquí, donde la interfaz física Ethernet1/1 tiene un contador CRC distinto de cero mostrado por la columna FCS-Err.
switch# show interface counters errors non-zero <snip> -------------------------------------------------------------------------------- Port Align-Err FCS-Err Xmit-Err Rcv-Err UnderSize OutDiscards -------------------------------------------------------------------------------- Eth1/1 7 7 0 7 0 0
Paso 2. Asigne la interfaz física al subpuerto ASIC, MAC Block y Mac Block
Utilice el comando show interface hardware-mappings para identificar tres características clave:
- Unidad: el identificador del ASIC de la escala de la nube al que se conecta la interfaz física. Utiliza un sistema de numeración basado en cero (por ejemplo, el primer ASIC es 0, el segundo ASIC es 1, etc.)
- MacId: el identificador del bloque MAC al que se conecta la interfaz física. Utiliza un sistema de numeración basado en cero (por ejemplo, el primer bloque MAC es 0, el segundo es 1, etc.)
- MacSP: Identificador del subpuerto de bloque MAC al que se conecta la interfaz física. Cada bloque MAC tiene cuatro subpuertos asociados, que utilizan un sistema de numeración basado en cero e incrementan en un valor de 2. Por lo tanto, el primer subpuerto tiene un índice de 0, el segundo subpuerto tiene un índice de 2, el tercer subpuerto tiene un índice de 4 y el cuarto subpuerto tiene un índice de 6.
Esto se demuestra en el ejemplo aquí, donde la interfaz física Ethernet1/1 está asociada con el ASIC 0 de la escala de la nube, el bloque 4 de MAC y el subpuerto 0 del bloque de MAC.
switch# show interface hardware-mappings
<snip>
-------------------------------------------------------------------------------------------------------
Name Ifindex Smod Unit HPort FPort NPort VPort Slice SPort SrcId MacId MacSP VIF Block BlkSrcID
-------------------------------------------------------------------------------------------------------
Eth1/1 1a000000 1 0 16 255 0 -1 0 16 32 4 0 1 0 32
Eth1/2 1a000200 1 0 17 255 4 -1 0 17 34 4 2 5 0 34
Eth1/3 1a000400 1 0 18 255 8 -1 0 18 36 4 4 9 0 36
Eth1/4 1a000600 1 0 19 255 12 -1 0 19 38 4 6 13 0 38
Eth1/5 1a000800 1 0 12 255 16 -1 0 12 24 3 0 17 0 24
Paso 3. Verifique los registros ASIC de Cloud Scale para los contadores relacionados con CRC
Utilice el comando slot {x} show hardware internal tah counters asic {y} para ver los contadores de registro para el ASIC de la escala de la nube. Este comando contiene dos variables:
- {x} - Reemplace este valor por el número de ranura de tarjeta de línea. En el caso de los switches de la parte superior del rack, este valor es siempre 1. Para los switches modulares de fin de fila, el número de ranura de la tarjeta de línea es el primer número del nombre de la interfaz física. Por ejemplo, la interfaz física Ethernet1/1 tendría un número de ranura de tarjeta de línea 1, mientras que la interfaz física Ethernet4/24 tendría un número de ranura de tarjeta de línea 4.
- {y}: reemplace este valor por el identificador ASIC de la escala de la nube identificado en el paso 2. Por ejemplo, si la columna Unidad para la interfaz física Ethernet1/1 tuviera un valor de 0, el valor de esta variable sería 0. Si la columna Unidad para la interfaz física Ethernet4/24 tuviera un valor de 3, el valor de esta variable sería 3.
Este resultado puede mostrar una tabla. Cada fila de la tabla es un registro ASIC diferente. Cada columna de la tabla se corresponde con una interfaz física en el switch. El nombre utilizado para cada columna no es el nombre de la interfaz física, sino una combinación del bloque MAC y el subpuerto del bloque MAC. El formato utilizado para el encabezado de columna es el siguiente:
M{A},{B}-{InterfaceSpeed}
Hay tres variables en este formato, que son:
- {A} - Reemplace este valor por el número de bloque MAC.
- {B} - Reemplace este valor con el número de subpuerto del bloque MAC.
- {InterfaceSpeed}: este valor puede corresponderse con la velocidad física de la interfaz (por ejemplo, 10G, 25G, 40Gx4, etc.)
Esto se demuestra en el ejemplo siguiente. Recuerde que la interfaz física Ethernet1/1 está asociada con el número de ranura de tarjeta de línea 1 y el ASIC de escala de nube 0, lo que significa que el comando que debe ejecutar es slot 1 show hardware internal tah counters asic 0. El bloque MAC asociado con la interfaz física Ethernet1/1 es 4, el subpuerto del bloque MAC asociado con la interfaz física Ethernet1/1 es 0 y la interfaz física Ethernet1/1 es una interfaz 10G. Por lo tanto, el encabezado de columna que buscamos es M4,0-10G.
switch# slot 1 show hardware internal tah counters asic 0 <snip> *************** PER MAC/CH SRAM COUNTERS **************** REG_NAME M4,0-10G M4,2-10G M4,4-10G M4,6-10G M5,0-40Gx4 M6,0-40Gx4 M7,0-40Gx4 M8,0-10G ---------------------------------------------------------------------------------------------------------------------------- 02-RX Frm with FCS Err .... .... .... .... .... .... .... .... 16-RX Frm CRC Err(Stomp) c .... .... .... .... .... .... ....
La salida de este comando contiene varias docenas de contadores de registro. Hay dos contadores de registro clave relacionados con la diferenciación de errores CRC naturales de CRC pisoteados:
- 02-RX Form with FCS Err - Indica que se recibió una trama con un CRC inválido, pero sin pisotear.
- 16-RX Frm CRC Err(Stomp) - Indica que se recibió una trama con un CRC pisoteado.
El valor de estos contadores es en hexadecimal. El comando dec NX-OS puede convertir un valor hexadecimal en un valor decimal, como se muestra aquí.
N9K-C93180YC-EX-2# dec 0xc
12
Los valores combinados de ambos contadores de registro es equivalente al número de CRC observados en la interfaz física a través de la salida de show interface o show interface counters errors distinto de cero.
Cisco Nexus 9500 Cloud Scale: identificación de CRC y procedimiento de seguimiento en switches modulares
Esta sección del documento describe instrucciones paso a paso para identificar el origen de los errores CRC observados en una interfaz física específica Ethernet1/1 en los switches Nexus de Cisco serie 9500.
Cada tarjeta de línea de un switch Nexus serie 9500 se conecta mediante un enlace interno (iEth) a los módulos de fabric. Cada ASIC de cada tarjeta de línea tiene conectividad de malla completa a todos los módulos de fabric. En el ejemplo siguiente se muestra una tarjeta de línea con cuatro ASIC de Sugarbowl con enlaces internos que se conectan a cuatro módulos de fabric en un switch Nexus 9500 modular.
Cuando el tráfico recibido por un ASIC necesita salir de otro ASIC o tarjeta de línea, ese tráfico debe enviarse al fabric a través de un módulo de fabric. El ASIC de ingreso selecciona uno de los links iEth a los módulos de fabric basándose en un hash de los encabezados del paquete y el número de links iEth disponibles para el ASIC.
Paso 1. Asigne enlaces internos entre tarjetas de línea y módulos de fabric.
Utilice el comando show system internal fabric connectivity module {x} (donde {x} es la tarjeta de línea o el número de ranura del módulo de fabric) para mostrar los enlaces internos entre la tarjeta de línea especificada y todos los módulos de fabric. Este resultado muestra una tabla en la que cada fila muestra una asignación uno a uno entre los enlaces internos de la tarjeta de línea (en la columna LC-iEthLink) a los enlaces internos de cada módulo de fabric (en la columna FM-iEthLink). Aquí se muestra un ejemplo de esto, tomado de un switch Nexus 9508 con 8 tarjetas de línea y 4 módulos de fabric insertados. El resultado aquí muestra que cada instancia ASIC de la tarjeta de línea insertada en la ranura 8 del switch está conectada a cada uno de los 4 módulos de fabric instalados (insertados en las ranuras 22, 23, 24 y 26) a través de 2 enlaces internos.
Nexus9500# show system internal fabric connectivity module 8
Internal Link-info Linecard slot:8
------------------------------------------------------------------------
LC-Slot LC-Unit LC-iEthLink MUX FM-Slot FM-Unit FM-iEthLink
------------------------------------------------------------------------
8 0 iEth01 - 22 0 iEth18
8 0 iEth02 - 22 1 iEth50
8 0 iEth03 - 23 0 iEth18
8 0 iEth04 - 23 1 iEth50
8 0 iEth05 - 24 0 iEth18
8 0 iEth06 - 24 1 iEth50
8 0 iEth07 - 26 0 iEth18
8 0 iEth08 - 26 1 iEth50
8 1 iEth09 - 22 0 iEth03
8 1 iEth10 - 22 1 iEth35
8 1 iEth11 - 23 0 iEth03
8 1 iEth12 - 23 1 iEth35
8 1 iEth13 - 24 0 iEth03
8 1 iEth14 - 24 1 iEth35
8 1 iEth15 - 26 0 iEth03
8 1 iEth16 - 26 1 iEth35
8 2 iEth17 - 22 0 iEth32
8 2 iEth18 - 22 1 iEth53
8 2 iEth19 - 23 0 iEth32
8 2 iEth20 - 23 1 iEth53
8 2 iEth21 - 24 0 iEth32
8 2 iEth22 - 24 1 iEth53
8 2 iEth23 - 26 0 iEth32
8 2 iEth24 - 26 1 iEth53
8 3 iEth25 - 22 0 iEth31
8 3 iEth26 - 22 1 iEth54
8 3 iEth27 - 23 0 iEth31
8 3 iEth28 - 23 1 iEth54
8 3 iEth29 - 24 0 iEth31
8 3 iEth30 - 24 1 iEth54
8 3 iEth31 - 26 0 iEth31
8 3 iEth32 - 26 1 iEth54
Del mismo modo, la asignación de enlaces iEth se puede comprobar desde la perspectiva de un módulo de fabric. Aquí se muestra un ejemplo, donde se muestran los enlaces internos entre el módulo de fabric insertado en la ranura 22 y cada una de las 8 tarjetas de línea instaladas en el chasis Nexus 9508.
Nexus9500# show system internal fabric connectivity module 22
Internal Link-info Fabriccard slot:22
------------------------------------------------------------------------
FM-Slot FM-Unit FM-iEthLink LC-Slot LC-Unit LC-EthLink MUX
------------------------------------------------------------------------
22 0 iEth09 1 0 iEth01 -
22 0 iEth06 1 1 iEth11 -
22 0 iEth25 1 2 iEth21 -
22 0 iEth26 1 3 iEth31 -
22 0 iEth10 2 0 iEth01 -
22 0 iEth05 2 1 iEth11 -
22 0 iEth23 2 2 iEth21 -
22 0 iEth24 2 3 iEth31 -
22 0 iEth12 3 0 iEth01 -
22 0 iEth11 3 1 iEth11 -
22 0 iEth21 3 2 iEth21 -
22 0 iEth22 3 3 iEth31 -
22 0 iEth14 4 0 iEth01 -
22 0 iEth13 4 1 iEth11 -
22 0 iEth07 4 2 iEth21 -
22 0 iEth08 4 3 iEth31 -
22 0 iEth16 5 0 iEth01 -
22 0 iEth15 5 1 iEth11 -
22 0 iEth01 5 2 iEth21 -
22 0 iEth04 5 3 iEth31 -
22 0 iEth20 6 0 iEth01 -
22 0 iEth17 6 1 iEth11 -
22 0 iEth28 6 2 iEth21 -
22 0 iEth27 6 3 iEth31 -
22 0 iEth19 7 0 iEth01 -
22 0 iEth02 7 1 iEth09 -
22 0 iEth30 7 2 iEth17 -
22 0 iEth29 7 3 iEth25 -
22 0 iEth18 8 0 iEth01 -
22 0 iEth03 8 1 iEth09 -
22 0 iEth32 8 2 iEth17 -
22 0 iEth31 8 3 iEth25 -
22 1 iEth41 1 0 iEth02 -
22 1 iEth38 1 1 iEth12 -
22 1 iEth59 1 2 iEth22 -
22 1 iEth60 1 3 iEth32 -
22 1 iEth42 2 0 iEth02 -
22 1 iEth37 2 1 iEth12 -
22 1 iEth62 2 2 iEth22 -
22 1 iEth61 2 3 iEth32 -
22 1 iEth44 3 0 iEth02 -
22 1 iEth43 3 1 iEth12 -
22 1 iEth64 3 2 iEth22 -
22 1 iEth63 3 3 iEth32 -
22 1 iEth46 4 0 iEth02 -
22 1 iEth45 4 1 iEth12 -
22 1 iEth39 4 2 iEth22 -
22 1 iEth40 4 3 iEth32 -
22 1 iEth48 5 0 iEth02 -
22 1 iEth47 5 1 iEth12 -
22 1 iEth36 5 2 iEth22 -
22 1 iEth33 5 3 iEth32 -
22 1 iEth52 6 0 iEth02 -
22 1 iEth49 6 1 iEth12 -
22 1 iEth57 6 2 iEth22 -
22 1 iEth58 6 3 iEth32 -
22 1 iEth34 7 0 iEth02 -
22 1 iEth51 7 1 iEth10 -
22 1 iEth55 7 2 iEth18 -
22 1 iEth56 7 3 iEth26 -
22 1 iEth50 8 0 iEth02 -
22 1 iEth35 8 1 iEth10 -
22 1 iEth53 8 2 iEth18 -
22 1 iEth54 8 3 iEth26 -
Utilice el comando show system internal fabric link-state module {x} para verificar si el puerto interno está activo o no (en las columnas ST) y cuáles son el segmento ASIC y el identificador MAC correspondientes de un link interno determinado (en la columna MAC). A continuación, se muestra un ejemplo.
Nexus9500# show system internal fabric link-state module 8
cli : mod = 8
module number = 8
========================================================================================================================
Module number = 8
========================================================================================================================
[LC] [ INST:SLI:MAC:GLSRC] [IETH] [ST] <========> [FM] [ INST:SLI:MAC:GLSRC] [IETH] [ST]
========================================================================================================================
[ 8] [ 0 : 0 : 7 : 0x38] [iEth01] [UP] <========> [22] [ 0 : 3 : 21 : 0x18] [iEth18] [UP]
[ 8] [ 0 : 1 : 9 : 0x0] [iEth02] [UP] <========> [22] [ 1 : 3 : 21 : 0x18] [iEth50] [UP]
[ 8] [ 0 : 0 : 6 : 0x30] [iEth03] [UP] <========> [23] [ 0 : 3 : 21 : 0x18] [iEth18] [UP]
[ 8] [ 0 : 1 : 16 : 0x38] [iEth04] [UP] <========> [23] [ 1 : 3 : 21 : 0x18] [iEth50] [UP]
[ 8] [ 0 : 0 : 8 : 0x40] [iEth05] [UP] <========> [24] [ 0 : 3 : 21 : 0x18] [iEth18] [UP]
[ 8] [ 0 : 1 : 15 : 0x30] [iEth06] [UP] <========> [24] [ 1 : 3 : 21 : 0x18] [iEth50] [UP]
[ 8] [ 0 : 0 : 5 : 0x28] [iEth07] [UP] <========> [26] [ 0 : 3 : 21 : 0x18] [iEth18] [UP]
[ 8] [ 0 : 1 : 17 : 0x40] [iEth08] [UP] <========> [26] [ 1 : 3 : 21 : 0x18] [iEth50] [UP]
[ 8] [ 1 : 0 : 7 : 0x38] [iEth09] [UP] <========> [22] [ 0 : 0 : 4 : 0x20] [iEth03] [UP]
[ 8] [ 1 : 1 : 9 : 0x0] [iEth10] [UP] <========> [22] [ 1 : 0 : 4 : 0x20] [iEth35] [UP]
[ 8] [ 1 : 0 : 6 : 0x30] [iEth11] [UP] <========> [23] [ 0 : 0 : 4 : 0x20] [iEth03] [UP]
[ 8] [ 1 : 1 : 16 : 0x38] [iEth12] [UP] <========> [23] [ 1 : 0 : 4 : 0x20] [iEth35] [UP]
[ 8] [ 1 : 0 : 8 : 0x40] [iEth13] [UP] <========> [24] [ 0 : 0 : 4 : 0x20] [iEth03] [UP]
[ 8] [ 1 : 1 : 15 : 0x30] [iEth14] [UP] <========> [24] [ 1 : 0 : 4 : 0x20] [iEth35] [UP]
[ 8] [ 1 : 0 : 5 : 0x28] [iEth15] [UP] <========> [26] [ 0 : 0 : 4 : 0x20] [iEth03] [UP]
[ 8] [ 1 : 1 : 17 : 0x40] [iEth16] [UP] <========> [26] [ 1 : 0 : 4 : 0x20] [iEth35] [UP]
[ 8] [ 2 : 0 : 7 : 0x38] [iEth17] [UP] <========> [22] [ 0 : 5 : 35 : 0x28] [iEth32] [UP]
[ 8] [ 2 : 1 : 9 : 0x0] [iEth18] [UP] <========> [22] [ 1 : 4 : 24 : 0x0] [iEth53] [UP]
[ 8] [ 2 : 0 : 6 : 0x30] [iEth19] [UP] <========> [23] [ 0 : 5 : 35 : 0x28] [iEth32] [UP]
[ 8] [ 2 : 1 : 16 : 0x38] [iEth20] [UP] <========> [23] [ 1 : 4 : 24 : 0x0] [iEth53] [UP]
[ 8] [ 2 : 0 : 8 : 0x40] [iEth21] [UP] <========> [24] [ 0 : 5 : 35 : 0x28] [iEth32] [UP]
[ 8] [ 2 : 1 : 15 : 0x30] [iEth22] [UP] <========> [24] [ 1 : 4 : 24 : 0x0] [iEth53] [UP]
[ 8] [ 2 : 0 : 5 : 0x28] [iEth23] [UP] <========> [26] [ 0 : 5 : 35 : 0x28] [iEth32] [UP]
[ 8] [ 2 : 1 : 17 : 0x40] [iEth24] [UP] <========> [26] [ 1 : 4 : 24 : 0x0] [iEth53] [UP]
[ 8] [ 3 : 0 : 7 : 0x38] [iEth25] [UP] <========> [22] [ 0 : 5 : 34 : 0x20] [iEth31] [UP]
[ 8] [ 3 : 1 : 9 : 0x0] [iEth26] [UP] <========> [22] [ 1 : 4 : 25 : 0x8] [iEth54] [UP]
[ 8] [ 3 : 0 : 6 : 0x30] [iEth27] [UP] <========> [23] [ 0 : 5 : 34 : 0x20] [iEth31] [UP]
[ 8] [ 3 : 1 : 16 : 0x38] [iEth28] [UP] <========> [23] [ 1 : 4 : 25 : 0x8] [iEth54] [UP]
[ 8] [ 3 : 0 : 8 : 0x40] [iEth29] [UP] <========> [24] [ 0 : 5 : 34 : 0x20] [iEth31] [UP]
[ 8] [ 3 : 1 : 15 : 0x30] [iEth30] [UP] <========> [24] [ 1 : 4 : 25 : 0x8] [iEth54] [UP]
[ 8] [ 3 : 0 : 5 : 0x28] [iEth31] [UP] <========> [26] [ 0 : 5 : 34 : 0x20] [iEth31] [UP]
[ 8] [ 3 : 1 : 17 : 0x40] [iEth32] [UP] <========> [26] [ 1 : 4 : 25 : 0x8] [iEth54] [UP]
Paso 2. Verifique los contadores de CRC en los links Ethernet y rastree el origen de las tramas dañadas
En un switch Nexus 9500 modular, puede ver errores CRC en uno o más links iEth en estas situaciones:
- Cuando el switch funciona en un modo de conmutación por conexión directa, una tarjeta de línea que recibe una trama Ethernet dañada con un valor CRC incorrecto en el campo FCS no descarta la trama localmente. En su lugar, la tarjeta de línea reenvía el paquete de la forma habitual. Si la interfaz de salida para el paquete pertenece a otro ASIC o tarjeta de línea, la tarjeta de línea de entrada reenvía el paquete hacia un módulo de fabric. Los módulos de fabric también funcionan en un modo de switching por conexión directa, por lo que el módulo de fabric reenvía el paquete a la tarjeta de línea de salida. La tarjeta de línea de salida reenvía el paquete hacia el salto siguiente e incrementa el contador de errores de salida en la interfaz de salida.
- Si un link interno falla debido a un hardware defectuoso, los paquetes que atraviesan el link interno pueden dañarse entre una tarjeta de línea y el módulo de fabric.
Utilice el comando show system internal fabric connectivity stats module {x} para verificar el contador CRC de los links internos correspondientes. Aquí se muestra un ejemplo de esto, donde el módulo de fabric insertado en la ranura 22 recibe paquetes con un CRC no válido en Eth56 conectado a Eth26 de la tarjeta de línea insertada en la ranura 7 del switch. Esto indica que el módulo de fabric recibe tramas Ethernet dañadas desde la tarjeta de línea insertada en la ranura 7 del switch.
Nexus9500# show system internal fabric connectivity stats module 22
Internal Link-info Stats Fabriccard slot:22
-------------------------------------------------------------------------------------
FM-Slot FM-Unit FM-iEthLink LC-Slot LC-Unit LC-EthLink MUX CRC
-------------------------------------------------------------------------------------
22 0 iEth09 1 0 iEth01 - 0
22 0 iEth06 1 1 iEth11 - 0
22 0 iEth25 1 2 iEth21 - 0
22 0 iEth26 1 3 iEth31 - 0
22 0 iEth10 2 0 iEth01 - 0
22 0 iEth05 2 1 iEth11 - 0
22 0 iEth23 2 2 iEth21 - 0
22 0 iEth24 2 3 iEth31 - 0
22 0 iEth12 3 0 iEth01 - 0
22 0 iEth11 3 1 iEth11 - 0
22 0 iEth21 3 2 iEth21 - 0
22 0 iEth22 3 3 iEth31 - 0
22 0 iEth14 4 0 iEth01 - 0
22 0 iEth13 4 1 iEth11 - 0
22 0 iEth07 4 2 iEth21 - 0
22 0 iEth08 4 3 iEth31 - 0
22 0 iEth16 5 0 iEth01 - 0
22 0 iEth15 5 1 iEth11 - 0
22 0 iEth01 5 2 iEth21 - 0
22 0 iEth04 5 3 iEth31 - 0
22 0 iEth20 6 0 iEth01 - 0
22 0 iEth17 6 1 iEth11 - 0
22 0 iEth28 6 2 iEth21 - 0
22 0 iEth27 6 3 iEth31 - 0
22 0 iEth19 7 0 iEth01 - 0
22 0 iEth02 7 1 iEth09 - 0
22 0 iEth30 7 2 iEth17 - 0
22 0 iEth29 7 3 iEth25 - 0
22 0 iEth18 8 0 iEth01 - 0
22 0 iEth03 8 1 iEth09 - 0
22 0 iEth32 8 2 iEth17 - 0
22 0 iEth31 8 3 iEth25 - 0
22 1 iEth41 1 0 iEth02 - 0
22 1 iEth38 1 1 iEth12 - 0
22 1 iEth59 1 2 iEth22 - 0
22 1 iEth60 1 3 iEth32 - 0
22 1 iEth42 2 0 iEth02 - 0
22 1 iEth37 2 1 iEth12 - 0
22 1 iEth62 2 2 iEth22 - 0
22 1 iEth61 2 3 iEth32 - 0
22 1 iEth44 3 0 iEth02 - 0
22 1 iEth43 3 1 iEth12 - 0
22 1 iEth64 3 2 iEth22 - 0
22 1 iEth63 3 3 iEth32 - 0
22 1 iEth46 4 0 iEth02 - 0
22 1 iEth45 4 1 iEth12 - 0
22 1 iEth39 4 2 iEth22 - 0
22 1 iEth40 4 3 iEth32 - 0
22 1 iEth48 5 0 iEth02 - 0
22 1 iEth47 5 1 iEth12 - 0
22 1 iEth36 5 2 iEth22 - 0
22 1 iEth33 5 3 iEth32 - 0
22 1 iEth52 6 0 iEth02 - 0
22 1 iEth49 6 1 iEth12 - 0
22 1 iEth57 6 2 iEth22 - 0
22 1 iEth58 6 3 iEth32 - 0
22 1 iEth34 7 0 iEth02 - 0
22 1 iEth51 7 1 iEth10 - 0
22 1 iEth55 7 2 iEth18 - 0
22 1 iEth56 7 3 iEth26 - 1665601166
22 1 iEth50 8 0 iEth02 - 0
22 1 iEth35 8 1 iEth10 - 0
22 1 iEth53 8 2 iEth18 - 0
22 1 iEth54 8 3 iEth26 - 0
Utilice el comando slot {x} show hardware internal tah counters asic {y} en una tarjeta de línea o módulo de fabric para determinar si los errores CRC no son válidos o los CRC pisoteados. Los dos contadores de registro que diferencian los errores CRC inválidos de los errores CRC pisoteados son:
- 02-RX Form with FCS Err - Indica que se recibió una trama con un CRC inválido, pero sin pisotear.
- 16-RX Frm CRC Err(Stomp) - Indica que se recibió una trama con un CRC pisoteado.
Aquí se muestra un ejemplo de esto, donde se reciben tramas dañadas en el módulo de fabric insertado en la ranura 22 del chasis a través del link interno iEth54 connect a la tarjeta de línea insertada en la ranura 8 del chasis se reciben con CRC pisoteado:
Nexus9500# slot 22 show hardware internal tah counters asic 1
REG_NAME M24,0-100Gx4 M25,0-100Gx4
--------------------------------------------------------------------------------------------------------------------------
02-RX Frm with FCS Err .... ....
03-RX Frm with any Err .... 144912733e
16-RX Frm CRC Err(Stomp) .... 14491277d7
Alternativamente, utilice el comando show hardware internal errors module {x} para ver los contadores de errores ASIC para un módulo específico. A continuación, se muestra un ejemplo.
Nota: En esta salida, el contador de errores de interfaz entrante (CRC, len, Algn Err) aumenta tanto para CRC inválidos como para CRC pisoteados, mientras que el contador de errores CRC de interfaz entrante pisoteados aumenta sólo para CRC pisoteados.
Nexus9500# show hardware internal errors module 22
|------------------------------------------------------------------------|
| Device:Lacrosse Role:MAC Mod:22 |
| Last cleared @ Tue Jul 6 04:10:45 2021
| Device Statistics Category :: ERROR
|------------------------------------------------------------------------|
Instance:0
ID Name Value Ports
-- ---- ----- -----
Instance:1
ID Name Value Ports
-- ---- ----- -----
196635 Interface Inbound Errors (CRC,len,Algn Err) 0000053053264536 27:0
1048603 Interface Inbound CRC Error Stomped 0000053053264535 27:0
Después de identificar la tarjeta de línea de ingreso desde la cual se reciben las tramas dañadas, utilice los comandos slot {x} show hardware internal tah counters asic {y} o show hardware internal errors module {x} de manera similar para identificar la interfaz de ingreso en la que se reciben los errores, así como si los errores se reciben como CRC no válidos o CRC pisoteados.
Es posible que se produzca un escenario poco común en el que un módulo de fabric o una tarjeta de línea de salida muestre errores CRC en un enlace iEth, pero la tarjeta de línea conectada no tenga signos de CRC de entrada. La causa principal de este problema suele ser un fallo de hardware del módulo de fabric. Cisco recomienda abrir un caso de soporte con Cisco TAC para resolver este problema y reemplazar el módulo de fabric si es necesario.
Examples
Esta sección del documento recorre el procedimiento anterior con algunos ejemplos.
Escenario 1. Interfaz Física que Recibe CRCs Detenidos
Este ejemplo demuestra cómo identificar que los errores CRC en una interfaz física son CRCs pisoteados.
Tenga en cuenta esta topología:
En este ejemplo, se generan errores CRC intencionalmente pisoteados en el switch N9K-1 a través de paquetes ICMP gigantes de 8000 bytes originados en la interfaz SVI 10 (que posee la dirección IP 192.0.2.1) destinados a la interfaz SVI 10 de N9K-3 (que posee la dirección IP 192.0.2.3), que tiene una MTU de 1500 bytes. N9K-1, N9K-2 y N9K-3 son todos switches del modelo Nexus 93180YC-EX.
N9K-1# ping 192.0.2.3 count 5 packet-size 8000 PING 192.0.2.3 (192.0.2.3): 8000 data bytes Request 0 timed out Request 1 timed out Request 2 timed out Request 3 timed out Request 4 timed out Request 5 timed out --- 192.0.2.3 ping statistics --- 5 packets transmitted, 0 packets received, 100.00% packet loss
En este ejemplo, se observan errores CRC crecientes en la interfaz física Ethernet1/1 del switch N9K-3.
N9K-3# show interface Ethernet1/1
<snip>
Ethernet1/1 is up
admin state is up, Dedicated Interface
Hardware: 100/1000/10000/25000 Ethernet, address: 00d7.8f86.2bbe (bia 00d7.8f86.2bbe)
MTU 1500 bytes, BW 10000000 Kbit, DLY 10 usec
reliability 255/255, txload 1/255, rxload 1/255
Encapsulation ARPA, medium is broadcast
Port mode is trunk
full-duplex, 10 Gb/s, media type is 10G
Beacon is turned off
Auto-Negotiation is turned on FEC mode is Auto
Input flow-control is off, output flow-control is off
Auto-mdix is turned off
Rate mode is dedicated
Switchport monitor is off
EtherType is 0x8100
EEE (efficient-ethernet) : n/a
admin fec state is auto, oper fec state is off
Last link flapped 06:13:44
Last clearing of "show interface" counters 02:55:00
0 interface resets
RX
9 unicast packets 10675 multicast packets 0 broadcast packets
10691 input packets 816924 bytes
7 jumbo packets 0 storm suppression bytes
0 runts 7 giants 7 CRC 0 no buffer
7 input error 0 short frame 0 overrun 0 underrun 0 ignored
0 watchdog 0 bad etype drop 0 bad proto drop 0 if down drop
0 input with dribble 0 input discard
0 Rx pause
Paso 1. Confirmar aumento de CRC
Confirme que los CRC estén incrementando en la interfaz física Ethernet1/1 mediante la generación de paquetes ICMP gigantes de 8000 bytes originados en la interfaz SVI 10 de N9K-1 (que posee la dirección IP 192.0.2.1) destinados a la interfaz SVI 10 de N9K-3 (que posee la dirección IP 192.0.2.3).
N9K-1# ping 192.0.2.3 count 5 packet-size 8000
PING 192.0.2.3 (192.0.2.3): 8000 data bytes
Request 0 timed out
Request 1 timed out
Request 2 timed out
Request 3 timed out
Request 4 timed out
Request 5 timed out
--- 192.0.2.3 ping statistics ---
5 packets transmitted, 0 packets received, 100.00% packet loss
N9K-3# show interface Ethernet1/1
Ethernet1/1 is up
admin state is up, Dedicated Interface
Hardware: 100/1000/10000/25000 Ethernet, address: 00d7.8f86.2bbe (bia 00d7.8f86.2bbe)
MTU 1500 bytes, BW 10000000 Kbit, DLY 10 usec
reliability 255/255, txload 1/255, rxload 1/255
Encapsulation ARPA, medium is broadcast
Port mode is trunk
full-duplex, 10 Gb/s, media type is 10G
Beacon is turned off
Auto-Negotiation is turned on FEC mode is Auto
Input flow-control is off, output flow-control is off
Auto-mdix is turned off
Rate mode is dedicated
Switchport monitor is off
EtherType is 0x8100
EEE (efficient-ethernet) : n/a
admin fec state is auto, oper fec state is off
Last link flapped 06:52:57
Last clearing of "show interface" counters 03:34:13
0 interface resets
RX
11 unicast packets 13066 multicast packets 0 broadcast packets
13089 input packets 1005576 bytes
12 jumbo packets 0 storm suppression bytes
0 runts 12 giants 12 CRC 0 no buffer
12 input error 0 short frame 0 overrun 0 underrun 0 ignored
0 watchdog 0 bad etype drop 0 bad proto drop 0 if down drop
0 input with dribble 0 input discard
0 Rx pause
Paso 2. Asignar interfaz física a ASIC, bloqueo MAC y subpuerto de bloqueo MAC
Utilice el comando show interface hardware-mappings en N9K-3 para asignar la interfaz física Ethernet1/1 al número ASIC 0, el bloque MAC 4 y el subpuerto de bloque MAC 0.
N9K-3# show interface hardware-mappings
<snip>
-------------------------------------------------------------------------------------------------------
Name Ifindex Smod Unit HPort FPort NPort VPort Slice SPort SrcId MacId MacSP VIF Block BlkSrcID
-------------------------------------------------------------------------------------------------------
Eth1/1 1a000000 1 0 16 255 0 -1 0 16 32 4 0 1 0 32
Eth1/2 1a000200 1 0 17 255 4 -1 0 17 34 4 2 5 0 34
Eth1/3 1a000400 1 0 18 255 8 -1 0 18 36 4 4 9 0 36
Eth1/4 1a000600 1 0 19 255 12 -1 0 19 38 4 6 13 0 38
Eth1/5 1a000800 1 0 12 255 16 -1 0 12 24 3 0 17 0 24
Paso 3. Verifique los registros ASIC de Cloud Scale para los contadores relacionados con CRC
Basándose en la información del paso 2, conoce estos datos:
- La interfaz física Ethernet1/1 está asignada al número ASIC 0.
- La interfaz física Ethernet1/1 está asignada al subpuerto 0 del bloque MAC 4
- Dado que N9K-3 es un switch del modelo Nexus 93180YC-EX de la parte superior del rack, sabe que el único número de ranura de tarjeta de línea posible es 1
- En el resultado de show interface recopilado en el Paso 1, se sabe que la velocidad de la interfaz física Ethernet1/1 es 10G.
Con esta información, puede utilizar el comando slot 1 show hardware internal tah counters asic 0 para ver los contadores de registro ASIC para todas las interfaces físicas. Específicamente, está buscando contadores de registro ASIC asociados con M4,0-10G.
N9K-3# slot 1 show hardware internal tah counters asic 0 <snip> *************** PER MAC/CH SRAM COUNTERS **************** REG_NAME M4,0-10G M4,2-10G M4,4-10G M4,6-10G M5,0-40Gx4 M6,0-40Gx4 M7,0-40Gx4 M8,0-10G ---------------------------------------------------------------------------------------------------------------------------------- 02-RX Frm with FCS Err .... .... .... .... .... .... .... .... 16-RX Frm CRC Err(Stomp) c .... .... .... .... .... .... ....
Puede ver un valor hexadecimal distinto de cero de 0xc para el registro 16, que indica que se recibieron tramas con una CRC pisoteada en esta interfaz física. Puede utilizar el comando dec 0xc para traducir esto a un valor decimal de 12, que coincide con el número de errores CRC en la interfaz física Ethernet1/1.
N9K-3# dec 0xc
12
Conclusión
Ha confirmado que N9K-3 está recibiendo tramas con una CRC pisoteada en la interfaz física Ethernet1/1. Esto significa que el dispositivo en el lado remoto del link Ethernet1/1 (en este caso, N9K-2) está pisoteando el CRC de estas tramas; la causa raíz de las tramas mal formadas no es el link conectado directamente a Ethernet1/1, sino que está más abajo. Se puede realizar un troubleshooting adicional en el dispositivo de red de flujo descendente para determinar el origen de estas tramas mal formadas.
Situación hipotética 2. La interfaz física recibió tramas mal formadas con CRC no válido
Este ejemplo demuestra cómo identificar que los errores CRC en una interfaz física están aumentando debido a tramas mal formadas causadas por un problema de capa física en un link conectado directamente.
Tenga en cuenta esta topología:
En este ejemplo, un generador de tráfico conectado a la interfaz física Ethernet1/40 del switch N9K-1 está generando tramas con un CRC incorrecto. Esto simula un problema de capa física en el link conectado a Ethernet1/40, como un transceptor defectuoso o un cable dañado. N9K-1 recibe estas tramas, reconoce que el CRC no es válido e incrementa el contador de errores CRC en la interfaz física Ethernet1/40. N9K-1 es un switch del modelo Nexus 93180YC-EX.
N9K-1# show interface Ethernet1/40
Ethernet1/40 is up
admin state is up, Dedicated Interface
Hardware: 100/1000/10000/25000 Ethernet, address: 00d7.8f86.2bbe (bia 00d7.8f86.2c02)
MTU 1500 bytes, BW 10000000 Kbit, DLY 10 usec
reliability 255/255, txload 1/255, rxload 1/255
Encapsulation ARPA, medium is broadcast
Port mode is trunk
full-duplex, 10 Gb/s, media type is 10G
Beacon is turned off
Auto-Negotiation is turned on FEC mode is Auto
Input flow-control is off, output flow-control is off
Auto-mdix is turned off
Rate mode is dedicated
Switchport monitor is off
EtherType is 0x8100
EEE (efficient-ethernet) : n/a
admin fec state is auto, oper fec state is off
Last link flapped 06:13:44
Last clearing of "show interface" counters 02:55:00
0 interface resets
RX
1710 unicast packets 9873 multicast packets 0 broadcast packets
11583 input packets 886321 bytes
0 jumbo packets 0 storm suppression bytes
0 runts 0 giants 1683 CRC 0 no buffer
1683 input error 0 short frame 0 overrun 0 underrun 0 ignored
0 watchdog 0 bad etype drop 0 bad proto drop 0 if down drop
0 input with dribble 0 input discard
0 Rx pause
Paso 1. Confirmar aumento de CRC
Confirme que los CRC estén incrementando en la interfaz física Ethernet1/40 de N9K-1 a través de los comandos show interface o show interface counters non-zero.
N9K-1# show interface Ethernet1/40
<snip>
Ethernet1/40 is up
admin state is up, Dedicated Interface
Hardware: 100/1000/10000/25000 Ethernet, address: 00d7.8f86.2bbe (bia 00d7.8f86.2c02)
MTU 1500 bytes, BW 10000000 Kbit, DLY 10 usec
reliability 255/255, txload 1/255, rxload 1/255
Encapsulation ARPA, medium is broadcast
Port mode is trunk
full-duplex, 10 Gb/s, media type is 10G
Beacon is turned off
Auto-Negotiation is turned on FEC mode is Auto
Input flow-control is off, output flow-control is off
Auto-mdix is turned off
Rate mode is dedicated
Switchport monitor is off
EtherType is 0x8100
EEE (efficient-ethernet) : n/a
admin fec state is auto, oper fec state is off
Last link flapped 06:13:44
Last clearing of "show interface" counters 02:55:00
0 interface resets
RX
14055 unicast packets 9873 multicast packets 0 broadcast packets
23928 input packets 1676401 bytes
0 jumbo packets 0 storm suppression bytes
0 runts 0 giants 14028 CRC 0 no buffer
14028 input error 0 short frame 0 overrun 0 underrun 0 ignored
0 watchdog 0 bad etype drop 0 bad proto drop 0 if down drop
0 input with dribble 0 input discard
0 Rx pause
N9K-1# show interface counters errors non-zero
<snip>
--------------------------------------------------------------------------------
Port Align-Err FCS-Err Xmit-Err Rcv-Err UnderSize OutDiscards
--------------------------------------------------------------------------------
Eth1/40 26373 26373 0 26373 0 0
Paso 2. Asignar interfaz física a ASIC, bloqueo MAC y subpuerto de bloqueo MAC
Utilice el comando show interface hardware-mappings en N9K-1 para asignar la interfaz física Ethernet1/40 al número ASIC 0, bloque MAC 10, subpuerto de bloque MAC 6.
N9K-1# show interface hardware-mappings <snip> --------------------------------------------------------------------------------------------- Name Ifindex Smod Unit HPort FPort NPort VPort Slice SPort SrcId MacId MacSP VIF Block BlkSrcID --------------------------------------------------------------------------------------------- Eth1/38 1a004a00 1 0 45 255 148 -1 1 5 10 10 2 149 0 10 Eth1/39 1a004c00 1 0 46 255 152 -1 1 6 12 10 4 153 0 12 Eth1/40 1a004e00 1 0 47 255 156 -1 1 7 14 10 6 157 0 14 Eth1/41 1a005000 1 0 76 255 160 -1 1 36 64 17 0 161 0 64 Eth1/42 1a005200 1 0 77 255 164 -1 1 37 66 17 2 165 0 66
Paso 3. Verifique los registros ASIC de Cloud Scale para los contadores relacionados con CRC
Basándose en la información del paso 2, conoce estos datos:
- La interfaz física Ethernet1/40 está asignada al número ASIC 0.
- La interfaz física Ethernet1/40 está asignada al subpuerto 6 del bloque MAC 10.
- Dado que N9K-1 es un switch del modelo Nexus 93180YC-EX de la parte superior del rack, sabe que el único número de ranura de tarjeta de línea posible es 1.
- A partir de la salida de show interface recopilada en el Paso 1, sabrá que la velocidad de la interfaz física Ethernet1/40 es 10G.
Con esta información, puede utilizar el comando slot 1 show hardware internal tah counters asic 0 para ver los contadores de registro ASIC para todas las interfaces físicas. Específicamente, está buscando contadores de registro ASIC asociados con M10,6-10G.
N9K-1# slot 1 show hardware internal tah counters asic 0 *************** PER MAC/CH SRAM COUNTERS **************** REG_NAME M8,2-10G M8,4-10G M8,6-10G M9,0-40Gx4 M10,0-10G M10,2-10G M10,4-10G M10,6-10G ------------------------------------------------------------------------------------------------------------------------------------- 02-RX Frm with FCS Err .... .... .... .... .... .... .... 973e 16-RX Frm CRC Err(Stomp) .... .... .... .... .... .... .... ....
Puede ver un valor hexadecimal distinto de cero de 0x973e para el registro 2, que indica que se recibieron tramas con un CRC no válido pero sin estrujar en esta interfaz física.
Puede utilizar el comando dec 0x973e para traducir esto a un valor decimal de 38,718, que coincide (o es menor que, ya que los CRC están aumentando constantemente) con el número de errores CRC en la interfaz física Ethernet1/40.
N9K-1# dec 0x973e
38718
Conclusión
Ha confirmado que N9K-1 está recibiendo tramas con un CRC inválido pero no estrujado en la interfaz física Ethernet1/40. Esto significa que el link conectado directamente a Ethernet1/40 (o al dispositivo en el extremo remoto del link) es la fuente más probable de las tramas mal formadas. Se puede realizar un troubleshooting adicional en la capa física de este link para aislar la causa raíz de las tramas mal formadas (como verificar si el cableado está dañado, reemplazar los transceptores actuales por transceptores que se sabe que son buenos, y así sucesivamente).
Situación hipotética 3. Registro del sistema de errores CRC de Nexus 9500 con
En este ejemplo se muestra cómo identificar el origen de los errores CRC en un enlace interno iEth cuando un switch Nexus serie 9500 genera un registro del sistema que informa de los errores en una interfaz interna. Aquí se muestra un ejemplo de este syslog.
Nexus9500# show logging logfile
<snip>
2021 Jul 9 05:51:19 Nexus9500 %DEVICE_TEST-SLOT22-3-INTERNAL_PORT_MONITOR_CRC_ERRORS_DETECTED: Module 22 received tx errors on internal interface ii22/1/56 since last run TXErr=36836897 TotalTXErr=50781987904
Este syslog indica que se detectaron errores en el link interno iEth56 del módulo de fabric insertado en la ranura 22 del switch.
Paso 1. Asignación de un enlace Ethernet en un módulo de fabric a una tarjeta de línea conectada
Utilice el comando show system internal fabric connectivity stats module {x} para identificar a qué tarjeta de línea se conecta el link interno iEth afectado. En este ejemplo, iEth56 del módulo de fabric insertado en la ranura 22 del switch tiene errores. Aquí se muestra un ejemplo de esto, donde iEth56 del módulo de fabric insertado en la ranura 22 está conectado a iEth26 de la tarjeta de línea insertada en la ranura 7 del switch.
Nexus9500# show system internal fabric connectivity stats module 22 | include Eth56|FM-Slot
FM-Slot FM-Unit FM-iEthLink LC-Slot LC-Unit LC-EthLink MUX CRC
22 1 iEth56 7 3 iEth26 - 603816174
Utilice el comando show system internal fabric link-state module {x} para localizar la instancia ASIC y el identificador MAC asociados con el enlace interno iEth56 del módulo de fabric. Aquí se muestra un ejemplo de esto, donde la instancia ASIC es 1 y el identificador MAC es 27.
Nexus9500# show system internal fabric link-state module 22 | include MAC|iEth56
[FM] [ INST:SLI:MAC:GLSRC] [IETH] [ST] <========> [LC] [ INST:SLI:MAC:GLSRC] [IETH] [ST]
[22] [ 1 : 4 : 27 : 0x18] [iEth56] [UP] <========> [ 7] [ 3 : 1 : 9 : 0x0] [iEth26] [UP]
Paso 2. Compruebe si los CRC recibidos en el enlace iEth no son válidos o están detenidos
El paso anterior muestra que nuestro identificador de instancia ASIC es 1 y nuestro identificador MAC es 27 para iEth56 conectado al módulo de fabric insertado en la ranura 22. Utilice el comando slot {x} show hardware internal tah counters asic {y} para identificar si los CRCs notificados por el syslog son CRCs inválidos o CRCs pisoteados. Un ejemplo de esto se muestra aquí, donde la columna M27,0-100Gx4 está asociada con nuestro identificador MAC de 27 e indica que los CRC están pisoteados.
Nexus9500# slot 22 show hardware internal tah counters asic 1
REG_NAME M27,0-100Gx4
-----------------------------------------
02-RX Frm with FCS Err ....
16-RX Frm CRC Err(Stomp) be9cb9bd6
Alternativamente, utilice el comando show hardware internal errors module {x} para obtener esta misma información. A continuación, se muestra un ejemplo.
Nexus9500# show hardware internal errors module 22 | include CRC|Stomp|Inst
Instance:1
196635 Interface Inbound Errors (CRC,len,Algn Err) 0000051587084851 27:0
1048603 Interface Inbound CRC Error Stomped 0000051587084850 27:0
Recuerde que en esta salida, el contador de errores de interfaz entrante (CRC, len, Algn Err) aumenta tanto para CRC inválidos como para CRC pisoteados, mientras que el contador de errores CRC de interfaz entrante pisoteados aumenta sólo para CRC pisoteados.
Paso 3. Seguimiento del Origen de Tramas con CRC Inválidos en la Tarjeta de Línea de Ingreso
Ahora sabe que los CRC que ingresan al módulo de fabric insertado en la ranura 22 del switch ingresan al switch desde la tarjeta de línea insertada en la ranura 7. Con esta información, puede utilizar el comando show interface counters errors module {x} non-zero para identificar los contadores CRC distintos de cero en las interfaces que pertenecen a la tarjeta de línea relevante. A continuación, se muestra un ejemplo.
Nexus9500# show interface counters errors module 7 non-zero
<snip>
--------------------------------------------------------------------------------
Port Align-Err FCS-Err Xmit-Err Rcv-Err UnderSize OutDiscards
--------------------------------------------------------------------------------
Eth7/32 0 0 0 1195309745 0 0
Puede repetir el paso #2 de este escenario en la tarjeta de línea relevante para verificar si la tarjeta de línea está recibiendo CRCs inválidos o CRCs pisoteados.
Nexus9500# show hardware internal errors module 7 | include ignore-case CRC|Stomp|Inst
Instance:3
196619 Interface Inbound Errors (CRC,len,Algn Err) 0000051801011139 11:0
1048587 Interface Inbound CRC Error Stomped 0000051801011140 11:0
Utilice el comando show interface hardware-mappings para identificar el puerto del panel frontal al que se mapea el valor MacId:MacSP de 11:0 en el resultado anterior. Aquí se muestra un ejemplo de esto, donde 11:0 se asigna al puerto Eth7/32 del panel frontal.
Nexus9500# show interface hardware-mappings | include Name|Eth7
<snip>
Name Ifindex Smod Unit HPort FPort NPort VPort Slice SPort SrcId MacId MacSP VIF Block BlkSrcID
Eth7/1 1a300000 25 0 16 255 0 -1 0 16 32 4 0 1 0 32
Eth7/2 1a300200 25 0 12 255 4 -1 0 12 24 3 0 5 0 24
Eth7/3 1a300400 25 0 8 255 8 -1 0 8 16 2 0 9 0 16
Eth7/4 1a300600 25 0 4 255 12 -1 0 4 8 1 0 13 0 8
Eth7/5 1a300800 25 0 60 255 16 -1 1 20 40 14 0 17 0 40
Eth7/6 1a300a00 25 0 56 255 20 -1 1 16 32 13 0 21 0 32
Eth7/7 1a300c00 25 0 52 255 24 -1 1 12 24 12 0 25 0 24
Eth7/8 1a300e00 25 0 48 255 28 -1 1 8 16 11 0 29 0 16
Eth7/9 1a301000 26 1 12 255 32 -1 0 12 24 3 0 33 0 24
Eth7/10 1a301200 26 1 8 255 36 -1 0 8 16 2 0 37 0 16
Eth7/11 1a301400 26 1 4 255 40 -1 0 4 8 1 0 41 0 8
Eth7/12 1a301600 26 1 0 255 44 -1 0 0 0 0 0 45 0 0
Eth7/13 1a301800 26 1 60 255 48 -1 1 20 40 14 0 49 0 40
Eth7/14 1a301a00 26 1 56 255 52 -1 1 16 32 13 0 53 0 32
Eth7/15 1a301c00 26 1 52 255 56 -1 1 12 24 12 0 57 0 24
Eth7/16 1a301e00 26 1 48 255 60 -1 1 8 16 11 0 61 0 16
Eth7/17 1a302000 27 2 16 255 64 -1 0 16 32 4 0 65 0 32
Eth7/18 1a302200 27 2 12 255 68 -1 0 12 24 3 0 69 0 24
Eth7/19 1a302400 27 2 8 255 72 -1 0 8 16 2 0 73 0 16
Eth7/20 1a302600 27 2 4 255 76 -1 0 4 8 1 0 77 0 8
Eth7/21 1a302800 27 2 60 255 80 -1 1 20 40 14 0 81 0 40
Eth7/22 1a302a00 27 2 56 255 84 -1 1 16 32 13 0 85 0 32
Eth7/23 1a302c00 27 2 52 255 88 -1 1 12 24 12 0 89 0 24
Eth7/24 1a302e00 27 2 48 255 92 -1 1 8 16 11 0 93 0 16
Eth7/25 1a303000 28 3 12 255 96 -1 0 12 24 3 0 97 0 24
Eth7/26 1a303200 28 3 8 255 100 -1 0 8 16 2 0 101 0 16
Eth7/27 1a303400 28 3 4 255 104 -1 0 4 8 1 0 105 0 8
Eth7/28 1a303600 28 3 0 255 108 -1 0 0 0 0 0 109 0 0
Eth7/29 1a303800 28 3 60 255 112 -1 1 20 40 14 0 113 0 40
Eth7/30 1a303a00 28 3 56 255 116 -1 1 16 32 13 0 117 0 32
Eth7/31 1a303c00 28 3 52 255 120 -1 1 12 24 12 0 121 0 24
Eth7/32 1a303e00 28 3 48 255 124 -1 1 8 16 11 0 125 0 16
Conclusión
Ha confirmado que el Nexus 9500 está recibiendo tramas con una CRC pisada en la interfaz física Ethernet7/32. Esto significa que el dispositivo en el lado remoto del link Ethernet7/32 está pisoteando el CRC de estas tramas; la causa raíz de las tramas mal formadas no es el link conectado directamente a Ethernet7/32, sino que está más abajo. Se puede realizar un troubleshooting adicional en el dispositivo de red de flujo descendente para determinar el origen de estas tramas mal formadas.
Situación hipotética 4. Seguimiento del Origen de Tramas CRC Inválidas con Interfaz de Salida
En este ejemplo se muestra cómo realizar un seguimiento del origen de las tramas con CRC no válidas en un switch Nexus 9500 cuando un switch ascendente informa de que el Nexus 9500 está generando tramas con CRC pisoteados. En esta situación, el switch ascendente se conecta a través del puerto Ethernet8/9 del panel frontal.
Paso 1. Identificación del módulo de fabric que envía tramas CRC no válidas a la tarjeta de línea de salida
Sabe que la interfaz de salida que envía tramas con CRC pisoteados hacia el switch ascendente es Ethernet8/9. En primer lugar, debe determinar el módulo de fabric que envía tramas con CRC pisoteados a la tarjeta de línea insertada en la ranura 8 del chasis. Inicie este proceso con el comando show hardware internal errors module {x}. A continuación, se muestra un ejemplo.
Nexus9500# show hardware internal errors module 8 | i CRC|Inst
<snip>
Instance:1
196617 Interface Inbound Errors (CRC,len,Algn Err) 0000091499464650 9:0
1048585 Interface Inbound CRC Error Stomped 0000091499464651 9:0
MacID:MacSP 9:0 en el resultado anterior se puede asignar al módulo de fabric de origen con el comando show system internal fabric link-state module 8. A continuación, se muestra un ejemplo.
Nexus9500# show system internal fabric link-state module 8
cli : mod = 8
module number = 8
========================================================================================================================
Module number = 8
========================================================================================================================
[LC] [ INST:SLI:MAC:GLSRC] [IETH] [ST] <========> [FM] [ INST:SLI:MAC:GLSRC] [IETH] [ST]
========================================================================================================================
...
[ 8] [ 1 : 1 : 9 : 0x0] [iEth10] [UP] <========> [22] [ 1 : 0 : 4 : 0x20] [iEth35] [UP]
Verá que el identificador MAC 9 de la tarjeta de línea insertada en la ranura 8 está asignado al módulo de fabric insertado en la ranura 22 del chasis. Espera ver errores CRC en el link interno iEth10. Puede validar esto con el comando show system internal fabric connectivity stats module 8. A continuación, se muestra un ejemplo.
Nexus9500# show system internal fabric connectivity stats module 8
Internal Link-info Stats Linecard slot:8
-------------------------------------------------------------------------------------
LC-Slot LC-Unit LC-iEthLink MUX FM-Slot FM-Unit FM-iEthLink CRC
-------------------------------------------------------------------------------------
8 0 iEth01 - 22 0 iEth18 0
8 0 iEth02 - 22 1 iEth50 0
8 0 iEth03 - 23 0 iEth18 0
8 0 iEth04 - 23 1 iEth50 0
8 0 iEth05 - 24 0 iEth18 0
8 0 iEth06 - 24 1 iEth50 0
8 0 iEth07 - 26 0 iEth18 0
8 0 iEth08 - 26 1 iEth50 0
8 1 iEth09 - 22 0 iEth03 0
8 1 iEth10 - 22 1 iEth35 1784603561
Paso 2. Asigne el link Ethernet del módulo de fabric a la tarjeta de línea conectada y verifique si hay CRCs marcados
A continuación, utilice el mismo proceso que en la situación 3 comprobando los links internos iEth que reciben los CRC, si esos CRC están pisoteados o no según el ASIC del módulo de fabric y qué tarjeta de línea está conectada al link interno iEth del módulo de fabric. Aquí se muestra un ejemplo de esto con el comando show system internal fabric connectivity stats module {x}, el comando show hardware internal errors module {x} y el comando show system internal fabric link-state module {x}, respectivamente.
Nexus9500# show system internal fabric connectivity stats module 22
Internal Link-info Stats Fabriccard slot:22
-------------------------------------------------------------------------------------
FM-Slot FM-Unit FM-iEthLink LC-Slot LC-Unit LC-EthLink MUX CRC
22 1 iEth56 7 3 iEth26 - 1171851894
Nexus9500# show hardware internal errors module 22 | i CRC|Stomp|Inst
Instance:1
196635 Interface Inbound Errors (CRC,len,Algn Err) 0000054593935847 27:0
1048603 Interface Inbound CRC Error Stomped 0000054593935846 27:0
Nexus9500# show system internal fabric link-state module 22 | i MAC|iEth56
[FM] [ INST:SLI:MAC:GLSRC] [IETH] [ST] <========> [LC] [ INST:SLI:MAC:GLSRC] [IETH] [ST]
[22] [ 1 : 4 : 27 : 0x18] [iEth56] [UP] <========> [ 7] [ 3 : 1 : 9 : 0x0] [iEth26] [UP]
Paso 3. Seguimiento del Origen de Tramas con CRC Inválidos en el Módulo de Ingreso
Después de determinar la tarjeta de línea de ingreso (en este escenario, la tarjeta de línea insertada en la ranura 7 conectada por iEth26 a iEth56 del módulo de fabric insertado en la ranura 22), usted identifica qué puerto de ingreso ingresan las tramas dañadas en el switch. Esto se hace con el comando show interface counters errors module {x} non-zero. El resultado del comando show hardware internal errors module {x} y el comando show interface hardware-mappings pueden validar si las tramas recibidas no son válidas o CRCs pisoteados.
Aquí se muestra un ejemplo de esto, donde las tramas dañadas ingresan al switch a través de la interfaz Ethernet7/32 del panel frontal.
Nexus9500# show interface counters errors module 7 non-zero
<snip>
--------------------------------------------------------------------------------
Port Align-Err FCS-Err Xmit-Err Rcv-Err UnderSize OutDiscards
--------------------------------------------------------------------------------
Eth7/32 0 0 0 4128770335 0 0
--------------------------------------------------------------------------------
Port Stomped-CRC
--------------------------------------------------------------------------------
Eth7/32 4129998971
Nexus9500# show hardware internal errors module 7 | i i CRC|Stomp|Inst
<snip>
Instance:3
196619 Interface Inbound Errors (CRC,len,Algn Err) 0000054901402307 11:0
1048587 Interface Inbound CRC Error Stomped 0000054901402308 11:0
Nexus9500# show interface hardware-mappings | i Name|Eth7
<snip>
Name Ifindex Smod Unit HPort FPort NPort VPort Slice SPort SrcId MacId MacSP VIF Block BlkSrcID
...
Eth7/32 1a303e00 28 3 48 255 124 -1 1 8 16 11 0 125 0 16
Conclusión
Ha confirmado que el Nexus 9500 está recibiendo tramas con una CRC pisada en la interfaz física Ethernet7/32. Esto significa que el dispositivo en el lado remoto del link Ethernet7/32 está pisoteando el CRC de estas tramas; la causa raíz de las tramas mal formadas no es el link conectado directamente a Ethernet7/32, sino que está más abajo.
Se puede realizar un troubleshooting adicional en el dispositivo de red de flujo descendente para determinar el origen de estas tramas mal formadas.
Información Relacionada
Historial de revisiones
| Revisión | Fecha de publicación | Comentarios |
|---|---|---|
3.0 |
08-Nov-2023 |
Título actualizado, Introducción, Terminología de contenido técnico, SEO, Requisitos de estilo, Traducción automática y formato. |
2.0 |
03-Oct-2021 |
Actualizar la sección de hardware aplicable para incluir nuevo hardware. |
1.0 |
13-Nov-2020 |
Versión inicial |
ComentariosContacte a Cisco
- Abrir un caso de soporte
- (Requiere un Cisco Service Contract)