¿Eliminar ceros finales de byte []?

Estoy trabajando con el protocolo TCP y leo desde el socket y escribo los datos en una matriz de bytes [].
Aquí hay un ejemplo de mis datos:

94 39 E5 D9 32 83
D8 5D 4C B1 CB 99 
08 00 45 00 00 98 
41 9F 40 00 6C 06 
9C 46 26 50 48 7D 
C0 A8 01 05 03 28

Creé una matriz de bytes [] con un tamaño de 1024. Ahora utilizo este método para eliminar índices nulos:

public void Decode(byte[] packet)
{
    byte[] temp;
    int c = 0;
    foreach(byte x in packet)
        if (x != 0)
            c++;
    temp = new byte[c];
    for (int i = 0; i < c; i++)
        temp[i] = packet[i];
    MessageBox.Show(temp.Length.ToString());
}

Pero también elimina los índices 0x00 que pueden ser datos útiles ...
¿Cómo puedo eliminar los 0 que no están ajustados con datos que no son cero (0s finales)?

Respuestas a la pregunta(6)

Su respuesta a la pregunta