Serialize ASCIIEncoding

Как уже сказано в комментариях, атрибут Serializable не имеет отношения к xml-сериализации, он нужен для BinaryFormatterа.

Класс Encoding напрямую нельзя сериализовать в xml. Поэтому, как предложил VladD, нужно вместо него сериализовать собственный объект. Например, так:

public class Test
{
    [XmlIgnore]
    public Encoding Encoding { get; set; }
    [XmlElement("Encoding")]
    public string EncodingValue
    {
        get => Encoding.EncodingName;
        set => Encoding = Encoding.GetEncoding(value);
    }
}

Свойство Encoding помечаем атрибутом XmlIgnore - в результате сериализатор не будет обращать на него внимания. А вместо него в будет (де)сериализоваться его строковое значение.

Недостаток этого способа в том, что теперь в нашем классе присутствует лишнее свойство EncodingValue.

Идею уловил. Буду думать. Хотя ситуация у меня немного сложнее. Есть класс TextExport. Он от стороннего разработчика и sealed. Этот класс содержит свойство Encoded которое не хотело сериализоваться, когда использовал XmlSerializer. Пока ищу решение временно отключил сериализацию этого свойства.

public static string Serialize(object exportObject)
    {
        if (exportObject == null)
            throw new ArgumentNullException("exportObject cannot be null.");
        try
        {
            var overrides = new XmlAttributeOverrides();
            var attrs = new XmlAttributes { XmlIgnore = true };
            overrides.Add(typeof(Component), "Site", attrs);
            attrs = new XmlAttributes { XmlIgnore = true };
            overrides.Add(typeof(TextExport), "Encoding", attrs);
            var temp = new XmlSerializer(typeof(T), overrides);
            var stringWriter = new StringWriter();
            temp.Serialize(stringWriter, exportObject);
            string serializedXml = stringWriter.ToString();
            stringWriter.Dispose();
            return serializedXml;
        }
        catch (Exception ex)
        {
            throw new Exception("Could not serialize the object.", ex);
        }
    }