Маски в dataGridView

Чтобы автоматически выдавалось предупреждение, достаточно задать нужный тип данных для привязанного значения.

Вариант с DataTable:

DataTable dataTable; // поле формы

// Где-то в коде
dataTable = new DataTable();
// Задаём столбцу тип DateTime
dataTable.Columns.Add("Date", typeof(DateTime));
// Грузим в таблицу данные
dataTable.Rows.Add(DateTime.Now);
// Привязываем к гриду
dataGridView.DataSource = dataTable;
// Задаём отображаемый формат
dataGridView.Columns["Date"].DefaultCellStyle.Format = "dd.MM.yyyy";

Вариант с типизированной коллекцией:

public class Data
{
    public DateTime Date { get; set; }
}
// Взять наиболее подходящую коллекцию.
// Может быть ObservableCollection, BindingList.
List<Data> data;
// Создаём и заполняем коллекцию данными
data = new List<Data> { new Data { Date = DateTime.Now } };
// Биндинг
dataGridView2.DataSource = data;
// Формат
dataGridView.Columns["Date"].DefaultCellStyle.Format = "dd.MM.yyyy";

Однако, такие "предупреждения" не удобны для пользователей.

Нужно использовать события CellValidating, CellValidated и вручную определять желаемое поведение.

По поводу перевода из одного формата в другой на лету. Всё реализуемо, но тут возможны конфликты с заданным форматом вывода. Думаю, нужно обрабатывать события CellFormatting и, возможно, EditingControlShowing - а далее работать с полученным текстбоксом.