Не выполняется рекурсия

Вообще-то это - cin.ignore(INT_MAX); - игнорировать все (ну ладно, INT_MAX символов) до конца файла - т.е. пока какое-то ^Z не закроет поток...

input.ignore(std::numeric_limits<std::streamsize>::max(), '\n');

И вообще, я бы делал так (если уж приспичила именно рекурсия):

char field[3][3];
void enterX() {
    cout << "Enter X && Y: ";
    unsigned int i, j;
    cin >> i >> j;
    if (cin.fail() || i > 2 || j > 2)
    {
        cin.clear();
        cin.ignore(INT_MAX,'\n');
        cout << "Wrong values!\n";
        enterX();
    }
    else
    {
        field[i][j] = 'x';
    }
}

Update

Имея типичную оконечную рекурсию, лучше переделать ее в итерацию:

char field[3][3];
void enterX()
{
    for(;;)
    {
        cout << "Enter X && Y: ";
        unsigned int i, j;
        cin >> i >> j;
        if (!(cin.fail() || i > 2 || j > 2))
        {
            field[i][j] = 'x';
            break;
        }
        cin.clear();
        cin.ignore(INT_MAX,'\n');
        cout << "Wrong values!\n";
    }
}