Распараллеливание списка

Например, должно сработать такое.

async Task ProcessTasks(IEnumerable<string> data, int maxParallelTasks)
{
    var runningTasks = new HashSet<Task>();
    foreach (var s in data) // цикл по всем строкам
    {
        // дождёмся, когда найдётся «место» для нового задания
        while (runningTasks.Count >= maxParallelTasks)
        {
            // дождёмся окончания задания
            var firstFinishedTask = await Task.WhenAny(runningTasks);
            await firstFinishedTask; // доставим возможное исключение сюда
            runningTasks.Remove(firstFinishedTask);
        }
        // стартуем новое задание
        runningTasks.Add(Task.Run(() => ProcessData(s));
    }
    // дождёмся окончания всех запущенных заданий
    foreach (var task in runningTasks)
        await task;
}

Если отбросить жёсткое ограничение на количество одновременных заданий, и доверить планировку выполнения TPL, подойдёт более простой код:

var tasks = data.Select(s => Task.Run(() => ProcessData(s))).ToList();
await Task.WhenAll(tasks);