В настройках программы, в Properties.Settings.Default, есть запись типа StringCollection
Подскажите, как в этой настройке можно удалить или изменить запись по индексу?
Ознакомьтесь на MSDN с документацией по классу StringCollection (кстати, почему используется этот устаревший класс?) и вы найдете там метод RemoveAt, который "Удаляет строку по указанному индексу StringCollection.":
Properties.Settings.Default.MyStringCollection.RemoveAt(5);
Для изменения значения по индексу используйте индексатор:
Properties.Settings.Default.MyStringCollection[5] = "new string";
Сборка персонального компьютера от Artline: умный выбор для современных пользователей