Выделение памяти в dll, передача массива из dll и очистка памяти

1. В общем случае так делать нельзя. Можно нарваться на проблемы. Память выделенную в dll надо освобождать в dll. Потому что менеджер памяти у процесса и dll может быть разный. Если так сильно надо выделять память в dll и передавать вызвавшему процессу, то можно в dll предусмотреть и функцию освобождения такой памяти, которую должен будет вызывать процесс.
2. Указатель - это переменная (ячейка памяти) хранящая адрес другой переменной. Параметры функции - это по сути отдельные переменные, которые создаются для каждого вызова функции, и которым ты присваиваешь значение при её вызове. Поэтому чтобы изменить значение указателя с помощью функции, нужно чтобы параметр был ссылкой на указатель. На самом деле, внутренне, ссылка - это тоже указатель, просто синтаксис работы с ней - как с переменной. То есть когда ты передаешь ссылку на указатель, ты по сути передаешь указатель на указатель. А если ты просто передашь указатель не по ссылке, то ты передашь копию указателя, и эту копию внутри функции и изменишь - присвоишь ей значение адреса выделенной памяти.

Без ссылок ваша функция выглядела бы так:

void calc(Test ** test, uint * sizeTest)
{
   *sizeTest = 3;
   *test = new Test[*sizeTest];
   for (uint i = 0; i < *sizeTest; i++)
   {
       (*test)[i].a = i;
       (*test)[i].b = i;
   }
}
// использование
Test * array = nullptr;
uint   size  = 0;
calc(&array, &size);