Вызвать функцию в Lua и получить возвращаемое значение в C++

Примеры кода можно смотреть тут: http://lua-users.org/wiki/SampleCode Есть длинный пример работы с Lua из C++ тут: http://lua-users.org/wiki/CallingLuaFromCpp

Приведу короткий пример получения данных из Lua на C. Отличие от С++ небольшое.

http://lua-users.org/wiki/GettingValuesFromLua

Example code for Lua 5.1.1:

returnone.c:

#include <lua.h>
#include <lualib.h>
#include <lauxlib.h>
int main()
{
   lua_State *L = luaL_newstate();
   char buff[] = "return 1,'a'";
   int error;
   printf( "%d\n", lua_gettop(L) );
   error = luaL_loadbuffer(L, buff, strlen(buff), "my test") || lua_pcall(L, 0, LUA_MULTRET, 0);
   if (error) {
      fprintf(stderr, "%s", lua_tostring(L, -1));
      lua_pop(L, 1);  /* pop error message from the stack */
   }
   printf( "%d\n", lua_gettop(L) );
   printf( "%s\n", lua_tostring(L,-2) );
   printf( "%s\n", lua_tostring(L,-1) );
   return 0;
}

Что я сделал не так ?

Вы полностью проигнорировали обработку ошибок в вашем коде.

Функция luaL_dofile возвращает код ответа, который надо анализировать (сюрприз!), а не просто игнорировать. Это же касается и lua_getglobal и проч.

Если вы добавите вот такую обработку на компиляцию и запуск скрипта:

int err = luaL_dofile(L, "script.lua");
if (err) {
   printf("Cannot dofile: %s", lua_tostring(L, -1));
   lua_pop(L, 1);
   return 1;
}

то если файл скрипта вдруг будет не найден, будет выведено сообщение:

Cannot dofile: cannot open script.lua: No such file or directory

Так же, будут обработаны любые ошибки синтаксиса в самом скрипте, если он вдруг будет написан с ошибками.

Если же эту обработку убрать, то при недоступности файла script.lua, будет выведено сообщение как у вас в вопросе.