Параметры и тип byte

Тип выражения (byte + byte) = int.

Так сделано, чтобы избежать переполнения разрядной сетки. Поэтому компилятору надо явно сказать "я знаю, что переполнения не будет, не волнуйся" через явное приведение к типу:

return (byte) (a + b);

Либо, поменять тип функции на int, если вы не уверены, что переполнения после сложения a+b не будет.