Подскажите как можно решить мою проблему.
Нужно передать два числа и знак(+ или - или *) на сервер ( по технологии RMI), где он складывает эти два числа или вычитает или умножает, в зависимости от знака.
Как это можно реализовать?
Передавать знак операции вряд ли хорошая идея. Лучше иметь на сервере отдельные методы для складывания, умножения и тд.
Сервер можно реализовать в виде REST сервиса (это не единственный способ).
Далее реализовать клиент, который будет вызывать методы сервиса, как обычные методы (в чем и заключается суть технологии RMI)
В сети много информации по этому поводу, рекомендую почитать, вот несколько ссылок:
одна из реализаций спецификации rest сервисов
хабр
еще
Это далеко не все, вам предстоит ознакомиться с кучей материала, прежде чем решать подобную задачу.
Сборка персонального компьютера от Artline: умный выбор для современных пользователей