выводит неправильный результат разницы

А если так:

$balance = 1739.59;
$total_limit = 1730;
$diff = ($balance - $total_limit);
echo round($diff, 2);

или

$balance = 1739.59;
$total_limit = 1730;
$diff = ($balance - $total_limit);
echo number_format($diff, 2);

Чтобы работать с числами которым нужна точность в любом языке програмирования - переводите их до целых потом обратно. Если интерестно почему так почитайте про потерю точности на дробных значениях.

<?php
$balance = 1739.59;
$total_limit = 1730;
$diff = ($balance * 100 - $total_limit * 100) / 100;
echo $diff;