Удаление строки после /

Можно обойтись без явного использования регулярок и воспользоваться классом java.net.URL:

URL url = new URL("http://сайт.ру/уровень1/уровень2.html");
String site = String.format("%s://%s", url.getProtocol(), url.getAuthority());
System.out.println(site); // http://сайт.ру

Можете попробовать так:

public static void main(String[] args) {
    String url = "http://сайт.ру/уровень1/уровень2.html";
    Pattern p = Pattern.compile("^(http|https)://([а-я\\w\\-\\.]+)");
    Matcher m = p.matcher(url);
    if(m.find())
        System.out.println(m.group());// вывод: http://сайт.ру
}

"^(http|https)://([а-я\\w\\-\\.]+)" означает, что адрес начинается с http или https, после этого :// и все что попадает до первого / (русские маленькие буквы, английские буквы, цифры, точка, тире).