Разлика в следните декларации

str1 + str2 за некомпилирани константни низове ще бъдат компилирани в
new StringBuilder(str1).append(str2).toString(). Този резултат няма да бъде поставен или взет от група низове (където отиват интернираните низове).

Друга е историята в случай на "foo"+"bar", където компилаторът знае с кои стойности работи, така че може да свърже този низ веднъж, за да го избегне по време на изпълнение. Такъв низов литерал също ще бъде интерниран.

Така че String str3 = str1+str2; е същото като

String str3 = new StringBuilder(str1).append(str2).toString();

и String str3 = new String(str1+str2); е същото като

String str3 = new String(new StringBuilder(str1).append(str2).toString());

Отново низовете, произведени в резултат на метод (като substring, replace, toString), не се интернират.
Това означава, че сравнявате два различни екземпляра (които съхраняват едни и същи символи) и затова == връща false.

Java няма памет за това "как тази променлива е получила стойността", следователно наистина няма значение кой метод използвате, ако резултатът е същият.

Относно сравняването, ако сравнявате низове с ==, вие сравнявате адреса на обекти в паметта, тъй като String не е примитивен тип данни, а не стойности. Трябва да използвате if(str4.equals(str3))

Тъй като Strings в Java са неизменни, компилаторът ще оптимизира и използва повторно String литерали. По този начин

String s1 = "one";
String s2 = "one";
s1 == s2; //true because the compiler will reuse the same String (with the same memory address) for the same string literal
s1 == "o" + "ne"; //true because "Strings computed by constant expressions are computed at compile time and then treated as if they were literals"
s3 = "o";
s1 == s3 + "ne"; //false because the second string is created a run time and is therefore newly created

за справка вижте http://docs.oracle.com/javase/specs/jls/se8/html/jls-3.html#jls-3.10.5

Низовете са доста трудни, защото има известно усилие да се сподели тяхното представяне. Освен това те са неизменни. Краткият отговор е: освен ако наистина не работите на ниско ниво, никога не трябва да сравнявате низове, използвайки "==". Дори и да работи за вас, ще бъде кошмар за съотборниците ви поддържам.

За по-дълъг отговор и малко забавление опитайте следното:

String s1= "a" + "b";
String s2= "a" + "b";
String s3=new String("a"+"b");

System.out.println(s1==s2);
System.out.println(s3==s2);

Ще забележите, че s1==s2 поради усилията на компилатора да споделя. Въпреки това s2 != s3, защото изрично сте поискали нов низ. Едва ли ще направите нещо много умно с него, защото е неизменно.