Rogan Josh har sina rötter i den persiska kökskonsten. Namnet tros härstamma från persiskans rogan (olja) och josh (hetta/att koka), vilket sannolikt syftar på tillagningsmetoden het olja som grund för brynning och kryddstekning snarare än på rättens faktiska styrka. Den exakta etymologin är dock omdiskuterad bland matforskare, och en alternativ teori kopplar namnet till kashmiriskans ord för kött. Rätten fördes till den indiska subkontinenten av persiska och centralasiatiska köksmästare i samband med Mughal-imperiets expansion, som i sin tur var starkt influerad av persiskt kök.
I Kashmirdalen fick rätten en distinkt lokal identitet. Två parallella traditioner växte fram: Kashmiri Pandit-köket, format av hinduisk-kashmiriska matlagningsregler som utesluter lök och vitlök, och den muslimska Wazwan-traditionen, en omfattande festmåltidskultur med många rätter där Rogan Josh är en av huvudkomponenterna och tillagas av professionella kockar som kallas wazas.
Den karakteristiska djupröda färgen, som ofta felaktigt tillskrivs tomat i moderna återberättelser, kommer istället primärt från kashmiriskt chilipulver, ibland i kombination med den naturliga färgningsörten ratanjot (alkanetrot) ett arv från Kashmirs handelsförbindelser och det lokala klimatets lämplighet för att odla just denna chilisort.
Rätten spreds vidare söderut genom Punjab och resten av subkontinenten, där den med tiden anpassades med tomat, lök och ibland grädde influenser som i dag dominerar många restaurangversioner utanför Kashmir. I Sverige serveras Rogan Josh på indiska och pakistanska restauranger i alla större städer, oftast i sin modernare, tomatbaserade form medan den ursprungliga kashmiriska tekniken lever kvar framför allt i hemmakök.