Rogan Josh har sina rötter i den persiska kökskonsten. Namnet tros härstamma från persiskans rogan (olja/ghee) och josh (hetta, att koka eller brässera), vilket sannolikt syftar på tillagningsmetoden het olja som grund för brynning och kryddstekning. Den exakta etymologin är dock omdiskuterad bland matforskare, och en alternativ teori kopplar istället rogan till det kashmiriska ordet för "rött" tillsammans med gosht ("kött"), vilket skulle ge betydelsen "rött kött". Rätten fördes till den indiska subkontinenten av persiska och centralasiatiska köksmästare i samband med Mughal-imperiets expansion, som i sin tur var starkt influerad av persiskt kök.
I Kashmirdalen fick rätten en distinkt lokal identitet. Två parallella traditioner växte fram: Kashmiri Pandit-köket, format av hinduisk-kashmiriska matlagningsregler som utesluter lök och vitlök, och den muslimska Wazwan-traditionen, en omfattande festmåltidskultur med många rätter där Rogan Josh är en av huvudkomponenterna. Wazwan tillagas av professionella kockar som kallas wazas, vars hantverk enligt traditionen spårar sina rötter till mästerkockar som fördes till Kashmirdalen från Samarkand (i dagens Uzbekistan) omkring 1300-1400-talen.
Den karakteristiska djupröda färgen, som i moderna återberättelser ofta felaktigt tillskrivs tomat, kommer traditionellt från två källor tillsammans: ratanjot (alkanetrot), en naturlig färgningsört som doppas i het olja och sedan silas bort, och kashmiriskt chilipulver, som färgar utan att tillföra nämnvärd hetta. I takt med att ratanjot blivit svårare att få tag på även i Kashmir har många hushåll och restauranger övergått till att förlita sig enbart på chilipulver, eller i värsta fall bytt ut båda mot tomat.
Rätten spreds vidare söderut genom Punjab och resten av subkontinenten, där den med tiden anpassades med tomat, lök och ibland grädde influenser som i dag dominerar många restaurangversioner utanför Kashmir. I Sverige serveras Rogan Josh på indiska och pakistanska restauranger i alla större städer, oftast i sin modernare, tomatbaserade form medan den ursprungliga kashmiriska tekniken lever kvar framför allt i hemmakök.