Xiaolongbao uppfanns på 1870-talet i Nanxiang, en förstad till Shanghai, av restaurangägaren Huang Mingxian på hans restaurang Ri Hua Xuan. Han skapade en mer delikat version av den vanliga ångade mantou-bullen genom att tillsätta aspic gelatinrik köttsoppa till fläskfyllningen. När ångat smälte aspicen till het, smakrik buljong. Hans originalnamn Nanxiang da rou mantou (stor köttbulle från Nanxiang) fastnade inte, men rätten spred sig snabbt via ryktet och köerna sträckte sig ut ur dörren.
År 2006 listade Shanghais stadsregering Xiaolongbao som ett skyddat nationellt kulturarv. Den globala spridningen accelererade med Din Tai Fung ett taiwanesiskt restaurangföretag grundat 1958, ursprungligen en matoljegrossist, som anställde en kock från östra Kina. Din Tai Fung standardiserade Xiaolongbao med precisa krav (18 veck, 21 g total vikt) och har idag Michelin-stjärnor i flera länder.
Xiaolongbao finns i flera regionala varianter: Suzhou och Wuxi-stilarna är dubbelt så stora och sötare i fyllningen. Nanjing-varianten har nästan genomskinlig deg och mindre köttig fyllning. Utanför Kina kallas de ofta soup dumplings på engelska en term som tekniskt täcker en bredare kategori (tangbao) men som i praktiken är synonym med Xiaolongbao i de flesta sammanhang.