Enligt den mest spridda historien uppfanns Xiaolongbao på 1870-talet i Nanxiang, en förstad till Shanghai, av restaurangägaren Huang Mingxian på hans restaurang Ri Hua Xuan. Han ska ha skapat en mer delikat dumpling genom att tillsätta aspic gelatinrik köttsoppa till fläskfyllningen. När den ångades smälte aspicen till het, smakrik buljong. Hans ursprungliga namn Nanxiang da rou mantou (stor köttbulle från Nanxiang) fastnade inte bland gästerna, men rätten spred sig snabbt via ryktet. Som med många matlegender finns det ingen samtida dokumentation som bekräftar detaljerna, och en alternativ, mer skämtsam tradition kopplar istället namnet till kejsar Qianlongs resor i Jiangsu.
År 2006 satte Shanghais stadsförvaltning upp Xiaolongbao på sin lista över skyddade lokala kulturarv. Den globala spridningen fick fart genom Din Tai Fung ett taiwanesiskt företag som startade 1958 som en oljeaffär i Taipei, grundat av Yang Bing-yi. När den inplåtade oljan tog över marknaden på 1970-talet gjorde familjen om butiken till en dumplingrestaurang 1972, på inrådan av en shanghaifödd restaurangvän. Sonen Yang Chi-hua var med och utvecklade butikens signaturteknik med exakt 18 veck och en total vikt på 21 gram per dumpling, och kedjan har idag Michelin-stjärnor på flera håll i världen.
Xiaolongbao finns i flera regionala varianter: Wuxi-stilen är ofta större och har en sötare fyllning, i linje med Jiangsu-regionens förkärlek för söta smaker. Utanför Kina kallas dumplingarna ofta soup dumplings på engelska en term som tekniskt täcker en bredare kategori (tangbao) men som i praktiken oftast används synonymt med Xiaolongbao.