Shumai har en av de längsta historierna bland kinesiska dumplings, med rötter som enligt den vanligaste ursprungsberättelsen sträcker sig till Yuan-dynastin (1271-1368) i trakten kring Hohhot i Inre Mongoliet. De tidiga varianterna beskrivs som en enkel rätt med fårköttsfyllning insvept i ett tunt mjöl-omslag som ångades. Namnet 烧卖 (shāomài) antas betyda koka och sälja en referens till den ursprungliga gatukökskulturen, även om exakt namnursprung är omtvistat bland matforskare.
Under 1800-talet spreds Shumai söderut och nådde Guangdong-provinsen, där kantonesiska kockar anpassade rätten: fårköttsfyllningen ersattes med lokal fläsk och färska räkor från Pearl River-deltat, degen tunnades ut med ägg och rätten integrerades i den växande dim sum-kulturen i Guangzhou och senare Hongkong. Denna kantonesiska variant blev i sin tur grunden för den Shumai som är mest känd i världen idag.
När kantonesiska emigranter spred sig till Hongkong, Singapore, San Francisco och Sydney under 1800- och 1900-talen tog de sin Shumai med sig. Idag är kantonesisk Shumai obligatorisk på varje dim sum-meny i hela världen. I Japan anpassades rätten till shūmai (シュウマイ) med senap och soja som standarddip, och i Indonesien utvecklade kinesiska invandrare redan under den nederländska kolonialtiden en egen, fiskbaserad variant kallad siomay, som serveras med jordnötssås och idag är en folklig gatumatsrätt i hela landet, särskilt känd i sin Bandung-stil.