Shumai har en av de längsta historiaerna bland kinesiska dumplings med rötter som sträcker sig minst 700 år bakåt till Yuan-dynastin (1271-1368) i Inre Mongoliet och norra Kina. De äldsta bevarade recepten beskriver en enkel rätt med fårköttsfyllning insvept i ett tunt mjöl-omslag som ångades eller kokades. Namnet 烧卖 (shāomài) antas betyda koka och sälja en referens till den ursprungliga gatukökskulturen.
Under Ming-dynastin (1368-1644) spred sig Shumai söderut längs Silkesvägens handelsnät och nådde Guangdong-provinsen. De kantonesiska kockarna anpassade rätten dramatiskt: fårköttsfyllningen ersattes med lokal fläsk och färska räkor från Pearl River-deltat, degen tunnades ut med ägg och rätten integrerades i den växande dim sum-kulturen. Denna kantonesiska variant blev i sin tur grunden för Shumai som världen känner idag.
När kantonesiska emigranter spred sig till Hongkong, Singapore, San Francisco och Sydney under 1800- och 1900-talen tog de sin Shumai med sig. Idag är kantonesisk Shumai obligatorisk på varje dim sum-meny i hela världen. I Japan anpassades rätten ytterligare till shūmai (シュウマイ) med senap och soja som standarddip, och i Peru har det existerat en hel inhemsk variant kallad siomay sedan 1900-talets tidiga migration.