Beheimatet ist der wilde Rhabarber in Ostasien, er wächst im Osten Russlands, in China und Tibet. Seit mehr als 5000 Jahren ist eine Nutzung überliefert. Im alten China galt er als wirksam bei Verdauungsschwäche sowie als Aphrodiasikum. Für medizinische Anwendungen wurden auch die Wurzeln verwendet.
Nach Europa kam der Rhabarber erst im 18. Jahrhundert. Der erste Anbau ist für die Mitte des 18. Jahrhunderts in Chelsea in England belegt. In Deutschland eroberte sich das Gemüse zunächst die norddeutsche Küste. Die erste Rhabarberkultur in Vierlanden bei Hamburg geht auf das Jahr 1840 zurück. Von dort verbreitete er sich über Hamburger Märkte zunächst in Norddeutschland.
In der ersten Hälfte des 20. Jahrhunderts wurde er rasch sehr beliebt, kurz vor dem Zweiten Weltkrieg wurde er in Deutschland auf etwa 1700 Hektar angebaut, heute gibt es nur noch ein Viertel der Anbaufläche.