อนุสาวรีย์พระปทุมวรราชสุริยวงศ์ (เจ้าคำผง) สร้างขึ้นเพื่อระลึกถึงท่านในฐานะเจ้าเมืองอุบลราชธานีคนแรก อนุสาวรีย์แห่งนี้ตั้งอยู่ที่ริมทุ่งศรีเมือง กลางเมืองอุบลราชธานี พิธีวางศิลาฤกษ์อนุสาวรีย์ “เจ้าคำผง” มีขึ้นในวันพฤหัสบดีที่ 28 กรกฎาคม 2531 โดยนายพิศาล มูลศาสตร์สาธร ปลัดกระทรวงมหาดไทยในขณะนั้นเป็นประธาน และในวันที่ 28 สิงหาคม 2532 ได้อัญเชิญพระรูปจากกรมศิลปากรมาประกอบพิธีพุทธาภิเษก ณ พระอุโบสถวัดสุปัฏนารามฯ พระอารามหลวง และเมื่อนำไปประดิษฐาน ณ แท่นฐานอนุสาวรีย์ที่ทุ่งศรีเมืองเเล้ว จึงมีการประกอบพิธีเปิดอย่างเป็นทางการขึ้นเมื่อวันพฤหัสบดีที่ 31 สิงหาคม 2532
พระประทุมวรราชสุริยวงศ์ (เจ้าคำผง) เจ้าเมืองอุบลราชธานีคนแรก ปกครองบ้านเมืองระหว่างปี พ.ศ. 2321-2338 โดยพระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลกมหาราช มีพระบรมราชโองการโปรดเกล้าโปรดกระหม่อมตั้งให้ พระปทุม เป็น พระปทุมวรราชสุริยวงศ์ ครองเมืองอุบลราชธานีศรีวนาไลประเทศราช เมื่อวันแรม 13 ค่ำ เดือน 7 ปี พ.ศ. 2335
เจ้าคำผงเป็นบุตรของเจ้าพระตาและนางบุศดี เกิดเมื่อ พ.ศ. 2252 ณ นครเวียงจันทน์ ท่านเป็นหลานปู่เจ้าปางคำ ราชวงศ์เชียงรุ้ง ผู้สร้างเมืองหนองบัวลุ่มภู (จังหวัดหนองบัวลำภูในปัจจุบัน) หรือนครเขื่อนขันธ์กาบแก้วบัวบาน
ในปี พ.ศ. 2311 เจ้าพระตากับเจ้าพระวอ เกิดผิดใจกันกับพระเจ้าสิริบุญสารแห่งเวียงจันทน์ ฝ่ายเวียงจันทน์ได้ยกทัพมาตีเมืองหนองบัวลุ่มภู ต่อสู้กันอยู่ 3 ปี ฝ่ายเมืองหนองบัวลุ่มภูเห็นว่านานไปจะสู้ฝ่ายเวียงจันทน์ไม่ได้แน่จึงไปขอ กองทัพจากพม่าที่เชียงใหม่มาช่วยรบ แต่กองทัพพม่าได้ยกมาสมทบกับกองทัพเวียงจันทน์ตีเมืองหนองบัวลุ่มภูแตก เจ้าพระตาตายในสนามรบ เจ้าพระวอกับเจ้าคำผงและพวกจึงต้องทิ้งเมืองหนีไปทางทิศตะวันออกเฉียงใต้ จนได้ไปอาศัยพระเจ้าองค์หลวงไชยกุมารแห่งนครจำปาศักดิ์ โดยตั้งค่ายอยู่บ้านดู่บ้านแก แขวงเมืองจำปาศักดิ์ พระเจ้าองค์หลวงไชยกุมารได้ขอเอาเจ้านางตุ่ย พระธิดาของเจ้าอุปราชธรรมเทโว ให้เป็นชายาของเจ้าคำผง และทรงแต่งตั้งให้เจ้าคำผงเป็น “พระปทุมสุรราช” ผู้ช่วยเจ้าพระวอ นายกองนอก ต่อมาพระปทุมสุรราช (เจ้าคำผง) จึงขออพยพมาอยู่ดอนมดแดง
ต่อมาเมื่อพระเจ้าสิริบุญสารได้ทราบว่า เจ้าพระวอกับพวกมาตั้งอยู่ที่ค่ายบ้านดู่บ้านแกแขวงเมืองนครจำปาศักดิ์ และเจ้าพระวอมีกำลังพลน้อย จึงให้พระยาสุโพยกทัพมาตีค่ายบ้านดู่บ้านแกแตก เจ้าพระวอตายในที่รบ พระปทุมสุรราช (เจ้าคำผง) เห็นว่าจะสู้กองทัพเวียงจันทน์ไม่ได้ จึงขอพึ่งพระบรมโพธิสมภารพระเจ้ากรุงธนบุรี พระองค์จึงโปรดเกล้าฯ ให้เจ้าพระยาจักรีและเจ้าพระยาสุรสีห์ยกทัพมาช่วย เมื่อทราบสาเหตุจากพระปทุมสุรราชแล้ว จึงยกทัพตามมาตีทัพพระยาสุโพไปจนถึงเวียงจันทน์ ได้รบกันอยู่ 4 เดือน เวียงจันทน์จึงแตกเมื่อ พ.ศ. 2322
ในปี พ.ศ. 2319 เกิดน้ำท่วมใหญ่ที่ดอนมดแดง พระประทุมสุรราช (เจ้าคำผง) จึงพาไพร่พลอพยพหนีน้ำมาอยู่ที่ดอนริมห้วยแจระแม (อยู่เหนือตัวเมืองอุบลราชธานีปัจจุบันประมาณ 8 ก.ม.) เมื่อน้ำลดจึงย้ายไปที่ดงอู่ผึ้งริมแม่น้ำมูลเพื่อสร้างเมืองใหม่ เมื่อแล้วเสร็จจึงมีใบบอกลงไปกราบทูลพระเจ้ากรุงธนบุรีขอตั้งเป็นเมืองอุบล พระเจ้ากรุงธนบุรีให้ตั้งเมืองตามที่ขอไป โปรดเกล้าฯ ให้พระปทุมสุรรราชเป็น "พระปทุมราชวงศา" เจ้าเมืองอุบลองค์แรกเมื่อ พ.ศ. 2321
ต่อมาเมื่อพระประทุมราชวงศาร่วมมือกับเจ้าฝ่ายหน้าผู้เป็นน้องชาย ซึ่งไปตั้งกองนอกเก็บส่วยอยู่ที่บ้านสิงห์ท่า (เมืองยโสธรในเวลาต่อมา) และกองทัพเมืองนครราชสีมาช่วยกันปราบกบฏอ้ายเชียงแก้วได้ พระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลกจึงโปรดเกล้าฯ ให้พระประทุมราชวงศา เป็น "พระประทุมวรราชสุริยวงศ์" และเสริมนามเมืองอุบลขึ้นเป็น "เมืองอุบลราชธานีศรีวนาไลประเทศราช" ขึ้นตรงต่อกรุงเทพ เมื่อวันจันทร์ แรม 13 ค่ำ เดือน 8 จุลศักราช 1154 (พ.ศ. 2335) ส่วนเจ้าฝ่ายหน้าก็ได้รับการโปรดเกล้าฯ เป็นเจ้าเมืองนครจำปาศักดิ์ มีบรรดาศักดิ์เป็นพระวิไชยราชสุริยวงษขัติยราช
พระประทุมวรราชสุริยวงศ์ครองเมืองอุบลราชธานีมาตั้งแต่ตั้งเมืองมาเป็นเวลา 17 ปี จนถึง พ.ศ. 2338 จึงถึงแก่อนิจกรรม สิริรวมอายุได้ 85 ปี มีการทำพิธีเผาศพด้วยเมรุนกสักกะไดลิงก์ที่ทุ่งศรีเมือง แล้วเก็บอัฐิบรรจุธาตุไว้ทางทิศตะวันตกเฉียงใต้ของเมืองตรงบริเวณที่เป็น ธนาคารออมสิน สาขาอุบลฯ ทุกวันนี้ ต่อมาภายหลังมีสร้างเรือนจำขึ้นในบริเวณนั้น จึงย้ายอัฐิไปไว้ที่วัดหลวง และยังอยู่จนปัจจุบัน