วัดมหาธาตุ ถือเป็นวัดคู่บ้านคู่เมืองยโสธรมาตั้งแต่แรกสร้างเมือง ตั้งอยู่ภายในเขตเทศบาลเมือง โบราณสถานที่สำคัญในวัดคือพระพุทธบุษยรัตน์ หรือพระแก้วหยดน้ำค้าง เป็นพระพุทธรูปปางสมาธิ ศิลปะสมัยเชียงแสน เป็นพระบูชาคู่บ้านคู่เมืองของยโสธรที่พระบาทสมเด็จพระนั่งเกล้าเจ้าอยู่หัว รัชกาลที่ 3 โปรดเกล้า ฯ พระราชทานให้พระสุนทรราชวงศาเจ้าเมืองยโสธรคนแรก มีพระธาตุยโสธร หรือ พระธาตุอานนท์ ตั้งอยู่หน้าอุโบสถ เป็นพระธาตุรุ่นเก่าที่สำคัญองค์หนึ่งในภาคอีสาน เจดีย์ทรงสี่เหลี่ยมส่วนยอดคล้ายพระธาตุพนม ภายในพระธาตุบรรจุอัฐิธาตุของพระอานนท์ การก่อสร้างได้รับอิทธิพลศิลปะลาวที่นิยมสร้างขึ้นเมื่อปลายสมัยกรุง ศรีอยุธยาถึงต้นรัตนโกสินทร์ หอไตร เป็นที่เก็บคัมภีร์ใบลานของวัด ตั้งอยู่ตรงกลางสระทางทิศตะวันออกเฉียงเหนือของพระธาตุ แผนผังเป็นรูปสี่เหลี่ยมผืนผ้า ลักษณะแบบหอไตรภาคอีสานทั่วไป มีทางเดินโดยรอบติดกันใต้ชายคา บริเวณนี้เป็นที่เก็บรักษาตู้พระธรรม หีบพระธรรม เสลี่ยงชั้นวางคัมภีร์ซึ่งนำมาจากเวียงจันทน์ ซุ้มประตูและบานประตูไม้สลักลวดลายเครือเถาลงรักปิดทองอย่างสวยงาม การตกแต่งฝาผนังมีลวดลาย ซึ่งเป็นลักษณะผสมแบบภาคกลางสันนิษฐานว่า หอไตรน่าจะสร้างขึ้นประมาณสมัยรัชกาลที่ 4-5 แห่งกรุงรัตนโกสินทร์