羊山汉墓群是迄今为止发现的山东省内较为庞大的汉代墓群。除山北面发现的十间连体大型墓葬外，大多数为小型单石室及双石室墓，多数墓葬较为集中，近则一两米，远则三、五米，埋葬于山前山后。

羊山汉墓群以出土汉代彩绘陶器闻名于世，尤其是出土的陶俑、陶马造型细致、逼真大气，艺术性强，充分体现了羊山在汉代时的生产力发展水平。

文革时期发现的山北大型汉墓，乃多室汉墓。有精美壁画和文物出土，反映了上层社会富裕的生活水平。

2001年3月11日，羊山汉墓群被济宁市人民政府公布为市级文物保护单位。