汉灵帝中平三年,羊续临危受命,出任南阳太守。为了尽快掌握当地的真情实状,他只带一名小书僮,简衣陋衫,悄悄进入南阳地界。当他突然出现在南阳府衙时,当地官吏无不惊悚震慑。羊续上任后颁布宣政令,兴利弊除,黎民百姓为之欢欣鼓舞。南阳地方多权豪之家,风尚奢华,羊续对此深感蹙额疾首。他带头素衣薄食,出行时,瘦马一匹、旧车一辆。羊续带头节俭躬行,对挥霍惯了的府丞属吏是一个很大的约束。一天,一位老府丞给他送来了一条大活鱼。羊续收下了,几天后他又拎来了一条更大的活鱼。羊续招招手,让他到庭廊之下,然后指着檐梁上挂着的那条前些天送来的鱼,正色地对老府丞说:“你上次送的,我都没有动。你这一次再送,我还会收吗?你的这条鱼,我要一直挂在这里,做一个不要再来送钱送礼的活告示。”