胡玉山患有高血压、心脏病等慢性病，退休后能够按时吃药，并且始终坚持每天早晨和老伴一起到街心公园散步，锻炼身体。1997年初，胡玉山和老伴在街心公园锻炼身体时，看见有人打着法轮功的横幅在公园里练功，出于好奇，他和老伴开始跟着一起练了起来。一天、两天……时间长了，筋骨也活动开了，身体上自我感觉也好了，胡玉山逐渐对法轮功佩服得五体投地。慢慢地，药也不吃了，也不去医院检查身体了，还把家里治疗心脏病、高血压的药都给扔了。再到后来，但凡有个头疼脑热的，他总是独自在房间里，摆个练功的姿势，打坐练功，静养；身体好一些，就把功劳归于“练功能治病”，因此心里对法轮功更加崇拜不已。
1999年，国家依法取缔了法轮功。社区帮教志愿者和他的子女劝两位老人要脱离法轮功，要认清法轮功的邪教本质，要过一个正常人的生活，对此胡玉山却说：“谁也别想改变我，我这是为了返朴归真，是为了消业、上层次……”还说：“一个人练功，全家受益，等我们圆满了，你们将来都会过上好日子的。”后来，子女只好趁他们老两口不在家时，把他们在家里藏的法轮功书籍全都翻了出来扔掉了。面对子女的强烈要求，胡玉山心里仍对“练功能治病”坚信不已，对子女不理不睬，经常趁子女不在家时，和老伴一起偷偷练功。
2001年6月27日早晨，胡玉山感到心脏不适，胸口憋闷，子女要带他到医院做检查，可是他一想起师父说过的要“消业”、“上层次”，就告诉他们自己只要休息一下就好了，拒绝到医院就诊。
6月28日早晨，胡玉山感觉身体好些了，照例到早市买菜，在回家的路上，他突发心脏病，一头栽倒在地上，周围的人赶紧把他送到煤炭总医院，可是医院来不及抢救，胡玉山已经当场死亡。
噩耗传来，胡玉山的家人悲痛欲绝，痛斥法轮功颠倒黑白、残害生命的丑恶行径，子女们趁机劝说母亲要摆脱法轮功的控制。面对残酷的事实，胡玉山的老伴决心不再练习法轮功，与法轮功彻底决裂。