潘长江1957年7月1日出生在黑龙江省牡丹江市东宁县。父亲潘林生和母亲王晶平都是当地县评剧团的演员。那时候剧团常年下乡巡演，全家跟着队伍在黑龙江各地流动，没有固定住处。
演出结束以后，舞台就成了临时休息的地方，一家人在舞台中央铺被子过夜。这种日子从他出生后就开始了，父母忙着唱戏，他从小就泡在剧团环境里。
1962年7月，他五岁那年，在东宁县得了尿崩症。父母先带他去沈阳妇幼医院检查确诊，后来又跑东北各大医院求医，最后到上海医院，医生说这种病难治，最多活到25岁。母亲王晶平带着病历资料，一路照顾他。
1963年全家迁到辽宁省铁岭市，当地剧团看中父母的表演，把他们留下来。从此一家人在辽北安顿，他也成了地道的铁岭孩子。病情慢慢控制住，他活过了医生说的年纪，但因为病发育受影响，身高停在1米6左右。
在铁岭安定下来以后，东北黑土地的风俗和说话方式对他影响很大。东北人聊天本身就带节奏和幽默，这点在日常生活中很常见。他从小在剧团大院长大，帮着搬道具，学着走台步，这些经历给他打下基础。
1979年他22岁，考进辽宁省铁岭县评剧团，专攻小花脸行当。那时候团里训练严格，他每天练唱腔和身段，从基础一步步来。1982年他转演二人转，主演过几出传统剧目。1984年调到铁岭市民间艺术团，主演《四圣巧戏猪八戒》等节目，拿过省级表演奖。
1986年是他事业转折点。他和赵本山合作演出《大观灯》，两人一个演瞎子一个演瘸子，把东北乡土生活细节放进去，在沈阳演了几百场，一天好几场，轰动东北三省。
这部作品让他的名字在当地传开，也让他看到喜剧表演的路子。之后他继续在民间艺术团工作，靠着从小积累的戏曲底子和黑土地养成的节奏感，一步步往上走。
1992年他第一次上央视春晚，表演《草台班子》，和郭昶、黎舒兰合作。1993年演《桥》，和黄晓娟搭档。1996年有两部，《过河》和《迎亲》，都是和阎淑萍合作。这些春晚节目让他全国观众熟悉起来，每次表演都靠东北特色幽默和精准节奏抓住人。
除了小品，他还拍了不少影视作品。这些作品让他从铁岭剧团演员变成全国知名喜剧人。他1981年和杨云结婚，妻子是铁岭当地人，之前学过唱腔。女儿潘阳后来也偶尔参与表演。