张行1970年,张行就读上海南京西路小学。1976年,张行毕业于上海成都北路第二中学,开始学习弹吉它和演唱流行歌曲。1979年年底,张行录制第一盒个人独唱磁带。1981年张行在上海群益无线电厂当工人。
1984年1月,张行通过中国唱片社上海分社发行了他的首张个人专辑《成功的路不止一条》,其中包含《迟到》等歌曲在内,2个月销售达到350万；8月,张行获上海青年吉他大奖赛吉它弹唱第一名。1985年,张行发行了第二盒磁带《再爱我一次》。1988年11月,张行重返歌坛,发行了专辑《太阳雨》,包含《爱的星座》等歌曲在内,销量达到200多万；12月,发行专辑《三年后的张行》,里面包括翻唱歌曲《大约在冬季》以及原唱歌曲《再爱我一次》《绝对震》等在内。1990年1月,张行发行了专辑《再回首》,这是一张翻唱其他歌手的专辑；同年发行节奏较快的翻唱专辑《阳光梦》,里面包含童安格的《跟我来》及《少年路》。1992年发行专辑《今天我们去哪里散步》。1995年11月,张行演唱电视剧《牛子厚与富连成》的片头曲《慢慢走》和片尾曲《春水》。1998年发行专辑《我又回来了》,这张专辑有多个版本,但均包含《我又回来了》《迟到》等歌曲在内。张行2000年开始,张行在CCTV歌唱节目《同一首歌》中演出,创作并演唱的歌曲有《一生里有你》《水姑娘》《永远的鲜花》《梦中的乌篷船》等等。2002年5月,张行参与录制凤凰卫视《鲁豫有约》访谈节目。2009年2月,出任中国教育电视台《青春万岁》栏目的总导演。2010年8月,张行通过在个人演唱会上《一生里有你》宣布复出,个唱之后张行做客天津卫视《今夜有戏》；9月和张蔷一起做客李静主持的《非常静距离》及星空卫视《LADY呱呱》。2012年4月,参加东方卫视《舞林大会》半决赛,未能晋级。2013年6月,参加央视新闻频道《舞出我人生》,为马羚站台,并演唱歌曲《站台》。2014年5月,张行担任“原创音乐颁奖晚会”表演嘉宾,并演唱作品《迟到》和《一条路》。2015年3月参加上海新娱乐《超级家庭》；4月参加北京卫视节目《档案》；5月,张行跟随妻子尹旎参加东方卫视《妈妈咪呀》的录制；7月,助阵江西卫视《超级歌单》,并演唱《一条路》及《小苹果》。
张行2010年9月,张行带领中国明星高尔夫球队的18位成员来到贵阳,参加高尔夫球队友谊赛。此次友谊赛在名星高尔夫球队和贵州企业家联队共同的努力下,共筹得慈善基金人民币457万元。2011年1月,受上海慈善基金会邀请,张行在上海举行个人演唱会,票房收入捐献公益事业。这次的上海演唱会,为规避假唱,张行带领了一支60人左右的管弦与电声组合乐队为其进行现场演奏。
张行可以称得上是中国流行歌坛开风气之先的人物。在八九十年代,张行就以《一条路》《告诉我》等歌曲进入歌坛。大陆歌迷们也听到了“小人物”的倾诉,歌迷的心灵被他深深地震撼了。那的确是一个单纯的年代,张行用自己淳朴的心灵感受着同样淳朴的流行音乐,没有包装与媚俗,没有伪善与作秀,个人情感和流行音乐水乳交融地结合在一起。他的歌声就像是经过打磨了的花岗岩,光滑了,细腻了,然而却缺少了它应有的粗犷。九十年代的初期的张行以一盘《太阳雨》重返流行歌坛,但张行的《太阳雨》显得平庸,苍白,并没有找到属于自己的个性。因此这盘《太阳雨》就像在水面上打了一个水漂,没有激起太多的浪花,就消失得无影无踪了。
1985年7月,多家媒体曝出张行与多名女青年交往且发生性关系的经历。1986年6月,经法院不公开审理,张行因犯流氓罪被判处有期徒刑3年。2010年2月,某女士将张行诉至法院,称《鲁豫有约》节目中,张行就流氓罪入狱的经历发表了与事实不符的言论,构成了名誉侵权,因而索赔50万。张行称,在访谈中只是就个人经历作陈述,涉及对象并不确定,也未出现该女士的姓名,因此这个访谈不构成对该女士的名誉侵权。法院最终判决该女士败诉。