军功和食邑，等到他以御史大夫之职跟随攻打陈豨立了功，被封为江邑侯。

高祖去世之后，吕太后派使臣召赵王入朝，相国周昌让赵王推说身体不好，不能前往。使者往返去了三次，周昌都一直坚持不送赵王进京。于是吕后很是忧虑，就派使者召周昌进京。周昌进京之后，拜见吕后，吕后非常生气地骂他：“难道你还不知道我非常恨戚夫人吗？而你却不让赵王进京，为什么？”周昌被召进京城之后，吕后又派使者召赵王，不久，赵王果然来到了京城。他到长安一个多月，就被迫喝下毒药死去了。周昌因此也就称病引退，不再上朝拜见太后。三年之后，他也去世了。

高后元年（前184）的时候，她听说御史大夫江邑侯赵尧在高祖时定下了保全赵王如意的计策，于是就除去他江邑侯爵位以抵其罪，并让广阿侯任敖担任了御史大夫。

任敖这个人，原来是沛县的一名狱吏。高祖还是一名普通百姓时，曾躲避官司，狱吏找不到高祖本人，便抓走了吕后，并对她很不礼貌。而任敖一直和高祖很要好，见此情景非常生气，就打伤了拘管吕后的那位狱吏。等到高祖开始起兵的时候，任敖就以宾客的身份跟随，后来担任御史，驻守丰邑两年。高祖立为汉王，向东进击项羽，任敖升为上党郡守。在陈豨造反的时候，任敖坚守城池，未被叛军攻陷，因功被封为广阿侯，食邑一千八百户。高后时，担任御史大夫。三年后备免职，任命平阳侯曹窋为御史大夫。高后去世之后，曹窋和大臣们共同诛杀吕禄等人，后被免去官职，任命淮南王相国张苍为御史大夫。

张苍和绛侯周勃等人共同尊立代王为孝文皇帝。文帝四年（前176），丞相灌婴去世，张苍继任为丞相。

自从汉朝建立到孝文帝已有二十多年时间，当时正处在天下刚刚平定的时候，朝廷中的文武百官都是军人出身，而唯独张苍从担任计相时起，就致力于探讨、订正音律和历法的工作。因为高祖是在十月里入关，灭秦到达霸上的，所以原来秦代以十月为一年开端的旧历法依然沿袭。他又推求金、木、水、火、土五德运转的情形，认为汉朝正值水德旺盛的时期，所以仍然像秦朝那样崇尚黑色。张苍还吹奏律管，调整乐调，使其合于五声八音，以此推类其它，来制定律令。并且由此制定出各种器物的度量标准，以作为天下百工的规范。在他担任丞相一职时期，终于把这一切都完成了。所以整个汉代研究音律历法的学者，都师承张苍。而张苍这个人又本来就喜欢图书，再加上他什么书都读，什么学问都精通，而尤其擅长音律和历法。

张苍对于曾经救过自己性命的王陵感恩戴德。王陵就是安国侯。等到张苍当了高官之后，经常把王陵当作父亲一般侍奉。王陵死后，张苍已经是丞相了，但是每逢五天一休假的时候，总是先拜见王陵夫人，献上美食之后，才敢回家。

张苍担任丞相十几年之后，鲁国有个人叫公孙臣，他上书给皇帝，说汉朝属于上德旺盛时期，其征兆是不久将要有黄龙出现。皇帝下诏把此议交给张苍审鉴，张苍认为并非这样，把这件事扔在了一边。但是后来黄龙果然出现在天水郡的成纪县于是文帝就把公孙臣召到了朝廷，并任命他为博士，让他负责草拟顺应土德的历法制度。同时，改定元年。丞相张苍也就因此自行引退，推说年过多病，不再上朝。张苍曾保举某人作中侯官，但这个人利用不正当手段大搞谋求自己私利的事，皇帝以此责备张苍，张苍就告病退职了。前后算起来，张苍总共做了十五年的丞相才去职，在孝景帝前元五年（前152）时去世，谥号为文侯，儿子康侯继承侯位，八年之后去世。康侯的儿子张类继承侯位，又过了八年，因为犯下了参加诸侯的丧礼后就位不敬的罪名，爵位封邑都被撤消。