徽大中十一年进士擢第，释褐秘书省校书郎。户部侍郎沈询判度支，辟为巡官。宰相徐商领盐铁，又奏为参佐。时宣宗诏宰相于进士中选子弟尚主，或以徽籍上闻。徽性冲淡，远势利，闻之忧形于色。徽登第时，年逾四十，见宰相刘彖哀祈，具陈年已高矣，居常多病，不足以尘污禁脔。彖于上前言之方免。从令狐綯历宣武、淮南两镇掌书记，得大理评事。召拜右拾遗，前后上疏论事二十三，人难言者必犯颜争之，人士翕然称重。
会徐商罢相镇江陵，以徽旧僚，欲加奏辟而不敢言。徽探知其旨，即席言曰：“仆在进士中，荷公重顾，公佩印临戎，下官安得不从？”商喜甚，奏授殿中侍御史，赐绯，荆南节度判官。
高湜时持宪纲，奏为侍御史知杂，兼职方员外郎，转考功员外。时考簿上中下字硃书，吏缘为奸，多有揩改。徽白仆射，请以墨书，遂绝奸吏之弊。宰相萧亻放以徽明于吏术，尤重之。乾封初，迁司封郎中、长安县令。学士阙人，亻放用徽为翰林学士，改职方郎中、知制诰，正拜中书舍人。延英中谢，面赐金紫，迁户部侍郎、学士承旨。改兵部侍郎、尚书左丞，学士承旨如故。
广明元年十二月三日，改户部侍郎、同平章事。是日，黄巢入潼关，其夜僖宗出幸。徽与同列崔沆、豆卢彖、仆射于琮，至曙方知车驾出幸，遂相奔驰赴行在。徽夜落荆榛中，坠于崖谷，为贼所得，迫还京师。将授之伪命，徽示以足折口喑，虽白刃环之，终无惧色。贼令舆归第，命医工视之。月余，守视者稍怠，徽乃杂于负贩，窜之河中，遣人间道奉绢表入蜀。
天子嘉之，诏授光禄大夫，守兵部尚书。将赴行在，寻诏徽以本官充东面宣慰催阵使。时王铎都统行营兵马在河中，累年未能破贼。徽与行营都监杨复光谋，赦沙陁三部落，令赴难。其年夏，代北军至，决战累捷，收复京师，以功加尚书右仆射。
光启中，潞州军乱，杀其帅成麟，以兵部侍郎郑昌图权知昭义军事。时孟方立割据山东三州，别为一镇。上党支郡，唯泽州耳，而军中之人多附方立，昌图不能制。宰相奏请以重臣镇之，乃授徽检校尚书左仆射、同平章事、潞州大都督府长史、泽潞邢洺磁观察等使。时銮辂未还，关东聚盗。而河东李克用与孟方立方争泽潞。以朝廷兵力必不能加，上表诉之曰：
臣闻量才授任，本切于安人；奉上推忠，莫先于体国。臣早逢昌运，备历华资，止仗竭诚，幸无躁迹。六年内置，虽叨侍从之荣；一日台司，未展匡扶之志。敢忘急病，用副忧勤。况重镇兵符，元戎相印，特膺宠寄，出自宸衷，岂合惮劳，更陈衷款。但以郑昌图主留累月，将结深根；孟方立专据三州，转成积衅。招其外则潞人胥怨，抚其内则邢将益疑。祸方炽于既焚，计奈何于已失。须观胜负，乃决安危。欲遵命而勇行，则寝与百虑；思奉身而先退，则事体两全。伏乞圣慈，博求廷议，择其可付，理在从长。免微臣负怀宠之讥，使上党破必争势。触籓知难，庶无愧于前言；报国图功，岂无伸于此日。
天子乃以昌图镇之，以徽为诸道租庸供军等使，余官如故。
时京师收复之后，宫寺焚烧，园陵毁废，故车驾久而未还。乃以徽为大明宫留守、京畿安抚制置、修奉园陵等使。徽方治财赋，又兼制置，王畿之人，大半流丧，乃招合遗散，抚之如子。数年之间，版户稍葺，东内斋阁，缮完有序。徽拜表请车驾还京，曰：“昨者狂寇将逃，延灾方甚。而端门凤畤，镇福地而独存；王气龙盘，郁祥烟而不散。足表宗祧降祉，临御非遥。今虽初议修崇，未全壮丽，式示卑宫之俭，更凝驭道之尊。且肃宗才见捷书，便离岐下；德宗虽当盛暑，不驻汉中。故事具存，昌期难缓，愿回銮辂，早复京师。臣谬以散材，叨膺重寄，闭阁深念，拜章累陈。审时事之安危，系庙谋之得失。臣虽随宜制置，竭力抚绥，如或銮驾未回，必恐人心复散。纵成微效，终负殊私。势有必然，理宜过虑。以兹淹驻，转失机宜。实希永挂宸聪，亟还清跸。”帝深嘉纳，进位检校司空、御史大夫，权知京兆尹事。
中外权臣，遣人治第京师。因其乱后，多侵犯居人，百姓告诉相继。徽不避权豪，平之以法。由是残民安业，而权幸侧目恶其强。乃以其党薛杞为少尹，知府事。杞方居父丧，徽执奏不令入府。权臣愈怒，奏罢徽使务，以本官征赴行在。寻授太子少师，移疾退居蒲州。满十旬，请罢。僖宗还宫，复授太子少师，疾，未任朝谒。宰相以徽怨望，奏贬集州刺史，徽乃舆疾赴贬所。不旬日，沙陁逼京师，僖宗出幸宝鸡，而军容田令孜得咎。天子以徽无罪，召拜吏部尚书，封琅邪郡侯，食邑千户。徽将赴行在，而襄王僭伪。邠、岐兵士，追逼乘舆。天子幸汉中，徽不能进。李襜伪制至河中府，召徽赴阙。徽托以风疾，不能步履。襜将僭号，逼内外臣僚署誓状。徽称臂缓，不能秉笔，竟不署名。
硃玫既诛，天子自褒中还，至凤翔，召徽拜御史大夫。车驾还宫，徽上章，以足膝风痹，不任朝拜，乞除散秩，复授太子少师。及便殿中谢，昭宗顾瞻进对，曰：“王徽神气尚强，安可自便？”乃改授吏部尚书。大乱之后，铨选失绪，吏为奸蠹，有重叠补拟者。徽从初注授，便置手历，一一检视，人无拥滞，内外称之。进位检校司空，守尚书右仆射。大顺元年十二月卒，赠太尉，谥曰贞。
子三人：椿、樗、松。
史臣曰：议兵之难，古无百胜，盖以行权制变，法断在于临机；出奇无穷，声实悬于中的。昔晋国之平孙皓，贾公闾坚沮渡江；吴人欲拒曹瞒，张辅吴终惭失策。彼之贤俊，未免悔尤。况卢子升平代书生，素迷军志，只保高骈之平昔，不料高骈之苞藏；以至力困黄巢，毒流赤县，绝吭仰药，何所补焉？台文气激壮图，志摅宿愤，慷慨誓众，叱咤临戎；竟扼贼喉，以康天步，谓之不武，斯焉取斯？崔、赵以鼎职奉亲，天伦并达，积庆垂裕，播美士林。徽志吐盗泉，脱身虎口，功名不坠，君子多之。
赞曰：武以伸威，谋以制敌。何必临戎，陈师衽席。高骈玩寇，卢携保奸。圣断一误，崎岖剑山。“)