出为安远将军、豫州刺史。高祖自洛向豫，幸其州馆信宿，赐马十匹、缣千匹。迁冠军将军、济州刺史。高祖自钟离趣鄴，至碻磝，幸其州馆，又赐马二匹、缣千五百匹。坐为平原太守崔敞所讼，廷尉论辄收市利，费用官炭，免官。后降为宁朔将军、梁州刺史。
初，武兴王杨集始为杨灵珍所破，降于萧鸾。至是，率贼万余自汉中而北，规复旧土。椿领步骑五千出顿下辨，贻书集始，开以利害。集始执书对使者曰：“杨使君此书，除我心腹之疾。”遂领其部曲千余人来降。寻以母老，解还。后武都氐杨会反，假椿节、冠军将军、都督西征诸军事、行梁州刺史，与军司羊祉讨破之。于后梁州运粮，为群氐劫夺，诏椿兼征虏将军，持节招慰。寻以氐叛，拜光禄大夫、假平西将军、督征讨诸军事以讨之。还，兼太仆卿。
秦州羌吕苟兒、泾州屠各陈瞻等聚众反，诏椿为别将，隶安西将军元丽讨之。贼入陇，守蹊自固。或谋伏兵山径，断其出入，待粮尽而攻之；或云斩除山木，纵火焚之，然后进讨。椿曰：“并非计也。此本规盗，非有经略，自王师一至，无战不摧，所以深窜者，正避死耳。今宜勒三军，勿更侵掠，贼必谓我见险不前，心轻我军，然后掩其不备，可一举而平矣。”乃缓师不进，贼果出掠，乃以军中驴马饵之，不加讨逐。如是多日，阴简精卒，衔枚夜袭，斩瞻传首。入正太仆卿，加安东将军。
初，显祖世有蠕蠕万余户降附，居于高平、薄骨律二镇。太和之末，叛走略尽，惟有一千余家。太中大夫王通、高平镇将郎育等，求徙置淮北，防其叛走。诏许之，虑不从命，乃使椿持节往徙焉。椿以为徙之无益，上书曰：“臣以古人有言：裔不谋夏，夷不乱华。荒忽之人，羁縻而已。是以先朝居之于荒服之间者，正以悦近来远，招附殊俗，亦以别华戎、异内外也。今新附者众，若旧者见徙，新者必不安。不安必思土，思土则走叛。狐死首丘，其害方甚。又此族类，衣毛食肉，乐冬便寒。南土湿热，往必将尽。进失归伏之心，退非籓卫之益。徙在中夏，而生后患。愚心所见，谓为不可。”时八座议不从，遂徙于济州，缘河居之。冀州元愉之难，果悉浮河赴贼，所在抄掠，如椿所策。
永平初，徐州城人成景俊以宿豫叛，诏椿率众四万讨之，不克而返。久之，除都督朔州抚冥武川怀朔三镇三道诸军事、平北将军、朔州刺史。在州，为廷尉奏椿前为太仆卿日，招引细人，盗种牧田三百四十顷，依律处刑五岁。尚书邢峦，据《正始别格》奏椿罪应除名为庶人，注籍盗门，同籍合门不仕。世宗以新律既班，不宜杂用旧制，诏依寺断，听以赎论。寻加抚军将军，入除都官尚书，监修白沟堤堰。复以本将军除定州刺史。
自太祖平中山，多置军府，以相威摄。凡有八军，军各配兵五千，食禄主帅军各四十六人。自中原稍定，八军之兵，渐割南戍，一军兵才千余，然主帅如故，费禄不少。椿表罢四军，减其帅百八十四人。州有宗子稻田，屯兵八百户，年常发夫三千，草三百车，修补畦堰。椿以屯兵惟输此田课，更无徭役，及至闲月，即应修治，不容复劳百姓，椿亦表罢。朝廷从之。椿在州，因治黑山道余功，伐木私造佛寺，役使兵力，为御史所劾，除名为庶人。
正光五年，除辅国将军、南秦州刺史。时南秦州反叛，路又阻塞，仍停长安。转授岐州，复除抚军将军、卫尉卿。转左卫将军，又兼尚书右仆射，驰驿诣并肆，赍绢三万匹，募召恆朔流民，拣充军士。不行。寻加卫将军，出除都督雍南豳二州诸军事、本将军、雍州刺史，又进号车骑大将军、仪同三司。萧宝夤、元恆芝诸军为贼所败，恆芝从渭北东渡，椿使追之，不止。宝夤后至，留于逍遥园内，收集将士，犹得万余，由是三辅人心，颇得安帖。于时，泾岐及豳悉已陷贼，扶风以西，非复国有。椿乃鸠募内外，得七千余人，遣兄子录事参军侃率以防御。诏椿以本官加侍中、兼尚书右仆射为行台，节度关西诸将，其统内五品已下、郡县须有补用者，任即拟授。椿遇暴疾，频启乞解。诏许之，以萧宝夤代椿为刺史、行台。
椿还乡里，遇子昱将还京师，因谓曰：“当今雍州刺史亦不贤于萧宝夤，但其上佐，朝廷应遣心膂重人，何得任其牒用？此乃圣朝百虑之一失。且宝夤不藉刺史为荣，吾观其得州，喜悦不少。至于赏罚云为，不依常宪，恐有异心，关中可惜。汝今赴京，称吾此意，以启二圣，并白宰辅，更遣长史、司马、防城都督。欲安关中，正须三人耳。如其不遣，必成深忧。”昱还，面启肃宗及灵太后，并不信纳。及宝夤邀害御史中尉郦道元，犹上表自理，称为椿父子所谤。诏复除椿都督雍岐南豳三州诸军事、本将军、开府仪同三司、雍州刺史、讨蜀大都督。椿辞以老病，不行。
建义元年，迁司徒公。尔朱荣东讨葛荣，诏椿统众为后军，荣擒葛荣，乃止。永安初，进位太保、侍中，给后部鼓吹。元颢入洛，椿子征东将军昱出镇荥阳，为颢所擒。又椿弟顺为冀州刺史，顺子仲宣正平太守，兄子侃、弟子遁并从驾河北，为颢嫌疑。以椿家世显重，恐失人望，未及加罪。时人助其忧怖，或有劝椿携家避祸。椿曰：“吾内外百口，何处逃窜？正当坐任运耳。”
庄帝还宫，椿每辞逊，不许。上书频乞归老，诏曰：“椿国之老成，方所尊尚，遽以高年，愿言致仕，顾怀旧德，是以未从。但告谒频烦，辞理弥固，以兹难夺，又所重违，今便允其雅志。可服侍中朝服，赐服一具、衣一袭、八尺床帐、几杖，不朝，乘安车，驾驷马，给扶，传诏二人，仰所在郡县，时以礼存问安否。方乖询访，良用怃然。”椿奉诏于华林园，帝下御座执椿手流泪曰：“公，先帝旧臣，实为元老，今四方未宁，理须谘访。但高尚其志，决意不留，既难相违，深用凄怆。”椿亦嘘唏，欲拜，庄帝亲执不听。于是赐以绢布，给羽林卫送，群公百僚饯于城西张方桥。行路观者，莫不称叹。
椿临行，诫子孙曰：
我家入魏之始，即为上客，给田宅，赐奴婢马牛羊，遂成富室。自尔至今二十年，二千石方伯不绝，禄恤甚多。至于亲姻知故，吉凶之际，必厚加赠襚；来往宾僚，必以酒肉饮食。是故亲姻朋友无憾焉。国家初，丈夫好服彩色。吾虽不记上谷翁时事，然记清河翁时服饰，恆见翁著布衣韦带，常约敕诸父曰：“汝等后世，脱若富贵于今日者，慎勿积金一斤、彩帛百匹已上，用为富也。”又不听治生求利，又不听与势家作婚姻。至吾兄弟，不能遵奉。今汝等服乘，以渐华好，吾是以知恭俭之德，渐不如上世也。又吾兄弟若在家，必同盘而食；若有近行，不至，必待其还，亦有过中不食，忍饥相待。吾兄弟八人，今存者有三，是故不忍别食也。又愿毕吾兄弟世，不异居、异财，汝等眼见，非为虚假。如闻汝等兄弟，时有别斋独食者，此又不如吾等一世也。吾今日不为贫贱，然居住舍宅不作壮丽华饰者，正虑汝等后世不贤，不能保守之，方为势家所夺。
北都时，朝法严急。太和初，吾兄弟三人并居内职，兄在高祖左右，吾与津在文明太后左右。于时口敕，责诸内官，十日仰密得一事，不列便大瞋嫌。诸人多有依敕密列者，亦有太后、高祖中间传言构间者。吾兄弟自相诫曰：“今忝二圣近臣，母子间甚难，宜深慎之。又列人事，亦何容易，纵被瞋责，慎勿轻言。”十余年中，不尝言一人罪过，当时大被嫌责。答曰：“臣等非不闻人言，正恐不审，仰误圣听，是以不敢言。”于后终以不言蒙赏。及二圣间言语，终不敢辄尔传通。太和二十一年，吾从济州来朝，在清徽堂豫宴。高祖谓诸王、诸贵曰：“北京之日，太后严明，吾每得杖，左右因此有是非言论。和朕母子者唯杨椿兄弟。”遂举赐四兄及我酒。汝等脱若万一蒙时主知遇，宜深慎言语，不可轻论人恶也。
吾自惟文武才艺、门望姻援不胜他人，一旦位登侍中、尚书，四历九卿，十为刺史，光禄大夫、仪同、开府、司徒、太保，津今复为司空者，正由忠贞，小心谨慎，口不尝论人过，无贵无贱，待之以礼，以是故至此耳。闻汝等学时俗人，乃有坐而待客者，有驱驰势门者，有轻论人恶者，及见贵胜则敬重之，见贫贱则慢易之，此人行之大失，立身之大病也。汝家仕皇魏以来，高祖以下乃有七郡太守、三十二州刺史，内外显职，时流少比。汝等若能存礼节，不为奢淫骄慢，假不胜人，足免尤诮，足成名家。吾今年始七十五，自惟气力，尚堪朝觐天子，所以孜孜求退者，正欲使汝等知天下满足之义，为一门法耳，非是苟求千载之名也。汝等能记吾言，百年之后，终无恨矣。“)