晋天福初，桑维翰以翰林学士、尚书礼部侍郎知枢密院事，知院之名始此。
宋初不置，淳化二年，枢使王显出镇，始以张逊知枢密院事。知枢密院、同知院，并正二品。知院掌佐天子执兵政，而同知院为之副。凡边防军务，常与三省分院禀奏，事干体要，则宰相、执政官合奏（《神宗正史·职官志》）。元丰官制行，废枢密使。政和未，邓莘公官至少保，犹止为知院焉。中兴初，宰相兼枢密只兼知院。
容斋洪氏《随笔》曰：“国朝枢密之名，其长为使，则其贰为副使；其长为知院，则其贰为同知院。如柴禹锡知院，向敏中同知；及曹彬为使，则敏中改副使。王继英知院，王旦同知，继冯拯、陈尧叟亦同知。及继英为使，拯、尧叟乃改签书院事，而恩例同副使。王钦若、陈尧叟知院，马知节签书。及王、陈为使，知节迁副使，其後知节知院，则任中正、周起同知。惟熙宁初，文彦博、吕公弼已为使，而陈升之过阙，留，王安石以升之曾再入枢府，遂除知院，知院与使并置，非故事也，安石之意以沮彦博耳。绍兴以来，唯韩世忠、张浚为使，岳飞为副使。此後除使固多，而其贰只为同知，亦非故事也。又使班视宰相，而《乾道职制杂压令》，副使反在同知之下。”又曰：“赵汝愚初拜相，陈騤自参知政事除知枢密院，赵辞不受相印，乃改枢密使，而陈己供职累日，朝论谓两枢长，又名称不同为无典故。然熙宁间陈升之知枢密院，文彦博、吕公弼为使，乃知院与使并命故事也。”“)