行政書士の前身は、1872（明治5）年の太政官達「司法職務定制」による代書人制度にありました。
代書人制度において、市町村役場、警察署等に提出する書類の作成を業とする者は、行政代書人として活動を行っていました。
明治30年代後半には、「代書人取締規則」が警視庁令や各府県令で定められるようになりました。
1920（大正9）年11月、これら監督規定の統一化を目的として、内務省によって「代書人規則」が定められました。
戦後、代書人規則は、「日本国憲法施行の際現に効力を有する命令の規定の効力等に関する法律」により、1947（昭和22）年12月に失効しました。その後、住民の便益に向け法制化を求める社会の動きを受け、1951（昭和26）年2月10日、行政書士の制度を定め、その業務の適正を図ることにより、行政に関する手続の円滑な実施に寄与し、あわせて、国民の利便に資することを目的（行政書士法第1条）とした「行政書士法」が成立し、同月22日法律第4号として公布され、3月1日に実施されました。
このようにして行政書士制度は発足し、数次の法改正を経て現在に至っています。