文久3(1863)年、飽海郡一條村大字前字楯前26番地、小松又兵衛の二男として生まれた。明治12年県立小学校教員養成所伝習学校に入学、翌年卒業して山形県準訓導になり、母校関小学校勤務となった。しかし、将来を考え、東京遊学を決意した。
当時東北地方には鉄道がなく、1人で東京まで120里の道を歩いた。電信線について行ったが、途中で電柱が見えなくなった時の心細さを、あとで語っている。
東京専門学校(早稲田大学)に入り法律を修め、途中で英吉利法律学校(中央大学)に転学、卒業した。在学中、出版条例違反で軽禁固4カ月、獄中で有名な政治家・星亨氏と一緒になり、日夜時事を論じた。星氏は大いに小松氏の識見と性格に敬服、満期後彼を自宅に呼び寄せ、書生として勉強させた。卒業後は星氏が設立した東京火災保険に入社、大阪、仙台、名古屋支店長を歴任した。
その後、安田財閥の安田善次郎氏に見込まれ、東京建設の天津支店長になり、天津居留地経営に着手した。幾多の難関があったが、持ち前のファイトと誠実で突破し、かつての沼地を立派な市街地にした。
学生時代のエピソードがある。卒業論文は有名な憲法学者、穂積八束博士の説に反論して「先生は言う、しかしながら私は考える-」といった調子で、真正面から攻め立てた成績は95点だった。これは博士在任中の最高点といわれている。このことはいかに小松氏の学識がすばらしかったかを証明している。
彼は後輩の面倒をよくみたが、それだけでなく、郷土を愛し、また信仰に厚く、これが神社、仏閣、教育事業に多額の寄付という形であらわれた。出身地の三上神社、八幡神社、日枝神社、荘内館、酒田中学、山形高等学校、一条小学校、早稲田、中央大学と枚挙にいとまがない。特に荘内館とは関わりが深く、明治29年創立の主唱者の1人として、荘内館理事、同寄宿舎監督の親友ともいうべき佐藤雄能氏に協力した。
あとで評議員、理事として2度にわたる寄宿舎建築に物心両面から献身的な献助を惜しまなかった。また館生に対しては自分の子供のごとく、正月にはもちや、もち代を寄付し、時には全員を自宅に招待した。
その他創立記念会、運動会にも多額の寄付、館の維持の基金や賃金の資金の募集にも積極的に参加した。荘内館の創立25周年には佐藤雄能氏の永年の心労にむくいるため、氏の寿像を作ることを提案し、帝室技芸員の新海竹太郎氏に依頼し完成させた。像は寄宿舎の食堂に置かれるようになった。昭和5年6月、脳溢血で死去。
文久3年、現在の八幡町に生まれる。小学教員を経て上京、東京専門学校入学、さらに英吉利法律学校転学、卒業。在学中秘密出版事件に連座、入獄中政界の大物、星亨氏の知遇を得る。出獄後、星氏の書生。星氏が設立した東京火災保険入社、その後、安田善次郎氏に見込まれ、東京建物の天津居留地経営に参画し成功して帰郷した。以来、東京火災、満州興業、太平火災の重役を兼ねた。信仰心、愛郷心が厚く、多額の寄付、また、荘内館創立主唱者の1人、物心両面の援助に活躍した。昭和5年、東京で亡くなった。68歳。