東北本線と七戸・十和田市間を結ぶため、地元の資本負担によって昭和28年に創業。が、資金難のため工事が2度にわたって途絶。
その後、政府出資の「東北開発会社」が「むつ製鉄」計画の原料輸送のために資本参加し、昭和37年にいたってようやく開業した。このときに導入された車両が元祖レールバスで、このこと(レールバスの定員は60名)からも旅客輸送は当初からあまり重視されていなかった模様である。
南部縦貫鉄道の開業後まもなく、情勢の変化により海外から鉄鉱石の安定的な輸入が可能となり頼みの綱であった砂鉄輸送はほとんど行われず、会社は経営危機に陥り昭和41年には更正会社となった。
その後も昭和43年の十勝沖地震により重大な被害を受け、また東北本線の複線電化に伴う路線変更などいままで存続していたことが驚きに値する。
「むつ製鉄」計画
下北半島のむつ市に製鉄所を建設し、八甲田連峰から産出する砂鉄を利用して、製鉄すると言う今から考えると荒唐無稽な採算性を全く無視した計画。
元祖レールバス
国鉄分割民営化の際、第三セクターに経営移管された鉄道にもレールバスがありますが、これらはバスの皮をかぶった(低コストにするためにバス用の部品を利用した)鉄道車両。南部縦貫鉄道の元祖レールバスは昭和30年代のバスに車輪をつけたようなもの。
重大な被害
地震によって線路、路盤に大きな被害を受けている。大手私鉄でも大地震で被害を受ければ経営が傾く（某H電道）のだから地方の小私鉄が経営を続けられたのには相当な努力が費やされたことは疑うべくもない。
実際、近くにあった南部鉄道（八戸から五戸）はこの地震によって廃止されている。
線路変更
東北本線の路線変更に伴って、使われなくなった旧線部分を一駅分国鉄から借りて現在の野辺地までの路線としている。
この借りている一駅分を国鉄精算事業団から買い取りを求められて南部縦貫鉄道は廃止を余儀なくされた。