일찍이 기독교에 입문하여 장로교회에서 집사로 섬겼다. 교회에서 성령운동을 하다가 장벽에 부딪쳐 마음 고생을 하던 중에 김은석 목사를 만나 그리스도의 교회로 환원하였다.

그리스도의 교회로 환원한 후에는 신화신학 성경연구회에서 말씀을 배웠고, 김은석 목사의 권유로 서울 필운동교회에서 개최된 신학교육을 받았다. 김상호는 이곳에서 가르치는 내용들은 다 좋게 받아드렸으나 성령론만은 받아드리지 않고 부강에 내려와 신화신학 성경연구회를 통해서 성령연구를 계속하며 부흥회를 다니면서 복음을 전하였다.

어느 날 김은석 목사가 "김형제, 교회를 받아 수고 좀 하게."라고 김상호 목사에게 부탁하였고, 김상호 목사는 극구 사양하였으나 청원에 못이겨 결국 부강교회 제2대 교역자로 부임하게 되었다.

그러나 김상호는 성령의 역사가 흐려지던 시점에 가지 말아야 할 줄을 알면서도 광주에서 (순)복음교회 총회가 열였을 때에 (순)복음교회로 넘어가 여의도 순복음교회에서 교무국장과 오산리 국제 순복음기도원 책임 목사를 역임하였다.