선산김씨는 두 계보가 있다. 하나는 김선궁(金宣弓)을 시조로 하는 일선김씨(一善金氏)이고, 다른 하나는 김추(金錘)를 시조로 하는 선산김씨다. 둘 다 선산김씨로 부르지만 서로 다른 것으로 알려진다.
김선궁(金宣弓)은 왕건(王建)이 후백제를 정벌하기 위해 일선(一善, 선산 옛 지명)에 이르자 왕건을 도왔고, 왕건은 선궁(宣弓)이라는 이름을 내렸다고 한다. 그 후 왕건을 도와 통일에 공을 세워 통합삼한익찬공신(統合三韓翊贊功臣) 2등에 책록되었다고 『증보문헌비고』와 『씨족원류』 등에 기록되어 있다. 〈순충공신도비명(順忠公神道碑銘)〉에는 그는 처음으로 일선군에 적을 두어 일선김씨의 시조가 되었다고 한다. 일선이 조선 태종(太宗) 때 선산으로 개칭(改稱)됨에 따라 본관도 선산으로 고쳐 부르고 있다.
다른 계보의 시조인 일선군(一善君) 김추는 경순왕의 여덟째 아들이라고 『증보문헌비고』에 기록되어 있다. 경주김씨 계림군파 족보에도 김추는 "신라 경순왕(敬順王)의 제8자(子)이며 고려태조(高麗太祖)의 외손자(外孫子)인 상서령(尙書令), 일선군(一善君)"이라고 기록되어 있다. 고려말에 검교중랑장을 지낸 김문(金文)은 김성원(成元), 김성부(金成富), 김성룡(金成龍), 김성여(金成呂)의 4형제를 두었는데 이로부터 김추계 선산김씨는 4파로 나뉘어졌다고 한다.