1971년 남아프리카 공화국 프리토리아에서 유명 엔지니어이자 자산가인 부친 에롤 머스크와 패션 모델인 모친 메이 머스크[1] 사이에서 2남 1녀 중 장남으로 태어났다.[2] 머스크의 친증조부 해리 머스크(1863~1917)가 잉글랜드 서포크에서 영국 식민지 시절의 남아공으로 이주한 것이 그 시초다.

아버지인 에롤 머스크가 남아공에서 최연소로 기술사 자격을 취득한 우수한 전기 기술자여서 어린 시절 머스크 일가는 상당히 부유했다고 한다. 거기다 에롤 머스크는 젊은 시절 에메랄드 광산 채굴권을 헐값에 구입해 막대한 부를 축적했던 것으로 알려져 있다. 인디펜던트지#에 의하면 에롤 머스크는 언론과의 인터뷰에서 "그 당시 우리는 매우 부유했습니다. 돈이 너무 많아서 금고의 문을 닫을 수도 없었습니다."라고 너스레를 떨었다. 애슐리 반스가 쓴 《일론 머스크: 미래의 설계자》에 따르면 "어린 시절 머스크 일가의 집은 프리토리아에서 가장 큰 집 중 하나였고 에롤은 가족들과 자주 해외여행을 갔다."라고 설명하고 있다.[3]

컴퓨터에 흥미를 가졌던 10살 때 코모도어 VIC-20 컴퓨터를 살 수 있었다.[4]

그러나 이러한 능력적인 부분과는 별개로 일론은 에롤과의 사이가 매우 나쁘다. 일론의 부모는 그가 10대일 때 이혼했는데, 어머니와 산 지 2년 만에 아버지와 같이 살겠다고 했던 것을 훗날 매우 후회했다. 평전의 인터뷰에서 그는 아버지에 대한 인터뷰를 아예 거부했다. 한 인터뷰에선 아예 "내 아버지는 악마이자 끔찍한 인간 말종이다. 당신들이 상상할 수 있는 모든 악행과 범죄를 다 저질러 본 사람이다."고 말하면서 인터뷰 도중에 울기까지 했다. 이에 에롤이 "철 좀 들어라"고 다시 아들을 공격하는 등 부자 사이가 완전히 틀어진 걸로 보인다.[5][6]