É filho de Oduduwa e Yembo, irmão de Xangô, Oxossi, Oxun e Eleggua. Ogum é o filho mais velho de Odudua, o herói civilizador que fundou a cidade de Ifé. Quando Odudua esteve temporariamente cego, Ogum tornou-se seu regente em Ifé.
Ogum é um orixá importantíssimo na África e no Brasil. Sua origem, de acordo com a história, data de eras remotas. Ogum é o último imolé.
Os Igba Imolé eram os duzentos orixás da direita que foram destruídos por Olodumaré após terem agido mal. A Ogum, o único Igba Imolé que restou, coube conduzir os Irun Imole, os outros quatrocentos orixás da esquerda.
Foi Ogum quem ensinou aos homens como forjar o ferro e o aço. Ele tem um molho de sete instrumentos de ferro: alavanca, machado, pá, enxada, picareta, espada e faca, com as quais ajuda o homem a vencer a natureza.