Josip Elez nogometnu karijeru počeo je u sedmoj godini života u Nogometnom klubu Solin. Do 14. godine nastupao je za Solin u čijim je redovima igrao na poziciji napadača. U njegovom razvoju dubok trag ostavio je Miloš Divjak Spale, dobri duh kluba s Jadra kako su mu mnogi tepali, trener s najdužim stažom u Nogometnom klubu Solin.

Nakon što je pokazao potencijal, Elez je logičnim slijedom karijeru nastavio u Hajduku gdje je promijenio i poziciju te zaigrao u ulozi stopera.  U tom periodu radio je s nekoliko poznatih imena iz hrvatskog nogometa poput Roberta Jarnija, Igora Tudora, Jurice Vučka...

U Elezovom razvoju dubok trag ostavio je Miloš Divjak Spale, dobri duh kluba s Jadra

Već s 19 godina, prije nego što je uopće uspio ostaviti dublji trag u Hajduku i nakon samo tri upisana nastupa, Elez je otišao u Lazio. Nakon što je jedno vrijeme igrao za momčad Lazija u Primaveri, otišao je na posudbu u Grosseto, a zatim i u Honved iz Budimpešte. Kada je u pitanju vrijeme provedeno u Laziju, Elez će istaknuti da je najupečatljiviji dojam na njega ostavio Simone Inzaghi.

Josip je prošlu sezonu proveo na posudbi u danskom Aarhusu gdje je igrao standardno,  a nakon povratka u Italiju ponovo se odlučio na posudbu. Ovog puta izabrao je Rijeku u kojoj se odlično snašao.

Osim odličnih partija u zadnjoj liniji često se priključivao i napadu, a najveće ovacije zaslužio je dvama pogocima kojima je donio pobjedu protiv Hajduka 5. studenog 2016.

Van travnjaka Elez se opušta odlaskom na more u ljetnim mjesecima, PlayStation ili druženje s prijateljima. Elez je pravi sportaš, osim nogometa, prati skoro sve sportove: košarku, tenis, pa sve do Formule 1.