Nakon početaka u rodnoj Gabeli i metkovskoj Neretvi, Jelavićeva ozbiljnija nogometna karijera započela je u Hajduku gdje je debitirao za seniore kao 17-godišnjak. Iz Hajduka je preselio u belgijski Zulte Waregem, a nakon transfera u bečki Rapid krenuo je meteorski uspon. Izvrsnim igrama u Beču osigurao je transfer u Rangers gdje je nastavio trpati protivničke mreže što mu je osiguralo zanimanje i jačih klubova s Otoka te je 31. siječnja 2012. prešao u Everton za pet milijuna funti. Nakon odličnog početka na Goodisonu, Jelavić je nakon dolaska Romelua Lukakua izgubio mjesto u početnoj postavi, pa je u siječnju 2014. godine prešao u Hull City.
Jelavić je za A selekciju debitirao u prijateljskoj utakmici protiv Katara 8. listopada 2009., a prvi pogodak zabio je u prijateljskoj utakmici protiv Slovačke. Za Hrvatsku je nastupao na Europskom prvenstvu 2012. gdje je zabio i jedan pogodak Irskoj, a bio je član reprezentacije i na SP-u 2014. godine. U listopadu 2014. Jelavić je odlučio otići u reprezentativnu mirovinu.
Nije neobično što je Jelavić najbolju formu pronašao baš u Velikoj Britaniji. Izvrstan skok i igra glavom njegovo su najjače oružje, no pokazao se vrlo snalažljivim u tim fizičkim zahtjevnim ligama i svim ostalim segmentima igre. Spretan je pred golom i u šesnaestercu, brzo realizira šanse i zna se naći na pravom mjestu u pravom trenutku.