U rimsko vreme nazivana je Zlatni breg, a u srednjem veku Žrnov, prema istoimenoj tvrdavi smeštenoj na najvišem vrhu. Mađari su je nazivali Sarnov, dok su je Turci prekrstili u Havala, što u prevodu znači prepreka. Iz turskog naziva izvedeno je i današnje ime za celu planinu.
Na vrhu planine utvrđenje su podigli još Rimljani kako bi kontrolisali prilaz Singidunumu, kao i da bi zaštitili rudnike na obroncima. U srednjem veku, na mestu ove utvrde Srbi su podigli tvrđavu, koju u 15. veku zauzimaju Osmanlije. Oni su je proširili i ojačali za potrebe napada na Beograd, koji se tada nalazio u mađarskim rukama. Mađari su početkom 16. veka pokušali da zauzmu Žrnov, ali je pokušaj okončan porazom. Nakon pada Beograda 1521. godine, ovo utvrđenje gubi strateški značaj. Grad Žrnov, inače, držao je turski harambaša Porca, u pesmama opevan, koji je kontrolisao i put za Beograd. Okolno stanovništvo strahovalo je od njega, jer ih je napadao, pljačkao i ucenjivao. Smatra se da ga je ubio despot Zmaj Ognjeni Vuk, a njegov grob, kako opisuje Evlija Čelebija, počiva u senci stabla pistaća. Naime, još za života rekao je: „Kada poginem u borbi za pravu vjeru ili kad umrem u ljubavi prema bogu, neka se na mom grobu zasadi kakvo rijetko drvo.“ Ne zna se precizno kada, ali se pretpostavlja da je tvrđava napuštena u 18. veku.
Za vreme Prvog srpskog ustanka u podnožju Avale odigrao se i krvavi sukob izmedu Karađorđevih ustanika i turske vojske. Tom prilikom, veliki broj ljudi iz okolnih sela učestvovao je u borbama za oslobođenje Beograda 1806. godine. Narod je predvodio Karađorđev vojvoda Vasa Čarapić, iz obližnjeg Belog Potoka, poznatiji kao Zmaj od Avale.
Nakon Prvog svetskog rata, lokalni stanovnici pronašli su više grobova srpskih vojnika poginulih u ratu, među kojima i grob jednog neznanog vojnika. Tom vojniku narod je podigao i skromni spomenik, da bi kasnije država odlučila da mu na vrhu Avale podigne reprezentativnije obeležje.
Spomenik Neznanom junaku građen je prema projektu vajara Ivana Meštrovica, u periodu od 1934. do 1938. godine. Obeležje je podignuto u obliku mauzoleja sa karijatidama, koje predstavljaju žene u narodnim nošnjama iz svih jugoslovenskih država. Za ove potrebe dinamitom su razrušeni ostaci Žrnova, tako da danas vidljivi tragovi ovog utvrđenja ne postoje. Inače, prvobitno obeležje podignuto junaku danas se čuva u porti crkve u Belom Potoku, u podnožju planine.
Planinarska kuća Mitrovićev dom podignuta je 1933.godine na mestu prethodnog objekta iz 1902. godine. Dom je nazvan po doktoru Dušanu Mitroviću-Špirti, koji je zaslužan za popularizaciju zimskih sportova i planinarenja među Beograđanima. Prvo zvanično smučarsko takmičenje u Kraljevini Jugoslaviji otvoreno je na Avali 1929. godine. Prvo smučarsko prvenstvo Srbije posle Drugog svetskog rata takođe je otpočelo sa istog mesta.
U neposrednoj blizini vrha Avale je i Spomenik tridesettrojici sovjetskih ratnih veterana, koji su tu poginuli u avionskoj nesreći 19. oktobra 1964. godine, pri dolasku na proslavu dvadesetogodišnjice oslobođenja Beograda. Među poginulima je bio i Maršal Birjuzov.
Ono po čemu je ova planina takode bila poznata je i Avalski TV toranj, kao najviša građevina u tadašnjoj Jugoslaviji. Izgrađen je 1965. godine, na nižem vrhu Avale, ali je srušen u NATO bombardovanju 1999. godine. Novi toranj je završen krajem 2009. godine. Visok je 204 metara, ima dva lifta, restoran (na 119. metara) i vidikovac (na 122-om metru visine).
