A doua bătălie de la Tapae a avut loc în anul 101, fiind decisivă pentru soarta primului război daco-roman (101 – 102), în urma căruia romanii ocupă poziţii hotărîtoare pentru cucerirea Daciei.

Transformarea Daciei în provincie romană putea oferi un avanpost strategic, iar resursele minerale şi agricole de aici erau considerabile. Pe lîngă acestea, împăratul, Traian era „copleşit cînd se gîndea la sumele de bani pe care trebuiau să le plătească în fiecare an” şi vedea cum „puterea şi îngîmfarea dacilor sporesc necontenit”, povestește Cassius Dio.

Traian trece Dunărea cu armată care întrune 13 legiuni, la care s-au adăugat unităţi de cavalerie și infanterie, trupe auxiliare, în total circa 150 000 oameni. Traian a primit din partea aliaţilor lui Decebal (burii germanici, bastarnii şi roxolanii) un mesaj scris pe o ciupercă uriașă în care se propunea retragerea armatei romane. Traian a neglijat acest mesaj. Armata romană a construit la 8 km de Poarta de Fier un castru de marş pentru a se apăra. Bătălia a început printr-un atac al trupelor de cavalerie romane, urmate de trupele auxiliare de infanterie. Decebal a declanşat o contraofensivă, dar romanii au reuşit străpungerea dispozitivului dacilor. Un factor neaşteptat care a determinat retragerea dacilor a fost trăsnetul care a lovit pe unul dintre fruntaşii lor, interpretat probabil ca un semn divin (scena este reprezentată pe Columna lui Traian). Bătălia dată pentru forţarea trecătorii a provocat pierderi mari de ambele părţi, fiind cu greu cîştigată de Traian. Singurele informaţii scrise referitoare la bătălie ne parvin de la Xiphilinus: „Traian … îşi văzu răniţi pe mulţi dintre ai săi şi ucise mulţi duşmani. Deoarece îi lipseau bandajele, se zice că nu şi-a cruţat nici propriile veşminte, ci le-a tăiat fîşii. Apoi a poruncit să se ridice un altar soldaţilor căzuţi în luptă şi să le aducă în fiecare an jertfă pentru morţi”.

Bătălia de la Tapae a fost o victorie parţială, deoarece, cu forţele care i-au rămas, Decebal s-a retras în zona cetăţilor din Munţii Orăştiei. Armata romană a continuat marşul spre capitala lui Decebal, asediind şi cucerind mai multe fortificaţii. Într-una dintre aceste cetăţi dacice au fost recuperate armele şi stindardul pierdute la înfrîngerea lui Cornelius Fuscus. Fiindcă armata romană a cucerit sudul Daciei şi a pătruns pînă în apropierea capitalei, Decebal a iniţiat tratative de armistiţiu, trimiţînd o solie de nobili la Traian. Era în realitate o diversiune, care pregătea contraofensiva care se va desfăşura la sud de Dunăre în iarna anilor 101-102.