Născut la Kupio pe 2 decembrie 1889, Hannes a fost cel dintâi atlet al unei generaţii ce avea să stăpânească toate competiţiile de alergare fond de timp de aproximativ două decenii la începutul secolului XX.
Născut într-o familie de sportivi, fraţii lui Hanne, William şi Tatu, erau, de asemenea, alergători pe distanţe mari. Vegetarian convins şi constructor de profesie, Kolehmainen nu a luat în serios alergatul până când s-a înscris în clubul din Kuopio. Înainte de Olimpiada de la Stockholm din 1912, sportivul a fost transferat la Helsinki, unde, alături de fratele său a avut de înfruntat o serie de obstacole politice din cauza convingerilor sale.
În 1912, Finlanda făcea parte din Imperiul Rus, dar mai mulţi sportivi militau pentru obţinerea independenţei. Hannes a reuşit să participe la Olimpiada de la Stockholm doar după ce a fost ajutat să strângă fonduri care să-i permită să deplasarea şi pregătirea pentru Jocurile Olimpice.
"Hannes cel zâmbitor" a adus Finlandei primul aur la atletism, alergând o cursă spectaculoasă la 5.000 metri împotriva campionului francez Jean Bouin, deţinătorul recordului mondial de la acea dată. Francezul, aflat pe finalul carierei, a impus un ritm foarte ridicat şi a condus pe toată durata cursei. Kolehmainen a stat în urma sa şi nu i-a permis să se distanţeze niciun moment. Pe ultimii metri, Hannes a accelerat şi a reuşit să îl depăşească pe recordmanul mondial cu 0,1 secunde. Kolehmainen a oprit cronometrul al 14 minute şi 36,6 secunde, un nou record mondial.
Pe 8 iulie 1912, Kolehmainen s-a aliniat la startul finalei cursei de 10.000 de metri. După primii 5.000 de metri, el era singurul sportiv din istorie care parcursese distanţa în mai puţin de 15 minute. Finlandezul şi-a păstrat şi mărit avantajul până la final încheind cursa pe primul loc. Cronometrul arăta 31 de minute şi 20,8 secunde,