Höss 1900. november 25-én született Baden-Badenben, Németországban. Szülei Franz Xaver Höss és Lina Höss voltak. Három gyermek közül ő volt a legidősebb, és az egyetlen fiú. Höss családja nagyon katolikus volt.
Önéletrajzában Höss elmondta, hogy gyermekkorában rövid időre elrabolták a cigányok.
Höss apja egykori német katonatiszt volt, aki Német Kelet-Afrikában szolgált (a német gyarmat, amely a mai Burundi, Ruanda és Tanzánia egy részét foglalta magába). A hadseregből való távozása után tea- és kávéüzletet vezetett. Fiát szigorú katolikus hit alapján és katonai fegyelemmel nevelte. Elhatározta, hogy Höss katolikus pap lesz. Höss kisgyermekkorában állandóan a bűnről, a bűntudatról és a vezeklés szükségességéről beszéltek neki.
Höss fiatal tizenévesként kezdett a vallás ellen fordulni. Ez azután történt, hogy gyóntatott egy papnak (elmondta a papnak, hogy mit csinált rosszul). A katolicizmusban a "gyónási pecsét" állítólag sérthetetlen. Ez azt jelenti, hogy a pap soha nem mondhatja el senkinek, hogy valaki mit mondott a gyónásban. Höss azt mondta, hogy akkor kezdte el nem szeretni a vallást, amikor a pap elmondta Höss apjának, hogy Höss mit mondott a gyónásban. Nem sokkal ezután Höss apja meghalt, és Höss a katonai élet felé kezdett el mozdulni.
Az első világháború kitörésekor Höss rövid ideig egy katonai kórházban szolgált. Aztán 14 évesen beléphetett apja és nagyapja régi ezredébe, a német hadsereg 21. dragonyos ezredébe. 15 évesen az oszmán hatodik hadseregben harcolt Bagdadnál, Kut-el-Amaránál és Palesztinában. Törökországi állomásozása során Feldwebel (őrmester) rangot kapott. 17 évesen ő volt a német hadsereg legfiatalabb altisztje. A hadseregben szolgálva háromszor megsebesült és maláriás lett. Megkapta az Oszmán Birodalom Gallipoli Csillagát, az első és másodosztályú Vaskeresztet és más kitüntetéseket.
Náci karrier
Miután Németország 1918 novemberében megadta magát, Höss befejezte a középiskolát. Hamarosan csatlakozott a formálódó nacionalista félkatonai csoportokhoz. Először a kelet-porosz önkéntes alakulathoz csatlakozott. Ezután a Freikorps Rossbachhoz csatlakozott a Balti-tenger környéki országokban, Sziléziában és a Ruhr-vidéken. Höss részt vett a sziléziai felkelések idején (amikor a lengyelek megpróbáltak elszakadni a német fennhatóság alól) a lengyelek elleni fegyveres terrortámadásokban. Részt vett a Ruhr-vidék megszállása idején (amikor a németországi Ruhr-völgyet Franciaország és Belgium megszállta) francia állampolgárok elleni terrortámadásokban is.
Höss 1922-ben lépett be a náci pártba, miután meghallotta Adolf Hitler müncheni beszédét. Höss legalább egy politikai merényletet vezetett, és ezért hat évet töltött börtönben.
1923. május 31-én a németországi Mecklenburgban Höss és a Freikorps (német önkéntes katonák) tagjai agyonvertek egy Walther Kadow nevű helyi tanárt. Ezt azért tették, mert Martin Bormann ezt akarta tőlük. Bormann később Hitler magántitkára lett. Bormann azt hitte, hogy Kadow elmondta a francia megszálló kormánynak, hogy Albert Leo Schlageter náci katona szabotálta a francia utánpótlási vonalakat. Schlagetert letartóztatták és 1923. május 26-án kivégezték. Nem sokkal később Höss és több bűntársa, köztük Bormann, bosszúból megölteadowt. Miután 1923-ban az egyik gyilkos vallomást tett egy helyi újságnak, Höss-t letartóztatták és a gyilkosság vezetőjeként bíróság elé állították. Höss később azt mondta, hogy valójában egy másik férfi volt a felelős, de akkoriban Höss mint a csoport vezetője vállalta a felelősséget. Elítélték és el is ítélték (1924. május 15-én vagy 17-én). Büntetése 10 év brandenburgi fegyházban (börtön) letöltendő szabadságvesztés volt. Bormannt egy év börtönbüntetésre ítélték.
Höss 1928 júliusában egy általános amnesztia keretében szabadult. Csatlakozott a Völkisch mozgalomhoz ("Artaman Liga"), egy nacionalista "vissza a földhöz" mozgalomhoz, amely a tiszta, tanyasi életmódot támogatta.
Höss 1929. augusztus 17-én vette feleségül Hedwig Henselt (1908. március 3. - 1989), akit az Artaman Ligában ismert meg. 1930 és 1943 között öt gyermekük született: két fiú (Klaus és Hans-Rudolf) és három lány (Ingebrigitt, Heidetraut és Annegret).
Csatlakozás az SS-hez
Höss 1934. április 1-jén lett az SS tagja, amikor Heinrich Himmler minden náci férfit az SS-hez való csatlakozásra buzdított. Höss még ugyanebben az évben csatlakozott az SS-Totenkopfverbände (halálfejes egységek) kötelékéhez. Annyira csodálta Himmlert, hogy bármit mondott Himmler, azt "evangéliumnak" tekintette. Még Himmler képét is szívesebben tette ki az irodájában Hitleré helyett.
Höss 1934 decemberében került a dachaui koncentrációs táborba. Ott a Blockführer ("blokkvezető") posztot töltötte be, ami azt jelentette, hogy egy barakknyi fogolyért volt felelős. 1938-ban Höss SS-Hauptsturmführerré (századossá) léptették elő, és Hermann Baranowski segédje lett a Sachsenhausen-i koncentrációs táborban.
Höss 1939-ben csatlakozott a Waffen-SS-hez, miután a náci Németország megszállta Lengyelországot. Höss jól végezte a munkáját, és a főnökei azt javasolták, hogy léptessék elő (kapjon jobb munkát). Az ottani szolgálati idő végére Höss a foglyok holmijáért felelt.
Auschwitz parancsnoksága
1940. május 1-jén Höss lett Auschwitz parancsnoka, amely egy koncentrációs tábor és egy megsemmisítő tábor kombinációja volt. Höss három és fél évig volt a tábor parancsnoka. Ez idő alatt az eredeti tábort egy hatalmas komplexummá (táborcsoporttá) alakította át, amelyet Auschwitz-Birkenaunak neveztek el. Höss azzal az elhatározással ment Auschwitzba, hogy "másképp csinálja a dolgokat", és egy hatékonyabb tábort alakít ki, mint a dachaui és a sachsenhauseni tábor, ahol korábban dolgozott. Höss Auschwitzban egy villában élt feleségével és öt gyermekével.
Auschwitz legkorábbi foglyai szovjet hadifoglyok és lengyel foglyok voltak, köztük parasztok és értelmiségiek. Körülbelül 700 ilyen fogoly érkezett Auschwitzba 1940 júniusában; a náci őrök azt mondták nekik, hogy 3 hónapnál tovább nem fogják túlélni.
Auschwitz a legnagyobb kiterjedésében három nagy táborból állt:
- Auschwitz I: Az egész komplexum adminisztratív központja
- Auschwitz II (Auschwitz-Birkenau): A megsemmisítő tábor, ahová az embereket azonnali megölésre küldték.
- Auschwitz III (Monowitz): Farben, majd később más német vállalatok számára rabszolgamunkára kényszerített foglyok.
A közelben számos kisebb "altábor" is volt. Az Auschwitz-komplexum mintegy 8000 hektáron épült, amelyet minden ott élő személytől megtisztítottak.
1941 júniusában Höss Berlinben találkozott Heinrich Himmler SS-parancsnokkal. Himmler elmondta Hössnek, hogy Hitler kiadta a Végső Megoldás parancsát - az egész zsidó nép megölésére. Himmler Auschwitzot jelölte ki az európai zsidók kiirtásának helyszínéül. Auschwitzot "[azért] választotta, mert könnyen megközelíthető volt vasúton [vonattal], és azért is, mert a kiterjedt terület helyet kínált az elszigetelést biztosító intézkedésekhez". Ez azt jelentette, hogy Auschwitz elég nagy volt ahhoz, hogy a zsidók népirtását titokban lehessen tartani. Himmler a projektet "titkos birodalmi ügynek" nevezte. Höss később azt mondta, hogy "senki sem beszélhetett ezekről az ügyekről senkivel, és mindenki az életére esküdött, hogy a legnagyobb titoktartásra kötelezi magát".
Höss 1941. szeptember 3-án kezdte meg a tömeggyilkossági technikák tesztelését és tökéletesítését. Kísérletei révén Auschwitz lett az a tábor, ahol a holokauszt során a legtöbb foglyot ölték meg. Höss később azt mondta, hogy Auschwitzban egy átlagos nap során négy-hat héten keresztül naponta két-három, egyenként 2000 foglyot szállító vonat érkezett. A foglyokat a birkenaui haláltáborban rakodták ki. Az erős, egészséges és munkaképes foglyokat a birkenaui vagy valamelyik másik auschwitzi táborban lévő barakkokba vitték. Az idős, nagyon fiatal, beteg vagy kényszermunkára képtelen foglyokat a zuhanyzónak álcázott gázkamrákban ölték meg. Eleinte a kis gázosító bunkereket az erdő mélyén helyezték el, hogy titokban tartsák őket. Később négy nagy gázkamrát és krematóriumot építettek Birkenauban, hogy a nácik könnyebben és gyorsabban tudjanak több embert megölni.
Technikailag nem volt olyan nehéz - nem lett volna nehéz kiirtani még nagyobb számokat sem..... Maga az öldöklés vette igénybe a legkevesebb időt. Fél óra alatt meg lehetett volna szabadulni 2000 [embertől], de az elégetés volt az, ami az összes időt igénybe vette. A gyilkolás könnyű volt; még őrökre sem volt szükség, hogy a kamrákba tereljék őket; csak bementek, és arra számítottak, hogy lezuhanyoznak, de víz helyett mérges gázt kapcsoltunk be. Az egész dolog nagyon gyorsan ment.
Höss különböző mérges gázokkal kísérletezett. Először kénsavval átitatott pamutszűrőket használt. Höss később a Zyklon B növényvédőszerből előállított hidrogén-cianidot (borkősav) kezdte használni, miután helyettese, Karl Fritzsch 1941-ben orosz foglyok egy csoportján tesztelte. Höss azt mondta, hogy amikor a Zyklon B-t használta, a foglyok halála 3-15 percig tartott, és "tudtuk, hogy az emberek meghaltak, mert abbahagyták a sikoltozást".
Auschwitz után
1943. november 10-én Arthur Liebehenschel lett Auschwitz parancsnoka. Höss vette át Liebehenschel utolsó munkakörét, a koncentrációs táborokat irányító SS-Wirtschafts-Verwaltungshauptamt (WVHA) Amtsgruppe D I. hivatalának elnökeként. Höss emellett az összes koncentrációs tábor felügyelőjének, Richard Glücksnak a helyettesévé (asszisztensévé) is kinevezték.
1944. május 8-án Höss visszatért Auschwitzba, hogy felügyelje az Aktion Höss műveletet. Az Aktion Höss keretében 430 000 magyar zsidót küldtek Auschwitzba, és 56 nap alatt megöltek. Még a Höss által épített hatalmas létesítmény sem tudta kezelni az áldozatok hatalmas számú holttestét. A tábor személyzetének több ezer holttestet kellett nyílt tűzrakóhelyeken elégetnie.