Od 1922 r. Harry Truman pełnił funkcję sędziego sądu okręgowego wschodniej części hrabstwa Jackson. Była to funkcja bardziej związana z administracją hrabstwa niż z lokalnym systemem sprawiedliwości, sąd okręgowy pełnił bowiem zadania rady powiatowej. Truman został jego przewodniczącym dwa razy: w 1926 i 1930 r. Jako przewodniczący Truman wspomógł lansowany przez Toma Pendergasta 10-letni plan reformy hrabstwa. W 1933 r. na wniosek poczmistrza generalnego Stanów Zjednoczonych Jamesa Farleya sędzia Truman został mianowany dyrektorem stanowego oddziału federalnego programu przywrócenia poziomu zatrudnienia sprzed wielkiego kryzysu (Federal Re-Employment program). Jego zadaniem była administracja projektem robót cywilnych. W rzeczywistości było to podziękowanie prezydenta Roosevelta dla wspierającego go w tym regionie wyborczym Toma Pendergasta. Nominacja potwierdzała, że w czasie prezydentury demokraty w Kansas City rządzić będzie właśnie Pendergast. Było w tym coś mafijnego, ale wobec gigantycznego bezrobocia i olbrzymich problemów społecznych nikt na ten układ nie zwracał uwagi. 
Z powiatu do senatu
W 1934 r., pod koniec swojej drugiej kadencji w roli przewodniczącego sądu okręgowego, Harry Truman zapragnął spróbować sił w wyborach na gubernatora stanu Missouri. Jednak Tom Pendergast uznał, że jest na to za wcześnie. Zawiedziony sędzia poprosił więc o jakieś dobrze płatne stanowisko we władzach hrabstwa. Pendergast nie miał pomysłu, jak zagospodarować talenty swojego przyjaciela, a jednocześnie nie chciał go utracić z szeregów partii. Niechętnie więc wystawił Trumana jako piątego na liście kandydatów do partyjnych prawyborów senatorskich. Wydawało się, że były sędzia okręgowy nie ma żadnych szans w szrankach wyborczych z uznanymi i doświadczonymi politykami z pierwszych miejsc na liście. Jednak – ku zdumieniu Pendergasta – Trumanowi udało się pokonać w prawyborach demokratycznych dwóch kongresmenów hrabstwa Jackson: Johna J. Cochrana i Jacoba L. Milligana. Następnie ten niepozorny weteran wojenny pokonał urzędującego republikanina Roscoe C. Pattersona o prawie 20 punktów procentowych. Czy była to zasługa jego talentów politycznych? A może koneksji masońskich? Wszystko wskazuje, że Truman dostał się po prostu na fali zwycięstw kandydatów Partii Demokratycznej, która przetoczyła się przez cały kraj wraz z ogłoszeniem przez prezydenta Franklina D. Roosevelta Nowego Ładu – szerokiego programu naprawy państwa. Nowemu senatorowi nawet przez myśl nie przeszło, że za kilka lat zostanie zastępcą tego prezydenta. Na razie, w 1934 r., był oszołomiony niespodziewanym zwycięstwem. Do stolicy jechał z łatką „senatora od Pendergasta”. Wydawało się, że będzie chodził na smyczy swojego potężnego mocodawcy. Truman nie wypierał się jednak swoich powiązań z Pendergastem, choć podkreślał na każdym kroku, że głosuje jedynie w zgodzie z własnym sumieniem.
Jako senator opowiedział się za ograniczeniem spekulacji giełdowych i stworzeniem ścisłych reguł obrotu akcjami na Wall Street. Nie był jednak lewakiem. Bał się powtórki krachu giełdowego z 1929 r., ale szczerze popierał gospodarkę wolnorynkową. 
Zapewne od swojej matki przejął też radykalne poglądy rasistowskie. Naprawdę nie lubił kolorowych i wcale tego nie krył. W swojej kontrowersyjnej książce o historii Stanów Zjednoczonych Oliver Stone podaje informację, że na początku lat 30. Truman wygłosił w swojej sali sądowej opinię, która nie pozostawiała złudzeń co do charakteru jego poglądów na sprawy segregacji rasowej: „Każdy człowiek jest dobry, o ile będzie uczciwy i nie jest czarnuchem albo żółtkiem. Bóg stworzył białych z prochu, a czarnych z błota, wymieszał resztki i powstał Chińczyk”. Czy powinniśmy jednak wierzyć w tę relację czołowemu amerykańskiemu lewakowi, który na co dzień zachwyca się Stalinem i Putinem? W tym wypadku chyba tak, ponieważ ten lekceważący stosunek Trumana do przedstawicieli innych ras wyraził się prawdopodobnie także w decyzji zrzucenia dwóch bomb atomowych na japońskie miasta w sierpniu 1945 r. Truman naprawdę uważał wówczas Japończyków za podgatunek ludzi.
Afera Pendergasta
Nowy senator z Missouri dość szybko awansował w strukturach Izby Wyższej. Narzekał jedynie, że choć jest członkiem ważnej z punktu widzenia Nowego Ładu komisji do spraw handlu międzystanowego, prezydent unika z nim kontaktów. Ilekroć w kluczowych sprawach próbował połączyć się z Białym Domem, prezydent Roosevelt z jakichś błahych powodów odmawiał rozmowy.
W 1940 r. dalsza kariera polityczna Trumana nagle stanęła pod znakiem zapytania, kiedy prokurator stanu Missouri Maurice Milligan i gubernator Missouri Lloyd C. Stark postanowili odebrać mu mandat senatorski w prawyborach partyjnych, po tym jak aresztowano za oszustwa podatkowe jego politycznego mentora Toma Pendergasta. Truman bronił swojego szefa, twierdząc, że zarzuty są wyssane z palca i jest to tylko prowokacja republikańskich sędziów. 
Sprawa była jednak znacznie bardziej złożona. W 1936 r. Tom Pendergast poparł w wyborach na gubernatora Lloyda C. Starka, spadkobiercę wielkiej fortuny hodowców najbardziej lubianego w Ameryce gatunku jabłek Golden Delicious. W czasie wyborów gubernatorskich Tom Pendergast przebywał za granicą. Pod jego nieobecność w hrabstwie doszło do strzelaniny w stylu gangsterskim. Prasa krajowa wzięła Pendergasta na celownik. „Polityczny Al Capone”, grzmiały nagłówki czołowych dzienników. Zniesmaczony prezydent, mimo że wiele zawdzięczał Pendergastowi, nakazał wszcząć przeciw niemu śledztwo. Nie mając jednak na Pendergasta haka o charakterze kryminalnym, prezydent wysłał do hrabstwa Jackson sekretarza skarbu Henry’ego Morgenthau, aby ten zbadał kwestię korupcji lokalnych struktur partyjnych. W związku ze śledztwem, zaniepokojony o własną przyszłość gubernator Stark zwrócił się przeciwko Pendergastowi, wszczynając własne dochodzenia stanowe i zabierając Pendergastowi kontrolę nad funduszami stanowymi. Dochodzenie wykazało, że w hrabstwie Jackson istnieje potężny układ mafijny obejmujący cały stan Missouri. W 1939 r. Edward L. Schneider, skarbnik Pendergasta, odebrał sobie życie. Sam Tom Pendergast totalnie się załamał, kiedy został skazany na 15 miesięcy więzienia za łapówki i unikanie podatków. Wkrótce zdiagnozowano u niego raka jelita grubego. Resztę życia spędził samotnie, nie opuszczając domu. Zmarł 26 stycznia 1945 r.
Po tym jak Pendergast został skazany za uchylanie się od płacenia podatku dochodowego, gubernator Missouri Lloyd C. Stark usiłował usunąć Trumana z listy kandydatów w wyborach do Senatu USA w 1940 r. Truman nigdy tego nie zapomniał Starkowi. To była bardzo gorzka kampania, która sprawiła, że obaj mężczyźni przez całe życie byli śmiertelnymi wrogami. Wydawało się, że to już koniec kariery politycznej byłego bohatera wojennego. Jednak wola wyborców dziwnymi drogami kroczy. Kiedy przeciw Trumanowi w wyborach wystartował prokurator Maurice Milligan, który prowadził śledztwo przeciw Pendergastowi, część opinii publicznej uznała, że śledztwo było uknute tylko po to, żeby przejąć władzę i kontrolę nad finansami stanowymi. Truman bez problemu wygrał wybory. 
Szybko zmył z siebie wszelkie podejrzenia o związki z układem korupcyjnym Pendergasta, kiedy stanowczo zażądał powołania komisji ds. zbadania efektywności programów zbrojeniowych. Senat wyraził zgodę i mianował pomysłodawcę przewodniczącym. Stąd komisja ta przeszła do historii jako „komisja Trumana”. Błyskawiczna reforma sił zbrojnych, zwiększenie kontraktów zbrojeniowych i wsparcie finansowe armii przysporzyło Trumanowi popularności. Znów mówiono o nim jako o bohaterze wojennym. 
Niespodziewany dar losu
W 1944 r. prezydent Roosevelt postanowił ubiegać się o czwartą kadencję. Był to precedens w historii USA. Niepisaną bowiem zasadą amerykańskiej tradycji politycznej było pełnienie funkcji prezydenta Stanów Zjednoczonych przez najwyżej dwie kadencje na wzór pierwszego prezydenta, generała Jerzego Waszyngtona. 
Amerykańska opinia publiczna wyraziła jednak aprobatę na trzecią i czwartą kadencję Franklina D. Roosevelta tylko i wyłącznie ze względu na toczącą się wojnę. Uznano, że zwierzchnik sił zbrojnych powinien mieć prawo dokończyć swoją misję obrony ojczyzny. Nie uważano jednak, że taki przywilej należy się wiceprezydentowi. Między innymi dlatego prezydent Roosevelt postanowił zmienić swojego wiceprezydenta Henry’ego Agarda Wallace’a na kogoś, kto cieszy się większym zaufaniem społecznym. Roosevelt zdawał sobie sprawę, że jego zdrowie jest w tak fatalnym stanie, że wkrótce będzie musiał opuścić Biały Dom. Wyczuwał zbliżający się koniec życia. Jednak decyzję o wyborze swojego następcy pozostawił kierownictwu Partii Demokratycznej. Lipcowa konwencja demokratów już w drugim głosowaniu wybrała na kandydata do wiceprezydentury Harry’ego Trumana. 
Obaj, Roosevelt i Truman, zostali zaprzysiężeni 20 stycznia 1945 r. Były sprzedawca krawatów był już teraz o krok od prezydentury. Czy się z tego cieszył? Bez wątpienia lubił pracę w Senacie. Nie znosił ochrony i narzucania mu obowiązków. Prezydenta postrzegał jako więźnia Białego Domu. Bycie wiceprezydentem było spełnieniem wszystkich jego ambicji i pragnień. Prezydentura była już czymś, co postrzegał jako wyzwanie znacznie przerastające jego siły. Opatrzność jednak już wybrała jego los. Tylko nieliczne osoby z otoczenia prezydenta Roosevelta wiedziały, w jak fatalnym stanie jest jego zdrowie. Ci ludzie nie byli więc zaskoczeni, kiedy 12 kwietnia 1945 r., zaledwie trzy miesiące po zaprzysiężeniu na czwartą kadencję prezydencką, Franklin D. Roosevelt doznał udaru i zmarł. Tego samego dnia wezwano do Białego Domu zaskoczonego wiceprezydenta. Podobno w hallu głównym prezydenckiej rezydencji przywitała go pierwsza dama Eleonore Roosevelt. Truman zapytał ją, czy może coś dla niej zrobić? Odpowiedziała: „Czy jest coś, co możemy zrobić dla ciebie? Teraz ty jesteś w tarapatach!”.