Michael Schumacher öccse már fiatalon közelebbi kapcsolatba került a gokartozással, ahol komoly sikereket ért el. 1994-ben a WTS Racing színeiben a Formula 3-ban kezdett versenyezni. A csapat tulajdonosa nem más volt, mint Willi Weber, bátyja menedzsere. A szezon végén megszerezte első győzelmét, és ezzel együtt az összetett pontverseny harmadik helyéhez szükséges pontokat is.

A következő idényben Norberto Fontanával csatázott a bajnoki címért, a harcot azonban elveszítette. 1996-tól a japán Formula 3000-ben csiszolgatta tehetségét. Három diadalt aratott, és az utolsó futamon elhódította a bajnoki címet is. 1997-ben debütált a Formula 1-ben, -testvéréhez hasonlóan- a Jordan istállónál. A harmadik futamon, Buenos Aires-ben már a dobogóra is felállhatott, köszönhetően annak, hogy a harmadik helyen végzett. Gyorsasága és a túlzott akarása miatt többször is balesetbe keveredett. A következő év is hasonlóan telt, amikor Damon Hill csapattársa volt. A Belga Nagydíjon, spa-Francorchamps-ban bebizonyította, hogy esőben is képes professzionális teljesítményt nyújtani .A versenyen Hill vezérletével kettős győzelmet arattak. Az évad végén távozott Eddie Jordan alakulatától és 1999-re a Williams istállóhoz igazolt.

Csapattársánál, Alex Zanardinál klasszisokkal jobban szerepelt, és alkalomadtán dobogós helyezéseket is el tudott csípni. 35 pontot gyűjtött, míg Zanardi CART bajnokként pont nélkül fejezte be az idényt. 2000-ben is a Williamsnél maradt. A csapat új motorszállítója, a BMW remek Formula 1-es visszatérést produkált, hisz Ralf a harmadik helyen végzett Melbourne-ben. A a Button-Schumacher kettős kiválóan szerepelt, így gárda a harmadik helyet szerezte meg a konstruktőrök között az évad végén.

Első F1-es futamgyőzelmét 2001-ben a San Marino-i Nagydíjon, Imolában aratta. Szezon közben még kétszer állhatott fel a dobogó legfelső fokára, így David Coultharddal és Rubens Barrichelloval csatázhatott az összetett pontverseny harmadik helyéért. A harcot elveszítette, a skót és a brazil is megelőzte, így meg kellett elégednie a negyedik hellyel.

A 2002-es év a lehető legrosszabbul kezdődött Ralf számára, ugyanis a szezonnyitó Ausztrál Nagydíj első körének első kanyarjában összeütközött Rubens Barrichelloval, többször megpördült a levegőben és a kavicságyban landolva fejezte be a futamot, még mielőtt elkezdhette volna. A Maláj Nagydíj már jobban sikerült, és Sepangban szezonbeli egyetlen győzelmét arathatta. Az év végén Montoya mögött a negyedik helyet szerezte meg.

Ralf a 2003-as szezonnak már potenciális világbajnoki esélyesként vágott neki. A szezon első felében a Williams istállónak gondjai voltak az FW25 kódjelű konstrukcióval, ennek ellenére Ralf ebben a szakaszban is jól szerepelt. Folyamatosan pontszerző helyeken ért célba, a Nürburgringen és Magny-Cours-ban pedig tovább gyarapította győzelmei számát. Az idény második felében alábbhagyott a német versenyző lendülete. Az Olasz Nagydíj előtt komoly tesztbalesetet szenvedett, ami miatt Monzában nem állhatott rajthoz, így végül 58 ponttal az ötödik helyet szerezte meg a versenyzők világbajnoki tabelláján. A feleségük ki nem álhatják egymást és ez a testvérek rovására megy. De ők egy összetartó testvér pár nemcsak a pályán de otthon is.