Jest wychowankiem krakowskiego klubu WLKS Krakus Swoszowice. Absolwent Szkoły Mistrzostwa Sportowego o profilu kolarskim w Świdnicy. W lutym 2011 został zawodowym kolarzem duńskiej ekipy Saxo Bank.
W 2012 roku Majka miał wziąć udział w Giro d’Italia, ale uniemożliwiła mu to kontuzja kolana, odniesiona podczas wyścigu Tirreno-Adriático. Leczenie było długotrwałe i zaowocowało brakiem wyników w pierwszej części sezonu.
Pięciokrotny uczestnik Vuelta a España (2011, 2012, 2013, 2015, 2017). Najlepszy wynik zanotował w 2015 roku. Podczas startu w Vuelcie zajął 3. miejsce w klasyfikacji generalnej. Wcześniej zajął 7. miejsce w Giro d’Italia (przez 7 etapów jadąc w białej koszulce lidera klasyfikacji młodzieżowej) i 4. w Tour de Pologne, jadąc przez trzy etapy w koszulce lidera klasyfikacji generalnej. W październiku 2013 zajął 2. miejsce w prestiżowym wyścigu klasycznym Mediolan-Turyn, przegrywając jedynie z Włochem Diego Ulissim oraz 3. miejsce w Giro di Lombardia, przedostatnim wyścigu sezonu w najwyższej kategorii wyścigów UCI World Tour 2013. 19 lipca 2014 jako drugi Polak w historii wygrał etap Tour de France, cztery dni później, podczas 17. etapu, powtórzył to osiągnięcie.
24 lipca, jako pierwszy polski kolarz w historii, zapewnił sobie wygraną w klasyfikacji górskiej Tour de France 2014. Jednocześnie jest to pierwsze zwycięstwo polskiego kolarza w jakiejkolwiek klasyfikacji Tour de France w historii.
7 sierpnia 2014 roku wygrał 5. etap Tour de Pologne z Zakopanego do Štrbskiego Plesa na Słowacji. Następnego dnia powtórzył to osiągnięcie wygrywając etap z Termy Bukowiny do Bukowiny Tatrzańskiej i został liderem wyścigu. 9 sierpnia 2014 został zwycięzcą całego wyścigu.
15 lipca 2015 roku wygrał 11. etap Tour de France z Pau do Cauterets-Vallée de Saint-Savin. W tym samym roku jako pierwszy Polak w historii stanął na podium wyścigu Vuelta a España zajmując 3. miejsce w klasyfikacji generalnej.
24 lipca 2016 roku po raz drugi został zwycięzcą klasyfikacji górskiej w Tour de France.
6 sierpnia 2016 roku zdobył brązowy medal w wyścigu ze startu wspólnego na XXXI Letnich Igrzyskach Olimpijskich w Rio de Janeiro.
Rafał osobiście uczestniczył w wyborze i akceptacji tras, które dostosowane są do zawodnika na każdym poziomie zaawansowania. Jednocześnie każda z nich jest na swój sposób wymagająca i pozostawiająca wiele satysfakcji dla wszystkich, którzy dobiorą odpowiedni dystans do swojego stopnia kondycji i przejadą całą trasę. Zapewne pobyt w Dobczycach pozostawi po sobie wiele pozytywnych wspomnień, które w przyszłości zachęcą do powrotu w te magiczne tereny.
