وبدأ جوتندورف مسيرته كلاعب مع فريق توس نويندورف، بمسقط رأسه، قبل أن يستهل مساره التدريبي مع بلو ستارز زوريخ السويسري في الخمسينات.
وقاد رودي أندية بارزة في ألمانيا الغربية ليذيع صيته عالميًا. وانتقل لتدريب تشيلي (1972-1973) وأستراليا (1978-1979) والصين (1988 و1991-1992) ومنتخبات أخرى خلال مساره التدريبي الذي امتد لنصف قرن.
ودفعه حب المغامرات ودعم الحكومة الألمانية إلى التنقل بين منتخبات متواضعة في إفريقيا وآسيا وبدول مطلة على المحيط الهادئ.
ودرب رواندا بين 1999 و2000 خلال تعافي البلد الإفريقي من حرب أهلية في 1994 أسفرت عن مقتل نحو مليون شخص.
وقال جوتندورف في مقابلة لهيئة الإذاعة البريطانية (بي.بي.سي) في 2013 "لا يمكن تصديق هذا الكم من الكراهية لكنني كنت قادرًا على توحيد قبيلتين للعب كرة القدم بشكل جيد" في إشارة إلى قبيلتي هوتو وتوتسي المتنازعتين آنذاك.