Rohde ging in 1976 van FC Paderborn naar 1. FC Köln in de Bundesliga. Zijn inzet bleef bij deze club echter beperkt tot enkele invalbeurten. Vervolgens kwam hij uit voor Rot-Weiß Lüdenscheid in de 2. Bundesliga. Via La Louvière in België kwam Rohde in 1980 bij FC Twente terecht. In zijn eerste officiële duel voor de Tukkers op 24 augustus 1980 tegen Willem II scoorde de spits beide doelpunten.
In drie seizoenen voor FC Twente maakte Rohde 28 doelpunten in 83 officiële wedstrijden. In seizoen 1980/81 kwam hij met Twente uit in de UEFA Cup. Hij scoorde in de thuiswedstrijden tegen IFK Göteborg en Dynamo Dresden. In seizoen 1982/83 degradeerde Rohde met Twente naar de Eerste divisie. Hij vertrok na dat seizoen naar VfB Oldenburg in de 2. Bundesliga.
Rohde kwam vier jaar uit voor Oldenburg. Hij speelde vervolgens nog een jaar voor VfL Herzlake in de hoogste Duitse amateurklasse. Daarna verhuisde hij naar Bad Zwischenahn, waar hij ondernemer werd.