Om Joseph Grimeland er det blitt sagt at han er en klassisk naturalist og ingen sosialrealist, i motsetning til mange av de andre kunstnerne som samtidig med ham arbeidet på utsmykkingen av Oslo Rådhus. Dette var han selv klar over, og han betraktet seg som en kunstner som bevisst benyttet seg av tidligere tiders erfaringer, særlig impulser fra antikkens greske og hellenistiske kunst. Selv mente Grimeland at antikkens kunst har vært forbilledlig for nyere tids skulptur i mer enn 500 år, og han fant ikke noe alternativ til den klassiske naturalisme.
Grimeland vokste opp i Kristiania/Oslo. Grunnlaget for interessen for det klassiske ble lagt i hjemmet. Faren la særlig vekt på den klassiske dannelse og drev i mange år en ansett privatskole, som etter hvert fikk filialer en rekke steder på Østlandet. Han var også en sentral skikkelse i foreningen Kjenn Ditt Land. Joseph tok examen artium som 17-åring og begynte straks på Statens Kunstakademi, hvor han studerte under Wilhelm Rasmussen frem til 1936. Her ble mye av hans syn på figurativ kunst formet.
1938 vant Grimeland en av de mange konkurransene om utsmykking av Oslo Rådhus; hans bidrag skulle plasseres over hovedinngangen mot Borggården, i rommet mellom tårnene. Skulpturen, som fremstod med friskhet og ynde, ble av pressen raskt døpt til Oslo-piken. Utkastet viste en draperikledd ung pike, mens det ferdige resultatet viser en naken, lettere idealisert ung kvinne skride frem og ned, med armene hevet. Skulpturen er plassert 30 m over bakkenivå og kontrasterer omgivelsenes statiske teglsteinsformer. Det skulle gå mange år før Oslo-piken kom på plass, bl.a. på grunn av krigen; under eksplosjonen på Filipstad 1943 falt ateliertaket ned, og arbeidet ble forsinket.
Etter den annen verdenskrig var Grimeland en av mange skulptører som ble engasjert til å utføre minnesmerker over krigens falne. Ved Nordre Skøyen i Oslo laget han 1946 et arkitektonisk minnesmerke i granitt, formet som et gresk tempel. I fronten, på hver av søylene, står to kvinnefigurer i relieff, nesten som karyatider. Foran minnetavlen står en mannsfigur i bronse, knelende med venstre arm hevet. Monumentet viser tydelig hvilke formmessige uttrykk Grimeland behersker: Kvinnefigurene er forenklet i formen og tenderer mot en syntetisme, ikke ulikt det man kjenner fra Aristide Maillols verker fra begynnelsen av 1900-tallet, og som også kan sees hos Gustav Vigeland. Mannsfiguren er klassisk realistisk fremstilt og kontrasterer både kvinnefigurenes og arkitekturens statiske karakter.
1980 ble Grimelands monument over krigsseilerne avduket på Bygdøynes i Oslo. Her har han ved hjelp av enkle virkemidler latt fem mannsfigurer visualisere det dramatiske ved en torpedering og mannskapet som må gå i livbåtene. Realismen er påtrengende, og både dramatikken og tragedien forsterkes gjennom figurenes positur, gester og hvordan klærne er drapert mot kroppen. Grimelands formspråk kan karakteriseres som eklektisk, men uten at det er kopierende. Eklektismen viser seg kan hende tydeligst i disse to krigsminnesmerkene.
En senere skulpturgruppe er Blinde tiggere fra Marrakech (1983), opprinnelig plassert i Studenterlunden i Oslo, men nå ved Røa kirke. Dette er en figurgruppe i bronse, utført i en streng realisme, og lidelsen står klart å lese i mennenes ansikts- og kroppsuttrykk. Figurenes grove overflatestruktur kan minne om flere av Auguste Rodins skulpturer.
Grimeland virket også som bokillustratør (bl.a. Shakespeares sonetter), og i midten av 1950-årene utførte han en rekke teaterdekorasjoner, bl.a. for Nationaltheatret, hvor han senere også laget flere portrettbyster. Helt siden debuten var han en produktiv skulptør, og utførte – i tillegg til monumentalarbeider – en rekke portretter og skulpturer av markante personer, bl.a. Bokken Lasson (1963) i Oslo og Anders Jahre (1975) i Sandefjord. 1998 ble det avduket en skulptur av kong Olav 5 i admiralsuniform i Asker og en portrettbyste av Knut Wigert i Nationaltheatret.
Joseph Grimeland var formann i Norsk Billedhuggerforening 1974–78. Han fikk Kongens fortjenstmedalje i gull 1950. Grimeland måtte ofte stå på barrikadene for sitt kunstsyn, som er blitt betegnet som konservativt, og 1965 utgav han boken Moderne kunst hvorhen? sammen med Øistein Thurmann-Nielsen.
Høsten 2002 reiste Grimeland til Danmark for å forsøke akupunkturbehandling for sitt sviktende syn. Han døde under oppholdet.