Tavernier begon zijn carrière bij de jeugd van Newcastle United FC en Middlesbrough FC tot hij in de zomer van 2017 de overstap maakte naar de eerste ploeg. Op 28 oktober 2017 maakte hij zijn debuut in de Championship in de uitwedstrijd tegen Reading FC. Tavernier werd na 62 minuten vervangen door Marvin Johnson.[1] Op 5 november 2017 maakte Tavernier zijn eerste doelpunt in de met 1–0 gewonnen wedstrijd tegen Sunderland AFC.[2] In januari 2018 werd Tavernier een half seizoen verhuurd aan MK Dons.