È rimasta famosa la prima delle otto conferenze da lui tenute in difesa della religione cristiana, A confutation of atheism (1692), in cui dimostrò l'esistenza di Dio basandosi sulla recente scoperta di Newton. Fu nominato bibliotecario reale nel 1694 e, nel 1699, master del Trinity College, dove rimase fino alla morte, nonostante l'ininterrotta ostilità dei Fellows. Al B. si deve la correzione di moltissimi testi antichi e l'instaurazione della critica scientifica. Con la Dissertation upon the Epistles of Phalaris (1699), denunciò l'evidente inautenticità di quelle epistole. Tra i suoi scritti più rinomati va ricordato Remarks upon a late discourse of Freethinking (1713), in cui mette in ridicolo Anthony Collins in quanto deista e critico del Credo cristiano.
Il suo stile sempre acuto e preciso, spesso sarcastico, è talvolta pervaso da una vena di umorismo.