Nació cerca de Haddington (Escocia) en 1514 y se formó en la Universidad de Saint Andrews, si bien no llegaría a terminar sus estudios universitarios. Discípulo de G. Wishart (1513-1546), asesinado en la hoguera, Knox fue ordenado sacerdote en 1540. Perseguido junto con Wishart por su apoyo a la Reforma, Knox tuvo que refugiarse en el castillo de San Andrés.
En Escocia, la regente era María de Guisa, francesa y católica, quien consiguió que en julio de 1547, una flota francesa sitiara y bombardeara el castillo de San Andrés, obligando a sus ocupantes a capitular. Knox y sus compañeros fueron deportados y enviados a galeras, donde fue tratado como esclavo, hasta 1549 fecha en que fue liberado por intervención del gobierno inglés. Una de las anécdotas que el mismo Knox refería era que durante su tiempo en las galeras, los prisioneros eran obligados a dar reverencia a las imágenes de la virgen María y que en una ocasión cuando le obligaban a dar un beso de reverencia una imagen de la virgen, mientras se rehusaba, tomó la imagen y la arrojó al mar diciendo:
Dejemos que “nuestra Señora” se salve a sí misma ya que es demasiado ligera seguro que aprenderá a nadar.
Después del incidente los prisioneros ya no fueron forzados a besar la imagen del ídolo.
De vuelta a Inglaterra, comenzó a predicar por todo el país. La predicación de Knox cerca de la frontera escocesa atrajo a tantos escoceses que el gobierno inglés se puso nervioso. Knox logró tal reconocimiento que fue invitado a predicar en la corte de Eduardo VI de Inglaterra y le ofreció un cargo como obispo de Rochester que Knox rechazó.
Cuando María Tudor, María I de Inglaterra (Queen “Bloody” Mary , María la Sangrienta, para los protestantes), Reina de Inglaterra, católica y mujer de Felipe II, llegó al trono inglés en 1553, Knox decidió escapar a Ginebra en 1555, donde los reformadores suizos, especialmente Juan Calvino, tuvieron mucha influencia en él. Knox participó en la creación de la conocida Biblia de Ginebra, realizada para el público anglosajón y con notas teológicas al margen. Se hizo tan popular que fue el texto que se llevaron a América los tripulantes del Mayflower en 1620.
A finales del 1555, Knox volvió durante un breve tiempo a Escocia, donde tuvo la suerte de librarse de una acusación de herejía. John Knox era, además de un religioso, un visionario, y sostenía que la única posibilidad de que los escoceses se libraran de la dominación francesa era que los protestantes de Escocia e Inglaterra se unieran en un frente común.
En 1559, John Knox, junto a otros reformadores de su tiempo, fundaron la Iglesia Presbiteriana.
Para 1567, los franceses habían sido expulsados de Escocia. El triunfo del protestantismo quedó asegurado cuando María Estuardo abdicó en 1567.
Knox predicó el sermón de coronación de Jacobo VI de Escocia, el hijo de María Estuardo, quien fue educado en el protestantismo durante la regencia de Lord James Stewart, conde de Moray y también protestante. De esta manera la Reforma Protestante se consolidaba de manera definitiva en el país.
John Knox falleció en 1572 en Edimburgo.