Aunque su vida entera duró menos de 30 años, su ministerio cristiano se concentró en menos de cuatro años y su etapa como anabaptista fue de apenas año y medio, el impacto de Conrad Grebel le valió el título de "padre de los anabaptistas". Grebel llevó a cabo el primer bautismo de adultos conocido vinculado a la Reforma y fue señalado como el "cabecilla" de los anabaptistas en Zúrich. Zwinglio sostenía que no existían diferencias importantes con Grebel en cuestiones teológicas fundamentales y restaba importancia a sus discrepancias, calificándolas de "asuntos externos sin trascendencia, tales como si se debe bautizar a niños o a adultos y si un cristiano puede ejercer como magistrado."
Sin embargo, estas diferencias revelan una profunda división de pensamiento sobre la naturaleza de la iglesia y la relación de esta —y del cristiano— con el mundo. Las creencias de Conrad Grebel y de los Hermanos Suizos han dejado huella en la vida y el pensamiento de las iglesias amish, bautistas, de los Hermanos de Schwarzenau (bautistas alemanes) y menonitas, así como en numerosos movimientos pietistas y de iglesias libres. Las comunidades Bruderhof, fundadas en 1920, se inspiran en las creencias y acciones de Conrad Grebel y de los demás anabaptistas de la época de la Reforma. Mientras otros solo anhelaban la restitución o se mostraban reticentes ante reformas excesivas, Grebel y su grupo actuaron con decisión y asumiendo grandes riesgos personales. La libertad de conciencia y la separación entre la Iglesia y el Estado son dos grandes legados del movimiento anabaptista iniciado por estos Hermanos Suizos. Junto con el bohemio Petr Chelčický (1390–1460), Conrad Grebel es considerado uno de los primeros cristianos de la Reforma partidarios de la no resistencia. En 1961, un centro universitario menonita en Waterloo (Ontario) recibió su nombre.
Imagen del retrato por cortesía de: Global Anabaptist Mennonite Encyclopedia Online