Desde el punto de vista de Frege, la expresión "teoría formal de la aritmética" puede designar dos concepciones muy diferentes, de las cuales él defendió una con tanto ardor como combatió a la otra. La segunda es la concepción formalista vulgar, según la cual, en aritmética "los signos son vacíos y constituyen ellos mismos los números. La primera es la que atribuye a la aritmética un carácter "formal", en el sentido de "puramente lógico" que la distingue radicalmente de la geometría y la aproxima a la lógica propiamente dicha.