A palavra "cálculo" tem sua origem no termo latim para pedra, "calculus". Acredita-se que pequenas pedras tenham sido um dos primeiros instrumentos utilizados pelo homem para calcular. Na verdade, a prática de reorganizar as pedras em colunas deu origem à primeira calculadora, o ábaco, que se originou na China no século VI a.C. 

O ábaco tem uso limitado mas, nos 24 séculos seguintes, foi o único e principal mecanismo existente para calcular. A ciência dos cálculos permaneceu um trabalho enfadonho e tedioso, geralmente impedindo o progresso científico. Isto tinha especial significado na área da astronomia, onde somas enormes eram calculadas para determinar as órbitas e os movimentos dos planetas. Realizadas inteiramente à mão, tais equações levavam anos para serem completadas pelos matemáticos. 

A primeira máquina de somar de verdade foi construída em 1642 pelo francês Blaise Pascal (1623-62), filho de um cobrador de impostos. Filósofo e matemático, Pascal cresceu observando seu pai ocupado em horas de cálculos tediosos. Determinado a reduzir o trabalho do pai — e possivelmente o seu próprio, pois também pensava em se tornar um cobrador de impostos no futuro —, construiu aos 19 anos um aparelho automático que, girando suas pequenas rodas, adicionava e subtraía. Por mais precisa e rápida que fosse para sua época, a máquina de calcular de Pascal nunca foi bem aceita: os funcionários, cujo ganha-pão eram os cálculos à mão, viram no dispositivo uma ameaça a seu trabalho e se recusaram a usá-lo. 

Em 1671, o matemático alemão Gottfried Wilhelm von Leibniz construiu um mecanismo, a "roda graduada", capaz de fazer as quatro operações fundamentais e ainda extrair raiz quadrada. O cartão perfurado foi criado na primeira metade do século XVIII, mas a aplicação de seu princípio à máquina de calcular só se deu em 1880, por iniciativa do americano Herman Hollerith (1860-1929), que trabalhava no departamento de recenseamento dos Estados Unidos e estava preocupado com a quantidade de informações que precisava ser gravada e processada. Ele abriu sua própria empresa em 1896 e, ao lado de dois sócios em 1924, fundou a IBM (International Business Machines).