Los métodos que hemos visto en las técnicas sencillas de computación numérica, resultan fáciles cuando poseemos ciertos conocimientos matemáticos. Una cuestión que a muchos intriga, es cómo conseguían los antiguos resultados tan precisos con el escaso material matemático que manejaban. Por ejemplo, los babilónicos obtuvieron una aproximación a raíz de dos con seis cifras decimales.
En la tablilla de Yale (nº7289) que se encontró, con una datación de 2000-1650 aC, aparecía la representación de la diagonal del cuadrado y sobre ella la numeración que transcrita en sexagesimal simbolizaba el número
1;24,51,10=1+frac{24}{60}+frac{51}{60^2}+frac{10}{60^3}
dando aproximadamente 1,4142129. Pero, ¿cómo lo hicieron?.
