Le funzioni effettivamente calcolabili sono le funzioni razionali, cioè quelle che sono date da un numero finito di operazioni
. Le funzioni non razionali vengono approssimate in qualche modo con funzioni razionali. È data una funzione
, e vogliamo calcolarne il valore in
.
Il calcolo che effettuo con il calcolatore è affetto da vari tipi di errore.
- Errore inerente
- è l'errore generato dall'errore di rappresentazione sui dati. È connesso al condizionamento ed è una caratteristica della funzione da calcolare.
- Errore algoritmico
- è generato dall'errore commesso nelle operazioni in aritmetica floating point. È combinazione lineare degli errori locali delle singole operazioni. È connesso alla stabilità
- Errore analitico o di approssimazione
- è l'errore generato dall'approssimazione di
non razionale con un'opportuna funzione razionale. È connesso alla convergenza.
Chiamiamo
il valore in cui vogliamo calcolare la funzione, di cui consideriamo il floating
,
è la funzione effettivamente calcolata. Valore da calcolare:
, valore effettivamente calcolato:
.
Supponiamo di avere
, e
funzione razionale tale che
e
. Vogliamo frammentare l'errore (relativo) totale
in diversi tipi di errori:
- errore inerente:
. Si assume che
sia calcolata esattamente, e si considera solo l'errore dipendente dalla rappresentazione dei dati.
- errore algoritmico: misura l'errore generato dall'uso di
al posto di
, calcolate nel floating di
. La sua espressione è 
Vale il seguente teorema.
L'errore totale è uguale a
, e al primo ordine è uguale a
. Inoltre
con
cvd
Supponiamo di avere
, una funzione
non razionale che viene approssimata con una funzione
razionale, e
è la funzione effettivamente calcolata.
si frammenta in:
- errore analitico: dipende dal fatto di usare
al posto di
, e ha espressione 
- errore inerente:

- errore algoritmico:

L'errore totale al primo ordine è dato da
con
Al primo ordine
cvd
Se
e
differiscono di un termine del secondo ordine, allora vale il risultato con il vero errore analitico.