Analiz yapılırken öncelikle, bir problemin çözümünden doğrudan doğruya yararlanılabilecek şekilde, yani sayısal bir biçimde analize ulaşmak gerekir; bu bakımından en azından yaklaşık bir çözüme varılabilmesi için, aritmetik işleminin yalnızca ilk dört işleminde baş vuran hesap şekillerini ortaya koymak elzemdir.
Sayısal açıdan analiz, bu temel yöntemleri veya algoritmaları ele alır; öncelikle de bunların kararlılığını tespit eder. Çünkü burada yanlış anlamalara yol açılmaması şarttır. Mesela, yeteri miktarda sayı sözünden ne anlaşıldığını kesinlikle tanımlamak mecburidir; algoritmalar, sıfıra bölmek gibi sonuçsuz işlemlere de yol açmamalıdır. Sorun çok karmaşıksa, buna dayanılarak yaklaşık bir problem ortaya konur ve bu ikinci sorunun çözümüne dayanılarak aranan sonucun yaklaşık bir biçimine ulaşılır.
Bu şekilde, diğerlerine oranla zayıf olan bazı parametreler nazara alınmaz ve daha sıradan bir probleme ulaşılır; harekette de yaklaşık bir çözüme vardır. Analitik ifade bilinmezse matematik operatörler yerine yaklaşık operatörler kullanılabilir; mesela türev için fonksiyondaki artışın değişkendeki artışa olan oranı hesaba alınır.
Tekrarlamalı tarzlar kullanmak zorunda kalındığı da olur: Algoritma, yaklaşık bir tarzda daha iyi olduğu umulan başka bir yaklaşık çözüme geçilmesini sağlar; pratik açıdan sonuca sınırsız işlemlerden sonra erişilebilir. Daima, yanlışlığın veya yaklaşılan sonuçla, doğru sonuç arasındaki farkın, küçük kılınabileceğini, algoritmanın doğrulamak gerekir.
Hatanın ve çok defa da bunun daha yüksek bir sınırının ifadesi, aynı problemin çözümünü veren birçok algoritmayı karşılaştırma imkanını sağlar. Aynı sayıda işlemden sonra, hata payı en düşük algoritmanın yakınsama hızının öbürlerinin yakınsama hızından yüksek olduğu söylenebilir. Birbirini izleyen iki yaklaşım arasındaki hata oranı sürekli olursa çizgisel yakınsamadan, karelerin oranı sürekli olursa da kuadratik yakınsamadan v.b. söz edilir.
Çok defa kuadratik bir yakınsama çizgisel bir yakınsamaya tercih edilir. Genellikle yakınsamayı ispatlamak güçtür. Onun için de, bazen bir ispatlama ile yetinilir, çözümü bilinen örnekler arasında yakınsama bulunduğu ispatlanır; veya algoritma yakınsamadığı zaman, bunun farkına varılabileceğini göstermek gerekir; böylece doğru olmayan çözümlerden arınmış olur. Bugüne kadar aritmetik işlemlerin, ideal olarak yapıldığı kabul edilmiştir.
Gerçekte ise, bir sayıyı göstermek için ancak sonlu sayıda rakam kullanılabilir. Demek ki, hemen de bütün işlemlerde sayının düzleştirilmesinden doğan bir hata bulunur.
Yazar:Rahman Karasu