Систему уравнений (1) представим в виде
x1=f1(x1...xn),
x2=f2(x1...xn), (4)
.............
xn=fn(x1...xn).
Алгоритм решения этой системы методом простой итерации напоминает метод Гаусса - Зейделя, используемый для решения систем линейных уравнений.
Пусть в результате предыдущей итерации получены значения неизвестных x1=a1, x2=a2,..., xn=an. Тогда выражения для неизвестных на следующей итерации имеют вид
x1=f1(a1,a2,...,an),
x2=f2(x1,a2,...,an),
..................
xi=fi(xi,...,xi-1,ai,...,an),
..................
xn=fn(x1,...,xn-1,an).
Итерационный процесс продолжается до тех пор, пока изменения всех неизвестных в двух последовательных итерациях не станут малыми, т.е. абсолютные величины их разностей не станут меньшими заданного малого числа.
При использовании данного метода успех во многом определяется удачным выбором начальных приближений неизвестных: они должны быть достаточно близкими к истинному решению. В противном случае итерационный процесс может не сойтись.