从简单到复杂：迭代法在数值计算中的应用

# 1. 引言

## 1.1 诠释迭代法在数值计算中的重要性

在数值计算领域，迭代法是一种常见且重要的求解方法，特别适用于需要通过近似解逼近准确解的问题。通过不断迭代更新，可以逐步逼近复杂问题的解，是解决众多实际问题的有效途径之一。本文将重点探讨迭代法在数值计算中的广泛应用及其重要性。

## 1.2 简要介绍本文讨论的主要内容及结构

本文将从迭代法的基础概念出发，深入探讨迭代法在不同领域的应用。我们将介绍迭代法的基本原理、常见分类及特点，探讨迭代收敛性和收敛速度。随后，我们将重点讨论简单迭代法、牛顿迭代法、迭代法在线性方程组和优化问题中的应用，最后展望在复杂情形下的高级迭代法的发展方向。通过本文，读者将更全面地了解迭代法在数值计算中的重要性和应用前景。

# 2. 迭代法基础

迭代法作为数值计算中常用的方法之一，具有广泛的应用场景。本章将介绍迭代法的基础知识，包括其基本概念、原理，常见的分类及特点，以及对迭代收敛性和收敛速度的分析。让我们逐步深入了解迭代法在数值计算中的重要性和作用。

# 3. 简单迭代法与牛顿迭代法

#### 3.1 简单迭代法的原理和应用
简单迭代法，也称为迭代逼近法，是一种基本的迭代计算方法，其原理是通过不断迭代逼近真实解。具体而言，对于一个方程$ f(x) = 0 $，可通过变形为$ x = g(x) $，其中$ g(x) $是一个较为简单的函数形式，不断迭代计算$ x_{n+1} = g(x_n) $，直到满足精度要求或迭代次数达到上限为止。

#### 3.2 牛顿迭代法的原理及优缺点
牛顿迭代法是一种快速收敛的迭代算法，通过利用函数的一阶导数信息不断逼近函数的零点。其迭代公式为$ x_{n+1} = x_{n} - \frac{f(x_n)}{f'(x_n)} $，其中$ f'(x) $为函数$ f(x) $的导数。牛顿迭代法在充分接近零点时收敛速度较快，但需要计算导数，且初始点选择较为敏感。

#### 3.3 以实际案例对比简单迭代法与牛顿迭代法效果
接下来，我们以解方程$ x^2 - 4 = 0 $为例进行比较。假设简单迭代法取$ x = \sqrt{4} $，即$ g(x) = \sqrt{4} $，而牛顿迭代法选取初始点为$ x_0 = 2 $。

# 简单迭代法
def simple_iteration(tol=1e-6, max_iter=1000):
    x = 2
    for _ in range(max_iter):
        x_new = 2**(1/2)
        if abs(x_new - x) < tol: