概率算法（随机化算法）

提出

1976年雷兵提出了概率算法，这种算法的新颖之处是把随机性注入到算法中，使得算法设计与分析的灵活性及解决问题的能力大为改观，这种算法曾一度运用在密码学，数字信号，数字简化信号和大系统的安全及故障容差中得到应用。

很多算法的每一个计算步骤都是固定的，而概率算法允许算法在执行的过程中随机选择下一个计算步骤。许多情况下，当算法在执行过程中面临一个选择时，随机性选择常比最优选择省时。因此概率算法可在很大程度上降低算法的复杂度。^[1]

基本特征

（1）随机决策。

（2）在同一实例上执行两次其结果可能不同。

（3）在同一实例上执行两次的时间亦可能不太相同。

期望时间

对概率算法可以讨论如下两种期望时间：

（1）平均的期望时间：所有输入实例上平均的期望执行时间。

（2）最坏的期望时间：最坏的输入实例上的期望执行时间。

特点

（1）不可再现性：在同一个输入实例上，每次执行结果不尽相同，例如N-皇后问题，概率算法运行不同次将会找到不同的正确解；找一给定合数的非平凡因子，每次运行的结果不尽相同，但确定算法每次运行结果必定相同

(2) 分析困难：要求有概率论，统计学和数论的知识。

分类

一般情况下，可将概率算法大致分为四类：数值概率算法，蒙特卡罗（Monte Carlo）算法，拉斯维加斯（Las Vegas）算法和舍伍德（Sherwood）算法。

数值概率算法常用于数值问题的求解。这类算法所得到的往往是近似解。而且近似解的精度随计算时间的增加不断提高。在许多情况下，要计算出问题的精确解是不可能或没有必要的，因此用数值概率算法可得到相当满意的解。

蒙特卡罗算法用于求问题的准确解。蒙特卡洛算法1945年由冯诺依曼行核武模拟提出的。它是以概率和统计的理论与方法为基础的一种数值计算方法，它是双重近似：一是用概率模型模拟近似的数值计算，二是用伪随机数模拟真正的随机变量的样本。^[2]

对于许多问题来说，近似解毫无意义。例如，一个判定问题其解为“是”或“否”，二者必居其一，不存在任何近似解答。又如，我们要求一个整数的因子时所给出的解答必须是准确的，一个整数的近似因子没有任何意义。用蒙特卡罗算法能求得问题的一个解，但这个解未必是正确的。求得正确解的概率依赖于算法所用的时间。算法所用的时间越多，得到正确解的概率就越高。蒙特卡罗算法的主要缺点就在于此。一般情况下，无法有效判断得到的解是否肯定正确。

拉斯维加斯算法不会得到不正确的解，一旦用拉斯维加斯算法找到一个解，那么这个解肯定是正确的。但是有时候用拉斯维加斯算法可能找不到解。与蒙特卡罗算法类似。拉斯维加斯算法得到正确解的概率随着它用的计算时间的增加而提高。对于所求解问题的任一实例，用同一拉斯维加斯算法反复对该实例求解足够多次，可使求解失效的概率任意小。

舍伍德算法总能求得问题的一个解，且所求得的解总是正确的。当一个确定性算法在最坏情况下的计算复杂性与其在平均情况下的计算复杂性有较大差别时，可以在这个确定算法中引入随机性将它改造成一个舍伍德算法，消除或减少问题的好坏实例间的这种差别。舍伍德算法精髓不是避免算法的最坏情况行为，而是设法消除这种最坏行为与特定实例之间的关联性。