适用于 .NET 和 Java 的无导数非线性优化

• 下载 cscobyla-master-noexe.zip (不含 NuGet) - 23.5 KB
• 下载 jcobyla-master.zip - 30.1 KB
• 下载 csbobyqa-master-noexe.zip (不含 NuGet) - 352.1 KB

介绍 

非线性目标函数和潜在的非线性约束的优化在许多科学、工程和商业领域是一个常见的问题。 

使用代码

这些实现相对忠实于原始的 Fortran 77 和 90 实现。然而，应该注意的是，这些实现中的变量和约束数组的索引是从零开始的，也就是说，对于一个有 3 个变量的问题，在目标函数（以及在适用的情况下，约束函数）的评估中应该使用 `x[0]`、`x[1]` 和 `x[2]`。 

从 C# 调用 COBYLA2  

要成功地从 C# 调用 *COBYLA2* 算法，请将 *cscobyla* 项目中的 *Cobyla.cs* 文件集成到您的应用程序中。然后，实现一个计算目标函数和（潜在）约束函数的方法，签名如下： 

void calcfc(int n, int m, double[] x, out double f, double[] con)

其中 `n` 是变量的数量，`m` 是约束的数量，`x` 是变量数组，`f` 是计算出的目标函数值，`con` 是计算出的约束函数值数组。 

为了在约束条件下最小化目标函数，请调用两个重载的 `Cobyla.FindMinimum` 方法之一：

CobylaExitStatus FindMinimum(CalcfcDelegate calcfc, int n, int m, double[] x,
                 double rhobeg, double rhoend, int iprint, int maxfun,
                 out double f, out double[] con, out int iters, TextWriter logger);

CobylaExitStatus FindMinimum(CalcfcDelegate calcfc, int n, int m, double[] x,
                 double rhobeg, double rhoend, int iprint, int maxfun, TextWriter logger);

其中，输入时的 `x` 是初始变量数组，`rhobeg` 和 `rhoend` 是单纯形的初始值和最终值，`iprint` (0..3) 指定控制台输出级别，`maxfun` 是允许的最大函数评估次数，`f` 是最优变量的目标函数值，`con` 是最优变量的约束函数值，`iters` 是优化中实际执行的函数评估次数。如果定义了 `logger`，则它是一个文本写入器，用于记录 *COBYLA2* 的输出。

返回值 `x` 是获得的优化变量值。该方法返回最终优化状态，该状态是正常终止、达到最大迭代次数或舍入误差发散之一。

后一个重载方法还实现了默认值，如下所示：`rhobeg = 0.5`，`rhoend = 1.0e-6`，`iprint = 2`，`maxfun = 3500`，`logger = null`。因此，可以这样选择性地调用该方法，在最小化中使用默认参数值：

var status = Cobyla.FindMinimum(calcfc, n, m, x); 

下面是一个简单的例子，用于最小化两个变量的乘积，前提是变量被限制在单位圆的边界内。首先，实现目标函数和约束计算方法：

public static void calcfc1(int n, int m, double[] x, out double f, double[] con)
{
    f = x[0] * x[1];
    con[0] = 1.0 - x[0] * x[0] - x[1] * x[1];
} 

隐含地，要求所有约束函数值都为非负，即 `con[j] ≥ 0` 对于所有约束 `j`。 

要执行实际优化，请定义初始变量值并调用 `Cobyla.FindMinimum`： 

var x = new[] { 1.0, 1.0 };
var status = Cobyla.FindMinimum(calcfc1, 2, 1, x);  

从 Java 调用 COBYLA2  

*jcobyla* 项目中的 *Cobyla.java*、*Calcfc.java* 和 *CobylaExitStatus.java* 文件可以包含在任何 Java 项目的 *com.cureos.numerics* 包中。 

在 Java 中，目标函数和（潜在）约束函数计算由 `Calcfc` 接口中的 `Compute` 方法表示。显式或匿名地实现该接口。`Compute` 方法的签名如下： 

double Compute(int n, int m, double[] x, double[] con)

其中 `n` 是变量的数量，`m` 是约束的数量，`x` 是变量数组，`con` 是计算出的约束函数值数组。该方法应返回目标函数的值。为了在约束条件下最小化目标函数，请调用静态 `Cobyla.FindMinimum` 方法：

CobylaExitStatus FindMinimum(Calcfc calcfc, int n, int m, double[] x,
                 double rhobeg, double rhoend, int iprint, int maxfun); 

其中，输入时的 `x` 是初始变量数组，`rhobeg` 和 `rhoend` 是单纯形的初始值和最终值，`iprint` (0..3) 指定控制台输出级别，`maxfun` 是允许的最大函数评估次数。 

输出时，`x` 包含获得的优化变量值。该方法返回最终优化状态，该状态是正常终止、达到最大迭代次数或舍入误差发散之一。 

这是一个摘自 Roger Fletcher 的著作《*Practical Methods of Optimization, Volume 2*》的简单示例（方程式 9.1.15）。首先，实现 `Calcfc` 接口。可以完全进行隐式接口实现：

Calcfc calcfc = new Calcfc() {
    @Override
    public double Compute(int n, int m, double[] x, double[] con) {
        con[0] = x[1] - x[0] * x[0];
        con[1] = 1.0 - x[0] * x[0] - x[1] * x[1];
        return -x[0] - x[1];
    }
}; 

隐含地，要求所有约束函数值都为非负，即 `con[j] ≥ 0` 对于所有约束 `j`。 接下来，定义初始变量值并使用合适的控制参数调用 `Cobyla.FindMinimum`：

double[] x = {1.0, 1.0 };
CobylaExitStatus result = Cobyla.FindMinimum(calcfc, 2, 2, x, 0.5, 1.0e-6, 1, 3500); 

从 C# 调用 BOBYQA

要成功地从 C# 调用 *BOBYQA* 算法，请将 *csbobyqa* 项目中的 *Bobyqa.cs* 文件集成到您的应用程序中。然后，实现一个计算目标函数的签名方法：

double calfun(int n, double[] x)

其中 `n` 是变量的数量，`x` 是变量数组。该方法应返回计算出的目标函数值。 

为了在边界约束条件下最小化目标函数，请调用静态 `Bobyqa.FindMinimum` 方法：

BobyqaExitStatus FindMinimum(Func<int, double[], double> calfun, int n, double[] x, 
                                 double[] xl, double[] xu, int npt, double rhobeg, 
                                 double rhoend, int iprint, int maxfun, TextWriter logger)

其中，输入时的 `x` 是初始变量数组，`xl` 和 `xu` 分别是变量的下界和上界，`npt` 是插值条件的数量（推荐值为 `2 * n + 1`），`rhobeg` 和 `rhoend` 是信任域半径的初始值和最终值，`iprint` (0..3) 指定控制台输出级别，`maxfun` 是允许的最大函数评估次数，`logger` 是一个文本写入器，BOBYQA 的日志将输出到该写入器。 

如果 `xl` 和/或 `xu` 被设置为 `null`，则所有优化变量都被认为分别在向下和向上无界。如果 `npt` 被设置为非正值，则优化中应用的 `npt` 值等于 `2 * n + 1`。如果 `rhobeg` 被设置为非正值，则优化中应用的 `rhobeg` 值将基于变量的起始值和边界范围。如果 `rhoend` 被设置为非正值，则优化中应用的 `rhoend` 值将是应用 `rhobeg` 的一百万分之一。 

该 `FindMinimum` 方法还实现了默认值，如下所示：`xl = null`，`xu = null`，`npt = -1`，`rhobeg = -1`，`rhoend = -1`，`iprint = 1`，`maxfun = 10000`，`logger = null`。因此，可以这样调用该方法来求解无界优化问题，在最小化中使用上述默认参数值：

var status = Bobyqa.FindMinimum(calfun, n, x);

输出时，`x` 提供获得的优化变量值。该方法返回一个枚举的优化状态值，如果优化成功执行，则应等于 `Normal`。 

这是一个简单的例子 HS05，摘自 Hock-Schittkowski 集合。请注意，目标函数不必是外部定义的，也可以足够地包含在方法调用中的 lambda 表达式中： 

var xx = new[] { 0.0, 0.0 };
var status = Bobyqa.FindMinimum(
    (n, x) =>                 /* Objective function */
        Math.Sin(x[0] + x[1]) + Math.Pow(x[0] - x[1], 2.0) - 1.5 * x[0] + 2.5 * x[1] + 1, 
    2,                        /* Number of variables */
    xx,                       /* Variable array */
    new[] { -1.5, -3.0 },     /* Lower bounds */
    new[] { 4.0, 3.0 });      /* Upper bounds */  

代码位置 

Java 版的 *BOBYQA* 已集成到 Apache Commons Math 中：http://commons.apache.org/math/ 

对 Java 版 *COBYLA2* 的开发也启发了 Reinhard Oldenburg 制作了一个 Javascript 版的 *COBYLA2*。因此，对于那些希望直接在网站上集成非线性优化的人来说，这里 有一个很好的选择。 

历史

2012年12月14日：初版，改编自 我博客上的原文。 
2012年12月19日：向文章添加了源代码的最新修订版本。