1. Rosenbrock 函数

在数学最优化中,Rosenbrock 函数是一个用来测试最优化算法性能的非凸函数,由Howard Harry Rosenbrock 在 1960 年提出 。也称为 Rosenbrock 山谷或 Rosenbrock 香蕉函数,也简称为香蕉函数。
Rosenbrock 函数的定义如下:

f(x)=100(y?x2)2+(1?x)2

Rosenbrock 函数的每个等高线大致呈抛物线形,其全域最小值也位在抛物线形的山谷中(香蕉型山谷)。很容易找到这个山谷,但由于山谷内的值变化不大,要找到全域的最小值相当困难。

这篇文章分别用 Python 和 Math.Net 求Rosenbrock函数的最小值

2. Python

Python 里面的 scipy.optimize 提供了丰富的优化算法,对于 Rosenbrock函数,它的求解代码如下:

import numpy as np
from scipy.optimize import minimize
def rosenbrock(x):
    return (1 - x[0])**2 + 100 * ((x[1] - x[0] * x[0])**2)
x0 = np.array([1.2, 1.2])
best = minimize(rosenbrock, x0)
print(best) 

minimize 有两个参数,其中 rosenbrock 是要去求得最小值得 objective function;x0 是初始值,有时候初始值对结果影响很大。

上面代码得输出如下:

 fun: 3.3496916936926394e-12
hess_inv: array([[0.49944334, 0.99865554],
      [0.99865554, 2.00167338]])
     jac: array([-4.95083209e-05,  2.79682766e-05])
 message: 'Desired error not necessarily achieved due to precision loss.'
    nfev: 159
     nit: 10
    njev: 49
  status: 2
 success: False
       x: array([0.99999874, 0.9999976 ]) 

即 x(1) 和 y(1) 在接近 (1,1) 的情况下,Rosenbrock 函数有最小值,最小值接近 0。

也可以通过参数 'method='nelder-mead' 指定 minimize 使用 Nelder-Mead 算法,Nelder-Mead 算法是一种求多元函数局部最小值的算法,其优点是不需要函数可导并能较快收敛到局部最小值。使用 Nelder-Mead 算法的输出结果如下:

final_simplex: (array([[0.999993  , 0.99998474],
      [0.99995096, 0.99990431],
      [1.00003347, 1.00007239]]), array([2.05633807e-10, 2.97215547e-09, 4.09754011e-09]))
          fun: 2.0563380675204333e-10
      message: 'Optimization terminated successfully.'
         nfev: 82
          nit: 43
       status: 0
      success: True
            x: array([0.999993  , 0.99998474]) 

其它参数的说明请参考 官方文档。

3. Math.Net

Math.Net 是一个开源项目,旨在构建和维护涵盖基础数学的工具箱,以满足 .Net 开发人员的高级需求和日常需求。其中 Math.NET Numerics 旨在为科学、工程和日常使用中的数值计算提供方法和算法。涵盖的主题包括特殊函数,线性代数,概率模型,随机数,插值,积分变换等等。

要使用 Math.NET Numerics,首先安装它的 Nuget 包:

Install-Package MathNet.Numerics 

相比 Python,Math.Net 求解 Rosenbrock 函数的代码复杂些。它先使用 ObjectiveFunction.Value 创建目标函数,然后使用 NelderMeadSimplex 的 FindMinimum 函数求解,代码如下:

using MathNet.Numerics.LinearAlgebra;
using MathNet.Numerics.LinearAlgebra.Double;
using MathNet.Numerics.Optimization;
using System;

double Value(Vector input)
{
    return Math.Pow((1 - input[0]), 2) + 100 * Math.Pow((input[1] - input[0] * input[0]), 2);
}
var obj = ObjectiveFunction.Value(Value);
var solver = new NelderMeadSimplex(convergenceTolerance: 0.0000000001, maximumIterations: 1000);
var initialGuess = new DenseVector(new[] { 1.2, 1.2 });

var result = solver.FindMinimum(obj, initialGuess);
Console.WriteLine("Value:\t" + result.FunctionInfoAtMinimum.Value);
Console.WriteLine("Point:\t" + result.MinimizingPoint[0] + " , " + result.MinimizingPoint[1]);
Console.WriteLine("Iterations:\t" + result.Iterations); 

输出如下:

Value:  5.352382362443507E-19
Point:  1.0000000007114838 , 1.0000000014059296
Iterations:     145 

虽然 MathNet.Numerics.Optimization 命名空间下还提供了其它类,例如 BfgsBMinimizer 和 NewtonMinimizer,但它们还需要开发者提供梯度函数,这对我来说太复杂了,反而不如 NelderMeadSimplex 好用。

4. 最后

Math.Net 提供了很多多元函数局部最小值的算法,但比起 Python 还是简化了太多,例如我还搞不清楚 Math.Net 中的优化算法怎么添加约束条件,这方面有机会再研究研究。

分别使用 Python 和 Math.Net 调用优化算法的更多相关文章

  1. 详解Pymongo常用查询方法总结

    Python 直接连接mongodb数据库进行查询操作1、安装所需模块使用到的是pymongo模块,安装方法:pip install pymongo2、环境验证3、连接数据库import pymongodef operating_mongodb():client = pymongo.MongoC......

  2. 用python制作个音乐下载器

    前言某个夜深人静的夜晚,我打开了自己的文件夹,发现了自己写了许多似乎很无聊的代码。于是乎,一个想法油然而生:“生活已经很无聊了,不如再无聊一点叭”。说干就干,那就开一个专题,我们称之为kimol君的无聊小发明。妙…啊~~~直奔主题!本文主题是用python做一个音乐下载器(MusicLover),直......

  3. python日志通过不同的等级打印不同的颜色(示例代码)

    1,不用第三方库# coding: utf-8import loggingBLACK, RED, GREEN, YELLOW, BLUE, MAGENTA, CYAN, WHITE = range(8)RESET_SEQ = "\033[0m"COLOR_SEQ = "......

  4. 详解Python之Scrapy爬虫教程NBA球员数据存放到Mysql数据库

    获取要爬取的URL爬虫前期工作用Pycharm打开项目开始写爬虫文件字段文件items# Define here the models for your scraped items## See documentation in:# https://docs.scrapy.org/en/latest/......

  5. 利用python绘制正态分布曲线

    使用Python绘制正态分布曲线,借助matplotlib绘图工具;#-*-coding:utf-8-*-"""python绘制标准正态分布曲线"""# ===========================================......

  6. 通过python-pptx模块操作ppt文件的方法

    ppt通过其精美的可视化技巧以及良好的演示效果,成为了职场人士的必备技能。ppt的设计是一门大学问,无论是设计技巧,还是操作方法,都衍生出了专门的课程。本文主要介绍python操作ppt的技巧,编程的优势在于处理速度,对于高大上的ppt设计,还是需要"以人为本", 所以该模块的使......

  7. python pandas合并Sheet,处理列乱序和出现Unnamed列的解决

    使用python中的pandas,xlrd,openpyxl库完成合并excel中指定sheet的操作# -*- coding: UTF-8 -*- import xlrdimport pandas as pdfrom pandas import DataFramefrom openpyxl imp......

  8. 正确的使用Python临时文件

    1、前言临时文件通常用来保存无法保存在内存中的数据,或者传递给必须从文件读取的外部程序。一般我们会在/tmp目录下生成唯一的文件名,但是安全的创建临时文件并不是那么简单,需要遵守许多规则。永远不要自己去尝试做这件事,而是要借助库函数实现。而且也要小心清理临时文件。临时文件引起的最大问题就是,可以预测......

  9. Python进阶丨如何创建你的第一个Python元类?

    摘要:通过本文,将深入讨论Python元类,其属性,如何以及何时在Python中使用元类。Python元类设置类的行为和规则。元类有助于修改类的实例,并且相当复杂,是Python编程的高级功能之一。通过本文,将深入讨论Python元类,其属性,如何以及何时在Python中使用元类。本文介绍以下概念:......

  10. Python PyQt5中弹出子窗口解决子窗口一闪而过的问题

    方式一:槽函数中创建子窗口对象,赋值到普通变量在主窗口添加按钮,并把按钮信号关联槽,在槽函数中创建子窗口对象赋值到普通变量,并调用其 show 方法。from PyQt5.QtWidgets import *import sysclass Main(QMainWindow):def __init......

随机推荐

  1. Perl中的特殊符号介绍

    $_ 俗称perl的老地方,当你的程序中未告知使用哪个参数或者变量时,perl就会自动使用$_中的值,比如for(1..10){print ;}这里print没有指定参数,所以它就会使用$_,那$_里面是什么呢?每次循环$_的值都会变化,所以$_实际上就是1 .. 10这10个值,所以上......

  2. Python3使用tesserocr识别字母数字验证码的实现

    一、背景最近有个需求是从一个后台的留言网站爬取留言数据,后台管理网站必然涉及到了登录,登录就有个验证码的问题必须得解决,由于验证码是从后端生成的,并且不了解其生成规则,那就只能通过图像识别技术来做验证码识别了!通过查阅资料发现Python中的的tesserocr这个库好像使用的比较多,所以对这个库进......

  3. Android事件分发机制全面解析

    事件分发机制事件分发机制的两个阶段:分发:事件从父视图往子视图分发,被拦截后不再传递,进入回溯阶段回溯:事件从子视图往父视图回溯,被消费后不再回溯关键方法:ViewGroup.dispatchTouchEvent 往子视图分发事件ViewGroup.onInterceptTouchEvent 返回 ......

  4. Vue实现一种简单的无限循环滚动动画的示例

    本文主要介绍了Vue实现一种简单的无限循环滚动动画的示例,分享给大家,具体如下:先看实现效果:这种类似轮播的效果,通常可以使用轮播的方案解决,只不过相对于我要分享的方案来说,轮播实现还是要复杂些的。Vue提供了一种过渡动画transition-group,这里我便是利用的这个效果// templat......

  5. 删除pandas中产生Unnamed:0列的操作

    我们在数据处理,往往不小心,pandas会“主动”加上行和列的名称,我现在就遇到了这个问题。这个是pandas中to_csv生成的数据各种拼接之后的最终数据(默认参数,index=True,column=True)Unnamed: 0 ip Unnamed: 0.1 ... 766 767 ......

  6. docker+mysql集群+读写分离+mycat管理+垂直分库+负载均衡

    依然如此,只要大家跟着我的步骤一步步来,99.99999%是可以测试成功的centos6.8已不再维护,可能很多人的虚拟机中无法使用yum命令下载docker,但是阿里源还是可以用的 因为他的centos-vault仓库里放了之前版本的centos的包只需要在centos命令行界面下执行一下几条命令......

  7. JS addEventListener()和attachEvent()方法实现注册事件

    在 JavaScript 的 DOM 事件模型中,通过调用对象的 addEventListener() 方法注册事件。用法如下:element.addEventListener(String type, Function listener, boolean useCaptrue);参数说明如下:ty......

  8. java Random.nextInt()方法

    转:java Random.nextInt()方法lic int nextInt(int n)该方法的作用是生成一个随机的int值,该值介于[0,n)的区间,也就是0到n之间的随机int值,包含0而不包含n。直接上代码:package org.xiaowu.random.demo; import j......

  9. Python 日志打印之logging.getLogger源码分析

    日志打印之logging.getLogger源码分析日志打印之logging.getLogger源码分析By:授客 QQ:1033553122 #实践环境WIN 10Python 3.6.5#函数说明logging.getLogger(name=None)getLogger函数位于logging/_......

  10. Python监控进程状态并实现告警

    公司的应用程序有时候会莫名其妙地挂掉,如果我们经常去登录服务器看是不是程序挂了,挂了再拉起,那样是非常耗时和麻烦的事情。后来我们通过使用 supervisor 去守护启动,实现方法如下:那什么是 supervisor了?Supervisor是用 Python 开发的一个client/server服务......