eqsolver

eqsolver 녹을위한 방정식 솔버 및 최적화 라이브러리

이 Rust 라이브러리는 방정식을 수치 적으로 해결하고 목표 기능을 최적화하는 것을 목표로합니다.

라이브러리는 수동적으로 관리되어 있어 다른 기능이 추가되지 않습니다. 그러나 Github에 대한 문제는 답변 및 해결됩니다.

이 라이브러리에 대한 기여와 피드백은 환영받는 것 이상입니다!

지원되는 방법

다음 방법은 라이브러리에서 사용할 수 있습니다. 그들의 설명은 기능에 가장 큰 도메인과 코 도메인, 즉 Rn을 사용합니다. 그러나 RN의 모든 (잘 행동 한) 하위 집합도 작동합니다. 또한, 다변량 입력 또는 출력을 사용하는 방법은 Rust Nalgebra의 선형 대수 라이브러리를 많이 사용합니다.

단일 변수

뉴턴-라프 슨의 방법

유도체 DF (x)와 초기 추측이 주어지면 일 변량 함수 F (x)의 루트를 찾습니다. 이 방법에는 2 차 수렴 속도가 있습니다.

유한 한 차이가있는 뉴턴-라프 슨의 방법

뿌리의 초기 추측을 고려할 때 유한 한 차이를 사용하여 유한 차이를 사용하여 유한 DF (x)를 근사화하여 일 변량 함수 F (x)의 루트를 찾습니다. 이 방법은 2 차 수렴 속도를 가지지 만 비 핀란드 차분 버전보다 약간 더 많은 계산이 필요하므로 벽 시간이 약간 길어집니다.

Secant 방법

두 개의 고유 한 시작 값이 주어진 일 변량 함수 f (x)의 루트를 찾습니다. 이 방법은 수렴 속도 (황금 비율과 같음)가 약간 낮지 만 반복 당 하나의 함수 호출만으로도 벽 시간이 뉴턴-라프 슨 방법보다 때때로 낮습니다.

다변량

Newton-Raphson의 방법 (유한 한 차이가 있거나없는 경우)

함수 f : rn → rn의 경우,이 방법은 f (x)가 0 벡터가되도록 x를 발견하고, 이는 n 미지의 N 방정식을 해결하는 것과 같습니다.

이 방법에는 두 가지 버전이 있습니다. 하나는 Jacobian 행렬을 제공해야하며 다른 하나는 유한 한 차이를 사용하여 근사합니다. 후자의 버전은 벽 시간이 약간 더 길다. 두 방법 모두 초기 추측이 필요합니다.

특정 잘못된 문제의 경우이 방법이 실패합니다. 느리지 만 더 강력한 방법은 아래의 Levenberg-Marquardt 방법을 참조하십시오.

Gauss-Newton의 방법 (유한 한 차이가 있거나없는 경우)

함수 f : rm → rn의 경우,이 방법은 f (x)가 0 벡터가되도록 x를 발견하며, 이는 m 미지의 N 방정식을 해결하는 것과 같습니다. 이것은 각 반복에서 최소 제곱 문제를 해결 하여이 방법의 벽 시간을 Newton-Raphson의 방법보다 약간 길게 만듭니다.

이 방법에는 두 가지 버전이 있습니다. 하나는 Jacobian 행렬을 제공해야하며 다른 하나는 유한 한 차이를 사용하여 근사합니다. 후자의 버전은 벽 시간이 약간 더 길다. 두 방법 모두 초기 추측이 필요합니다.

특정 잘못된 문제의 경우이 방법이 실패합니다. 느리지 만 더 강력한 방법은 아래의 Levenberg-Marquardt 방법을 참조하십시오.

Levenberg-Marquardt의 방법 (유한 한 차이가 있거나없는 경우)

함수 f : rm → rn의 경우,이 방법은 f (x)가 0 벡터가되도록 x를 발견하며, 이는 m 미지의 N 방정식을 해결하는 것과 같습니다. 이는 각 반복에서 약화 된 최소 제곱 문제 (일반적인 최소 제곱 문제보다 더 많은 계산)를 해결 하여이 방법의 벽 시간을 Gauss-Newton의 방법보다 약간 길게 만듭니다.

이 방법에는 두 가지 버전이 있습니다. 하나는 Jacobian 행렬을 제공해야하며 다른 하나는 유한 한 차이를 사용하여 근사합니다. 후자의 버전은 벽 시간이 약간 더 길다. 두 방법 모두 초기 추측이 필요합니다.

객관적인 기능의 글로벌 옵티 미스터

입자 떼 최적화

함수 f : rn → r의 경우,이 방법은 x를 찾습니다. 이 방법에는 전역 최소값이 존재하는 초기 추측과 경계가 필요합니다.

매개 변수의 한계를 알고있는 경우이 메소드를 사용하십시오.

교차 엔트로피 방법

함수 f : rn → r의 경우,이 방법은 x를 찾습니다. 이 방법에는 초기 추측과 표준 편차의 RN 벡터 (각 매개 변수의 불확실성)가 필요합니다.

매개 변수의 한계를 모르지만 각 매개 변수가 얼마나 불확실한 지 아는 경우이 메소드를 사용하십시오.

일반적인 미분 방정식 (또는 시스템)

다음 단계 방법 중 하나를 사용할 수 있도록 (빌더 패턴 사용) 수정할 수있는 일반 미분 방정식 (ODE)에 대한 단일 struct 있습니다.

오일러 포워드

이 방법은 방정식에 해당하는 함수에 대한 하나의 호출이 필요하므로 빠릅니다. 그러나 정확도의 순서는 1이며 특정 기능에 대해서는 불안정합니다.

heun 's Method (Runge-Kutta 2)

이 방법은 방정식에 해당하는 함수에 대한 두 가지 호출이 필요하므로 Euler 앞으로 느리게됩니다. 이 방법의 정확도는 2입니다.

Runge-Kutta 4 (기본값)

이 방법은 방정식에 해당하는 함수에 대한 네 번의 호출이 필요하므로 HEON의 방법보다 느립니다. 이 방법의 정확도는 4입니다. ODE Solver는이 메소드를 기본값으로 사용합니다.

예

유한 한 차이를 가진 뉴턴-라프 슨의 방법의 예.

 use eqsolver :: single_variable :: FDNewton ;

let f = | x : f64 | x . exp ( ) - 1. /x ; // e^x = 1/x
let solution = FDNewton :: new ( f ) . solve ( 0.5 ) ; // Starting guess is 0.5

방정식 시스템에 대한 유한 한 차이가있는 Newton-Raphson의 방법의 예

 use eqsolver :: multivariable :: MultiVarNewtonFD ;
use nalgebra :: { vector , Vector2 } ;

// Want to solve x^2 - y = 1 and xy = 2
let f = | v : Vector2 < f64 > | vector ! [ v [ 0 ] . powi ( 2 ) - v [ 1 ] - 1. , v [ 0 ] * v [ 1 ] - 2. ] ;

let solution = MultiVarNewtonFD :: new ( f ) . solve ( vector ! [ 1. , 1. ] ) ; // Starting guess is (1, 1)

단일 1 차 ODE에 대한 솔루션의 예

 use eqsolver :: ODESolver ;

let f = | t : f64 , y : f64 | t * y ; // y' = f(t, y) = ty
let ( x0 , y0 ) = ( 0. , 0.2 ) ;
let x_end = 2. ;
let step_size = 1e-3 ;

let solution = ODESolver :: new ( f , x0 , y0 , step_size ) . solve ( x_end ) ;

Levenberg-Marquardt 방법으로 비선형 최소 제곱 문제 해결의 예

 use eqsolver :: multivariable :: LevenbergMarquardtFD ;
use nalgebra :: { vector , Vector2 } ;

let c0 = [ 3. , 5. , 3. ] ;
let c1 = [ 1. , 0. , 4. ] ;
let c2 = [ 6. , 2. , 2. ] ;

// Function from R2 to R3
let f = | v : Vector2 < f64 > | {
    vector ! (
        ( v [ 0 ] - c0 [ 0 ] ) . powi ( 2 ) + ( v [ 1 ] - c0 [ 1 ] ) . powi ( 2 ) - c0 [ 2 ] * c0 [ 2 ] ,
        ( v [ 0 ] - c1 [ 0 ] ) . powi ( 2 ) + ( v [ 1 ] - c1 [ 1 ] ) . powi ( 2 ) - c1 [ 2 ] * c1 [ 2 ] ,
        ( v [ 0 ] - c2 [ 0 ] ) . powi ( 2 ) + ( v [ 1 ] - c2 [ 1 ] ) . powi ( 2 ) - c2 [ 2 ] * c2 [ 2 ] ,
    )
} ;

let solution_lm = LevenbergMarquardtFD :: new ( f )
    . solve ( vector ! [ 4.5 , 2.5 ] ) // Guess
    . unwrap ( ) ;

Rastrigin 기능에서 글로벌 최적화기를 사용하는 예

 use eqsolver :: global_optimisers :: { CrossEntropy , ParticleSwarm } ;
use nalgebra :: SVector ;
use std :: f64 :: consts :: PI ;

const SIZE : usize = 10 ;
let rastrigin = | v : SVector < f64 , SIZE > | {
    v . fold ( 10. * SIZE as f64 , |acc , x| {
        acc + x * x - 10. * f64 :: cos ( 2. * PI * x )
    } )
} ;

let bounds = SVector :: repeat ( 10. ) ;
let standard_deviations = SVector :: repeat ( 10. ) ;
let guess = SVector :: repeat ( 5. ) ;

let opt_pso = ParticleSwarm :: new ( rastrigin , -bounds , bounds ) . solve ( guess ) ;
let opt_ce = CrossEntropy :: new ( rastrigin )
    . with_std_dev ( standard_deviations )
    . solve ( guess ) ;

더 많은 예는 예제 디렉토리를 참조하십시오.