[논문 리뷰] Sigmoid functions and exponential Riordan arrays

Paul Barry|arXiv (Cornell University)|2017. 02. 13.

Advanced Combinatorial Mathematics참고 문헌 10인용 수 3

한 줄 요약

이 논문은 시그모이드 함수와 그 도함수를 지수 리오르단 행렬과 연결하는 새로운 프레임워크를 제안한다. 특히 도함수 부분군 [f′(x), f(x)]에 초점을 맞추며, 이러한 행렬이 다항식 계열을 생성하고, 그 중 일부가 직교 다항식임을 보이며, 스틸링 수의 제2종과 같은 조합 수열과의 연결 고리를 규명한다. 주요 기여로는 리오르단 행렬의 복합을 통해 고프레츠 시그모이드 함수와 스틸링 수의 제2종 사이의 명시적 연결 고리를 확립한 것이다.

ABSTRACT

Sigmoid functions play an important role in many areas of applied mathematics, including machine learning, population dynamics and probability. We place the study of sigmoid functions in the context of the derivative sub-group of the group of exponential Riordan arrays. Links to families of polynomials are drawn, and it is shown that in some cases these polynomials are orthogonal. In the non-orthogonal case, transformations are given that produce orthgonal systems. Alternative means of characterisation are given, based on the production (Stieltjes) matrix associated to the relevant Riordan array.

연구 동기 및 목표

• 지수 리오르단 행렬의 도함수 부분군을 활용하여 시그모이드 함수와 그 도함수를 체계적으로 분석하는 프레임워크를 수립하기 위해.
• 시그모이드 기반 리오르단 행렬이 모노미얼 기저에 작용함으로써 생성되는 다항식 계열을 조사하기 위해.
• 이러한 다항식 계열이 언제 직교가 되는지 규명하고, 그렇지 않은 경우에도 직교 시스템을 생성하는 변환을 유도하기 위해.
• 특히 고프레츠 시그모이드 함수와 스틸링 수의 제2종 간의 조합적 연결 고리를 리오르단 행렬 복합을 통해 명확히 하기 위해.
• 시그모이드-도함수 쌍의 기하적 및 해석적 행동을 시각화하기 위해 (f′(t), f(t)) 쌍의 매개변수적 시각화를 제공하기 위해.

제안 방법

• 해석적 시그모이드 함수에 대해 도함수 부분군 [f′(x), f(x)]에 초점을 맞춘 지수 리오르단 행렬 [g(x), f(x)]의 군 구조를 활용한다.
• 이중 생성 함수 g(x)e^{yf(x)}를 사용하여 배열 원소 t_{n,k} = n! / k! [x^n] g(x)f(x)^k를 표현한다.
• 생산(스틸리에츠) 행렬을 활용해 리오르단 행렬을 특성화하고, 그들의 모멘트 수열을 분석한다.
• 특히 삼각함수 및 쌍곡함수 시그모이드 쌍에 대해 생성함수와 복소 지수 전개를 이용해 배열 원소의 명시적 공식을 도출한다.
• 리오르단 행렬 곱셈과 복합역함수를 활용해 고프레츠 시그모이드 배열을 [e^{1−x−e^{−x}}, 1−e^{−x}]와 [1, e^x−1]을 통해 스틸링 수의 제2종과 연결한다.
• 다양한 시그모이드 함수에 대해 (f′(t), f(t))의 매개변수적 플롯을 활용해 시그모이드-도함수 쌍의 기하학적 형태를 시각화한다. 예를 들어 [cos(x), sin(x)]의 경우 단위 원을 형성한다.

실험 결과

연구 질문

• RQ1 지수 리오르단 행렬의 도함수 부분군은 어떻게 시그모이드 함수와 그 도함수를 체계적으로 연구하는 데 활용될 수 있는가?
• RQ2 시그모이드 기반 리오르단 행렬이 생성하는 다항식 계열이 언제 직교가 되는가?
• RQ3 고프레츠 시그모이드 함수 도함수의 계수에 놓인 조합 구조, 예를 들어 스틸링 수의 제2종은 무엇인가?
• RQ4 이러한 리오르단 행렬의 생산 행렬은 관련 직교 다항식의 모멘트 수열을 어떻게 반영하는가?
• RQ5 다양한 시그모이드 함수에 대해 (f′(t), f(t)) 쌍의 매개변수 플롯을 통해 어떤 기하학적 통찰을 얻을 수 있는가?

주요 결과

• 지수 리오르단 행렬 [e^{1−x−e^{−x}}, 1−e^{−x}]는 재귀식 P_n(x) = (x + (n−1))P_{n−1}(x) + (n−1)P_{n−2}(x)를 만족하는 직교 다항식 계열의 모멘트 행렬이며, 초기 조건 P_0(x)=1, P_1(x)=1를 가진다.
• 이 직교 다항식 계열과 관련된 모멘트 수열 1, 0, −1, 12, −9, 9, ...는 x²과 선형 항을 포함하는 연분수 형태의 일반 생성함수를 가진다.
• 고프레츠 시그모이드 행렬 [e^{1−t−e^{−t}}, e^{1−e^{−t}}−1]는 [e^{−t}, 1−e^{−t}]와 [e^t, e^t−1]의 곱과 동일하며, 이는 스틸링 수의 제2종과 직접적인 연결 고리를 형성한다.
• 고프레츠 시그모이드 행렬의 일반 원소 g_{n,k}는 g_{n,k} = ∑_{j=0}^n S2(n+1,j+1)(−1)^{n−j} S2(j+1,k+1)로 주어지며, 여기서 S2(n,k)는 스틸링 수의 제2종을 나타낸다.
• 고프레츠 시그모이드 함수의 도함수 계수 g_{n,0} = ∑_{j=0}^n S2(n+1,j+1)(−1)^{n−j}는 스틸링 수의 제2종의 부호가 붙은 합으로 주어지며, 이는 스틸링 수의 제2종의 부호가 붙은 합의 형태를 띤다.
• 다양한 시그모이드 함수에 대해 (f′(t), f(t))의 매개변수 플롯, 예를 들어 (sech²(t), tanh(t))와 (1/(1+t²), tan⁻¹(t))의 경우, 닫힌 곡선과 S자 형태의 궤적을 포함한 고유한 기하학적 형태를 드러낸다.