[論文レビュー] Using particle swarm optimization to search for locally $D$-optimal designs for mixed factor experiments with binary response

Joshua Lukemire, Abhyuday Mandal+1 more|arXiv (Cornell University)|Feb 5, 2016

Optimal Experimental Design Methods参考文献 31被引用数 3

ひとこと要約

本稿では、一般化線形モデルにおける二値応答と混合離散・連続要因を対象とし、従来の最適設計理論が困難な状況において、粒子群最適化（PSO）を用いて局所的D最適設計を求める手法を提案する。PSOは事前に定義された候補点集合を必要とせず、高効率な設計を効率的に特定でき、実世界の臭気除去および静電放電実験において実装済み設計を上回り、制約付きや不規則な設計空間に対しても効果的に対応できる。

ABSTRACT

Identifying optimal designs for generalized linear models with a binary response can be a challenging task, especially when there are both continuous and discrete independent factors in the model. Theoretical results rarely exist for such models, and the handful that do exist come with restrictive assumptions. This paper investigates the use of particle swarm optimization (PSO) to search for locally $D$-optimal designs for generalized linear models with discrete and continuous factors and a binary outcome and demonstrates that PSO can be an effective method. We provide two real applications using PSO to identify designs for experiments with mixed factors: one to redesign an odor removal study and the second to find an optimal design for an electrostatic discharge study. In both cases we show that the $D$-efficiencies of the designs found by PSO are much better than the implemented designs. In addition, we show PSO can efficiently find $D$-optimal designs on a prototype or an irregularly shaped design space, provide insights on the existence of minimally supported optimal designs, and evaluate sensitivity of the $D$-optimal design to mis-specifications in the link function.

研究の動機と目的

• 一般化線形モデルにおいて混合離散・連続要因と二値応答を有する状況において、理論的および計算的手法が不足している最適設計の同定を解決すること。
• 解析的解が得られないような複雑なモデルにおいて、PSOが局所的D最適設計を効率的に生成できることを示すこと。
• 規則的および不規則な設計空間を有する実世界の実験設計において、PSOの性能を評価すること。
• リンク関数の誤特定定に対するD最適設計の感度を評価するとともに、最小支持設計の存在を検討すること。

提案手法

• 事前に定義された設計点の候補集合を必要とせず、局所的D最適設計を探索するために、PSOを適応的に変更した。
• 各サポート点における勾配条件のチェックを通じて、PSOが生成した設計の最適性を等価定理を用いて検証した。
• 不等式制約を組み込むことで、PSOを変更し、不規則的または境界付きの設計空間内での最適化を可能にした。
• 一貫性と安定性を確保するため、複数回の実行においてデフォルトのPSOパラメータ（25粒子、200イテレーション、収束許容誤差0.0001）を用いた。
• 合成的および実世界の実験問題の両方に対してPSOを適用し、バイオプラスチック臭気除去研究および静電放電研究を含んだ。
• 情報行列M(D)を用いた式：D効率 = (det(M(D*)) / det(M(D)))^(1/p) を用いて、PSOが生成した設計のD効率を実装済み設計と比較した。

実験結果

リサーチクエスチョン

• RQ1 理論的結果が得られない状況において、PSOは一般化線形モデルに混合離散・連続要因と二値応答を有する場合に、局所的D最適設計を効果的に生成できるか？
• RQ2 実世界の実験において、PSOが生成した設計のD効率は実装済み設計と比較してどのように異なるか？
• RQ3 候補点集合を必要とせずに、不規則形状または制約付きの設計空間における最適化をPSOは処理できるか？
• RQ4 リンク関数の誤特定定（例：ロジット関数とプロビット関数の違い）に対して、局所的D最適設計はどの程度感度を示すか？
• RQ5 混合要因を有する二値応答モデルに対して、最小支持を持つ局所的D最適設計は存在するのか？また、PSOはそれらを特定できるか？

主な発見

• 臭気除去および静電放電研究の両方において、PSOが生成した設計は実装済み設計よりも顕著に高いD効率を達成しており、一部のケースでは30%以上の改善が見られた。
• プロセス制限によって制約される不規則な設計空間における局所的D最適設計は、制約なしの設計とは明確に異なり、制約を考慮した最適化の重要性を裏付けた。
• PSOは、(450, 1100)（重み0.334）、(460, 1200)（重み0.335）、(460, 1000)（重み0.331）にサポート点を持つ局所的D最適設計を効果的に特定し、等価定理を満たした。
• デフォルトパラメータを用いた100回の実行において、アルゴリズムは信頼性高く収束し、チューニングに対する感受性が低く、強いロバストネスを示した。
• PSOは制約付き空間において、3つの異なる設計点のみを有する最小支持設計を特定し、このような設計が存在し、計算可能であることを示唆した。
• 感度分析の結果、D最適設計はリンク関数のわずかな誤特定定に対しては比較的ロバストであったが、大きなずれが生じると効率が低下した。