[论文解读] Using particle swarm optimization to search for locally $D$-optimal designs for mixed factor experiments with binary response

Joshua Lukemire, Abhyuday Mandal+1 more|arXiv (Cornell University)|Feb 5, 2016

Optimal Experimental Design Methods参考文献 31被引用 3

一句话总结

本文提出使用粒子群优化（PSO）来寻找广义线性模型中具有二值响应和混合离散与连续因子的局部D-最优设计——这些因子对传统最优设计理论构成挑战。PSO无需预设设计点候选集即可高效识别高效率设计，在真实世界的臭气去除和静电放电研究中优于实际实施的设计，并能有效处理有约束和不规则的设计空间。

ABSTRACT

Identifying optimal designs for generalized linear models with a binary response can be a challenging task, especially when there are both continuous and discrete independent factors in the model. Theoretical results rarely exist for such models, and the handful that do exist come with restrictive assumptions. This paper investigates the use of particle swarm optimization (PSO) to search for locally $D$-optimal designs for generalized linear models with discrete and continuous factors and a binary outcome and demonstrates that PSO can be an effective method. We provide two real applications using PSO to identify designs for experiments with mixed factors: one to redesign an odor removal study and the second to find an optimal design for an electrostatic discharge study. In both cases we show that the $D$-efficiencies of the designs found by PSO are much better than the implemented designs. In addition, we show PSO can efficiently find $D$-optimal designs on a prototype or an irregularly shaped design space, provide insights on the existence of minimally supported optimal designs, and evaluate sensitivity of the $D$-optimal design to mis-specifications in the link function.

研究动机与目标

• 解决在具有混合离散与连续因子及二值响应的广义线性模型中，缺乏理论与计算工具以寻找最优设计的问题。
• 证明PSO能够高效生成在无解析解的复杂模型中局部D-最优设计。
• 评估PSO在具有规则与不规则设计空间的真实实验设计中的表现。
• 评估D-最优设计对链接函数误设的敏感性，并探究最小支撑设计的存在性。

提出的方法

• 将粒子群优化（PSO）方法改进，用于在无需预先指定设计点候选集的情况下搜索局部D-最优设计。
• 利用等价定理通过检查每个支撑点处的梯度条件来验证PSO生成设计的最优性。
• 修改PSO以整合不等式约束，实现对不规则或有界设计空间的优化。
• 在多次运行中使用默认PSO参数（25个粒子，200次迭代，收敛容差0.0001），以确保鲁棒性与稳定性。
• 将PSO应用于合成与真实实验问题，包括一项生物塑料臭气去除研究和一项静电放电研究。
• 使用公式 D-efficiency = (det(M(D*)) / det(M(D)))^(1/p) 评估PSO生成设计相对于实际实施设计的D-效率，其中M(D)为信息矩阵。

实验结果

研究问题

• RQ1 当缺乏理论结果时，PSO能否有效生成具有混合离散与连续因子及二值响应的广义线性模型的局部D-最优设计？
• RQ2 PSO生成设计的D-效率与真实实验中实际实施设计的D-效率相比如何？
• RQ3 PSO能否在无需候选集的情况下处理形状不规则或有约束的设计空间的优化？
• RQ4 局部D-最优设计对链接函数误设（如logit与probit）的敏感性如何？
• RQ5 对于具有二值响应的混合因子模型，是否存在最小支撑的局部D-最优设计？PSO能否识别出此类设计？

主要发现

• 在臭气去除与静电放电研究中，PSO生成的设计显著优于实际实施的设计，某些情况下效率提升超过30%。
• 在不规则设计空间（如受工艺限制）上的局部D-最优设计与无约束设计明显不同，证实了考虑约束的优化至关重要。
• PSO成功识别出一个局部D-最优设计，其支撑点为(450, 1100)（权重0.334）、(460, 1200)（权重0.335）和(460, 1000)（权重0.331），并满足等价定理。
• 在100次运行中算法收敛稳定，表明对参数调优不敏感且具有强鲁棒性。
• PSO识别出一个仅含三个不同设计点的最小支撑设计，表明此类设计存在且可计算。
• 敏感性分析表明，D-最优设计对链接函数的轻微误设具有相对鲁棒性，但较大偏差会降低效率。