Journal of the Egyptian Mathematical Society 25（2017）212原创文章基于概率的最优性、参数估计和模型判别新墨西哥州基拉尼科学学院，Menoufia大学，Shebin El Koom，埃及Ar ticlei n f o ab st ract文章历史记录：2016年7月15日收到2016年12月3日修订2017年1月3日接受2017年1月26日在线发布MSC：62-XX62Kxx62K05保留字：D-最优性P-最优性KL-最优性Kullback–Leibler本文将引入一种新的复合最优性准则。这个准则称为PDKL-最优性。所提出的准则旨在引入设计满足最大成功概率、有效参数估计和真实模型。给出并证明了PDKL-最优性准则的一个等价定理.© 2017埃及数学学会. Elsevier B. V.制作和托管这是CC BY-NC-ND许可下的开放获取文章。（http://creativecommons.org/licenses/by-nc-nd/4.0/）的网站上进行了介绍。1. 介绍D-最优性准则是实现有效参数估计的常用准则。关于D-最优性的更多细节，参见[1D-最优设计是基于选定的最优性准则和适用模型的常规优化。在文献中，有几个最优性标准用于区分模型（Ds -，T-和KL-标准）。这些标准中的每一个在一定的条件和情况下都是适用的。当实验者需要判别嵌套模型时，可采用Ds准则。因此，对于两个嵌套回归模型，其参数相差s> 1。[4，5]中引入的T-最优性准则是一种不同的判别模型的方法.该准则适用于两个或多个回归模型，并适用于线性或非线性模型。但是，对于具有高斯误差的同方差模型，必须使用T-准则进行判别。Ucin′ski和Bogacka[6]对非齐次方差误差的T-准则作了推广。为了区分随机误差服从任何分布的更广义模型[7，8]，引入了KL准则，取决于此外，当误差分布为正态分布时，T-准则是齐次方差情形下KL-准则的一种特殊情况，并且由Ucin′ski和Bogacka[6]（在齐次方差情形下）给出了一般性准则.最后，KL准则适用于竞争模型嵌套或不嵌套、同方差或异方差以及分布具有正态误差的情况。有时，实验者希望最大化结果的可能性。为此，McGree和Eccleston[9]提出了一个P-最优性准则，它提供了观察结果的最大概率。此外，存在实验者可能对实现多个目标感兴趣的情况。为此，本文将导出PDKL最优性准则。该准则提出了一种复合准则的设计方法，使设计具有有效的参数估计、真实的模型和高概率的最佳结果。第二部分介绍了一种模拟的、可编程的计算机辅助设计方法。对D-、KL-、P-最优设计进行了简单回顾。复合设计准则DKL-和DP-最优设计第3节。 最后，一个新的标准称为PDKL-最优性将被导出，在第4中证明了一个等价定理。电子邮件地址：neveenkilany@hotmail.comhttp://dx.doi.org/10.1016/j.joems.2017.01.0021110- 256 X/© 2017埃及数学学会。Elsevier B. V.制作和托管这是CC BY-NC-ND许可下的开放获取文章。（http://creativecommons.org/licenses/by-nc-nd/4.0/）的网站上进行了介绍。可在ScienceDirect上获得目录列表埃及数学学会期刊首页：www.elsevier.com/locate/joems.P我.||Pj=1JJJ.Σ∫χ.Σx，x我=我.P ΣPij=1[M（θ，θ）]=我我我我我我我 我我我I21（1999）I12（）M1θ，θ11;∈2121j=1IJ我 PiJ我D1新墨西哥州Kilany/Journal of the Egyptian Mathematical Society 25（2017）212-2152132. D-、KL-、P-最优设计2.1.KL-最优设计López-Fidalgo等人[8]引入了一个判别两个模型的准则，该准则考虑了非正态模型情况下T-准则的推广。这个准则称为KL准则，它的定义取决于两个统计模型之间的设y为随机变量，设f1（y，x，θ1）和f2（y，x，θ2）为y，x∈χ和的两个竞争概率密度函数对于未知参数，θi∈©i，i=1，2.假设f1（y，x，θ1）2.3. P-最优设计通常，实验者要求获得结果的最大概率。为此，McGree和Eccleston[9]提出了一个P-最优性准则。P-最优性准则是一种旨在最大化观察特定结果的概率函数的P-最优性的一种形式，定义为成功概率的加权和的最大化，定义如下：（nπ。θ，θw，forrj=1，2，，n........................是f1（y，x，θ1）和另一个模型f2（y，x，θ2）是其中，πj（θ，θj）是由θj给出的第j次成功概率，是与第j个支撑点相关的实验工作量在I（f1，f2，x，θ2）=θf（y，xθ）logf1（y，x;θ1）dy， xχf（y，x;θ）设计权重这一标准已经包括在内，并将在最大化概率方面发挥作用。χ2 2其中，由实验者从设计中生成的实验条件x是属于实验域x<$Rm的随机变量（或随机向量），m≥1。对于两个竞争模型f1（y，x，θ1）和f2（y，x，θ2），我们可以通过以下函数n.ΣKL最优性准则由下式给出：∫=我Pi（j=1I21（V）minθ2∈©2（f1，f2，x，θ2）<$（dx）（1）χ其中，πij（θi，θj）是模型fi（y，x;θ）和θ是两个可能模型的参数。一个德-我我KL-最优设计是使I21（λ）最大化并降低I 21（λ）的设计。符号P-最优设计是一种高成功概率P-最优设计注意到的是，我的对于正则设计，López-Fidalgo等人[8]证明，模型fi（y，x;θi）当且仅当<$Pi（x，<$Pi）≤0，x∈χ，其中若f<$21（x，<$21）≤0，x∈χ，则<$21是KL-最优设计，其中，21（x，（dx）f1，f2，x，θ−我f1，f2，x，θ.P（x）−ξ∗Σ是I21（π）的方向导数。设计的KL-效率∗是φPi（φ）的方向导数。设计的性能相对于最佳设计，相对于最佳设计，我 （）21P.nπijθi，jwjEff21（λ）=I. 中国（2）E ffPi（λ）=.nπ。θ，θ=1，2（6）2.2. D-最优设计D-最优性是重要的设计准则，由[10]引入，它关注参数估计的质量。 D-最优性的思想依赖于信息矩阵M（θ，θ）的行列式的对数最大化，log|M（θ，θ）|或等价地，最小化信息矩阵log的逆的对数行列式|M1（θ，θ）|.在D-最优性的一般上下文中[11]重新定义了D-最优性准则如下：. 洛格|M（θ ，θ）|如果|M（θ ，θ）|是非奇点r，3. 化合物设计准则在某些情况下，从业者可能对多个目标感兴趣。为了实现可能的目标，可以使用复合标准。复合准则优化了多个目标函数的组合，通过最大化加权乘积的效率来塑造。在本节中，将介绍DKL-和DP-化合物标准。DKL-最优性的目标是获得有效的参数估计和真模型，DP-最优性的目标是获得有效的参数估计基于概率的优化迪我我−∞如果|M i（θ i，θi）|是单数（三）3.1.DKL-最优设计其中Mi（（x，θi），θ i）= x∈χ Ji（x，θi）<$（x）是对应于概率密度函数fi（y，x;θi）的信息量，i= 1，2，Ji（x，θi）是y在x处的单个观测的Fisher信息矩阵。一个设计<$D<$i是一个D-最小设计，如果<$Di（x，<$D<$i）≤0，x∈χ，其中<$D（x，θ）=tr<$M−1（<$，θ）J（x，θ）<$−q，i=1， 2Tommasi[12]介绍了对偶目标的DKL-最优性准则，两个竞争模型的判别及其参数的有效估计。 为了区分f1（y，x;θ1）和f2（y，x;θ2）模型，考虑了两种可能的KL准则，即I21（θ 1）和I12（θ2），但嵌套模型的情况除外，在嵌套模型中，必须将最大的模型视为真模型。DKL最优性定义如下是D-准则函数的方向导数。 D-任何设计的效率由下式给出：.1.2...211212112- 是的 α3/q1.1/qDKL（22我我ψPiCUPФ|M(ξ,θi)|. M2θ，θD.2I. ξ∗ΣI. ξ∗Σ. M.θ，θE ffDi（）=. M. 好吧，θ θ。i= 1，2.（四）.. .- 是的1−α1−α2−α3/q2DiiM2θ，θ×。.-是的（七）其中qi是每个模型的参数数i=1i=1α。 .- 是的n.我我logIDKL（λ）=α1log I21（λ）+α2log I12（λ）+qlog M1θ，θ2112D1D2123D2（x，x）12.Mθ，θ.年q.M.θ，θQ2j= 11 J1JJj= 12 J2JJ1我我我ΔPDKL（Δ）=α1logI21（Δ）+α2log I12（Δ）+log M1θ，θ1J1J最佳设计表明导数函数， ΔDP（x，ΔDP）≤21x，21xDPDPQDPD 2（x，1θ，埃夫P（x）−PDPQ1.∗2112.212112121D12D2JQ25北纬214度Kilany/ Journal of the Egyptian Mathematical Society 25（2017）212当我们的心在一起的时候。3αi=1，0≤αi≤1。这些coepeccient s说明了各部分设计准则的重要性德-• 链接函数g（.）它描述了均值E（Yi）=μi如何依赖于线性预测因子g（μ）=Y。对（7）的对数进行运算得到，3 .第三章。 .- 是的12• 方差函数，描述方差Var（Yi）如何依赖于均值V ar（Yi）=φ（V（μ））+1 − α1 − α2 − α3 log。M. θ，θ（八）涉及到“”、“”、“”和“”的术语必须忽略，当其中色散参数φ是常数。在GLM中，误差或噪声具有放松的假设，其中它可以是正态分布，也可以不是正态分布。 一些共同的联系最大化将被接管。 DKL优化设计，最大化logDKL（）。DKL-最优设计的等价性定理是：有向目标函数<$DKL（x，<$DKL）≤0，利用恒等式、logit、log和probit的连接函数，归纳出传统的线性回归、逻辑回归、Poisson回归模型。的 式 的 PDKL最优性 可以 被 衍生 使用DKL（x，21（x，I（λ）+αα12（x，γ）α3I（I）+D1（x，x）P-、D-和KL-最优设计的加权几何平均效率设计。即1−α−α−α.是的。是的。 ..- 是的 3.. .- 是的Σα4I21（1999）I12（）12q2I. ξ∗ΣI. ξ∗Σ. M. θ，θ. M. θ，θ3.2.DP-最优设计..nπ。θ，θw1JP11第五章. .nJπ。θ，θw2JP22Σα6× .nπ。θ，θ，.nπ. θ，θ，（十一）标准 从化合物设计准则的定义出发，DP-最优性定义了相对于D-和P-最优性的效率设计的加权几何平均值。即其中系数6αi= 1且0 ≤ αi≤ 1，i = 1，2，. . . ，6.为了解释设计准则的结构，取方程的对数。（ 十一）、除了一些常数项外，最大化将是.. M. θ，θα/q1。 .nπ。θ，w1−αα3。 - 是的DP（V）=. M.θ，θ.nπ。θ，θ，（9）q1i=1IPin+4log M θ，θ+ αlog。π. θ，θwα。.- 是的..卢恩1i=162JJJ2log DP（log）=qlog. M1θ，θ。+（1 −α）log πiθ，iwi（10））∗∗+α log。π。θ，θw（十二）忽略了包含CNOD和CNOP当取最大值时为常数。一个DP-最优解-APDKL-optimummdesign，PDKL ，最大化PDKL（二）。方向-sign，符号，最大化对数（二）。DP的等价定理-方程的导数函数(12)由下式给出：DPDP。Σα，其中ψ（x，x）2D1（x，x）PDKL1PDKL（x，θ，θf（x）α4βP（x，β）Q2nπ.好吧ξ∗ΣΣ中国共产党j=11 J1JJn（x，n）π2jθ 2，πjwj+（1 − α）。∗Σ+α6。二、Σ（十三）其中，f（x）T是设计矩阵X= {f（x1）T，f（x n）T}。4. PDKL-最优设计在本节中，我们将介绍一个新的复合标准;称为PDKL最优性。PDKL-最优性准则旨在获得参数估计、模型判别和基于概率的最优性的最大联合效率。新准则适用于二值数据的不同广义线性模型GLM。GLM将回归的正态理论推广到属于单参数指数族的任何分布。除了正态分布外，这还包括伽马分布、泊松分布和二项分布，所有这些分布在数据分析中都很重要。GLM将随机项（独立项）响应Y）到线性预测器（Xβ）的系统项，通过链接函数g（.）。考虑广义线性模型GLME（Y）=μ=η=g−1（Xβ）它由响应Y的分布、线性预测因子η和两个函数定义：Q2+为了参数估计和基于概率的目的McGree和Eccleston[9]提出了DP-最优性j=1j=1i=1取（9）的对数，2j=1Jj=1）=α+αα12（x，γ）α3公司简介我21 （）我12 （）Q11+αnj=112PDKL-最优性的一般等价定理可以是：如下所述西奥·雷姆。 对于PDK L-优化设计，PDKL的以下条件是等效的。(i) 一个设计的方向导数φPDKL为PDKL-optimu的充要条件是满足线性方程φPDKL（x，φPφDKL）≤0， x∈x，其中方向导数φPDKL由下式给出：当量（十三）、(ii) 在最优设计点处，确定了最优解的上界.(iii) 对于任何非最优设计，这是一个设计，PDKL（x∈χ证据设λ1和λ2为任意两个设计，<λ1为常数.从KL准则函数的定义可以得出：I12[λ <$1+（1−λ）<$2]j=1j=1i=1j=11J1JJj=12J2JJ=.J..新墨西哥州Kilany/Journal of the Egyptian Mathematical Society 25（2017）212-215215minλ[（f2，x，θ2），（f1，x，θ1）]<$1（dx）θ1∈©1χ∫Σ+（1−λ）χJ[（f2，x，θ2），（f1，x，θ1）]<$2（dx）引用[1] V.V. 费多罗夫，最优实验理论，学术出版社，纽约，1972年。[2] A. Pazman，最优实验设计基础，Reidel，Dordrecht，1986.[3] A.C.阿特金森，A.N.邓文，最优实验设计，北京：人民出版社，1992。≥λI12（λ 1）+（1−λ）I 12（λ 2）其中最后一个不等式通过替换每个项<$J[（f2，x，θ2），（f1，x，θ1）]<$j（dx），j=1， 2其最小值为I12（？j），j=1，2. 因此KL-判据函数是凹函数和因此的丝束第一方面在当量 (12)是凹函数 第三和第四项的Eq。(12)是两个竞争模型f1（y，x，θ1）和f2（y，x，θ2），它们是凹最优性准则。还有，那以后nπ（θ，θ）w≥0和.nπ（θ，θ）w≥0，使得[4] A.C. Atkinson，V. V. Fedorov，区分两个竞争模型的实验设计，Biometrika62（1975）57[5] A.C.张文龙，最佳设计：判别模型的实验，国立台湾大学机械工程研究所硕士论文，2000。[6] D. 乌奇恩斯克我，B。 Boga aa，T-最优设计对两种多响应动态模型的区分，J. R.Stat. Soc. B 67（2005）3[7] J. López-Fidalgo角托马西省Tranda fir，区分异方差模型的最优设计，在：S.M.叶 尔 马 科 夫 Melas （ Eds. ） ， Proceedings of the 5th St Petersburg WorkshopSimulation，St Petersburg University，St Petersburg，2005，pp. 第429-436页。[8] J. López-Fidalgo角托马西省Tranda fir，用于区分非正态模型的最优实验设计标准，J. R. Stat. B 69（2007）231-242。[9] J.M. Mcgree，J.A. Eccleston，基于概率的优化设计，Aust。N. Z. J.统计50（1）（2008）13-28。[10]A . Wald，On the Efficient Design of Statistical Investigation，Ann.数学Stat.14日志nπ1j（θ1，θ j）w j和lognπ2j（θ2，θ j）w j是凹函数，选项。 因此，Eq. (12)是凹函数的凸组合，由于系数αi，i=1， 2， 3， 4， 5， 6满足条件，（1943）134-140.[11]S.D. Silvey，最优设计，Chapman &Hall，伦敦，1980年。[12]C.张文，张文军，等.模型识别与参数估计的最优设计.Stat. 计划推论139（2009）4123选项。6αi=1，0≤αi≤1。因此，PDKL的设计要求是：在Eq中定义。（12）是凹函数。因此，PDKL准则满足凸最优设计理论的条件，从而证明了一个等价定理χ
