Modelo probit

En estadística, un modelo probit es un tipo de regresión donde la variable dependiente puede tomar solo dos valores, por ejemplo, casados o no casados. La palabra es un acrónimo, viene de probabilidad + unit (unidad).^[1]​ El propósito del modelo es estimar la probabilidad de que una observación con características particulares caerá en una categoría específica; además, clasificando las observaciones basadas en sus probabilidades predichas es un tipo de modelo de clasificación binario .

Un modelo probit es una especificación popular para un modelo de respuesta ordinal^[2]​ o binario. Como tal, trata el mismo conjunto de problemas que la regresión logística utilizando técnicas similares. El modelo probit, que emplea una función de enlace probit, se suele estimar utilizando el procedimiento estándar de máxima verosimilitud , que se denomina una regresión probit.

Los modelos Probit fueron presentados por Chester Bliss en 1934;^[3]​ Ronald Fisher propuso un método rápido para calcular las estimaciones de máxima verosimilitud para ellos como apéndice del trabajo de Bliss en 1935.^[4]​

Supongamos que una variable de respuesta ${displaystyle Y}$ es dicotómica, es decir, que puede tener solo dos resultados posibles que denotaremos como ${displaystyle 1}$ y ${displaystyle 0}$. Por ejemplo, ${displaystyle Y}$ puede representar la presencia o ausencia de una determinada condición, éxito o falla de algún dispositivo, responder sí o no en una encuesta, etc. También tenemos un vector de regresores que denotaremos por ${displaystyle X}$, que se supone influyen en el resultado de ${displaystyle Y}$. Específicamente, suponemos que el modelo toma la forma:

donde ${displaystyle P}$ denota la probabilidad, y ${displaystyle Phi }$ es la función de distribución acumulada (FDA) de la distribución normal estándar. Los parámetros ${displaystyle eta }$ se estiman típicamente por máxima verosimilitud.

Es posible motivar el modelo probit como un modelo de variable latente. Supongamos que existe una variable aleatoria auxiliar

donde ${displaystyle varepsilon sim N(0,1)}$. Entonces ${displaystyle Y}$ puede verse como un indicador de si esta variable latente es positiva:

El uso de la distribución normal estándar no causa pérdida de generalidad en comparación con el uso de una media arbitraria y una desviación estándar porque la suma de una cantidad fija a la media puede compensarse restando la misma cantidad de la intersección y multiplicando la desviación estándar por una cantidad fija se puede compensar multiplicando los pesos por la misma cantidad.

Para ver que los dos modelos son equivalentes, tenga en cuenta que:

Supongamos que el conjunto de datos ${displaystyle {y_{i},x_{i}}_{i=1}^{n}}$ contiene ${displaystyle n}$ unidades estadísticas independientes que corresponden al modelo anterior. Entonces su función conjunta de verosimilitud de ${displaystyle log }$ es

El estimador ${displaystyle {widehat {eta }}}$ que maximiza esta función será consistente, asintóticamente normal y eficiente siempre que ${displaystyle XX^{T}}$ exista y sea no singular. Se puede demostrar que esta función de verosimilitud de ${displaystyle log }$ es cóncava globalmente en ${displaystyle eta }$, y por lo tanto los algoritmos numéricos estándar para la optimización convergerán rápidamente al máximo único.

Distribución asintótica para ${displaystyle {hat {eta }}}$ esta dado por:

donde

y φ = Φ' es la función de densidad de probabilidad (PDF) de la distribución normal estándar.

Este método solo se puede aplicar cuando hay muchas observaciones de variables de respuesta y ${displaystyle y_{i}}$ teniendo el mismo valor del vector de regresores ${displaystyle x_{i}}$ (tal situación puede denominarse "muchas observaciones por celda"). Más específicamente, el modelo se puede formular de la siguiente manera.

Supongamos que entre n observaciones ${displaystyle {y_{i},x_{i}}_{i=1}^{n}}$ solo hay T valores distintos de los regresores, que se pueden denotar como ${displaystyle {x_{(1)},ldots ,x_{(T)}}}$. Sea ${displaystyle n_{t}}$ el número de observaciones con ${displaystyle x_{i}=x_{(t)},}$ y ${displaystyle r_{t}}$ el número de tales observaciones con ${displaystyle y_{i}=1}$. Suponemos que efectivamente hay "muchas" observaciones por cada "célula": para cada ${displaystyle t,lim _{n ightarrow infty }n_{t}/n=c_{t}>0}$.

Denotemos:

Entonces, el estimador mínimo de chi-cuadrado de Berkson es un estimador de mínimos cuadrados generalizados en una regresión de ${displaystyle Phi ^{-1}({hat {p}}_{t})}$ en ${displaystyle x_{(t)}}$ con ponderadores ${displaystyle {hat {sigma }}_{t}^{-2}}$:

Se puede demostrar que este estimador es consistente (como n→∞ y T fijo), asintóticamente normal y eficiente. [ cita requerida ] Su ventaja es la presencia de una fórmula de forma cerrada para el estimador. Sin embargo, solo es significativo llevar a cabo este análisis cuando las observaciones individuales no están disponibles, solo sus cuentas agregadas ${displaystyle r_{t}}$, ${displaystyle n_{t}}$, y ${displaystyle x_{(t)}}$ (por ejemplo, en el análisis del comportamiento electoral).