Cheat

 Sheet:  Interpreting  Regressions

Type Transformation X  Variable Y  Variable Equation Interpretation  of  β Intuition  or  Purpose

OLS None Continuous Continuous Y  =  α+  βx  +  ε β:  the  effect  of  1  unit  Δ  in  x  on  Δ  in  y ◦  Basic  regression  to  estimate  relationships

OLS Log-­‐Linear Continuous Continuous ln(Y)  =    α+  βx  +  ε β:  the  effect  of  1  unit  Δ  in  x  on  %Δ  in  y ◦  Easier  interpretation,  non-­‐linear

OLS Linear-­‐Log Continuous Continuous Y  =    α+  βln(x)  +  ε β:  the  effect  of  1  %  Δ  in  x  on  Δ  y ◦  Easier  interpretation,  non-­‐linear

OLS Log-­‐Log Continuous Continuous ln(Y)  =    α+  βln(x)  +  ε β:  the  effect  of  1  %  Δ  in  x  on  %Δ  in  y ◦  Interpret  as  an  elasticity,  non-­‐linear

Dummy   β:  the  effect  of  1  unit  Δ  in  x  on  probability  

OLS None Continuous Y  =  α+  βx  +  ε                                                       ◦  Think  of  Y  as  switched  on  and  off
(Y  =  0  or  1)          that  Y  occurs  (a  %)

Dummy                          
OLS None Continuous Y  =  α+  βx  +  ε                                                β:  
    the  effect  of  x  being  equal  to  1  on  Δ  in  y ◦  Think  of  X  as  switched  on  and  off
(X  =  0  or  1)

Dummy                          Dummy β:  the  effect  of  x  being  equal  to  1  on  probability  
OLS None Y  =  α+  βx  +  ε                                                 ◦  Think  of  X  and  Y  as  switched  on  and  off
(X  =  0  or  1) (Y  =  0  or  1)          that  Y  occurs  (a  %)

β1:  the  effect  of  a  1  unit  Δ  in  x1  on  Δ  in  y,  
           controlling  for  the  effect  of  x2 ◦  Control  for  variables
Any Multivariate Continuous Continuous Y  =  α+  β1x1  +  β2x2  +  ε
◦  Incorporate  effect  of  multiple  variables
β2:  the  effect  of  a  1  unit  Δ  in  x2  on  Δ  in  y,  
           controlling  for  the  effect  of  x1

Multivariate  with  Interaction:

β1  (main  effect):  the  effect  of  x1  independent  
         of  the  effect  of  x2 ◦  A  way  of  quantifying  simultaneous  
X1  Dummy      relationships
β2  (main  effect):  the  effect  of  x2  independent  
X2  Dummy ◦  Interaction  allows  for  effect  of  one  
         of  the  effect  of  x1
     variable  to  vary  depending  on  level  of  
β3  (interaction):  the  additional  marginal  effect  of  x1  or  x2        another  variable
-­‐or-­‐
depending  on  the  level  of  the  other  interacted  variable
               
Multivariate  
Any Continuous Y  =  α+  β1x1  +  β2x2  +  β3x1*x2  +  ε
with  Interacton X1  Continuous  
X1  Dummy  and  X2  Dummy: X1  Continuous  &  X2  Dummy: X1  Continuous  and  X2  Continuous:
X2  Dummy
◦  Effect  of  x1=1  is  β1  if  x2=0
-­‐or-­‐ ◦  Effect  of  x1  is  β1  if  x2=0
◦  Effect  of  x1=1  is  (β1+β3)  if  x2=1 ◦  Effect  of  x1  is  (β1+β3*x2)
◦  Effect  of  x1  is  (β1+β3)  if  x2=1
◦  Effect  of  x2=1  is  β2  if  x1=0 ◦  Effect  of  x2  is  (β1+β3*x2)
X1  Continuous ◦  Effect  of  x2=1  is  (β2+β3)
◦  Effect  of  x2=1  is  (β2+β3)  if  x1=1
X2  Continuous

◦  Probit  is  short  for  probability  unit

◦  Follows  standard  normal  distribution
Dummy N β:  the  effect  of  1  unit  Δ  in  x  on  the  z-­‐score   ◦  Thinner  tails
MLE Probit Continuous L(β ) = Π p(Yi ) = Φ(β Xi )Yi Φ(−β Xi )1−Yi
(Y  =  0  or  1) i=1          of  y  under  a  normal  distribution ◦  Approaches  axes  more  quickly
◦  Higher  value  of  β  means  event  is  more  
     likely

◦  Follows  logistic  distribution

◦  Fatter  tails
Dummy " exp(β Xi ) % i " exp(β Xi ) %
Y 1−Yi
β:  the  effect  of  1  unit  Δ  in  x  on  the  z-­‐score  
MLE Logit Continuous ◦  Approaches  axes  less  quickly
N
L(β ) = Π $ ' $ '
(Y  =  0  or  1) i=1 # 1+ exp( β X i ) & # 1+ exp( β X i ) &          of  y  under  a  logistic  distribution
◦  Higher  value  of  β  means  event  is  more  
   likely                

Y  =  α+  βZ  +  ε                                                                                                          
Continuous  or   Continuous  
2SLS Any where  Corr(Z,  X)>0                                    β:            t  he  
           c    ausal  
                     e    ffect  
  of  1  unit  Δ  in  x  on  Δ  in  y ◦  Causal  interpretation  of  our  β  coefficient
Dummy or  Dummy
and  Corr(Z,  ε)  =  0  

General  Notes Legend:

 (1)  With  categorical  values,  often  we  create  dummy  variables  (0/1).   X  -­‐  independent  variable Δ  -­‐  change OLS  -­‐  ordinary  least  squares
             This  makes  it  easier  to  interpret  coefficients. Y  -­‐  dependent  variable ln  -­‐  natural  log 2SLS  -­‐  two  stage  least  squares
 (2)  Many  of  the  concepts  apply  across  types. β  -­‐  slope log  -­‐  logarythm MLE  -­‐  maximum  likelihood  estimator
             (i.e.  how  to  interpret  a  coefficent  when  we  have  dummy  Y  for  interaction). α  -­‐  intercept lin  -­‐  linear
 (3)  This  table  is  meant  to  be  compact,  and  therefore  does  not  include  all  possible  iterations. ε  -­‐  error