Perfil Autor

Archivos Por Fecha

« noviembre 2009
lunmarmiéjueviesábdom
      
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
      
Hoy


Transparentando las encuestas telefónicas

06.07.2009 | 21 Comments

A propósito de las polémicas que se han suscitado en semanas recientes con las encuestas electorales telefónicas, hay una entrevista que resume magistralmente los problemas de estas encuestas. El entrevistador es Jon Stewart, para mi gusto uno de los animadores más incisivos y originales de la televisión estadounidense; el entrevistado es John Zogby, el encuestador que se hizo famoso con sus certeras predicciones para las elecciones presidenciales de 1996 y del 2000 (fue uno de los pocos en predecir el virtual empate entre Bush y Gore).

La entrevista tuvo lugar pocos días antes de la elección presidencial del 2004 (Bush vs. Kerry). Luego de los saludos de rigor, el animador le hace notar al encuestador que, dada la cercanía de la elección, seguramente está trabajando a todo vapor.
Zogby: "Cierto. ¿Por qué no estás en tu casa donde mi gente está tratando de llamarte en este momento?".
Stewart: "Así que son ustedes". (Se queda pensando). "Cuando dicen que una encuesta tiene un tamaño muestral de, dígamos 1.300, ¿a cuántas personas tuvieron que llamar?".
Zogby: "Ufff, me imagino que necesitamos alrededor de 10 mil números telefónicos".
Stewart: "¿En serio?".
Zogby: "Sí, de veras. Mucha gente no está en su casa y alrededor de dos de cada tres se niega a responder hoy en día".
Stewart: "Entonces, ¿por qué el margen de error no es del 70%?".
Zogby: "¿Por qué me preguntas esto?" (Lo que sigue en voz baja pero claramente audible) "Dijiste que no me ibas a preguntar esto".
Stewart: "Tienes razón, no te lo voy a preguntar. Dime entonces quién crees va a ganar (la elección presidencial de la próxima semana)".
Zogby: "Kerry".

Coincidencia o no, la encuesta TNS-Time dada a conocer esta semana, según la cual Enríquez-Ominami aventajaría a Frei en las preferencias electorales, también se basa en aproximadamente 1.300 entrevistas telefónicas. Según la empresa encuestadora, el margen de error sería del 2,6%. Las condiciones que deben cumplirse para que esta cifra refleje cuán confiable es la encuesta no se dan ni remotamente, de modo que la afirmación sobre margen de error no tiene base científica alguna.

La afirmación anterior es dura, pero cierta, por varios motivos. Primero, porque para poder hablar de margen de error la encuesta debe ser probabilística, es decir, los encuestados deben seleccionarse al azar dentro de grupos bien definidos de electores. La encuesta TNS-Time no es probabilística, sino que por cuotas, lo cual significa que no sabemos cuán probable es encuestar a distintos grupos de electores y no se puede aplicar la teoría estadística para calcular un margen de error. Conscientes de lo anterior, algunas encuestas por cuotas incluyen un pie de página diciendo que el margen calculado sería válido si la muestra hubiese sido probabilística. Algo así como decir que el condenado sería inocente si no hubiese cometido el crimen.

Y por si el párrafo anterior no bastara, cabe agregar que las encuestas telefónicas tienen una serie de problemas serios aun en caso de ser probabilísticas. Primero, TNS-Time no informa cuántas llamadas tuvieron que hacer para recoger 1.300 respuestas. ¿Qué fracción de los teléfonos que llamaron no respondieron? Y entre quienes contestaron el teléfono, ¿qué fracción se negó a responder? Si, como dice John Zogby, se necesitan alrededor de 10 mil llamadas telefónicas para obtener 1.300 respuestas, el grado de precisión será varias veces el 2,6 % mencionado. Peor aun, sin supuestos adicionales que en la práctica suelen ser imposibles de verificar, no existen métodos estadísticos para calcular un margen de error cuando quienes responden la encuesta son una fracción pequeña de quienes se intentó contactar.

En el caso de la encuesta TNS-Time, los problemas son aún más burdos. Los porcentajes que informa la encuesta para las opciones de intención de voto en la primera vuelta suman 101,7%. En el mejor de los casos se trata de errores de redondeo que reflejan una falta de profesionalismo preocupante, en el peor de los casos recuerda a aquella encuesta que daba al Sí como ganador, publicitada con bombos y platillos por la prensa afín a la dictadura el día del plebiscito de 1988, donde las opciones Sí y No sumaban más del 102%.

Pero el problema va más allá de una encuesta particular. La mayoría de las instituciones que realizan encuestas electorales en Chile no están cumpliendo con estándares mínimos de transparencia que permitan a la ciudadanía formarse una opinión sobre la seriedad y validez de estos instrumentos. Para empezar, deben consignar no sólo el número de encuestados, sino también el número de personas que declinaron responder o, en el caso de las encuestas telefónicas, que no respondieron la llamada. También debe mencionarse si la metodología empleada permite calcular un margen de error o no, y de ser así, cuál es dicho margen.

Igualmente importante para la ciudadanía es conocer los dueños y financistas de las instituciones que realizan y encargan una encuesta. También, cualquier nexo que éstos pudieran tener con candidaturas específicas. Si una encuesta financiada por una institución que tiene nexos con Frei concluye que un tercio de los votantes afines a la UDI no va a votar por Piñera, el impacto sobre la opinión pública será menor que si dicha conclusión la obtiene una organización independiente del candidato concertacionista.

Hemos avanzado de manera importante en transparentar el funcionamiento del mundo público, la nueva legislación sobre transparencia es un ejemplo prometedor. Sin embargo, hay áreas donde es legítimo exigir grados de transparencia mucho mayores que los actuales a los actores privados, las encuestas políticas es una de estas áreas.

« La deuda pendiente... | Main | Resistiendo presione... »

Comments:

..Sencillamente brillante, claro como el agua y sin margen de error...faltan estadisticos como tu en Chile...y entrevistadores como Stewart!...

Posted by German Quintana on June 07, 2009 at 11:39 AM CLT #

No se necesitan conocimientos muy acabados de estadistica para evaluar una encuesta de esta naturaleza. El comentario de Engel tiene que ver con honestidad y transparencia, no con capacidad intelectual

Posted by S on June 07, 2009 at 11:51 AM CLT #

Engel, cual es la base cientifica de un error de 70% como sugiere tu admirado entrevistador?

Las encuestas telefonicas tienen bastante exito para predecir resultado de las elecciones, por eso han ganado credibilidad e impacto en los medios.

Posted by pepe on June 07, 2009 at 12:01 PM CLT #

Excelente columna. Me parece muy acertada la crítica, creo que en Chile el tema no se ha tratado con la profundidad que merece. Se están utilizando los instrumentos cientificos para ideologias baratas.

Posted by Felipe Espinosa on June 07, 2009 at 12:47 PM CLT #

Notable como siempre Eduardo.....que gane el más mejor... pero sin sesgar ni usar las encuestas como herramientas de propaganda...

Posted by Pedro Sanchez on June 07, 2009 at 01:02 PM CLT #

Me encanto la columna. Ojala se difundiera mas, ahora que las encuestas se utilizan como instrumentos politicos.

Posted by valeska on June 07, 2009 at 03:15 PM CLT #

estimado, ese es un tema muy antiguo, de hecho Marta Lagos ya criticaba la encuestas telefónicas para la elección del 99, primera vuelta entre lagos y lavín...y ella fue quien se equivocó...y la Fundación Futuro fue la ÚNICA que acertó, empate matemático...y con metodología telefónica...lo que pasa es que han habido muchos avances tecnológicos y el tema de las cuotas se ha matizado (no superado) con selección probabilística dentro de ciertos segmentos...igual es buena la discusión!!!

Posted by Fernando on June 07, 2009 at 04:10 PM CLT #

Muy buenos datos para el análisis de estas encuestas mágicas. Busqué datos sobre los dueños de Time y en su página no sale nada, sería bueno saber quien es quien entre las empresas de encuestas, sobretodo por los números que le atribuyen a Enriquez.

Posted by jlt on June 07, 2009 at 04:52 PM CLT #

encuentro exelente el tema en tiempos de campaña, y que sirva para dar claridad a la metodologia de la medicion de las preferencias de los encuestados, me quedo con un dato de la tendencia propagandistica de los medios de prensa escrita, en esto del porcentaje de preferencias por Marcos-Enriquez, no cabe duda que es tendenciosa al igual que el sondeo telefonico de TNS-Time, imflar irresponsablemente a un candidato, para en ello sacar los 35dividendos necesarios para ganar la proxima eleccion.

Posted by Hipolito valenzuela on June 07, 2009 at 04:55 PM CLT #

Fernando: La encuesta de fundación futuro daba un empate, creo, 35% a 35%... es como pronosticar un 0-0 y que el partido termine 4-4. No se cuánto se puede decir que le acertaron.

Saludos profesor

Posted by Alvaro García on June 07, 2009 at 08:02 PM CLT #

Eduardo,

Como siempre claro, presciso y asertivo

Una de las mentes brillantes que tenemos en Chile.

Saludos Profesor

Posted by Felipe B. on June 07, 2009 at 09:04 PM CLT #

Pertinente sin duda Eduardo, más allá de las listas de reemplazo y las cuotas que se fijen en estos casos, sabemos que se puede reemplazar sin demasiado problemas de inferencia las mortandades experimentales por ausencia (no estás en casa) pero cuando estás y no quieres contestar la figura es suficientemente distinta como para que cualquier margen de error, y sobre todo la potencia estadística se vea severamente lesionada y las inferencias sean como mínimo aventureras.

Posted by Pablo on June 07, 2009 at 09:44 PM CLT #

Mas alla de la llamada no contestada, se deberia incluir la cantidad de gente que no participo de la encuesta con el clasico y poco elegante telefonazo al encuestador. Seria bastante chocante para los politicos que pagan los sondeos ver una encuesta Piñera 20%, Frei 10%, E-Ominami 10%, otros 10%, no sabe/no contesta 50%

Posted by Ruperto on June 08, 2009 at 02:26 AM CLT #

Eduardo, Muy buena columna. Clara y al hueso. Sin embargo, si la gran mayoría de las encuestas no son cara a cara, ni probabilísticas,¿por que´tu columna surge justo con esta encuesta?¿Por qué no surge cuando la pdta llega a niveles insólitos de aprobación (telefónica)? ¿O cuando se evalúa la confianza de los consumidores? ¿O cuando Frei pasa de 3 a 35% en 3 meses?
Ok, cuestionemos la calidad de encuestas, pero ojo con la oportunidad y con no matar al mensajero de noticias que no nos gustan.

Posted by Luis B. on June 08, 2009 at 02:38 AM CLT #

Muy oportuna la columna. De la decena de consultoras e instituciones, de todo tipo y tamaño, que están realizando encuestas políticas en Chile hoy, se puede categorizar desde más a menos confiables. Del grupo de estas últimas poco se conoce sobre su metodología, y –peor aún- no sabemos con claridad qué intereses están detrás de ellos. Algunas las realizan universidades con marcados intereses políticos, o cuyos ejecutivos son militantes o dirigentes de un partido. Más transparencia no hace mal.

Posted by Roberto Amaro on June 08, 2009 at 12:35 PM CLT #

Deacuerdo tanto por lo dicho por Engel como lo dicho por Ruperto, la irrupción de Marco es completamente comparable a la alta aprobación presidencial.
Las otras encuestas que nombra Engel son iguales con respecto a los que no contestan (que pueden tener un error del 99%) por lo que si los factores menores mejoran aunque sea un 10% la muestra para ese nivel de errores las diferencias metodologicas son poco relevantes,o sea todas las encuestas son de frenton malas.
Pero venden por lo que estan.

Posted by Ignacio G. on June 08, 2009 at 01:31 PM CLT #

Otro factor importante es que el error (ya sea de 70% 99% o 1%) no es medible ni comparable pero al parecer no es tan grande.

las encuestas en general que he visto tienen un error (para el mismo mes) de alrededor de un 10% (puede ser 12 u 8) pero poniendo algo de atención ese 10% generalmente es asociado a la intencionalidad de la encuesta o la dirección del centro de opinión.
Por lo que de ser independiente el estudio no sería tan mala la medicion a pesar de la incertidumbre no medible.

Posted by 200.111.194.194 on June 08, 2009 at 01:37 PM CLT #

Esta es una columna que nos sirve a todos, porque nos aclaran en la forma que se llevan a cabo y sus conclusiones finales, lo felicito profe. jorge

Posted by jorge carmona on June 08, 2009 at 05:30 PM CLT #

Esta es una columna que nos sirve a todos, porque nos aclaran en la forma que se llevan a cabo y sus conclusiones finales, lo felicito profe. jorge

Posted by jorge carmona on June 08, 2009 at 05:34 PM CLT #

¿Y que metodología usó Zogby cuando sus predicciones fueron certeras? Siempre quedan cabos sueltos cuando se trata de amarrar un paquete al modo personal...

Posted by Felipe Argenti on September 14, 2009 at 06:21 PM CLT #

Excelente reflexion, sencilla y al grano..comparto lo mencionado por otros foristas, aqui hay ausencia de estandar y falta de transparencia y honestidad...todos sinonimos de trabajo serio y camino al desarrollo.
No fuera nada que la ausencia de estandares permita a unas reprobadas coaliciones, no ser el patito feo de la fiesta, pero cuando se trata de generar opinion, alli si que se pone dolosa la cosa.
Si me dicen media verdad, es lo mismo que me digan mentiras, sigue siendo montaje.

Posted by Fabiola Marin on September 15, 2009 at 03:10 AM CLT #

Post a Comment:
  • Quedan 500 caracteres

  • HTML Syntax: NOT allowed