Sesgo en la Web: Datos, Algoritmos y Consecuencias

artículos contribuyeron
DOI: 10.1145 / 3209581
el aumento de los datos digitales, se puede ahora
Sesgo en los datos Web y el uso contamina los algoritmos detrás de las
aplicaciones basadas en la Web, entregando resultados igualmente
sesgados.
extenderse más rápido que nunca y llegar a muchas más
personas. Este prejuicio ha causado en grandes volúmenes
de datos se convierta en una tendencia y tema controvertido
en los últimos años. Las minorías, sobre todo, han sentido
los efectos nocivos de sesgo de los datos en la consecución
Por Ricardo Baeza-Yates
de los objetivos de vida, con los resultados que se rigen
principalmente por medio de algoritmos, de los préstamos
hipotecarios a la personalización de la publicidad. 24 Si bien los
El sesgo en
la Web
obstáculos que siguen siendo un obstáculo importante,
sesgo nos afecta a todos, aunque gran parte de las veces no
nos damos cuenta que existe o cómo podría (negativamente)
influir en nuestro juicio y de comportamiento.
La Web es más prominente canal de comunicación de
hoy en día, así como un lugar donde convergen nuestros
prejuicios. A medida que las redes sociales son cada vez
más central en la vida diaria, que nos exponen a factores
de influencia que puede que no hemos encontrado
previamente. Esto hace que la comprensión y el
reconocimiento de sesgo en la Web más importante que
nunca. Mi objetivo principal aquí es, pues, para elevar el
nivel de conciencia para todos los sesgos Web. conciencia
sesgo ayudaría a diseñar sistemas basados ​en Web
mejores, así como sistemas de software en general.
NUESTRO inherente al ser humano tendencia
a favorecer una cosa u opinión sobre otro se
refleja en cada aspecto de nuestras vidas, creando sesgos tanto latentes y
El sesgo de medición de
El primer desafío en el tratamiento de sesgo es cómo definir
manifiestas hacia todo lo que vemos, oímos, y hacemos. Cualquier remedio para el
y medir la misma. Desde un punto de vista estadístico, el
sesgo debe comenzar con la conciencia de que existe sesgo; por ejemplo, las
sesgo es una desviación sistémica causada por un proceso
sociedades más maduras sensibilización de sesgo social a través de programas de
acción afirmativa, y, mientras que la conciencia sola no alivia completamente el
problema, nos ayuda a guiar hacia una solución. El sesgo en la Web refleja tanto
de estimación o de muestreo incorrecto. Como resultado, la
distribución de una variable podría estar sesgado con
respecto a la original, posiblemente desconocida,
distribución. Además, los prejuicios culturales se pueden
encontrar en nuestras inclinaciones a nuestras creencias
los prejuicios sociales e internas dentro de nosotros mismos, emergiendo de una
personales compartidos, mientras que los sesgos cognitivos
manera más sutiles. Este artículo tiene como objetivo aumentar el conocimiento de
afectan a nuestro comportamiento y las formas en las que
los efectos potenciales impuestas a todos nosotros a través de sesgo presente en
tomar decisiones.
uso de la Web y el contenido. por lo tanto hay que considerar y tener en cuenta en
el diseño de sistemas Web que realmente respondan a las necesidades de las
La figura 1 muestra cómo las influencias de polarización
ideas clave
personas.
˽ Cualquier remedio para el sesgo comienza con
nosotros mismos, que se manifiesta en formas más sutiles.
Sesgo ha sido intrínsecamente incrustado en la cultura y la historia desde el
principio del tiempo. Sin embargo, debido a las
54 Comunicaciones del ACM | DE JUNIO DE 2018
| VOL. 61 | NO. 6
˽ Hay que considerar y tener en cuenta el sesgo
en el diseño de sistemas basados ​en la Web que realmente respondan a
las necesidades de los usuarios.
Imagen de Sviatlana sheina
la conciencia de su existencia.
˽ El sesgo en la Web refleja prejuicios dentro de
TIENES RAZÓN
Y todos los
demás están
equivocados.
DE JUNIO DE 2018 | VOL. 61 | NO. 6 | Comunicaciones del ACM
55
artículos contribuyeron
por lo tanto me he preguntado: ¿Qué porcentaje de
Figura 1. El ciclo vicioso de sesgo en la Web.
usuarios de la Web activos generan la mitad del contenido
de un sitio web de medios sociales? Yo no, sin embargo,
sesgo de la actividad
considero que la mayoría silenciosa de los usuarios de Web
sólo reloj
la Web sin contribuir a ella, que en sí mismo es una
forma de sesgo de autoselección. 14 Saez-Trumper y yo 8 cuatro
Web
conjuntos de datos analizados, y como detalle, los
resultados nos sorprendieron.
sesgo de los datos
Exploración de un conjunto de datos de Facebook desde
2009 con casi 40.000 usuarios activos, encontramos 7% de
sesgo de segundo orden
ellos produce el 50% de los puestos. En un conjunto de datos
más grande de la Amazonía valoraciones de 2013,
Pantalla
encontramos sólo el 4% de los usuarios activos. En un gran
Sesgo de muestreo
conjunto de datos a partir de 2011 con 12 millones de
usuarios activos de Twitter, el resultado fue sólo el 2%. Por
último, hemos aprendido que la primera versión de la mitad de
Algoritmo
las entradas de Wikipedia Inglés fue investigado y publicado
sesgo algorítmica
por el 0,04% de sus editores registrados, o aproximadamente
sesgo de autoselección
sesgo de la interacción
2.000 personas, lo que indica sólo un pequeño
Figura 2. Efecto vergüenza (línea con pequeña dirección de la tendencia) vs. mínimo esfuerzo (notable dirección de la tendencia) en el
porcentaje de todos los usuarios contribuyen a la
número de enlaces en las páginas web del Reino Unido, con intersección entre 12 y 13 enlaces. Los datos en el extremo derecho se debe
Web y la noción de que representa la sabiduría de
probablemente a las páginas de haber sido escritos por software, no por los usuarios o desarrolladores Web. 5
la multitud global es una ilusión.
A la luz de estos hallazgos, 8 que no tiene sentido
10 -1
que sólo el 4% de las personas que voluntariamente
escribir la mitad de todos los comentarios en el
10 -2
conjunto de datos de Amazon. Sentí algo más está en
Número de páginas
juego. Un mes después de la publicación de los
10 -3
resultados, se confirmó mi corazonada. En octubre
10 -4
2015, Amazon comenzó una campaña institucional
contra pagados comentarios falsos que continuaron en
2016 demandando casi
10 -5
1.000 personas acusadas de escribirlos. nuestro
análisis 8 También se encontró que si tenemos en
10 -6
10 0
10 2
10 1
10 3
Número de Enlaces
cuenta sólo los comentarios que algunas personas
encuentran útil, el porcentaje se reduce al 2,5%,
utilizando la correlación positiva entre la utilidad
promedio de cada revisión según los usuarios y un
tanto el crecimiento de la Web y su uso. Aquí explico
la importancia de las categorías de sesgo
proxy de la calidad del texto. Aunque el ejemplo de
cada uno de los sesgos (en rojo) y clasificarlos por
identificado, no en los aspectos metodológicos de
Wikipedia Inglés es el más sesgada, representa
tipo, empezando por el sesgo de la actividad
la investigación. Para más detalles, ver las
una positivo parcialidad. Las 2.000 personas al inicio
resultante de cómo la gente usa la Web y el sesgo
referencias y las investigaciones que figuran en el
del Inglés Wikipedia probablemente provocaron un
oculto de personas sin acceso a Internet. entonces
apéndice en línea “Lectura adicional” (ATS
efecto de bola de nieve que ayudó Wikipedia
me dirijo sesgo en los datos Web y cómo
dl.acm.org/citation.cfm?doid=3209581&picked=form) convertirse en el vasto recurso enciclopédico que
potencialmente contamina los algoritmos que lo
de este artículo.
es hoy.
utilizan, seguidos por los prejuicios creados a través
de nuestra interacción con sitios web y cómo el
contenido y el uso recicla de nuevo a la Web o para
Sesgo actividad, o la sabiduría de unos pocos
sistemas basados ​en internet, creando varios tipos de
En 2011, un estudio realizado por Wu et al. 28 sobre cómo las
Zipf, sostiene que muchas personas lo hacen sólo un poco,
sesgo de segundo orden .
personas siguieron otras personas en Twitter encontraron
mientras que pocas personas lo hacen mucho, posiblemente
que el 0,05% de las personas más populares atrajo a casi el
ayudando a explicar una gran parte de la actividad sesgo. Sin
50% de todos los participantes; 28 es decir, la mitad de los
embargo, los incentivos económicos y sociales también juegan un
usuarios de Twitter en el conjunto de datos estaban siguiendo
papel en el rendimiento de este resultado. Por ejemplo, la ley de
sólo unos pocos selectos celebridades. yo
Zipf se puede ver en la mayoría de las medidas de Web
Considere el siguiente estudio de investigación sobre el
sesgo en la Web, algunos en los que estaba involucrado con
personal, centrándose en
56 Comunicaciones del ACM | DE JUNIO DE 2018
| VOL. 61 | NO. 6
principio de menor esfuerzo de Zipf, 29 también llamada ley de
artículos contribuyeron
(Como el número de páginas por sitio web o número de
no importa qué definición de qué calidad se utiliza. Sin
contenido asociado con las grandes ciudades y
enlaces por página web). La figura 2 representa el
embargo, una gran cantidad de contenido falso en la web
atracciones turísticas. Otro ejemplo del efecto de la
número de enlaces en las páginas web del Reino Unido
parece extenderse más rápido que el contenido fiable. 17
red de sesgo Web es la estructura de enlaces de la
propia Web. Figura 3 parcelas el número de enlaces
sobre la X- eje y el número de páginas web en la y- eje. la
ley de Zipf es claramente visible en el lado derecho, en la
de la Web dentro de España a otros países, junto con
El primer conjunto de sesgos observados en
línea con la pendiente más negativa. Sin embargo, hay
personas que interactúan con la Web se debe a sus
las exportaciones de España a los mismos otros
una fuerte fuerza social en el comienzo de la X- eje que
características demográficas. El acceso y el uso de
países. 3 Los países hacia la parte inferior derecha son
llamo el “efecto de la vergüenza” que hace que la
Internet se correlaciona con sesgo educativo, económico
los valores atípicos, ya que todos ellos habían vendido
pendiente menos negativo. También ilustra que muchas
y tecnológico, así como otras características, causando
el derecho a utilizar sus dominios para otros fines
personas prefieren ejercer el menor esfuerzo, aunque la
un efecto dominó de sesgo en el contenido de la web y
(como la
mayoría de las personas también necesitan sentir que
enlaces. Por ejemplo, se estima que más del 50% de los
hacen todo lo posible para evitar sentir vergüenza de su
sitios web más populares son en Inglés, mientras que el
. código de país fm, dominio de nivel superior para los
esfuerzo. 5 Estos dos efectos son características comunes
porcentaje de hablantes nativos de inglés en el mundo es
Estados Federados de Micronesia). Haciendo caso
de la actividad de las personas en la web.
de aproximadamente sólo el 5%; esto aumenta al 13% si
omiso de ellas, la correlación entre las exportaciones
se incluyen todas las personas de habla inglesa, según
y número de enlaces es más de 0,8 para España. De
las estimaciones de la Wikipedia. sesgo geográfico
hecho, cuanto más desarrollado es un país, mayor es
también se observa en Web
la correlación, que van desde
Por último, el premio Nobel Herbert Simon dijo: “Una
gran cantidad de información crea una pobreza de
0,6 a 0,9 para Brasil para el Reino Unido 4
atención.” El sesgo actividad genera un “desierto digital”
a través de la Web o contenido Web nadie lo ve. Un
límite inferior proviene de datos donde Saez-Trumper y
yo Twitter 8 encontró que el 1,1% de los tweets fueron
Figura 3. sesgo económico de enlaces para la Web en España. 3
100000000
escritos y publicados por los personas sin seguidores.
10000000
Revisando las estadísticas de uso de Wikipedia nos
dieron una cota superior, mediante el cual el 31% de los
1000000
no fueron visitados en junio. El tamaño real del desierto
digital en la Web probablemente se encuentra en la
primera mitad de la gama de 1% a 31%.
Por otro lado, el sesgo no siempre es negativo.
Exportaciones (miles de US $)
artículos añadidos o modificados en el de mayo de 2014
100.000
10000
1000
Debido al sesgo de la actividad, todos los niveles de
100
almacenamiento en caché Web son altamente efectivos
1 10
para mantener el contenido más utilizado fácilmente
disponible, y la carga en los sitios web y la red de Internet
10
1
en general es entonces mucho menor de lo que sería
100
1000
10000
100.000
Número de dominios Vinculados
potencialmente posible.
Figura 4. Acumulado fracción de biografías de mujeres en Wikipedia. dieciséis
sesgo de datos
0.25
Al igual que con habilidades de la gente, la calidad de los
datos es heterogénea y, por tanto, en cierta medida, que se
espera a estar sesgados. Las personas que trabajan en el
0.20
ocupan de la información debe publicar los datos de mayor
calidad y menor sesgo, mientras que los medios de
comunicación social en su conjunto es mucho más grande,
sesgada y, sin duda, de una calidad media baja. Por otro
lado, el número de personas que contribuyen a los medios
de comunicación social es probablemente por lo menos un
orden de magnitud mayor que el número de personas que
trabajan en las instituciones basadas en la información.
Fracción de Biografías por año
gobierno, las universidades y otras instituciones que se
0.15
0.10
0.05
Existe, pues, más datos de alguna calidad procedentes de
todas las personas, incluyendo datos de alta calidad,
0.00
0.0
0.2
0.4
0.6
0.8
Fracción acumulativa
DE JUNIO DE 2018 | VOL. 61 | NO. 6 | Comunicaciones del ACM
57
1.0
artículos contribuyeron
el sesgo de género en toda la historia humana. 25 Sin muestran que menos del 12% de los editores de
Un segundo conjunto de sesgos es debido a la
interacción entre los diferentes tipos de sesgo.
embargo, un factor subyacente esconde un sesgo
Wikipedia son mujeres. En otras categorías, el sesgo
Considere la figura 4, que representa gráficamente la
más profundo que se revela cuando se mira más
de género es aún peor, de alcanzar el 4% en la
fracción de biografías de mujeres en Wikipedia, dieciséis unade cerca el proceso de creación. En la categoría de
biografías, estadísticas de Wikipedia
curva que podría explicarse a través sistémico
geografía. Por otra parte, como el porcentaje de todas
informó públicamente Wikipedia redactoras es sólo
del 11%, biografías muestran en realidad un pequeño
sesgo positivo. Tenga en cuenta estos valores
Figura 5. Los mapas de calor de análisis de seguimiento ocular en la web de búsqueda de páginas de resultados, a partir de 2005 (izquierda) a 2014 (derecha). 18
también son parciales, ya que no todos los editores de
os aprendido
Wikipedia identificar su género, y las hembras pueden
por lo tanto ser representados.
Nuestra tercera fuente de sesgo de los datos es spam
vestigadores se
web, un conocido sesgo malintencionado generado por el
iángulo de oro
hombre que es difícil de caracterizar. Lo mismo se aplica al
contenido (cerca de) la duplicación (tales como sitios web de
espejo) que, en 2003, representó aproximadamente el 20%
1
de contenido Web estático. 13
Dado que la medición de casi cualquier sesgo es difícil,
su efecto sobre los algoritmos de predicción utilizando la
ores ya no son siempre en la
máquina de aprendizaje son asimismo difíciles de entender.
que los usuarios ven en
Como los datos Web representa una muestra sesgada de
.
la población, para empezar, los estudios basados ​en las
2
redes sociales pueden tener una cantidad significativa de
error podemos estar seguros de que no se distribuye de
manera uniforme. Por la misma razón, los resultados de
Al igual que con todos los mapas de calor relativo presentados en este estudio, las áreas rojas
La forma de triángulo distinto no es visible porque buscadores son un
esas investigaciones no pueden extrapolarse al resto de la
son aquellas en las que los participantes pasaron la mayor cantidad de tiempo buscando como
barrido vertical más de lo que están leyendo horizontalmente.
n acondicionado habitualmente
Figura 6. gráfica de dependencia de los sesgos que afectan a la interacción del usuario.
población; considerar, por ejemplo, los errores de votación
un porcentaje del tiempo total se veían en la página, seguido por el amarillo, luego verde.
verticalmente más de
en la elección presidencial de 2016 Estados Unidos, 18 Aunque
dores están buscando el
posición sesgo
nido deseado.
las encuestas en línea predicho el resultado mejor que las
Clasificación
encuestas en vivo. Otras fuentes de error incluyen
9
Presentación
muestras sesgadas de datos (como debido al sesgo de
sesgo de la interacción
parcialidad
12
sesgo sesgo
selección) o muestras demasiado pequeña para la técnica
analítica a la mano. 7
El movimiento
del ratón
Haga clic sesgo
prejuicio social
sesgo de desplazamiento
Sesgo algorítmica y la Justicia
sesgo de autoselección
Los datos y el sesgo algorítmica
sesgo algorítmico se añade por el mismo algoritmo y no
está presente en los datos de entrada. Si los datos de
entrada es, en efecto sesgado, la salida del algoritmo
Posible clasificación de los sesgos mediante el cual las columnas culturales y cognitivos son dependientes del
también podría reflejar el mismo sesgo. Sin embargo,
usuario.
incluso si se detectan todos los posibles sesgos, la
definición de cómo un algoritmo debe proceder es
Tipo de sesgo
algorítmico
Presentación
Posición
Muestreo
Datos
Segundo orden
Estadístico
•
•
•
•
•
•
Actividad
Usuario Interacción
Clasificación
Social
Autoselección
58 Comunicaciones del ACM | DE JUNIO DE 2018
| VOL. 61 | NO. 6
Cultural
Cognitivo
generalmente difícil, de la misma manera las personas
?
?
están de acuerdo sobre lo que es una solución justa a
cualquier tema controvertido. Se puede incluso requerir que
invita a un experto humano para ayudar a detectar si una
salida de hecho incluye cualquier sesgo en absoluto. En un
•
•
•
•
•
•
•
•
•
•
•
•
•
esfuerzo de investigación 2016, que utiliza un corpus de
noticias de Estados Unidos para aprender que ella-él
analogías través de incrustaciones de palabras, la mayor
parte de los resultados se informó como parcial, como en la
enfermera-cirujano y divasuperstar en lugar de reina-rey. 9 Una
búsqueda rápida en la web mostró que aproximada-
artículos contribuyeron
madamente el 70% de los periodistas influyentes en los
Sesgo la interacción del usuario
EE.UU. eran hombres, a pesar de que en las escuelas de
Una fuente importante de sesgo es la interacción del
periodismo de Estados Unidos, las proporciones de género
usuario, no sólo en la Web, pero a partir de dos fuentes
se invierten. Algoritmos de aprendizaje de los artículos de
notables: la interfaz de usuario y la propia
noticias están aprendiendo así de textos con sesgo
demostrable y sistémica de género. Sin embargo, otras
investigaciones han identificado la presencia de otros sesgos
culturales y cognitivos. 10,22
Por otro lado, algunos desarrolladores web han sido
capaces de limitar el sesgo. “De-sesgar” el tema-sesgo
de género puede abordarse mediante la factorización en
el subespacio de género de forma automática. 9 En cuanto
a sesgo geográfico en las recomendaciones de noticias,
las grandes ciudades y centros de poder político
seguramente generará más noticias. Si se utilizan
Además del sesgo
auto-seleccionados, la interacción sesgada del usuario.
introducido por los
todo lo que ve el usuario puede obtener clics mientras
diseñadores de
El primero es el “sesgo de presentación,” por la cual
todo lo demás se pone ningún clic. Esto es
particularmente relevante en los sistemas de
interacción, los
recomendación. Considere un servicio de
usuarios tienen su
recomendaciones que pueden navegar, aunque el
propio sesgo de
autoselección.
videostreaming en el que los usuarios tienen cientos de
número es abismalmente pequeña en comparación con
los millones que podrían ser ofrecidos. Este sesgo
afecta directamente a los nuevos artículos o artículos
que nunca han sido vistos por los usuarios, ya que no
algoritmos de recomendación estándar, el público en
hay datos de uso de ellos. La solución más común se
general probablemente lee noticias de una ciudad capital,
llama “explorar y explotar”, como en Agarwal et al., 2 quien
no desde el lugar donde viven. Teniendo en cuenta la
estudió un ejemplo clásico aplicado a la banda. Expone
diversidad y la ubicación del usuario, los diseñadores
parte del tráfico de usuarios a los nuevos artículos
Web pueden crear sitios web que dan una visión menos
entremezcladas al azar con los mejores
centralizado que también muestra las noticias locales. 15
recomendaciones para explorar y, de ser elegido,
explotar los datos de uso para revelar su verdadero
valor relativo. La paradoja de esta solución es que la
exploración podría implicar una pérdida o un costo de
“Las recomendaciones de la etiqueta,” o la
oportunidad para la explotación de la información ya
recomendación de etiquetas o rótulos para los
conocida. En algunos casos, hay incluso una pérdida de
artículos, es un ejemplo extremo de sesgo
ingresos (por ejemplo, de los anuncios digitales). Sin
algorítmica. Imagínese una interfaz de usuario que
embargo, la única manera de aprender y descubrir
un usuario sube una foto y añade varias etiquetas,
(nuevos) buenos artículos es la exploración.
y un algoritmo de recomendación etiqueta sugiere
entonces las etiquetas que la gente ha utilizado en
otras fotos basado en filtrado colaborativo. El
usuario elige los que parecen correctos, ampliando
el conjunto de etiquetas. Esto suena simple, pero
un sitio web de fotos de alojamiento no debe incluir
“Sesgo Posición” es el segundo sesgo. Consideramos
dicha funcionalidad. La razón es que el algoritmo
que en las culturas occidentales se lee de arriba a abajo y
necesita los datos de las personas para mejorar,
de izquierda a derecha. El sesgo es, pues, a mirar primero
pero a medida que la gente utiliza etiquetas
hacia la esquina superior izquierda de la pantalla, lo que
recomendadas, que añaden un menor número de
provocó que la región para atraer más ojos y clics. “Sesgo
etiquetas de los suyos, recogiendo entre las
Clasificación” es un ejemplo importante de tal sesgo.
etiquetas conocidas sin añadir otras nuevas. En
Considere un motor de búsqueda en Internet, donde las
esencia, el algoritmo está haciendo prolonga
páginas de resultados se enumeran en orden relevante de
harakiri sobre sí mismo. Si tenemos un
arriba a abajo. El resultado será mejor clasificado de este
“folcsonomía”, o etiquetas que vienen sólo de las
modo atraer más clics que los demás, ya que es a la vez el
personas, los sitios web no deben recomendar a sí
más relevante y también se clasificó en la primera posición.
mismos las etiquetas. Por otra parte,
Para evitar el sesgo de clasificación, los desarrolladores
Web necesidad de reducir el sesgo de la distribución clic
para que puedan utilizar los datos de clics para mejorar y
evaluar los algoritmos de clasificación. 11,12 De lo contrario,
las páginas populares se vuelven aún más popular.
Otra clase importante de sesgo algorítmica en los
sistemas de recomendación se relaciona con lo que los
elementos del sistema elige para mostrar o no mostrar en
una página web en particular. Tal sesgo afecta a la
interacción del usuario, como explorado siguiente. Hay un
Otros sesgos en la interacción del usuario incluyen las
amplio literatura de investigación en todo tipo de sesgo
relacionadas con el diseño interacción del usuario; por
algorítmica; véase el apéndice en línea para obtener más.
ejemplo, cualquier página web donde un usuario necesita
para desplazarse para ver el contenido adicional se reflejará
como sesgo
DE JUNIO DE 2018 | VOL. 61 | NO. 6 | Comunicaciones del ACM
59
artículos contribuyeron
sesgo de presentación. Por otra parte, el contenido de cerca de
obteniéndose soluciones sub-óptimas y / o
imágenes tiene una mayor probabilidad de que se ha pulsado,
profecías autocumplidas. Estos sistemas a veces
ya que las imágenes atraen la atención del usuario. La figura 5
incluso compiten entre sí, de tal manera que una
muestra ejemplos de los estudios de seguimiento ocular
mejora en los resultados de una degradación de la
mediante el cual, después de la búsqueda universal (múltiples
tipos de respuestas) se introduce, el contenido no textual
contrarresta el sesgo de la posición en la página de resultados; 18
sino que también muestra la columna de la publicidad en la
derecha atraería la atención adicional.
Como cualquier intento de ser
personas afecta a nuestro juicio. Consideremos un ejemplo
que implica clasificaciones de colaboración: Supongamos que
queremos clasificar un elemento con una puntuación baja y
vemos que la mayoría de las personas que ya han dado una
diferente (correlación inversa). Un ejemplo clásico
imparcial ya podrían estar
es la tensión entre la mejora de la experiencia del
sesgados a través de nuestros
como la forma número de anuncios en general,
propios prejuicios culturales y
sesgo social define cómo el contenido procedente de otras
otra que utiliza una función de optimización
cognitivos, el primer paso es,
pues, ser consciente de las
desviaciones.
usuario y el aumento de la monetización (tales
disminuye el aumento de la experiencia del
usuario).
Círculo vicioso de Bias
Bias engendra sesgo. Imaginemos que somos un blogger
planeando nuestra próxima entrada en el blog. En primer
puntuación alta. Podemos aumentar nuestra puntuación de
lugar, la búsqueda de páginas sobre el tema que queremos
sólo pensar que tal vez estamos siendo demasiado dura. Este
cubrir. Luego seleccionamos unas pocas fuentes que nos
sesgo se ha explorado en el contexto de los datos reseñas de
parecen relevantes. Seleccionamos varias cotizaciones de
Amazon 26
estas fuentes. Escribimos nuevos contenidos, poniendo las
cotizaciones en los lugares correctos, citando las fuentes. Y,
y se refiere a menudo como “conformidad social”, o
“el efecto de la reunión.” 20
por último, publicamos la nueva entrada en la Web.
Por último, la forma en que un usuario interactúa con
cualquier tipo de dispositivo es idiosincrático. Algunos usuarios
Este proceso de creación de contenidos no se aplica
están ansiosos por clic, mientras que otros se mueven con el
únicamente a los bloggers, sino también al contenido
ratón, donde se ven. El movimiento del ratón es un proxy
utilizado en las revisiones, comentarios, mensajes de
parcial para la atención mirada y por lo tanto un sustituto de
redes sociales y mucho más. El problema de la deriva
bajo costo computacional para el seguimiento de los ojos.
mensaje aparece cuando se selecciona un subconjunto de
Algunos de nosotros puede que no note la barra de
contenido en función de lo que el motor de búsqueda que
desplazamiento, otros prefieren leer en detalle, y sin embargo,
se utiliza cree que es relevante. El algoritmo de
otros prefieren simplemente descremada. Además del sesgo
clasificación del motor de búsqueda de este modo sesga
introducido por los diseñadores de interacción, los usuarios
una parte del crecimiento orgánico de un tema
tienen su propio sesgo de autoselección. Blanco 27 explorado un
determinado en la Web. Un estudio de mis colegas y yo
buen ejemplo de cómo los prejuicios culturales y cognitivos
llevaron a cabo en 2008 6 encontró que aproximadamente el
afectan a los motores de búsqueda Web, mostrando que los
35% del contenido en la Web en Chile se ha duplicado, y
usuarios tienden a elegir respuestas alineadas con sus
que se podía trazar la genealogía de la duplicación parcial
creencias existentes.
(semántica) de esas páginas. Hoy en día, el efecto
semántico-duplicación podría ser aún más generalizada y
engañosa.
Para hacer sesgo aún más compleja, la interacción
desvía en cascada a través del sistema, y ​los
desarrolladores web tienen grandes dificultades para tratar
El proceso crea un círculo vicioso de sesgo de segundo
de aislarlos. La figura 6 describe un ejemplo de cómo estos
orden, ya que algunos proveedores de contenido obtienen
sesgos en cascada y dependen el uno del otro, lo que
una mejor clasificación, lo que lleva a un mayor número de
implica que los desarrolladores web siempre están viendo
clics; es decir, los ricos se hacen más ricos. Por otra parte, la
sus efectos combinados. Del mismo modo, los usuarios que
duplicación de contenidos sólo agrava el problema de
prefieren desplazarse afectan a cómo se mueven el ratón,
distinguir páginas buenas de las malas páginas. A su vez, los
así como cuáles son los elementos de la pantalla que son
spammers web hacen uso de los contenidos de buenas
capaces de hacer clic.
páginas a aparecer a sí mismos como la calidad del
contenido, sólo se suma al problema. Así, paradójicamente,
sesgos de interacción son cruciales para el análisis
de la experiencia del usuario, así como para el
los motores de búsqueda a menos que dañan a sí mismos no
haga dar cuenta de todos los prejuicios.
rendimiento general de un sitio web, ya que muchos
sistemas Web están optimizados a través de comentarios
de los usuarios implícita. Como tales sistemas
Otro ejemplo de sesgo de segundo orden viene
optimizados se basan cada vez más en el aprendizaje de
de algoritmos de personalización (tales como el
máquina, aprenden a reforzar sus propios sesgos o los
efecto del filtro de burbujas), 21 que no afectan el
prejuicios de otros sistemas conectados,
contenido web, sino más bien el contenido
expuesto al
60 Comunicaciones del ACM | DE JUNIO DE 2018
| VOL. 61 | NO. 6
artículos contribuyeron
usuario. Si un algoritmo de personalización sólo utiliza
otras iniciativas similares. Todos ellos deben
nuestros datos de interacción, sólo vemos lo que queremos
ayudar a definir la ética de algoritmos, en particular
ver, sesgando así el contenido de nuestros propios sesgos
con respecto a la máquina de aprendizaje.
de selección, que nos mantiene en un mundo cerrado,
cerrado a nuevos elementos que realmente pueden gustar.
13. Fetterly, D., Manasse, M., y Najork, M. En la evolución de los
cúmulos de páginas web cerca-duplicados.
Revista de Ingeniería Web 2, 4 (Oct. 2003), 228-246.
14. Gong, W., Lim, E.-P., y Zhu, F. Caracterización de los usuarios silenciosas en las
comunidades de medios sociales. En Actas de la Novena Conferencia
Internacional sobre AAAI web y medios de comunicación social ( Oxford, Reino
Como cualquier intento de ser imparcial ya podrían
Este problema debe ser contrarrestada mediante el filtrado
estar sesgados a través de nuestros propios prejuicios
de colaboración o contextualización de tareas, así como a
culturales y cognitivos, el primer paso es, pues, ser
través de la diversidad, la novedad, serendipia, e incluso, si
consciente de las desviaciones. Sólo si los diseñadores y
así lo solicita, que nos da el otro lado. Esto tiene un efecto
desarrolladores web conocen su existencia pueden tratar, y
positivo sobre la privacidad en línea, ya que, mediante la
si es posible, corregirlos. De lo contrario, nuestro futuro
incorporación de estas técnicas, se requiere menos
podría ser un mundo ficticio basado en percepciones
información personal.
sesgadas de la que ni siquiera la diversidad, la novedad, o
la casualidad serían capaces de rescatarnos.
Unido, mayo 26-29). AAAI, Fremont, CA, 2015, 140-149.
15. Graells-Garrido, E. y Lalmas, M. diversidad de equilibrio a
contramedida centralización geográfica en plataformas de
microblogging. En Actas de la 25 º
Conferencia ACM sobre hipertexto y medios de comunicación social
(Santiago, Chile, Sept. 1-4). ACM Press, Nueva York,
2014, 231-236.
16. Graells-Garrido, E., Lalmas, M., y Menczer, F. primeras mujeres, segundo
sexo: sesgo de género en Wikipedia. En
Actas de la 26 º Conferencia ACM sobre hipertexto y Social Media ( Guzelyurt,
RTNC, Chipre, 1-4 de septiembre). ACM Press, Nueva York, 2015,
165-174.
17. Lazer, DMJ et al. La ciencia de la noticia falsa. Ciencia
359, 6380 (Mar. 2018), 1094-1096.
18. mediadora. La evolución de los resultados de búsqueda de Google
Páginas y efectos sobre el comportamiento del usuario. Libro Blanco, 2014;
Conclusión
http://www.mediative.com/SERP
19. Mercer, A., Deane, C., y McGeeney, K. ¿Por qué 2016
El problema del sesgo es mucho más compleja de
Expresiones de gratitud
lo que he descrito aquí, donde he cubierto sólo una
Doy gracias a Jeanna Matthews, Leila Zia, y los
parte del problema. De hecho, la fundación
revisores anónimos por sus útiles comentarios, así
Las encuestas electorales erraron el blanco. Pew Research Center, de
involucra a todos nuestros prejuicios personales.
como para Amanda Hirsch por su anterior revisión
Por el contrario, muchos de los prejuicios que se
Inglés.
y la Internet de las cosas). La mesa aquí tiene
como objetivo clasificar todos los principales
sesgos en contra de los tres tipos de sesgo que he
mencionado antes. Podemos agruparlos en tres
grupos: El de arriba implica simplemente
algoritmos; la parte inferior de una sola actividad, la
interacción del usuario, y la auto-selección-implica
https://ssrn.com/abstract=2886526
Personalizado de la Web está cambiando lo que se lee y cómo pensamos. Penguin,
referencias
Londres, Reino Unido, 2011.
1. Consejo de Política Pública de Estados Unidos ACM. declaración sobre
Transparencia y rendición de cuentas algorítmica. ACM, Washington,
DC, enero de 2017 https://www.acm.org/ binarios / content / activos / de
políticas públicas / 2017_usacm_ statement_algorithms.pdf
2. Agarwal, D., Chen, BC., Y Elango, P. Explorar / exploit esquemas de
optimización de contenidos web. En Actas de la Novena Conferencia
Internacional IEEE sobre minería de datos ( Miami, FL, 6-9 de diciembre).
IEEE Computer Society Press, 2009.
de datos medio y de segundo orden incluyen los
4. Baeza-Yates, R. y Castillo, C. Relación entre los enlaces web y el
probablemente codifica los prejuicios culturales y
cognitivos de sus creadores. 3
España. Cibermetría 9, 1 (2005), 1-41.
comercio (póster). En Actas de la 15 º Conferencia Internacional de la
World Wide Web
(Edimburgo, Reino Unido, mayo 23-26). ACM Press, Nueva York,
2006, 927-928.
5. Baeza-Yates, R., Castillo, C., y Efthimiadis, ES Caracterización de los
dominios Web nacionales. ACM Transactions on Internet Technology 7, 2
(mayo de 2007), el artículo 9.
6. Baeza-Yates, R., Pereira, y Ziviani, árboles genealógicos N. en la Web:.
Una perspectiva de los usuarios del motor de búsqueda. En Actas de la
17 º Conferencia Internacional de la World Wide Web ( Beijing, China, abril
21-25). ACM Press, Nueva York, 2008, 367-376.
de la 38 º Conferencia ACM SIGIR
(Santiago, Chile, agosto de 9-13). ACM Press, Nueva York,
2015, 1093-1096.
propiedades algoritmos deben cumplir para lograr la
transparencia y la rendición de cuentas: 1 conciencia, el
acceso y la reparación, la rendición de cuentas, la
de comunicación: Gatekeeping, cobertura y declaración de sesgo. En Actas
de la Conferencia Internacional ACM sobre Gestión de la Información y el
Conocimiento ( San Francisco, CA, octubre 27- de noviembre 1). ACM
Press, Nueva York, 2013, 1679-1684.
23. Silberzahn, R. y Uhlmann, EL investigación Crowdsourced: Muchas manos
hacen el trabajo apretado. Naturaleza 526,
24. Smith, M., Patil, DJ, y Muñoz, C. Big Data: Un Informe
algorítmicos en Sistemas, la oportunidad y los derechos civiles.
Oficina Ejecutiva del Presidente, Washington, DC, 2016;
https://obamawhitehouse.archives.gov/sites/ default / files /
micrositios / OSTP / 2016_0504_data_ discrimination.pdf
25. Wagner, C., Garcia, D., Jadidi, M., y Strohmaier, M. Es Wikipedia de un hombre?
Evaluación de las desigualdades de género en una enciclopedia en línea. En Actas
de la Novena Conferencia Internacional sobre AAAI web y medios de
comunicación social ( Oxford, Reino Unido, mayo 26-29). AAAI, Fremont, CA,
2015, 454-463.
26. Wang, T. y Wang, D. ¿Por qué las calificaciones de Amazon podrían inducir a que: La
historia de los efectos de pastoreo. Big Data 2, 4 (diciembre de 2014), 196-204.
27. Blanca, R. Las creencias y los sesgos en la búsqueda en Internet. En
7. Baeza-Yates, R. muestreo incremental de registros de consultas. En Actas
A principios de 2017, US-ACM publica los siete
22. Saez-Trumper, D., Castillo, C., y Lalmas, M. Sociales comunidades medios
7572 (Oct. 2015), 189-191; https://psyarxiv.com/qkwst/
3. Baeza-Yates, R., Castillo, C. y López, V. Características de la Web de
en la primera línea indican que cada programa
Datos: Los sesgos metodológicos, trampas, y los límites éticos. SSRN,
21. Pariser, E. El filtro burbuja: cómo el nuevo
los que vienen sólo de personas; y la de una sola
que implican ambos. Los signos de interrogación
pewresearch.org/fact-tank/2016/11/09/why-2016election-polls-missed-their-mark/
20. Olteanu, A., Castillo, C., Diaz, F., y Kiciman, E. Social
Rochester, NY 20 de diciembre, de 2016;
describen aquí se manifiestan más allá del
ecosistema web (como en los dispositivos móviles
Washington, DC, noviembre de 2016; http: // www.
8. Baeza-Yates, R. y Saez-Trumper, D. La sabiduría de la multitud o la sabiduría de
unos pocos? Un análisis de la generación de contenido de los usuarios. En Actas
de la 26 º Conferencia ACM sobre hipertexto y Social Media ( Guzelyurt, RTNC,
Chipre, 1-4 de septiembre). ACM Press, Nueva York, 2015, 69-74.
9. Bolukbasi, R., Chang, KW, Zou, J., Saligrama, V., y Kalai, A. El hombre es
Actas de la 36 º Conferencia ACM SIGIR
(Dublín, Irlanda 28 de Julio-Ago. 1). ACM Press, Nueva York, 2013,
3-12.
28. Wu, S., Hofman, JM, Mason, WA, y Watts, DJ ¿Quién dice qué a quién
en Twitter. En Actas de la 20 º Conferencia Internacional de la World
Wide Web ( Hyderabad, India, marzo 28-abril. 1). ACM Press, Nueva
York, 2011, 705-714.
29. Zipf, GK Comportamiento Humano y el principio del menor
Esfuerzo. Addison-Wesley Press, Cambridge, MA, 1949.
explicación, la procedencia de datos, capacidad de
programador informático como mujer es ama de casa? De incrustaciones
de polarización de palabras. En Actas de la 30 º Conferencia sobre
auditoría y validación y pruebas. Este artículo está más
Ricardo Baeza-Yates ( [email protected]) es director de tecnología de NTENT, una
neuronales Sistemas de Procesamiento ( Barcelona, ​España, 5-10 de
compañía de tecnología de búsqueda basada en Carlsbad, CA, EE.UU., y Director
diciembre). Curran Associates, Inc., Red Hook, Nueva York,
de Programas de Ciencias de la Computación de la Universidad de Northeastern, el
estrechamente alineada con la conciencia. Además, el
IEEE Computer Society También en 2017 se inició un
proyecto para definir las normas en esta área, y al
menos dos nuevas conferencias sobre el tema se
llevaron a cabo en febrero de 2018. Mis colegas y yo
campus de Silicon Valley, San José, CA, EE.UU..
2016, 4.349 a 4.357.
10. Caliskan, A., Bryson, JJ, y Narayanan, A. Semántica deriva automáticamente a
partir de corpus de lenguaje contienen sesgos similares a las humanas. Ciencia
356, 6334 (Abril 2017), 183-186.
Derechos de autor pertenecen por el propietario / autor. Los derechos de
11. Chapelle, O. y Zhang, Y. Una red bayesiana modelo pulsa dinámico para la
también están trabajando en un sitio web con recursos
clasificación de búsqueda Web. En Actas de la 18 º Conferencia
en la “imparcialidad medidas”relacionadas con
Press, Nueva York,
algoritmos (http://fairnessmeasures.org/), y
seguramente hay
publicación licencia para ACM. De $ 15.00.
Internacional de la World Wide Web ( Madrid, España, abril 20-24). ACM
2009, 1-10.
12. Dupret, GE y Piwowarski, B. Un modelo de navegación del usuario para
Mira el autor discute su trabajo en
predecir datos de clics del motor de búsqueda a partir de observaciones
este exclusivo
pasadas. En Actas de la 31 S t Conferencia ACM SIGIR ( Singapur, Julio 20-24).
comunicaciones vídeo.
https://cacm.acm.org/videos/
sesgo-and-the-web
ACM Press, Nueva York, 2008, 331-338.
DE JUNIO DE 2018 | VOL. 61 | NO. 6 | Comunicaciones del ACM
61