Cuidado: De acuerdo a un estudio israelí, la inteligencia artificial nos está juzgando
Un estudio de la Universidad Hebrea de Jerusalén llevado a cabo por los investigadores Yaniv Dover y Valeria Lerman, reveló cómo los algoritmos fragmentan el comportamiento humano de forma matemática, aplicando una "confianza" rígida que amplifica los sesgos y define de manera invisible quién accede a un empleo o a un crédito bancario
Nuestros nuevos «amigos» de la inteligencia artificial (IA), como ChatGPT o Gemini, nos «juzgan» todo el tiempo, una capacidad informática que, según un equipo de investigadores israelíes, puede transformarse en serios problemas a la hora de buscar trabajo o solicitar un crédito bancario.
Cuando se trata de los cada vez más presentes chatbots, los problemas pueden no pasar a mayores, pero si son los sistemas de IA que «deciden», entonces se encienden las luces rojas de alarma.
Las máquinas, recordaron los investigadores de la Universidad Hebrea de Jerusalén, aplican un criterio rígido y matemático que amplifica los sesgos demográficos de una forma mucho más extrema que los seres humanos.
A diferencia del criterio humano intuitivo y global, los algoritmos desglosan las virtudes individuales como si fueran columnas de una planilla de cálculo, lo que genera decisiones automatizadas más extremas en procesos clave como la concesión de créditos bancarios o la selección de personal.
Para el estudio, los investigadores Yaniv Dover y Valeria Lerman se basaron en más de 43.000 decisiones simuladas y en la participación de cerca de mil personas. El trabajo reveló que los sistemas de IA más avanzados, incluidos modelos similares a ChatGPT y Gemini, no se limitan a procesar información.
Emiten juicios sobre las personas. Y al hacerlo, parecen generar algo muy parecido a la «confianza», aseguró el reporte de la universidad.
Según se explicó, el estudio situó tanto a humanos como a IA en situaciones cotidianas: decidir cuánto dinero prestar a un pequeño empresario, si confiar o no en una niñera, cómo evaluar a un jefe o cuánto donar al fundador de una organización sin ánimo de lucro.
En todos esos escenarios, surgió un patrón claro: tanto los humanos como la IA favorecieron a las personas que parecían competentes, honestas y bienintencionadas.
En otras palabras, las máquinas parecían comprender los ingredientes básicos de la confianza: competencia, integridad y bondad.
«Esa es la buena noticia», dijo el profesor Dover. «La IA no toma decisiones al azar, captura algo real sobre cómo los humanos se evalúan entre sí», aseguró.
Pero ahí se terminaron las similitudes.
Por ejemplo, cuando nos preguntamos si una persona es «buena», los humanos tendemos a formar una impresión general combinando múltiples rasgos en un juicio único, intuitivo y holístico.
En cambio, la IA funciona de manera muy diferente: desarma a las personas en «componentes», puntuando competencia, integridad y amabilidad casi como si fueran columnas separadas en una hoja de cálculo.
El resultado es un estilo de juicio más rígido y sistemático, consistente, pero menos humano.
Las personas que participaron del estudio resultaron «complejas y holísticas a la hora de juzgar a los demás —señaló Lerman—, mientras que la IA es precisa y sistemática, lo que puede conducir a resultados muy diferentes«.
En situaciones financieras, como decidir cuánto dinero prestar o donar, los sistemas de IA mostraron diferencias consistentes y, a veces, considerables, basadas únicamente en rasgos demográficos.
Por ejemplo, las personas mayores solían obtener resultados más favorables, aunque en algunos casos se observó el patrón opuesto. La religión también influyó significativamente en los resultados, especialmente en los económicos.
El género también influyó en ciertos modelos y escenarios.
Distintos tipos de prejuicios
Dover reconoció que «los humanos tenemos prejuicios, por supuesto, pero lo que nos sorprendió es que los prejuicios de la IA pueden ser más sistemáticos, más predecibles y, a veces, más fuertes».
Los investigadores destacaron que sus hallazgos —que fueron publicados en la revista científica Proceedings of the Royal Society A— no son una advertencia contra la IA, sino un llamado a la reflexión.
«Estos sistemas son poderosos —dijo Dover—: pueden modelar aspectos del razonamiento humano de forma consistente, pero no son humanos y no debemos asumir que ven a las personas como nosotros«.
A medida que la IA se integra cada vez más en la vida cotidiana, completaron desde la universidad israelí, la pregunta ya no es si confiamos en las máquinas, sino si comprendemos cómo nos «ven» a nosotros.
Imagen: La cabeza de un robot humanoide, representando la inteligencia artificial
Imagen: Gabriele Malaspina / Unsplash
Israel Económico Ver menos
No hay comentarios:
Publicar un comentario
Nota: solo los miembros de este blog pueden publicar comentarios.