Entrar

← Todos los repasos

Variedad del español

Usos, límites y errores de la inteligencia artificial: sesgos, confianza y decisiones

Hacia los 15 años · Se suele dar en ⁨4.º de ESO⁩ · Gratis

Aprende

  1. La inteligencia artificial (IA) se usa en medicina (señala zonas sospechosas en una radiografía), en traducción (pasa un texto a otra lengua) y en recomendaciones (propone vídeos según lo que eligió otra gente). Ayuda, y puede equivocarse.

    Con datos sesgados, el modelo acierta menos con los casos que sus ejemplos no representaban. Con casos raros, apenas tiene ejemplos, y un buen acierto total puede esconderlo. Con datos viejos, un modelo sin buscar en internet solo conoce lo que había hasta que se entrenó y responde igual. Y al escribir texto puede inventar: elige palabras que encajan, aunque sean falsas, con la misma seguridad.

    por qué fallaejemplo inventado
    datos sesgadossolo voces de adultos
    casos rarosuna avería casi nunca vista
    datos viejosno sabe lo de esta semana
    inventaruna cita que no existe
    Cuatro causas de error
  2. Si al medir cada grupo uno acierta mucho menos, se reúnen más ejemplos suyos, se vuelve a entrenar y se mide otra vez.

    El sesgo también viene de lo que se mide. En 2019, un estudio analizó un programa de EE. UU. que repartía atención médica extra y usaba el gasto médico (lo que costaba su atención) como señal de la necesidad. Como se había gastado menos en los pacientes negros con la misma necesidad, el programa, sin usar la raza, los veía más sanos. Medía el gasto, no la necesidad: sesgo de la medida. Las recomendaciones pueden crear un bucle: lo más visto se propone más y así se ve aún más.

    Se comprueba con otra fuente independiente, como un documento oficial o la obra original, si hay mucho en juego o el error cuesta notarlo. Que una respuesta suene segura no prueba que sea cierta. Preguntar otra vez a la misma IA no es comprobar.

    qué está en juegoqué hacer
    poco, y se nota enseguidaprobar y seguir
    mucho, o cuesta notarlocomprobar con otra fuente
    Cuánto comprobar
  3. La falsa alarma avisa de algo que no hay; el caso que se escapa no avisa de algo que sí hay. Cuál importa más depende de lo que pasa en cada uso.

    Una IA propone; una persona decide y responde. Una IA no puede responder de nada, porque no es una persona: responde sobre todo quien la usa o la pone en marcha. En 2023, un tribunal de Nueva York multó a dos abogados por presentar citas de sentencias inventadas por un chat, sin comprobarlas.

    La supervisión humana solo funciona si la persona tiene tiempo, información y poder de cambiar lo que propone. Aprobar sin mirar es el sesgo de automatización: fiarse de la máquina sin comprobar; cuanto más acierta, más se confía. El reglamento europeo de IA, de 2024, pide que los sistemas de alto riesgo permitan esa supervisión.

    la IAproponela personarevisala personadecide
    Quién decide

Ejemplos

Ejemplo 1

Elia prueba un programa que avisa de los panes quemados en una foto. De 200 fotos, 4 son de panes quemados. El programa dice «no quemado» en las 200. ¿Qué tasa de acierto tiene? ¿Sirve para avisar de los quemados?

 fotosacierta
sin quemar196196
quemados40
  1. Acierta las 196 fotos de panes sin quemar y falla las 4 quemadas.
  2. 196 ÷ 200 = 0,98: su tasa de acierto es el 98 %.
  3. Pero no avisa de ninguno de los 4 panes quemados: todos se le escapan.
  4. Un buen acierto total puede esconder un fallo con los casos raros.

Acierta el 98 %, pero no sirve para avisar de los panes quemados.

¡Ojo! Aquí muchos creen que un 98 % de acierto es un programa excelente.

Error típico

Ejemplo 2

Mara pide a un asistente de IA que escriba la respuesta a una clienta que pregunta cuántos días tiene para devolver un paquete. El asistente escribe, muy seguro: «Tienes 30 días». La norma de la tienda de Mara dice 14 días. ¿Qué hace Mara?

Respuesta de un asistente (de ejemplo)

Tienes 30 días para devolver tu paquete.

  1. El asistente no tiene los datos de la tienda: escribe lo que encaja, con seguridad.
  2. Hay algo en juego, una promesa a una clienta, y se puede comprobar: la norma está escrita.
  3. Mara mira la norma, que es otra fuente independiente: son 14 días.
  4. Corrige el texto, lo envía ella y responde ella.

Mara corrige la respuesta antes de enviarla.

¡Ojo! Aquí muchos envían la respuesta porque suena segura.

Error típico

Ejemplo 3

Julita propone que un programa elija qué paquetes reparten antes Guni y ella, usando como señal cuántas veces llamó cada cliente. ¿Qué problema tiene?

  1. Lo que importa es la urgencia de cada paquete; lo que se mide son las llamadas.
  2. Quien no llama, o no puede llamar, sale perjudicado aunque su paquete sea urgente.
  3. Se arregla midiendo la urgencia de verdad y con una persona que revise el orden.

Mide las llamadas, no la urgencia: es un sesgo de la medida.

¡Ojo! Aquí muchos creen que, si los datos son números, no pueden tener sesgo.

Error típico

Un reto para pensar

Elige un uso de la IA que conozcas, como traducir o recomendar. Escribe un caso en que podría fallar por sus datos, qué comprobarías si el error fuera grave y quién decidiría y respondería.

Practica

Rondas de 10 preguntas. Elige el nivel:

Tu nota en este tema:Sin nota aúnHaz una ronda del nivel Básico para tener nota.