Ética de la tecnología y de la inteligencia artificial
Aprende
Una inteligencia artificial (IA) aprende de ejemplos, que se llaman datos de entrenamiento. Cómo aprende lo verás más adelante, en Tecnología. Aquí hay preguntas, no recetas: ¿quién se beneficia?, ¿quién puede salir perjudicado?, ¿quién responde si falla?
asunto de qué trata pregunta que plantea sesgo errores que se repiten ¿trata igual a las personas? privacidad control de los datos ¿quién usa mis datos? responsabilidad quién responde ¿quién responde si falla? trabajo tareas que cambian ¿qué tareas cambian? Cuatro asuntos y sus preguntas Un sesgo es un error que se repite en una misma dirección, y una IA lo aprende si sus datos lo tienen. En 2018, Joy Buolamwini y Timnit Gebru comprobaron que tres programas comerciales de análisis de caras clasificaban mal el género de las mujeres de piel oscura hasta en un 34,7 % de los casos, y el de los hombres de piel clara, como máximo, en un 0,8 %. Las bases de datos de prueba tenían muchas más caras de piel clara.
La privacidad es el control sobre quién usa tus datos. El reglamento europeo de datos (RGPD), aplicable desde 2018, recoge en su artículo 22 el derecho a no ser objeto de una decisión basada solo en un tratamiento automatizado, con excepciones. La responsabilidad es saber quién responde si un sistema falla: quien lo fabrica, quien lo pone en marcha o quien lo usa. Ayudan la transparencia (explicar cuándo se usa una IA y por qué decide así) y la supervisión humana (que una persona revise lo que decide).
En 2023, la OIT concluyó que la IA generativa es más probable que complemente los empleos, automatizando tareas, que los destruya. El efecto depende de cómo se introduzca, y las tareas de oficina eran las más expuestas.
La UNESCO adoptó en 2021 una recomendación sobre la ética de la IA, con 193 Estados; no es una ley, propone principios para razonar y la discusión sigue abierta. El Reglamento europeo de IA (2024/1689) entró en vigor el 1 de agosto de 2024 y clasifica los sistemas por riesgo.
nivel de riesgo qué ocurre ejemplo inaceptable prohibido puntuación social alto exige requisitos ordenar currículos de transparencia avisar de que es IA un chat con IA mínimo sin reglas nuevas filtro de correo basura Cuatro niveles de riesgo Que una IA pueda hacer algo es un hecho; que se deba hacer, un valor, y se razona aparte. A favor se habla de ahorrar tiempo en tareas repetitivas; para pedir cautela, de sesgos y de privacidad. Las consecuencias y el deber sirven para defender una IA y también para cuestionarla.
Ejemplos
Ejemplo 1
Julita dice: «Si una IA decide con una fórmula, no puede tener sesgos». Olle le recuerda de dónde aprende una IA.
- Una IA aprende de datos de entrenamiento.
- Si los datos tienen un error que se repite, la IA puede aprenderlo.
- Una fórmula no es neutral por sí sola.
Una IA puede tener sesgos si sus datos los tienen.
¡Ojo! Aquí muchos creen que una máquina no puede tener sesgos.
Ejemplo 2
Toño lee en un cartel: «El reglamento europeo de IA es de 2018». ¿Qué hay que precisar con los datos del tema?
- 2018 es el año en que se aplica el RGPD, el reglamento de datos.
- El Reglamento europeo de IA entró en vigor el 1 de agosto de 2024.
- Un reglamento se cita con su tema y su fecha.
El reglamento de IA es de 2024; el de datos se aplica desde 2018.
¡Ojo! Aquí muchos creen que los dos reglamentos son de la misma fecha.
Ejemplo 3
Guni dice: «Quien usa la ética del deber está en contra de la IA». Toño busca los argumentos posibles.
| asunto | de qué trata | pregunta que plantea |
|---|---|---|
| sesgo | errores que se repiten | ¿trata igual a las personas? |
| privacidad | control de los datos | ¿quién usa mis datos? |
| responsabilidad | quién responde | ¿quién responde si falla? |
| trabajo | tareas que cambian | ¿qué tareas cambian? |
- Un deber puede ser respetar la privacidad de las personas.
- Otro deber puede ser aprovechar la IA para ayudar a quien lo necesita.
- Un modelo ético no elige postura por sí solo.
El deber se usa a favor y en contra.
¡Ojo! Aquí muchos creen que cada modelo ético pertenece a una sola postura.
Un reto para pensar
Elige un uso de la IA, como traducir, recomendar vídeos o ayudar a una empresa a elegir currículos. Escribe tres preguntas, una de sesgo, una de privacidad y una de responsabilidad, y apunta un dato con su año y su fuente. No escribas qué hay que hacer. Si algo te inquieta, cuéntaselo a una persona adulta de confianza.
Practica
Rondas de 10 preguntas. Elige el nivel:
Tu nota en este tema:Sin nota aúnHaz una ronda del nivel Básico para tener nota.