Teknikens och den artificiella intelligensens etik
Maskinöversättning
Lär dig
En artificiell intelligens (AI) lär sig av exempel, som kallas träningsdata. Hur den lär sig får du lära dig längre fram, i teknik. Här finns frågor, inte recept: vem gynnas?, vem kan drabbas?, vem ansvarar om det går fel?
ämne vad det handlar om frågan det väcker snedvridning fel som upprepas behandlas alla lika? integritet kontroll över data vem använder mina data? ansvar vem som svarar vem ansvarar om det går fel? arbete uppgifter som förändras vilka uppgifter förändras? Fyra ämnen och deras frågor En snedvridning (bias) är ett fel som upprepas åt samma håll, och en AI lär sig den om dess data har den. År 2018 visade Joy Buolamwini och Timnit Gebru att tre kommersiella program för ansiktsanalys bestämde könet fel för mörkhyade kvinnor i upp till 34,7 % av fallen, och för ljushyade män som mest i 0,8 %. Testdatabaserna hade många fler ljusa ansikten.
Integritet är kontrollen över vem som använder dina personuppgifter. Dataskyddsförordningen (GDPR), som gäller sedan 2018, tar i artikel 22 upp rätten att inte bli föremål för ett beslut som enbart grundas på automatiserad behandling, med undantag. Ansvar är att veta vem som svarar om ett system går fel: den som tillverkar det, den som tar det i bruk eller den som använder det. Transparens (att förklara när en AI används och varför den beslutar så) och mänsklig tillsyn (att en människa granskar det som den beslutar) hjälper.
År 2023 kom ILO fram till att generativ AI sannolikt snarare kompletterar jobb, genom att automatisera uppgifter, än förstör dem. Effekten beror på hur den införs, och kontorsuppgifter var de mest utsatta.
Unesco antog 2021 en rekommendation om etiken kring AI, med 193 stater; den är inte en lag, utan föreslår principer att resonera med, och diskussionen är fortfarande öppen. EU:s AI-förordning (2024/1689) trädde i kraft den 1 augusti 2024 och delar in systemen efter risk.
risknivå vad som händer exempel oacceptabel förbjuden social poängsättning hög ställer krav sortera cv transparens upplysa om att det är AI en chatt med AI minimal inga nya regler skräppostfilter Fyra risknivåer Att en AI kan göra något är ett faktum; att den bör göra det är ett värde, och det resonerar man om separat. För talar man om att spara tid på upprepade uppgifter; för att kräva försiktighet talar man om snedvridningar och integritet. Konsekvenser och plikt kan användas både för att försvara en AI och för att ifrågasätta den.
Lösta exempel
Exempel 1
Julia säger: ”Om en AI beslutar med en formel kan den inte ha snedvridningar”. Olle påminner henne om var en AI lär sig.
- En AI lär sig av träningsdata.
- Om datan har ett fel som upprepas kan AI:n lära sig det.
- En formel är inte neutral i sig.
En AI kan ha snedvridningar om dess data har dem.
Se upp! Många tror att en maskin inte kan ha snedvridningar.
Exempel 2
Totte läser på en skylt: ”EU:s AI-förordning är från 2018”. Vad behöver man förtydliga med hjälp av uppgifterna i ämnet?
- 2018 är året då GDPR, dataskyddsförordningen, börjar gälla.
- EU:s AI-förordning trädde i kraft den 1 augusti 2024.
- En förordning anges med sitt ämne och sitt datum.
AI-förordningen är från 2024; dataskyddsförordningen gäller sedan 2018.
Se upp! Många tror att de två förordningarna har samma datum.
Exempel 3
Gunni säger: ”Den som använder pliktetik är mot AI”. Totte letar efter möjliga argument.
| ämne | vad det handlar om | frågan det väcker |
|---|---|---|
| snedvridning | fel som upprepas | behandlas alla lika? |
| integritet | kontroll över data | vem använder mina data? |
| ansvar | vem som svarar | vem ansvarar om det går fel? |
| arbete | uppgifter som förändras | vilka uppgifter förändras? |
- En plikt kan vara att respektera människors integritet.
- En annan plikt kan vara att använda AI för att hjälpa den som behöver det.
- En etisk modell väljer inte ståndpunkt av sig själv.
Plikten används både för och mot.
Se upp! Många tror att varje etisk modell hör till en enda ståndpunkt.
En utmaning att fundera på
Välj en användning av AI, som att översätta, rekommendera videor eller hjälpa ett företag att välja cv. Skriv tre frågor, en om snedvridning, en om integritet och en om ansvar, och anteckna en uppgift med årtal och källa. Skriv inte vad som bör göras. Om något gör dig orolig, berätta för en vuxen du litar på.
Öva
Rundor med 10 frågor. Välj nivå:
Ditt betyg i det här avsnittet:Inget betyg änGör en runda på nivån Grundnivå för att få betyg.