For første gang er der nu et globalt sæt af anbefalinger, som kan vejlede om de mange etiske aspekter ved at forske i kunstig intelligens og ved at anvende den i hverdagen. UNESCO - FN’s organisation for uddannelse, videnskab og kultur - står bag de nye, internationale normer, der kan blive banebrydende og få afgørende betydning, selv om det ikke er bindende regler.
Kunstig intelligens – på engelsk ”Artificial Intelligence” eller bare ”AI” – er en fælles betegnelse for al den computerbaserede teknologi, der er på vej ind i alle afkroge af stort set alle menneskers hverdag. Dermed er risikoen for misbrug også stor, og det er netop, hvad de nye, etiske anbefalinger skal beskytte os imod.
- I sig selv er det en stor sejr, at det overhovedet kan lade sig gøre at få 193 lande - lige fra EU, USA, Kina og Rusland til små udviklingslande - til at blive enige om et sæt etiske normer for AI, vurderer Danmarks UNESCO-ambassadør, Carsten Staur.
Han understreger, at UNESCO med AI-retningslinjerne er kommet længere frem på banen i forhold til den teknologiske ændringer, der i stigende grad præger verden.
Selv om de nye retningslinjer ikke er bindende, men kun anbefalinger, er der er fra starten lagt et vist pres på landene for at overholde dem. Alle lande har forpligtet sig til hvert fjerde år at rapportere tilbage til UNESCO om, hvordan det går med at overholde dem.
De nye normer blev vedtaget på UNESCO’s generalkonference i slutningen af november efter årelang forberedelse. Stater, regeringer og også den brede offentlighed har haft mulighed for at påvirke anbefalingerne gennem digitale høringer og ”borgermøder” i alle verdensdele, lige som UNESCO har konsulteret forskere, techgiganter som Google og Facebook samt erhvervslivet i bredere forstand.
Hvad er så kunstig intelligens, AI, for noget? Og hvorfor er det nødvendig at beskytte os mod, at den misbruges?
Ja, AI findes for eksempel i vores telefoner som en stemmestyret assistent, den kan svare på spørgsmål og oversætte tale eller tekst til andre sprog. AI hjælper også med at styre vores biler mere sikkert end, hvis vi gør det alene.
Kunstig intelligens ligger også bag, at nogle erhvervs-og sportsnyheder kan skrives af computere, og styrer de hologram-skuespillere, vi kan se i nogle film.
Mest kendt – eller berygtet - er AI nok, fordi teknologien kan programmeres til at genkende ansigter. En smartphone kan låses op af det rigtige ansigt, altså ejerens, men med den samme teknik kan autoritære regimer overvåge befolkninger, kontrollere dem og begrænse deres frihedsrettigheder. Og ikke alene på gader, stationer, i butikker eller andre steder i det offentlige rum. AI kan via en smartphone, et køleskab eller noget helt tredje spionere på os i vores hjem. Som så megen anden teknologi er AI altså et gode, som i de forkerte hænder kan misbruges.
Vi skal alle uddannes til AI
Udgangspunktet for UNESCO’s anbefalinger er, at hvis udviklingen og brugen af AI skal foregå i respekt for individets integritet og andre internationale menneskerettigheder, så må hele AI-kæden – forskere, uddannelsesinstitutioner, regeringer, parlamenter, private firmaer, borgere og så videre - tages i ed og overholde fælles, etiske regler. På den måde forsøger UNESCO-rekommandationen også at tage højde for fremtiden, for udviklinger i teknologien, som vi ikke kan forestille os i dag.
- Vi forstår ikke alle konsekvenserne af udviklingen af kunstig intelligens, heller ikke lovgiverne. Men der er brug for bedre lovgivning, og for at staterne beskytter deres borgere, siger professor Ole Sejer Iversen, der er direktør for Center for Computational Thinking & Design på Aarhus Universitet.
Han understreger, at lovgivning ikke gør det alene, for man kan for eksempel ikke lovgive sig fra, at forkerte eller fordrejede oplysninger spredes på nettet eller i sociale medier.
- Vi skal alle sammen uddannes digitalt, have teknologiforståelse, så vi kan afkode og vurdere de nye teknologier og deres positive og negative sider, siger Ole Sejer Iversen, der er medlem af den danske UNESCO-nationalkommission.
Teknologiforståelse er i dag et forsøgsfag i Folkeskolen, udviklet i et samarbejde mellem universiteter og professionshøjskoler. Ole Sejer Iversen har været en af drivkræfterne og, siger han, ”hvis vi strammer os an, kan teknologiforståelse gradvis indfases som faglighed i folkeskoler måske allerede fra næste skoleår”.
Det er ikke bare de nye generationer, der skal uddannes i at afkode teknologiske nyskabelser og at vurdere deres positive og negative sider. Alle andre må også have et vist kendskab til, hvordan de algoritmer, der styrer al kunstig intelligens, fungerer, altså hvilke oplysninger, der er blevet fordret med. Hvordan skal en socialrådgiver ellers kunne vurdere, om kommunens IT-system har ret, når det foreslår, at et barn tvangsfjernes fra sine forældre? Det er faktisk et forsøg, der kører lige nu i et par danske kommuner, fortæller Ole Sejer Iversen. Det er lige som at lære at tolke en tekst eller lære at være kildekritisk. Man analyserer en forfatter eller anden afsenders motiver og hensigter for at kunne vurdere for eksempel troværdigheden.
- Der er brug for intensiv og massiv uddannelse i teknologiforståelse, ellers risikerer vi at miste vores åndsfrihed, vores ligeværd og vores demokrati, siger Ole Sejer Iversen. Han er derfor utålmodig efter at få gjort teknologiforståelse til et obligatorisk fag i alle niveauer af uddannelsessystemet og i arbejdslivet.
Danmark vil være først i verden, hvis det sker, og kan dermed få en rolle som spydspids og trendsætter.
Kunstig intelligens og dens velsignelser og farer er også på dagsordenen, når de 15 medlemmer af den danske UNESCO-nationalkommission mødes inden jul. Ole Sejer Iversen vil her slå til lyd for, at kommissionen engagerer sig på fuld kraft i at påvirke diskussionen om kunstig intelligens, fordi AI kan påvirke alle områder inden for UNESCO’s virkefelt: demokrati, frihedsrettigheder, videnskab, uddannelse, lighed og kultur.