Hvad er vigtigt at tænke på før Generativ AI tages i brug?
Generativ AI har potentialet til at generere indhold, der kan påvirke brugere og samfund på forskellige måder. Det er derfor vigtigt at bruge teknologien ansvarligt og overveje både etiske og juridiske konsekvenser.
Man skal være opmærksom på muligheden for at generere fejlagtigt, vildledende eller skadeligt indhold. Det er også vigtigt at forstå og overholde intellektuelle ejendomsrettigheder, regler om beskyttelse af personlige oplysninger og andre juridiske krav relateret til data og genereret indhold.
Området for ansvarlig brug af AI er ikke nyt, og det juridiske landskab udvikler sig mere, efterhånden som teknologien udvides. Her er nogle vigtige områder, du skal være opmærksom på:
Privatliv
Der kan opstå bekymringer om beskyttelse af personlige oplysninger, hvis brugerne indtaster oplysninger, der senere ender i modelresultater på en måde, der gør enkeltpersoner identificerbare. Generativ AI kan også bruges til at skabe og sprede ondsindet indhold såsom desinformation, deepfakes og hadefuld tale.
Sikkerhed
Ondsindede aktører kan bruge generativ AI til at skabe mere sofistikerede phishing-angreb mod forbrugere eller kunder. Det er også muligt at integrere "bagdøre" i modellerne samt manipulere input (prompt) for at producere skadelige resultater. For eksempel kan en teknik kaldet "hurtig injektion" narre modellen til at levere forkerte resultater til slutbrugeren.
Kvalitet og pålidelighed
Dagens fundamentmodeller er ikke fejlfri og kan give unøjagtige eller upålidelige resultater. Det er vigtigt at evaluere og validere dine modellers ydeevne, i god tid før de sættes i produktion. Man bør også have en mekanisme til løbende at overvåge og kontrollere resultaterne samt have tilstrækkeligt menneskeligt tilsyn til at rette eventuelle fejl eller udeladelser. Man bør være forsigtig med at integrere generativ AI uden menneskelig overvågning i applikationer, hvor forkerte svar kan forårsage skade, eller hvor forklarlighed er påkrævet.
Forklarlighed
Generativ AI er afhængig af neurale netværk med milliarder af parametre, hvilket udfordrer vores evne til at forklare, hvordan et givet svar produceres.
Retfærdighed (bias)
Modellerne kan generere algoritmisk bias på grund af utilstrækkelige træningsdata eller beslutninger truffet af dem, der udvikler modellerne. Dette skaber bias i modellerne. Et berømt eksempel er Amazons pilotprojekt med AI-rekrutteringsværktøj, som blev bygget på en maskinlæringsmodel, der favoriserede mænd. Alle modeller til maskinel indlæring indeholder bias, da der ikke er noget perfekt datasæt at træne dem på. Det er derfor et spørgsmål om at forstå og reducere kæberne, snarere end at tro på, at man kan fjerne dem.
Brugeroplevelse og tillid
Generative AI-systemer interagerer med brugerne og påvirker deres oplevelse. Det er vigtigt at sikre, at brugen af generativ AI forbedrer brugeroplevelsen og skaber værdi. Man skal være opmærksom på eventuelle negative virkninger, såsom generering af indhold, der kan føre til forvirring, misforståelser eller manglende tillid fra brugerne. Det er vigtigt løbende at engagere brugerne, lytte til feedback og tilpasse den generative AI-løsning for at sikre, at den opfylder deres behov og forventninger.
Miljømæssig indvirkning
Udvikling og uddannelse af grundlæggende modeller kan føre til skadelige sociale og miljømæssige konsekvenser. At træne en stor sprogmodel kan svare til at udlede over 300 tons kuldioxid.
