Kan ChatGPT skrive nyhederne nu? Nej

ChatGPT er fantastisk og har de seneste uger gået sin sejrsgang verden over. Hypen er drevet af wow-effekt og gode eksempler på dens imponerende sprog og brede baggrundsviden om alt fra kvantefysik og kodning i Python til danske samfundsforhold. Men ChatGPT har alligevel mange mangler og begrænsninger, der gør, at den er stadig langt fra at kunne skrive dine nyheder. Det er der flere gode grunde til, og her er fire af de vigtigste.
Læs hvorfor du ikke skal være bange for, at ChatGTP overtager dit job. Billede: Getty Images
Læs hvorfor du ikke skal være bange for, at ChatGTP overtager dit job. Billede: Getty Images
af Kasper Lindskow

Den er dårligere på dansk


ChatGPT er voldsomt god til engelsk, men dårligere på dansk, selvom den er blevet langt bedre end forgængeren. Det handler ikke kun om det rent sproglige, men også om dens baggrundsviden om danske forhold. Selvom den ved imponerende meget om Danmark og kan bruge den baggrundsviden til at kontekstualisere danske nyheder, så kan den nemt tage fejl af alt fra politikeres partitilhørsforhold, til hvem der vandt krigen i 1864.
 

Klik på billedet for at se det i stort.
 

Den har ingen viden efter 2021


Dens grundtræning skete i september 2021. Den ved derfor ikke noget om, hvad der er sket i verden i 2022, fra krigen i Ukraine og fodbold-VM i Qatar til Danmarks nye regering. Selvom nogle få friske fakta til en konkret nyhedshistorie kan gives til modellen via dens input-prompt, er manglen på aktuel baggrundsviden i ChatGPT selvsagt et problem, hvis den skal bruges til at skrive eller kontekstualisere nyheder.
 

Klik på billedet for at se det i stort.
 

Den har et meget liberalt forhold til fakta


Modellen er ikke bange for at digte videre på enhver historie. Hvis den ikke kender fakta, så skriver den en historie alligevel, hvor fakta og fiktion blandes sammen i et virvar, der er stadig sværere at gennemskue, netop fordi den er blevet så god. Manglen på sikkerhed for faktualitet er naturligvis i særlig grad et problem for nyhedsmedier, fordi der ikke er noget så slemt som at udgive forkerte ”fakta” i en nyhedsartikel.
 

Klik på billedet for at se det i stort.
 

Den reproducerer stadig stereotyper


Modellen kan stadig (re)producere stereotyper fra de mørkeste dele af internettet og er generelt bedre til at skrive om områder, som gennemsnittet interesserer sig for, end det som subkulturer og mindretal interesserer sig for. Derfor kan dens nyhedsbillede blive skævt både i kvalitet og kvantitet.
 

Hvad kan ChatGPT bruges til i dag?

 
ChatGPT’s svagheder ændrer dog ikke på, at den er vanvittigt imponerende – også på dansk. Sammen med andre generative AI-modeller (Midjourney, Stable Diffusion, Dall-E 2 etc.) har den allerede på kort sigt potentiale for at forandre workflows og produkter i især de kreative brancher på områder, hvor faktualitet og aktualitet ikke er afgørende. Her er de største risici måske potentialet for reproduktion af stereotyper, der forstærker ulighed (og kan skabe PR-kriser for afsenderen).
 
I nyhedsmedier kan ChatGPT principielt også allerede i dag med lidt snilde bruges som skriveassistent til at skrive udkast til artikler eller give bud på overskrifter, som journalister kan arbejde videre på. Men mængden af både åbenlyse og (måske endnu værre) svært gennemskuelige fejl er enorm, så der er brug for et tidskrævende ”editor in the loop” for at sikre, at modellens fiktive hallucinationer og stereotypiske karakteriseringer ikke slipper igennem. I de fleste tilfælde står den værdi, ChatGPT kan tilføje (med sin begrænsede aktuelle danske viden og sprogkundskaber) ikke mål med den tid, der skal bruges på at finde og rette fejl samt at forbedre sproget i dens forslag.
 
 

Fremtiden tilhører alligevel ChatGPT


Skaberen af ChatGPT, OpenAI, er meget opmærksom på alle de begrænsninger, som jeg beskriver ovenfor. Det betyder selvfølgelig også, at de arbejder hårdt på at løse dem i næste generation af GPT-modeller. Samtidig arbejder en lang række andre virksomheder på lignende generative modeller inden for tekst, lyd, billeder og video.
 
 
Hvor problemerne med begrænsede danskkundskaber, aktualitet og stereotyper kan reduceres med bedre træningsdata, kontinuerlig træning og filtre, så er problemet med faktualitet imidlertid svært at løse. Årsagen er, at selv ChatGPT i sit grunddesign er en avanceret ”papegøje”, der genererer tekst ved at gentage mønstre (korrelationer) fra de store mængder tekster, som den er trænet på. ChatGPT har ingen ”common sense” eller forbindelse til verden udenfor, der gør den i stand til at forstå, hvornår noget virkeligt bare er forkert.
 
Derfor er den fremtid for nyhedsbranchen, som ChatGPT peger mod karakteriseret af voksende samarbejde mellem AI og mennesker. De næste generationer af modeller vil med stor sandsynlighed være bedre til skrive på dansk og kontekstualisere nyheder på baggrund af aktuel viden. Samtidig vil modeller som ChatGPT kunne tilpasses specifikt til brug for nyhedsmedier, så der nemmere integreres friske fakta fra eksterne kilder, og modellens frihed til at digte begrænses. Ikke desto mindre gør modellernes helt grundliggende udfordringer med sandfærdighed, at der forsat vil være behov for journalister solidt bag rattet.
 
Den vigtigste konsekvens af ChatGPT på kort sigt bør derfor være, at nyhedsmedierne allerede nu sætter sig ind i og begynder at diskutere ret og vrang inden for brugen af generativ AI. Vi skal forstå teknologiens anvendelsesmuligheder og de steder, hvor den laver fejl, ikke mindst fordi det ofte er helt andre fejl, end mennesker ville lave (f.eks. er ChatGPT pænt dårlig til alt med mængder). Så er der bedre forudsætninger for, at den bliver brugt de steder, hvor den gør nyhedsmedierne bedre, når teknologien for alvor bliver moden.

Del artikel

Tilmeld dig vores nyhedsbrev

Vær på forkant med udviklingen. Få den nyeste viden fra branchen med vores nyhedsbrev.

Forsiden lige nu

Læs også