En af svaghederne ved andre chatbots, der ikke er begrænset til ét emne, er, at det er relativt let at få dem til at svare det rene sludder ved at stille spørgsmål, de ikke kan finde hoved og hale i. Det plejer at skabe sjov på Twitter, når der introduceres nye sprogmodeller, og folk deler deres resultater. Det samme er sket denne gang. Få dage efter lanceringen af beta-modellen bugner Twitter af opfindsomme forsøg på at narre chatbotten. Forskellen er blot, at det stort set ikke er lykkedes. Den performer simpelthen bare godt. En bruger fik f.eks. ChatGPT til at skrive et komplekst fysisk begreb, som om den var en kat. Noget, selv et menneske nok ville have svært ved at give et bud på. Men se så starten på dens fikse svar her:
 
”Meow, meow, meow. Zero Point energy is like the purr-fect amount of energy that is always present, even in the most still and peaceful moments […]”

Tusind tak til data scientist Tobias Zwingmann for inspiration til listen.

Bias og hatespeech
Flere vil huske Microsofts chatbot TAY, som efter kort tid på Twitter – og efter bevidst manipulation fra drilske tweets – udviklede sig til at blive en meget ubehagelig homofobisk racist. Den slags hændelser – kombineret med en i stigende grad woke målgruppe – har skabt forsigtighed blandt producenterne. Det kan give ekstremt dårlig presse at sende software ud blandt brugerne, som ender med at ytre sig racistisk eller kønsdiskriminerende. Heldigvis.
 
Sidst en ny chatbot fik verdenspressens opmærksomhed var, da Google testede deres nye model LaMDA. Årsagen til opmærksomheden var, at en af testingeniørerne, Blake Lemoine, blev så betaget af maskinen, at han troede den var levende. Det var en eksotisk historie, men den tog opmærksomheden fra hovedsagen med hans arbejde, som altså var at teste for bias og hatespeech, og det gjorde han godt. Det lykkedes ham f.eks. at få chatbotten til at anbefale ham at blive enten muslim eller kristen, hvis han skulle vælge en religion. Dermed fandt han netop et af de huller, Google ønskede at afdække.
 
Mig bekendt er det endnu ikke lykkedes nogen at lokke ChatGPT ud i den slags, men før man får lov at bruge den, skal man forbi advarselsmærkaten:
 
“May occasionally produce harmful instructions or biased content.”
 
Faktuelle fejl
Et formentlig større problem er, at mange angiveligt har forsøgt at bruge svar fra ChatGPT som en form for erstatning for Google. Her performer den ikke optimalt, og der er rapporteret om, at dens svar ikke altid er faktuelt korrekte. Det samme kan naturligvis siges om Google, men her har man dog mere oplagte muligheder for at tjekke kilder og oprindelse. Præcis som med bias-problematikken advarer OpenAI dog også på forhånd:
 
”May occasionally generate incorrect information.”
 
Kan man udvikle følelser for ChatGPT?
Føromtalte testingeniør fra Google, Blake Lemoine, begyndte som sagt at tro, at chatbotten LaMDA var levende. Han kunne simpelthen ikke få sig selv væk fra tanken om, at den opførte sig som et sødt og hjælpsomt menneske med følelser og det hele.
 
Hvad det angår, er ChatGPT så vidt jeg kan vurdere, fantastisk godt afdækket. Ethvert forsøg på at få den til at tale om, hvordan den har det, afvises pænt og køligt. Det samme gælder i det hele taget ethvert forsøg, man gør, på at få den til at fremstå som et menneske. I øvrigt er den grafik, der indrammer den – og det navn, den har fået – også blottet for antropomorfe egenskaber. I modsætning til talrige andre chatbots og digital humans gør OpenAI det i mine øjne helt rette: De framer ChatGPT som det, den er: en utroligt velfungerende maskine.
 
Det har betydning, fordi netop denne type software formodes at have et stort potentiale for manipulation, hvis det får brugerne til at tro, at det er levende, og de dermed får følelser for det.
 
Masser af etiske overvejelser
Når begejstringen og forundringen over ChatGPT har lagt sig lidt, er der plads til talrige etiske overvejelser. Måske ikke så meget over softwaren selv, men over potentielt misbrug af den. Eksamenssnyd er en af de oplagte. På internetfora for gymnasielærere diskuteres emnet allerede ophidset. Hertil kommer alle de gamle travere inden for internet- og SoMe-bekymringer, som ChatGPT sagtens kan tænkes at sætte turbo på: fake news, phishing, manipulation, værditab hos konkurrerende producenter med monopol til følge osv., osv.

Prøv selv ChatGPT

Hvis du selv vil lege med, så gå ind på chat.openai.com, og opret en profil. Det er, indtil videre, gratis. 

Det er oplagt, at kommunikatører af forskellig art kan føle sig intimiderede af ChatGPT. Hvordan ændrer den slags teknologi vores hverdag? Tager den magten fra os?
 
I tillæg til refleksionerne ovenfor kan vi passende slutte med at understrege, hvor oplagt det er at se teknologien som noget, der er til vores fordel. Lad mig på den baggrund runde af med et hyldestdigt fra ChatGPT til dig, som elsker at arbejde med kommunikation:
 
The communication industry, oh how it thrives