AI-eksperter: AI-(r)evolutionen er et horror-monster

Hvad har en håndtegnet blæksprutte og AI-revolutionen med hinanden at gøre? En hel del, og særligt i AI-inderkredsen hos forskere og ingeniører, der arbejder med kunstig intelligens. 

Det hele begyndte som en intern joke, der så blev til et meme og en metafor for frygt og bekymringer hos dem, der er i gang med at bygge de AI-teknologier, verden måber over. Siden er Shoggoth, som blæksprutten hedder, gået viralt i den globale AI-debat og nu blevet til populærkultur som memes og merch i form af bl.a. stickers eller et indkøbsnet.

Shoggoth-meme explained

Blæksprutten Shoggoth landede i AI-verdenen en måned efter, at OpenAI lancerede ChatGPT i november 2022 for et mainstreampublikum. Twitter-profilen @TetraspaceWest delte et billede af to håndtegnede blæksprutter – den første mærket ”GPT-3” og den anden mærket ”GPT-3 + RLHF”. RLHF, Reinforcement Learning from Human Feedback, er idéen om og metoder til at optimere og tilpasse en model, der er trænet på tekstdata til komplekse menneskelige værdier. Hugging Face, der er en virksomhed, en blog og et AI-community for ingeniører og forskere, fik ChatGPT til at beskrive RLHF: 

Sci-fi-horror og AI-kritik

Det er bl.a. i dette og lignende fællesskaber for AI-nørder, at Shoggoth-memet blev til. Navnet Shoggoth stammer fra et monsterlignende væsen i “Cthulhu Mythos”, der er et sci-fi-univers skabt af horrorforfatteren H.P. Lovecraft, bl.a. i novellen ”At the Mountains of Madness” (1931).

Ved at give Lovecraft-monsteret en smiley på en af dens tentakler indikerer man en kritik, der handler om AI-risici og AI-sikkerhed. For er RLHF ikke bare det samme som at pynte et monster med en smiley og derved gøre det likeable og venligt, men ikke ufarligt? Det er dilemmaet, der har fået Shoggoth-memet til at gå viralt. Den såkaldte “black-box nature of the proces,”, som Kevin Rose beskriver det i The New York Times-artiklen “Why an Octopus-like Creature Has Come to Symbolize the State of AI”. At AI-insiders refererer til deres AI-skabninger som lovecraftske rædsler, selv som en joke, er usædvanligt i historisk perspektiv. “Med andre ord: For femten år siden gik Mark Zuckerberg ikke rundt og sammenlignede Facebook med Cthulhu,” konkluderer Rose.

Shoggoth er således blevet en kraftfuld metafor, der, som Rose skriver, indkapsler en af de mest bizarre kendsgerninger om AI-verdenen, nemlig den uvidenhed og ambivalens, der er at finde blandt mange af de mennesker, der arbejder med teknologien: “De forstår ikke fuldt ud de indre mekanismer i AI-sprogmodeller, hvordan de opnår nye evner, eller hvorfor de opfører sig uforudsigeligt til tider. De er usikre på, om AI vil få en god eller dårlig indflydelse på verden.” For dem, der arbejder med udviklingen af de AI-systemer, der kommer til at definere den nærmeste fremtid, er blæksprutte med smiley face-memet blevet en slags genvej til at tale om elefanten i rummet: Hvordan forhindrer man, at AI -systemer viser deres sande, Shoggoth-lignende natur? 

Shoggoth-memes

Den 22. februar 2023 tweetede Elon Musk et Shoggoth med smiley-ansigt-meme, der, inden det blev slettet, blev delt på platforme som LinkedIn og Twitter. 

Meme-oprindelse: Lovecrafts rædsler

“It was a terrible, indescribable thing vaster than any subway train — a shapeless congeries of protoplasmic bubbles, faintly self-luminous, and with myriads of temporary eyes forming and un-forming as pustules of greenish light all over the tunnel-filling front that bore down upon us, crushing the frantic penguins and slithering over the glistening floor that it and its kind had swept so evilly free of all litter,” skriver H.P. Lovecraft i sin novelle ”At the Mountains of Madness” (1931). via KnowYourMEME

Silicon Valley-bashing-memes

Fashion-Shoggoth