Krama din AI och spela Bach för den – pengar gör att racet fortsätter

Du hörde kanske om det öppna brevet som publicerades 22 mars i år, med en önskan om att pausa AI-utvecklingen i ett halvår. Eller mer specifikt, att inte träna mer avancerade AI-system än Open AI:s ChatGPT-4. Det var undertecknat av bland andra Max Tegmark, Tristan Harris, Elon Musk, Yuval Noah Harari och tusentals fler. Jag tycker att det är en bra idé. Det gör inte alla.

Vissa menar att det är dåligt och onödigt att pausa utvecklingen.

Andra, som Eliezer Yudkowsky, menar att det inte är nog att pausa. “Pausing AI Developments Isn’t Enough. We Need to Shut it All Down.” Yudowski är inte precis otydlig utan skriver: “Many researchers steeped in these issues, including myself, expect that the most likely result of building a superhumanly smart AI, under anything remotely like the current circumstances, is that literally everyone on Earth will die. Not as in ‘maybe possibly some remote chance´, but as in that is the obvious thing that would happen.”

Trist! Vi får hoppas att han har fel.

KRAMA ROBOTEN ISTÄLLET

Vad tycker du? Dessvärre måste du ha en åsikt. Du kommer inte undan, ämnet är för avgörande. I en tidigare krönika om AI flaggade jag för att många akademikerjobb kommer att försvinna ganska snart. Fler än många verkar förstå. När artikeln delades på Twitter klev kände ekonomen Claes Hemberg in och skrev ”Automatisering tar inte jobb. Den ändrar jobb.” Han delade även en länk till en fem år gammal bloggpost med rubriken ”Krama roboten istället”.

Det var för allt i världen en tydlig åsikt. Men jag ska erkänna att jag blev ställd av kommentaren. Och av insikten att många kanske tänker på samma sätt. Alltså ungefär så här: Så som det har utvecklats, kommer det att fortsätta utvecklas. Då kan man använda en fem år gammal bloggpost för att belägga en tes man har.

Jag tror ett problem är att rapporteringen om AI ser ut som all annan rapportering. Den följer medielogiken med debatter, trender och nyheter som ökar och sedan minskar i omfattning. Ibland varar de några timmar, i snabba kanaler som Twitter. Ibland lever de i dagar eller kanske veckor. Sedan kommer något annat. Det är bara det att även när det kommer något annat, så fortsätter utvecklingen. Och blir dubbelt-så-jäkla-snabb var hundra-andra dag.

ATT KOMMUNICERA MED FRAMTIDEN

Så det är nog bra att pausa, till att börja med. Men eftersom det finns ekonomiska incitament i AI-racet, kommer det inte att ske. Det fattar både du och jag. Det lämnar oss med två potentiella utkomster: Den ena är att allting – även utan reglering eller ens en seriös etisk debatt om hypersmart AI – blir toppen. Den andra är att Eliezer Yudkowsky har rätt.

Vad tror jag? Jag tror att svåra utmaningar kräver okonventionella lösningar. Därför gillar jag förslaget som den franske författaren Françoise Bastide och den italienske semiotikern Paolo Fabbri tog fram 1981, för det amerikanska energidepartementet. Myndigheten ifråga hade bjudit in dem och flera andra, för att lösa ett knivigt problem: Hur varnar vi människor för nedgrävt, dödligt radioaktivt kärnavfall – om tiotusen år?

“Det är väl bara att sätta upp skyltar i ett tåligt material?”, kanske du tänker. Men tiotusen år är väldigt lång tid. Vem vet hur språket ser ut då? Det är väldigt få som kan läsa en femhundra år gammal text och förstå den. Och det är, i sammanhanget, helt nyss. Sannolikt kommer språket vara något helt annat i en avlägsen framtid.

Samma med symboler, som dödskallar med benknotor under. Vi kan inte vara säkra på hur det tolkas. Enkla bildberättelser med streckgubbar som visar att man lever först – kommer i kontakt med giftet – och sedan dör? Det kan funka. Om man läser från rätt håll. Annars blir budskapet: “om du är så dålig att du nästan är död, drick detta och bli frisk”.

MYTER OM SJÄLVLYSANDE KATTER

Förslaget som Françoise Bastide och Paolo Fabbri tog fram var tvådelat. Steg ett: Genmodifiera katter, så att deras päls ändrar färg och lyser om de utsätts för strålning. (Det finns självlysande djur, som eldflugor och vissa havsdjur som fiskar och skaldjur, så det är inte helt tagit ur luften.) Om man ser en katt som har lysande rosa päls, vet man att den utsatts för strålning. Och då begriper man att man ska hålla sig borta från platsen där man såg katten – i alla fall om man gjort steg två rätt.

Steg två: Skapa legender, folklore och myter om de lysande katterna. Sånger som sjungs, berättelser, hemsidor, konst, poesi. Som alla handlar om att man måste sticka om man ser en självlysande katt. Gör varningarna om självlysande katter, aktivt, till en del i vårt gemensamma medvetande.

Idag kan AI skapa bilder som ser ut exakt som fotografier. Den kan göra film och skriva musik och poesi. Och det är toppen! Och samtidigt är det ju det där som Yudkowsky och andra påpekat: AI kan ha ihjäl oss alla om vi inte vet exakt vad vi gör. Många använder mycket banala exempel för att visa på det. Som att vi ber en superintelligent AI rädda klimatet. Och den gör det genom att ta bort människan ur ekosystemet. Eller att vi bara ger den en extremt svår uppgift som den löser genom att använda all materia på jorden (inklusive dig och mig) för att skapa en ny sorts superdator.

BORT FRÅN ALTANEN

I samtliga undergångsscenarier är en sak gemensam: AI känner inget för människor. Den gillar oss inte och den ogillar oss inte. Vi är bara inte intressanta. Lite som om du häller myrgift på altanen. Du hatar inte myror som art, du vill bara ta bort dem från altanen.

Mitt förslag är därför att inte be AI-tjänster av olika slag att skapa poesi, konst eller musik. Utan att vi istället borde fokusera på att lära den att förstå det. Att få ChatGPT-5 (som inte kommer skjutas på framtiden) att förstå människan genom att lära sig att uppskatta det som är vackert och betydelsefullt.

Jag inser att idén, som Hemberg framförde, om att ”krama roboten istället”, är korrekt. Krama den, spela Bach, Dionne Warwick eller Chemical Brothers för den. Förklara vad det sublima är och varför du kan gråta av konst.

Låter det dumt? Jag tar i så fall inte det som något negativt.