- Skal vi udvikle kunstige hjerner, der kan ende med at erstatte os? Og skal vi risikere at miste kontrollen over vores civilisation?

Sådan lyder nogle af de dystre spørgsmål i et åbent brev, som mere end 1.100 tech-folk og AI-eksperter har skrevet under på. Det gælder blandt andre Steve Wozniak, medstifter af Apple, og Elon Musk, der i sin tid stiftede firmaet OpenAI.

Medunderskriverne frygter, at den hurtige udvikling indenfor avanceret kunstig intelligens kan få alvorlige konsekvenser for samfundet og menneskeheden.

Derfor kræver de nu, at udviklingen af ny kraftfuld kunstig intelligens øjeblikkeligt sættes på pause i mindst seks måneder. Pausen bør, ifølge brevet, bruges til at udvikle retningslinjer for, hvordan vi sikkert udvikler og bruger kunstig intelligens i fremtiden.

- Jeg tror, brevet afspejler en lyst til at sige; nu går det rigtig stærkt, og skal vi ikke lige få sat spillereglerne for kunstig intelligens, inden vi bevæger os fremad så hurtigt her?, siger Anders Søgaard, som er professor i datalogi og filosofi ved Københavns Universitet.

Han har ikke selv underskrevet brevet, men overvejer at gøre det.

Dansk medunderskriver er bekymret

Der er dog en dansker iblandt de mange eksperter, som har underskrevet brevet. Det er Hans Hüttel, der er lektor ved Datalogisk Institut på Københavns Universitet og ved Institut for datalogi ved Aalborg Universitet.

Han har underskrevet brevet, fordi han især er bekymret for nogle menneskers for stærke tiltro til den kunstige intelligens.

Den kunstige intelligens i chatbotter som for eksempel ChatGPT kan virke meget menneskelig, når den svarer på brugernes spørgsmål. Og det er et problem ifølge Hans Hüttel. For trods de menneskelige svar, er botterne også blevet kritiseret for at kunne komme med faktuelt forkerte svar.

- Det, som er imponerende ved de her programmer, er, at deres svar mange gange er velformulerede. De sproglige ytringer ser ud som om, at de kommer fra et talende individ. Men de er skabt automatisk af et program, som ikke er et individ med menneskelige erfaringer.

- Og det er bekymrende, hvis vi tillægger de her maskiner menneskelige egenskaber og tænker, at nu kan vi erstatte vidensarbejdere. Veltalenhed er ikke det samme som viden, siger Hans Hüttel.

Han understreger, at menneskelige fagpersoner kender deres begrænsninger og som regel ikke svarer på noget, de ikke kan udtale sig om.

- Det gør en chatbot ikke. Den vil altid komme med et svar, også selv om svaret, den leverer er forkert. Den underliggende sprogmodel i programmet har nemlig ikke noget begreb om betydning, siger Hans Hüttel.

Da internettet kom var der også nogle, der panikkede. Er det her ikke lidt en overdrevet frygt?

- Der er mange forskellige aktører, der har haft interesse i internettet. Den situation, vi har nu, er markant anderledes: at bestemte rige aktører over et forholdsvis kort tidsrum har investeret ganske store summer penge i at udvikle chatbotterne. Og de præcise bevæggrunde hertil får vi ikke meget at vide om.

Ny Chatbot er en '12-tals-elev'

Det åbne brev kommer, efter at udviklingen af kunstig intelligens har taget fart i de seneste måneder. Senest har OpenAI opdateret deres AI-model til GPT-4 – en kunstig intelligens, som nu skulle virke endnu mere menneskelig end dens forgænger GPT-3.

Artiklen fortsætter under storien her.

For eksempel kan den løse eksamensopgaver i gymnasiet og på universitetet på et højere niveau, fortæller Anders Søgaard.

- Lidt forsimplet kan man sige, at hvor GPT-3 lige præcis bestod eksaminerne, så er GPT-4 mere end en ti- eller 12-tals-elev.

Anders Søgaard mener, at det er nødvendigt med retningslinjer på området. For der er brug for mere gennemsigtighed i forhold til, hvordan modellerne bag den kunstige intelligens bliver udviklet. Samtidig er teknologien på kort tid blevet meget udbredt.

- Der er rigtig mange virksomheder lige nu, som udbyder produkter og løsninger, som bygger ovenpå de her modeller. Så lige pludselig rammer modellerne rigtig mange mennesker på rigtig mange forskellige måder.

Den nye model, GPT-4, kan du prøve kræfter med via chatbotten ChatGPT-4, der kan hjælpe dig med alt fra universitetsopgaver til madopskrifter. Botten koster dog lige nu penge og kræver abonnement. Den nye GPT-4-model er også inkorporeret i Microsofts nye søgemaskine Bing Search.

Ifølge mediet techcrunch er der ingen fra OpenAI, som står bag chatbotten ChatGPT, der har underskrevet brevet.