Fler än 1 800 experter, forskare och andra har i ett gemensamt upprop manat till en paus för forskning om stora AI-system. Man vill utreda stora system som GPT-4, se hur risker och förmågor kan förhindras och göras säkra. Pausen skulle behöva komma på en gång och vara i sex månader. Det finns en mängd orsaker till oro, som att system kan tas över av AI och bli helt okontrollerbara för människor.

Bland underskrifterna hittar man till exempel superentrepenören Elon Musk, som var en av grundarna av OpenAI. OpenAI:s forskningslabb ligger bakom ChatGPT och GPT-4. Där finns Emand Mostaque som grundade Stability AI i London och Steve Wozniak, en av Apples grundare, skriver The Guardian. Det finns också undertecknare som är ingenjörer på Amazon, DeepMind, Google, Meta (Facebook m.fl.) och Microsoft. Där finns också många akademiker, som kognitionsforskaren Gary Marcus.

Enligt uppropet har man de senaste månaderna sett AI-labb som kämpat i ett okontrollerat race för att utveckla än mer kraftfulla digitala sinne, som inte ens skaparna själva förstår, förutsäger eller kontrollerar på ett pålitligt sätt. Kraftfulla AI-system bör utvecklas först när vi är säkra på att effekterna blir positiva och riskerna kontrollerbara, menar undertecknarna.

En av OpenAI:s grundare Sam Altman skrev i februari att ”vid någon tidpunkt, kan det bli viktigt att få en oberoende genomgång innan man startar träna framtida system, och för de mest avancerade försöken att komma överens om att begränsa tillväxttakten för beräkningar som används för att utveckla nya modeller.”

Detta har undertecknarna utgått ifrån i sitt upprop. Man ser inte ett totalt stopp för AI-utvecklingen, utan bara att man vill ta ett steg tillbaka från det man ser som en farlig tävling med allt större oförutsägbara svart-lådemodeller med ökande kapacitet.

Uppropet saknade mekanismerna för att säkerställa att rätt person faktiskt skrivit under. I början fanns Kinas president Xi Jinping med som undertecknare. Metas chef för AI-forskning Yann LeCun gick ut och sade att han inte stödjer uppropet, trots att hans namn fanns med.

Från den brittiska regeringens sida kommer man inte vidta några åtgärder utöver det man redan gör. Man hänvisar till konkurrensmyndigheten som genom fem principer guidar hur man ska tänka om AI.

Detta har mötts av kritik, bland annat från oppositionen. Regeringens implementering av säkerhet kring AI kan ta flera år, men ChatGPT, Bard och liknande AI håller redan på att bli en del av människors liv.

Den italienska dataskyddsmyndigheten har tillfälligt förbjudit ChatGPT efter en dataläcka. Man kräver att AI:n respekterar privatlivet, då den använder personliga data för att träna sig. Från operatören OpenAI säger man att man kommer förhålla sig till EU:s GDPR som reglerar dataskyddet inom unionen.

AI-utvecklingen

ChatGPT har kommit i olika versioner, just nu är man inne på version fyra. Man kan ställa frågor, be den att skriva poesi, akademisk skrift som uppsatser och sammanfattningar av dokument.

I december blev det debatt inom den akademiska världen, då AI lärt sig skriva trovärdiga akademiska uppsatser. Dan Gillmor är professor i journalistik och sade till The Guardian att AI-roboten skrev svar på en uppsats som hade gett ett bra betyg, om den varit en vanlig elev.

Textskrivandet kan också potentiellt ersätta en stor mängd arbete som människor i dag utför. Det kan handla om ekonomiska beräkningar, sammanställningar, rapportskrivande, juridiska sammanfattningar.

Ett exempel av många är Palmemordsarkivet, som utvecklar PalmeGPT, som ska kunna sålla i det enorma material av dokument man begärt ut från Polisen.

Ett annat är hur jurister, åklagare och domare använder ChatGPT. ”Vad är rättspraxis om borgen när angriparen misshandlade offret svårt?” frågade indiske domaren Anoop Chopra ChatGPT-4.

Den gav ett långt och fylligt svar, och avslutade med rekommendationen att borgen i väntan på rättegång endast bör tillåtas om det inte föreligger någon påtaglig flyktrisk. Frågan gällde mördaren Jaswinder Singh som greps 2020 efter att ha attackerat och dödat en person.

AI kan också koda mjukvara och göra saker som mänskliga programmerare gör. Tidningen Science rapporterade att AI-systemet AlphaCode, som utvecklas av Google, kunde lösa svåra problem den ställdes inför.

Den kan presentera svar i Python och C++ och även filtrera ut dåliga svar. Mycket i det moderna samhället bygger på mjukvarukod, och AI kan potentiellt ersätta programmerare och minska tiden för att ta fram rätt kod.

Den australiensiske parlamentsledamoten Julian Hill använde ChatGPT för att skriva ett tal om farorna med AI.

Hill bad Chat GPT att ”sammanfatta de senaste medierapporterna om elever som använder artificiell intelligens i Australien för att fuska, och förklara varför lärare är oroliga för detta”, samt ”förklara på två minuter riskerna och fördelarna för Australien med artificiell intelligens”.

Vi har tidigare rapporterat om kapplöpningen inom AI. Microsoft köpte den uppmärksammade ChatGPT av OpenAI, i en investering i mångmiljardklassen. Redan 2019 investerade man tio miljarder i AI-utvecklaren, nu tar man nästa steg.

Chatboten kommer integreras i sökmotorn Bing och webbläsaren Edge. Man hoppas ta marknadsandelar av Google.

Men Google svarar direkt och lanserar utmanaren Bard. Dessutom kommer kineserna med en utmanare i form av Baidu.

Parallellt, på Twitter, tilltar Musks dystopi-memande.

Stötta Morgonposten

Den fria pressen krymper för varje år som går. När den gamla annonsfinansieringsmodellen inte längre är lönsam väljer allt fler nyhetsredaktioner att vända sig till staten för allmosor och bidrag eller säljer tidningen till globalistiska storbolag; ofta både och. Oavsett blir resultatet detsamma: en slätstruken och agendadriven journalistik där sanningen inte länge står i fokus.

Morgonposten har privilegiet att fortfarande kunna rapportera fritt och oberoende om världshändelser utan att riskera bli tystade. Men för att kunna fortsätta vårt viktiga arbete förlitar vi oss på våra läsares genirositet som är beredda att betala för nyheter.

Om du också vill vara med och stötta Morgonposten är det bästa sättet att prenumera på EXTRA! för bara 99 kr/månaden. Förutom att du hjälper oss att fortsätta driva Morgonposten får du även tillgång till exklusiva reportage, dokument, domar, landets mest intrerssanta kommentarsfält samt vårt anonyma forum där du kan diskutera nyheterna vidare.

premumerera på EXTRA!
Profilbild
Filip Lamperud
Filip är reporter på Morgonposten.