Etter hvert som forskningen går videre innen AI-feltet, begynner konseptet AGI (Artificial General Intelligence) å bevege seg fra teori til virkelighet. Det er ingen tvil om at vi lever i startfasen av AI-alderen, med mange Generative AI-applikasjoner som allerede er tilgjengelige. Men hva er neste steg? Er AGI fremtiden? For å forstå hva som er kunstig generell intelligens (AGI), og hvordan det kan påvirke menneskeheten, les videre.
Hva er kunstig generell intelligens eller AGI?
Når det gjelder definisjonen av AGI, er det ingen bred konsensus om hva det betyr blant forskere og AI-laboratorier. Imidlertid er begrepet AGI – Artificial General Intelligence – hovedsakelig forstått som en type AI-system som kan matche eller overgå menneskelige evnerspesielt i kognitive oppgaver.
Mange AI-laboratorier har sin egen definisjon av AGI. I februar 2023, OpenAI forklart hva AGI betyr for dem: «AI-systemer som generelt er smartere enn mennesker«. Selskapet ønsker å utvikle AGI som kan komme hele menneskeheten til gode. I samme åndedrag erkjenner OpenAI de «alvorlige» risikoene forbundet med en teknologi som AGI som har potensialet til «misbruk, drastiske ulykker og samfunnsforstyrrelser«.
Shane Legg, en av DeepMind (nå Google DeepMind) medgründerne, og for tiden Chief AGI-forsker ved samme selskap, laget begrepet AGI sammen med Ben Goertzel, hans medforsker. Legg sier at AGI er en veldig bred ting. DeepMind sin posisjon på AGI er at et slikt system «må ikke bare være i stand til å utføre en rekke oppgaver, den må også være i stand til å lære å gjøre disse oppgavene, vurdere ytelsen og be om hjelp ved behov.»
Google DeepMind-teamet har kalkulert ut ulike nivåer av AGI: fremvoksende, kompetent, ekspert, virtuos og overmenneskelig. Foreløpig har frontier AI-modellene vist noe fremvoksende atferd, mener DeepMind-forskere.
Kjennetegn ved AGI
Akkurat som det ikke er bred konsensus om definisjonen av AGI, er dens egenskaper heller ikke veldefinerte. Imidlertid sier AI-forskere at en AGI på menneskelig nivå bør kunne resonnere som mennesker. Og ta avgjørelser selv under usikkerhet. Den bør ha kunnskap om omtrent alt, inkludert sunn fornuftsforståelse.
I tillegg skal et AGI-system kunne planlegge og tilegne seg nye ferdigheter. Den skal løse åpne spørsmål og kommunisere på naturlig språk. Kognitive forskere hevder at AGI-systemer også bør ha egenskaper som fantasi å danne nye ideer og konsepter. AGI-egenskaper inkluderer også fysiske egenskaper som evnen til å se, høre, bevege seg og handle.
For å teste om AI-modeller har nådd AGI, er det mange tester, inkludert de berømte Turing test. Oppkalt etter informatikeren Alan Turing, er testen en måte å se om et AI-system kan etterligne menneskelig samtale godt nok. Dette er slik at en person ikke kan se om de snakker til en maskin.
Mange tror at nåværende AI-chatbots allerede har bestått Turing-testen. Testen foreslår imidlertid også at en maskin skal vise intelligent oppførsel tilsvarende mennesker. Andre tester inkluderer Arbeidsprøvenforeslått av John Nilsson. Den sier at en maskin skal kunne utføre en avgjørende jobb, lik mennesker.
Steve Wozniak, medgründeren av Apple, har også foreslått Kaffetesten å evaluere et intelligent AI-system. Han sier at et tilstrekkelig intelligent AI-system skal kunne finne kaffemaskinen, tilsette vann og kaffe, og fullføre bryggeprosessen uten å kreve noen menneskelig innsats.
Nivåer av AGI
OpenAI mener at AGI ikke vil bli oppnådd i ett skudd i stedet, det vil være flere stigende nivåer av fremgang for å endelig oppnå AGI. Bloomberg nylig rapportert at OpenAI har kommet opp med fem nivåer av fremgang mot å realisere AGI-målet.
Den første er Samtale AI hvor vi for øyeblikket er med chatbots som ChatGPT, Claude og Gemini. Det andre nivået er Resonnerende AIhvor AI-modeller kan resonnere som mennesker. Vi er ikke her ennå. Det tredje nivået er Autonom AIhvor AI-agenter kan utføre handlinger autonomt på brukerens vegne.
Det fjerde nivået er Nyskapende AIder intelligente AI-systemer kan innovere og forbedre seg selv. Og til slutt er det femte nivået Organisatorisk AIder et AI-system kan utføre handlinger og utføre oppgaver for en hel organisasjon uten å kreve mennesker i løkken. Denne typen AI-system kan feile, lære, forbedre og jobbe sammen med flere agenter for å utføre oppgaver parallelt.
AGI-fremgang og tidsskala: Hvor nærme er vi å oppnå det?
Sam Altman, administrerende direktør i OpenAI, mener at vi kan nå det femte nivået – Organisatorisk AI – i løpet av de neste ti årene. Mange eksperter har ulike spådommer om når vi kan realisere AGI-drømmen. Ben Goertzel spår at vi kan oppnå AGI i løpet av de neste tiårene, muligens på 2030-tallet.
Geoffrey Hinton, populært kjent som «gudfaren til AI» uttrykte først usikkerhet på tidslinjen til AGI. Nå mener han at en generell AI kan være bare 20 år unna.
François Chollet, en fremtredende forsker ved Google DeepMind og skaperen av Keras, er av den oppfatning at AGI ikke vil være mulig ved å skalere nåværende teknologier som LLM-er. Han har til og med utviklet en ny benchmark kalt ARC-AGI og startet en offentlig konkurranse for nåværende AI-modeller for å løse det. Chollet argumenterer for at AGI-utviklingen har stoppet opp, og vi trenger nye ideer for å gjøre fremskritt.
Yann LeCun, sjef for AI-forsker ved Meta sier også at LLM-er har begrensninger og er ikke tilstrekkelig for å oppnå AGI ettersom de mangler intelligens og resonneringsevner.
Eksistensiell risiko fra AGI
Mens AI-utvikling er i full gang over hele verden, tror mange eksperter at å oppnå AGI vil sette menneskeheten i fare. OpenAI innrømmer selv de alvorlige risikoene forbundet med teknologien. Geoffrey Hinton, etter å ha sluttet med Google, fortalte CBS Nyheter at «det er ikke utenkelig» når du blir spurt om AI kan utslette menneskeheten. Han understreket videre å finne måter å kontrollere langt mer intelligente AI-systemer.
Siden et AGI-system kan matche menneskelige evner, kan det føre til massearbeidsledighet i mange bransjer. Dette vil bare forverre økonomiske vanskeligheter rundt om i verden. OpenAI har allerede publisert et papir som beskriver hvilke jobber som kan erstattes av ChatGPT. Bortsett fra det, utgjør et så kraftig system risiko for misbruk eller utilsiktede konsekvenser hvis de ikke er på linje med menneskelige verdier.
Elon Musk har også slått alarm om farene ved AGI og at AGI-utvikling først og fremst bør samsvare med menneskelige interesser. I fjor etterlyste Musk sammen med fremtredende tillitsmenn i bransjen en pause på gigantiske AI-eksperimenter.
Ilya Sutskever, medgründer av OpenAI og tidligere sjefforsker, forlot selskapet for å starte en ny oppstart kalt Safe Superintelligence. Han sier, «AI er et tveegget sverd: det har potensial til å løse mange av problemene våre, men det skaper også nye. Fremtiden kommer til å være bra for AI uansett, men det ville vært fint om det var bra for mennesker også.«
Ilya jobber nå med å tilpasse kraftige AI-systemer med menneskelige verdier for å forhindre katastrofale utfall for menneskeheten. Timnit Gebru, en tidligere AI-forsker ved Google, ble sagt opp fra selskapet for å ha publisert en artikkel som fremhevet risikoene forbundet med store språkmodeller (LLM). Hun argumenterer for at i stedet for å spørre hva AGI er, bør vi spørre «hvorfor vi skal bygge den«.
AGI kan potensielt påvirke den sosiale strukturen i samfunnet med omfattende tap av arbeidsplasser. Dette kan ytterligere befeste ulikhet og føre til konflikt og knapphet. Derfor stiller spørsmålet – skal vi i det hele tatt bygge det? Det er mange spørsmål og etiske bekymringer som må løses før vi begynner å utvikle et AGI-system. Hva er dine tanker om AGI? Gi oss beskjed i kommentarene nedenfor.
Støtt vårt arbeid ❤️
Hvis du likte denne artikkelen, vurder å gi en tips for å hjelpe oss med å fortsette å publisere kvalitetsinnhold.
