På godt og vondt, Sam Altman-ledede OpenAI treffer nesten alltid overskriftene. I fjor fikk Altman sparken fra selskapet, for så å bli ansatt tilbake et par dager senere. Nylig var det et problem med den hete AI-oppstarten som angivelig bruker skuespillerinnen Scarlett Johanssons stemme for den nye samtalemodusen på GPT-4o uten hennes samtykke.
Mens den kontroversen fortsatt ikke har lagt seg, har OpenAI tatt internett med storm av alle de gale grunnene, igjen. Nå har tidligere OpenAI-styremedlemmer brakt frem de faktiske årsakene bak Altmans sparking tidligere, og antydet hvorfor det skulle ha holdt seg slik.
Fra non-profit til profitt?
Så, OpenAI startet som et non-profit organmed visjonen om å gjøre AGI (Artificial General Intelligence) tilgjengelig og nyttig for menneskeheten. Mens det til slutt hadde en profittbringende enhet for å få den nødvendige finansieringen, var det den ideelle naturen som dominerte selskapets etos.
Imidlertid under Altmans ledelse har profitt-visjonen begynt å ta over i stedet. Det foreslår eks-styremedlemmene, Helen Toner og Tasha McCauley. En ny eksklusiv intervju av Toner på TED AI Show gjør runder på internett.
Toner sier,
«Da ChatGPT kom ut november 2022, ble ikke styret informert om det på forhånd. Vi lærte om ChatGPT på Twitter. Sam informerte ikke styret om at han eide OpenAI-oppstartsfondet, selv om han hele tiden hevdet å være et uavhengig styremedlem uten økonomisk interesse i selskapet.»
Dette treffer som en lastebil, spesielt siden ChatGPT i utgangspunktet var vendepunktet for AI-kaoset vi ser i dag. En slik viktig avsløring som blir skjult for styremedlemmene selv er unektelig lyssky.
Det opplyser hun videre Altman matet styret med «unøyaktig informasjon» ved «flere anledninger»maskering av sikkerhetsprosessene som var i arbeid bak selskapets AI-systemer. Som et resultat har OpenAI-styret var fullstendig uvitende om hvor godt disse sikkerhetsprosessene til og med fungerer i første omgang. Du kan lytte til hele podcasten her.
Ingen sikkerhet for AI-utløseren
Å bygge AI på en ansvarlig måte bør alltid være en av de øverste prioriteringene til selskaper, spesielt siden ting kan gå «forferdelig galt». Dette er imidlertid ikke noe jeg sier, og kommer rett fra munnen til Altman, ironisk nok.
Viktigst av alt, dette overraskende faller i tråd med Musks side av historien. For ikke så lenge siden saksøkte Elon Musk OpenAI, og hevdet at selskapet hadde forlatt sitt opprinnelige oppdrag og nå har blitt profittorientert.
I et intervju med The Economistuttaler de tidligere styremedlemmene at deres bekymringer for hvordan Sam Altmans retur førte til avgang av sikkerhetsfokuserte talenternoe som gjør at OpenAIs retningslinjer for selvstyre blir alvorlige.
Det tror de også det bør være statlig intervensjon for AI bygges ansvarlig. Etter kontroversen, OpenAI nylig dannet en sikkerhets- og sikkerhetskomité som sier at «Denne nye komiteen er ansvarlig for å gi anbefalinger om kritiske sikkerhets- og sikkerhetsbeslutninger for alle OpenAI-prosjekter; anbefalinger om 90 dager.»
Og gjett hva? Denne viktige komiteen inkluderer også Sam Altman. Selv om jeg ikke vil tro på alle anklagene, hvis de er sanne, er vi i alvorlige problemer. Jeg tror ingen av oss ønsker at Skynet skal bli en realitet.
Dessuten, for en uke siden trakk Jan Leike, medsjefen for Superalignment ved OpenAI, seg på grunn av sikkerhetshensyn, og nå har han sluttet seg til Anthropic, et rivaliserende firma. Han gikk imidlertid ikke stille og la ned sin side av historien i detalj på X-håndtaket.
Av alle de tingene han sa, «OpenAI må bli et sikkerhet først AGI-selskap,» var en annen vanskelig pille å svelge, for det impliserer klart at selskapet for øyeblikket ikke er på rett vei.
Til alle OpenAI-ansatte vil jeg si:
Lær å føle AGI.
Handle med gravitas som passer for det du bygger.
Jeg tror du kan «sende» den kulturelle endringen som er nødvendig.
Jeg regner med deg.
Verden stoler på deg.
:openai-hjerte:— Jan Leike (@janleike) 17. mai 2024
Han understreker også at vi virkelig trenger å spenne fast og «finn ut hvordan du kan styre og kontrollere AI-systemer mye smartere enn oss.» Det er imidlertid ikke all grunnen til at Leike dro. Han skrev også,
I løpet av de siste månedene har teamet mitt seilt mot vinden. Noen ganger slet vi med databehandling, og det ble vanskeligere og vanskeligere å få utført denne avgjørende forskningen.
En giftig utgang for ansatte
Mens Toner og de andre eks-OpenAI-folkene offentlig har avslørt sjokkerende fakta om selskapet i det siste, antyder de også at de «ikke kan si alt».
Forrige uke, a Vox rapportere avslørte hvordan tidligere OpenAI-ansatte ble tvunget til å signere alvorlige taushetserklæringer og ikke-nedsettende avtaler, et brudd på disse vil føre til at de mister all opptjent egenkapital i selskapet. Vi snakker om millioner her, og jeg tror ingen vil miste det.
Nærmere bestemt hindrer denne avtalen tidligere OpenAI-ansatte fra å kritisere selskapet og snakke med media. Mens Altman tok til X for å si at han ikke visste om denne klausulen i OpenAIs NDA, tror jeg ikke noen kjøper den.
Selv om vi vurderer Altmans poeng, fortsetter det å vise hvor uorganisert et viktig organ som OpenAI er, noe som bare ytterligere beviser poenget med alle disse anklagene.
i forhold til nyere ting om hvordan openai håndterer egenkapital:
vi har aldri tatt tilbake noens opptjente egenkapital, og vi vil heller ikke gjøre det hvis folk ikke signerer en separasjonsavtale (eller ikke godtar en ikke-nedsettende avtale). opptjent egenkapital er opptjent egenkapital, punktum.
det var…— Sam Altman (@sama) 18. mai 2024
Er fremtiden til AI i feil hender?
Det er trist at selve styret som gikk sammen med selskapets visjon nå er imot det. Selv om det kan eller ikke kan ha noe å gjøre med at Altman sparker dem når han kommer tilbake til selskapet, er de ganske skremmende hvis man skal tro disse anklagene.
Vi har flere filmer og TV-serier som viser hvordan AI kan bli ut av hånden. Dessuten er det ikke bare OpenAI som prøver å oppnå AGI. Industrigiganter som Google DeepMind og Microsoft injiserer også AI i nesten alle produktene og tjenestene deres. Årets Google I/O avslørte til og med morsomt antall ganger AI ble oppgitt gjennom hele arrangementet, som er 120+ ganger.
AI på enheten er det neste store skrittet fremover, og vi ser allerede noen implementeringer av det med Recall-funksjonen for neste generasjons Copilot Plus PC-er. Det reiste også en hel del personvernbekymringer, siden funksjonen aktivt tar skjermbilder av skjermen for å lage en lokal vektorindeks.
Med andre ord, AI er kommet for å bli, enten du liker det eller ikke. Men det som virkelig betyr noe er hvor ansvarlig vi utvikler og bruker AI, og sikrer at den tjener oss i stedet for styrer oss. Er fremtiden til AI i feil hender? Spesielt når AI-laboratorier ikke stopper for å gi den mer kraft og data, og AI er multimodal nå, for å minne deg på.
Hva synes du om disse nye åpenbaringene? Tar de bort nattesøvnen din slik de gjorde for meg? Gi oss beskjed om din mening i kommentarene nedenfor.
Støtt vårt arbeid ❤️
Hvis du likte denne artikkelen, vurder å gi en tips for å hjelpe oss med å fortsette å publisere kvalitetsinnhold.
