Alibaba har nettopp avduket sin siste resonnementsmodell, og det ser ut til at DeepSeek og Openai kan ha noe å bekymre seg for – i det minste hvis alle Alibabas løfter viser seg å være sant. Det er åpen kildekode, så jeg sjekket den ut. Du kan også prøve det gratis, selv om du ikke er overraskende, vil du oppdage at det er noen ting det ikke vil snakke med deg om.
Den nye modellen, kalt QWQ-32B (Quan-With-Questions) kjører på mye færre parametere, noe som betyr at den krever mindre ressurser, men Alibaba hevder at den utfører på samme nivå som DeepSeek eller Openais O1-mini.
Anbefalte videoer
DeepSeek’s R1 Large Language Model (LLM) var all raseri tidligere i februar da den kom ut, plutselig i stand til å konkurrere med Golden Standard satt av ChatGPT og andre alternativer, men til en mye lavere pris. Det ser ut til at Alibaba kan skyve konvolutten enda lenger her.
Som forklart av VenturebeatDeepSeek-R1 krever at 671 milliarder parametere kjøres, hvorav 37 milliarder er aktivert. I mellomtiden kan Alibabas nye QWQ-32B komme med 32 milliarder parametere. Disse tallene er helt abstrakte for mange, men det er en stor forskjell i beregningskraft; Mens DeepSeek R1 krever 1600 GB VRAM for å løpe, kan QWQ-32B komme med bare 24 GB VRAM. I de fleste tilfeller vil dette bety NVIDIAs H100 eller ekvivalenter, men selv den spillfokuserte RTX 4090 Sports 24 GB. Den siste RTX 5090 UPS som til 32 GB.
Alibabas QWQ-32B er tilgjengelig under en Apache 2.0-lisens, noe som betyr at selskaper og forskere kan bruke den. Enda viktigere, vi kan bruke den ved å prøve ut Alibaba Qwen Chat. I likhet med Deepseek kommer det med noen begrensninger, men har også et par umiddelbare fordeler som jeg la merke til ganske raskt.
Det ser ut til å gi ganske dyptgående svar selv til raske, enkle spørsmål. Dette kan være bra, men på en måte var det stort sett irriterende, da det gir deg mye unødvendig kontekst som du ikke ba om. Jeg liker at det viser deg hele resonnementsprosessen, som ligner på Chatgpts dype tenkningsfunksjon – men med mye mindre dybde.
På spørsmål om politiske forhold flagger Qwen Chat det som upassende. Det kan være måter å jailbreak det på – det var tross alt mulig med DeepSeek – men jeg har ikke klart det ennå.
Hvorvidt Alibabas påstander viser seg å være sanne gjenstår å se, men det ser ut som Chatgpt og DeepSeek nå har en ny rival.
Støtt vårt arbeid ❤️
Hvis du likte denne artikkelen, vurder å gi en tips for å hjelpe oss med å fortsette å publisere kvalitetsinnhold.
