Kuinka asentaa Qwen3 paikallisesti Windows 11: een

Qwen3 tunnetaan vaikuttavasta päättelystä, koodauksestaan ​​ja kyvystään ymmärtää luonnollisia kielikykyjä. Sen kvantisoidut mallit mahdollistavat tehokkaan paikallisen käyttöönoton, joten kehittäjien ja tutkijoiden on saatavana omalla laitteistollaan käyttämällä alustoja, kuten Ollama, LM Studio tai Vllm. Tässä viestissä aiomme  Asenna Qwen3 paikallisesti Windows 11/10: een.

Qwen3 -kvantisoidut mallit

Qwen3 on optimoitu korkean suorituskyvyn tehtäviin, mukaan lukien koodaus, matematiikka ja päättely. Sen kvantisoidut muodot - BF16, FP8, GGUF, AWQ ja GPTQ -Minimoi laskennalliset ja muistivaatimukset, mikä mahdollistaa tehokkaan käyttöönoton kuluttajaluokan laitteistoihin.

Qwen3-perheessä on sekä asiantuntijoiden (MOE) että tiheät mallit. MOE-variantteja ovat Qwen3-235b-A22b ja Qwen3-30b-A3b, saatavana BF16-, FP8-, GGUF- ja GPTQ-INT4-muodoissa. Tiheät mallit kattavat useita kokoja Qwen3-32B: stä Qwen3-0.6B: hen, joka tukee BF16-, FP8-, GGUF-, AWQ- ja GPTQ-INT8-muotoja.

Ennen kuin siirrymme eteenpäin ja asennamme QWen3: n, sinun on varmistettava, että koneesi vastaa seuraavia järjestelmävaatimuksia.

ominaisuus, jota yrität käyttää, on verkkoresurssissa, joka ei ole käytettävissä

• CPU/GPU : Moderni prosessori tai NVIDIA GPU (suositellaan VLLM: lle).
• Ryntätä : Vähintään 16 Gt pienemmille malleille (Qwen3-4B); 32 Gt+ suurille (Qwen3-32B).
• Säilytys- : Varmista riittävä tila (esim. Qwen3-235B-A22B GGUF voi vaatia ~ 150 Gt).
• Käyttöjärjestelmä : Windows, MacOS tai Linux.
• Python : Versio 3.8+ (VLLM- ja API -vuorovaikutuksille).
• Satamatyöläinen : Valinnainen, hyödyllinen VLLM -ympäristöissä.
• Git : Vaaditaan arkistojen kloonaamiseen.
• Riippuvuudet: Asenna välttämättömät kirjastot, kuten taskulamppu, muuntajat ja VLLM (VLLM: lle).

Kuinka asentaa Qwen3 paikallisesti Windows 11/10

Jos haluat asentaa Qwen3: n paikallisesti Windowsiin, noudata alla olevia menetelmiä.

1. Asenna qwen3 halausface
2. Käytä Qwen3: ta käyttämällä Modelmace -tilaa
3. Asenna Qwen3 LM Studio -sovelluksella
4. Käytä Qwen3: ta käyttämällä VLLM: ää

Puhutaan heistä yksityiskohtaisesti.

1] Asenna Qwen3 halausface

Halging Face tarjoaa työkaluja mallien ja tietojen rakentamiseen, jakamiseen ja käyttöönottoon. Sen suosituin ominaisuus on Transformers -kirjasto, joka auttaa tehtävissä, kuten luonnollisen kielen käsittely ja tietokoneen visio. Voimme asentaa Qwen3: n halauspinnan avulla. Sinun täytyy mennä Halausface.co Ja etsi sitten malli, jota haluat käyttää. Napsauttaa Käytä tätä mallia  ja lataa sitten se.

Voit myös suorittaa seuraavan komennon sulkeaksesi git -arkiston halausface -käyttämällä.

git clone https://huggingface.co/Qwen/Qwen3-4B-GGUF

Odota muutama minuutti ja anna sen ladata.

2] Käytä Qwen3: ta käyttämällä mallimaisemaa

Seuraavaksi käytämme toista online -alustaa Qwen3: n lataamiseen, mutta tällä kertaa käytämme mallisemaa. Tätä varten sinun tarvitsee vain siirtyä osoitteeseen messitpace.cn ja etsivät Qwen3 -mallia, jonka haluat asentaa. Siirry sitten tiedostojen ja versioiden välilehteisiin ja napsauta Lataa malli. Se antaa sinulle komentorivi-menetelmän Qwen3: n lataamiseen. Sinulla on kaksi tapaa tehdä niin-komentorivi tai mallit SDK.

Parasta on, että saat kaikki komennot, jotka voit vain suorittaa PowerShellissä tai komentokehotteessa mallin asentamiseksi.

3] Asenna Qwen3 käyttämällä LMStudio

Jos luulet, että aikaisemmin mainitut menetelmät ovat tylsää, meillä on GUI -menetelmä asentaa ja olla vuorovaikutuksessa Qwen3: n kanssa. LM Studio on paikallinen AI-työkalupakki, jonka avulla käyttäjät voivat löytää, ladata ja ajaa avoimen lähdekoodin LLMS, kuten LLAMA, DEGESEEK ja QWEN, suoraan tietokoneilleen.

Ensinnäkin sinun on asennettava lmstudio lmstudio.ai . Napsauta sitten  Lataa LM -studio Windowsille. Koska se on suuri sovellus, sinun on odotettava muutama minuutti. Kun LM-studio on ladattu, suorita asennusmedia ja seuraa sovelluksen näytön ohjeita. Asennuksen jälkeen aseta Qwen3 alla mainitut vaiheet.

• Napsauta LM Studiossa Löytää.
• Etsi Qwen3.
• Napsauta sitten  Ladata  Kuvake ja anna sen ladata tietokoneellesi.
• Aseta malliparametrit Lämpötila: 0,6, Top-P: 0,95 ja Top-K: 20 , jotka kohdistuvat Qwen3: n suositeltujen ajattelutilan asetusten kanssa.
• Käynnistä sitten mallipalvelin napsauttamalla ”Käynnistä palvelin”, ja LM Studio luo paikallisen API -päätepisteen (esim. http://localhost:1234).

Kun olet valmis, voit melko helposti käyttää LM Studio -chat -käyttöliittymää mallin testaamiseen.

4] Käytä Qwen3: ta käyttämällä VLLM: ää

VLLM on suurille kielille (LLM), jotka on suunniteltu suurille kielille (LLMS), joka tarjoaa saumattoman tuen Qwen3: n FP8- ja AWQ-kvantisoiduille malleille. Se tarjoaa optimoidun päätelmän suorituskyvyn, mikä tekee siitä erinomaisen valinnan kehittäjille, jotka luovat skaalautuvia ja vankkoja AI-käyttäviä sovelluksia. Jos haluat asentaa yhden korkeakoulun QWEN3-malleista, voit käyttää VLLM: ää. Tehdä niin, lataa ja asenna ensin Uusin versio Pythonista . Nyt asentaaksesi ja käyttääksesi Qwen3: ta, suorita alla olevat komennot.

pip install vllm

Laadataksesi malli suorita seuraava komento.

Toivottavasti pystyt asentamaan Qwen3: n tässä viestissä mainittujen menetelmien avulla tietokoneellesi.

Lukea:  Paras Microsoft Copilot -vaihtoehto Windows PC: lle

Onko Podman -työpöytä ilmainen?

Podman Desktop on ilmainen ja avoimen lähdekoodin työkalu kehittäjille. Sen avulla voit hallita säiliöitä ja Kubernetesia helposti yksinkertaisella graafisella käyttöliittymällä. Koska se on myyjä-neutraali, sinulla ei ole mitään rajoituksia tai lisensointimaksuja, jolloin se on saatavana kaikille. Podman Desktop toimii Windowsissa, MacOS: lla ja Linuxissa, mikä tarjoaa joustavan ympäristön konttisoiduille sovelluksillesi.

Lukea:  Kuinka asentaa Gemma 3 LLM Windows 11 PC: lle?

sana ei näytä ylämarginaalia

Kuinka asentaa NPM paikallisesti?

Solmupaketinhallinta (NPM) mukana on Node.js. Voit ladata ja suorittaa Node.js -asennusohjelman asentaaksesi NPM: n tietokoneellesi. Suosittelemme, että käydään läpi oppaan Asenna NPM tietää enemmän.

Lue myös: Käytä Qwen AI -sovellusliittymää ilmaiseksi.