Kuinka ajaa Deepseek Prover v2 7B Windowsissa

Deepseek Prover v2 on edistynyt LLM -malli, joka on suunniteltu muodolliseen lauseeseen, joka todistaa  Lean 4.  Toisin kuin Deepseek R1, Deepseek Prover V2: ta ei voida asentaa suoraan Windows -tietokoneeseen; Sen sijaan WSL: n on käytettävä sen käyttämiseen. Tässä viestissä näemme kuinka voit Suorita DeepSek V2 7B Windowsissa.

Mikä on Deepseek Prover v2

Deepseek Prover V2 on edistyksellinen suuri kielimalli, ja sitä käytetään ensisijaisesti matemaattisten yhtälöiden ratkaisemiseen Lean 4: n avulla. Lean 4 on toiminnallinen ohjelmointikieli ja interaktiivinen lauseen sananlasku, joka on suunniteltu muodolliseen todentamiseen ja matemaattisiin todisteisiin. 

Tämä menetelmä käyttää vaiheittaista lähestymistapaa monimutkaisten matematiikkaongelmien ratkaisemiseksi jakamalla ne pienempiin, hallittavissa oleviin osiin. Se luo myös järjestäytyneitä todisteita. Malli parantaa päättelytaitojaan vahvistusoppimisella, mikä auttaa sitä yhdistämään epävirallisen ja muodollisen matematiikan. Sen edistyneiden ominaisuuksien ansiosta se voi toimia erittäin hyvin lauseiden hankkimissa testeissä, kuten Minif2F ja Putnambench.

Käytämme 7B -parametria, koska tämä versio tarjoaa hyvän tasapainon tehon ja tehokkuuden välillä. Se soveltuu muodolliseen lauseeseen, joka on todistamassa ja saavutettavissa tutkijoille, joilla on rajoitetut laitteistoresurssit.

Suorita Deepseek Prover v2 7B Windows 11/10

Et voi vain asentaa DeepSeek Prover v2 7B: tä Windows -tietokoneeseen. Sinun on käytettävä WSL: ää. Olemme antaneet vaiheittaisen oppaan LLM-mallin suorittamisesta:

1. Täyttää järjestelmävaatimukset
2. Määritä ympäristö
3. Lataa ja asenna Anaconda
4. Perustaa ympäristö
5. Lataa Deepseek Prover v2 7B.

1] täyttää järjestelmävaatimukset

Et voi käyttää mitään tietokonetta Deepseek Prover v2: n suorittamiseen; Sinun on varmistettava, että koneesi täyttää tietyt laitteistovaatimukset. Olemme maininneet alla olevat järjestelmävaatimukset.

• Grafiikka: NVIDIA RTX A6000 tai ekvivalentti 32 Gt: n tai enemmän VRAM: n kanssa.
• Käytettävissä oleva tila:  100 GBS
• Muisti:  64 Gt
• Suoritin: Mordern Intel I7/I9 tai AMD Ryzen 7/9
• Ohjelmisto:  Windows 11/10 ja Windows -alajärjestelmä Linuxille.

Kun olet täyttänyt annetut järjestelmävaatimukset, aloitetaan asennuksesta.

2] Määritä ympäristö

Kuten aiemmin mainittiin, tarvitsemme WSL: tä tähän asennukseen. WSL antaa meille mahdollisuuden suorittaa Linux -jakautumisia natiivisesti tarvitsematta virtuaalikonetta tai kaksoiskäynnistystä. Asentaaksesi WSL: n, voit joko käyttää CLI -komento Tai hanki se Microsoft Store .

Voit avata Komentokehotus  ja suorita seuraava komento asentaaksesi WSL.

Nyt meidän on myös asennettava Ubuntu.

Suorita seuraava komento komentokehotuksessa tai PowerShellissä.

sinulla ei ehkä ole oikeuksia käyttää tätä verkkoresurssia

Sinun on odotettava Windowsin lataamista ja asentamista tietokoneellesi.

3] Lataa ja asenna Anaconda

Anaconda on suosittu avoimen lähdekoodin työkalu Pythonille ja R. Se on suunniteltu tietotekniikkaan, koneoppimiseen ja AI-kehitykseen. Voit mennä Anaconda.com ladata Anaconda -jakelu.

4] Aseta ympäristö

Nyt kun meillä on Anaconda, meillä on hyvä perustaa Python -ympäristö ja asentaa muut riippuvuudet. Avaa  Anaconda kehote  tai  WSL Ubuntu -pääte, jonka voit tehdä etsimällä sitä aloitusvalikosta. Suorita sitten seuraava komento.

Se vie vähän aikaa, ja se jopa pyytää lupaa puuttuvien pakettien asentamiseen. Kun olet valmis, voit suorittaa alla olevan komennon ympäristön aktivoimiseksi.

Kun meidän on valmis, meidän on asennettava riippuvuudet. Suorita seuraavat komennot aktivoituneessa ympäristössä.

Nämä komennot asentavat Pytorchin CUDA -tuella, välttämättömiä syvän oppimisen kannalta sekä Torchvision ja Torchaudio kuvan ja äänenkäsittelyä varten. He myös perustavat muuntajat, kiihdyttävät, bitsandbytes, einops ja jupyter -muistikirja interaktiivisilla widgeteillä, mikä mahdollistaa tehokkaan AI -mallin kehittämisen ja kokeilun.

it-järjestelmänvalvojallasi on rajoitettu pääsy tämän sovelluksen joillekin alueille

Lukea:  Kuinka käyttää Deepseek R1: tä hämmentyneisyydessä

5] Lataa DeepSeek Prover v2 7B

Nyt kun olemme kaikki asentaneet riippuvuudet, siirrymme eteenpäin ja ladata DeepSeek Prover v2 7B. Avaa Jupytt Novovook  ja käytä sitä seuraavan skriptin suorittamiseen.

Asetus Device_map = ”auto” Mahdollistaa mallin määrittää prosessointi automaattisesti joko GPU: lle tai CPU: lle, suorituskyvyn optimoimalla käytettävissä olevien laitteistojen perusteella. Ensimmäisessä suorituksessa sekä malli että tokenizer ladataan HUGGGING FACE: lta varmistaen, että uusin versio on haettu käytettäväksi.

Nyt voit suorittaa käsikirjoituksen. Seuraava on yksinkertainen Python -komentosarja, jonka voit suorittaa aiemmin mainittua skriptiä.

Toivottavasti voit tämän viestin avulla ajaa Deepseek V2 7B: tä Windowsissa. Tästä huolimatta jokainen tietokone ei pysty vastaamaan tämän suuren kielimallin rasittavia vaatimuksia, jos laitteesi on yksi niistä, mene app.nodeshift.com ja luo virtuaalikone aiemmin mainittujen kokoonpanojen kanssa. Muista, että se ei ole vapaa, joudut ehkä maksamaan vähän järjestelmän vaatimuksissa mainitun GPU- ja CPU -vaatimusten saavuttamiseksi. Kun sinulla on vaadittava kone, voit vain noudattaa aiemmin mainittuja vaiheita asentaaksesi Deepseek Prover V2 7B: n.

Lukea:  Kuinka ajaa syvällä paikallisesti Windows 11: ssä

Kuinka voin suorittaa Deepseek Prover v2 7B asennuksen jälkeen?

Aktivoi Conda -ympäristösi Conda -aktivoi Deepseekin avulla ja käynnistä sitten Jupyter -kannettava tietokone (valinnainen) Jupyter -muistikirjassa. Lataa malli pythoniin A636E95C64CC94B637C6796D1750277F9079995FB: n kanssa, varmistamalla model_id = "deepseek-ai/DeepSeek-Prover-V2-7B". Todisteiden tuottamiseksi suorita DF52914BDB5E5C4051C4195991Effeb13964e09c outputs = model.generate(**inputs, max_length=512) ja lopulta print(tokenizer.decode(outputs[0], skip_special_tokens=True)) Muodollisen todisteen näyttämiseksi.

Lue myös: Kuinka käyttää Deepseek V3 -kooderia Windows 11: ssä .