Paar päeva tagasi mu elukaaslane Pablinux ütles neile kuidas kohapeal installida trendikas tehisintellekti mudel. Selles postituses loetlen, millised mudelid on minu arvates paremad kui DeepSeek ning kuidas neid meie arvutisse installida ja käivitada.
Jättes kõrvale igasugused poliitilised sümpaatiad või antipaatiad, oli Hiina valitsuse samm Sun Tzu vääriline diplomaatilise turunduse meistriteos. Vastupidiselt Donald Trumpi stiilile "Elevant Hiina nõudes" kuulutasid nad välja mudeli, mis pakub tasuta samu funktsioone nagu ChatGPT ja tarbib vähem ressursse. Seda teavad vaid meie, kes teemat jälgime Pikka aega on olnud palju teisi avatud lähtekoodiga mudeleid (mõned Põhja-Ameerika firmadelt nagu Meta) ja DeepSeeki jõudlus on ChatGPT-ga võrreldav vaid kõige tavalisematel 5% kasutusaladel.
Suuremahulised keelemudelid
ChatGPT, DeepSeek ja teisi nimetatakse suuremahulisteks keelemudeliteks. Põhimõtteliselt Need võimaldavad kasutajal suhelda arvutiga keeles, mis sarnaneb teise inimesega suhtlemiseks kasutatava keelega. Selle saavutamiseks koolitatakse neid suure hulga teksti ja reeglitega, mis võimaldavad neil toota uut teavet juba olemasolevast.
Selle peamine kasutusala on küsimustele vastamine, tekstide kokkuvõtete tegemine, tõlgete tegemine ja sisu taasesitamine.
Paremad mudelid kui DeepSeek ja kuidas neid kohapeal installida
Nagu Pablinux, kasutame ka Ollamat. See on tööriist, mis võimaldab meil installida, desinstallida ja kasutada Linuxi terminalist erinevaid avatud lähtekoodiga mudeleid. Mõnel juhul saab brauserit kasutada graafilise liidesena, kuid me ei käsitle seda selles artiklis.
Ollama korraliku kasutuskogemuse pakkumiseks on kõige parem omada spetsiaalset GPU-d.Eriti rohkemate parameetritega mudelitel. Väiksemaid saab aga kasutada Raspberry Pi peal ja kui ma isegi katsetasin 7 miljardi parameetriga mudeleid 6 gigabaidise ja ilma spetsiaalse GPUta arvutis, siis arvuti töötas ilma tõrgeteta. Sama ei juhtunud ühega 13 miljardist.
Parameetrid on reeglid, mida mudel kasutab andmete vahel suhete loomiseks ja mustrite loomiseks. Mida rohkem parameetreid ja andmeid, seda võimsam on mudel, millel on vähem parameetreid, nagu Tarzan.
Ollama saame installida käskudega
sudo apt install curl
curl -fsSL https://ollama.com/install.sh | sh
Mudeli saame installida käsuga:
ollama pull nombre_del modelo
Ja käivitage see koos:
ollama run nombre_del_modelo
Desinstallime selle kasutades:
ollama rm nombre_del_modelo
Näeme installitud mudeleid, tippides:
ollama list
Järgnev on väike nimekiri mudelitest, mis minu arvates kõige huvitavamad: Saadaolevate mudelite täieliku loendi leiate siit siin:
laama2-tsenseerimata
Llama on Meta loodud üldotstarbeline mudel. Selles versioonis eemaldati kõik piirangud, mille algse projekti arendajad õiguslikel või poliitilistel põhjustel kehtestasid.. Sellel on kaks versiooni, kerge, mis saab hakkama 8 GB-ga ja täisversiooniga, mis vajab 64. Seda saab kasutada küsimustele vastamiseks, tekstide kirjutamiseks või kodeerimisülesannete täitmiseks.
Paigaldab koos:
ollama pull llama2-uncensored
Ja see töötab koos:
ollama run llama2-uncensored
codegemma
CodeGemma on valik kergeid, kuid võimsaid malle, mis võimaldavad teil täita mitmesuguseid programmeerimisülesandeid kuidas koodi lõpule viia või see nullist kirjutada. Saab aru loomulikust keelest, oskab järgida juhiseid ja arutleda matemaatiliselt.
Seda on 3 variandis:
- Juhenda: See muudab loomuliku keele koodiks ja järgib juhiseid:
- kood: Täitke ja genereerige kood olemasoleva koodi osadest.
- 2b: Kiirem koodi lõpetamise ülesanne.
Tynillama
Nagu nimigi ütleb, on see algse Meta mudeli väiksem versioon.. Nii et see ei anna nii häid tulemusi, kuid kui soovite näha, kuidas tehisintellekti mudel töötab tagasihoidliku riistvaraga, tasub proovida. Sellel on ainult 1100 miljardit parameetrit.
Mudelite kohapeal kasutamise eelisteks on privaatsus ja juurdepääs tsenseerimata ja erapooletutele versioonidele, mis mõnel juhul kipuvad lõppema naeruväärseks. Microsofti tehisintellekt keeldus mulle taksikoera kujutist loomast, kuna pidas terminit "lits" solvavaks. Suurim puudus on riistvaranõuded. Peab proovima mudeleid ja leidma selle, mis on teie jaoks piisavalt hea ja töötab teie varustusega.