spjallid.is

Sælir félagar.

Mig langaði að prófa 5090 kortið í að búa til myndir, hvaða forrit og eða forrit hafa menn helst verið að nota til að hosta server locally ?

stable diffusion + automatic1111
Svo bara Youtube eða ChatGPT.

flux.1 með comfyui er mjög auðvelt að setja upp og nota locally.

chatgpt eru með svo strangar notkunarskilmála mig langar að gera meira með myndirnar en þeir leyfa.

mig langar líka til að búa til local chatbot sem ég get skrifast á við á íslensku

Settir þú ekki upp flux.1 með comfyui?

Ef þú vilt chatbot þá er ekkert mál að setja upp DeepSeek R.1 locally.

En fyrir bæði þarftu mikið öflugri tölvu en bara 1 stk 5090 ef þú vilt fá eitthvað vit úr LLM módelinu.

ég vil setja upp chatbot locally sama hvort það er deepseek eða ekki

emil40 skrifaði:ég vil setja upp chatbot locally sama hvort það er deepseek eða ekki

https://ollama.com/
https://github.com/ollama/ollama


Það var smá vesen að setja þetta upp fyrir AMD kort, en ætti að vera frekar auðvelt fyrir Nvidia kortin

ég er ollama við erum ekki búnir að koma þessu alveg á íslensku ég og vinur minn