目前在開(kāi)源大模型領(lǐng)域，Llama3 無(wú)疑是最強(qiáng)的！這次Meta不僅免費(fèi)公布了 8B和70B兩個(gè)性能強(qiáng)悍的大模型，400B也即將發(fā)布，這是可以和GPT-4對(duì)打的存在！今天就來(lái)介紹下本地部署方法，簡(jiǎn)單易懂，非常適合新手！
1、首先去ollama官網(wǎng)下載安裝程序：https://ollama.com/download
根據(jù)系統(tǒng)選擇版本，然后點(diǎn)擊進(jìn)行安裝即可
安裝完成后右下角會(huì)有提示ollama正在運(yùn)行
2、接著將Windows上的WSL功能打開(kāi)，勾選后點(diǎn)擊保存安裝完成然后重啟電腦
3、在電腦上下載docker桌面版并安裝Docker Desktop：https://www.docker.com/products/docker-desktop/
安裝完成需要重啟電腦，然后運(yùn)行軟件并進(jìn)行注冊(cè)登錄，在進(jìn)行注冊(cè)登錄時(shí)請(qǐng)做好全局科學(xué)上網(wǎng)。
4、接下來(lái)通過(guò)本地命令行安裝webUI
按快捷鍵或在搜索輸入cmd ,打開(kāi)終端然后輸入命令：
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
等待鏡像拉取完成安裝ollama的webUI程序
拉取完成允許安裝
當(dāng)看到注冊(cè)登錄界面表示已經(jīng)安裝成功了
點(diǎn)擊sign up進(jìn)行注冊(cè)登錄，并修改語(yǔ)言為中文簡(jiǎn)體
5、接下來(lái)需要下載模型
拉取模型地址可以點(diǎn)擊這里，打開(kāi)地址：https://ollama.com/library/llama3:8b，選擇一個(gè)8B的模型進(jìn)行安裝
下載完成后點(diǎn)擊新聊天，選擇下載好的模型，然后就可以進(jìn)行對(duì)話了
暫無(wú)評(píng)論，快來(lái)評(píng)論吧!