Gemma谷歌模型安装


1.安装git


官网:https://git-scm.com/downloads

2.开启Windows功能



开启后不要忘记重启。

注意:检查一下任务管理器中的CPU是否开启虚拟化,如图,如果没有开启,再重启电脑时进入bios开启一下,一般主板都在“高级”选项卡中有关于CPU虚拟化的设置





3.安装Docker


官网:https://www.docker.com/products/docker-desktop/

开启docker


4.安装Ollama


官网:https://ollama.com/

安装完后运行,检验运行结果,浏览器访问:http://127.0.0.1:11434/


5.找到一个目录,运行cmd,克隆GitHub项目


git clone https://github.com/open-webui/open-webui.git


6.继续在命令行中运行命令创建镜像和启动容器:


docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main


7.运行容器后在浏览器中访问:http://localhost:3000



8.在前台页面中根据模型标签下载模型



注意:最好本地电脑安装有英伟达显卡,显存越大越好,6GB起步,我的是RTX3090,显存24GB,运行速度不错。

评论