Gemma谷歌模型安装

1.安装git 官网: https://git-scm.com/downloads 2.开启Windows功能 开启后不要忘记重启。 注意:检查一下任务管理器中的CPU是否开启虚拟化,如图,如果没有开启,再重启电脑时进入bios开启一下,一般主板都在“高级”选项卡中有关于CPU虚拟化的设置 3.安装Docker 官网: https://www.docker.com/products/docker-desktop/ 开启docker 4.安装Ollama 官网: https://ollama.com/ 安装完后运行,检验运行结果,浏览器访问: http://127.0.0.1:11434/ 5.找到一个目录,运行cmd,克隆GitHub项目 git clone https://github.com/open-webui/open-webui.git 6.继续在命令行中运行命令创建镜像和启动容器: docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main 7.运行容器后在浏览器中访问: http://localhost:3000 8.在前台页面中根据模型标签下载模型 注意:最好本地电脑安装有英伟达显卡,显存越大越好,6GB起步,我的是RTX3090,显存24GB,运行速度不错。