Ollama

Ollama 是一个实用工具，可让您在 Mac 上本地运行不同的 LLM。借助其优雅的 开源 开发，您只需在计算机的 CMD 中输入不同的命令即可获取各种信息。此外，苹果操作系统的强大功能能够以最快的速度生成响应。

在 Mac 上运行 Meta Llama 3 和其他模型

使用 Ollama，在您的计算机上轻松利用 Phi 3、Mistral、Gemma、Llama 2 和 Llama 3 等模型的强大功能。如果您想使用 Meta 最先进的 LLM，只需要在计算机的 CMD 中输入 ollama run llama3 即可开始安装。然而，请确保您的硬盘有足够的空闲空间，因为运行此语言模型需要几个 GB 的可用空间以确保流畅运行。

拥有大量上下文的对话

使用 Ollama 时，始终可以存储先前的问题和答案以提供额外的上下文。与其他在线 LLM（如 ChatGPT 和 Copilot）类似，此工具在生成结果时会考虑这些上下文。这样，您可以充分利用每个语言模型所提供的巨大潜力。

在 Mac 上为 Ollama 安装可视界面

在 Mac 上安装一个可视界面可以使使用 Ollama 更加直观。为此，只需使用 Docker 运行命令 Docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main。之后，您可以通过一个比命令控制台更直观的界面来使用此工具。

下载适用于 Mac 的 Ollama，充分利用其所有功能并轻松本地运行任何 LLM。