从本地计算机访问 AWS EC2 实例上的 Ollama API

2024-06-14

要访问 AWS EC2 实例上的 Ollama API，需确保 API 监听所有接口、防火墙和安全组允许端口 11434 的流量，并检查网络 ACL 设置和端口状态。

为了能够从本地计算机访问 AWS EC2 实例上的 Ollama API，您可以按照以下步骤进行排查：

确认应用程序监听所有接口：
确保 Ollama API 在 EC2 实例上监听所有网络接口，而不仅仅是 localhost。您需要将主机设置为 0.0.0.0 而不是 localhost。您可以参考 Ollama 文档中的设置环境变量部分。
检查防火墙设置：
确保实例的防火墙（例如 ufw 或 firewalld）允许通过端口 11434 的流量。可以通过以下命令检查和更新 ufw 设置：
```
sudo ufw allow 11434
sudo ufw status
```
确认安全组设置：
确保 EC2 实例的安全组允许通过端口 11434 的入站流量。您已经配置了安全组允许从任意 IP 地址（0.0.0.0/0）访问该端口，但仍然需要检查安全组是否有其他限制。
检查网络 ACL 设置：
确认网络 ACL 允许通过端口 11434 的入站和出站流量。
使用 netstat 或 ss 检查端口状态：
使用 netstat 或 ss 命令检查 Ollama API 是否在正确的网络接口上监听：
```
sudo netstat -tuln | grep 11434
```
或者：
```
sudo ss -tuln | grep 11434
```
Ping 测试和连接测试：
确认可以从本地计算机 ping 通 EC2 实例的公共 DNS 地址：
```
ping ec2-53-61-81-176.ap-northeast-1.compute.amazonaws.com
```
同时检查是否允许所有出站流量以及确认没有其他限制。
查看应用程序日志：
检查 Ollama API 的日志文件，看看是否有任何错误信息或提示，帮助确定问题所在。