OPNsense如何做LoadBalance接入后端的Kubernetes Nginx Ingress --- Caddy篇

新托管了一个机房服务器,基本全用开源软件来构建:

那Firewall就用的OPNsense,后端自建Kubernetes,那OPNsense需要当作一个LoadBalance来使用

结构图如下,证书是放在了Nginx ingres上:

image-20251014091045980

那方法有很多,各有利弊,说下第二个,Caddy的做法

Caddy真的是王道,什么泛域名,一个端口跑3个协议,都可以

用到Caddy,就要解决后端Nginx ingress无法获得客户真实IP的问题

Caddy配置如下:

General Settings:

Enable Layer4 Proxy 要勾选上

Auto HTTPS 要选中Off

image-20251014094437866

其它保持默认,然后去到Layer4 Proxy进行配置,同样要配2个,一个HTTP,一个TLS

image-20251014094651852

编辑HTTP的代理,注意 Domain 的地方需要把用到的所有域名列进去

image-20251014094830397

编译TLS的代理

image-20251014095137803

注意上面,Proxy Protocol都要选中v2,这样客户端真实IP才可以透传给后端的Nginx ingress

那同样后端的Nginx ingress的configmap,也需要加上Proxy Protocol的部分

image-20251014095327561

我们用的是官网的 ingress-nginx,配置文件是 ingress-nginx 的namespace中

configmap ingress-nginx-controller,内容如下

 1apiVersion: v1
 2data:
 3  use-proxy-protocol: "true"
 4kind: ConfigMap
 5metadata:
 6  annotations:
 7    meta.helm.sh/release-name: ingress-nginx
 8    meta.helm.sh/release-namespace: ingress-nginx
 9    nginx.ingress.kubernetes.io/configuration-snippet: "true"
10    nginx.ingress.kubernetes.io/location-snippet: "true"
11    nginx.ingress.kubernetes.io/server-snippet: "true"
12  creationTimestamp: "2025-08-27T07:38:49Z"
13  labels:
14    app.kubernetes.io/component: controller
15    app.kubernetes.io/instance: ingress-nginx
16    app.kubernetes.io/managed-by: Helm
17    app.kubernetes.io/name: ingress-nginx
18    app.kubernetes.io/part-of: ingress-nginx
19    app.kubernetes.io/version: 1.13.1
20    helm.sh/chart: ingress-nginx-4.13.1
21  name: ingress-nginx-controller
22  namespace: ingress-nginx
23  resourceVersion: "22298827"
24  uid: d6eeef3c-7e44-4667-854a-c7693006b221

编辑后,nginx ingress会自动reload

然后去OPNsense Caddy的General Settings,配置生效

image-20251014095612776

这样就很完美了,后端的Nginx ingress也可以获得真实客户端IP了,看看nginx的log确认一下。

image-20251014095739437

注意:relayd和caddy不能同时启动。


OPNsense如何做LoadBalance接入后端的Kubernetes Nginx Ingress --- Relayd篇
OPNsense如何做LoadBalance接入后端的Kubernetes Nginx Ingress --- Nginx篇
comments powered by Disqus