希望可以在DifyConfig中增加参数，以配置底层客户端的maxRequestsPerHost和maxRequests

[pg-lewis]

原因： okhttp默认每个主机最大并发请求数是5，超过会排队等待，在k8s环境中会导致java服务响应到ingress超时（默认1m），报错提示“504 Gateway Time-out”
根本原因： LLM响应较慢，通常每次响应至少需要几十秒，增加每主机最大请求数以提升并发能力

[imfangs]

DifyClientFactory 提供了接受自定义 OkHttpClient 的方法：
DifyClientFactory.createClient(baseUrl, apiKey, customOkHttpClient)
DifyClientFactory.createChatClient(baseUrl, apiKey, customOkHttpClient)
// 等等...

可以这样配置高并发：
OkHttpClient customClient = new OkHttpClient.Builder()
.dispatcher(new Dispatcher(){{
setMaxRequests(100);
setMaxRequestsPerHost(20);
}})
.connectTimeout(5, TimeUnit.SECONDS)
.readTimeout(120, TimeUnit.SECONDS)
.build();

DifyClient client = DifyClientFactory.createClient(baseUrl, apiKey, customClient);

@pg-lewis 看下是否可以解决问题呢

[pg-lewis]

感谢回复。是的，我目前是这样解决的，感觉如果可以直接通过DifyConfig类配置会更好？不过问题不大了，再次感谢