Spring AI，实现了个完整的例子，已开源，欢迎来玩~

这个在线服务不会被薅秃了嘛。

@whthomas 3.5 免费的啦， 然后必须手动输入 JSON 报文， 主要就是用来测试的， 没做成自动。

emmm.... 看起来还是挺容易被调用的。

===
curl 'https://ai.coala.top/session/async/stream' \
-H 'Accept: */*' \
-H 'Accept-Language: zh-CN,zh;q=0.9,en;q=0.8' \
-H 'Cache-Control: no-cache' \
-H 'Connection: keep-alive' \
-H 'Origin: https://ai.coala.top' \
-H 'Pragma: no-cache' \
-H 'Referer: https://ai.coala.top/' \
-H 'Sec-Fetch-Dest: empty' \
-H 'Sec-Fetch-Mode: cors' \
-H 'Sec-Fetch-Site: same-origin' \
-H 'User-Agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/124.0.0.0 Safari/537.36' \
-H 'content-type: application/json' \
-H 'sec-ch-ua: "Chromium";v="124", "Google Chrome";v="124", "Not-A.Brand";v="99"' \
-H 'sec-ch-ua-mobile: ?0' \
-H 'sec-ch-ua-platform: "macOS"' \
--data-raw '{"model":"gpt-3.5-turbo","messages":[{"content":[{"type":"text","text":"You are ChatGPT"}],"role":"system"},{"content":[{"type":"text","text":"请用中文详尽总结以下文字内容，按照以下步骤，每一步分别打印结果:\n1. 尽可能列出所有主题，不要遗漏\n2. 检查第一步列出的话题，补充缺失的重要话题\n3. 基于每个话题用 bullet points 列出要点\n4. 严格的以话题为章节，不要遗漏，基于每个话题和下面的要点，用 1-3 个自然段落总结每个话题的内容，总结每个话题时不要用 bullet points ，整体效果像是一篇科普文章\n\n 以下是要总结的内容:\n\n<content>\n 以上就是我们对于分层架构的探索实践的分享，《架构整洁之道》中有这么一句话来形容软件架构的目标：\n> 软件架构的最终目标是：用最小的人力成本来满足构建和维护系统的需求。\n\n 通过分层架构的实践，产出的代码一定程度上降低了大家理解系统的认知负担，改善了修改系统的成本，算是达到了我们使用分层架构的目的。\n</content>"}],"role":"user"}]}'
===

@coala 3.5 免费的怎么说，api 应该也是收费的吧

Flux<String> 也能在普通 spring web 项目中使用了？ 记得以前需要 spring webflux 项目才行

@whthomas @smalljop 我用的第三方代理，有额度，免费次数，长度限制。 余额也只有 10 块，最差的结果就是关掉把...

@mmdsun 可以， 有一些异步支持的。