conhost

@ChatGOP TTS 和 STT 技术是现成的，就是工程构建的过程。另外你说的实时的话，不进行特定优化的话，NMT 的翻译一句话的时延大概在 500ms ，LLM 采用的是相同的解码方案，解码时间也差不多，但是 LLM 模型更大，计算更耗时。但是现在硬件设备针对 LLM 也有一定的针对性的优化，所以基本上是能保证的。

@ChatGOP text->voice 以及 voice->text 翻译目前还没有现成的方案，还处于研究阶段，如果你不介意质量也可以用。现有的这些翻译是通过文本翻译前面或后面加 TTS 或者 ASR 实现。
另外通用领域 NMT 与 LLM 的效果是持平甚至不如的，某些特定领域可能 NMT 的效果会好一点。另外不太明白你这个实时指的是什么？

nginx 的配置呢？

12 月遇到过，貌似剩最后十天左右发过来续期邮件了。

@fanyingmao 人机校验失败是因为网站有几个 sec 的头，加进去就不会报这个错误了

NLP 里面有意图识别，之前的任务机器人就是按照先进行意图识别，再进行槽位抽取。目前的大模型可能是反映成不同的 prompt

工资咋样

你要问能不能？那肯定是能，torch 支持 ROCM ，但是里面有多少坑，你得自己试一试。如果有结果了，cue 我一下。

@hguangzhen 1 就不说了。机器学习的训练一般是端到端的，基本上是不能分解的，只能并行训练。然而不像挖矿一样单机是对同一个输入计算，模型并行各机器上需要针对不同的数据进行训练，并将训练中的梯度汇总到中心服务器，这就限制了各个框架的随意进入和退出，同时还需要各种措施保证梯度的准确性。
此外，这并不能解决算力的问题啊，该需要多少算力还是多少算力，只是解决有没有可用算力的问题，限制参与资格的还是钱呀。