THUDM

/

glm-4-9b-chat

like 623

Follow

Knowledge Engineering Group (KEG) & Data Mining at Tsinghua University 1,163

我看到代码里确实是有apply_chat_template的函数的，但是不太知道怎么将其翻译为jinja格式的模板，我现在用vllm运行该模型，然后模板使用的是网上有人提供的GLM3的模板，如下。不知道能否share下GLM-4-Chat的jinja模板
{% for message in messages %}
{{'<|' + message['role'] + '|>' + '\n' + message['content'] + '\n' }}
{% endfor %}
{{ '<|assistant|>' }}