10000 deprecate llama_sampler_init_grammar -> llama_sampler_grammar_init · ochafik/llama.cpp@7d59bf4 · GitHub
[go: up one dir, main page]

Skip to content

Commit 7d59bf4

Browse files
author
Olivier Chafik
committed
deprecate llama_sampler_init_grammar -> llama_sampler_grammar_init
1 parent 2bb3fed commit 7d59bf4

File tree

3 files changed

+16
-3
lines changed

3 files changed

+16
-3
lines changed

common/sampling.cpp

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -158,7 +158,7 @@ struct common_sampler * common_sampler_init(const struct llama_model * model, co
158158
}
159159
auto * result = new common_sampler {
160160
/* .params = */ params,
161-
/* .grmr = */ llama_sampler_init_grammar(vocab, params.grammar.c_str(), "root",
161+
/* .grmr = */ llama_sampler_grammar_init(vocab, params.grammar.c_str(), "root",
162162
params.grammar_lazy,
163163
trigger_words.data(), trigger_words.size(),
164164
params.grammar_trigger_tokens.data(), params.grammar_trigger_tokens.size()),

include/llama.h

Lines changed: 7 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -1194,7 +1194,13 @@ extern "C" {
11941194
float tau,
11951195
float eta);
11961196

1197-
LLAMA_API struct llama_sampler * llama_sampler_init_grammar(
1197+
DEPRECATED(LLAMA_API struct llama_sampler * llama_sampler_init_grammar(
1198+
const struct llama_vocab * vocab,
1199+
const char * grammar_str,
1200+
const char * grammar_root),
1201+
"use llama_sampler_grammar_init instead");
1202+
1203+
LLAMA_API struct llama_sampler * llama_sampler_grammar_init(
11981204
const struct llama_vocab * vocab,
11991205
const char * grammar_str,
12001206
const char * grammar_root,

src/llama-sampling.cpp

Lines changed: 8 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -1454,7 +1454,7 @@ static void llama_sampler_grammar_reset(struct llama_sampler * smpl) {
14541454
static struct llama_sampler * llama_sampler_grammar_clone(const struct llama_sampler * smpl) {
14551455
const auto * ctx = (const llama_sampler_grammar *) smpl->ctx;
14561456

1457-
auto * result = llama_sampler_init_grammar(ctx->vocab, nullptr, nullptr, false, nullptr, 0, nullptr, 0);
1457+
auto * result = llama_sampler_grammar_init(ctx->vocab, nullptr, nullptr, false, nullptr, 0, nullptr, 0);
14581458

14591459
// copy the state
14601460
{
@@ -1492,6 +1492,13 @@ static struct llama_sampler_i llama_sampler_grammar_i = {
14921492

14931493

14941494
struct llama_sampler * llama_sampler_init_grammar(
1495+
const struct llama_vocab * vocab,
1496+
const char * grammar_str,
1497+
const char * grammar_root) {
1498+
return llama_sampler_grammar_init(vocab, grammar_str, grammar_root, false, nullptr, 0, nullptr, 0);
1499+
}
1500+
1501+
struct llama_sampler * llama_sampler_grammar_init(
14951502
const struct llama_vocab * vocab,
14961503
const char * grammar_str,
14971504
const char * grammar_root,

0 commit comments

Comments
 (0)
0