Add missing n_seq_id to llama_batch

NickAlgra · web-flow · commit 65bcd1479d60 · 2023-10-24T12:29:22.000+02:00
diff --git a/llama_cpp/llama_cpp.py b/llama_cpp/llama_cpp.py
@@ -243,6 +243,7 @@ class llama_token_data_array(Structure):
 #     llama_token  *  token;
 #     float        *  embd;
 #     llama_pos    *  pos;
+#     int32_t      *  n_seq_id;
 #     llama_seq_id ** seq_id;
 #     int8_t       *  logits;
 
@@ -262,6 +263,7 @@ class llama_batch(Structure):
         ("token", POINTER(llama_token)),
         ("embd", c_float_p),
         ("pos", POINTER(llama_pos)),
+        ("n_seq_id", POINTER(c_int32)),
         ("seq_id", POINTER(POINTER(llama_seq_id))),
         ("logits", POINTER(c_int8)),
         ("all_pos_0", llama_pos),
