ggml-org
diff --git a/‎examples/passkey/passkey.cpp
Copy file name to clipboardExpand all lines: examples/passkey/passkey.cpp
+2-7Lines changed: 2 additions & 7 deletions b/‎examples/passkey/passkey.cpp
Copy file name to clipboardExpand all lines: examples/passkey/passkey.cpp
+2-7Lines changed: 2 additions & 7 deletions
diff --git a/‎include/llama.h
Copy file name to clipboardExpand all lines: include/llama.h
+4-7Lines changed: 4 additions & 7 deletions b/‎include/llama.h
Copy file name to clipboardExpand all lines: include/llama.h
+4-7Lines changed: 4 additions & 7 deletions
diff --git a/‎src/llama-context.cpp
Copy file name to clipboardExpand all lines: src/llama-context.cpp
+2Lines changed: 2 additions & 0 deletions b/‎src/llama-context.cpp
Copy file name to clipboardExpand all lines: src/llama-context.cpp
+2Lines changed: 2 additions & 0 deletions
@@ -133,9 +133,8 @@ int main(int argc, char ** argv) {
             const int ib = i/n_batch - 1;
             const int bd = n_batch_grp*(n_grp - 1);
 
-            llama_kv_self_seq_add (ctx, 0, n_past - n_batch,         n_past,         ib*bd);
-            llama_kv_self_seq_div (ctx, 0, n_past - n_batch + ib*bd, n_past + ib*bd, n_grp);
-            llama_kv_self_update  (ctx);
+            llama_kv_self_seq_add(ctx, 0, n_past - n_batch,         n_past,         ib*bd);
+            llama_kv_self_seq_div(ctx, 0, n_past - n_batch + ib*bd, n_past + ib*bd, n_grp);
 
             n_past = llama_kv_self_seq_pos_max(ctx, 0) + 1;
         }
@@ -169,8 +168,6 @@ int main(int argc, char ** argv) {
 
         llama_kv_self_seq_rm (ctx, 0, n_keep            , n_keep + n_discard);
         llama_kv_self_seq_add(ctx, 0, n_keep + n_discard, n_ctx,  -n_discard);
-      //llama_kv_self_defrag (ctx);
-        llama_kv_self_update (ctx);
 
         n_past = llama_kv_self_seq_pos_max(ctx, 0) + 1;
 
@@ -200,8 +197,6 @@ int main(int argc, char ** argv) {
 
             llama_kv_self_seq_rm (ctx, 0, n_keep            , n_keep + n_discard);
             llama_kv_self_seq_add(ctx, 0, n_keep + n_discard, n_ctx,  -n_discard);
-          //llama_kv_self_defrag (ctx);
-            llama_kv_self_update (ctx);
 
             n_past = llama_kv_self_seq_pos_max(ctx, 0) + 1;
         }
 
@@ -652,7 +652,6 @@ extern "C" {
     // Adds relative position "delta" to all tokens that belong to the specified sequence and have positions in [p0, p1)
     // If the KV cache is RoPEd, the KV data is updated accordingly:
     //   - lazily on next llama_decode()
-    //   - explicitly with llama_kv_self_update()
     // p0 < 0 : [0,  p1]
     // p1 < 0 : [p0, inf)
     LLAMA_API void llama_kv_self_seq_add(
@@ -665,7 +664,6 @@ extern "C" {
     // Integer division of the positions by factor of `d > 1`
     // If the KV cache is RoPEd, the KV data is updated accordingly:
     //   - lazily on next llama_decode()
-    //   - explicitly with llama_kv_self_update()
     // p0 < 0 : [0,  p1]
     // p1 < 0 : [p0, inf)
     LLAMA_API void llama_kv_self_seq_div(
@@ -693,16 +691,15 @@ extern "C" {
     // Defragment the KV cache
     // This will be applied:
     //   - lazily on next llama_decode()
-    //   - explicitly with llama_kv_self_update()
-    // TODO: deprecate and always update the cache lazily [TAG: API_KV_NO_DEFRAG]
-    LLAMA_API void llama_kv_self_defrag(struct llama_context * ctx);
+    LLAMA_API DEPRECATED(void llama_kv_self_defrag(struct llama_context * ctx),
+            "simply remove this call, the context will automatically decide when to do a defragmentation based on 'defrag_thold'");
 
     // Check if the context supports KV cache shifting
     LLAMA_API bool llama_kv_self_can_shift(const struct llama_context * ctx);
 
     // Apply the KV cache updates (such as K-shifts, defragmentation, etc.)
-    // TODO: deprecate and always update the cache lazily [TAG: API_KV_NO_DEFRAG]
-    LLAMA_API void llama_kv_self_update(struct llama_context * ctx);
+    LLAMA_API DEPRECATED(void llama_kv_self_update(struct llama_context * ctx),
+            "simply remove this call, updates are applied lazily on the next llama_decode()");
 
     //
     // State / sessions
 
@@ -2283,6 +2283,7 @@ llama_kv_cache * llama_get_kv_self(llama_context * ctx) {
     return ctx->get_kv_self();
 }
 
+// deprecated
 void llama_kv_self_update(llama_context * ctx) {
     ctx->kv_self_update();
 }
@@ -2537,6 +2538,7 @@ llama_pos llama_kv_self_seq_pos_max(llama_context * ctx, llama_seq_id seq_id) {
     return kv->seq_pos_max(seq_id);
 }
 
+// deprecated
 void llama_kv_self_defrag(llama_context * ctx) {
     auto * kv = ctx->get_kv_self();
     if (!kv) {
Original file line number	Diff line number	Diff line change
`@@ -2283,6 +2283,7 @@ llama_kv_cache * llama_get_kv_self(llama_context * ctx) {`
`2283`	`2283`	`return ctx->get_kv_self();`
`2284`	`2284`	`}`
`2285`	`2285`
	`2286`	`+// deprecated`
`2286`	`2287`	`void llama_kv_self_update(llama_context * ctx) {`
`2287`	`2288`	`ctx->kv_self_update();`
`2288`	`2289`	`}`
`@@ -2537,6 +2538,7 @@ llama_pos llama_kv_self_seq_pos_max(llama_context * ctx, llama_seq_id seq_id) {`
`2537`	`2538`	`return kv->seq_pos_max(seq_id);`
`2538`	`2539`	`}`
`2539`	`2540`
	`2541`	`+// deprecated`
`2540`	`2542`	`void llama_kv_self_defrag(llama_context * ctx) {`
`2541`	`2543`	`auto * kv = ctx->get_kv_self();`
`2542`	`2544`	`if (!kv) {`