llama-cpp-python

Python bindings for the llama.cpp library

Installation

In a virtualenv (see these instructions if you need to create one):

pip3 install llama-cpp-python

Dependencies

Releases

Version Released Bullseye
Python 3.9
Bookworm
Python 3.11
Trixie
Python 3.13
Files
0.3.16 2025-08-15      
0.3.15 2025-08-07      
0.3.14 2025-07-18      
0.3.13 2025-07-15      
0.3.12 2025-07-06      
0.3.11 2025-07-05      
0.3.10 2025-07-03      
0.3.9 2025-05-08      
0.3.8 2025-03-12      
0.3.7 2025-01-29      
0.3.6 2025-01-08      
0.3.5 2024-12-10      
0.3.4 2024-12-09      
0.3.3 2024-12-09      
0.3.2 2024-11-16      
0.3.1 2024-09-29      
0.3.0 2024-09-25      
0.2.90 2024-08-29      
0.2.89 2024-08-21      
0.2.88 2024-08-13      
0.2.87 2024-08-07      
0.2.86 2024-08-07      
0.2.85 2024-07-31      
0.2.84 2024-07-28      
0.2.83 2024-07-22      
0.2.82 2024-07-09      
0.2.81 2024-07-02      
0.2.80 2024-07-02      
0.2.79 2024-06-19      
0.2.78 2024-06-10      
0.2.77 2024-06-04      
0.2.76 2024-05-24      
0.2.75 2024-05-16      
0.2.74 2024-05-12      
0.2.73 2024-05-10      
0.2.72 2024-05-10      
0.2.71 2024-05-09      
0.2.70 2024-05-08      
0.2.69 2024-05-02      
0.2.68 2024-04-30      
0.2.67 2024-04-30      
0.2.66 2024-04-30      
0.2.65 2024-04-26      
0.2.64 2024-04-23      
0.2.63 2024-04-20      
0.2.62 2024-04-18      
0.2.61 2024-04-10      
0.2.60 2024-04-06      
0.2.59 2024-04-03      
0.2.58 2024-04-01      
0.2.57 2024-03-18      
0.2.56 2024-03-09      
0.2.55 2024-03-03      
0.2.54 2024-03-01      
0.2.53 2024-02-28      
0.2.52 2024-02-26      
0.2.51 2024-02-26      
0.2.50 2024-02-23      
0.2.49 2024-02-23      
0.2.48 2024-02-23      
0.2.47 2024-02-22      
0.2.46 2024-02-21      
0.2.45 2024-02-21      
0.2.44 2024-02-16      
0.2.43 2024-02-14      
0.2.42 2024-02-13      
0.2.41 2024-02-13      
0.2.40 2024-02-12      
0.2.39 2024-02-06      
0.2.38 2024-01-31      
0.2.37 2024-01-30      
0.2.36 2024-01-29      
0.2.35 2024-01-29      
0.2.34 2024-01-27      
0.2.33 2024-01-25      
0.2.32 2024-01-22      
0.2.31 2024-01-19      
0.2.30 2024-01-19      
0.2.29 2024-01-15      
0.2.28 2024-01-10      
0.2.27 2024-01-04      
0.2.26 2023-12-27      
0.2.25 2023-12-22      
0.2.24 2023-12-18      
0.2.23 2023-12-14      
0.2.22 2023-12-11      
0.2.20 2023-11-28      
0.2.19 2023-11-21      
0.2.18 2023-11-14      
0.2.17 2023-11-10      
0.2.16 2023-11-10      
0.2.15 2023-11-08      
0.2.14 2023-11-06      
0.2.13 2023-11-02      
0.2.12 2023-11-01      
0.2.11 2023-09-30      
0.2.10 2023-09-30      
0.2.9 2023-09-30      
0.2.8 yanked 2023-09-30      
0.2.7 2023-09-25      
0.2.6 2023-09-15      
0.2.5 2023-09-14      
0.2.4 2023-09-14      
0.2.3 2023-09-13      
0.2.2 2023-09-13      
0.2.1 2023-09-13      
0.2.0 2023-09-12      
0.1.85 2023-09-12      
0.1.84 2023-09-09      
0.1.83 2023-08-29      
0.1.82 2023-08-28      
0.1.81 2023-08-27      
0.1.80 2023-08-27      
0.1.79 2023-08-25      
0.1.78 2023-08-18      
0.1.77 2023-07-24      
0.1.76 2023-07-24      
0.1.74 2023-07-20      
0.1.73 2023-07-18      
0.1.72 2023-07-15      
0.1.71 2023-07-14      
0.1.70 2023-07-09      
0.1.69 2023-07-09      
0.1.68 2023-07-05      
0.1.67 2023-06-29      
0.1.66 2023-06-26      
0.1.65 2023-06-20      
0.1.64 2023-06-18      
0.1.63 2023-06-15      
0.1.62 2023-06-10      
0.1.61 2023-06-10      
0.1.59 2023-06-08      
0.1.57 2023-06-01      
0.1.56 2023-05-30      
0.1.55 2023-05-26      
0.1.54 2023-05-23      
0.1.53 2023-05-21      
0.1.52 2023-05-20      
0.1.51 2023-05-19      
0.1.50 2023-05-14      
0.1.49 2023-05-12      
0.1.48 2023-05-08      
0.1.47 2023-05-08      
0.1.46 2023-05-08      
0.1.45 2023-05-08      
0.1.44 2023-05-07      
0.1.43 2023-05-05      
0.1.42 2023-05-04      
0.1.41 2023-05-02      
0.1.40 2023-05-01      
0.1.39 2023-04-28      
0.1.38 2023-04-25      
0.1.37 2023-04-25      
0.1.36 2023-04-22      
0.1.35 2023-04-20      
0.1.34 2023-04-16      
0.1.33 2023-04-13      
0.1.32 2023-04-10      
0.1.31 2023-04-10      
0.1.30 2023-04-10      
0.1.29 2023-04-10      
0.1.28 2023-04-10      
0.1.27 2023-04-08      
0.1.26 2023-04-08      
0.1.25 2023-04-07      
0.1.24 2023-04-07      
0.1.23 2023-04-05      
0.1.22 2023-04-05      
0.1.21 2023-04-05      
0.1.20 2023-04-04      
0.1.19 2023-04-04      
0.1.18 2023-04-03      
0.1.17 2023-04-03      
0.1.16 2023-04-02      
0.1.15 2023-04-02      
0.1.14 2023-04-02      
0.1.13 2023-04-01      
0.1.12 2023-04-01      
0.1.11 2023-04-01      
0.1.10 2023-03-29      
0.1.9 2023-03-28      
0.1.8 2023-03-28      
0.1.7 2023-03-26      
0.1.6 2023-03-25      
0.1.5 2023-03-25      
0.1.4 2023-03-24      
0.1.3 2023-03-24      
0.1.2 2023-03-24      
0.1.1 2023-03-23      

Issues with this package?

Page last updated 2025-09-13 20:59:32 UTC