LMQL est un langage de requête conçu spécifiquement pour les grands modèles de langage (LLMs). Il associe les invites de langage naturel à l'expressivité de Python pour faciliter l'interaction avec les LLMs. Cet outil offre diverses fonctionnalités telles que des contraintes, du débogage, de la récupération, du contrôle de flux, et prend en charge les 🤗 Transformers, ce qui rend plus facile d'obtenir des réponses des LLMs. LMQL propose une large gamme d'invites pré-construites pour des tâches telles que raconter une blague, générer une liste de courses, rechercher sur Wikipédia et discuter avec un bot. En plus de fournir des contraintes de haut niveau, LMQL permet également aux utilisateurs de contrôler le processus de génération de manière programmable en prenant en charge des instructions classiques de contrôle Python. Cet outil génère automatiquement les jetons requis et valide la séquence produite dès que la condition de validation fournie est définitivement violée. LMQL prend également en charge du code Python arbitraire dans la clause de l'invite, permettant des invites dynamiques et un traitement de texte. La fonction de recherche par faisceau scriptée décode en même temps le nom de l'expert et sa réponse, explorant plusieurs réponses possibles. LMQL prend en charge l'assertion de Python pour vérifier la justesse de la sortie générée, ce qui peut être utile pour évaluer des ensembles de données. Globalement, LMQL est un outil puissant qui simplifie l'interaction avec les LLMs et permet aux développeurs Python de travailler de manière plus efficace avec des invites de langage naturel.