Enfin réussi à utiliser des LLM offline avec LMStudio.

Ma première utilisation de ChatGPT pour un travail littéraire date du 2024.04.13, j’utilisais donc GPT4Turbo avant le lancement officiel de GPT4o le 2024.05.13. Ma première utilisation de Claude (Sonnet 3) date de 2025.07.23.

Aujourd’hui, moins de deux ans après avoir commencé à utiliser des modèles online, je peux en utiliser en local avec des performances proches en terme de rédaction (évidemment moins sur le raisonnement et le code), avec l’énorme avantage de l’indépendance et de la confidentialité.

Je suis un peu déçu par Qwen3.5-9B-Uncensored-HauhauCS-Aggressive-Q6_K : il est bon pour des travaux d’analyses des textes que je lui soumets, mais n’est pas doué pour l’écriture créative, et il a une fâcheuse tendance à tomber en boucle, lorsque je remplis sa fenêtre contextuelles à plus de 30%. Il semble aussi ne pas comprendre les points de vue (POV, lui vs moi, quand je lui demande d’écrire une scène en POV d’un personnage il n’a pas l’air de le comprendre), et j’envisage donc de le finetuner avec des données personnelles.

Utilisation de l’IA pour cette entrée : O%