my-ellama-init.el

(use-package ellama
  :ensure t
  :init
  ;; setup key bindings
  (setopt ellama-keymap-prefix "C-c e")
  :config
  (require 'llm-ollama)
  (setopt ellama-provider
  	  (make-llm-ollama
           :chat-model "willh/taide-lx-7b-chat-4bit"
           ;;; :chat-model "weitsung50110/llama-3-taiwan:8b-instruct-dpo-q4_K_M"
  	   ;;; :chat-model "mistral:7b"
  	   :embedding-model "nomic-embed-text"))
  (setopt ellama-translation-provider
	  (make-llm-ollama
           :chat-model "gemma2:9b"
	   :embedding-model "nomic-embed-text"))
  (setopt ellama-translation-template
          "<INSTRUCTIONS>
你替我做翻譯。你要將原文翻譯成 %s 。不必額外解釋。翻譯就好。翻譯時把握三項原則：
1. 核心訊息正確無誤
2. 文句與原文一樣通順
3. 語氣與原文一致
</INSTRUCTIONS>
<INPUT>
%s
</INPUT>")

  (setopt ellama-naming-scheme 'ellama-generate-name-by-llm)\
  (setopt ellama-summarization-provider
  	  (make-llm-ollama
           ;;; :chat-model "jslin/gemma2-it-tw:2b"
           :chat-model "gemma2:9b"
  	   :embedding-model "nomic-embed-text"))
  (setopt ellama-summarize-prompt-template
          "<INSTRUCTIONS>
你要替我將文章做摘要。你所做的摘要 **一律使用使用繁體中文來寫** ，這十分重要。
爲了讓我能快速抓住重點，摘要時必須掌握以下規則，逐一執行：

第一段開頭爲「結論：」，後爲全文結論。
第二段開頭爲「關鍵：」，後爲列出能精簡描述文章的關鍵字詞大約三個。

然後逐一依照關鍵字詞，條列提出字詞與文章中與該關鍵字詞相關的部分。以如下格式寫出：
- (關鍵字詞1): 相關部分1
- (關鍵字詞2)：相關部分2
- (關鍵字詞3)：相關部分3
</INSTRUCTIONS>
<INPUT>
%s
</INPUT>"))