adamlin120

resources:
  accelerators: {H200:8, H100:8}
  image_id: docker:slimerl/slime:latest
  infra: k8s

file_mounts:
  /ckpt:
    source: s3://eigen-train-skypilot
    mode: MOUNT

adamlin120

# Multi-node distributed training with Verl (Volcano Engine Reinforcement Learning) framework.
#
# Verl is a flexible and efficient reinforcement learning framework designed for
# training large language models with RLHF (Reinforcement Learning from Human Feedback).
# This example demonstrates multi-node training using PPO on the GSM8K dataset.
#
# Prerequisites:
#   - GPU nodes with at least 40GB memory (e.g., A100)
#   - Access to Hugging Face models (Qwen/Qwen2.5-0.5B-Instruct in this example)
#

adamlin120

2025-08-01 00:10:19,738	INFO job_manager.py:531 -- Runtime env is setting up.
 > padded vocab (size: 151936) with 128 dummy tokens (new size: 152064)
--tokenizer-model not set, use --hf-checkpoint as tokenizer model.
rollout_num_gpus None != actor_num_gpus_per_node 8 * actor_num_nodes 2, overriding rollout_num_gpus to match actor_num_gpus_per_node * actor_num_nodes.
using world size: 16, data-parallel size: 8, context-parallel size: 1, hierarchical context-parallel sizes: None, tensor-model-parallel size: 2, pipeline-model-parallel size: 1
Number of virtual stages per pipeline stage: None
using torch.bfloat16 for parameters ...
------------------------ arguments ------------------------
  account_for_embedding_in_pipeline_split ......... False
  account_for_loss_in_pipeline_split .............. False

adamlin120

compute_environment: LOCAL_MACHINE
debug: false
distributed_type: MULTI_GPU
downcast_bf16: 'no'
gpu_ids: all
machine_rank: 0
main_training_function: main
mixed_precision: bf16
num_machines: 1
num_processes: 8

adamlin120

base_model: yentinglin/Llama-3-Taiwan-8B-Instruct

load_in_8bit: false
load_in_4bit: false
strict: false

hub_model_id: yentinglin/Llama-3-Taiwan-8B-Instruct-DPO
hub_strategy: end
wandb_name: 8b dpo

adamlin120

那我們進入市場的話題啊。近期在市場上又發生了一些第一次，我必須得說，從我們節目開錄以來，真的是活見鬼，看到很多很厲害的事情，呃，先是熔斷嘛，然後巴菲特可能一輩子看一個壟斷，然後我們看了嘛，六七個巴菲特在80幾歲的時候密集地看到壟斷好，本來80幾歲以前只看過一次，然後現在密集地看到一大堆壟斷往下往上都有，那之後呢又發生了WTI期貨掉入負值這件事情，雖然大家知道商品期貨理論上可以進入負值，可是當你真正看到的時候，還是。充滿了震撼，然後那一步也死了，蠻多人的，那到比較近期的話呢，就是那天然氣的2月起獲在他結算之前呢，往上噴了大概六70趴，那一次並不是因為天然氣真正的大幅上漲，還怎麼樣算天然氣是一個上升趨勢，一直在爬哦，這個有很多綜合因素，歐洲這邊特別冷啊，可能要打戰啊什麼的，但是呢那時候的上漲比較像是一個我覺得是有計劃的嘎空啦，跟那個跌到負值，一樣應該是有大莊家在在玩哦。發現說，你們這些人在惡搞罵，直接一波帶走，那我們就觀察到2月的天然氣的期貨大暴漲，科那時候三四月就是元月的呢，是沒有看到這樣的一個狀況，也就是說那是一個呃，可能你今天空單不太多，然後被人家一波收掉的一個狀況，那再到近期呢，就是我們看到呃，Facebook大跌20幾趴，那它噴掉了2000多億的市值非常扯好，這真的非常扯，這也是創了一個歷史記錄，你從來沒有想過嗎？大圈枝可以一天噴掉。這麼多，那再來呢，就是在當天的盤後，看到亞馬遜亞馬遜在盤中是跟著Facebook，因為Facebook大跌，所以整個納斯達克甚至紐交所很多都跟著下去，但是呢，在盤後亞馬遜財報出來之後呢？那他就大幅地往上噴了十六20788忘記，反正他這個往上噴的幅度呢，也是創了權值股的一個記錄，所以我們在近期又密集地看到新的紀錄而產生，那我覺得近期真的是老樣子啊，就是你不要花太多時間去解釋。那種短線的漲跌幅像啊，前幾天就有一個臺灣的記者，好像沒有屬名啦，也不敢庶民啦，因為它藥效那個rehastim嘛，就是說哎呀，那fill的老闆抄底失敗啊，什麼你花了5.6億，然後賠600萬，我想說* ，你有沒有看你在寫什麼5.6億，然後你賬上暫時賠600萬，這個是一趴的震盪欸一趴震蕩你都在那邊哭的話你不要玩股票好了吼，那再來就是馬上就買進Netflix激勵之下就往上噴一發，你不覺得尷尬嗎？那時候你要寫然後。吐槽他，然後他反彈啊，你家要怎麼自圓其說，所以其實會漲跌找理由，很多時候就發生這樣的狀況，然後再來就亞馬遜

adamlin120

{
  "config_general": {
    "lighteval_sha": "?",
    "num_fewshot_seeds": 1,
    "override_batch_size": 1,
    "max_samples": null,
    "job_id": "",
    "start_time": 797173.72261996,
    "end_time": 867125.5408054,
    "total_evaluation_time_secondes": "69951.81818544003",

adamlin120

base_model: mistralai/Mistral-7B-v0.1

load_in_8bit: false
load_in_4bit: false
strict: false

datasets:
  - path: erhwenkuo/wikipedia-zhtw
    type: completion

adamlin120

base_model: NousResearch/Llama-2-7b-hf
model_type: LlamaForCausalLM
tokenizer_type: LlamaTokenizer

load_in_8bit: false
load_in_4bit: false
strict: false

dataset:
  - path: yentinglin/books

adamlin120

base_model: mistralai/Mistral-7B-v0.1
model_type: MistralForCausalLM
tokenizer_type: LlamaTokenizer
is_mistral_derived_model: true

load_in_8bit: false
load_in_4bit: true
strict: false

datasets: