mutaguchi

# based on StableLM chat
# https://huggingface.co/spaces/stabilityai/stablelm-tuned-alpha-chat

import gradio as gr
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline, StoppingCriteria, StoppingCriteriaList, TextIteratorStreamer
import time
import numpy as np
from torch.nn import functional as F
import os

mutaguchi

japanese-gpt-neox-3.6b-instruction-sftを使ったチャットサンプル

https://huggingface.co/rinna/japanese-gpt-neox-3.6b-instruction-sft

python rinna_chat.py で実行できます。

rinna_chat.py -p test.json のように会話設定JSONを指定することもできます。

mutaguchi

$env:OPENAI_API_KEY = "your api key"
Import-Module PowerGenerativeToolkit
$answers = echo 夜に駆ける ハルジオン あの夢を追って ツバメ たぶん 怪物 ミスタ 群青色 三原色 ラブレタ 優しい彗星 セブンティーン ハルカ もう少しだけ アイドル 海の真ん中に ハルジオン アドベンチャー 大正浪漫 好き 夜に走る ハルジオン あの夢を踏んで ツバメ 多分 怪物さん ミスター 群青 3原色 ラブレター 優しいすい星 セブンティーン 春風 もう少しの間  アイドル  海のまにまに ハルジオン 冒険 大正ロマン 好きだ

$titles = echo 夜に駆ける あの夢をなぞって ハルジオン たぶん 群青 ハルカ 怪物 優しい彗星 もう少しだけ 三原色 ラブレター 大正浪漫 ツバメ ミスター 好きだ 海のまにまに アドベンチャー セブンティーン アイドル

$list = $answers | foreach {
    if ($_ -in $titles) { [pscustomobject]@{"raw" = $_; "title" = $_; "isCorrect" = $true } }
    else { [pscustomobject]@{"raw" = $_; "title" = ""; "isCorrect" = $false } }
}

mutaguchi

<#
Get-ClipboardHistory: Get the texts contained in the clipboard history.
Clear-ClipboardHistory: Clearing the clipboard history

In PowerShell 7.1 or later, use the following command to install Microsoft.Windows.SDK.NET.Ref with administrative privileges.
Find-Package -ProviderName NuGet -Source https://www.nuget.org/api/v2 -Name Microsoft.Windows.SDK.NET.Ref | Install-Package
#>

$needsSDK = $PSVersionTable.PSVersion -ge "7.1.0"