Token Bank 先准备一批已经测试过的开源模型,并把它们部署成可以直接调用的 API。用户从列表里选择模型,不需要再等一次部署。
用户不需要自己准备服务器或搭建模型服务。请求变多时,Token Bank 增加运行资源;请求变少时,再减少资源。模型是否可用、正在使用哪个版本、花了多少钱,都可以在 Token Bank 里看到。
这项功能可以分成两部分。
先日の打ち合わせを踏まえ、まずは②の「既存OSSモデルを活用・チューニングする形」でMVPを作りたいと考えています。
開発は私(Min)が担当し、Titan Intelligenceにはレビューと技術相談をお願いする想定です。実装そのものをお願いするというより、データの作り方や実験方法に問題がないか、モデル選定が妥当か、見落としているリスクがないかを第三者の視点で見てもらいたいです。
8月末〜9月上旬の資金調達までに、まず2〜3店舗で試せるところまで持っていきます。そこで実際の査定業務に使える手応えが得られれば、①の専用モデル開発へ進むかを改めて相談したいです。
| # Project Review | |
| ## High-Level Summary | |
| The current React frontend behaves like a traditional stock dashboard rather | |
| than the decentralized exchange described in the proof-of-concept (PoC). | |
| It shows marketing and market-data pages (for example, | |
| `src/containers/MainPage/main_page.js`, `src/components/MarketWatch/MarketWatch.js`, | |
| and `src/components/Indices/Indices.js`) and relies on REST APIs from | |
| `http://localhost:5000`. |
| async function getAIResponse(userSpeech: string): Promise<string> { | |
| const response = await fetch( | |
| `${openAIEndpoint}/openai/deployments/Woodstock-AI/completions?api-version=2024-06-01`, | |
| { | |
| method: "POST", | |
| headers: { | |
| "Content-Type": "application/json", | |
| Authorization: `Bearer ${openAIAPIKey}`, | |
| }, | |
| body: JSON.stringify({ |
| from flask import Flask, request, jsonify, render_template | |
| from flask_cors import CORS | |
| from dotenv import load_dotenv | |
| import os | |
| import azure.cognitiveservices.speech as speechsdk | |
| import wave | |
| # Load environment variables from .env file | |
| load_dotenv() |