モデル設計規則
モデルプロバイダーのルールは、Provider エンティティに基づいています。
モデルルールは、AIModelEntity エンティティに基づいています。
以下のすべてのエンティティは
Pydantic BaseModelをベースにしており、entitiesモジュール内で対応するエンティティを見つけることができます。
Provider(プロバイダ)
provider(string) プロバイダー識別子。例:openailabel(object) プロバイダーの表示名。多言語対応で、英語(en_US)と中国語(zh_Hans)の2言語を設定できます。zh_Hans(string) [optional] 中国語のラベル名。zh_Hansが設定されていない場合は、デフォルトでen_USが使用されます。en_US(string) 英語のラベル名
description(object) [optional] プロバイダーの説明。多言語対応。zh_Hans(string) [optional] 中国語の説明en_US(string) 英語の説明
icon_small(string) [optional] プロバイダーの小さなアイコン。対応するプロバイダーの実装ディレクトリ下の_assetsディレクトリに保存されます。英語と中国語の扱い方はlabelと同様です。zh_Hans(string) [optional] 中国語のアイコンen_US(string) 英語のアイコン
icon_large(string) [optional] プロバイダーの大きなアイコン。対応するプロバイダーの実装ディレクトリ下の_assetsディレクトリに保存されます。英語と中国語の扱い方はlabelと同様です。zh_Hans(string) [optional] 中国語のアイコンen_US(string) 英語のアイコン
background(string) [optional] 背景色のカラーコード。例:#FFFFFF。値が設定されていない場合は、フロントエンドのデフォルト色が使用されます。help(object) [optional] ヘルプ情報title(object) ヘルプタイトル。多言語対応。zh_Hans(string) [optional] 中国語のタイトルen_US(string) 英語のタイトル
url(object) ヘルプリンク。多言語対応。zh_Hans(string) [optional] 中国語のリンクen_US(string) 英語のリンク
supported_model_types(array[ModelType]) サポートされているモデルタイプconfigurate_methods(array[ConfigurateMethod]) 設定方法provider_credential_schema([ProviderCredentialSchema]) プロバイダーの認証情報スキーマ(プロバイダーの資格情報仕様)model_credential_schema([ModelCredentialSchema]) モデルの認証情報スキーマ(モデルの資格情報仕様)
AIModelEntity(AIモデルエンティティ)
model(string) モデル識別子。例:gpt-3.5-turbolabel(object) [optional] モデルの表示名。多言語対応で、英語(en_US)と中国語(zh_Hans)の2言語を設定できます。zh_Hans(string) [optional] 中国語のラベル名en_US(string) 英語のラベル名
model_type([ModelType](#ModelType)) モデルタイプfeatures(array[[ModelFeature](#ModelFeature)]) [optional] サポートされている機能リストmodel_properties(object) モデルのプロパティmode([LLMMode](#LLMMode)) モード(モデルタイプllmで利用可能)context_size(int) コンテキストサイズ(モデルタイプllm、text-embeddingで利用可能)max_chunks(int) 最大チャンク数(モデルタイプtext-embedding、moderationで利用可能)file_upload_limit(int) ファイルの最大アップロード制限(単位:MB)。(モデルタイプspeech2textで利用可能)supported_file_extensions(string) サポートされているファイル拡張子形式。例:mp3、mp4(モデルタイプspeech2textの場合)default_voice(string) デフォルトのボイス。必須:alloy,echo,fable,onyx,nova,shimmer(モデルタイプttsで利用可能)voices(list) 選択可能なボイスリスト。mode(string) ボイスモデル。(モデルタイプttsで利用可能)name(string) ボイスモデルの表示名。(モデルタイプttsで利用可能)language(string) ボイスモデルがサポートする言語。(モデルタイプttsで利用可能)
word_limit(int) 1回の変換における文字数制限。デフォルトでは段落ごとに区切られます。(モデルタイプttsで利用可能)audio_type(string) サポートされているオーディオファイルの拡張子形式。例:mp3、wav(モデルタイプttsで利用可能)max_workers(int) テキストからオーディオへの変換をサポートする同時実行タスク数。(モデルタイプttsで利用可能)max_characters_per_chunk(int) 1チャンクあたりの最大文字数(モデルタイプmoderationで利用可能)
parameter_rules(array[ParameterRule]) [optional] モデル呼び出しパラメータのルールpricing([PriceConfig]) [optional] 価格情報deprecated(bool) 非推奨かどうか。非推奨の場合、モデルリストには表示されなくなりますが、すでに設定済みのものは引き続き使用できます。デフォルトはFalseです。
ModelType(モデルタイプ)
llmテキスト生成モデルtext-embeddingテキスト埋め込みモデルrerankRerank モデルspeech2text音声テキスト変換ttsテキスト音声変換moderation審査
ConfigurateMethod(構成方法)
predefined-model既定モデル
ユーザーは、統一されたプロバイダーの認証情報を設定するだけで、プロバイダーの既定モデルを利用できます。
customizable-modelカスタムモデル
ユーザーは、各モデルの認証情報設定を個別に追加する必要があります。
fetch-from-remoteリモートから取得
predefined-model の設定方法と同様に、統一されたプロバイダーの認証情報を設定するだけで済みます。モデルは認証情報を通じてプロバイダーから取得されます。
ModelFeature(モデル機能)
agent-thoughtエージェントの推論。通常、70B を超えるモデルには思考連鎖能力があります。visionビジョン、つまり画像理解。tool-callツール呼び出しmulti-tool-call複数ツール呼び出しstream-tool-callストリームツール呼び出し
FetchFrom(入手先)
predefined-model既定モデルfetch-from-remoteリモートモデル
LLMMode(LLMモード)
completionテキスト補完chat対話
ParameterRule(パラメータールール)
name(string) モデルを呼び出す際の実際のパラメータ名use_template(string) [optional] テンプレートを使用
デフォルトでは、5つの変数設定テンプレートが用意されています。
temperaturetop_pfrequency_penaltypresence_penaltymax_tokens
use_template でテンプレート変数名を直接設定すると、entities.defaults.PARAMETER_RULE_TEMPLATE のデフォルト設定が使用され、name と use_template 以外のすべてのパラメータを設定する必要はありません。追加の設定パラメータを設定した場合、デフォルト設定が上書きされます。openai/llm/gpt-3.5-turbo.yaml を参照してください。
label(object) [optional] ラベル。多言語対応。zh_Hans(string) [optional] 中国語のラベル名en_US(string) 英語のラベル名
type(string) [optional] パラメータのタイプint整数float浮動小数点数string文字列booleanブール型
help(string) [optional] ヘルプ情報zh_Hans(string) [optional] 中国語のヘルプ情報en_US(string) 英語のヘルプ情報
required(bool) 必須かどうか。デフォルトはFalseです。default(int/float/string/bool) [optional] デフォルト値min(int/float) [optional] 最小値。数値型のみ適用。max(int/float) [optional] 最大値。数値型のみ適用。precision(int) [optional] 精度。小数点以下の桁数。数値型のみ適用。options(array[string]) [optional] ドロップダウンの選択肢。typeがstringの場合にのみ適用。設定しない、または null の場合は選択肢を制限しません。
PriceConfig(価格設定)
input(float) 入力単価。つまり、Prompt の単価。output(float) 出力単価。つまり、返される内容の単価。unit(float) 価格単位。例:1M トークン単位で価格設定する場合、単価に対応するトークン数は0.000001になります。currency(string) 通貨単位
ProviderCredentialSchema(プロバイダー資格情報スキーマ)
credential_form_schemas(array[CredentialFormSchema]) 資格情報フォームの仕様
ModelCredentialSchema(モデル認証情報スキーマ)
model(object) モデル識別子。変数名はデフォルトでmodelです。label(object) モデルフォーム項目の表示名en_US(string) 英語zh_Hans(string) [optional] 中国語
placeholder(object) モデルのプレースホルダーen_US(string) 英語zh_Hans(string) [optional] 中国語
credential_form_schemas(array[CredentialFormSchema]) 資格情報フォームの仕様
CredentialFormSchema(資格情報フォームスキーマ)
variable(string) フォーム項目の変数名label(object) フォーム項目のラベル名en_US(string) 英語zh_Hans(string) [optional] 中国語
type([FormType](#FormType)) フォーム項目のタイプrequired(bool) 必須かどうかdefault(string) デフォルト値options(array[FormOption]) フォーム項目がselectまたはradioの場合の専用属性。ドロップダウンの内容を定義します。placeholder(object) フォーム項目がtext-inputの場合の専用属性。フォーム項目のプレースホルダー。en_US(string) 英語zh_Hans(string) [optional] 中国語
max_length(int) フォーム項目がtext-inputの場合の専用属性。入力の最大長を定義します。0 は制限なし。show_on(array[FormShowOnObject]) 他のフォーム項目の値が条件を満たす場合に表示します。空の場合は常に表示します。
FormType(フォームタイプ)
text-inputテキスト入力コンポーネントsecret-inputパスワード入力コンポーネントselect単一選択ドロップダウンradioラジオコンポーネントswitchスイッチコンポーネント。trueとfalseのみをサポート。
FormOption(フォームオプション)
label(object) ラベルen_US(string) 英語zh_Hans(string) [optional] 中国語
value(string) ドロップダウンの選択肢の値show_on(array[FormShowOnObject]) 他のフォーム項目の値が条件を満たす場合に表示します。空の場合は常に表示します。
FormShowOnObject(フォーム表示オブジェクト)
variable(string) 他のフォーム項目の変数名value(string) 他のフォーム項目の値
Last updated