Skip to main content

​
Replicate

ShanoneのReplicate連携は、Replicate上でホストされたAIモデルを実行・管理するための31個のツールをエージェントに提供します。推論、ファインチューニング/トレーニング、デプロイメント、モデルカタログの閲覧に対応しています。

​
はじめに

1

Replicate APIトークンを作成する

Replicateアカウント設定からトークンを発行します。
2

Shanoneにトークンを追加する

Shanoneダッシュボードの連携でReplicateを選択し、トークン(r8_...)を貼り付けます。
3

リクエストを再実行する

保存が完了すると、replicate_*ツールに対するshanone_execute_tool呼び出しが成功するようになります。

​
利用可能なツール

ShanoneはReplicate向けに31個のツールを、以下のカテゴリに整理して提供しています。
replicate_create_model, replicate_get_model, replicate_list_models, replicate_update_model, replicate_delete_model, replicate_search, replicate_list_model_examples, replicate_run_model, replicate_get_model_readme
replicate_create_prediction, replicate_get_prediction, replicate_list_predictions, replicate_cancel_prediction
replicate_create_training, replicate_get_training, replicate_list_trainings, replicate_cancel_training
replicate_create_deployment, replicate_get_deployment, replicate_list_deployments, replicate_update_deployment, replicate_delete_deployment, replicate_run_deployment
replicate_get_model_version, replicate_list_model_versions, replicate_delete_model_version, replicate_get_collection, replicate_list_collections
replicate_get_account, replicate_list_hardware, replicate_get_webhook_signing_secret

​
よくあるユースケース

モデルの発見

タスクに合ったモデルをReplicateのカタログから検索し、READMEで入力パラメータを確認する

オンデマンド推論

モデルの推論を直接実行するか、本番環境で安定した動作をするピン留めされたデプロイメントに対して実行する

ファインチューニング

カスタムデータセットでベースモデルに対するトレーニングジョブを開始し、進捗を監視する

Webhook駆動パイプライン

推論結果を処理する前に、署名シークレットで受信したReplicateのWebhookを検証する

​
トラブルシューティング

推論は非同期に実行されます。最初のレスポンスに出力を期待するのではなく、返されたIDでreplicate_get_predictionをポーリングし、statusがsucceededまたはfailedになるまで待ってください。
各モデルは独自の入力スキーマを定義しています。replicate_run_modelを呼ぶ前にreplicate_get_model_readmeやモデルのバージョン詳細で期待されるパラメータを確認してください。
トレーニングの実行時間はデータセットのサイズやベースモデルに大きく依存します。固定の実行時間を想定するのではなくreplicate_get_trainingで状態を確認し、必要であればreplicate_cancel_trainingで停止してください。