Regarding the amount of stamina consumed when conversing with AI characters
There are a few issues regarding the amount of stamina consumed when conversing with characters.
First, the basis for the consumption rate is unclear. For example, Seaartpro is listed as 0.6, but it’s unclear what that 0.6 is based on. Considering the amount of text, it’s obvious that it’s not based on consumption per character, but if that’s the case, what exactly is the basis for that 0.6? This becomes even more unclear due to the factors discussed below.
Another issue is that as the conversation progresses, the stamina cost increases by nearly three times. Even with the same amount of text, the consumption skyrockets. In other words, stamina consumption is unrelated to the amount of text. Since the reason for this has not been explained either, it only leaves us feeling frustrated.
We are paying a significant amount of money. Even if you have no intention of changing the specifications, please at least clarify the criteria and the reasoning behind them.
Log in to comment and vote
Comments3
JJJJulio
Mar 25
フィードバックありがとうございます。現在、AIキャラクターの消費は、使用しているモデル、メッセージの長さ、そして過去の対話の長さに基づいて計算されています。簡単に言えば、対話の記憶が長ければ長いほど、メッセージの返信が長くなり、消費されるクレジットも増えます。
ねこです。ねこはいます。
Mar 23
説明がないのは不便だよね、わかるよ。
LLMでは、やりとりはトークン数（≒単語数）という単位で計算されているよ。SeaArtはどこにも明示していない（これが大問題）けれど、他と同じくこのトークン数で消費スタミナを計算していると考えられているよ。
そしてこれには出力される文字だけでなく、ユーザーの入力したものや予め設定されたもの（システムプロンプトともいわれるね。SeaArtのAIキャラクターで言えば『設定』にあたるもの）、そして返答ごとにそれまでのチャットログを既定の部分まで（大抵は最初から最後まで）集計して計算するよ。
なぜそうなのかというと、LLMは人間で言う「記憶」を持たないから。人間にわかる動作で説明すると、LLMは予めモデルに搭載されたもの以外の入力（上記の全て）を、返答するごとに毎回読み直して、その時々に適切とされる言葉を返すだけのプログラムなんだ。
つまり、チャット全体が長くなるほど、毎回の返答の際に参照するトークン数は膨大になり、コストも増えていくんだ。
自分の理解の整理もかねて出力してみたけど、この説明で理解してもらえると嬉しい。
すあま
Mar 24
ありがとうございます。
仕様については完全に理解できました。
それを踏まえてやはり仕様について明示することは必要なように思うので、このフィードバックは残しておきます。