Bedrockで最大出力トークン数を超過したときに生成を継続する実装例

生成AIモデルには出力トークンの上限数があるため、長い文章を生成させようとしたときに、途中で切れてしまう場合があります。 このときに、切れた部分から再生成するコードを紹介します (備忘のため)。 コードはAmazon BedrockのConverse APIを前提とします。 コード例 早速コードの例を紹介します。 TypeScriptのコード…