Skip to content

Use user_harakiri for all requests except streaming requests to "benkagg" AB#245865 - #1312

Merged
pstokkink merged 7 commits into
masterfrom
pieter/bypass-harakiri-for-certain-streaming-responses
Nov 2, 2026
Merged

pstokkink merged 7 commits into
masterfrom
pieter/bypass-harakiri-for-certain-streaming-responses

Conversation

@pstokkink

@pstokkink pstokkink commented Oct 29, 2026 •

Copy link
Copy Markdown
Contributor

Probleem: sommige streaming requests werden afgekapt door harakiri.

Geprobeerd om harakiri uit te zetten voor streaming responses van die specifieke datasets. Dit werkte niet omdat user_harakiri alleen de harakiri strakker kan zetten dan de geconfigureerde globale harakiri.

Dus omgedraaid:

  • harakiri standaard uit in de settings (andere repo)
  • harakiri wordt aangezet voor elk request (in middleware, dus aan begin van request)
  • als response streaming van benkagg is wordt harakiri weer uitgezet

Deployed op dev en getest, en de afgebroken request doet het daar nu wel. Het is mogelijk dat we op een bepaald moment tegen limieten op andere plekken in de keten aanlopen, maar voor nu lijkt dit een goede oplossing.

@pstokkink
pstokkink force-pushed the pieter/bypass-harakiri-for-certain-streaming-responses branch from 691ea68 to 234c1df Compare November 2, 2026 15:21
@pstokkink
pstokkink merged commit a2ab73a into master Nov 2, 2026
4 checks passed
@pstokkink
pstokkink deleted the pieter/bypass-harakiri-for-certain-streaming-responses branch November 2, 2026 15:34
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Development

Successfully merging this pull request may close these issues.

2 participants