FastAPI 0.163 bringt Depends(max_concurrency=...) als Grenze für gleichzeitige Nutzung
FastAPI 0.163.0, erschienen am 14. November, führt eine Nebenläufigkeitsgrenze für Abhängigkeiten ein: Depends(max_concurrency=...). Die im selben Pull Request #16746 ergänzte Dokumentation nimmt eine Datenbanksitzung als Beispiel. Mit SessionDep = Annotated[Session, Depends(get_session, max_concurrency=5)] können höchstens fünf Anfragen gleichzeitig über diese Abhängigkeit eine Sitzung halten; eine sechste wartet, bis eine geschlossen wird, und belegt dabei keinen Worker-Thread. Der Wert muss eine positive ganze Zahl sein, der Standard None bedeutet keine Grenze.
Die Grenze gehört zum Depends()-Objekt, nicht zur Funktion. Routen, die denselben Alias verwenden, teilen eine Grenze; ein neues Depends(get_session, max_concurrency=5) in jeder Route gibt jeder ihre eigenen fünf, obwohl dieselbe Funktion aufgerufen wird. Zwei Anwendungen, die dasselbe Objekt nutzen, teilen die Grenze, wenn sie in derselben Event-Loop laufen, auch eingehängte Anwendungen. Jeder Worker-Prozess hat seine eigene Grenze, zwei Worker können also zehn Sitzungen halten, und Anwendungen in verschiedenen Event-Loops teilen nie eine.
Bei einer Abhängigkeit mit yield zählt die Sitzung, bis der Abschlusscode fertig ist. Mit dem Standard scope="request" geschieht das nach dem Senden der Antwort, mit scope="function" nach der Rückkehr der Pfadoperation. Ein zwischengespeicherter Wert, der erneut verwendet wird, zählt nicht doppelt. FastAPI löst Unterabhängigkeiten auf, bevor die Grenze einer Abhängigkeit greift; die Dokumentation rät daher, die Grenze dort zu setzen, wo die Sitzung entsteht, und einen Wert zu wählen, der anderen Nutzern desselben Verbindungspools Platz lässt, dessen Größe FastAPI nicht kennt.
Die Dokumentation beschreibt auch, wie Anfragen hängen bleiben können. Ein geteiltes Depends(get_session, max_concurrency=1, use_cache=False), das in einer Anfrage zweimal vorkommt, wartet auf seine eigene erste Sitzung, die erst mit dem Ende der Anfrage schließt. Zwei Anfragen können einander blockieren, wenn jede eine Ressource hält und auf die andere wartet. FastAPI wendet jede Grenze einzeln an und reserviert nicht alles im Voraus, deshalb lautet der Rat, mehrere Ressourcen stets in derselben Reihenfolge zu holen. Laut Pull Request entstand die Änderung mit Hilfe von Codex und wurde von Hand geprüft. Version 0.163.1 vom 15. November korrigiert die OpenAPI-Ausgabe für ein Antwortmodell mit verschachteltem berechnetem Feld.

Warum es zählt
Eine Grenze, die an einem Objekt statt an einer Funktion hängt, wird leicht versehentlich geteilt - oder versehentlich nicht. Die Dokumentation beschreibt beide Fälle und die Grenzen pro Prozess und Event-Loop, bevor man sie in der Produktion findet.