当后端实例因“超出软私有内存限制”而终止时,实例请求挂起队列中的请求会发生什么情况?

2024-05-15 08:48:44 发布

您现在位置:Python中文网/ 问答频道 /正文

我在AppEngine(PythonEnv)上运行了B*实例来服务面向用户的请求。有时我会看到B*实例由于超出了软私有内存限制而被终止

我知道增加实例类可以解决这个问题,但是 对于实例挂起队列中存在的请求,我几乎没有什么疑问

假设我们有两个B*实例类的实例,我们称之为let say=>;I-1,I-2

  1. 在I-1实例由于某种原因终止后,I-1实例请求挂起队列中的那些请求会发生什么情况?当此实例终止时,这些请求是否会从实例队列中逐出

  2. 实例挂起队列中的请求是否会从I-1的实例挂起队列中退出队列,并在请求调度器发现I-1由于某种原因正在关闭时,立即由请求调度器放入I-2请求队列中

任何关于理解这些事情的帮助都将不胜感激


Tags: 实例内存gt队列情况调度事情面向用户
1条回答
网友
1楼 · 发布于 2024-05-15 08:48:44

根据我对事物如何工作的外部观察,我怀疑只有一个入口队列(每个服务/模块),从该队列中请求只能传递给能够立即处理它们的实例

此单个队列的实际参数(深度、等待时间等)将是驱动该服务/模块的自动/基本实例扩展逻辑的指示器-启动和停止实例

在这样的体系结构中,实例的死亡对排队的请求绝对没有影响,它们只会被分派到其他实例,或者已经运行,或者专门开始处理这样的请求

注意:这只是一个理论

相关问题 更多 >