Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Mecanismo de timeout y retries en los envios a IOTAs #85

Merged
merged 5 commits into from
May 17, 2024

Conversation

CeciliaFili
Copy link

@CeciliaFili CeciliaFili commented May 16, 2024

Edit: issue #72

Se agrega un mecanismo de timeout y retries en la clase iotaManager para el envío de datos.

Comment on lines +364 to +366
- :param opcional `timeout`: timeout definido en segundos (default: 10).
- :param opcional `post_retry_connect`: Número de reintentos a la hora de realizar un envío de datos (default: 3)
- :param opcional `post_retry_backoff_factor`: Factor que se usa, para esperar varios segundos tras enviar una ráfaga de datos. (default: 20)
Copy link
Contributor

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Veo que se ha hecho una definición de parámetro análoga a la del CB, con el mismo nombre y descripción de parámetros. ¡Bien! :)

Sin embargo, hay una diferencia. Aquí se usa un default: 20 para post_retry_backoff_factor, mientras que en el CB se usa 0 (que entiendo es no aplicar espera alguna).

Igual deberiamos dejarlo también a 0, por homogeneidad. O lo contrario... cambiar en el CB para que esté a 20 y también sea homogeneo así (es un ligero cambio en la compatibilidad hacia atrás, pero asumible).

@arcosa ¿tú que opinas? ¿Por qué cuando implementamos esto para el CB se eligió 0 como default?

Copy link
Author

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Hola, me parece que en el cb el post_retry_backoff_factor es por defecto 20, pero en el README.md puede que esté mal documentado.

Copy link
Collaborator

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Si, es curioso, no sabía que CB tb usaba esa variable (o similar).. mi yo del pasado escogió ese valor, pensando en que es un factor "multiplicador" que incrementa el tiempo entre reintentos. Si le pones 0.. implica que los reintentos se hacen en el momento. Si hay problemas de conectividad puntuales (porque cae un servicio, se está reiniciando, algún miniproblema de red, etc..) si lanzas 3 reintentos sin espacio entre ellos.. lo probable es que fallen los 3... con factor 20, creo que empezaba reintantdo con unos segundos y los últimos reintentos tardaba algún minuto.. si pasado unos minutos, sigue dando el problema de conectividad, entonces ya desiste. Todo esto pensando en el contexto de envío de datos en batch al Context Broker con ETLs que pueden esperar un poco, antes de que pete la ETL por no poder enviar los datos.

Estaba revisando que en la doc oficial, el backoff está deshabilitado (factor set to 0). Y si el CB tb lo usa y por defecto es cero.. se podría asumir ponerlo aquí a cero. De hecho mirando la doc oficial https://pypi.org/project/tc-etl-lib/ sale como si por defecto estuviera a 0, pero en código lo tenemos a 20.

Copy link
Contributor

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Si en el código está a 20, entonces simplemente hay que corregirlo en la parte de docu del CB y ya estaría. @CeciliaFili puedes incluirlo en esta PR, pls?

Copy link
Author

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

claro!

Copy link
Author

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

@fgalan Hecho

@fgalan fgalan requested a review from arcosa May 17, 2024 10:02
Copy link
Contributor

@fgalan fgalan left a comment

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

LGTM

Paso bola a @arcosa para LGTM extra y mezcla.

Copy link
Collaborator

@arcosa arcosa left a comment

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

LGTM

@arcosa arcosa merged commit dc11e4f into telefonicasc:master May 17, 2024
1 check passed
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

Successfully merging this pull request may close these issues.

3 participants