IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Développement de jobs Discussion :

Blocage lecture table sous Talend


Sujet :

Développement de jobs

  1. #1
    Membre à l'essai
    Profil pro
    Inscrit en
    Avril 2009
    Messages
    23
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2009
    Messages : 23
    Points : 12
    Points
    12
    Par défaut Blocage lecture table sous Talend
    Bonjour,

    je suis actuellement bloqué à cause d'un problème au niveau d'une lecture de table sur Talend.
    En effet, j'effectue plusieurs jointure sur 4 tables différentes (voir image) et dès le début à la lecture d'un des tables, il y a un blocage dès que j'arrive à 1 900 000 enregistrements lus !
    pourquoi ? quelqu'un pourrait il m'aider ? est ce que je fait mal mes traitements ?

    regardez l'image ici

    La vitesse inscrite sur l'image n'est pas significative, car elle ralentit de plus en plus et au final ne correspond plus du tout au nombre d'enregistrements lus.

    Merci de m'aider.

    Cordialement, Romain ALCARAZ.

  2. #2
    Rédacteur
    Avatar de jsd03
    Homme Profil pro
    Conseil - Consultant en systèmes d'information
    Inscrit en
    Août 2008
    Messages
    1 221
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Indre et Loire (Centre)

    Informations professionnelles :
    Activité : Conseil - Consultant en systèmes d'information

    Informations forums :
    Inscription : Août 2008
    Messages : 1 221
    Points : 6 506
    Points
    6 506
    Par défaut
    Bonjour,

    le mieux serait déjà d'ordonner directement les données dans la requête (mettre des ORDER BY) et ne pas utiliser de tSortRow car c'est vraiment inutile et très gourmand en ressource dans ton cas.

    Deuxièmement voir si tu ne peux pas faire moins de lookup et faire une seule requête regroupant les deux premiers t[bdd]Input et les autres.

    Troisièmement faire un "store on disk" dans tes tMap et tSortRow avec de nombreuses données pour éviter les problèmes de java heap space. Voir FAQ : http://www.developpez.net/forums/d54...d/#post4252450

  3. #3
    Membre à l'essai
    Profil pro
    Inscrit en
    Avril 2009
    Messages
    23
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2009
    Messages : 23
    Points : 12
    Points
    12
    Par défaut
    euh...
    je suis peut être un peu faible à ce niveau mais, comment regrouper mes composants t[bdd]input ? :s
    je pense être obligé d'effectuer mes jointure de la manière de mon flux non ?

  4. #4
    Rédacteur
    Avatar de jsd03
    Homme Profil pro
    Conseil - Consultant en systèmes d'information
    Inscrit en
    Août 2008
    Messages
    1 221
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Indre et Loire (Centre)

    Informations professionnelles :
    Activité : Conseil - Consultant en systèmes d'information

    Informations forums :
    Inscription : Août 2008
    Messages : 1 221
    Points : 6 506
    Points
    6 506
    Par défaut
    Bin justement pas forcement sachant que ça vient d'une même base de données, tu peux faire tes requêtes en faisant des jointures "INNER JOIN, LEFT OUTER JOIN..."

    Colle tes deux première requête et le type de jointure que tu fais dans ton tMap.

    Je vais essayer de te montrer comment faire. (avec le schéma aussi )

  5. #5
    Membre à l'essai
    Profil pro
    Inscrit en
    Avril 2009
    Messages
    23
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2009
    Messages : 23
    Points : 12
    Points
    12
    Par défaut
    okey ! je te remercie d'avance

Discussions similaires

  1. Récupération de schéma de tables sous Talend
    Par NFHnv dans le forum Développement de jobs
    Réponses: 0
    Dernier message: 19/02/2013, 12h03
  2. Jointure avec trois tables sous Talend
    Par NFHnv dans le forum Développement de jobs
    Réponses: 7
    Dernier message: 22/11/2012, 16h28
  3. Tables Externes sous Talend
    Par Invité dans le forum Développement de jobs
    Réponses: 1
    Dernier message: 06/11/2012, 14h22
  4. job de remplissage de la table fait sous talend
    Par abdou.ham dans le forum Développement de jobs
    Réponses: 0
    Dernier message: 18/05/2011, 15h15
  5. lecture table sas v6 VM sous SAS V9.2 windows
    Par thawat dans le forum SAS Base
    Réponses: 4
    Dernier message: 23/02/2011, 09h58

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo