IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Développement de jobs Discussion :

Charger des schémas dynamiquement dans un job Talend


Sujet :

Développement de jobs

  1. #1
    Nouveau membre du Club
    Profil pro
    Inscrit en
    Mai 2008
    Messages
    61
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Mai 2008
    Messages : 61
    Points : 37
    Points
    37
    Par défaut Charger des schémas dynamiquement dans un job Talend
    Bonjour,

    j'ai environ 150 tables avec chacune un schéma particulier. le but du projet est d'effectuer des traitements(filtres,...) et de charger ces tables dans une base de données. le plus simple serait de créer 150 jobs. je voudrais donc savoir s'il est possible de faire un job générique et de changer dynamiquement le schéma de la table.

    Merci pour vos réponses.

  2. #2
    Nouveau membre du Club
    Profil pro
    Inscrit en
    Octobre 2009
    Messages
    43
    Détails du profil
    Informations personnelles :
    Âge : 40
    Localisation : France

    Informations forums :
    Inscription : Octobre 2009
    Messages : 43
    Points : 32
    Points
    32
    Par défaut
    Bonjour,

    J'ai rencontré à peu près le même problème pour un autre type de transfert de données ou nous souhaitions faire un job générique qui se serait adapté à chacun des fichiers à traiter malheureusement pour toi et pour moi, les schémas ne peuvent pas être contextualiser c'est à dire que l'on ne peut pas chargé dynamiquement un schéma prédéfini en "Metadata"..... tous les autres paramètres le peuvent mais pas les schémas Il faudra pour traiter tes 150 tables faire 150 processus.....

    désolé Talend rend beaucoup de services mais pas encore celui la .....

  3. #3
    Nouveau membre du Club
    Profil pro
    Inscrit en
    Mai 2008
    Messages
    61
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Mai 2008
    Messages : 61
    Points : 37
    Points
    37
    Par défaut
    J'ai essayé de faire ceci, cela pourrait peu être donner des idées.(si c'est possible)

    j'ai créé un projet avec un job (qualifié de générique), ensuite j'ai dupliqué le fichier *.item de ce job et j'ai modifié le second fichier *.item en précisant les informations d'un autre schéma. si j'importe le projet avec le second fichier *.item, j'ai bien le nouveau schéma dans le job.

    J'ai créé un autre job(que je qualifie de master) avec un tfileList et un tRunJob et un tSystem. le tFileList boucle dans un répertoire qui contient les fichiers *.item et le tRunJob exécute (devrait exactement) mon job générique en prennant le nouveau fichier *.item.

    le problème c'est que lorsque je lance le job master, le job générique s'exécute avec le premier fichier *.item. en regardant le code, je pense que le tRunJob exécute le job avec le dernier fichier *.item utilisé à la compilation c'est à dire le premier(dans mon cas).

    je me demande donc s'il est possible de recompiler un job avant de le lancer dans un tRunJob.

    Merci pour vos réponses.

    (je débute avec TOS)

  4. #4
    Rédacteur
    Avatar de CyberChouan
    Homme Profil pro
    Directeur technique
    Inscrit en
    Janvier 2007
    Messages
    2 752
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 41
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Directeur technique
    Secteur : Communication - Médias

    Informations forums :
    Inscription : Janvier 2007
    Messages : 2 752
    Points : 4 314
    Points
    4 314
    Par défaut
    Citation Envoyé par coulio Voir le message
    le problème c'est que lorsque je lance le job master, le job générique s'exécute avec le premier fichier *.item. en regardant le code, je pense que le tRunJob exécute le job avec le dernier fichier *.item utilisé à la compilation c'est à dire le premier(dans mon cas).
    C'est exactement ça.

    La recompilation d'un job "à la volée" lors de l'exécution n'est pas envisageable.

    A chaque recompilation, Talend utilise une mécanique complexe :
    - fusionne les "jet templates" de chacun des composants de ton job avec les paramètres de chacun des composants.
    - de là, un code source java est obtenu qui est à son tour compilé par un JDK
    - c'est seulement après cette seconde étape que le job "exécutable" est disponible

    Pour ton besoin, il faudrait à chaque fois reprendre les deux phases de compilation ce qui n'est pas évident !

  5. #5
    Nouveau membre du Club
    Profil pro
    Inscrit en
    Mai 2008
    Messages
    61
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Mai 2008
    Messages : 61
    Points : 37
    Points
    37
    Par défaut
    Merci pour vos réponses,

    Auriez-vous une référence(doc, lien) qui me permettrait de comprendre le mécanisme, les étapes lors de la création ou de l'exécution d'un job dans Talend.

    Encore merci.

  6. #6
    Rédacteur
    Avatar de CyberChouan
    Homme Profil pro
    Directeur technique
    Inscrit en
    Janvier 2007
    Messages
    2 752
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 41
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Directeur technique
    Secteur : Communication - Médias

    Informations forums :
    Inscription : Janvier 2007
    Messages : 2 752
    Points : 4 314
    Points
    4 314
    Par défaut
    Pour ton besoin, Talend n'est vraisemblablement pas l'outil adapté.

    Plutôt que d'essayer de tordre le logiciel pour en tirer une fonctionnalité qu'il ne remplit pas, tu devrais t'orienter vers un développement spécifique en Java qui réalise ton besoin (adresser des tables ayant des schémas différents pour un traitement similaire).

Discussions similaires

  1. Valorisation des Process_Id dans les jobs Talend
    Par DevNico dans le forum Développement de jobs
    Réponses: 1
    Dernier message: 09/06/2010, 12h12
  2. Creér des Clip dynamiquement dans la scène
    Par jpboogie dans le forum Flash
    Réponses: 2
    Dernier message: 04/10/2006, 17h47
  3. Réponses: 4
    Dernier message: 19/05/2006, 15h30
  4. PHP5: charger des fichiers textes dans une base MYSQL
    Par koueletbak dans le forum Requêtes
    Réponses: 4
    Dernier message: 23/03/2006, 12h14
  5. [Avancé][Optimisation] Charger des librairies dynamiquement
    Par Wookai dans le forum Général Java
    Réponses: 12
    Dernier message: 12/08/2005, 17h34

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo