Discussion :

[julien_v3ga]

Bonjour à tous,
je suis confronté à un problème concernant le rendu dans une texture et la gestion de sa couche alpha. J'utilise la méthode classique de dessin sur le framebuffer avec copie dans la texture via glCopyTexSubImage2D (utilisation des FBOs en cours d'implémentation). Pour tester/afficher la texture (composé d'un triangle simple), je dessine ensuite un quad occupant tout mon viewport, à l'aide d'un pixelshader (utilisation de la librairie CG, simple remplacement pixel à pixel) Tout fonctionne bien jusque là.
Or j'aimerais utiliser la composante alpha de ma texture pour pouvoir empiler plusieurs render to texture les uns sur les autres. Pour tester la couche alpha, je remplace dans mon shader le dessin du pixel (rgba) par le dessin de ce pixel (aaaa) pour pouvoir "voir" ma couche alpha. C'est là que ça se gate car j'obtiens à tous les coups une image blanche ...
J'aimerais dans un premier temps simplement dessiner cette couche alpha (en vue ensuite de pouvoir réaliser des opérations (alpha blending par exemple))

Merci pour votre aide !

Voici le code utilisé :

Initialisation de la texture (qui va contenir le rendu)

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
 
...
glPixelStorei(GL_UNPACK_ALIGNMENT,1);
glGenTextures(1,&m_glName);
glTexParameteri(GL_TEXTURE_2D, GL_TEXTURE_WRAP_S, GL_REPEAT );
glTexParameteri(GL_TEXTURE_2D, GL_TEXTURE_WRAP_T,GL_REPEAT );
// m_width = m_height = 512
// pMyPictureData pointe sur un tableau d'octets (de valeur nulle)           
glTexImage2D(GL_TEXTURE_2D,0,GL_RGBA,m_width,m_height,0,GL_RGBA,GL_UNSIGNED_BYTE,pMyPictureData);
...

Dessin dans cette texture

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
 
// le taille de la fenêtre est de 800x600
// m_width = m_height = 512
glViewport(0,0,m_width,m_height);
glScissor(0,0,m_width,m_height);
 
 
// Dessin d'un triangle 2D occupant la moitié du viewport
// Fond jaune avec alpha à 0.0f
glClearColor(1.0f,1.0f,0.0f,0.0f);
glClear(GL_COLOR_BUFFER_BIT);
// Projection / Modelview
glMatrixMode(GL_PROJECTION);
glLoadIdentity();
glMatrixMode(GL_MODELVIEW);
glLoadIdentity();
...
// Dessin du triangle
// Je suppose qu'à ce niveau là, les pixels occupés par le triangle ont une 
// composante alpha qui vaut 1, le reste valant 0.
glBegin(GL_TRIANGLES);
glColor3f(1.0f,0.0f,0.0f);glVertex2f(-0.5f,-0.5f);
glColor3f(0.0f,1.0f,0.0f);glVertex2f(-0.5f,0.5f);
glColor3f(0.0f,0.0f,1.0f);glVertex2f(0.5f,0.5f);
glEnd();
 
// Upload vers la texture
glEnable(GL_TEXTURE_2D);
glBindTexture(GL_TEXTURE_2D, textureId);
glCopyTexSubImage2D(GL_TEXTURE_2D, 0, 0, 0, 0, 0, m_width, m_height);
glDisable(GL_TEXTURE_2D);

Dessin du quad sur le viewport entier

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
 
glViewport(0,0,800, 600);
glScissor(0,0,800, 600);
glClearColor(0.0f,0.0f,0.0f,0.0f);
glClear(GL_COLOR_BUFFER_BIT);
glMatrixMode(GL_PROJECTION);
glLoadIdentity();
glMatrixMode(GL_MODELVIEW);
glLoadIdentity();
 
 
// Draw quad on main viewport
glTranslatef(-1.0f,-1.0f,0.0f);
glScalef(2.0f,2.0f,0.0f);
 
 
 
// Code cg encapsulé
// Dans le code d'init : 
// m_cgLayerTextureId = cgGetNamedParameter(mp_pixelShader->m_program, "layerTexture");
 
cgGLSetTextureParameter (m_cgLayerTextureId,textureId);
cgGLEnableTextureParameter(m_cgLayerTextureId);
mp_pixelShader->M_bind();
 
glBegin(GL_QUADS);
glTexCoord2f(0.0f,0.0f);glVertex2f(0.0f,  0.0f);
glTexCoord2f(0.0f,1.0f);glVertex2f(0.0f,  1.0f);
glTexCoord2f(1.0f,1.0f);glVertex2f(1.0f,  1.0f);
glTexCoord2f(1.0f,0.0f);glVertex2f(1.0f,  0.0f);
glEnd();
 
// Code cg encapsulé
mp_pixelShader->M_unBind();
cgGLDisableTextureParameter(m_cgLayerTextureId);
 
//Shader
void main
( 
in        float4        inColor:        COLOR,
in         float4         position :         POSITION,
in         float2         texcoord0 :     TEXCOORD0,
uniform in        sampler2D     layerTexture,
out        float4        outColor:        COLOR
)
 
{
    float4 texColor = tex2D( layerTexture, texcoord0 );
    outColor.xyz = texColor.www; // dessin de la couche alpha
}

[bafman]

juste une question bête : tu a bien verifier que le buffer de rendu contient une composante alpha (qui s'active au moment de la creation du context openGL) ?
a part ca, si c'est sur carte ATI, j'ai entendu parler d'un problème comme ca une fois, mais c'etait avec des FBO...

[julien_v3ga]

Mon contexte OpenGL est bien initialisé avec une profondeur de 32 bits au format RGBA... Ma carte graphique est une GeForce FX Go 5600 (laptop Sony Vaio).
Je me disais : n'y aurait-il pas à faire un glEnable(GL_BLEND) au moment du rendu du quad final ? Même si cela me parait être redondant avec l'utilisation d'un shader ...

[bafman]

oui et non
en fait ca depend de comment marche ton systeme.
si tout est rendu dans des buffer offscreen , tu peut tres bien tout faire en shader, par contre, si tu ne fait qu'ecrire dans le color buffer, alors la oui, il faut activer le blending.

[julien_v3ga]

Tel que cela se passe pour le moment (sans FBOs), tout est rendu dans le color buffer (celui de la fenêtre) :

1. Dessin dans un viewport (RGBA) de 512x512 (taille de la texture)
2. Upload vers la texture (T) (RGBA) avec glCopyTexSubImage2D
3. Dessin d'un quad avec texture (T) sur le viewport en 800x600. Utilisation du shader (outColor.xyz = texColor.www) pour dessiner la couche alpha/masque.

Quelque part il faudrait que j'active le blending ? (entre 2. et 3.)

[shenron666]

le blending est une opération entre une source et une destination, je doute que cela change quelque chose mais dans le doute, essayes toujours

sinon, regardes du côté de glPixelTransferf et vérifie que GL_ALPHA_SCALE n'est pas à 0

si tu forces une valeur dans ton shader (essayes 0, 0.5, 1 par exemples) le résultat en sortie change ? si ce n'est pas le cas c'est un problème différent

[bafman]

Tel que cela se passe pour le moment (sans FBOs), tout est rendu dans le color buffer (celui de la fenêtre) :

1. Dessin dans un viewport (RGBA) de 512x512 (taille de la texture)
2. Upload vers la texture (T) (RGBA) avec glCopyTexSubImage2D
3. Dessin d'un quad avec texture (T) sur le viewport en 800x600. Utilisation du shader (outColor.xyz = texColor.www) pour dessiner la couche alpha/masque.

Quelque part il faudrait que j'active le blending ? (entre 2. et 3.)

oui, ici, typiquement, il faut activer le blending.

en fait, les fragment program/shaders ne permettent pas de lire dans le color buffer, mais seulement d'y ecrire. Donc si tu veut faire des effets qui utilisent les donnée contenu dans le color buffer, il faut du blending

[julien_v3ga]

Merci pour les réponses !
Je vais creuser dans cette direction (blending).

si tu forces une valeur dans ton shader (essayes 0, 0.5, 1 par exemples) le résultat en sortie change ? si ce n'est pas le cas c'est un problème différent

Dans le shader, outColor.xyz = texColor.xyz marche bien, je me retrouve avec la texture dessinée sur l'écran entier.

[julien_v3ga]

J'ai résolu le problème :

- problème d'initialisation du contexte OpenGL Lors de sa création, le ChoosePixelFormat() était bien appelé avec un pixelformatdescriptor.iPixelType = PFD_TYPE_RGBA. Cependant, je ne positionnais pas explicitement ses données cRedBits, cGreenBits, cBlueBits, cAlphaBits. Ainsi par défaut, ChoosePixelFormat() me choississait une config de [r=8,g=8,b=8,a=0] pour le color buffer! Chaque rendu perdait donc les infos de la couche alpha ...

Merci pour votre aide.