http://ftp.ussg.iu.edu/linux/slackware/slackware-9.0/source/xap/xscreensaver/xscreens...
[xscreensaver] / hacks / glx / grab-ximage.c
1 /* grab-ximage.c --- grab the screen to an XImage for use with OpenGL.
2  * xscreensaver, Copyright (c) 2001, 2003 Jamie Zawinski <jwz@jwz.org>
3  *
4  * Permission to use, copy, modify, distribute, and sell this software and its
5  * documentation for any purpose is hereby granted without fee, provided that
6  * the above copyright notice appear in all copies and that both that
7  * copyright notice and this permission notice appear in supporting
8  * documentation.  No representations are made about the suitability of this
9  * software for any purpose.  It is provided "as is" without express or 
10  * implied warranty.
11  */
12
13 #ifdef HAVE_CONFIG_H
14 # include "config.h"
15 #endif
16
17 #include <stdlib.h>
18 #include <stdio.h>
19 #include <X11/Xlib.h>
20 #include <X11/Xutil.h>
21 #include <GL/gl.h>      /* only for GLfloat */
22
23 #include "grabscreen.h"
24 #include "visual.h"
25
26 extern char *progname;
27
28 #include <X11/Xutil.h>
29
30 #undef MAX
31 #define MAX(a,b) ((a)>(b)?(a):(b))
32
33 #undef countof
34 #define countof(x) (sizeof((x))/sizeof((*x)))
35
36 /* return the next larger power of 2. */
37 static int
38 to_pow2 (int i)
39 {
40   static unsigned int pow2[] = { 1, 2, 4, 8, 16, 32, 64, 128, 256, 512, 1024,
41                                  2048, 4096, 8192, 16384, 32768, 65536 };
42   int j;
43   for (j = 0; j < countof(pow2); j++)
44     if (pow2[j] >= i) return pow2[j];
45   abort();  /* too big! */
46 }
47
48
49 /* Given a bitmask, returns the position and width of the field.
50  */
51 static void
52 decode_mask (unsigned int mask, unsigned int *pos_ret, unsigned int *size_ret)
53 {
54   int i;
55   for (i = 0; i < 32; i++)
56     if (mask & (1L << i))
57       {
58         int j = 0;
59         *pos_ret = i;
60         for (; i < 32; i++, j++)
61           if (! (mask & (1L << i)))
62             break;
63         *size_ret = j;
64         return;
65       }
66 }
67
68
69 /* Given a value and a field-width, expands the field to fill out 8 bits.
70  */
71 static unsigned char
72 spread_bits (unsigned char value, unsigned char width)
73 {
74   switch (width)
75     {
76     case 8: return value;
77     case 7: return (value << 1) | (value >> 6);
78     case 6: return (value << 2) | (value >> 4);
79     case 5: return (value << 3) | (value >> 2);
80     case 4: return (value << 4) | (value);
81     case 3: return (value << 5) | (value << 2) | (value >> 2);
82     case 2: return (value << 6) | (value << 4) | (value);
83     default: abort(); break;
84     }
85 }
86
87
88 /* Returns an XImage structure containing an image of the desktop.
89    (As a side-effect, that image will be painted onto the given Window.)
90    This XImage will be 32 bits per pixel, 8 each per R, G, and B, with the
91    extra byte set to 0xFF.
92  */
93 XImage *
94 screen_to_ximage (Screen *screen, Window window)
95 {
96   Display *dpy = DisplayOfScreen (screen);
97   XWindowAttributes xgwa;
98   int win_width, win_height;
99   int tex_width, tex_height;
100
101   grab_screen_image (screen, window);
102
103   XGetWindowAttributes (dpy, window, &xgwa);
104   win_width = xgwa.width;
105   win_height = xgwa.height;
106
107   /* GL texture sizes must be powers of two. */
108   tex_width  = to_pow2(win_width);
109   tex_height = to_pow2(win_height);
110
111   /* Convert the server-side Drawable to a client-side GL-ordered XImage.
112    */
113   {
114     XImage *ximage1, *ximage2;
115     XColor *colors = 0;
116
117     ximage1 = XGetImage (dpy, window, 0, 0, win_width, win_height, ~0L,
118                          ZPixmap);
119     ximage2 = XCreateImage (dpy, xgwa.visual, 32, ZPixmap, 0, 0,
120                             tex_width, tex_height, 32, 0);
121
122     ximage2->data = (char *) calloc (tex_height, ximage2->bytes_per_line);
123
124     {
125       Screen *dscreen = DefaultScreenOfDisplay (dpy);
126       Visual *dvisual = DefaultVisualOfScreen (dscreen);
127       if (visual_class (dscreen, dvisual) == PseudoColor ||
128           visual_class (dscreen, dvisual) == GrayScale)
129         {
130           Colormap cmap = DefaultColormapOfScreen(dscreen);
131           int ncolors = visual_cells (dscreen, dvisual);
132           int i;
133           colors = (XColor *) calloc (sizeof (*colors), ncolors+1);
134           for (i = 0; i < ncolors; i++)
135             colors[i].pixel = i;
136           XQueryColors (dpy, cmap, colors, ncolors);
137         }
138     }
139
140     /* Translate the server-ordered image to a client-ordered image.
141      */
142     {
143       int x, y;
144       int crpos, cgpos, cbpos, capos;  /* bitfield positions */
145       int srpos, sgpos, sbpos;
146       int srmsk, sgmsk, sbmsk;
147       int srsiz, sgsiz, sbsiz;
148       int i;
149
150       unsigned char spread_map[3][256];
151
152       if (colors == 0)  /* truecolor */
153         {
154           srmsk = ximage1->red_mask;
155           sgmsk = ximage1->green_mask;
156           sbmsk = ximage1->blue_mask;
157
158           decode_mask (srmsk, &srpos, &srsiz);
159           decode_mask (sgmsk, &sgpos, &sgsiz);
160           decode_mask (sbmsk, &sbpos, &sbsiz);
161         }
162
163       /* Note that unlike X, which is endianness-agnostic (since any XImage
164          can have its own specific bit ordering, with the server reversing
165          things as necessary) OpenGL pretends everything is client-side, so
166          we need to pack things in "RGBA" order on the client machine,
167          regardless of its endianness.
168        */
169       crpos =  0, cgpos =  8, cbpos = 16, capos = 24;
170
171       if (colors == 0)  /* truecolor */
172         {
173           for (i = 0; i < 256; i++)
174             {
175               spread_map[0][i] = spread_bits (i, srsiz);
176               spread_map[1][i] = spread_bits (i, sgsiz);
177               spread_map[2][i] = spread_bits (i, sbsiz);
178             }
179         }
180
181       for (y = 0; y < win_height; y++)
182         {
183           int y2 = (win_height-1-y); /* Texture maps are upside down. */
184           for (x = 0; x < win_width; x++)
185             {
186               unsigned long sp = XGetPixel (ximage1, x, y2);
187               unsigned char sr, sg, sb;
188               unsigned long cp;
189
190               if (colors)
191                 {
192                   sr = colors[sp].red   & 0xFF;
193                   sg = colors[sp].green & 0xFF;
194                   sb = colors[sp].blue  & 0xFF;
195                 }
196               else
197                 {
198                   sr = (sp & srmsk) >> srpos;
199                   sg = (sp & sgmsk) >> sgpos;
200                   sb = (sp & sbmsk) >> sbpos;
201
202                   sr = spread_map[0][sr];
203                   sg = spread_map[1][sg];
204                   sb = spread_map[2][sb];
205                 }
206
207               cp = ((sr << crpos) |
208                     (sg << cgpos) |
209                     (sb << cbpos) |
210                     (0xFF << capos));
211
212               XPutPixel (ximage2, x, y, cp);
213             }
214         }
215     }
216
217     if (colors) free (colors);
218     free (ximage1->data);
219     ximage1->data = 0;
220     XDestroyImage (ximage1);
221
222 #if 0
223     fprintf(stderr, "%s: grabbed %dx%d window 0x%lx to %dx%d texture\n",
224             progname, win_width, win_height, (unsigned long) window,
225             tex_width, tex_height);
226 #endif
227
228     return ximage2;
229   }
230 }