http://packetstormsecurity.org/UNIX/admin/xscreensaver-4.01.tar.gz
[xscreensaver] / hacks / glx / grab-ximage.c
1 /* grab-ximage.c --- grab the screen to an XImage for use with OpenGL.
2  * xscreensaver, Copyright (c) 2001 Jamie Zawinski <jwz@jwz.org>
3  *
4  * Permission to use, copy, modify, distribute, and sell this software and its
5  * documentation for any purpose is hereby granted without fee, provided that
6  * the above copyright notice appear in all copies and that both that
7  * copyright notice and this permission notice appear in supporting
8  * documentation.  No representations are made about the suitability of this
9  * software for any purpose.  It is provided "as is" without express or 
10  * implied warranty.
11  */
12
13 #ifdef HAVE_CONFIG_H
14 # include "config.h"
15 #endif
16
17 #include <stdlib.h>
18 #include <stdio.h>
19 #include <X11/Xlib.h>
20 #include <X11/Xutil.h>
21 #include <GL/gl.h>      /* only for GLfloat */
22
23 #include "grabscreen.h"
24 #include "visual.h"
25
26 extern char *progname;
27
28 #include <X11/Xutil.h>
29
30 #undef MAX
31 #define MAX(a,b) ((a)>(b)?(a):(b))
32
33 #undef countof
34 #define countof(x) (sizeof((x))/sizeof((*x)))
35
36 /* return the next larger power of 2. */
37 static int
38 to_pow2 (int i)
39 {
40   static unsigned int pow2[] = { 1, 2, 4, 8, 16, 32, 64, 128, 256, 512, 1024,
41                                  2048, 4096, 8192, 16384, 32768, 65536 };
42   int j;
43   for (j = 0; j < countof(pow2); j++)
44     if (pow2[j] >= i) return pow2[j];
45   abort();  /* too big! */
46 }
47
48
49 /* Given a bitmask, returns the position and width of the field.
50  */
51 static void
52 decode_mask (unsigned int mask, unsigned int *pos_ret, unsigned int *size_ret)
53 {
54   int i;
55   for (i = 0; i < 32; i++)
56     if (mask & (1L << i))
57       {
58         int j = 0;
59         *pos_ret = i;
60         for (; i < 32; i++, j++)
61           if (! (mask & (1L << i)))
62             break;
63         *size_ret = j;
64         return;
65       }
66 }
67
68
69 /* Given a value and a field-width, expands the field to fill out 8 bits.
70  */
71 static unsigned char
72 spread_bits (unsigned char value, unsigned char width)
73 {
74   switch (width)
75     {
76     case 8: return value;
77     case 7: return (value << 1) | (value >> 6);
78     case 6: return (value << 2) | (value >> 4);
79     case 5: return (value << 3) | (value >> 2);
80     case 4: return (value << 4) | (value);
81     case 3: return (value << 5) | (value << 2) | (value >> 2);
82     case 2: return (value << 6) | (value << 4) | (value);
83     default: abort(); break;
84     }
85 }
86
87
88 /* Returns an XImage structure containing an image of the desktop.
89    (As a side-effect, that image will be painted onto the given Window.)
90    This XImage will be 32 bits per pixel, 8 each per R, G, and B, with the
91    extra byte set to 0xFF.
92  */
93 XImage *
94 screen_to_ximage (Screen *screen, Window window)
95 {
96   Display *dpy = DisplayOfScreen (screen);
97   XWindowAttributes xgwa;
98   int win_width, win_height;
99   int tex_width, tex_height;
100
101   grab_screen_image (screen, window);
102
103   XGetWindowAttributes (dpy, window, &xgwa);
104   win_width = xgwa.width;
105   win_height = xgwa.height;
106
107   /* GL texture sizes must be powers of two. */
108   tex_width  = to_pow2(win_width);
109   tex_height = to_pow2(win_height);
110
111   /* Convert the server-side Drawable to a client-side GL-ordered XImage.
112    */
113   {
114     XImage *ximage1, *ximage2;
115     XColor *colors = 0;
116
117     ximage1 = XGetImage (dpy, window, 0, 0, win_width, win_height, ~0L,
118                          ZPixmap);
119     ximage2 = XCreateImage (dpy, xgwa.visual, 32, ZPixmap, 0, 0,
120                             tex_width, tex_height, 32, 0);
121
122     ximage2->data = (char *) calloc (tex_height, ximage2->bytes_per_line);
123
124     {
125       Screen *dscreen = DefaultScreenOfDisplay (dpy);
126       Visual *dvisual = DefaultVisualOfScreen (dscreen);
127       if (visual_class (dscreen, dvisual) == PseudoColor ||
128           visual_class (dscreen, dvisual) == GrayScale)
129         {
130           Colormap cmap = DefaultColormapOfScreen(dscreen);
131           int ncolors = visual_cells (dscreen, dvisual);
132           int i;
133           colors = (XColor *) calloc (sizeof (*colors), ncolors+1);
134           for (i = 0; i < ncolors; i++)
135             colors[i].pixel = i;
136           XQueryColors (dpy, cmap, colors, ncolors);
137         }
138     }
139
140     /* Translate the server-ordered image to a client-ordered image.
141      */
142     {
143       int x, y;
144       int crpos, cgpos, cbpos, capos;  /* bitfield positions */
145       int srpos, sgpos, sbpos;
146       int srmsk, sgmsk, sbmsk;
147       int srsiz, sgsiz, sbsiz;
148       int i;
149
150       unsigned char spread_map[3][256];
151
152       srmsk = ximage1->red_mask;
153       sgmsk = ximage1->green_mask;
154       sbmsk = ximage1->blue_mask;
155
156       decode_mask (srmsk, &srpos, &srsiz);
157       decode_mask (sgmsk, &sgpos, &sgsiz);
158       decode_mask (sbmsk, &sbpos, &sbsiz);
159
160       /* Note that unlike X, which is endianness-agnostic (since any XImage
161          can have its own specific bit ordering, with the server reversing
162          things as necessary) OpenGL pretends everything is client-side, so
163          we need to pack things in "RGBA" order on the client machine,
164          regardless of its endianness.
165        */
166       crpos =  0, cgpos =  8, cbpos = 16, capos = 24;
167
168       for (i = 0; i < 256; i++)
169         {
170           spread_map[0][i] = spread_bits (i, srsiz);
171           spread_map[1][i] = spread_bits (i, sgsiz);
172           spread_map[2][i] = spread_bits (i, sbsiz);
173         }
174
175       for (y = 0; y < win_height; y++)
176         {
177           int y2 = (win_height-1-y); /* Texture maps are upside down. */
178           for (x = 0; x < win_width; x++)
179             {
180               unsigned long sp = XGetPixel (ximage1, x, y2);
181               unsigned char sr, sg, sb;
182               unsigned long cp;
183
184               if (colors)
185                 {
186                   sr = colors[sp].red   & 0xFF;
187                   sg = colors[sp].green & 0xFF;
188                   sb = colors[sp].blue  & 0xFF;
189                 }
190               else
191                 {
192                   sr = (sp & srmsk) >> srpos;
193                   sg = (sp & sgmsk) >> sgpos;
194                   sb = (sp & sbmsk) >> sbpos;
195
196                   sr = spread_map[0][sr];
197                   sg = spread_map[1][sg];
198                   sb = spread_map[2][sb];
199                 }
200
201               cp = ((sr << crpos) |
202                     (sg << cgpos) |
203                     (sb << cbpos) |
204                     (0xFF << capos));
205
206               XPutPixel (ximage2, x, y, cp);
207             }
208         }
209     }
210
211     if (colors) free (colors);
212     free (ximage1->data);
213     ximage1->data = 0;
214     XDestroyImage (ximage1);
215
216 #if 0
217     fprintf(stderr, "%s: grabbed %dx%d window 0x%lx to %dx%d texture\n",
218             progname, win_width, win_height, (unsigned long) window,
219             tex_width, tex_height);
220 #endif
221
222     return ximage2;
223   }
224 }