From http://www.jwz.org/xscreensaver/xscreensaver-5.37.tar.gz
[xscreensaver] / hacks / webcollage
index cce26c88d8d77909162bc31295f41ade54fdb83b..63353a9aef645fdd2fe2066015f01621e358ca65 100755 (executable)
@@ -1,6 +1,6 @@
 #!/usr/bin/perl -w
 #
-# webcollage, Copyright © 1999-2014 by Jamie Zawinski <jwz@jwz.org>
+# webcollage, Copyright © 1999-2016 by Jamie Zawinski <jwz@jwz.org>
 # This program decorates the screen with random images from the web.
 # One satisfied customer described it as "a nonstop pop culture brainbath."
 #
 
 # To run this as a display mode with xscreensaver, add this to `programs':
 #
-#     webcollage -root
-#     webcollage -root -filter 'vidwhacker -stdin -stdout'
+#     webcollage --root
+#     webcollage --root --filter 'vidwhacker --stdin --stdout'
 #
 #
-# You can see this in action at http://www.jwz.org/webcollage/ --
+# You can see this in action at https://www.jwz.org/webcollage/ --
 # it auto-reloads about once a minute.  To make a page similar to
 # that on your own system, do this:
 #
-#     webcollage -size '800x600' -imagemap $HOME/www/webcollage/index
+#     webcollage --size '800x600' --imagemap $HOME/www/webcollage/index
 #
 #
 # If you have the "driftnet" program installed, webcollage can display a
@@ -34,7 +34,7 @@
 # Driftnet is available here: http://www.ex-parrot.com/~chris/driftnet/
 # Use it like so:
 #
-#     webcollage -root -driftnet
+#     webcollage --root --driftnet
 #
 # Driftnet is the Unix implementation of the MacOS "EtherPEG" program.
 
@@ -53,14 +53,13 @@ require POSIX;
 use Fcntl ':flock'; # import LOCK_* constants
 use POSIX qw(strftime);
 use LWP::UserAgent;
-use bytes;
 
 
 my $progname = $0; $progname =~ s@.*/@@g;
-my ($version) = ('$Revision: 1.167 $' =~ m/\s(\d[.\d]+)\s/s);
-my $copyright = "WebCollage $version, Copyright (c) 1999-2014" .
+my ($version) = ('$Revision: 1.176 $' =~ m/\s(\d[.\d]+)\s/s);
+my $copyright = "WebCollage $version, Copyright (c) 1999-2015" .
     " Jamie Zawinski <jwz\@jwz.org>\n" .
-    "            http://www.jwz.org/webcollage/\n";
+    "                  https://www.jwz.org/webcollage/\n";
 
 
 
@@ -75,14 +74,16 @@ my @search_methods = (
 
                       # So let's try Bing instead. No rate limiting yet!
                       #
-                        7, "bingphotos",    \&pick_from_bing_image_photos,
-                        6, "bingimgs",      \&pick_from_bing_images,
-                        6, "bingnums",      \&pick_from_bing_image_numbers,
+                       14, "bingphotos",    \&pick_from_bing_image_photos,
+                       12, "bingimgs",      \&pick_from_bing_images,
+                       11, "bingnums",      \&pick_from_bing_image_numbers,
 
                        21, "flickr_recent", \&pick_from_flickr_recent,
                        16, "flickr_random", \&pick_from_flickr_random,
-                       23, "instagram",     \&pick_from_instagram,
-                        4, "livejournal",   \&pick_from_livejournal_images,
+                        9, "livejournal",   \&pick_from_livejournal_images,
+
+                     # I ran out of usable access tokens, May 2017
+                     # 23, "instagram",     \&pick_from_instagram,
 
                      # No longer exists, as of Apr 2014
                      #  4, "yahoorand",     \&pick_from_yahoo_random_link,
@@ -245,6 +246,7 @@ my %warningless_sites = (
   "imgur.com"               => 1,
   "yfrog.com"               => 1,
   "cdninstagram.com"        => 1,
+  "encrypted-tbn3.gstatic.com" => 1,
 
   "yimg.com"                => 1,  # This is where dailynews.yahoo.com stores
   "eimg.com"                => 1,  # its images, so pick_from_yahoo_news_text()
@@ -389,27 +391,45 @@ sub get_document_1($$$) {
 
   my $user_agent = "$progname/$version";
 
-  if ($url =~ m@^http://www\.altavista\.com/@ ||
-      $url =~ m@^http://random\.yahoo\.com/@ ||
-      $url =~ m@^http://images\.google\.com/@ ||
-      $url =~ m@^http://www\.google\.com/@) {
+  if ($url =~ m@^https?://www\.altavista\.com/@s ||
+      $url =~ m@^https?://random\.yahoo\.com/@s  ||
+      $url =~ m@^https?://[^./]+\.google\.com/@s ||
+      $url =~ m@^https?://www\.livejournal\.com/@s) {
     # block this, you turkeys.
-    $user_agent = "Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.8.1.7)" .
-                  " Gecko/20070914 Firefox/2.0.0.7";
-
-    # 28-Jun-2007: Google Images now emits the entire page in JS if
-    # you claim to be Gecko.  They also still block "webcollage".
-    # They serve non-JS for unrecognised agents, so let's try this...
-    $user_agent = "NoJavascriptPlease/1.0"
-      if ($url =~ m@^http://[a-z]+\.google\.com/@);
+    $user_agent = 'Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.8.1.7)' .
+                  ' Gecko/20070914 Firefox/2.0.0.7';
   }
 
-  my $ua = LWP::UserAgent->new;
-  $ua->env_proxy();
-  $ua->agent ("$progname/$version");
-  $ua->default_header ('Referer' => $referer);
+  my $ua = LWP::UserAgent->new ( agent => $user_agent,
+                                 keep_alive => 0,
+                                 env_proxy => 0,
+                               );
+  $ua->proxy ('http', $http_proxy) if $http_proxy;
+  $ua->default_header ('Referer' => $referer) if $referer;
+  $ua->default_header ('Accept' => '*/*');
   $ua->timeout($timeout) if $timeout;
 
+  if (0) {
+    $ua->add_handler ("request_send",
+                      sub($$$) {
+                        my ($req, $ua, $h) = @_;
+                        print "\n>>[[\n"; $req->dump; print "\n]]\n";
+                        return;
+                      });
+    $ua->add_handler ("response_data",
+                      sub($$$$) {
+                        my ($req, $ua, $h, $data) = @_;
+                        #print "\n<<[[\n"; print $data; print "\n]]\n";
+                        return 1;
+                      });
+    $ua->add_handler ("request_done",
+                      sub($$$) {
+                        my ($req, $ua, $h) = @_;
+                        print "\n<<[[\n"; $req->dump; print "\n]]\n";
+                        return;
+                      });
+  }
+
   if ($verbose_http) {
     LOG (1, "  ==> GET $url");
     LOG (1, "  ==> User-Agent: $user_agent");
@@ -419,7 +439,8 @@ sub get_document_1($$$) {
   my $res = $ua->get ($url);
 
   my $http = ($res ? $res->status_line : '') || '';
-  my $head = ($res ? $res->headers()->as_string : '') || '';
+  my $head = ($res ? $res->headers()   : '') || '';
+  $head = $head->as_string() if $head;
   my $body = ($res && $res->is_success ? $res->decoded_content : '') || '';
 
   LOG ($verbose_net, "get_document_1 $url " . ($referer ? $referer : ""));
@@ -497,12 +518,12 @@ sub get_document($$;$) {
         $url = $location;
 
         if ($url =~ m@^/@) {
-          $referer =~ m@^(http://[^/]+)@i;
+          $referer =~ m@^(https?://[^/]+)@i;
           $url = $1 . $url;
         } elsif (! ($url =~ m@^[a-z]+:@i)) {
           $_ = $referer;
-          s@[^/]+$@@g if m@^http://[^/]+/@i;
-          $_ .= "/" if m@^http://[^/]+$@i;
+          s@[^/]+$@@g if m@^https?://[^/]+/@i;
+          $_ .= "/" if m@^https?://[^/]+$@i;
           $url = $_ . $url;
         }
 
@@ -580,12 +601,12 @@ sub pick_image_from_body($$) {
 
   # if there's at least one slash after the host, take off the last
   # pathname component
-  if ( m@^http://[^/]+/@io ) {
+  if ( m@^https?://[^/]+/@io ) {
     $base =~ s@[^/]+$@@go;
   }
 
   # if there are no slashes after the host at all, put one on the end.
-  if ( m@^http://[^/]+$@io ) {
+  if ( m@^https?://[^/]+$@io ) {
     $base .= "/";
   }
 
@@ -683,7 +704,7 @@ sub pick_image_from_body($$) {
 
       if ( m@^/@o ) {
         my $site;
-        ( $site = $base ) =~ s@^(http://[^/]*).*@$1@gio;
+        ( $site = $base ) =~ s@^(https?://[^/]*).*@$1@gio;
         $_ = "$site$link";
       } elsif ( ! m@^[^/:?]+:@ ) {
         $_ = "$base$link";
@@ -692,7 +713,7 @@ sub pick_image_from_body($$) {
       }
 
       # skip non-http
-      if ( ! m@^http://@io ) {
+      if ( ! m@^https?://@io ) {
         next;
       }
 
@@ -969,26 +990,6 @@ sub pick_from_search_engine($$$) {
 
   my @subpages;
 
-  if ($body =~ m/^\{\"/s) {                    # Google AJAX JSON response.
-
-    my @chunks = split (/"GsearchResultClass"/, $body);
-    shift @chunks;
-    my $body2 = '';
-    my $n = 1;
-    foreach (@chunks) {
-      my ($img) = m/"unescapedUrl":"(.*?)"/si;
-      my ($url) = m/"originalContextUrl":"(.*?)"/si;
-      next unless ($img && $url);
-      $url = ("/imgres" .
-              "?imgurl="    . url_quote($img) .
-              "&imgrefurl=" . url_quote($url) .
-              "&...");
-      $body2 .= "<A HREF=\"" . html_quote($url) . "\">$n</A>\n";
-      $n++;
-    }
-    $body = $body2 if $body2;
-  }
-
   my $search_count = "?";
   if ($body =~ m@found (approximately |about )?(<B>)?(\d+)(</B>)? image@) {
     $search_count = $3;
@@ -1037,15 +1038,19 @@ sub pick_from_search_engine($$$) {
   s/(<A )/\n$1/gi;
   foreach (split(/\n/)) {
     $href_count++;
-    my ($u) = m@<A\s.*\bHREF\s*=\s*([^>]+)>@i;
+    my ($u) = m@<A\s.*?\bHREF\s*=\s*([\"\'][^\"\'<>]+)@i;
     next unless $u;
+    my ($u2) = m@<IMG\s.*\bSRC\s*=\s*[\"\']([^\"\'<>]+)@i;
 
-    if (m/\bm="{(.*?)}"/s) {           # Bing info is inside JSON crud
+    if (m/\bm="\{(.*?)\}"/s) {         # Bing info is inside JSON crud
       my $json = html_unquote($1);
-      my ($href) = ($json =~ m/\bsurl:"(.*?)"/s);
-      my ($img)  = ($json =~ m/\bimgurl:"(.*?)"/s);
+      my ($href) = ($json =~ m/\b(?:surl|purl)\"?:\s*"(.*?)"/s);
+      my ($img)  = ($json =~ m/\b(?:imgurl|murl)\"?:\s*"(.*?)"/s);
       $u = "$img\t$href" if ($img && $href);
 
+    } elsif ($u2 && $u2 =~ m@://[^/]*\.gstatic\.com/@s) { $u = $u2;
+                                                          $u =~ s/^\"|\"$//s;
+
     } elsif ($u =~ m/^\"([^\"]*)\"/) { $u = $1   # quoted string
     } elsif ($u =~ m/^([^\s]*)\s/) { $u = $1;    # or token
     }
@@ -1076,7 +1081,7 @@ sub depoison(@) {
   my (@urls) = @_;
   my @urls2 = ();
   foreach (@urls) {
-    my ($h) = m@^http://([^/: \t\r\n]+)@i;
+    my ($h) = m@^https?://([^/: \t\r\n]+)@i;
 
     next unless defined($h);
 
@@ -1269,7 +1274,7 @@ sub pick_from_alta_vista_images($) {
     next unless ($u =~ s/^.*\*\*(http%3a.*$)/$1/gsi);
     $u = url_unquote($u);
 
-    next unless ($u =~ m@^http://@i);    #  skip non-HTTP or relative URLs
+    next unless ($u =~ m@^https?://@i);    #  skip non-HTTP or relative URLs
     next if ($u =~ m@[/.]altavista\.com\b@i);     # skip altavista builtins
     next if ($u =~ m@[/.]yahoo\.com\b@i);         # yahoo and av in cahoots?
     next if ($u =~ m@[/.]doubleclick\.net\b@i);   # you cretins
@@ -1344,12 +1349,8 @@ sub pick_from_security_camera($) {
 #
 ############################################################################
 
-
-my $google_images_url =     "http://ajax.googleapis.com/ajax/services/" .
-                            "search/images" .
-                            "?v=1.0" .
-                            "&rsz=large" .
-                            "&q=";
+my $google_images_url = 'https://www.google.com/search' .
+                       '?source=lnms&tbm=isch&tbs=isz:l&q=';
 
 # googleimgs
 sub pick_from_google_images($;$$) {
@@ -1366,34 +1367,21 @@ sub pick_from_google_images($;$$) {
     pick_from_search_engine ($timeout, $search_url, $words);
 
   my @candidates = ();
-  my %referers;
   foreach my $u (@subpages) {
-    next unless ($u =~ m@imgres\?imgurl@i);    #  All pics start with this
-    next if ($u =~ m@[/.]google\.com\b@i);     # skip google builtins
-
     $u = html_unquote($u);
-    if ($u =~ m@^/imgres\?imgurl=(.*?)&imgrefurl=(.*?)\&@) {
-      my $ref = $2;
-      my $img = $1;
-      $ref = url_decode($ref);
-      $img = url_decode($img);
-
-      $img = "http://$img" unless ($img =~ m/^https?:/i);
-
-      LOG ($verbose_filter, "  candidate: $ref");
-      push @candidates, $img;
-      $referers{$img} = $ref;
-    }
+    # next if ($u =~ m@^https?://[^.]*\.(google|youtube)\.com/@s);
+    next unless ($u =~ m@^https?://[^/]*\.gstatic\.com@s);
+    LOG ($verbose_filter, "  candidate: $u");
+    push @candidates, $u;
   }
 
   @candidates = depoison (@candidates);
   return () if ($#candidates < 0);
   my $i = int(rand($#candidates+1));
   my $img = $candidates[$i];
-  my $ref = $referers{$img};
 
-  LOG ($verbose_load, "picked image " . ($i+1) . ": $img (on $ref)");
-  return ($ref, $img);
+  LOG ($verbose_load, "picked image " . ($i+1) . ": $img");
+  return ($img, $img);
 }
 
 
@@ -1427,6 +1415,7 @@ sub pick_from_google_image_numbers($) {
 # Google Image Search.
 # By jwz, inspired by the excellent Random Personal Picture Finder
 # at http://www.diddly.com/random/
+# May 2017: Commented out a bunch of formats that have fallen out of favor.
 #
 ############################################################################
 
@@ -1435,32 +1424,32 @@ my @photomakers = (
   # Common digital camera file name formats, as described at
   # http://www.diddly.com/random/about.html
   #
-  sub { sprintf ("dcp%05d.jpg",  int(rand(4000))); },  # Kodak
+# sub { sprintf ("dcp%05d.jpg",  int(rand(4000))); },  # Kodak
   sub { sprintf ("dsc%05d.jpg",  int(rand(4000))); },  # Nikon
   sub { sprintf ("dscn%04d.jpg", int(rand(4000))); },  # Nikon
-  sub { sprintf ("mvc-%03d.jpg", int(rand(999)));  },  # Sony Mavica
-  sub { sprintf ("mvc%05d.jpg",  int(rand(9999))); },  # Sony Mavica
-  sub { sprintf ("P101%04d.jpg", int(rand(9999))); },  # Olympus w/ date=101
-  sub { sprintf ("P%x%02d%04d.jpg",                    # Olympus
-                 int(rand(0xC)), int(rand(30))+1,
-                 rand(9999)); },
+# sub { sprintf ("mvc-%03d.jpg", int(rand(999)));  },  # Sony Mavica
+# sub { sprintf ("mvc%05d.jpg",  int(rand(9999))); },  # Sony Mavica
+# sub { sprintf ("P101%04d.jpg", int(rand(9999))); },  # Olympus w/ date=101
+# sub { sprintf ("P%x%02d%04d.jpg",                    # Olympus
+#                int(rand(0xC)), int(rand(30))+1,
+#                rand(9999)); },
   sub { sprintf ("IMG_%03d.jpg",  int(rand(999))); },  # ?
-  sub { sprintf ("IMAG%04d.jpg",  int(rand(9999))); }, # RCA and Samsung
-  sub { my $n = int(rand(9999));                       # Canon
-          sprintf ("1%02d-%04d.jpg", int($n/100), $n); },
-  sub { my $n = int(rand(9999));                       # Canon
-          sprintf ("1%02d-%04d_IMG.jpg",
-                   int($n/100), $n); },
+# sub { sprintf ("IMAG%04d.jpg",  int(rand(9999))); }, # RCA and Samsung
+# sub { my $n = int(rand(9999));                       # Canon
+#         sprintf ("1%02d-%04d.jpg", int($n/100), $n); },
+# sub { my $n = int(rand(9999));                       # Canon
+#         sprintf ("1%02d-%04d_IMG.jpg",
+#                  int($n/100), $n); },
   sub { sprintf ("IMG_%04d.jpg", int(rand(9999))); },  # Canon
   sub { sprintf ("dscf%04d.jpg", int(rand(9999))); },  # Fuji Finepix
-  sub { sprintf ("pdrm%04d.jpg", int(rand(9999))); },  # Toshiba PDR
-  sub { sprintf ("IM%06d.jpg", int(rand(9999))); },    # HP Photosmart
-  sub { sprintf ("EX%06d.jpg", int(rand(9999))); },    # HP Photosmart
+# sub { sprintf ("pdrm%04d.jpg", int(rand(9999))); },  # Toshiba PDR
+# sub { sprintf ("IM%06d.jpg", int(rand(9999))); },    # HP Photosmart
+# sub { sprintf ("EX%06d.jpg", int(rand(9999))); },    # HP Photosmart
 #  sub { my $n = int(rand(3));                         # Kodak DC-40,50,120
 #        sprintf ("DC%04d%s.jpg", int(rand(9999)),
 #                 $n == 0 ? 'S' : $n == 1 ? 'M' : 'L'); },
   sub { sprintf ("pict%04d.jpg", int(rand(9999))); },  # Minolta Dimage
-  sub { sprintf ("P%07d.jpg", int(rand(9999))); },     # Kodak DC290
+# sub { sprintf ("P%07d.jpg", int(rand(9999))); },     # Kodak DC290
 #  sub { sprintf ("%02d%02d%04d.jpg",                  # Casio QV3000, QV4000
 #                 int(rand(12))+1, int(rand(31))+1,
 #                 int(rand(999))); },
@@ -1469,9 +1458,9 @@ my @photomakers = (
 #                 int(rand(12))+1, int(rand(31))+1,
 #                 int(rand(999))); },
   sub { sprintf ("IMGP%04d.jpg", int(rand(9999))); },  # Pentax Optio S
-  sub { sprintf ("PANA%04d.jpg", int(rand(9999))); },  # Panasonic vid still
+# sub { sprintf ("PANA%04d.jpg", int(rand(9999))); },  # Panasonic vid still
   sub { sprintf ("HPIM%04d.jpg", int(rand(9999))); },  # HP Photosmart
-  sub { sprintf ("PCDV%04d.jpg", int(rand(9999))); },  # ?
+# sub { sprintf ("PCDV%04d.jpg", int(rand(9999))); },  # ?
  );
 
 
@@ -1615,7 +1604,7 @@ sub pick_from_alta_vista_text($) {
     next unless ($u =~ s/^.*\*\*(http%3a.*$)/$1/gsi);
     $u = url_unquote($u);
 
-    next unless ($u =~ m@^http://@i);    #  skip non-HTTP or relative URLs
+    next unless ($u =~ m@^https?://@i);    #  skip non-HTTP or relative URLs
     next if ($u =~ m@[/.]altavista\.com\b@i);     # skip altavista builtins
     next if ($u =~ m@[/.]yahoo\.com\b@i);         # yahoo and av in cahoots?
 
@@ -1671,7 +1660,7 @@ sub pick_from_hotbot_text($) {
 #    next unless ($u =~ m@/director.asp\?.*\btarget=([^&]+)@);
 #    $u = url_decode($1);
 
-    next unless ($u =~ m@^http://@i);    #  skip non-HTTP or relative URLs
+    next unless ($u =~ m@^https?://@i);    #  skip non-HTTP or relative URLs
     next if ($u =~ m@[/.]hotbot\.com\b@i);     # skip hotbot builtins
     next if ($u =~ m@[/.]lycos\.com\b@i);      # skip hotbot builtins
     next if ($u =~ m@[/.]inktomi\.com\b@i);    # skip hotbot builtins
@@ -1719,14 +1708,14 @@ sub pick_from_lycos_text($) {
 
     # Lycos plays redirection games.
     # (not any more?)
-#    next unless ($u =~ m@^http://click.lycos.com/director.asp
+#    next unless ($u =~ m@^https?://click.lycos.com/director.asp
 #                         .*
 #                         \btarget=([^&]+)
 #                         .*
 #                        @x);
 #    $u = url_decode($1);
 
-    next unless ($u =~ m@^http://@i);    #  skip non-HTTP or relative URLs
+    next unless ($u =~ m@^https?://@i);    #  skip non-HTTP or relative URLs
     next if ($u =~ m@[/.]hotbot\.com\b@i);     # skip lycos builtins
     next if ($u =~ m@[/.]lycos\.com\b@i);      # skip lycos builtins
     next if ($u =~ m@[/.]terralycos\.com\b@i); # skip lycos builtins
@@ -1769,11 +1758,11 @@ sub pick_from_yahoo_news_text($) {
   foreach my $u (@subpages) {
 
     # de-redirectize the URLs
-    $u =~ s@^http://rds\.yahoo\.com/.*-http%3A@http:@s;
+    $u =~ s@^https?://rds\.yahoo\.com/.*-http%3A@http:@s;
 
     # only accept URLs on Yahoo's news site
-    next unless ($u =~ m@^http://dailynews\.yahoo\.com/@i ||
-                 $u =~ m@^http://story\.news\.yahoo\.com/@i);
+    next unless ($u =~ m@^https?://dailynews\.yahoo\.com/@i ||
+                 $u =~ m@^https?://story\.news\.yahoo\.com/@i);
     next unless ($u =~ m@&u=/@);
 
     LOG ($verbose_filter, "  candidate: $u");
@@ -1810,7 +1799,10 @@ sub pick_from_livejournal_images($) {
   $last_search = $livejournal_img_url;   # for warnings
 
   my ( $base, $body ) = get_document ($livejournal_img_url, undef, $timeout);
-  return () unless $body;
+
+  # Often the document comes back empty. If so, just use the cache.
+  # return () unless $body;
+  $body = '' unless defined($body);
 
   $body =~ s/\n/ /gs;
   $body =~ s/(<recent-image)\b/\n$1/gsi;
@@ -1890,8 +1882,8 @@ sub pick_from_ircimages($) {
     if ($u =~ m/^\"([^\"]*)\"/) { $u = $1; }   # quoted string
     elsif ($u =~ m/^([^\s]*)\s/) { $u = $1; }  # or token
 
-    next unless ($u =~ m/^http:/i);
-    next if ($u =~ m@^http://(searchirc\.com\|ircimages\.com)@i);
+    next unless ($u =~ m/^https?:/i);
+    next if ($u =~ m@^https?://(searchirc\.com\|ircimages\.com)@i);
     next unless ($u =~ m@[.](gif|jpg|jpeg|pjpg|pjpeg|png)$@i);
 
     LOG ($verbose_http, "    HREF: $u");
@@ -2053,7 +2045,7 @@ sub pick_from_twitter_images($) {
     # Parsing JSON is a pain in the ass.  So we halfass it as usual.
     $body =~ s/^\[|\]$//s;
     $body =~ s/(\[.*?\])/{ $_ = $1; s@\},@\} @gs; $_; }/gsexi;
-    my @items = split (/},{/, $body);
+    my @items = split (/\},\{/, $body);
     foreach (@items) {
       my ($name) = m@"screen_name":"([^\"]+)"@si;
       my ($img)  = m@"media_url":"([^\"]+)"@si;
@@ -2131,30 +2123,38 @@ sub pick_from_flickr_recent($) {
   $last_search .= "?start=$start" if ($start > 0);
 
   my ( $base, $body ) = get_document ($last_search, undef, $timeout);
-  return () unless $body;
 
-  $body =~ s/[\r\n]/ /gs;
-  $body =~ s/(<a)\b/\n$1/gsi;
+  # If the document comes back empty. just use the cache.
+  # return () unless $body;
+  $body = '' unless defined($body);
 
   my $count = 0;
   my $count2 = 0;
-  foreach (split (/\n/, $body)) {
 
-    my ($page, $thumb) = m@<A \s [^<>]* \b HREF=\"([^<>\"]+)\" [^<>]* > \s*
-                           <IMG \s [^<>]* \b
-                               data-defer-src = \"([^<>\"]+)\" @xsi;
-    next unless defined ($thumb);
-    $page = html_unquote ($page);
-    $thumb = html_unquote ($thumb);
+  if ($body =~ m@{ *"_data": \[ ( .*? \} ) \]@six) {
+    $body = $1;
+  } else {
+    LOG ($verbose_load, "flickr unparsable: $last_search");
+    return ();
+  }
+
+  $body =~ s/[\r\n]/ /gs;
+  $body =~ s/(\},) *(\{)/$1\n$2/gs;     # "_flickrModelRegistry"
 
-    next unless ($thumb =~ m@^https?://[^/.]+\d*\.static\.?flickr\.com/@);
+  foreach my $chunk (split (/\n/, $body)) {
+    my ($img) = ($chunk =~ m@"displayUrl": *"(.*?)"@six);
+    next unless defined ($img);
+    $img =~ s/\\//gs;
+    $img = "//" unless ($img =~ m@^/@s);
+    $img = "http:$img" unless ($img =~ m/^http/s);
 
-    my $base = "http://www.flickr.com/";
-    $page  =~ s@^/@$base@;
-    $thumb =~ s@^/@$base@;
+    my ($user) = ($chunk =~ m/"pathAlias": *"(.*?)"/si);
+    next unless defined ($user);
 
-    my $img = $thumb;
-    $img =~ s/_[a-z](\.[a-z\d]+)$/$1/si;  # take off "thumb" suffix
+    my ($id) = ($img =~ m@/\d+/(\d+)_([\da-f]+)_@si);
+    my ($page) = "https://www.flickr.com/photos/$user/$id/";
+
+    # $img =~ s/_[a-z](\.[a-z\d]+)$/$1/si;  # take off "thumb" suffix
 
     $count++;
     next if ($flickr_cache{$img}); # already have it
@@ -2253,22 +2253,22 @@ sub pick_from_instagram($) {
   # Liberated access tokens.
   # jsdo.it search for: instagram client_id
   # Google search for: instagram "&client_id=" site:jsfiddle.net
-  my @tokens = ('b59fbe4563944b6c88cced13495c0f49', # gramfeed.com
-                'fa26679250df49c48a33fbcf30aae989', # instac.at
-                'd9494686198d4dfeb954979a3e270e5e', # iconosquare.com
-                '793ef48bb18e4197b61afce2d799b81c', # jsdo.it
-                '67b8a3e0073449bba70600d0fc68e6cb', # jsdo.it
-                '26a098e0df4d4b9ea8b4ce6c505b7742', # jsdo.it
-                '2437cbcd906a4c10940f990d283d3cd5', # jsdo.it
-                '191c7d7d5312464cbd92134f36ffdab5', # jsdo.it
-                'acfec809437b4340b2c38f66503af774', # jsdo.it
-                'e9f77604a3a24beba949c12d18130988', # jsdo.it
-                '2cd7bcf68ae346529770073d311575b3', # jsdo.it
-                '830c600fe8d742e2ab3f3b94f9bb22b7', # jsdo.it
-                '55865a0397ad41e5997dd95ef4df8da1', # jsdo.it
-                '192a5742f3644ea8bed1d25e439286a8', # jsdo.it
-                '38ed1477e7a44595861b8842cdb8ba23', # jsdo.it
-                'e52f79f645f54488ad0cc47f6f55ade6', # jsfiddle.net
+  my @tokens = (#'b59fbe4563944b6c88cced13495c0f49', # gramfeed.com
+                #'fa26679250df49c48a33fbcf30aae989', # instac.at
+                #'d9494686198d4dfeb954979a3e270e5e', # iconosquare.com
+                #'793ef48bb18e4197b61afce2d799b81c', # jsdo.it
+                #'67b8a3e0073449bba70600d0fc68e6cb', # jsdo.it
+                #'26a098e0df4d4b9ea8b4ce6c505b7742', # jsdo.it
+                #'2437cbcd906a4c10940f990d283d3cd5', # jsdo.it
+                #'191c7d7d5312464cbd92134f36ffdab5', # jsdo.it
+                #'acfec809437b4340b2c38f66503af774', # jsdo.it
+                #'e9f77604a3a24beba949c12d18130988', # jsdo.it
+                #'2cd7bcf68ae346529770073d311575b3', # jsdo.it
+                #'830c600fe8d742e2ab3f3b94f9bb22b7', # jsdo.it
+                #'55865a0397ad41e5997dd95ef4df8da1', # jsdo.it
+                #'192a5742f3644ea8bed1d25e439286a8', # jsdo.it
+                #'38ed1477e7a44595861b8842cdb8ba23', # jsdo.it
+                #'e52f79f645f54488ad0cc47f6f55ade6', # jsfiddle.net
                 );
 
   my $tok = $tokens[int(rand($#tokens+1))];
@@ -2290,7 +2290,7 @@ sub pick_from_instagram($) {
   foreach (@chunks) {
     s/\\//gs;
     my ($url) = m/"link":\s*"(.*?)"/s;
-    my ($img) = m/"standard_resolution":{"url":\s*"(.*?)"/s;
+    my ($img) = m/"standard_resolution":\{"url":\s*"(.*?)"/s;
        ($img) = m/"url":\s*"(.*?)"/s unless $url;
     next unless ($url && $img);
     push @urls, [ $url, $img ];
@@ -2445,7 +2445,7 @@ sub get_local_file($) {
   error ("$id: $file not in $local_dir?")
     unless ($file =~ m@^\Q$local_dir@o);
 
-  open (my $in, '<', $file) || error ("$id: $file: $!");
+  open (my $in, '<:raw', $file) || error ("$id: $file: $!");
   local $/ = undef;  # read entire file
   my $body = <$in>;
   close ($in) || error ("$id: $file: $!");
@@ -2698,7 +2698,7 @@ sub save_recent_url($$) {
   return unless ($verbose_warnings);
 
   $_ = $url;
-  my ($site) = m@^http://([^ \t\n\r/:]+)@;
+  my ($site) = m@^https?://([^ \t\n\r/:]+)@;
   return unless defined ($site);
 
   if ($base eq $driftnet_magic || $base eq $local_magic) {
@@ -3153,7 +3153,7 @@ sub x_or_pbm_output($) {
 
   if (defined ($webcollage_helper)) {
     LOG ($verbose_pbm, "found \"$webcollage_helper\"");
-    $webcollage_helper .= " -v";
+    $webcollage_helper = "'$webcollage_helper' -v";
   } else {
     LOG (($verbose_pbm || $verbose_load), "no $_ program");
   }
@@ -3262,7 +3262,7 @@ sub x_or_pbm_output($) {
     my ($iw, $ih);
 
     my $body = "";
-    open (my $imgf, '<', $bgimage) || error "couldn't open $bgimage: $!";
+    open (my $imgf, '<:raw', $bgimage) || error "couldn't open $bgimage: $!";
     local $/ = undef;  # read entire file
     $body = <$imgf>;
     close ($imgf);
@@ -3364,7 +3364,7 @@ sub paste_image($$$$) {
       return 0;
     }
 
-    open (my $out, '>', $image_tmp1) || error ("writing $image_tmp1: $!");
+    open (my $out, '>:raw', $image_tmp1) || error ("writing $image_tmp1: $!");
     (print $out $body) || error ("writing $image_tmp1: $!");
     close ($out) || error ("writing $image_tmp1: $!");
 
@@ -3398,7 +3398,7 @@ sub paste_image($$$$) {
     rename ($image_tmp2, $image_tmp1);
 
     # re-get the width/height in case the filter resized it.
-    open (my $imgf, '<', $image_tmp1) || return 0;
+    open (my $imgf, '<:raw', $image_tmp1) || return 0;
     $_ = <$imgf>;
     $_ = <$imgf>;
     ($iw, $ih) = m/^(\d+) (\d+)$/;
@@ -3757,13 +3757,13 @@ sub update_imagemap($$$$$$$$) {
 #
 sub set_proxy() {
 
-  if (! $http_proxy) {
+  if (! defined($http_proxy)) {
     # historical suckage: the environment variable name is lower case.
     $http_proxy = $ENV{http_proxy} || $ENV{HTTP_PROXY};
   }
 
   if (defined ($http_proxy)) {
-    if ($http_proxy && $http_proxy =~ m@^http://([^/]*)/?$@ ) {
+    if ($http_proxy && $http_proxy =~ m@^https?://([^/]*)/?$@ ) {
       # historical suckage: allow "http://host:port" as well as "host:port".
       $http_proxy = $1;
     }
@@ -3779,8 +3779,17 @@ sub set_proxy() {
     }
   }
 
+  delete $ENV{http_proxy};
+  delete $ENV{HTTP_PROXY};
+  delete $ENV{https_proxy};
+  delete $ENV{HTTPS_PROXY};
+  delete $ENV{PERL_LWP_ENV_PROXY};
+
   if ($http_proxy) {
+    $http_proxy = 'http://' . $http_proxy;
     LOG ($verbose_net, "proxy server: $http_proxy");
+  } else {
+    $http_proxy = undef;  # for --proxy ''
   }
 }
 
@@ -3815,78 +3824,73 @@ sub main() {
   my $root_p = 0;
   my $window_id = undef;
 
-  while ($_ = $ARGV[0]) {
-    shift @ARGV;
-    if ($_ eq "-display" ||
-        $_ eq "-displ" ||
-        $_ eq "-disp" ||
-        $_ eq "-dis" ||
-        $_ eq "-dpy" ||
-        $_ eq "-d") {
+  while ($#ARGV >= 0) {
+    $_ = shift @ARGV;
+    if (m/^--?d(i(s(p(l(a(y)?)?)?)?)?)?$/s) {
       $ENV{DISPLAY} = shift @ARGV;
-    } elsif ($_ eq "-root") {
+    } elsif (m/^--?root$/s) {
       $root_p = 1;
-    } elsif ($_ eq "-window-id" || $_ eq "--window-id") {
+    } elsif (m/^--?window-id$/s) {
       $window_id = shift @ARGV;
       $root_p = 1;
-    } elsif ($_ eq "-no-output") {
+    } elsif (m/^--?no-output$/s) {
       $no_output_p = 1;
-    } elsif ($_ eq "-urls-only") {
+    } elsif (m/^--?urls(-only)?$/s) {
       $urls_only_p = 1;
       $no_output_p = 1;
-    } elsif ($_ eq "-cocoa") {
+    } elsif (m/^--?cocoa$/s) {
       $cocoa_p = 1;
-    } elsif ($_ eq "-imagemap") {
+    } elsif (m/^--?imagemap$/s) {
       $imagemap_base = shift @ARGV;
       $no_output_p = 1;
-    } elsif ($_ eq "-verbose") {
+    } elsif (m/^--?verbose$/s) {
       $verbose++;
     } elsif (m/^-v+$/) {
       $verbose += length($_)-1;
-    } elsif ($_ eq "-delay") {
+    } elsif (m/^--?delay$/s) {
       $delay = shift @ARGV;
-    } elsif ($_ eq "-timeout") {
+    } elsif (m/^--?timeout$/s) {
       $http_timeout = shift @ARGV;
-    } elsif ($_ eq "-filter") {
+    } elsif (m/^--?filter$/s) {
       $filter_cmd = shift @ARGV;
-    } elsif ($_ eq "-filter2") {
+    } elsif (m/^--?filter2$/s) {
       $post_filter_cmd = shift @ARGV;
-    } elsif ($_ eq "-background" || $_ eq "-bg") {
+    } elsif (m/^--?(background|bg)$/s) {
       $background = shift @ARGV;
-    } elsif ($_ eq "-size") {
+    } elsif (m/^--?size$/s) {
       $_ = shift @ARGV;
       if (m@^(\d+)x(\d+)$@) {
         $img_width = $1;
         $img_height = $2;
       } else {
-        error "argument to \"-size\" must be of the form \"640x400\"";
+        error "argument to \"--size\" must be of the form \"640x400\"";
       }
-    } elsif ($_ eq "-proxy" || $_ eq "-http-proxy") {
+    } elsif (m/^--?(http-)?proxy$/s) {
       $http_proxy = shift @ARGV;
-    } elsif ($_ eq "-dictionary" || $_ eq "-dict") {
+    } elsif (m/^--?dict(ionary)?$/s) {
       $dict = shift @ARGV;
-    } elsif ($_ eq "-opacity") {
+    } elsif (m/^--?opacity$/s) {
       $opacity = shift @ARGV;
       error ("opacity must be between 0.0 and 1.0")
         if ($opacity <= 0 || $opacity > 1);
-    } elsif ($_ eq "-driftnet" || $_ eq "--driftnet") {
+    } elsif (m/^--?driftnet$/s) {
       @search_methods = ( 100, "driftnet", \&pick_from_driftnet );
       if (! ($ARGV[0] =~ m/^-/)) {
         $driftnet_cmd = shift @ARGV;
       } else {
         $driftnet_cmd = $default_driftnet_cmd;
       }
-    } elsif ($_ eq "-directory" || $_ eq "--directory") {
+    } elsif (m/^--?dir(ectory)?$/s) {
       @search_methods = ( 100, "local", \&pick_from_local_dir );
       if (! ($ARGV[0] =~ m/^-/)) {
         $local_dir = shift @ARGV;
       } else {
         error ("local directory path must be set")
       }
-    } elsif ($_ eq "-fps") {
+    } elsif (m/^--?fps$/s) {
       # -fps only works on MacOS, via "webcollage-cocoa.m".
       # Ignore it if passed to this script in an X11 context.
-    } elsif ($_ eq "-debug" || $_ eq "--debug") {
+    } elsif (m/^--?debug$/s) {
       my $which = shift @ARGV;
       my @rest = @search_methods;
       my $ok = 0;
@@ -3903,17 +3907,19 @@ sub main() {
       }
       error "no such search method as \"$which\"" unless ($ok);
       LOG (1, "DEBUG: using only \"$which\"");
+      $report_performance_interval = 30;
 
     } else {
+      print STDERR "unknown option: $_\n\n";
       print STDERR "$copyright\nusage: $progname " .
-              "[-root] [-display dpy] [-verbose] [-debug which]\n" .
-        "\t\t  [-timeout secs] [-delay secs] [-size WxH]\n" .
-        "\t\t  [-no-output] [-urls-only] [-imagemap filename]\n" .
-        "\t\t  [-background color] [-opacity f]\n" .
-        "\t\t  [-filter cmd] [-filter2 cmd]\n" .
-        "\t\t  [-dictionary dictionary-file] [-http-proxy host[:port]]\n" .
-        "\t\t  [-driftnet [driftnet-program-and-args]]\n" .
-        "\t\t  [-directory local-image-directory]\n" .
+              "[--root] [--display dpy] [--verbose] [--debug which]\n" .
+        "\t\t  [--timeout secs] [--delay secs] [--size WxH]\n" .
+        "\t\t  [--no-output] [--urls-only] [--imagemap filename]\n" .
+        "\t\t  [--background color] [--opacity f]\n" .
+        "\t\t  [--filter cmd] [--filter2 cmd]\n" .
+        "\t\t  [--dictionary dictionary-file] [--http-proxy host[:port]]\n" .
+        "\t\t  [--driftnet [driftnet-program-and-args]]\n" .
+        "\t\t  [--directory local-image-directory]\n" .
         "\n";
       exit 1;
     }
@@ -3921,7 +3927,7 @@ sub main() {
 
   if (!$root_p && !$no_output_p && !$cocoa_p) {
     print STDERR $copyright;
-    error "the -root argument is mandatory (for now.)";
+    error "the --root argument is mandatory (for now.)";
   }
 
   if (!$no_output_p && !$cocoa_p && !$ENV{DISPLAY}) {
@@ -3987,7 +3993,7 @@ sub main() {
   }
 
   if ($imagemap_base && !($img_width && $img_height)) {
-    error ("-size WxH is required with -imagemap");
+    error ("--size WxH is required with --imagemap");
   }
 
   if (defined ($local_dir)) {