www/ecrire/inc/distant.php

   1 <?php
   2
   3 /***************************************************************************\
   4  *  SPIP, Systeme de publication pour l'internet                           *
   5  *                                                                         *
   6  *  Copyright (c) 2001-2013                                                *
   7  *  Arnaud Martin, Antoine Pitrou, Philippe Riviere, Emmanuel Saint-James  *
   8  *                                                                         *
   9  *  Ce programme est un logiciel libre distribue sous licence GNU/GPL.     *
  10  *  Pour plus de details voir le fichier COPYING.txt ou l'aide en ligne.   *
  11 \***************************************************************************/
  12
  13 /**
  14  * Ce fichier gère l'obtention de données distantes
  15  *
  16  * @package SPIP\Core\Distant
  17 **/
  18 if (!defined('_ECRIRE_INC_VERSION')) return;
  19
  20 if (!defined('_INC_DISTANT_VERSION_HTTP')) define('_INC_DISTANT_VERSION_HTTP', "HTTP/1.0");
  21 if (!defined('_INC_DISTANT_CONTENT_ENCODING')) define('_INC_DISTANT_CONTENT_ENCODING', "gzip");
  22 if (!defined('_INC_DISTANT_USER_AGENT')) define('_INC_DISTANT_USER_AGENT', 'SPIP-' . $GLOBALS['spip_version_affichee'] . " (" . $GLOBALS['home_server'] . ")");
  23
  24 define('_REGEXP_COPIE_LOCALE', ',' .
  25        preg_replace('@^https?:@', 'https?:', $GLOBALS['meta']['adresse_site'])
  26        . "/?spip.php[?]action=acceder_document.*file=(.*)$,");
  27
  28 //@define('_COPIE_LOCALE_MAX_SIZE',2097152); // poids (inc/utils l'a fait)
  29
  30 /**
  31  * Crée au besoin la copie locale d'un fichier distant
  32  *
  33  * Prend en argument un chemin relatif au rep racine, ou une URL
  34  * Renvoie un chemin relatif au rep racine, ou false
  35  *
  36  * @link http://www.spip.net/4155
  37  *
  38  * @param $source
  39  * @param string $mode
  40  *   'test' - ne faire que tester
  41  *   'auto' - charger au besoin
  42  *   'modif' - Si deja present, ne charger que si If-Modified-Since
  43  *   'force' - charger toujours (mettre a jour)
  44  * @param string $local
  45  *   permet de specifier le nom du fichier local (stockage d'un cache par exemple, et non document IMG)
  46  * @return bool|string
  47  */
  48 function copie_locale($source, $mode='auto', $local = null) {
  49
  50         // si c'est la protection de soi-meme, retourner le path
  51         if ($mode !== 'force' AND preg_match(_REGEXP_COPIE_LOCALE, $source, $match)) {
  52                 $source = substr(_DIR_IMG,strlen(_DIR_RACINE)) . urldecode($match[1]);
  53                 return @file_exists($source) ? $source : false;
  54         }
  55
  56         if (is_null($local))
  57                 $local = fichier_copie_locale($source);
  58         else {
  59                 if (_DIR_RACINE AND strncmp(_DIR_RACINE, $local, strlen(_DIR_RACINE))==0) {
  60                         $local = substr($local, strlen(_DIR_RACINE));
  61                 }
  62         }
  63
  64         // si $local = '' c'est un fichier refuse par fichier_copie_locale(),
  65         // par exemple un fichier qui ne figure pas dans nos documents ;
  66         // dans ce cas on n'essaie pas de le telecharger pour ensuite echouer
  67         if (!$local) return false;
  68
  69         $localrac = _DIR_RACINE.$local;
  70         $t = ($mode=='force') ? false  : @file_exists($localrac);
  71
  72         // test d'existence du fichier
  73         if ($mode=='test') return $t ? $local : '';
  74
  75         // sinon voir si on doit/peut le telecharger
  76         if ($local==$source OR !preg_match(',^\w+://,', $source))
  77                 return $local;
  78
  79         if ($mode=='modif' OR !$t){
  80                 // passer par un fichier temporaire unique pour gerer les echecs en cours de recuperation
  81                 // et des eventuelles recuperations concurantes
  82                 include_spip("inc/acces");
  83                 $res = recuperer_page($source, $localrac, false, _COPIE_LOCALE_MAX_SIZE, '', '', false, $t ? filemtime($localrac) : '');
  84                 if (!$res) {
  85                         if (!$t) // si $t c'est sans doute juste un not-modified-since qui fait renvoyer false
  86                                 spip_log("copie_locale : Echec recuperation $source sur $localrac",_LOG_INFO_IMPORTANTE);
  87                         return $t ? $local : false;
  88                 }
  89                 spip_log("copie_locale : recuperation $source sur $localrac taille $res OK");
  90
  91                 // pour une eventuelle indexation
  92                 pipeline('post_edition',
  93                         array(
  94                                 'args' => array(
  95                                         'operation' => 'copie_locale',
  96                                         'source' => $source,
  97                                         'fichier' => $local
  98                                 ),
  99                                 'data' => null
 100                         )
 101                 );
 102         }
 103
 104         return $local;
 105 }
 106
 107 // http://doc.spip.org/@prepare_donnees_post
 108 function prepare_donnees_post($donnees, $boundary = '') {
 109
 110         // permettre a la fonction qui a demande le post de formater elle meme ses donnees
 111         // pour un appel soap par exemple
 112         // l'entete est separe des donnees par un double retour a la ligne
 113         // on s'occupe ici de passer tous les retours lignes (\r\n, \r ou \n) en \r\n
 114         if (is_string($donnees) && strlen($donnees)){
 115                 $entete = "";
 116                 // on repasse tous les \r\n et \r en simples \n
 117                 $donnees = str_replace("\r\n","\n",$donnees);
 118                 $donnees = str_replace("\r","\n",$donnees);
 119                 // un double retour a la ligne signifie la fin de l'entete et le debut des donnees
 120                 $p = strpos($donnees, "\n\n");
 121                 if ($p!==FALSE){
 122                         $entete = str_replace("\n", "\r\n", substr($donnees, 0, $p+1));
 123                         $donnees = substr($donnees, $p+2);
 124                 }
 125                 $chaine = str_replace("\n", "\r\n", $donnees);
 126         }
 127         else {
 128                 /* boundary automatique */
 129                 // Si on a plus de 500 octects de donnees, on "boundarise"
 130                 if ($boundary===''){
 131                         $taille = 0;
 132                         foreach ($donnees as $cle => $valeur){
 133                                 if (is_array($valeur)){
 134                                         foreach ($valeur as $val2){
 135                                                 $taille += strlen($val2);
 136                                         }
 137                                 } else {
 138                                         // faut-il utiliser spip_strlen() dans inc/charsets ?
 139                                         $taille += strlen($valeur);
 140                                 }
 141                         }
 142                         if ($taille>500){
 143                                 $boundary = substr(md5(rand() . 'spip'), 0, 8);
 144                         }
 145                 }
 146
 147                 if (is_string($boundary) and strlen($boundary)){
 148                         // fabrique une chaine HTTP pour un POST avec boundary
 149                         $entete = "Content-Type: multipart/form-data; boundary=$boundary\r\n";
 150                         $chaine = '';
 151                         if (is_array($donnees)) {
 152                                 foreach ($donnees as $cle => $valeur) {
 153                                         $chaine .= "\r\n--$boundary\r\n";
 154                                         $chaine .= "Content-Disposition: form-data; name=\"$cle\"\r\n";
 155                                         $chaine .= "\r\n";
 156                                         $chaine .= $valeur;
 157                                 }
 158                                 $chaine .= "\r\n--$boundary\r\n";
 159                         }
 160                 } else {
 161                         // fabrique une chaine HTTP simple pour un POST
 162                         $entete = 'Content-Type: application/x-www-form-urlencoded'."\r\n";
 163                         $chaine = array();
 164                         if (is_array($donnees)) {
 165                                 foreach ($donnees as $cle => $valeur) {
 166                                         if (is_array($valeur)) {
 167                                                 foreach ($valeur as $val2) {
 168                                                         $chaine[] = rawurlencode($cle).'='.rawurlencode($val2);
 169                                                 }
 170                                         } else {
 171                                                 $chaine[] = rawurlencode($cle).'='.rawurlencode($valeur);
 172                                         }
 173                                 }
 174                                 $chaine = implode('&', $chaine);
 175                         } else {
 176                                 $chaine = $donnees;
 177                         }
 178                 }
 179         }
 180         return array($entete, $chaine);
 181 }
 182
 183 //
 184 // Recupere une page sur le net
 185 // et au besoin l'encode dans le charset local
 186 //
 187 // options : get_headers si on veut recuperer les entetes
 188 // taille_max : arreter le contenu au-dela (0 = seulement les entetes ==>HEAD)
 189 // Par defaut taille_max = 1Mo.
 190 // datas, une chaine ou un tableau pour faire un POST de donnees
 191 // boundary, pour forcer l'envoi par cette methode
 192 // et refuser_gz pour forcer le refus de la compression (cas des serveurs orthographiques)
 193 // date_verif, un timestamp unix pour arreter la recuperation si la page distante n'a pas ete modifiee depuis une date donnee
 194 // uri_referer, preciser un referer different
 195 // Le second argument ($trans) :
 196 // * si c'est une chaine longue, alors c'est un nom de fichier
 197 //   dans lequel on ecrit directement la page
 198 // * si c'est true/null ca correspond a une demande d'encodage/charset
 199 // http://doc.spip.org/@recuperer_page
 200 function recuperer_page($url, $trans = false, $get_headers = false,
 201                         $taille_max = null, $datas = '', $boundary = '', $refuser_gz = false,
 202                         $date_verif = '', $uri_referer = ''){
 203         $gz = false;
 204
 205         // $copy = copier le fichier ?
 206         $copy = (is_string($trans) AND strlen($trans)>5); // eviter "false" :-)
 207
 208         if (is_null($taille_max))
 209                 $taille_max = $copy ? _COPIE_LOCALE_MAX_SIZE : 1048576;
 210
 211         // Accepter les URLs au format feed:// ou qui ont oublie le http://
 212         $url = preg_replace(',^feed://,i', 'http://', $url);
 213         if (!preg_match(',^[a-z]+://,i', $url)) $url = 'http://' . $url;
 214
 215         if ($taille_max==0)
 216                 $get = 'HEAD';
 217         else
 218                 $get = 'GET';
 219
 220         if (!empty($datas)) {
 221                 $get = 'POST';
 222                 list($type, $postdata) = prepare_donnees_post($datas, $boundary);
 223                 $datas = $type . 'Content-Length: ' . strlen($postdata) . "\r\n\r\n" . $postdata;
 224         }
 225
 226         // dix tentatives maximum en cas d'entetes 301...
 227         for ($i = 0; $i<10; $i++){
 228                 $url = recuperer_lapage($url, $trans, $get, $taille_max, $datas, $refuser_gz, $date_verif, $uri_referer);
 229                 if (!$url) return false;
 230                 if (is_array($url)){
 231                         list($headers, $result) = $url;
 232                         return ($get_headers ? $headers . "\n" : '') . $result;
 233                 } else spip_log("recuperer page recommence sur $url");
 234         }
 235 }
 236
 237 // args comme ci-dessus (presque)
 238 // retourne l'URL en cas de 301, un tableau (entete, corps) si ok, false sinon
 239 // si $trans est null -> on ne veut que les headers
 240 // si $trans est une chaine, c'est un nom de fichier pour ecrire directement dedans
 241 // http://doc.spip.org/@recuperer_lapage
 242 function recuperer_lapage($url, $trans = false, $get = 'GET', $taille_max = 1048576, $datas = '', $refuser_gz = false, $date_verif = '', $uri_referer = ''){
 243         // $copy = copier le fichier ?
 244         $copy = (is_string($trans) AND strlen($trans)>5); // eviter "false" :-)
 245
 246         // si on ecrit directement dans un fichier, pour ne pas manipuler
 247         // en memoire refuser gz
 248         if ($copy)
 249                 $refuser_gz = true;
 250
 251         // ouvrir la connexion et envoyer la requete et ses en-tetes
 252         list($f, $fopen) = init_http($get, $url, $refuser_gz, $uri_referer, $datas, _INC_DISTANT_VERSION_HTTP, $date_verif);
 253         if (!$f){
 254                 spip_log("ECHEC init_http $url");
 255                 return false;
 256         }
 257
 258         // Sauf en fopen, envoyer le flux d'entree
 259         // et recuperer les en-tetes de reponses
 260         if ($fopen)
 261                 $headers = '';
 262         else {
 263                 $headers = recuperer_entetes($f, $date_verif);
 264                 if (is_numeric($headers)){
 265                         fclose($f);
 266                         // Chinoisierie inexplicable pour contrer
 267                         // les actions liberticides de l'empire du milieu
 268                         if ($headers){
 269                                 spip_log("HTTP status $headers pour $url");
 270                                 return false;
 271                         }
 272                         elseif ($result = @file_get_contents($url))
 273                                 return array('', $result);
 274                         else
 275                                 return false;
 276                 }
 277                 if (!is_array($headers)){ // cas Location
 278                         fclose($f);
 279                         include_spip('inc/filtres');
 280                         return suivre_lien($url, $headers);
 281                 }
 282                 $headers = join('', $headers);
 283         }
 284
 285         if ($trans===NULL) return array($headers, '');
 286
 287         // s'il faut deballer, le faire via un fichier temporaire
 288         // sinon la memoire explose pour les gros flux
 289
 290         $gz = preg_match(",\bContent-Encoding: .*gzip,is", $headers) ?
 291                 (_DIR_TMP . md5(uniqid(mt_rand())) . '.tmp.gz') : '';
 292
 293 #       spip_log("entete ($trans $copy $gz)\n$headers");
 294         $result = recuperer_body($f, $taille_max, $gz ? $gz : ($copy ? $trans : ''));
 295         fclose($f);
 296         if (!$result)
 297                 return array($headers, $result);
 298
 299         // Decompresser au besoin
 300         if ($gz){
 301                 $result = join('', gzfile($gz));
 302                 supprimer_fichier($gz);
 303         }
 304         // Faut-il l'importer dans notre charset local ?
 305         if ($trans===true){
 306                 include_spip('inc/charsets');
 307                 $result = transcoder_page($result, $headers);
 308         }
 309
 310         return array($headers, $result);
 311 }
 312
 313 // http://doc.spip.org/@recuperer_body
 314 function recuperer_body($f, $taille_max = 1048576, $fichier = ''){
 315         $taille = 0;
 316         $result = '';
 317         $fp = false;
 318         if ($fichier){
 319                 include_spip("inc/acces");
 320                 $tmpfile = "$fichier.".creer_uniqid().".tmp";
 321                 $fp = spip_fopen_lock($tmpfile, 'w', LOCK_EX);
 322                 if (!$fp AND file_exists($fichier)){
 323                         return filesize($fichier);
 324                 }
 325                 if (!$fp)
 326                         return false;
 327                 $result = 0; // on renvoie la taille du fichier
 328         }
 329         while (!feof($f) AND $taille<$taille_max){
 330                 $res = fread($f, 16384);
 331                 $taille += strlen($res);
 332                 if ($fp){
 333                         fwrite($fp, $res);
 334                         $result = $taille;
 335                 }
 336                 else
 337                         $result .= $res;
 338         }
 339         if ($fp){
 340                 spip_fclose_unlock($fp);
 341                 spip_unlink($fichier);
 342                 @rename($tmpfile, $fichier);
 343                 if (!file_exists($fichier))
 344                         return false;
 345         }
 346         return $result;
 347 }
 348
 349 // Lit les entetes de reponse HTTP sur la socket $f et retourne:
 350 // la valeur (chaine) de l'en-tete Location si on l'a trouvee
 351 // la valeur (numerique) du statut si different de 200, notamment Not-Modified
 352 // le tableau des entetes dans tous les autres cas
 353
 354 // http://doc.spip.org/@recuperer_entetes
 355 function recuperer_entetes($f, $date_verif = ''){
 356         $s = @trim(fgets($f, 16384));
 357
 358         if (!preg_match(',^HTTP/[0-9]+\.[0-9]+ ([0-9]+),', $s, $r)){
 359                 return 0;
 360         }
 361         $status = intval($r[1]);
 362         $headers = array();
 363         $not_modif = $location = false;
 364         while ($s = trim(fgets($f, 16384))){
 365                 $headers[] = $s . "\n";
 366                 preg_match(',^([^:]*): *(.*)$,i', $s, $r);
 367                 list(, $d, $v) = $r;
 368                 if (strtolower(trim($d))=='location' AND $status>=300 AND $status<400){
 369                         $location = $v;
 370                 }
 371                 elseif ($date_verif AND ($d=='Last-Modified')) {
 372                         if ($date_verif>=strtotime($v)){
 373                                 //Cas ou la page distante n'a pas bouge depuis
 374                                 //la derniere visite
 375                                 $not_modif = true;
 376                         }
 377                 }
 378         }
 379
 380         if ($location)
 381                 return $location;
 382         if ($status!=200 or $not_modif)
 383                 return $status;
 384         return $headers;
 385 }
 386
 387 // Si on doit conserver une copie locale des fichiers distants, autant que ca
 388 // soit a un endroit canonique -- si ca peut etre bijectif c'est encore mieux,
 389 // mais la tout de suite je ne trouve pas l'idee, etant donne les limitations
 390 // des filesystems
 391 // http://doc.spip.org/@nom_fichier_copie_locale
 392 function nom_fichier_copie_locale($source, $extension){
 393         include_spip('inc/documents');
 394
 395         $d = creer_repertoire_documents('distant'); # IMG/distant/
 396         $d = sous_repertoire($d, $extension); # IMG/distant/pdf/
 397
 398         // on se place tout le temps comme si on etait a la racine
 399         if (_DIR_RACINE)
 400                 $d = preg_replace(',^' . preg_quote(_DIR_RACINE) . ',', '', $d);
 401
 402         $m = md5($source);
 403
 404         return $d
 405                 . substr(preg_replace(',[^\w-],', '', basename($source)) . '-' . $m, 0, 12)
 406                 . substr($m, 0, 4)
 407                 . ".$extension";
 408 }
 409
 410 //
 411 // Donne le nom de la copie locale de la source
 412 //
 413 // http://doc.spip.org/@fichier_copie_locale
 414 function fichier_copie_locale($source){
 415         // Si c'est deja local pas de souci
 416         if (!preg_match(',^\w+://,', $source)){
 417                 if (_DIR_RACINE)
 418                         $source = preg_replace(',^' . preg_quote(_DIR_RACINE) . ',', '', $source);
 419                 return $source;
 420         }
 421
 422         // optimisation : on regarde si on peut deviner l'extension dans l'url et si le fichier
 423         // a deja ete copie en local avec cette extension
 424         // dans ce cas elle est fiable, pas la peine de requeter en base
 425         $path_parts = pathinfo($source);
 426         $ext = $path_parts ? $path_parts['extension'] : '';
 427         if ($ext
 428         AND preg_match(',^\w+$,', $ext) // pas de php?truc=1&...
 429         AND $f = nom_fichier_copie_locale($source, $ext)
 430         AND file_exists(_DIR_RACINE . $f)
 431         )
 432                 return $f;
 433
 434
 435         // Si c'est deja dans la table des documents,
 436         // ramener le nom de sa copie potentielle
 437
 438         $ext = sql_getfetsel("extension", "spip_documents", "fichier=" . sql_quote($source) . " AND distant='oui' AND extension <> ''");
 439
 440
 441         if ($ext) return nom_fichier_copie_locale($source, $ext);
 442
 443         // voir si l'extension indiquee dans le nom du fichier est ok
 444         // et si il n'aurait pas deja ete rapatrie
 445
 446         $ext = $path_parts ? $path_parts['extension'] : '';
 447
 448         if ($ext AND sql_getfetsel("extension", "spip_types_documents", "extension=" . sql_quote($ext))){
 449                 $f = nom_fichier_copie_locale($source, $ext);
 450                 if (file_exists(_DIR_RACINE . $f))
 451                         return $f;
 452         }
 453
 454         // Ping  pour voir si son extension est connue et autorisee
 455         // avec mise en cache du resultat du ping
 456
 457         $cache = sous_repertoire(_DIR_CACHE, 'rid') . md5($source);
 458         if (!@file_exists($cache)
 459                 OR !$path_parts = @unserialize(spip_file_get_contents($cache))
 460                 OR _request('var_mode')=='recalcul'
 461         ){
 462                 $path_parts = recuperer_infos_distantes($source, 0, false);
 463                 ecrire_fichier($cache, serialize($path_parts));
 464         }
 465         $ext = $path_parts ? $path_parts['extension'] : '';
 466         if ($ext AND sql_getfetsel("extension", "spip_types_documents", "extension=" . sql_quote($ext))){
 467                 return nom_fichier_copie_locale($source, $ext);
 468         }
 469         spip_log("pas de copie locale pour $source");
 470 }
 471
 472
 473 // Recuperer les infos d'un document distant, sans trop le telecharger
 474 #$a['body'] = chaine
 475 #$a['type_image'] = booleen
 476 #$a['titre'] = chaine
 477 #$a['largeur'] = intval
 478 #$a['hauteur'] = intval
 479 #$a['taille'] = intval
 480 #$a['extension'] = chaine
 481 #$a['fichier'] = chaine
 482
 483 // http://doc.spip.org/@recuperer_infos_distantes
 484 function recuperer_infos_distantes($source, $max = 0, $charger_si_petite_image = true){
 485
 486         # charger les alias des types mime
 487         include_spip('base/typedoc');
 488         global $mime_alias;
 489
 490         $a = array();
 491         $mime_type = '';
 492         // On va directement charger le debut des images et des fichiers html,
 493         // de maniere a attrapper le maximum d'infos (titre, taille, etc). Si
 494         // ca echoue l'utilisateur devra les entrer...
 495         if ($headers = recuperer_page($source, false, true, $max, '', '', true)){
 496                 list($headers, $a['body']) = preg_split(',\n\n,', $headers, 2);
 497
 498                 if (preg_match(",\nContent-Type: *([^[:space:];]*),i", "\n$headers", $regs))
 499                         $mime_type = (trim($regs[1]));
 500                 else
 501                         $mime_type = ''; // inconnu
 502
 503                 // Appliquer les alias
 504                 while (isset($mime_alias[$mime_type]))
 505                         $mime_type = $mime_alias[$mime_type];
 506
 507                 // Si on a un mime-type insignifiant
 508                 // text/plain,application/octet-stream ou vide
 509                 // c'est peut-etre que le serveur ne sait pas
 510                 // ce qu'il sert ; on va tenter de detecter via l'extension de l'url
 511                 // ou le Content-Disposition: attachment; filename=...
 512                 $t = null;
 513                 if (in_array($mime_type, array('text/plain', '', 'application/octet-stream'))){
 514                         if (!$t
 515                                 AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $source, $rext)
 516                         ){
 517                                 $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text'));
 518                         }
 519                         if (!$t
 520                                 AND preg_match(",^Content-Disposition:\s*attachment;\s*filename=(.*)$,Uims", $headers, $m)
 521                                 AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $m[1], $rext)
 522                         ){
 523                                 $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text'));
 524                         }
 525                 }
 526
 527                 // Autre mime/type (ou text/plain avec fichier d'extension inconnue)
 528                 if (!$t)
 529                         $t = sql_fetsel("extension", "spip_types_documents", "mime_type=" . sql_quote($mime_type));
 530
 531                 // Toujours rien ? (ex: audio/x-ogg au lieu de application/ogg)
 532                 // On essaie de nouveau avec l'extension
 533                 if (!$t
 534                         AND $mime_type!='text/plain'
 535                         AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $source, $rext)
 536                 ){
 537                         $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text')); # eviter xxx.3 => 3gp (> SPIP 3)
 538                 }
 539
 540
 541                 if ($t){
 542                         spip_log("mime-type $mime_type ok, extension " . $t['extension']);
 543                         $a['extension'] = $t['extension'];
 544                 } else {
 545                         # par defaut on retombe sur '.bin' si c'est autorise
 546                         spip_log("mime-type $mime_type inconnu");
 547                         $t = sql_fetsel("extension", "spip_types_documents", "extension='bin'");
 548                         if (!$t) return false;
 549                         $a['extension'] = $t['extension'];
 550                 }
 551
 552                 if (preg_match(",\nContent-Length: *([^[:space:]]*),i",
 553                         "\n$headers", $regs)
 554                 )
 555                         $a['taille'] = intval($regs[1]);
 556         }
 557
 558         // Echec avec HEAD, on tente avec GET
 559         if (!$a AND !$max){
 560                 spip_log("tenter GET $source");
 561                 $a = recuperer_infos_distantes($source, 1024*1024);
 562         }
 563
 564         // S'il s'agit d'une image pas trop grosse ou d'un fichier html, on va aller
 565         // recharger le document en GET et recuperer des donnees supplementaires...
 566         if (preg_match(',^image/(jpeg|gif|png|swf),', $mime_type)){
 567                 if ($max==0
 568                         AND $a['taille']<1024*1024
 569                                 AND (strpos($GLOBALS['meta']['formats_graphiques'], $a['extension'])!==false)
 570                                         AND $charger_si_petite_image
 571                 ){
 572                         $a = recuperer_infos_distantes($source, 1024*1024);
 573                 }
 574                 else if ($a['body']){
 575                         $a['fichier'] = _DIR_RACINE . nom_fichier_copie_locale($source, $a['extension']);
 576                         ecrire_fichier($a['fichier'], $a['body']);
 577                         $size_image = @getimagesize($a['fichier']);
 578                         $a['largeur'] = intval($size_image[0]);
 579                         $a['hauteur'] = intval($size_image[1]);
 580                         $a['type_image'] = true;
 581                 }
 582         }
 583
 584         // Fichier swf, si on n'a pas la taille, on va mettre 425x350 par defaut
 585         // ce sera mieux que 0x0
 586         if ($a AND $a['extension']=='swf'
 587                 AND !$a['largeur']
 588         ){
 589                 $a['largeur'] = 425;
 590                 $a['hauteur'] = 350;
 591         }
 592
 593         if ($mime_type=='text/html'){
 594                 include_spip('inc/filtres');
 595                 $page = recuperer_page($source, true, false, 1024*1024);
 596                 if (preg_match(',<title>(.*?)</title>,ims', $page, $regs))
 597                         $a['titre'] = corriger_caracteres(trim($regs[1]));
 598                 if (!$a['taille']) $a['taille'] = strlen($page); # a peu pres
 599         }
 600
 601         return $a;
 602 }
 603
 604
 605 /**
 606  * Tester si un host peut etre recuperer directement ou doit passer par un proxy
 607  * on peut passer en parametre le proxy et la liste des host exclus,
 608  * pour les besoins des tests, lors de la configuration
 609  *
 610  * @param string $host
 611  * @param string $http_proxy
 612  * @param string $http_noproxy
 613  * @return string
 614  */
 615 function need_proxy($host, $http_proxy = null, $http_noproxy = null){
 616         if (is_null($http_proxy))
 617                 $http_proxy = @$GLOBALS['meta']["http_proxy"];
 618         if (is_null($http_noproxy))
 619                 $http_noproxy = @$GLOBALS['meta']["http_noproxy"];
 620
 621         $domain = substr($host, strpos($host, '.'));
 622
 623         return ($http_proxy
 624                 AND (strpos(" $http_noproxy ", " $host ")===false
 625                 AND (strpos(" $http_noproxy ", " $domain ")===false)))
 626                 ? $http_proxy : '';
 627 }
 628
 629 //
 630 // Lance une requete HTTP avec entetes
 631 // retourne le descripteur sur lequel lire la reponse
 632 //
 633 // http://doc.spip.org/@init_http
 634 function init_http($method, $url, $refuse_gz = false, $referer = '', $datas = "", $vers = "HTTP/1.0", $date = ''){
 635         $user = $via_proxy = $proxy_user = '';
 636         $fopen = false;
 637
 638         $t = @parse_url($url);
 639         $host = $t['host'];
 640         if ($t['scheme']=='http'){
 641                 $scheme = 'http';
 642                 $noproxy = '';
 643         } elseif ($t['scheme']=='https') {
 644                 $scheme = 'ssl';
 645                 $noproxy = 'ssl://';
 646                 if (!isset($t['port']) || !($port = $t['port'])) $t['port'] = 443;
 647         }
 648         else {
 649                 $scheme = $t['scheme'];
 650                 $noproxy = $scheme . '://';
 651         }
 652         if (isset($t['user']))
 653                 $user = array($t['user'], $t['pass']);
 654
 655         if (!isset($t['port']) || !($port = $t['port'])) $port = 80;
 656         if (!isset($t['path']) || !($path = $t['path'])) $path = "/";
 657         if (@$t['query']) $path .= "?" . $t['query'];
 658
 659         $f = lance_requete($method, $scheme, $user, $host, $path, $port, $noproxy, $refuse_gz, $referer, $datas, $vers, $date);
 660         if (!$f){
 661                 // fallback : fopen
 662                 if (!_request('tester_proxy')){
 663                         $f = @fopen($url, "rb");
 664                         spip_log("connexion vers $url par simple fopen");
 665                         $fopen = true;
 666                 }
 667                 else
 668                         $f = false;
 669                 // echec total
 670         }
 671
 672         return array($f, $fopen);
 673 }
 674
 675 // http://doc.spip.org/@lance_requete
 676 function lance_requete($method, $scheme, $user, $host, $path, $port, $noproxy, $refuse_gz = false, $referer = '', $datas = "", $vers = "HTTP/1.0", $date = ''){
 677
 678         $proxy_user = '';
 679         $http_proxy = need_proxy($host);
 680         if ($user) $user = urlencode($user[0]) . ":" . urlencode($user[1]);
 681
 682         if ($http_proxy){
 683                 $path = (($scheme=='ssl') ? 'https://' : "$scheme://")
 684                         . (!$user ? '' : "$user@")
 685                         . "$host" . (($port!=80) ? ":$port" : "") . $path;
 686                 $t2 = @parse_url($http_proxy);
 687                 $first_host = $t2['host'];
 688                 if (!($port = $t2['port'])) $port = 80;
 689                 if ($t2['user'])
 690                         $proxy_user = base64_encode($t2['user'] . ":" . $t2['pass']);
 691         }
 692         else
 693                 $first_host = $noproxy . $host;
 694
 695         $f = @fsockopen($first_host, $port);
 696         spip_log("Recuperer $path sur $first_host:$port par $f");
 697         if (!$f) return false;
 698
 699         $site = $GLOBALS['meta']["adresse_site"];
 700
 701         $req = "$method $path $vers\r\n"
 702                 . "Host: $host\r\n"
 703                 . "User-Agent: " . _INC_DISTANT_USER_AGENT . "\r\n"
 704                 . ($refuse_gz ? '' : ("Accept-Encoding: " . _INC_DISTANT_CONTENT_ENCODING . "\r\n"))
 705                 . (!$site ? '' : "Referer: $site/$referer\r\n")
 706                 . (!$date ? '' : "If-Modified-Since: " . (gmdate("D, d M Y H:i:s", $date) . " GMT\r\n"))
 707                 . (!$user ? '' : ("Authorization: Basic " . base64_encode($user) . "\r\n"))
 708                 . (!$proxy_user ? '' : "Proxy-Authorization: Basic $proxy_user\r\n")
 709                 . (!strpos($vers, '1.1') ? '' : "Keep-Alive: 300\r\nConnection: keep-alive\r\n");
 710
 711 #       spip_log("Requete\n$req");
 712         fputs($f, $req);
 713         fputs($f, $datas ? $datas : "\r\n");
 714         return $f;
 715 }
 716
 717 ?>