www/ecrire/inc/distant.php

   1 <?php
   2
   3 /***************************************************************************\
   4  *  SPIP, Systeme de publication pour l'internet                           *
   5  *                                                                         *
   6  *  Copyright (c) 2001-2014                                                *
   7  *  Arnaud Martin, Antoine Pitrou, Philippe Riviere, Emmanuel Saint-James  *
   8  *                                                                         *
   9  *  Ce programme est un logiciel libre distribue sous licence GNU/GPL.     *
  10  *  Pour plus de details voir le fichier COPYING.txt ou l'aide en ligne.   *
  11 \***************************************************************************/
  12
  13 /**
  14  * Ce fichier gère l'obtention de données distantes
  15  *
  16  * @package SPIP\Core\Distant
  17 **/
  18 if (!defined('_ECRIRE_INC_VERSION')) return;
  19
  20 if (!defined('_INC_DISTANT_VERSION_HTTP')) define('_INC_DISTANT_VERSION_HTTP', "HTTP/1.0");
  21 if (!defined('_INC_DISTANT_CONTENT_ENCODING')) define('_INC_DISTANT_CONTENT_ENCODING', "gzip");
  22 if (!defined('_INC_DISTANT_USER_AGENT')) define('_INC_DISTANT_USER_AGENT', 'SPIP-' . $GLOBALS['spip_version_affichee'] . " (" . $GLOBALS['home_server'] . ")");
  23 if (!defined('_INC_DISTANT_MAX_SIZE')) define('_INC_DISTANT_MAX_SIZE',2097152);
  24
  25 define('_REGEXP_COPIE_LOCALE', ',' .
  26        preg_replace('@^https?:@', 'https?:', $GLOBALS['meta']['adresse_site'])
  27        . "/?spip.php[?]action=acceder_document.*file=(.*)$,");
  28
  29 //@define('_COPIE_LOCALE_MAX_SIZE',2097152); // poids (inc/utils l'a fait)
  30
  31 /**
  32  * Crée au besoin la copie locale d'un fichier distant
  33  *
  34  * Prend en argument un chemin relatif au rep racine, ou une URL
  35  * Renvoie un chemin relatif au rep racine, ou false
  36  *
  37  * @link http://www.spip.net/4155
  38  *
  39  * @param $source
  40  * @param string $mode
  41  *   'test' - ne faire que tester
  42  *   'auto' - charger au besoin
  43  *   'modif' - Si deja present, ne charger que si If-Modified-Since
  44  *   'force' - charger toujours (mettre a jour)
  45  * @param string $local
  46  *   permet de specifier le nom du fichier local (stockage d'un cache par exemple, et non document IMG)
  47  * @return bool|string
  48  */
  49 function copie_locale($source, $mode='auto', $local = null) {
  50
  51         // si c'est la protection de soi-meme, retourner le path
  52         if ($mode !== 'force' AND preg_match(_REGEXP_COPIE_LOCALE, $source, $match)) {
  53                 $source = substr(_DIR_IMG,strlen(_DIR_RACINE)) . urldecode($match[1]);
  54                 return @file_exists($source) ? $source : false;
  55         }
  56
  57         if (is_null($local))
  58                 $local = fichier_copie_locale($source);
  59         else {
  60                 if (_DIR_RACINE AND strncmp(_DIR_RACINE, $local, strlen(_DIR_RACINE))==0) {
  61                         $local = substr($local, strlen(_DIR_RACINE));
  62                 }
  63         }
  64
  65         // si $local = '' c'est un fichier refuse par fichier_copie_locale(),
  66         // par exemple un fichier qui ne figure pas dans nos documents ;
  67         // dans ce cas on n'essaie pas de le telecharger pour ensuite echouer
  68         if (!$local) return false;
  69
  70         $localrac = _DIR_RACINE.$local;
  71         $t = ($mode=='force') ? false  : @file_exists($localrac);
  72
  73         // test d'existence du fichier
  74         if ($mode=='test') return $t ? $local : '';
  75
  76         // sinon voir si on doit/peut le telecharger
  77         if ($local==$source OR !preg_match(',^\w+://,', $source))
  78                 return $local;
  79
  80         if ($mode=='modif' OR !$t){
  81                 // passer par un fichier temporaire unique pour gerer les echecs en cours de recuperation
  82                 // et des eventuelles recuperations concurantes
  83                 include_spip("inc/acces");
  84                 $res = recuperer_page($source, $localrac, false, _COPIE_LOCALE_MAX_SIZE, '', '', false, $t ? filemtime($localrac) : '');
  85                 if (!$res) {
  86                         if (!$t) // si $t c'est sans doute juste un not-modified-since qui fait renvoyer false
  87                                 spip_log("copie_locale : Echec recuperation $source sur $localrac",_LOG_INFO_IMPORTANTE);
  88                         return $t ? $local : false;
  89                 }
  90                 spip_log("copie_locale : recuperation $source sur $localrac taille $res OK");
  91
  92                 // pour une eventuelle indexation
  93                 pipeline('post_edition',
  94                         array(
  95                                 'args' => array(
  96                                         'operation' => 'copie_locale',
  97                                         'source' => $source,
  98                                         'fichier' => $local
  99                                 ),
 100                                 'data' => null
 101                         )
 102                 );
 103         }
 104
 105         return $local;
 106 }
 107
 108 // http://doc.spip.org/@prepare_donnees_post
 109 function prepare_donnees_post($donnees, $boundary = '') {
 110
 111         // permettre a la fonction qui a demande le post de formater elle meme ses donnees
 112         // pour un appel soap par exemple
 113         // l'entete est separe des donnees par un double retour a la ligne
 114         // on s'occupe ici de passer tous les retours lignes (\r\n, \r ou \n) en \r\n
 115         if (is_string($donnees) && strlen($donnees)){
 116                 $entete = "";
 117                 // on repasse tous les \r\n et \r en simples \n
 118                 $donnees = str_replace("\r\n","\n",$donnees);
 119                 $donnees = str_replace("\r","\n",$donnees);
 120                 // un double retour a la ligne signifie la fin de l'entete et le debut des donnees
 121                 $p = strpos($donnees, "\n\n");
 122                 if ($p!==FALSE){
 123                         $entete = str_replace("\n", "\r\n", substr($donnees, 0, $p+1));
 124                         $donnees = substr($donnees, $p+2);
 125                 }
 126                 $chaine = str_replace("\n", "\r\n", $donnees);
 127         }
 128         else {
 129                 /* boundary automatique */
 130                 // Si on a plus de 500 octects de donnees, on "boundarise"
 131                 if ($boundary===''){
 132                         $taille = 0;
 133                         foreach ($donnees as $cle => $valeur){
 134                                 if (is_array($valeur)){
 135                                         foreach ($valeur as $val2){
 136                                                 $taille += strlen($val2);
 137                                         }
 138                                 } else {
 139                                         // faut-il utiliser spip_strlen() dans inc/charsets ?
 140                                         $taille += strlen($valeur);
 141                                 }
 142                         }
 143                         if ($taille>500){
 144                                 $boundary = substr(md5(rand() . 'spip'), 0, 8);
 145                         }
 146                 }
 147
 148                 if (is_string($boundary) and strlen($boundary)){
 149                         // fabrique une chaine HTTP pour un POST avec boundary
 150                         $entete = "Content-Type: multipart/form-data; boundary=$boundary\r\n";
 151                         $chaine = '';
 152                         if (is_array($donnees)) {
 153                                 foreach ($donnees as $cle => $valeur) {
 154                                         if (is_array($valeur)) {
 155                                                 foreach ($valeur as $val2) {
 156                                                         $chaine .= "\r\n--$boundary\r\n";
 157                                                         $chaine .= "Content-Disposition: form-data; name=\"{$cle}[]\"\r\n";
 158                                                         $chaine .= "\r\n";
 159                                                         $chaine .= $val2;
 160                                                 }
 161                                         } else {
 162                                                 $chaine .= "\r\n--$boundary\r\n";
 163                                                 $chaine .= "Content-Disposition: form-data; name=\"$cle\"\r\n";
 164                                                 $chaine .= "\r\n";
 165                                                 $chaine .= $valeur;
 166                                         }
 167                                 }
 168                                 $chaine .= "\r\n--$boundary\r\n";
 169                         }
 170                 } else {
 171                         // fabrique une chaine HTTP simple pour un POST
 172                         $entete = 'Content-Type: application/x-www-form-urlencoded'."\r\n";
 173                         $chaine = array();
 174                         if (is_array($donnees)) {
 175                                 foreach ($donnees as $cle => $valeur) {
 176                                         if (is_array($valeur)) {
 177                                                 foreach ($valeur as $val2) {
 178                                                         $chaine[] = rawurlencode($cle).'[]='.rawurlencode($val2);
 179                                                 }
 180                                         } else {
 181                                                 $chaine[] = rawurlencode($cle).'='.rawurlencode($valeur);
 182                                         }
 183                                 }
 184                                 $chaine = implode('&', $chaine);
 185                         } else {
 186                                 $chaine = $donnees;
 187                         }
 188                 }
 189         }
 190         return array($entete, $chaine);
 191 }
 192
 193 //
 194 // Recupere une page sur le net
 195 // et au besoin l'encode dans le charset local
 196 //
 197 // options : get_headers si on veut recuperer les entetes
 198 // taille_max : arreter le contenu au-dela (0 = seulement les entetes ==>HEAD)
 199 // Par defaut taille_max = 1Mo.
 200 // datas, une chaine ou un tableau pour faire un POST de donnees
 201 // boundary, pour forcer l'envoi par cette methode
 202 // et refuser_gz pour forcer le refus de la compression (cas des serveurs orthographiques)
 203 // date_verif, un timestamp unix pour arreter la recuperation si la page distante n'a pas ete modifiee depuis une date donnee
 204 // uri_referer, preciser un referer different
 205 // Le second argument ($trans) :
 206 // * si c'est une chaine longue, alors c'est un nom de fichier
 207 //   dans lequel on ecrit directement la page
 208 // * si c'est true/null ca correspond a une demande d'encodage/charset
 209 // http://doc.spip.org/@recuperer_page
 210 function recuperer_page($url, $trans = false, $get_headers = false,
 211                         $taille_max = null, $datas = '', $boundary = '', $refuser_gz = false,
 212                         $date_verif = '', $uri_referer = ''){
 213         $gz = false;
 214
 215         // $copy = copier le fichier ?
 216         $copy = (is_string($trans) AND strlen($trans)>5); // eviter "false" :-)
 217
 218         if (is_null($taille_max))
 219                 $taille_max = $copy ? _COPIE_LOCALE_MAX_SIZE : _INC_DISTANT_MAX_SIZE;
 220
 221         // Accepter les URLs au format feed:// ou qui ont oublie le http://
 222         $url = preg_replace(',^feed://,i', 'http://', $url);
 223         if (!preg_match(',^[a-z]+://,i', $url)) $url = 'http://' . $url;
 224
 225         if ($taille_max==0)
 226                 $get = 'HEAD';
 227         else
 228                 $get = 'GET';
 229
 230         if (!empty($datas)) {
 231                 $get = 'POST';
 232                 list($type, $postdata) = prepare_donnees_post($datas, $boundary);
 233                 $datas = $type . 'Content-Length: ' . strlen($postdata) . "\r\n\r\n" . $postdata;
 234         }
 235
 236         // dix tentatives maximum en cas d'entetes 301...
 237         for ($i = 0; $i<10; $i++){
 238                 $url = recuperer_lapage($url, $trans, $get, $taille_max, $datas, $refuser_gz, $date_verif, $uri_referer);
 239                 if (!$url) return false;
 240                 if (is_array($url)){
 241                         list($headers, $result) = $url;
 242                         return ($get_headers ? $headers . "\n" : '') . $result;
 243                 } else spip_log("recuperer page recommence sur $url");
 244         }
 245 }
 246
 247 // args comme ci-dessus (presque)
 248 // retourne l'URL en cas de 301, un tableau (entete, corps) si ok, false sinon
 249 // si $trans est null -> on ne veut que les headers
 250 // si $trans est une chaine, c'est un nom de fichier pour ecrire directement dedans
 251 // http://doc.spip.org/@recuperer_lapage
 252 function recuperer_lapage($url, $trans = false, $get = 'GET', $taille_max = _INC_DISTANT_MAX_SIZE, $datas = '', $refuser_gz = false, $date_verif = '', $uri_referer = ''){
 253         // $copy = copier le fichier ?
 254         $copy = (is_string($trans) AND strlen($trans)>5); // eviter "false" :-)
 255
 256         // si on ecrit directement dans un fichier, pour ne pas manipuler
 257         // en memoire refuser gz
 258         if ($copy)
 259                 $refuser_gz = true;
 260
 261         // ouvrir la connexion et envoyer la requete et ses en-tetes
 262         list($f, $fopen) = init_http($get, $url, $refuser_gz, $uri_referer, $datas, _INC_DISTANT_VERSION_HTTP, $date_verif);
 263         if (!$f){
 264                 spip_log("ECHEC init_http $url");
 265                 return false;
 266         }
 267
 268         $result = '';
 269         // Sauf en fopen, envoyer le flux d'entree
 270         // et recuperer les en-tetes de reponses
 271         if ($fopen)
 272                 $headers = '';
 273         else {
 274                 $headers = recuperer_entetes($f, $date_verif);
 275                 if (is_numeric($headers)){
 276                         fclose($f);
 277                         // Chinoisierie inexplicable pour contrer
 278                         // les actions liberticides de l'empire du milieu
 279                         if ($headers){
 280                                 spip_log("HTTP status $headers pour $url");
 281                                 return false;
 282                         }
 283                         $t = @parse_url($url);
 284                         $host = $t['host'];
 285                         if (!need_proxy($host)
 286                                 AND $result = @file_get_contents($url)){
 287                                 // on peuple les headers de vide et on continue
 288                                 $headers = array('');
 289                         }
 290                         else
 291                                 return false;
 292                 }
 293                 if (!is_array($headers)){ // cas Location
 294                         fclose($f);
 295                         include_spip('inc/filtres');
 296                         return suivre_lien($url, $headers);
 297                 }
 298                 $headers = join('', $headers);
 299         }
 300
 301         if ($trans===NULL) return array($headers, '');
 302
 303         // s'il faut deballer, le faire via un fichier temporaire
 304         // sinon la memoire explose pour les gros flux
 305
 306         $gz = preg_match(",\bContent-Encoding: .*gzip,is", $headers) ?
 307                 (_DIR_TMP . md5(uniqid(mt_rand())) . '.tmp.gz') : '';
 308
 309 #       spip_log("entete ($trans $copy $gz)\n$headers");
 310         if (!$result){
 311                 $result = recuperer_body($f, $taille_max, $gz ? $gz : ($copy ? $trans : ''));
 312                 fclose($f);
 313         }
 314         if (!$result)
 315                 return array($headers, $result);
 316
 317         // Decompresser au besoin
 318         if ($gz){
 319                 $result = join('', gzfile($gz));
 320                 supprimer_fichier($gz);
 321         }
 322         // Faut-il l'importer dans notre charset local ?
 323         if ($trans===true){
 324                 include_spip('inc/charsets');
 325                 $result = transcoder_page($result, $headers);
 326         }
 327
 328         return array($headers, $result);
 329 }
 330
 331 // http://doc.spip.org/@recuperer_body
 332 function recuperer_body($f, $taille_max = _INC_DISTANT_MAX_SIZE, $fichier = ''){
 333         $taille = 0;
 334         $result = '';
 335         $fp = false;
 336         if ($fichier){
 337                 include_spip("inc/acces");
 338                 $tmpfile = "$fichier.".creer_uniqid().".tmp";
 339                 $fp = spip_fopen_lock($tmpfile, 'w', LOCK_EX);
 340                 if (!$fp AND file_exists($fichier)){
 341                         return filesize($fichier);
 342                 }
 343                 if (!$fp)
 344                         return false;
 345                 $result = 0; // on renvoie la taille du fichier
 346         }
 347         while (!feof($f) AND $taille<$taille_max){
 348                 $res = fread($f, 16384);
 349                 $taille += strlen($res);
 350                 if ($fp){
 351                         fwrite($fp, $res);
 352                         $result = $taille;
 353                 }
 354                 else
 355                         $result .= $res;
 356         }
 357         if ($fp){
 358                 spip_fclose_unlock($fp);
 359                 spip_unlink($fichier);
 360                 @rename($tmpfile, $fichier);
 361                 if (!file_exists($fichier))
 362                         return false;
 363         }
 364         return $result;
 365 }
 366
 367 // Lit les entetes de reponse HTTP sur la socket $f et retourne:
 368 // la valeur (chaine) de l'en-tete Location si on l'a trouvee
 369 // la valeur (numerique) du statut si different de 200, notamment Not-Modified
 370 // le tableau des entetes dans tous les autres cas
 371
 372 // http://doc.spip.org/@recuperer_entetes
 373 function recuperer_entetes($f, $date_verif = ''){
 374         $s = @trim(fgets($f, 16384));
 375
 376         if (!preg_match(',^HTTP/[0-9]+\.[0-9]+ ([0-9]+),', $s, $r)){
 377                 return 0;
 378         }
 379         $status = intval($r[1]);
 380         $headers = array();
 381         $not_modif = $location = false;
 382         while ($s = trim(fgets($f, 16384))){
 383                 $headers[] = $s . "\n";
 384                 preg_match(',^([^:]*): *(.*)$,i', $s, $r);
 385                 list(, $d, $v) = $r;
 386                 if (strtolower(trim($d))=='location' AND $status>=300 AND $status<400){
 387                         $location = $v;
 388                 }
 389                 elseif ($date_verif AND ($d=='Last-Modified')) {
 390                         if ($date_verif>=strtotime($v)){
 391                                 //Cas ou la page distante n'a pas bouge depuis
 392                                 //la derniere visite
 393                                 $not_modif = true;
 394                         }
 395                 }
 396         }
 397
 398         if ($location)
 399                 return $location;
 400         if ($status!=200 or $not_modif)
 401                 return $status;
 402         return $headers;
 403 }
 404
 405 // Si on doit conserver une copie locale des fichiers distants, autant que ca
 406 // soit a un endroit canonique -- si ca peut etre bijectif c'est encore mieux,
 407 // mais la tout de suite je ne trouve pas l'idee, etant donne les limitations
 408 // des filesystems
 409 // http://doc.spip.org/@nom_fichier_copie_locale
 410 function nom_fichier_copie_locale($source, $extension){
 411         include_spip('inc/documents');
 412
 413         $d = creer_repertoire_documents('distant'); # IMG/distant/
 414         $d = sous_repertoire($d, $extension); # IMG/distant/pdf/
 415
 416         // on se place tout le temps comme si on etait a la racine
 417         if (_DIR_RACINE)
 418                 $d = preg_replace(',^' . preg_quote(_DIR_RACINE) . ',', '', $d);
 419
 420         $m = md5($source);
 421
 422         return $d
 423                 . substr(preg_replace(',[^\w-],', '', basename($source)) . '-' . $m, 0, 12)
 424                 . substr($m, 0, 4)
 425                 . ".$extension";
 426 }
 427
 428 //
 429 // Donne le nom de la copie locale de la source
 430 //
 431 // http://doc.spip.org/@fichier_copie_locale
 432 function fichier_copie_locale($source){
 433         // Si c'est deja local pas de souci
 434         if (!preg_match(',^\w+://,', $source)){
 435                 if (_DIR_RACINE)
 436                         $source = preg_replace(',^' . preg_quote(_DIR_RACINE) . ',', '', $source);
 437                 return $source;
 438         }
 439
 440         // optimisation : on regarde si on peut deviner l'extension dans l'url et si le fichier
 441         // a deja ete copie en local avec cette extension
 442         // dans ce cas elle est fiable, pas la peine de requeter en base
 443         $path_parts = pathinfo($source);
 444         $ext = $path_parts ? $path_parts['extension'] : '';
 445         if ($ext
 446         AND preg_match(',^\w+$,', $ext) // pas de php?truc=1&...
 447         AND $f = nom_fichier_copie_locale($source, $ext)
 448         AND file_exists(_DIR_RACINE . $f)
 449         )
 450                 return $f;
 451
 452
 453         // Si c'est deja dans la table des documents,
 454         // ramener le nom de sa copie potentielle
 455
 456         $ext = sql_getfetsel("extension", "spip_documents", "fichier=" . sql_quote($source) . " AND distant='oui' AND extension <> ''");
 457
 458
 459         if ($ext) return nom_fichier_copie_locale($source, $ext);
 460
 461         // voir si l'extension indiquee dans le nom du fichier est ok
 462         // et si il n'aurait pas deja ete rapatrie
 463
 464         $ext = $path_parts ? $path_parts['extension'] : '';
 465
 466         if ($ext AND sql_getfetsel("extension", "spip_types_documents", "extension=" . sql_quote($ext))){
 467                 $f = nom_fichier_copie_locale($source, $ext);
 468                 if (file_exists(_DIR_RACINE . $f))
 469                         return $f;
 470         }
 471
 472         // Ping  pour voir si son extension est connue et autorisee
 473         // avec mise en cache du resultat du ping
 474
 475         $cache = sous_repertoire(_DIR_CACHE, 'rid') . md5($source);
 476         if (!@file_exists($cache)
 477                 OR !$path_parts = @unserialize(spip_file_get_contents($cache))
 478                 OR _request('var_mode')=='recalcul'
 479         ){
 480                 $path_parts = recuperer_infos_distantes($source, 0, false);
 481                 ecrire_fichier($cache, serialize($path_parts));
 482         }
 483         $ext = $path_parts ? $path_parts['extension'] : '';
 484         if ($ext AND sql_getfetsel("extension", "spip_types_documents", "extension=" . sql_quote($ext))){
 485                 return nom_fichier_copie_locale($source, $ext);
 486         }
 487         spip_log("pas de copie locale pour $source");
 488 }
 489
 490
 491 // Recuperer les infos d'un document distant, sans trop le telecharger
 492 #$a['body'] = chaine
 493 #$a['type_image'] = booleen
 494 #$a['titre'] = chaine
 495 #$a['largeur'] = intval
 496 #$a['hauteur'] = intval
 497 #$a['taille'] = intval
 498 #$a['extension'] = chaine
 499 #$a['fichier'] = chaine
 500 #$a['mime_type'] = chaine
 501
 502 // http://doc.spip.org/@recuperer_infos_distantes
 503 function recuperer_infos_distantes($source, $max = 0, $charger_si_petite_image = true){
 504
 505         # charger les alias des types mime
 506         include_spip('base/typedoc');
 507         global $mime_alias;
 508
 509         $a = array();
 510         $mime_type = '';
 511         // On va directement charger le debut des images et des fichiers html,
 512         // de maniere a attrapper le maximum d'infos (titre, taille, etc). Si
 513         // ca echoue l'utilisateur devra les entrer...
 514         if ($headers = recuperer_page($source, false, true, $max, '', '', true)){
 515                 list($headers, $a['body']) = preg_split(',\n\n,', $headers, 2);
 516
 517                 if (preg_match(",\nContent-Type: *([^[:space:];]*),i", "\n$headers", $regs))
 518                         $mime_type = (trim($regs[1]));
 519                 else
 520                         $mime_type = ''; // inconnu
 521
 522                 // Appliquer les alias
 523                 while (isset($mime_alias[$mime_type]))
 524                         $mime_type = $mime_alias[$mime_type];
 525
 526                 // Si on a un mime-type insignifiant
 527                 // text/plain,application/octet-stream ou vide
 528                 // c'est peut-etre que le serveur ne sait pas
 529                 // ce qu'il sert ; on va tenter de detecter via l'extension de l'url
 530                 // ou le Content-Disposition: attachment; filename=...
 531                 $t = null;
 532                 if (in_array($mime_type, array('text/plain', '', 'application/octet-stream'))){
 533                         if (!$t
 534                                 AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $source, $rext)
 535                         ){
 536                                 $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text'));
 537                         }
 538                         if (!$t
 539                                 AND preg_match(",^Content-Disposition:\s*attachment;\s*filename=(.*)$,Uims", $headers, $m)
 540                                 AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $m[1], $rext)
 541                         ){
 542                                 $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text'));
 543                         }
 544                 }
 545
 546                 // Autre mime/type (ou text/plain avec fichier d'extension inconnue)
 547                 if (!$t)
 548                         $t = sql_fetsel("extension", "spip_types_documents", "mime_type=" . sql_quote($mime_type));
 549
 550                 // Toujours rien ? (ex: audio/x-ogg au lieu de application/ogg)
 551                 // On essaie de nouveau avec l'extension
 552                 if (!$t
 553                         AND $mime_type!='text/plain'
 554                         AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $source, $rext)
 555                 ){
 556                         $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text')); # eviter xxx.3 => 3gp (> SPIP 3)
 557                 }
 558
 559
 560                 if ($t){
 561                         spip_log("mime-type $mime_type ok, extension " . $t['extension']);
 562                         $a['extension'] = $t['extension'];
 563                 } else {
 564                         # par defaut on retombe sur '.bin' si c'est autorise
 565                         spip_log("mime-type $mime_type inconnu");
 566                         $t = sql_fetsel("extension", "spip_types_documents", "extension='bin'");
 567                         if (!$t) return false;
 568                         $a['extension'] = $t['extension'];
 569                 }
 570
 571                 if (preg_match(",\nContent-Length: *([^[:space:]]*),i",
 572                         "\n$headers", $regs)
 573                 )
 574                         $a['taille'] = intval($regs[1]);
 575         }
 576
 577         // Echec avec HEAD, on tente avec GET
 578         if (!$a AND !$max){
 579                 spip_log("tenter GET $source");
 580                 $a = recuperer_infos_distantes($source, _INC_DISTANT_MAX_SIZE);
 581         }
 582
 583         // S'il s'agit d'une image pas trop grosse ou d'un fichier html, on va aller
 584         // recharger le document en GET et recuperer des donnees supplementaires...
 585         if (preg_match(',^image/(jpeg|gif|png|swf),', $mime_type)){
 586                 if ($max==0
 587                         AND $a['taille']<_INC_DISTANT_MAX_SIZE
 588                                 AND (strpos($GLOBALS['meta']['formats_graphiques'], $a['extension'])!==false)
 589                                         AND $charger_si_petite_image
 590                 ){
 591                         $a = recuperer_infos_distantes($source, _INC_DISTANT_MAX_SIZE);
 592                 }
 593                 else if ($a['body']){
 594                         $a['fichier'] = _DIR_RACINE . nom_fichier_copie_locale($source, $a['extension']);
 595                         ecrire_fichier($a['fichier'], $a['body']);
 596                         $size_image = @getimagesize($a['fichier']);
 597                         $a['largeur'] = intval($size_image[0]);
 598                         $a['hauteur'] = intval($size_image[1]);
 599                         $a['type_image'] = true;
 600                 }
 601         }
 602
 603         // Fichier swf, si on n'a pas la taille, on va mettre 425x350 par defaut
 604         // ce sera mieux que 0x0
 605         if ($a AND $a['extension']=='swf'
 606                 AND !$a['largeur']
 607         ){
 608                 $a['largeur'] = 425;
 609                 $a['hauteur'] = 350;
 610         }
 611
 612         if ($mime_type=='text/html'){
 613                 include_spip('inc/filtres');
 614                 $page = recuperer_page($source, true, false, _INC_DISTANT_MAX_SIZE);
 615                 if (preg_match(',<title>(.*?)</title>,ims', $page, $regs))
 616                         $a['titre'] = corriger_caracteres(trim($regs[1]));
 617                 if (!$a['taille']) $a['taille'] = strlen($page); # a peu pres
 618         }
 619         $a['mime_type']=$mime_type;
 620
 621         return $a;
 622 }
 623
 624
 625 /**
 626  * Tester si un host peut etre recuperer directement ou doit passer par un proxy
 627  * on peut passer en parametre le proxy et la liste des host exclus,
 628  * pour les besoins des tests, lors de la configuration
 629  *
 630  * @param string $host
 631  * @param string $http_proxy
 632  * @param string $http_noproxy
 633  * @return string
 634  */
 635 function need_proxy($host, $http_proxy = null, $http_noproxy = null){
 636         if (is_null($http_proxy))
 637                 $http_proxy = @$GLOBALS['meta']["http_proxy"];
 638         if (is_null($http_noproxy))
 639                 $http_noproxy = @$GLOBALS['meta']["http_noproxy"];
 640
 641         $domain = substr($host, strpos($host, '.'));
 642
 643         return ($http_proxy
 644                 AND (strpos(" $http_noproxy ", " $host ")===false
 645                 AND (strpos(" $http_noproxy ", " $domain ")===false)))
 646                 ? $http_proxy : '';
 647 }
 648
 649 //
 650 // Lance une requete HTTP avec entetes
 651 // retourne le descripteur sur lequel lire la reponse
 652 //
 653 // http://doc.spip.org/@init_http
 654 function init_http($method, $url, $refuse_gz = false, $referer = '', $datas = "", $vers = "HTTP/1.0", $date = ''){
 655         $user = $via_proxy = $proxy_user = '';
 656         $fopen = false;
 657
 658         $t = @parse_url($url);
 659         $host = $t['host'];
 660         if ($t['scheme']=='http'){
 661                 $scheme = 'http';
 662                 $noproxy = '';
 663         } elseif ($t['scheme']=='https') {
 664                 $scheme = 'ssl';
 665                 $noproxy = 'ssl://';
 666                 if (!isset($t['port']) || !($port = $t['port'])) $t['port'] = 443;
 667         }
 668         else {
 669                 $scheme = $t['scheme'];
 670                 $noproxy = $scheme . '://';
 671         }
 672         if (isset($t['user']))
 673                 $user = array($t['user'], $t['pass']);
 674
 675         if (!isset($t['port']) || !($port = $t['port'])) $port = 80;
 676         if (!isset($t['path']) || !($path = $t['path'])) $path = "/";
 677         if (@$t['query']) $path .= "?" . $t['query'];
 678
 679         $f = lance_requete($method, $scheme, $user, $host, $path, $port, $noproxy, $refuse_gz, $referer, $datas, $vers, $date);
 680         if (!$f){
 681                 // fallback : fopen
 682                 if (!need_proxy($host)
 683                         AND !_request('tester_proxy')){
 684                         $f = @fopen($url, "rb");
 685                         spip_log("connexion vers $url par simple fopen");
 686                         $fopen = true;
 687                 }
 688                 else
 689                         $f = false;
 690                 // echec total
 691         }
 692
 693         return array($f, $fopen);
 694 }
 695
 696 // http://doc.spip.org/@lance_requete
 697 function lance_requete($method, $scheme, $user, $host, $path, $port, $noproxy, $refuse_gz = false, $referer = '', $datas = "", $vers = "HTTP/1.0", $date = ''){
 698
 699         $proxy_user = '';
 700         $http_proxy = need_proxy($host);
 701         if ($user) $user = urlencode($user[0]) . ":" . urlencode($user[1]);
 702
 703         $connect = "";
 704         if ($http_proxy){
 705                 if (defined('_PROXY_HTTPS_VIA_CONNECT') AND $scheme=="ssl"){
 706                         $path_host = (!$user ? '' : "$user@") . $host . (($port!=80) ? ":$port" : "");
 707                         $connect = "CONNECT " .$path_host." $vers\r\n"
 708                                 ."Host: $path_host\r\n"
 709                                 ."Proxy-Connection: Keep-Alive\r\n";
 710                 }
 711                 else {
 712                         $path = (($scheme=='ssl') ? 'https://' : "$scheme://")
 713                                 . (!$user ? '' : "$user@")
 714                                 . "$host" . (($port!=80) ? ":$port" : "") . $path;
 715                 }
 716                 $t2 = @parse_url($http_proxy);
 717                 $first_host = $t2['host'];
 718                 if (!($port = $t2['port'])) $port = 80;
 719                 if ($t2['user'])
 720                         $proxy_user = base64_encode($t2['user'] . ":" . $t2['pass']);
 721         }
 722         else
 723                 $first_host = $noproxy . $host;
 724
 725         if ($connect){
 726                 $streamContext = stream_context_create(array('ssl' => array('verify_peer' => false, 'allow_self_signed' => true)));
 727                 $f = @stream_socket_client("tcp://$first_host:$port", $nError, $sError, 10, STREAM_CLIENT_CONNECT, $streamContext);
 728                 spip_log("Recuperer $path sur $first_host:$port par $f (via CONNECT)","connect");
 729                 if (!$f) return false;
 730                 stream_set_timeout($f, 10);
 731
 732                 fputs($f, $connect);
 733                 fputs($f, "\r\n");
 734                 $res = fread($f, 1024);
 735                 if (!$res
 736                   OR !count($res = explode(' ',$res))
 737                   OR $res[1]!=='200'){
 738                         spip_log("Echec CONNECT sur $first_host:$port","connect"._LOG_INFO_IMPORTANTE);
 739                         fclose($f);
 740                         return false;
 741                 }
 742                 // important, car sinon on lit trop vite et les donnees ne sont pas encore dispo
 743                 stream_set_blocking($f, true);
 744                 // envoyer le handshake
 745                 stream_socket_enable_crypto($f, true,   STREAM_CRYPTO_METHOD_SSLv23_CLIENT);
 746                 spip_log("OK CONNECT sur $first_host:$port","connect");
 747         }
 748         else {
 749                 $f = @fsockopen($first_host, $port);
 750                 spip_log("Recuperer $path sur $first_host:$port par $f");
 751                 if (!$f) return false;
 752         }
 753
 754         $site = $GLOBALS['meta']["adresse_site"];
 755
 756         $req = "$method $path $vers\r\n"
 757                 . "Host: $host\r\n"
 758                 . "User-Agent: " . _INC_DISTANT_USER_AGENT . "\r\n"
 759                 . ($refuse_gz ? '' : ("Accept-Encoding: " . _INC_DISTANT_CONTENT_ENCODING . "\r\n"))
 760                 . (!$site ? '' : "Referer: $site/$referer\r\n")
 761                 . (!$date ? '' : "If-Modified-Since: " . (gmdate("D, d M Y H:i:s", $date) . " GMT\r\n"))
 762                 . (!$user ? '' : ("Authorization: Basic " . base64_encode($user) . "\r\n"))
 763                 . (!$proxy_user ? '' : "Proxy-Authorization: Basic $proxy_user\r\n")
 764                 . (!strpos($vers, '1.1') ? '' : "Keep-Alive: 300\r\nConnection: keep-alive\r\n");
 765
 766 #       spip_log("Requete\n$req");
 767         fputs($f, $req);
 768         fputs($f, $datas ? $datas : "\r\n");
 769         return $f;
 770 }
 771