www/ecrire/inc/distant.php

   1 <?php
   2
   3 /***************************************************************************\
   4  *  SPIP, Systeme de publication pour l'internet                           *
   5  *                                                                         *
   6  *  Copyright (c) 2001-2016                                                *
   7  *  Arnaud Martin, Antoine Pitrou, Philippe Riviere, Emmanuel Saint-James  *
   8  *                                                                         *
   9  *  Ce programme est un logiciel libre distribue sous licence GNU/GPL.     *
  10  *  Pour plus de details voir le fichier COPYING.txt ou l'aide en ligne.   *
  11 \***************************************************************************/
  12
  13 /**
  14  * Ce fichier gère l'obtention de données distantes
  15  *
  16  * @package SPIP\Core\Distant
  17 **/
  18 if (!defined('_ECRIRE_INC_VERSION')) return;
  19
  20 if (!defined('_INC_DISTANT_VERSION_HTTP')) define('_INC_DISTANT_VERSION_HTTP', "HTTP/1.0");
  21 if (!defined('_INC_DISTANT_CONTENT_ENCODING')) define('_INC_DISTANT_CONTENT_ENCODING', "gzip");
  22 if (!defined('_INC_DISTANT_USER_AGENT')) define('_INC_DISTANT_USER_AGENT', 'SPIP-' . $GLOBALS['spip_version_affichee'] . " (" . $GLOBALS['home_server'] . ")");
  23 if (!defined('_INC_DISTANT_MAX_SIZE')) define('_INC_DISTANT_MAX_SIZE',2097152);
  24 if (!defined('_INC_DISTANT_CONNECT_TIMEOUT')) define('_INC_DISTANT_CONNECT_TIMEOUT',10);
  25
  26 define('_REGEXP_COPIE_LOCALE', ',' .
  27        preg_replace('@^https?:@', 'https?:', $GLOBALS['meta']['adresse_site'])
  28        . "/?spip.php[?]action=acceder_document.*file=(.*)$,");
  29
  30 //@define('_COPIE_LOCALE_MAX_SIZE',2097152); // poids (inc/utils l'a fait)
  31
  32 /**
  33  * Crée au besoin la copie locale d'un fichier distant
  34  *
  35  * Prend en argument un chemin relatif au rep racine, ou une URL
  36  * Renvoie un chemin relatif au rep racine, ou false
  37  *
  38  * @link http://www.spip.net/4155
  39  *
  40  * @param $source
  41  * @param string $mode
  42  *   'test' - ne faire que tester
  43  *   'auto' - charger au besoin
  44  *   'modif' - Si deja present, ne charger que si If-Modified-Since
  45  *   'force' - charger toujours (mettre a jour)
  46  * @param string $local
  47  *   permet de specifier le nom du fichier local (stockage d'un cache par exemple, et non document IMG)
  48  * @param int $taille_max
  49  *   taille maxi de la copie local, par defaut _COPIE_LOCALE_MAX_SIZE
  50  * @return bool|string
  51  */
  52 function copie_locale($source, $mode='auto', $local=null, $taille_max=null){
  53
  54         // si c'est la protection de soi-meme, retourner le path
  55         if ($mode !== 'force' AND preg_match(_REGEXP_COPIE_LOCALE, $source, $match)) {
  56                 $source = substr(_DIR_IMG,strlen(_DIR_RACINE)) . urldecode($match[1]);
  57                 return @file_exists($source) ? $source : false;
  58         }
  59
  60         if (is_null($local))
  61                 $local = fichier_copie_locale($source);
  62         else {
  63                 if (_DIR_RACINE AND strncmp(_DIR_RACINE, $local, strlen(_DIR_RACINE))==0) {
  64                         $local = substr($local, strlen(_DIR_RACINE));
  65                 }
  66         }
  67
  68         // si $local = '' c'est un fichier refuse par fichier_copie_locale(),
  69         // par exemple un fichier qui ne figure pas dans nos documents ;
  70         // dans ce cas on n'essaie pas de le telecharger pour ensuite echouer
  71         if (!$local) return false;
  72
  73         $localrac = _DIR_RACINE.$local;
  74         $t = ($mode=='force') ? false  : @file_exists($localrac);
  75
  76         // test d'existence du fichier
  77         if ($mode=='test') return $t ? $local : '';
  78
  79         // sinon voir si on doit/peut le telecharger
  80         if ($local==$source OR !preg_match(',^\w+://,', $source))
  81                 return $local;
  82
  83         if ($mode=='modif' OR !$t){
  84                 // passer par un fichier temporaire unique pour gerer les echecs en cours de recuperation
  85                 // et des eventuelles recuperations concurantes
  86                 include_spip("inc/acces");
  87                 if (!$taille_max) $taille_max = _COPIE_LOCALE_MAX_SIZE;
  88                 $res = recuperer_page($source, $localrac, false, $taille_max, '', '', false, $t ? filemtime($localrac) : '');
  89                 if (!$res) {
  90                         if (!$t) // si $t c'est sans doute juste un not-modified-since qui fait renvoyer false
  91                                 spip_log("copie_locale : Echec recuperation $source sur $localrac",_LOG_INFO_IMPORTANTE);
  92                         return $t ? $local : false;
  93                 }
  94                 spip_log("copie_locale : recuperation $source sur $localrac taille $res OK");
  95
  96                 // pour une eventuelle indexation
  97                 pipeline('post_edition',
  98                         array(
  99                                 'args' => array(
 100                                         'operation' => 'copie_locale',
 101                                         'source' => $source,
 102                                         'fichier' => $local
 103                                 ),
 104                                 'data' => null
 105                         )
 106                 );
 107         }
 108
 109         return $local;
 110 }
 111
 112 // http://doc.spip.org/@prepare_donnees_post
 113 function prepare_donnees_post($donnees, $boundary = '') {
 114
 115         // permettre a la fonction qui a demande le post de formater elle meme ses donnees
 116         // pour un appel soap par exemple
 117         // l'entete est separe des donnees par un double retour a la ligne
 118         // on s'occupe ici de passer tous les retours lignes (\r\n, \r ou \n) en \r\n
 119         if (is_string($donnees) && strlen($donnees)){
 120                 $entete = "";
 121                 // on repasse tous les \r\n et \r en simples \n
 122                 $donnees = str_replace("\r\n","\n",$donnees);
 123                 $donnees = str_replace("\r","\n",$donnees);
 124                 // un double retour a la ligne signifie la fin de l'entete et le debut des donnees
 125                 $p = strpos($donnees, "\n\n");
 126                 if ($p!==FALSE){
 127                         $entete = str_replace("\n", "\r\n", substr($donnees, 0, $p+1));
 128                         $donnees = substr($donnees, $p+2);
 129                 }
 130                 $chaine = str_replace("\n", "\r\n", $donnees);
 131         }
 132         else {
 133                 /* boundary automatique */
 134                 // Si on a plus de 500 octects de donnees, on "boundarise"
 135                 if ($boundary===''){
 136                         $taille = 0;
 137                         foreach ($donnees as $cle => $valeur){
 138                                 if (is_array($valeur)){
 139                                         foreach ($valeur as $val2){
 140                                                 $taille += strlen($val2);
 141                                         }
 142                                 } else {
 143                                         // faut-il utiliser spip_strlen() dans inc/charsets ?
 144                                         $taille += strlen($valeur);
 145                                 }
 146                         }
 147                         if ($taille>500){
 148                                 $boundary = substr(md5(rand() . 'spip'), 0, 8);
 149                         }
 150                 }
 151
 152                 if (is_string($boundary) and strlen($boundary)){
 153                         // fabrique une chaine HTTP pour un POST avec boundary
 154                         $entete = "Content-Type: multipart/form-data; boundary=$boundary\r\n";
 155                         $chaine = '';
 156                         if (is_array($donnees)) {
 157                                 foreach ($donnees as $cle => $valeur) {
 158                                         if (is_array($valeur)) {
 159                                                 foreach ($valeur as $val2) {
 160                                                         $chaine .= "\r\n--$boundary\r\n";
 161                                                         $chaine .= "Content-Disposition: form-data; name=\"{$cle}[]\"\r\n";
 162                                                         $chaine .= "\r\n";
 163                                                         $chaine .= $val2;
 164                                                 }
 165                                         } else {
 166                                                 $chaine .= "\r\n--$boundary\r\n";
 167                                                 $chaine .= "Content-Disposition: form-data; name=\"$cle\"\r\n";
 168                                                 $chaine .= "\r\n";
 169                                                 $chaine .= $valeur;
 170                                         }
 171                                 }
 172                                 $chaine .= "\r\n--$boundary\r\n";
 173                         }
 174                 } else {
 175                         // fabrique une chaine HTTP simple pour un POST
 176                         $entete = 'Content-Type: application/x-www-form-urlencoded'."\r\n";
 177                         $chaine = array();
 178                         if (is_array($donnees)) {
 179                                 foreach ($donnees as $cle => $valeur) {
 180                                         if (is_array($valeur)) {
 181                                                 foreach ($valeur as $val2) {
 182                                                         $chaine[] = rawurlencode($cle).'[]='.rawurlencode($val2);
 183                                                 }
 184                                         } else {
 185                                                 $chaine[] = rawurlencode($cle).'='.rawurlencode($valeur);
 186                                         }
 187                                 }
 188                                 $chaine = implode('&', $chaine);
 189                         } else {
 190                                 $chaine = $donnees;
 191                         }
 192                 }
 193         }
 194         return array($entete, $chaine);
 195 }
 196
 197 //
 198 // Recupere une page sur le net
 199 // et au besoin l'encode dans le charset local
 200 //
 201 // options : get_headers si on veut recuperer les entetes
 202 // taille_max : arreter le contenu au-dela (0 = seulement les entetes ==>HEAD)
 203 // Par defaut taille_max = 1Mo.
 204 // datas, une chaine ou un tableau pour faire un POST de donnees
 205 // boundary, pour forcer l'envoi par cette methode
 206 // et refuser_gz pour forcer le refus de la compression (cas des serveurs orthographiques)
 207 // date_verif, un timestamp unix pour arreter la recuperation si la page distante n'a pas ete modifiee depuis une date donnee
 208 // uri_referer, preciser un referer different
 209 // Le second argument ($trans) :
 210 // * si c'est une chaine longue, alors c'est un nom de fichier
 211 //   dans lequel on ecrit directement la page
 212 // * si c'est true/null ca correspond a une demande d'encodage/charset
 213 // http://doc.spip.org/@recuperer_page
 214 function recuperer_page($url, $trans = false, $get_headers = false,
 215                         $taille_max = null, $datas = '', $boundary = '', $refuser_gz = false,
 216                         $date_verif = '', $uri_referer = ''){
 217         $gz = false;
 218
 219         // $copy = copier le fichier ?
 220         $copy = (is_string($trans) AND strlen($trans)>5); // eviter "false" :-)
 221
 222         if (is_null($taille_max))
 223                 $taille_max = $copy ? _COPIE_LOCALE_MAX_SIZE : _INC_DISTANT_MAX_SIZE;
 224
 225         // Accepter les URLs au format feed:// ou qui ont oublie le http://
 226         $url = preg_replace(',^feed://,i', 'http://', $url);
 227         if (!preg_match(',^[a-z]+://,i', $url)) $url = 'http://' . $url;
 228
 229         if ($taille_max==0)
 230                 $get = 'HEAD';
 231         else
 232                 $get = 'GET';
 233
 234         if (!empty($datas)) {
 235                 $get = 'POST';
 236                 list($type, $postdata) = prepare_donnees_post($datas, $boundary);
 237                 $datas = $type . 'Content-Length: ' . strlen($postdata) . "\r\n\r\n" . $postdata;
 238         }
 239
 240         // dix tentatives maximum en cas d'entetes 301...
 241         for ($i = 0; $i<10; $i++){
 242                 $url = recuperer_lapage($url, $trans, $get, $taille_max, $datas, $refuser_gz, $date_verif, $uri_referer);
 243                 if (!$url) return false;
 244                 if (is_array($url)){
 245                         list($headers, $result) = $url;
 246                         return ($get_headers ? $headers . "\n" : '') . $result;
 247                 } else spip_log("recuperer page recommence sur $url");
 248         }
 249 }
 250
 251 // args comme ci-dessus (presque)
 252 // retourne l'URL en cas de 301, un tableau (entete, corps) si ok, false sinon
 253 // si $trans est null -> on ne veut que les headers
 254 // si $trans est une chaine, c'est un nom de fichier pour ecrire directement dedans
 255 // http://doc.spip.org/@recuperer_lapage
 256 function recuperer_lapage($url, $trans = false, $get = 'GET', $taille_max = _INC_DISTANT_MAX_SIZE, $datas = '', $refuser_gz = false, $date_verif = '', $uri_referer = ''){
 257         // $copy = copier le fichier ?
 258         $copy = (is_string($trans) AND strlen($trans)>5); // eviter "false" :-)
 259
 260         // si on ecrit directement dans un fichier, pour ne pas manipuler
 261         // en memoire refuser gz
 262         if ($copy)
 263                 $refuser_gz = true;
 264
 265         // ouvrir la connexion et envoyer la requete et ses en-tetes
 266         list($f, $fopen) = init_http($get, $url, $refuser_gz, $uri_referer, $datas, _INC_DISTANT_VERSION_HTTP, $date_verif);
 267         if (!$f){
 268                 spip_log("ECHEC init_http $url");
 269                 return false;
 270         }
 271
 272         $result = '';
 273         // Sauf en fopen, envoyer le flux d'entree
 274         // et recuperer les en-tetes de reponses
 275         if ($fopen)
 276                 $headers = '';
 277         else {
 278                 $headers = recuperer_entetes($f, $date_verif);
 279                 if (is_numeric($headers)){
 280                         fclose($f);
 281                         // Chinoisierie inexplicable pour contrer
 282                         // les actions liberticides de l'empire du milieu
 283                         if ($headers){
 284                                 spip_log("HTTP status $headers pour $url");
 285                                 return false;
 286                         }
 287                         $t = @parse_url($url);
 288                         $host = $t['host'];
 289                         if (!need_proxy($host)
 290                                 AND $result = @file_get_contents($url)){
 291                                 // on peuple les headers de vide et on continue
 292                                 $headers = array('');
 293                         }
 294                         else
 295                                 return false;
 296                 }
 297                 if (!is_array($headers)){ // cas Location
 298                         fclose($f);
 299                         include_spip('inc/filtres');
 300                         return suivre_lien($url, $headers);
 301                 }
 302                 $headers = join('', $headers);
 303         }
 304
 305         if ($trans===NULL) return array($headers, '');
 306
 307         // s'il faut deballer, le faire via un fichier temporaire
 308         // sinon la memoire explose pour les gros flux
 309
 310         $gz = preg_match(",\bContent-Encoding: .*gzip,is", $headers) ?
 311                 (_DIR_TMP . md5(uniqid(mt_rand())) . '.tmp.gz') : '';
 312
 313 #       spip_log("entete ($trans $copy $gz)\n$headers");
 314         if (!$result){
 315                 $result = recuperer_body($f, $taille_max, $gz ? $gz : ($copy ? $trans : ''));
 316                 fclose($f);
 317         }
 318         if (!$result)
 319                 return array($headers, $result);
 320
 321         // Decompresser au besoin
 322         if ($gz){
 323                 $result = join('', gzfile($gz));
 324                 supprimer_fichier($gz);
 325         }
 326         // Faut-il l'importer dans notre charset local ?
 327         if ($trans===true){
 328                 include_spip('inc/charsets');
 329                 $result = transcoder_page($result, $headers);
 330         }
 331
 332         return array($headers, $result);
 333 }
 334
 335 // http://doc.spip.org/@recuperer_body
 336 function recuperer_body($f, $taille_max = _INC_DISTANT_MAX_SIZE, $fichier = ''){
 337         $taille = 0;
 338         $result = '';
 339         $fp = false;
 340         if ($fichier){
 341                 include_spip("inc/acces");
 342                 $tmpfile = "$fichier.".creer_uniqid().".tmp";
 343                 $fp = spip_fopen_lock($tmpfile, 'w', LOCK_EX);
 344                 if (!$fp AND file_exists($fichier)){
 345                         return filesize($fichier);
 346                 }
 347                 if (!$fp)
 348                         return false;
 349                 $result = 0; // on renvoie la taille du fichier
 350         }
 351         while (!feof($f) AND $taille<$taille_max){
 352                 $res = fread($f, 16384);
 353                 $taille += strlen($res);
 354                 if ($fp){
 355                         fwrite($fp, $res);
 356                         $result = $taille;
 357                 }
 358                 else
 359                         $result .= $res;
 360         }
 361         if ($fp){
 362                 spip_fclose_unlock($fp);
 363                 spip_unlink($fichier);
 364                 @rename($tmpfile, $fichier);
 365                 if (!file_exists($fichier))
 366                         return false;
 367         }
 368         return $result;
 369 }
 370
 371 // Lit les entetes de reponse HTTP sur la socket $f et retourne:
 372 // la valeur (chaine) de l'en-tete Location si on l'a trouvee
 373 // la valeur (numerique) du statut si different de 200, notamment Not-Modified
 374 // le tableau des entetes dans tous les autres cas
 375
 376 // http://doc.spip.org/@recuperer_entetes
 377 function recuperer_entetes($f, $date_verif = ''){
 378         $s = @trim(fgets($f, 16384));
 379
 380         if (!preg_match(',^HTTP/[0-9]+\.[0-9]+ ([0-9]+),', $s, $r)){
 381                 return 0;
 382         }
 383         $status = intval($r[1]);
 384         $headers = array();
 385         $not_modif = $location = false;
 386         while ($s = trim(fgets($f, 16384))){
 387                 $headers[] = $s . "\n";
 388                 preg_match(',^([^:]*): *(.*)$,i', $s, $r);
 389                 list(, $d, $v) = $r;
 390                 if (strtolower(trim($d))=='location' AND $status>=300 AND $status<400){
 391                         $location = $v;
 392                 }
 393                 elseif ($date_verif AND ($d=='Last-Modified')) {
 394                         if ($date_verif>=strtotime($v)){
 395                                 //Cas ou la page distante n'a pas bouge depuis
 396                                 //la derniere visite
 397                                 $not_modif = true;
 398                         }
 399                 }
 400         }
 401
 402         if ($location)
 403                 return $location;
 404         if ($status!=200 or $not_modif)
 405                 return $status;
 406         return $headers;
 407 }
 408
 409 // Si on doit conserver une copie locale des fichiers distants, autant que ca
 410 // soit a un endroit canonique -- si ca peut etre bijectif c'est encore mieux,
 411 // mais la tout de suite je ne trouve pas l'idee, etant donne les limitations
 412 // des filesystems
 413 // http://doc.spip.org/@nom_fichier_copie_locale
 414 function nom_fichier_copie_locale($source, $extension){
 415         include_spip('inc/documents');
 416
 417         $d = creer_repertoire_documents('distant'); # IMG/distant/
 418         $d = sous_repertoire($d, $extension); # IMG/distant/pdf/
 419
 420         // on se place tout le temps comme si on etait a la racine
 421         if (_DIR_RACINE)
 422                 $d = preg_replace(',^' . preg_quote(_DIR_RACINE) . ',', '', $d);
 423
 424         $m = md5($source);
 425
 426         return $d
 427                 . substr(preg_replace(',[^\w-],', '', basename($source)) . '-' . $m, 0, 12)
 428                 . substr($m, 0, 4)
 429                 . ".$extension";
 430 }
 431
 432 //
 433 // Donne le nom de la copie locale de la source
 434 //
 435 // http://doc.spip.org/@fichier_copie_locale
 436 function fichier_copie_locale($source){
 437         // Si c'est deja local pas de souci
 438         if (!preg_match(',^\w+://,', $source)){
 439                 if (_DIR_RACINE)
 440                         $source = preg_replace(',^' . preg_quote(_DIR_RACINE) . ',', '', $source);
 441                 return $source;
 442         }
 443
 444         // optimisation : on regarde si on peut deviner l'extension dans l'url et si le fichier
 445         // a deja ete copie en local avec cette extension
 446         // dans ce cas elle est fiable, pas la peine de requeter en base
 447         $path_parts = pathinfo($source);
 448         $ext = $path_parts ? $path_parts['extension'] : '';
 449         if ($ext
 450         AND preg_match(',^\w+$,', $ext) // pas de php?truc=1&...
 451         AND $f = nom_fichier_copie_locale($source, $ext)
 452         AND file_exists(_DIR_RACINE . $f)
 453         )
 454                 return $f;
 455
 456
 457         // Si c'est deja dans la table des documents,
 458         // ramener le nom de sa copie potentielle
 459
 460         $ext = sql_getfetsel("extension", "spip_documents", "fichier=" . sql_quote($source) . " AND distant='oui' AND extension <> ''");
 461
 462
 463         if ($ext) return nom_fichier_copie_locale($source, $ext);
 464
 465         // voir si l'extension indiquee dans le nom du fichier est ok
 466         // et si il n'aurait pas deja ete rapatrie
 467
 468         $ext = $path_parts ? $path_parts['extension'] : '';
 469
 470         if ($ext AND sql_getfetsel("extension", "spip_types_documents", "extension=" . sql_quote($ext))){
 471                 $f = nom_fichier_copie_locale($source, $ext);
 472                 if (file_exists(_DIR_RACINE . $f))
 473                         return $f;
 474         }
 475
 476         // Ping  pour voir si son extension est connue et autorisee
 477         // avec mise en cache du resultat du ping
 478
 479         $cache = sous_repertoire(_DIR_CACHE, 'rid') . md5($source);
 480         if (!@file_exists($cache)
 481                 OR !$path_parts = @unserialize(spip_file_get_contents($cache))
 482                 OR _request('var_mode')=='recalcul'
 483         ){
 484                 $path_parts = recuperer_infos_distantes($source, 0, false);
 485                 ecrire_fichier($cache, serialize($path_parts));
 486         }
 487         $ext = $path_parts ? $path_parts['extension'] : '';
 488         if ($ext AND sql_getfetsel("extension", "spip_types_documents", "extension=" . sql_quote($ext))){
 489                 return nom_fichier_copie_locale($source, $ext);
 490         }
 491         spip_log("pas de copie locale pour $source");
 492 }
 493
 494
 495 // Recuperer les infos d'un document distant, sans trop le telecharger
 496 #$a['body'] = chaine
 497 #$a['type_image'] = booleen
 498 #$a['titre'] = chaine
 499 #$a['largeur'] = intval
 500 #$a['hauteur'] = intval
 501 #$a['taille'] = intval
 502 #$a['extension'] = chaine
 503 #$a['fichier'] = chaine
 504 #$a['mime_type'] = chaine
 505
 506 // http://doc.spip.org/@recuperer_infos_distantes
 507 function recuperer_infos_distantes($source, $max = 0, $charger_si_petite_image = true){
 508
 509         # charger les alias des types mime
 510         include_spip('base/typedoc');
 511         global $mime_alias;
 512
 513         $a = array();
 514         $mime_type = '';
 515         // On va directement charger le debut des images et des fichiers html,
 516         // de maniere a attrapper le maximum d'infos (titre, taille, etc). Si
 517         // ca echoue l'utilisateur devra les entrer...
 518         if ($headers = recuperer_page($source, false, true, $max, '', '', true)){
 519                 list($headers, $a['body']) = preg_split(',\n\n,', $headers, 2);
 520
 521                 if (preg_match(",\nContent-Type: *([^[:space:];]*),i", "\n$headers", $regs))
 522                         $mime_type = (trim($regs[1]));
 523                 else
 524                         $mime_type = ''; // inconnu
 525
 526                 // Appliquer les alias
 527                 while (isset($mime_alias[$mime_type]))
 528                         $mime_type = $mime_alias[$mime_type];
 529
 530                 // Si on a un mime-type insignifiant
 531                 // text/plain,application/octet-stream ou vide
 532                 // c'est peut-etre que le serveur ne sait pas
 533                 // ce qu'il sert ; on va tenter de detecter via l'extension de l'url
 534                 // ou le Content-Disposition: attachment; filename=...
 535                 $t = null;
 536                 if (in_array($mime_type, array('text/plain', '', 'application/octet-stream'))){
 537                         if (!$t
 538                                 AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $source, $rext)
 539                         ){
 540                                 $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text'));
 541                         }
 542                         if (!$t
 543                                 AND preg_match(",^Content-Disposition:\s*attachment;\s*filename=(.*)$,Uims", $headers, $m)
 544                                 AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $m[1], $rext)
 545                         ){
 546                                 $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text'));
 547                         }
 548                 }
 549
 550                 // Autre mime/type (ou text/plain avec fichier d'extension inconnue)
 551                 if (!$t)
 552                         $t = sql_fetsel("extension", "spip_types_documents", "mime_type=" . sql_quote($mime_type));
 553
 554                 // Toujours rien ? (ex: audio/x-ogg au lieu de application/ogg)
 555                 // On essaie de nouveau avec l'extension
 556                 if (!$t
 557                         AND $mime_type!='text/plain'
 558                         AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $source, $rext)
 559                 ){
 560                         $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text')); # eviter xxx.3 => 3gp (> SPIP 3)
 561                 }
 562
 563
 564                 if ($t){
 565                         spip_log("mime-type $mime_type ok, extension " . $t['extension']);
 566                         $a['extension'] = $t['extension'];
 567                 } else {
 568                         # par defaut on retombe sur '.bin' si c'est autorise
 569                         spip_log("mime-type $mime_type inconnu");
 570                         $t = sql_fetsel("extension", "spip_types_documents", "extension='bin'");
 571                         if (!$t) return false;
 572                         $a['extension'] = $t['extension'];
 573                 }
 574
 575                 if (preg_match(",\nContent-Length: *([^[:space:]]*),i",
 576                         "\n$headers", $regs)
 577                 )
 578                         $a['taille'] = intval($regs[1]);
 579         }
 580
 581         // Echec avec HEAD, on tente avec GET
 582         if (!$a AND !$max){
 583                 spip_log("tenter GET $source");
 584                 $a = recuperer_infos_distantes($source, _INC_DISTANT_MAX_SIZE);
 585         }
 586
 587         // S'il s'agit d'une image pas trop grosse ou d'un fichier html, on va aller
 588         // recharger le document en GET et recuperer des donnees supplementaires...
 589         if (preg_match(',^image/(jpeg|gif|png|swf),', $mime_type)){
 590                 if ($max==0
 591                         AND $a['taille']<_INC_DISTANT_MAX_SIZE
 592                                 AND (strpos($GLOBALS['meta']['formats_graphiques'], $a['extension'])!==false)
 593                                         AND $charger_si_petite_image
 594                 ){
 595                         $a = recuperer_infos_distantes($source, _INC_DISTANT_MAX_SIZE);
 596                 }
 597                 else if ($a['body']){
 598                         $a['fichier'] = _DIR_RACINE . nom_fichier_copie_locale($source, $a['extension']);
 599                         ecrire_fichier($a['fichier'], $a['body']);
 600                         $size_image = @getimagesize($a['fichier']);
 601                         $a['largeur'] = intval($size_image[0]);
 602                         $a['hauteur'] = intval($size_image[1]);
 603                         $a['type_image'] = true;
 604                 }
 605         }
 606
 607         // Fichier swf, si on n'a pas la taille, on va mettre 425x350 par defaut
 608         // ce sera mieux que 0x0
 609         if ($a AND $a['extension']=='swf'
 610                 AND !$a['largeur']
 611         ){
 612                 $a['largeur'] = 425;
 613                 $a['hauteur'] = 350;
 614         }
 615
 616         if ($mime_type=='text/html'){
 617                 include_spip('inc/filtres');
 618                 $page = recuperer_page($source, true, false, _INC_DISTANT_MAX_SIZE);
 619                 if (preg_match(',<title>(.*?)</title>,ims', $page, $regs))
 620                         $a['titre'] = corriger_caracteres(trim($regs[1]));
 621                 if (!$a['taille']) $a['taille'] = strlen($page); # a peu pres
 622         }
 623         $a['mime_type']=$mime_type;
 624
 625         return $a;
 626 }
 627
 628
 629 /**
 630  * Tester si un host peut etre recuperer directement ou doit passer par un proxy
 631  * on peut passer en parametre le proxy et la liste des host exclus,
 632  * pour les besoins des tests, lors de la configuration
 633  *
 634  * @param string $host
 635  * @param string $http_proxy
 636  * @param string $http_noproxy
 637  * @return string
 638  */
 639 function need_proxy($host, $http_proxy = null, $http_noproxy = null){
 640         if (is_null($http_proxy))
 641                 $http_proxy = @$GLOBALS['meta']["http_proxy"];
 642         if (is_null($http_noproxy))
 643                 $http_noproxy = @$GLOBALS['meta']["http_noproxy"];
 644
 645         $domain = substr($host, strpos($host, '.'));
 646
 647         return ($http_proxy
 648                 AND (strpos(" $http_noproxy ", " $host ")===false
 649                 AND (strpos(" $http_noproxy ", " $domain ")===false)))
 650                 ? $http_proxy : '';
 651 }
 652
 653 //
 654 // Lance une requete HTTP avec entetes
 655 // retourne le descripteur sur lequel lire la reponse
 656 //
 657 // http://doc.spip.org/@init_http
 658 function init_http($method, $url, $refuse_gz = false, $referer = '', $datas = "", $vers = "HTTP/1.0", $date = ''){
 659         $user = $via_proxy = $proxy_user = '';
 660         $fopen = false;
 661
 662         $t = @parse_url($url);
 663         $host = $t['host'];
 664         if ($t['scheme']=='http'){
 665                 $scheme = 'http';
 666                 $noproxy = '';
 667         } elseif ($t['scheme']=='https') {
 668                 $scheme = 'tls';
 669                 $noproxy = 'tls://';
 670                 if (!isset($t['port']) || !($port = $t['port'])) $t['port'] = 443;
 671         }
 672         else {
 673                 $scheme = $t['scheme'];
 674                 $noproxy = $scheme . '://';
 675         }
 676         if (isset($t['user']))
 677                 $user = array($t['user'], $t['pass']);
 678
 679         if (!isset($t['port']) || !($port = $t['port'])) $port = 80;
 680         if (!isset($t['path']) || !($path = $t['path'])) $path = "/";
 681         if (@$t['query']) $path .= "?" . $t['query'];
 682
 683         $f = lance_requete($method, $scheme, $user, $host, $path, $port, $noproxy, $refuse_gz, $referer, $datas, $vers, $date);
 684         if (!$f){
 685                 // fallback : fopen
 686                 if (!need_proxy($host)
 687                   AND !_request('tester_proxy')
 688                   AND (!isset($GLOBALS['inc_distant_allow_fopen']) OR $GLOBALS['inc_distant_allow_fopen'])){
 689                         $f = @fopen($url, "rb");
 690                         spip_log("connexion vers $url par simple fopen");
 691                         $fopen = true;
 692                 }
 693                 else
 694                         $f = false;
 695                 // echec total
 696         }
 697
 698         return array($f, $fopen);
 699 }
 700
 701 // http://doc.spip.org/@lance_requete
 702 function lance_requete($method, $scheme, $user, $host, $path, $port, $noproxy, $refuse_gz = false, $referer = '', $datas = "", $vers = "HTTP/1.0", $date = ''){
 703
 704         $proxy_user = '';
 705         $http_proxy = need_proxy($host);
 706         if ($user) $user = urlencode($user[0]) . ":" . urlencode($user[1]);
 707
 708         $connect = "";
 709         if ($http_proxy){
 710                 if (defined('_PROXY_HTTPS_VIA_CONNECT') AND $scheme=="tls"){
 711                         $path_host = (!$user ? '' : "$user@") . $host . (($port!=80) ? ":$port" : "");
 712                         $connect = "CONNECT " .$path_host." $vers\r\n"
 713                                 ."Host: $path_host\r\n"
 714                                 ."Proxy-Connection: Keep-Alive\r\n";
 715                 }
 716                 else {
 717                         $path = (($scheme=='tls') ? 'https://' : "$scheme://")
 718                                 . (!$user ? '' : "$user@")
 719                                 . "$host" . (($port!=80) ? ":$port" : "") . $path;
 720                 }
 721                 $t2 = @parse_url($http_proxy);
 722                 $first_host = $t2['host'];
 723                 if (!($port = $t2['port'])) $port = 80;
 724                 if ($t2['user'])
 725                         $proxy_user = base64_encode($t2['user'] . ":" . $t2['pass']);
 726         }
 727         else
 728                 $first_host = $noproxy . $host;
 729
 730         if ($connect){
 731                 $streamContext = stream_context_create(array('ssl' => array('verify_peer' => false, 'allow_self_signed' => true)));
 732                 $f = @stream_socket_client("tcp://$first_host:$port", $nError, $sError, _INC_DISTANT_CONNECT_TIMEOUT, STREAM_CLIENT_CONNECT, $streamContext);
 733                 spip_log("Recuperer $path sur $first_host:$port par $f (via CONNECT)","connect");
 734                 if (!$f) return false;
 735                 stream_set_timeout($f, _INC_DISTANT_CONNECT_TIMEOUT);
 736
 737                 fputs($f, $connect);
 738                 fputs($f, "\r\n");
 739                 $res = fread($f, 1024);
 740                 if (!$res
 741                   OR !count($res = explode(' ',$res))
 742                   OR $res[1]!=='200'){
 743                         spip_log("Echec CONNECT sur $first_host:$port","connect"._LOG_INFO_IMPORTANTE);
 744                         fclose($f);
 745                         return false;
 746                 }
 747                 // important, car sinon on lit trop vite et les donnees ne sont pas encore dispo
 748                 stream_set_blocking($f, true);
 749                 // envoyer le handshake
 750                 stream_socket_enable_crypto($f, true,   STREAM_CRYPTO_METHOD_SSLv23_CLIENT);
 751                 spip_log("OK CONNECT sur $first_host:$port","connect");
 752         }
 753         else {
 754                 $f = @fsockopen($first_host, $port, $errno, $errstr, _INC_DISTANT_CONNECT_TIMEOUT);
 755                 spip_log("Recuperer $path sur $first_host:$port par $f");
 756                 if (!$f) {
 757                         spip_log("Erreur connexion $errno $errstr",_LOG_ERREUR);
 758                         return false;
 759                 }
 760                 stream_set_timeout($f, _INC_DISTANT_CONNECT_TIMEOUT);
 761         }
 762
 763         $site = $GLOBALS['meta']["adresse_site"];
 764
 765         $req = "$method $path $vers\r\n"
 766                 . "Host: $host\r\n"
 767                 . "User-Agent: " . _INC_DISTANT_USER_AGENT . "\r\n"
 768                 . ($refuse_gz ? '' : ("Accept-Encoding: " . _INC_DISTANT_CONTENT_ENCODING . "\r\n"))
 769                 . (!$site ? '' : "Referer: $site/$referer\r\n")
 770                 . (!$date ? '' : "If-Modified-Since: " . (gmdate("D, d M Y H:i:s", $date) . " GMT\r\n"))
 771                 . (!$user ? '' : ("Authorization: Basic " . base64_encode($user) . "\r\n"))
 772                 . (!$proxy_user ? '' : "Proxy-Authorization: Basic $proxy_user\r\n")
 773                 . (!strpos($vers, '1.1') ? '' : "Keep-Alive: 300\r\nConnection: keep-alive\r\n");
 774
 775 #       spip_log("Requete\n$req");
 776         fputs($f, $req);
 777         fputs($f, $datas ? $datas : "\r\n");
 778         return $f;
 779 }
 780