[SPIP] ~maj 3.0.10 --> 3.0.14
[lhc/web/www.git] / www / ecrire / inc / distant.php
1 <?php
2
3 /***************************************************************************\
4 * SPIP, Systeme de publication pour l'internet *
5 * *
6 * Copyright (c) 2001-2014 *
7 * Arnaud Martin, Antoine Pitrou, Philippe Riviere, Emmanuel Saint-James *
8 * *
9 * Ce programme est un logiciel libre distribue sous licence GNU/GPL. *
10 * Pour plus de details voir le fichier COPYING.txt ou l'aide en ligne. *
11 \***************************************************************************/
12
13 /**
14 * Ce fichier gère l'obtention de données distantes
15 *
16 * @package SPIP\Core\Distant
17 **/
18 if (!defined('_ECRIRE_INC_VERSION')) return;
19
20 if (!defined('_INC_DISTANT_VERSION_HTTP')) define('_INC_DISTANT_VERSION_HTTP', "HTTP/1.0");
21 if (!defined('_INC_DISTANT_CONTENT_ENCODING')) define('_INC_DISTANT_CONTENT_ENCODING', "gzip");
22 if (!defined('_INC_DISTANT_USER_AGENT')) define('_INC_DISTANT_USER_AGENT', 'SPIP-' . $GLOBALS['spip_version_affichee'] . " (" . $GLOBALS['home_server'] . ")");
23 if (!defined('_INC_DISTANT_MAX_SIZE')) define('_INC_DISTANT_MAX_SIZE',2097152);
24
25 define('_REGEXP_COPIE_LOCALE', ',' .
26 preg_replace('@^https?:@', 'https?:', $GLOBALS['meta']['adresse_site'])
27 . "/?spip.php[?]action=acceder_document.*file=(.*)$,");
28
29 //@define('_COPIE_LOCALE_MAX_SIZE',2097152); // poids (inc/utils l'a fait)
30
31 /**
32 * Crée au besoin la copie locale d'un fichier distant
33 *
34 * Prend en argument un chemin relatif au rep racine, ou une URL
35 * Renvoie un chemin relatif au rep racine, ou false
36 *
37 * @link http://www.spip.net/4155
38 *
39 * @param $source
40 * @param string $mode
41 * 'test' - ne faire que tester
42 * 'auto' - charger au besoin
43 * 'modif' - Si deja present, ne charger que si If-Modified-Since
44 * 'force' - charger toujours (mettre a jour)
45 * @param string $local
46 * permet de specifier le nom du fichier local (stockage d'un cache par exemple, et non document IMG)
47 * @return bool|string
48 */
49 function copie_locale($source, $mode='auto', $local = null) {
50
51 // si c'est la protection de soi-meme, retourner le path
52 if ($mode !== 'force' AND preg_match(_REGEXP_COPIE_LOCALE, $source, $match)) {
53 $source = substr(_DIR_IMG,strlen(_DIR_RACINE)) . urldecode($match[1]);
54 return @file_exists($source) ? $source : false;
55 }
56
57 if (is_null($local))
58 $local = fichier_copie_locale($source);
59 else {
60 if (_DIR_RACINE AND strncmp(_DIR_RACINE, $local, strlen(_DIR_RACINE))==0) {
61 $local = substr($local, strlen(_DIR_RACINE));
62 }
63 }
64
65 // si $local = '' c'est un fichier refuse par fichier_copie_locale(),
66 // par exemple un fichier qui ne figure pas dans nos documents ;
67 // dans ce cas on n'essaie pas de le telecharger pour ensuite echouer
68 if (!$local) return false;
69
70 $localrac = _DIR_RACINE.$local;
71 $t = ($mode=='force') ? false : @file_exists($localrac);
72
73 // test d'existence du fichier
74 if ($mode=='test') return $t ? $local : '';
75
76 // sinon voir si on doit/peut le telecharger
77 if ($local==$source OR !preg_match(',^\w+://,', $source))
78 return $local;
79
80 if ($mode=='modif' OR !$t){
81 // passer par un fichier temporaire unique pour gerer les echecs en cours de recuperation
82 // et des eventuelles recuperations concurantes
83 include_spip("inc/acces");
84 $res = recuperer_page($source, $localrac, false, _COPIE_LOCALE_MAX_SIZE, '', '', false, $t ? filemtime($localrac) : '');
85 if (!$res) {
86 if (!$t) // si $t c'est sans doute juste un not-modified-since qui fait renvoyer false
87 spip_log("copie_locale : Echec recuperation $source sur $localrac",_LOG_INFO_IMPORTANTE);
88 return $t ? $local : false;
89 }
90 spip_log("copie_locale : recuperation $source sur $localrac taille $res OK");
91
92 // pour une eventuelle indexation
93 pipeline('post_edition',
94 array(
95 'args' => array(
96 'operation' => 'copie_locale',
97 'source' => $source,
98 'fichier' => $local
99 ),
100 'data' => null
101 )
102 );
103 }
104
105 return $local;
106 }
107
108 // http://doc.spip.org/@prepare_donnees_post
109 function prepare_donnees_post($donnees, $boundary = '') {
110
111 // permettre a la fonction qui a demande le post de formater elle meme ses donnees
112 // pour un appel soap par exemple
113 // l'entete est separe des donnees par un double retour a la ligne
114 // on s'occupe ici de passer tous les retours lignes (\r\n, \r ou \n) en \r\n
115 if (is_string($donnees) && strlen($donnees)){
116 $entete = "";
117 // on repasse tous les \r\n et \r en simples \n
118 $donnees = str_replace("\r\n","\n",$donnees);
119 $donnees = str_replace("\r","\n",$donnees);
120 // un double retour a la ligne signifie la fin de l'entete et le debut des donnees
121 $p = strpos($donnees, "\n\n");
122 if ($p!==FALSE){
123 $entete = str_replace("\n", "\r\n", substr($donnees, 0, $p+1));
124 $donnees = substr($donnees, $p+2);
125 }
126 $chaine = str_replace("\n", "\r\n", $donnees);
127 }
128 else {
129 /* boundary automatique */
130 // Si on a plus de 500 octects de donnees, on "boundarise"
131 if ($boundary===''){
132 $taille = 0;
133 foreach ($donnees as $cle => $valeur){
134 if (is_array($valeur)){
135 foreach ($valeur as $val2){
136 $taille += strlen($val2);
137 }
138 } else {
139 // faut-il utiliser spip_strlen() dans inc/charsets ?
140 $taille += strlen($valeur);
141 }
142 }
143 if ($taille>500){
144 $boundary = substr(md5(rand() . 'spip'), 0, 8);
145 }
146 }
147
148 if (is_string($boundary) and strlen($boundary)){
149 // fabrique une chaine HTTP pour un POST avec boundary
150 $entete = "Content-Type: multipart/form-data; boundary=$boundary\r\n";
151 $chaine = '';
152 if (is_array($donnees)) {
153 foreach ($donnees as $cle => $valeur) {
154 $chaine .= "\r\n--$boundary\r\n";
155 $chaine .= "Content-Disposition: form-data; name=\"$cle\"\r\n";
156 $chaine .= "\r\n";
157 $chaine .= $valeur;
158 }
159 $chaine .= "\r\n--$boundary\r\n";
160 }
161 } else {
162 // fabrique une chaine HTTP simple pour un POST
163 $entete = 'Content-Type: application/x-www-form-urlencoded'."\r\n";
164 $chaine = array();
165 if (is_array($donnees)) {
166 foreach ($donnees as $cle => $valeur) {
167 if (is_array($valeur)) {
168 foreach ($valeur as $val2) {
169 $chaine[] = rawurlencode($cle).'='.rawurlencode($val2);
170 }
171 } else {
172 $chaine[] = rawurlencode($cle).'='.rawurlencode($valeur);
173 }
174 }
175 $chaine = implode('&', $chaine);
176 } else {
177 $chaine = $donnees;
178 }
179 }
180 }
181 return array($entete, $chaine);
182 }
183
184 //
185 // Recupere une page sur le net
186 // et au besoin l'encode dans le charset local
187 //
188 // options : get_headers si on veut recuperer les entetes
189 // taille_max : arreter le contenu au-dela (0 = seulement les entetes ==>HEAD)
190 // Par defaut taille_max = 1Mo.
191 // datas, une chaine ou un tableau pour faire un POST de donnees
192 // boundary, pour forcer l'envoi par cette methode
193 // et refuser_gz pour forcer le refus de la compression (cas des serveurs orthographiques)
194 // date_verif, un timestamp unix pour arreter la recuperation si la page distante n'a pas ete modifiee depuis une date donnee
195 // uri_referer, preciser un referer different
196 // Le second argument ($trans) :
197 // * si c'est une chaine longue, alors c'est un nom de fichier
198 // dans lequel on ecrit directement la page
199 // * si c'est true/null ca correspond a une demande d'encodage/charset
200 // http://doc.spip.org/@recuperer_page
201 function recuperer_page($url, $trans = false, $get_headers = false,
202 $taille_max = null, $datas = '', $boundary = '', $refuser_gz = false,
203 $date_verif = '', $uri_referer = ''){
204 $gz = false;
205
206 // $copy = copier le fichier ?
207 $copy = (is_string($trans) AND strlen($trans)>5); // eviter "false" :-)
208
209 if (is_null($taille_max))
210 $taille_max = $copy ? _COPIE_LOCALE_MAX_SIZE : _INC_DISTANT_MAX_SIZE;
211
212 // Accepter les URLs au format feed:// ou qui ont oublie le http://
213 $url = preg_replace(',^feed://,i', 'http://', $url);
214 if (!preg_match(',^[a-z]+://,i', $url)) $url = 'http://' . $url;
215
216 if ($taille_max==0)
217 $get = 'HEAD';
218 else
219 $get = 'GET';
220
221 if (!empty($datas)) {
222 $get = 'POST';
223 list($type, $postdata) = prepare_donnees_post($datas, $boundary);
224 $datas = $type . 'Content-Length: ' . strlen($postdata) . "\r\n\r\n" . $postdata;
225 }
226
227 // dix tentatives maximum en cas d'entetes 301...
228 for ($i = 0; $i<10; $i++){
229 $url = recuperer_lapage($url, $trans, $get, $taille_max, $datas, $refuser_gz, $date_verif, $uri_referer);
230 if (!$url) return false;
231 if (is_array($url)){
232 list($headers, $result) = $url;
233 return ($get_headers ? $headers . "\n" : '') . $result;
234 } else spip_log("recuperer page recommence sur $url");
235 }
236 }
237
238 // args comme ci-dessus (presque)
239 // retourne l'URL en cas de 301, un tableau (entete, corps) si ok, false sinon
240 // si $trans est null -> on ne veut que les headers
241 // si $trans est une chaine, c'est un nom de fichier pour ecrire directement dedans
242 // http://doc.spip.org/@recuperer_lapage
243 function recuperer_lapage($url, $trans = false, $get = 'GET', $taille_max = _INC_DISTANT_MAX_SIZE, $datas = '', $refuser_gz = false, $date_verif = '', $uri_referer = ''){
244 // $copy = copier le fichier ?
245 $copy = (is_string($trans) AND strlen($trans)>5); // eviter "false" :-)
246
247 // si on ecrit directement dans un fichier, pour ne pas manipuler
248 // en memoire refuser gz
249 if ($copy)
250 $refuser_gz = true;
251
252 // ouvrir la connexion et envoyer la requete et ses en-tetes
253 list($f, $fopen) = init_http($get, $url, $refuser_gz, $uri_referer, $datas, _INC_DISTANT_VERSION_HTTP, $date_verif);
254 if (!$f){
255 spip_log("ECHEC init_http $url");
256 return false;
257 }
258
259 // Sauf en fopen, envoyer le flux d'entree
260 // et recuperer les en-tetes de reponses
261 if ($fopen)
262 $headers = '';
263 else {
264 $headers = recuperer_entetes($f, $date_verif);
265 if (is_numeric($headers)){
266 fclose($f);
267 // Chinoisierie inexplicable pour contrer
268 // les actions liberticides de l'empire du milieu
269 if ($headers){
270 spip_log("HTTP status $headers pour $url");
271 return false;
272 }
273 elseif ($result = @file_get_contents($url))
274 return array('', $result);
275 else
276 return false;
277 }
278 if (!is_array($headers)){ // cas Location
279 fclose($f);
280 include_spip('inc/filtres');
281 return suivre_lien($url, $headers);
282 }
283 $headers = join('', $headers);
284 }
285
286 if ($trans===NULL) return array($headers, '');
287
288 // s'il faut deballer, le faire via un fichier temporaire
289 // sinon la memoire explose pour les gros flux
290
291 $gz = preg_match(",\bContent-Encoding: .*gzip,is", $headers) ?
292 (_DIR_TMP . md5(uniqid(mt_rand())) . '.tmp.gz') : '';
293
294 # spip_log("entete ($trans $copy $gz)\n$headers");
295 $result = recuperer_body($f, $taille_max, $gz ? $gz : ($copy ? $trans : ''));
296 fclose($f);
297 if (!$result)
298 return array($headers, $result);
299
300 // Decompresser au besoin
301 if ($gz){
302 $result = join('', gzfile($gz));
303 supprimer_fichier($gz);
304 }
305 // Faut-il l'importer dans notre charset local ?
306 if ($trans===true){
307 include_spip('inc/charsets');
308 $result = transcoder_page($result, $headers);
309 }
310
311 return array($headers, $result);
312 }
313
314 // http://doc.spip.org/@recuperer_body
315 function recuperer_body($f, $taille_max = _INC_DISTANT_MAX_SIZE, $fichier = ''){
316 $taille = 0;
317 $result = '';
318 $fp = false;
319 if ($fichier){
320 include_spip("inc/acces");
321 $tmpfile = "$fichier.".creer_uniqid().".tmp";
322 $fp = spip_fopen_lock($tmpfile, 'w', LOCK_EX);
323 if (!$fp AND file_exists($fichier)){
324 return filesize($fichier);
325 }
326 if (!$fp)
327 return false;
328 $result = 0; // on renvoie la taille du fichier
329 }
330 while (!feof($f) AND $taille<$taille_max){
331 $res = fread($f, 16384);
332 $taille += strlen($res);
333 if ($fp){
334 fwrite($fp, $res);
335 $result = $taille;
336 }
337 else
338 $result .= $res;
339 }
340 if ($fp){
341 spip_fclose_unlock($fp);
342 spip_unlink($fichier);
343 @rename($tmpfile, $fichier);
344 if (!file_exists($fichier))
345 return false;
346 }
347 return $result;
348 }
349
350 // Lit les entetes de reponse HTTP sur la socket $f et retourne:
351 // la valeur (chaine) de l'en-tete Location si on l'a trouvee
352 // la valeur (numerique) du statut si different de 200, notamment Not-Modified
353 // le tableau des entetes dans tous les autres cas
354
355 // http://doc.spip.org/@recuperer_entetes
356 function recuperer_entetes($f, $date_verif = ''){
357 $s = @trim(fgets($f, 16384));
358
359 if (!preg_match(',^HTTP/[0-9]+\.[0-9]+ ([0-9]+),', $s, $r)){
360 return 0;
361 }
362 $status = intval($r[1]);
363 $headers = array();
364 $not_modif = $location = false;
365 while ($s = trim(fgets($f, 16384))){
366 $headers[] = $s . "\n";
367 preg_match(',^([^:]*): *(.*)$,i', $s, $r);
368 list(, $d, $v) = $r;
369 if (strtolower(trim($d))=='location' AND $status>=300 AND $status<400){
370 $location = $v;
371 }
372 elseif ($date_verif AND ($d=='Last-Modified')) {
373 if ($date_verif>=strtotime($v)){
374 //Cas ou la page distante n'a pas bouge depuis
375 //la derniere visite
376 $not_modif = true;
377 }
378 }
379 }
380
381 if ($location)
382 return $location;
383 if ($status!=200 or $not_modif)
384 return $status;
385 return $headers;
386 }
387
388 // Si on doit conserver une copie locale des fichiers distants, autant que ca
389 // soit a un endroit canonique -- si ca peut etre bijectif c'est encore mieux,
390 // mais la tout de suite je ne trouve pas l'idee, etant donne les limitations
391 // des filesystems
392 // http://doc.spip.org/@nom_fichier_copie_locale
393 function nom_fichier_copie_locale($source, $extension){
394 include_spip('inc/documents');
395
396 $d = creer_repertoire_documents('distant'); # IMG/distant/
397 $d = sous_repertoire($d, $extension); # IMG/distant/pdf/
398
399 // on se place tout le temps comme si on etait a la racine
400 if (_DIR_RACINE)
401 $d = preg_replace(',^' . preg_quote(_DIR_RACINE) . ',', '', $d);
402
403 $m = md5($source);
404
405 return $d
406 . substr(preg_replace(',[^\w-],', '', basename($source)) . '-' . $m, 0, 12)
407 . substr($m, 0, 4)
408 . ".$extension";
409 }
410
411 //
412 // Donne le nom de la copie locale de la source
413 //
414 // http://doc.spip.org/@fichier_copie_locale
415 function fichier_copie_locale($source){
416 // Si c'est deja local pas de souci
417 if (!preg_match(',^\w+://,', $source)){
418 if (_DIR_RACINE)
419 $source = preg_replace(',^' . preg_quote(_DIR_RACINE) . ',', '', $source);
420 return $source;
421 }
422
423 // optimisation : on regarde si on peut deviner l'extension dans l'url et si le fichier
424 // a deja ete copie en local avec cette extension
425 // dans ce cas elle est fiable, pas la peine de requeter en base
426 $path_parts = pathinfo($source);
427 $ext = $path_parts ? $path_parts['extension'] : '';
428 if ($ext
429 AND preg_match(',^\w+$,', $ext) // pas de php?truc=1&...
430 AND $f = nom_fichier_copie_locale($source, $ext)
431 AND file_exists(_DIR_RACINE . $f)
432 )
433 return $f;
434
435
436 // Si c'est deja dans la table des documents,
437 // ramener le nom de sa copie potentielle
438
439 $ext = sql_getfetsel("extension", "spip_documents", "fichier=" . sql_quote($source) . " AND distant='oui' AND extension <> ''");
440
441
442 if ($ext) return nom_fichier_copie_locale($source, $ext);
443
444 // voir si l'extension indiquee dans le nom du fichier est ok
445 // et si il n'aurait pas deja ete rapatrie
446
447 $ext = $path_parts ? $path_parts['extension'] : '';
448
449 if ($ext AND sql_getfetsel("extension", "spip_types_documents", "extension=" . sql_quote($ext))){
450 $f = nom_fichier_copie_locale($source, $ext);
451 if (file_exists(_DIR_RACINE . $f))
452 return $f;
453 }
454
455 // Ping pour voir si son extension est connue et autorisee
456 // avec mise en cache du resultat du ping
457
458 $cache = sous_repertoire(_DIR_CACHE, 'rid') . md5($source);
459 if (!@file_exists($cache)
460 OR !$path_parts = @unserialize(spip_file_get_contents($cache))
461 OR _request('var_mode')=='recalcul'
462 ){
463 $path_parts = recuperer_infos_distantes($source, 0, false);
464 ecrire_fichier($cache, serialize($path_parts));
465 }
466 $ext = $path_parts ? $path_parts['extension'] : '';
467 if ($ext AND sql_getfetsel("extension", "spip_types_documents", "extension=" . sql_quote($ext))){
468 return nom_fichier_copie_locale($source, $ext);
469 }
470 spip_log("pas de copie locale pour $source");
471 }
472
473
474 // Recuperer les infos d'un document distant, sans trop le telecharger
475 #$a['body'] = chaine
476 #$a['type_image'] = booleen
477 #$a['titre'] = chaine
478 #$a['largeur'] = intval
479 #$a['hauteur'] = intval
480 #$a['taille'] = intval
481 #$a['extension'] = chaine
482 #$a['fichier'] = chaine
483
484 // http://doc.spip.org/@recuperer_infos_distantes
485 function recuperer_infos_distantes($source, $max = 0, $charger_si_petite_image = true){
486
487 # charger les alias des types mime
488 include_spip('base/typedoc');
489 global $mime_alias;
490
491 $a = array();
492 $mime_type = '';
493 // On va directement charger le debut des images et des fichiers html,
494 // de maniere a attrapper le maximum d'infos (titre, taille, etc). Si
495 // ca echoue l'utilisateur devra les entrer...
496 if ($headers = recuperer_page($source, false, true, $max, '', '', true)){
497 list($headers, $a['body']) = preg_split(',\n\n,', $headers, 2);
498
499 if (preg_match(",\nContent-Type: *([^[:space:];]*),i", "\n$headers", $regs))
500 $mime_type = (trim($regs[1]));
501 else
502 $mime_type = ''; // inconnu
503
504 // Appliquer les alias
505 while (isset($mime_alias[$mime_type]))
506 $mime_type = $mime_alias[$mime_type];
507
508 // Si on a un mime-type insignifiant
509 // text/plain,application/octet-stream ou vide
510 // c'est peut-etre que le serveur ne sait pas
511 // ce qu'il sert ; on va tenter de detecter via l'extension de l'url
512 // ou le Content-Disposition: attachment; filename=...
513 $t = null;
514 if (in_array($mime_type, array('text/plain', '', 'application/octet-stream'))){
515 if (!$t
516 AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $source, $rext)
517 ){
518 $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text'));
519 }
520 if (!$t
521 AND preg_match(",^Content-Disposition:\s*attachment;\s*filename=(.*)$,Uims", $headers, $m)
522 AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $m[1], $rext)
523 ){
524 $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text'));
525 }
526 }
527
528 // Autre mime/type (ou text/plain avec fichier d'extension inconnue)
529 if (!$t)
530 $t = sql_fetsel("extension", "spip_types_documents", "mime_type=" . sql_quote($mime_type));
531
532 // Toujours rien ? (ex: audio/x-ogg au lieu de application/ogg)
533 // On essaie de nouveau avec l'extension
534 if (!$t
535 AND $mime_type!='text/plain'
536 AND preg_match(',\.([a-z0-9]+)(\?.*)?$,i', $source, $rext)
537 ){
538 $t = sql_fetsel("extension", "spip_types_documents", "extension=" . sql_quote($rext[1],'','text')); # eviter xxx.3 => 3gp (> SPIP 3)
539 }
540
541
542 if ($t){
543 spip_log("mime-type $mime_type ok, extension " . $t['extension']);
544 $a['extension'] = $t['extension'];
545 } else {
546 # par defaut on retombe sur '.bin' si c'est autorise
547 spip_log("mime-type $mime_type inconnu");
548 $t = sql_fetsel("extension", "spip_types_documents", "extension='bin'");
549 if (!$t) return false;
550 $a['extension'] = $t['extension'];
551 }
552
553 if (preg_match(",\nContent-Length: *([^[:space:]]*),i",
554 "\n$headers", $regs)
555 )
556 $a['taille'] = intval($regs[1]);
557 }
558
559 // Echec avec HEAD, on tente avec GET
560 if (!$a AND !$max){
561 spip_log("tenter GET $source");
562 $a = recuperer_infos_distantes($source, _INC_DISTANT_MAX_SIZE);
563 }
564
565 // S'il s'agit d'une image pas trop grosse ou d'un fichier html, on va aller
566 // recharger le document en GET et recuperer des donnees supplementaires...
567 if (preg_match(',^image/(jpeg|gif|png|swf),', $mime_type)){
568 if ($max==0
569 AND $a['taille']<_INC_DISTANT_MAX_SIZE
570 AND (strpos($GLOBALS['meta']['formats_graphiques'], $a['extension'])!==false)
571 AND $charger_si_petite_image
572 ){
573 $a = recuperer_infos_distantes($source, _INC_DISTANT_MAX_SIZE);
574 }
575 else if ($a['body']){
576 $a['fichier'] = _DIR_RACINE . nom_fichier_copie_locale($source, $a['extension']);
577 ecrire_fichier($a['fichier'], $a['body']);
578 $size_image = @getimagesize($a['fichier']);
579 $a['largeur'] = intval($size_image[0]);
580 $a['hauteur'] = intval($size_image[1]);
581 $a['type_image'] = true;
582 }
583 }
584
585 // Fichier swf, si on n'a pas la taille, on va mettre 425x350 par defaut
586 // ce sera mieux que 0x0
587 if ($a AND $a['extension']=='swf'
588 AND !$a['largeur']
589 ){
590 $a['largeur'] = 425;
591 $a['hauteur'] = 350;
592 }
593
594 if ($mime_type=='text/html'){
595 include_spip('inc/filtres');
596 $page = recuperer_page($source, true, false, _INC_DISTANT_MAX_SIZE);
597 if (preg_match(',<title>(.*?)</title>,ims', $page, $regs))
598 $a['titre'] = corriger_caracteres(trim($regs[1]));
599 if (!$a['taille']) $a['taille'] = strlen($page); # a peu pres
600 }
601
602 return $a;
603 }
604
605
606 /**
607 * Tester si un host peut etre recuperer directement ou doit passer par un proxy
608 * on peut passer en parametre le proxy et la liste des host exclus,
609 * pour les besoins des tests, lors de la configuration
610 *
611 * @param string $host
612 * @param string $http_proxy
613 * @param string $http_noproxy
614 * @return string
615 */
616 function need_proxy($host, $http_proxy = null, $http_noproxy = null){
617 if (is_null($http_proxy))
618 $http_proxy = @$GLOBALS['meta']["http_proxy"];
619 if (is_null($http_noproxy))
620 $http_noproxy = @$GLOBALS['meta']["http_noproxy"];
621
622 $domain = substr($host, strpos($host, '.'));
623
624 return ($http_proxy
625 AND (strpos(" $http_noproxy ", " $host ")===false
626 AND (strpos(" $http_noproxy ", " $domain ")===false)))
627 ? $http_proxy : '';
628 }
629
630 //
631 // Lance une requete HTTP avec entetes
632 // retourne le descripteur sur lequel lire la reponse
633 //
634 // http://doc.spip.org/@init_http
635 function init_http($method, $url, $refuse_gz = false, $referer = '', $datas = "", $vers = "HTTP/1.0", $date = ''){
636 $user = $via_proxy = $proxy_user = '';
637 $fopen = false;
638
639 $t = @parse_url($url);
640 $host = $t['host'];
641 if ($t['scheme']=='http'){
642 $scheme = 'http';
643 $noproxy = '';
644 } elseif ($t['scheme']=='https') {
645 $scheme = 'ssl';
646 $noproxy = 'ssl://';
647 if (!isset($t['port']) || !($port = $t['port'])) $t['port'] = 443;
648 }
649 else {
650 $scheme = $t['scheme'];
651 $noproxy = $scheme . '://';
652 }
653 if (isset($t['user']))
654 $user = array($t['user'], $t['pass']);
655
656 if (!isset($t['port']) || !($port = $t['port'])) $port = 80;
657 if (!isset($t['path']) || !($path = $t['path'])) $path = "/";
658 if (@$t['query']) $path .= "?" . $t['query'];
659
660 $f = lance_requete($method, $scheme, $user, $host, $path, $port, $noproxy, $refuse_gz, $referer, $datas, $vers, $date);
661 if (!$f){
662 // fallback : fopen
663 if (!_request('tester_proxy')){
664 $f = @fopen($url, "rb");
665 spip_log("connexion vers $url par simple fopen");
666 $fopen = true;
667 }
668 else
669 $f = false;
670 // echec total
671 }
672
673 return array($f, $fopen);
674 }
675
676 // http://doc.spip.org/@lance_requete
677 function lance_requete($method, $scheme, $user, $host, $path, $port, $noproxy, $refuse_gz = false, $referer = '', $datas = "", $vers = "HTTP/1.0", $date = ''){
678
679 $proxy_user = '';
680 $http_proxy = need_proxy($host);
681 if ($user) $user = urlencode($user[0]) . ":" . urlencode($user[1]);
682
683 if ($http_proxy){
684 $path = (($scheme=='ssl') ? 'https://' : "$scheme://")
685 . (!$user ? '' : "$user@")
686 . "$host" . (($port!=80) ? ":$port" : "") . $path;
687 $t2 = @parse_url($http_proxy);
688 $first_host = $t2['host'];
689 if (!($port = $t2['port'])) $port = 80;
690 if ($t2['user'])
691 $proxy_user = base64_encode($t2['user'] . ":" . $t2['pass']);
692 }
693 else
694 $first_host = $noproxy . $host;
695
696 $f = @fsockopen($first_host, $port);
697 spip_log("Recuperer $path sur $first_host:$port par $f");
698 if (!$f) return false;
699
700 $site = $GLOBALS['meta']["adresse_site"];
701
702 $req = "$method $path $vers\r\n"
703 . "Host: $host\r\n"
704 . "User-Agent: " . _INC_DISTANT_USER_AGENT . "\r\n"
705 . ($refuse_gz ? '' : ("Accept-Encoding: " . _INC_DISTANT_CONTENT_ENCODING . "\r\n"))
706 . (!$site ? '' : "Referer: $site/$referer\r\n")
707 . (!$date ? '' : "If-Modified-Since: " . (gmdate("D, d M Y H:i:s", $date) . " GMT\r\n"))
708 . (!$user ? '' : ("Authorization: Basic " . base64_encode($user) . "\r\n"))
709 . (!$proxy_user ? '' : "Proxy-Authorization: Basic $proxy_user\r\n")
710 . (!strpos($vers, '1.1') ? '' : "Keep-Alive: 300\r\nConnection: keep-alive\r\n");
711
712 # spip_log("Requete\n$req");
713 fputs($f, $req);
714 fputs($f, $datas ? $datas : "\r\n");
715 return $f;
716 }
717
718 ?>