3 /***************************************************************************\
4 * SPIP, Systeme de publication pour l'internet *
6 * Copyright (c) 2001-2014 *
7 * Arnaud Martin, Antoine Pitrou, Philippe Riviere, Emmanuel Saint-James *
9 * Ce programme est un logiciel libre distribue sous licence GNU/GPL. *
10 * Pour plus de details voir le fichier COPYING.txt ou l'aide en ligne. *
11 \***************************************************************************/
13 if (!defined("_ECRIRE_INC_VERSION")) return;
14 include_spip('inc/syndic');
16 ## valeurs modifiables dans mes_options
17 ## attention il est tres mal vu de prendre une periode < 20 minutes
18 if (!defined('_PERIODE_SYNDICATION'))
19 define('_PERIODE_SYNDICATION', 2*60);
20 if (!defined('_PERIODE_SYNDICATION_SUSPENDUE'))
21 define('_PERIODE_SYNDICATION_SUSPENDUE', 24*60);
24 // http://doc.spip.org/@genie_syndic_dist
25 function genie_syndic_dist($t) {
26 return executer_une_syndication();
30 // Effectuer la syndication d'un unique site,
31 // retourne 0 si aucun a faire ou echec lors de la tentative
34 // http://doc.spip.org/@executer_une_syndication
35 function executer_une_syndication() {
37 // On va tenter un site 'sus' ou 'off' de plus de 24h, et le passer en 'off'
39 $where = sql_in("syndication", array('sus','off')) . "
40 AND NOT(" . sql_date_proche('date_syndic', (0 - _PERIODE_SYNDICATION_SUSPENDUE
) , "MINUTE") . ')';
41 $id_syndic = sql_getfetsel("id_syndic", "spip_syndic", $where, '', "date_syndic", "1");
43 // inserer la tache dans la file, avec controle d'unicite
44 job_queue_add('syndic_a_jour','syndic_a_jour',array($id_syndic),'genie/syndic',true);
47 // Et un site 'oui' de plus de 2 heures, qui passe en 'sus' s'il echoue
48 $where = "syndication='oui'
49 AND NOT(" . sql_date_proche('date_syndic', (0 - _PERIODE_SYNDICATION
) , "MINUTE") . ')';
50 $id_syndic = sql_getfetsel("id_syndic", "spip_syndic", $where, '', "date_syndic", "1");
53 // inserer la tache dans la file, avec controle d'unicite
54 job_queue_add('syndic_a_jour','syndic_a_jour',array($id_syndic),'genie/syndic',true);
62 * Mettre a jour le site
63 * Attention, cette fonction ne doit pas etre appellee simultanement
64 * sur un meme site: un verrouillage a du etre pose en amont.
65 * => elle doit toujours etre appelee par job_queue_add
67 * http://doc.spip.org/@syndic_a_jour
69 * @param int $now_id_syndic
72 function syndic_a_jour($now_id_syndic) {
73 include_spip('inc/texte');
74 $call = debug_backtrace();
75 if ($call[1]['function']!=='queue_start_job')
76 spip_log("syndic_a_jour doit etre appelee par JobQueue Cf. http://trac.rezo.net/trac/spip/changeset/10294",_LOG_ERREUR
);
78 $row = sql_fetsel("*", "spip_syndic", "id_syndic=".intval($now_id_syndic));
82 $url_syndic = $row['url_syndic'];
83 $url_site = $row['url_site'];
85 if ($row['moderation'] == 'oui')
86 $moderation = 'dispo'; // a valider
88 $moderation = 'publie'; // en ligne sans validation
90 // determiner le statut a poser en cas d'echec : sus par defaut
91 // off si le site est deja off, ou sus depuis trop longtemps
95 OR ($row['statut']=='sus' AND time()-strtotime($row['date_syndic'])>_PERIODE_SYNDICATION_SUSPENDUE
*60)
99 sql_updateq('spip_syndic', array('syndication'=>$statut, 'date_syndic'=>date('Y-m-d H:i:s')), "id_syndic=".intval($now_id_syndic));
101 // Aller chercher les donnees du RSS et les analyser
102 include_spip('inc/distant');
103 $rss = recuperer_page($url_syndic, true);
105 $articles = _T('sites:avis_echec_syndication_02');
107 $articles = analyser_backend($rss, $url_syndic);
109 // Renvoyer l'erreur le cas echeant
110 if (!is_array($articles)) return $articles;
112 // Les enregistrer dans la base
115 foreach ($articles as $data) {
116 inserer_article_syndique ($data, $now_id_syndic, $moderation, $url_site, $url_syndic, $row['resume'], $row['documents'], $faits);
119 // moderation automatique des liens qui sont sortis du feed
120 if (count($faits) > 0) {
121 $faits = sql_in("id_syndic_article", $faits, 'NOT');
122 if ($row['miroir'] == 'oui') {
123 sql_update('spip_syndic_articles', array('statut'=>"'off'", 'maj'=>'maj'), "id_syndic=$now_id_syndic AND $faits");
125 // suppression apres 2 mois des liens qui sont sortis du feed
126 if ($row['oubli'] == 'oui') {
128 sql_delete('spip_syndic_articles', "id_syndic=$now_id_syndic AND NOT(" . sql_date_proche('maj', -2, 'MONTH') . ') AND NOT(' . sql_date_proche('date', -2, 'MONTH') . ") AND $faits");
132 // Noter que la syndication est OK
133 sql_updateq("spip_syndic", array("syndication" => 'oui'), "id_syndic=".intval($now_id_syndic));
135 return false; # c'est bon
140 // Insere un article syndique (renvoie true si l'article est nouveau)
141 // en verifiant qu'on ne vient pas de l'ecrire avec
142 // un autre item du meme feed qui aurait le meme link
144 // http://doc.spip.org/@inserer_article_syndique
145 function inserer_article_syndique ($data, $now_id_syndic, $statut, $url_site, $url_syndic, $resume, $documents, &$faits) {
146 // Creer le lien s'il est nouveau - cle=(id_syndic,url)
147 // On coupe a 255 caracteres pour eviter tout doublon
148 // sur une URL de plus de 255 qui exloserait la base de donnees
149 $le_lien = substr($data['url'], 0,255);
151 // si true, un lien deja syndique arrivant par une autre source est ignore
152 // par defaut [false], chaque source a sa liste de liens, eventuellement
154 define('_SYNDICATION_URL_UNIQUE', false);
156 // Si false, on ne met pas a jour un lien deja syndique avec ses nouvelles
157 // donnees ; par defaut [true] : on met a jour si le contenu a change
158 // Attention si on modifie a la main un article syndique, les modifs sont
159 // ecrasees lors de la syndication suivante
160 define('_SYNDICATION_CORRECTION', true);
162 // Chercher les liens de meme cle
163 // S'il y a plusieurs liens qui repondent, il faut choisir le plus proche
164 // (ie meme titre et pas deja fait), le mettre a jour et ignorer les autres
166 $s = sql_select("id_syndic_article,titre,id_syndic,statut", "spip_syndic_articles",
167 "url=" . sql_quote($le_lien)
168 . (_SYNDICATION_URL_UNIQUE
170 : " AND id_syndic=$now_id_syndic")
171 ." AND " . sql_in('id_syndic_article', $faits, 'NOT'), "", "maj DESC");
172 while ($a = sql_fetch($s)) {
173 $id = $a['id_syndic_article'];
174 $id_syndic = $a['id_syndic'];
175 if ($a['titre'] == $data['titre']) {
176 $id_syndic_article = $id;
181 // S'il y en avait qu'un, le prendre quel que soit le titre
183 $id_syndic_article = $id;
184 // Si l'article n'existe pas, on le cree
185 elseif (!isset($id_syndic_article)) {
187 'id_syndic' => $now_id_syndic,
189 'date' => date("Y-m-d H:i:s", $data['date'] ?
$data['date'] : $data['lastbuilddate']),
192 // Envoyer aux plugins
193 $champs = pipeline('pre_insertion',
196 'table' => 'spip_syndic_articles',
201 $ajout = $id_syndic_article = sql_insertq('spip_syndic_articles', $champs);
203 pipeline('post_insertion',
206 'table' => 'spip_syndic_articles',
207 'id_objet' => $id_syndic_article
213 $faits[] = $id_syndic_article;
216 // Si le lien n'est pas nouveau, plusieurs options :
218 // 1. Lien existant : on corrige ou pas ?
219 if (!_SYNDICATION_CORRECTION
) {
222 // 2. Le lien existait deja, lie a un autre spip_syndic
223 if (_SYNDICATION_URL_UNIQUE
AND $id_syndic != $now_id_syndic)
227 // Descriptif, en mode resume ou mode 'full text'
228 // on prend en priorite data['descriptif'] si on est en mode resume,
229 // et data['content'] si on est en mode "full syndication"
230 if ($resume != 'non') {
232 $desc = strlen($data['descriptif']) ?
233 $data['descriptif'] : $data['content'];
234 $desc = couper(trim_more(textebrut($desc)), 300);
236 // mode "full syndication"
237 // choisir le contenu pertinent
238 // & refaire les liens relatifs
239 $desc = strlen($data['content']) ?
240 $data['content'] : $data['descriptif'];
241 $desc = liens_absolus($desc, $url_syndic);
244 // tags & enclosures (preparer spip_syndic_articles.tags)
245 $tags = ($data['enclosures']?
$data['enclosures']:'');
246 # eviter les doublons (cle = url+titre) et passer d'un tableau a une chaine
249 foreach ($data['tags'] as $tag) {
250 $cle = supprimer_tags($tag).extraire_attribut($tag,'href');
253 $tags .= ($tags ?
', ' : '') . join(', ', $vus);
256 // Mise a jour du contenu (titre,auteurs,description,date?,source...)
258 'titre' => $data['titre'],
259 'lesauteurs' => $data['lesauteurs'],
260 'descriptif' => $desc,
261 'lang'=> substr($data['lang'],0,10),
262 'source' => substr($data['source'],0,255),
263 'url_source' => substr($data['url_source'],0,255),
266 // Mettre a jour la date si lastbuilddate
267 if ($data['lastbuilddate'])
268 $vals['date']= date("Y-m-d H:i:s", $data['lastbuilddate']);
270 sql_updateq('spip_syndic_articles', $vals, "id_syndic_article=$id_syndic_article");
272 // Point d'entree post_syndication
273 pipeline('post_syndication',
276 'table' => 'spip_syndic_articles',
277 'id_objet' => $id_syndic_article,
279 'id_syndic' => $now_id_syndic,
290 * Nettoyer les contenus de flux qui utilisent des espaces insecables en debut
291 * pour faire un retrait.
292 * Peut etre sous la forme de l'entite ou en utf8 \xc2\xa0
294 * @param string $texte
297 function trim_more($texte){
298 $texte = trim($texte);
300 $texte = preg_replace(",^(\s|( )|(\xc2\xa0))+,ums","",$texte);