1. Diese Seite verwendet Cookies. Wenn du dich weiterhin auf dieser Seite aufhältst, akzeptierst du unseren Einsatz von Cookies. Weitere Informationen

XSLT, HTML zu XML, externe Webseite "verstehen"

Dieses Thema im Forum "XML Technologien" wurde erstellt von arne123, 15. Juli 2012.

  1. arne123

    arne123 Grünschnabel

    Hallo Leute,

    Ich suche gerade nach einer Idee, wie ich aus einer Webseite bestimmte Informationen herauslese und weiter nutzbar mache. Es geht hier erstmal nur um eine Webseite eines Restaurants das einen wöchentlich wechselnden Mittagstisch anbietet. Ich möchte die Informationen der Webseite automatisiert in mein xslt/php basiertes Sammelbestellsystem überführen.

    Mein Ansatz ist die Informationen mit xslt soweit es geht heruaszufiltern, später evtl. mit php weiter verfeinern um da raus ein XML basiertes Menu zu erstellen.

    Problem an dieser Stelle, die Webseite ist vermutlich über ein webbasiertes CMS gepflegt und nicht sehr sauber. Ein wichtiger Informationsbestandteil sind z.b. die Zeilenumbrüche im Text.
    Und genau daran scheitere ich gerade, wie ich den Zeilenumbruch erkenne, andere Formatierungen aber ignoriere.

    Ein einfaches template welches mir die ganzen überflüssigen leeren Nodes aus dem unten angehängten Ausschnitt der Website herausfiltert wäre folgendes:

    HTML:
    1. <xsl:template match="table/tr/td/div">
    2.   <xsl:if test=". != ''">
    3.     DIV:<xsl:value-of select="."  /> <br/>
    4.  </xsl:if>
    5. </xsl:template>
    jetzt möchte ich aber noch folgen Funktionen ergänzen:
    - Das Template soll nur die Tabelle bearbeiten in dem der Text "Mittagstischkarte" vorkommt
    - Die Zeilenumbrüche im Textfluss sollen erkannt werden
    - Die Gerichte werden eindeutig nur durch die Preise getrennt, d.h. einen Nummer in der Form X.XX soll erkannt werden
    - Zeilen die keinen echten Text (A-Z a-z 0-9) enthalten sollen ignoriert werden.

    Ist dies mit xslt lösbar ?
    es sind auch mehrere templates mit mehreren Aufrufen denkbar.


    Hier ein Ausschnitt aus dem Original Menu:
    HTML:
    1. <table width="100%" border="0" cellpadding="0" cellspacing="0">
    2.                       <tr>
    3.                         <td width="30" height="552"></td>
    4.                         <td width="529" valign="top">
    5.                             <div align="center"><font size="4"><b>Mittagstischkarte</b></font><br><br><font size="4"><font size="3">Unser wöchentlich wechselnder Mittagstisch</font></font> <br><font size="4"><font size="3">von 12.00 bis 14.00 Uhr</font></font></div>
    6. <div align="center"></div>
    7. <div align="center"></div>
    8. <div align="center"></div>
    9. <div align="center"></div>
    10. <div align="center"><font size="3"></font></div>
    11. <div align="center"><font size="3"></font></div>
    12. <div align="center"><font size="3"></font></div>
    13. <div align="center"><font size="3"></font></div>
    14. <div align="center"><font size="3"></font></div>
    15. <div align="center"><font size="3"></font>&nbsp;</div>
    16. <div align="center"><b><font size="3">"Eintopf der Woche"</font></b><br>Linseneintopf mit Bockwurst<br>€ 5,50 <br></div>
    17. <div align="center"><font size="3"></font>&nbsp;</div>
    18. <div align="center"><font size="6">Tagessuppe &nbsp; 1,50 €<br><br></font>&nbsp;<br></div>
    19. <div align="center"><font size="3">Kasseler mit Sauerkraut und Kartoffelpüree<br><b>5,50 €</b><br></font><br><font size="4"><font size="2">__________</font></font><font size="4"><br>kl. Schnitzel mit Sauce nach Wahl,<br>Bratkartoffeln und Gemüse<br><br></font><font size="4"><b>5,50 €<br><br></b></font></div>
    20. <div align="center"></div>
    21. <div align="center"></div>
    22. <div align="center"></div>
    23. <div align="center">______________</div>
    24. <div align="center"></div>
    25. <div align="center"></div>
    26. <div align="center"></div>
    27. <div align="center"><font size="4"></font></div>
    28. <div align="center"><font size="4"></font></div><div align="center"><font size="4" color="#f0f090">frische Bratwurst<br>mit Bratkartoffeln und Gemüse<br></font></div><div align="center"></div>
    29. <div align="center"><font size="4"></font></div>
    30. <div align="center"><font size="4"></font></div>
    31.  
    32. <div align="center"><font size="4">5,50 €</font></div>
    33. <div align="center">____________</div>
    34. <div align="center"><font size="4"></font></div>
    35. <div align="center"><font size="4">fruchtiges Hähnchengeschnetzeltes<br>im Reisrand mit Salat<br>5,50 €<br>---------<br></font></div>
    36. <div align="center"></div>
    37. <div align="center"><font size="4">2 Spiegeleier<br>&nbsp;mit Salzkartoffeln und Blattspinat<br>5,50 €</font></div>
    38. <div align="center"><font size="4"></font></div>
    39. <div align="center"></div>
    40. <div align="center"><font size="4">_________</font><br><font size="5"><br>Dessert&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 1,50 €</font><br><br><br><br></div><font size="4"><br></font>
    41. <div align="center"><font size="4"><font size="4"></font></font></div><font size="4">&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <br><br></font>
    42. <div align="center"></div>
    43. <div align="center"><font size="3"></font></div>
    44. <div align="center"></div>                        </td>
    45.                         <td width="30"></td>
    46.                       </tr>
    47.                     </table>
    Ich bin für jeden Hinweis dankbar,
    Gruß
    Arne
     
  2. hela

    hela Premium-User

    Hallo,

    wenn du mit PHP arbeitest und die Seite als HTML-DOM-Objekt erfasst, dann würde ich zunächst in einem Template alle Tabellen selektieren und ...

    zu 1.
    ... dort im Template eine Variable zuweisen, die den Text des Tabellenelements mitsamt aller Nachfahrenelemente enthält - so wie hier in den XSLT-FAQ vorgeschlagen wurde. Nun brauchst du nur noch mit der contains()-Funktion nachzuprüfen, ob sich das Wort "Mittagstisch" im Variableninhalt befindet.
    Wenn das der Fall ist, dann kann man mit der gleichen Vorgehensweise wie bei der Textvariablen jeden Textknoten in Tags einhüllen (beispielsweise mit dem Namen "text") und in den Ausgabebaum schreiben:
    Code (XML):
    1. <xsl:template match="//table">
    2.     <xsl:variable name="string">
    3.         <xsl:apply-templates mode="string" />
    4.     </xsl:variable>
    5.     <xsl:if test="contains($string,'Mittagstisch')">
    6.         <xsl:copy>
    7.             <xsl:apply-templates mode="text" />        
    8.         </xsl:copy>
    9.     </xsl:if>
    10. </xsl:template>
    11.  
    12. <xsl:template match="text()" mode="string">
    13.   <xsl:value-of select="normalize-space()" />
    14. </xsl:template>
    15.  
    16. <xsl:template match="text()" mode="text">
    17.     <text>
    18.         <xsl:value-of select="normalize-space()" />
    19.     </text>
    20. </xsl:template>
    _
    zu 2.

    In deiner Beispielspeisekarte gibt es keine "Zeilenumbrüche im Textfluss". Vermutlich meinst du BR-Elemente, die aber Textknoten voneinander trennen. Deshalb werden sie auch im oben gezeigten Template verarbeitet.
    _
    zu 3. und 4.

    Auf der gleichen Seite (wie o.g. Link) befindet sich hier ein Vorschlag, wie man mit Hilfe der translate()-Funktion nichtnumerische Zeichen löschen kann.
    Wenn man festlegt, was "kein echter Text" ist, kann man das auch dafür nutzen.
    Gruß retour
     
    Zuletzt von einem Moderator bearbeitet: 23. Mai 2014
  3. arne123

    arne123 Grünschnabel

    Hallo,

    super Hilfe, danke,
    damit bin ich deutlich weiter.

    Mit folgender Transformation habe ich schon etwas was dem was ich haben möchte deutlich ähnlicher sieht.
    Das mit dem erkennen der <br> hätte ich ich vermutlich nicht herausbekommen, dazu hatte ich einfach die falschen Ansätze (+ Null Erfahrung).

    Code (XML):
    1. <xsl:template match="table">
    2.     <xsl:variable name="string">
    3.         <xsl:apply-templates mode="string" />
    4.     </xsl:variable>
    5.     <xsl:if test="contains($string,'Mittagstischkarte')">
    6.        
    7.         <xsl:copy select="div">
    8.             <xsl:apply-templates mode="noemptydiv" />
    9.         </xsl:copy>
    10.        
    11.     </xsl:if>
    12. </xsl:template>
    13.  
    14. <xsl:template match="text()" mode="string">
    15.   <xsl:value-of select="normalize-space()" />
    16. </xsl:template>
    17.  
    18. <xsl:template match="div" mode = "noemptydiv">
    19.     <xsl:if test=". != ''">
    20.       <xsl:apply-templates mode="text" />
    21.   </xsl:if>
    22. </xsl:template>
    23.  
    24. <xsl:template match="text()" mode="text">
    25.       <xsl:value-of select="normalize-space()" /><br/>
    26. </xsl:template>
    27.  
    28. <xsl:template match="text()"/>
    EIn Problem ist mir jetzt erst bewusst geworden und zwar hat
    das orig. Dokument hat tausende von verschachtelten Tabellen, in etwa so:
    HTML:
    1. <table> *1
    2.   <tr>
    3.     <td>
    4.       <table>
    5.         Seiten Navigation
    6.       </table>
    7.      
    8.       <table>  
    9.         <tr><td>Header</td> </tr>
    10.         <tr>
    11.           <td>
    12.             <table>
    13.               <tr><td> xyz </td></tr>
    14.             </table>
    15.           </td>
    16.         </tr>
    17.         <tr>
    18.           <td>
    19.             <table> *2
    20.               <tr><td>Menueauschnitt (siehe erstes post)</td></tr>
    21.             </table>
    22.           </td>
    23.         </tr>
    24.         <tr>
    25.           <td>
    26.             <table>
    27.               <tr><td>Footer</td></tr>
    28.             </table>
    29.           </td>
    30.         </tr>
    31.       </table>
    32.     </td>
    33.   </tr>
    • Von meiner obigen Transformation wird jetzt Table *1 benutzt, ich würde mich aber gerne auf Table 2 beschränken (das wäre die, die das Schlüsselwort "Mittagstischkarte" enthält"). Habe ich das jetzt falsch umgesetzt ?

    • Bezüglich des Heruausfilterns von Zeichens würde ich das jetzt so lösen wollen das ich Zeilen, die ausschließlich gleiche Zeichen oder nur aus zwei unterschiedlichen Zeichen aber ein länge grösser 4, (alles ohne whitespace) nicht mit übernehmen möchte. Dazu habe ich aber auch noch keinen Ansatz mit xlst gefunden, translate() scheint mir noch nicht der richtige weg zu sein oder?

    • In meiner Transformation ist mir nicht klar warum meine "noemptydiv" if abfrage nicht direkt lösen kann, in etwa so:
    Code (XML):
    1. <xsl:template match="table">
    2.     <xsl:variable name="string">
    3.         <xsl:apply-templates mode="string" />
    4.     </xsl:variable>
    5.     <xsl:if test="contains($string,'Mittagstischkarte')">
    6.         <xsl:copy select="div">
    7.           <xsl:if test=". != ''">
    8.             <xsl:apply-templates mode="text" />
    9.           </xsl:if>
    10.         </xsl:copy>
    11.     </xsl:if>
    12. </xsl:template>
    Gruß
    Arne
     
    Zuletzt von einem Moderator bearbeitet: 23. Mai 2014
  4. hela

    hela Premium-User

    Hallo Arne,

    ich habe die infernalische HTML-Speisekarte mal versuchsweise nachgebaut und mit folgendem Stylesheet transformiert:
    Code (XML):
    1.   <xsl:param name="unechterText" select="'_-*'" />
    2.  
    3.   <!-- Nur TABLE-Elemente verarbeiten, die keine TABLE-Elemente
    4.       als Nachfahren haben -->
    5.   <xsl:template match="//table[not(descendant::table)]">
    6.       <xsl:variable name="string">
    7.         <xsl:apply-templates mode="string" />
    8.       </xsl:variable>
    9.       <xsl:if test="contains($string,'Mittagstisch')">
    10.         <output1>
    11.           <xsl:apply-templates mode="text" />
    12.         </output1>
    13.       </xsl:if>
    14.   </xsl:template>
    15.  
    16.   <xsl:template match="text()" mode="string">
    17.     <xsl:value-of select="normalize-space()" />
    18.   </xsl:template>
    19.  
    20.   <xsl:template match="text()" mode="text">
    21.     <text>
    22.       <!-- "Unechte" Zeichen aus dem TEXT-Element löschen,
    23.            u.U. erhält man dadurch ein leeres Element -->
    24.       <xsl:value-of select="normalize-space(translate(.,$unechterText,''))" />
    25.     </text>
    26.   </xsl:template>
    27.  
    28.   <!-- Default Output unterbinden -->
    29.   <xsl:template match="text()|@*" />
    Die TABLE-Elemente werden mit einem Prädikat gefiltert, das nur Tabellen der untersten Ebene (die also keine TABLE-Elemente als Nachfahren haben) zulässt. Damit sollte das Problem mit den verschachtelten Tabellen gelöst sein.
    Weiterhin habe ich ein Parameter definiert, der die "unechten" Textzeichen enthält. Das sind jetzt der Unterstrich [_], der Bindestrich [-] und das harte bzw. erzwungene Leerzeichen [& #160;]. Oben im Quelltext steht im selekt-Attribut statt des erzwungenen Leerzeichens ein Stern ! Diese Zeichen werden bei der Ausgabe aus dem Text genommen, so dass u.U. ein leeres Element entsteht.
    Ich würde die leeren Elemente erst mal nicht löschen, vielleicht kann man sie noch gebrauchen.
    Damit ergibt sich bei mir folgendes XML:
    Code (XML):
    1. <?xml version="1.0" encoding="UTF-8"?>
    2. <?xml-stylesheet type="text/xsl" href="output1.xsl"?>
    3. <output1>
    4.   <text>Mittagstischkarte</text>
    5.   <text>Unser wöchentlich wechselnder Mittagstisch</text>
    6.   <text>von 12.00 bis 14.00 Uhr</text>
    7.   <text/>
    8.   <text>"Eintopf der Woche"</text>
    9.   <text>Linseneintopf mit Bockwurst</text>
    10.   <text>€ 5,50</text>
    11.   <text/>
    12.   <text>Tagessuppe 1,50 €</text>
    13.   <text/>
    14.   <text>Kasseler mit Sauerkraut und Kartoffelpüree</text>
    15.   <text>5,50 €</text>
    16.   <text/>
    17.   <text>kl. Schnitzel mit Sauce nach Wahl,</text>
    18.   <text>Bratkartoffeln und Gemüse</text>
    19.   <text>5,50 €</text>
    20.   <text/>
    21.   <text>frische Bratwurst</text>
    22.   <text>mit Bratkartoffeln und Gemüse</text>
    23.   <text>5,50 €</text>
    24.   <text/>
    25.   <text>fruchtiges Hähnchengeschnetzeltes</text>
    26.   <text>im Reisrand mit Salat</text>
    27.   <text>5,50 €</text>
    28.   <text/>
    29.   <text>2 Spiegeleier</text>
    30.   <text>mit Salzkartoffeln und Blattspinat</text>
    31.   <text>5,50 €</text>
    32.   <text/>
    33.   <text>Dessert 1,50 €</text>
    34.   <text/>
    35. </output1>
    Im nächsten Schritt habe ich versucht die alle Preise und die Namen zu separieren:
    Code (XML):
    1.   <xsl:template match="/output1">
    2.     <output2>
    3.       <xsl:apply-templates select="text" />
    4.     </output2>
    5.   </xsl:template>
    6.  
    7.   <xsl:template match="text">
    8.     <xsl:variable name="name" select="normalize-space(translate(.,'0123456789,€',''))" />
    9.     <xsl:variable name="preis" select="normalize-space(translate(.,translate($name,' ',''),''))" />
    10.  
    11.     <xsl:if test="string-length($name)>0">
    12.       <name><xsl:value-of select="$name" /></name>
    13.     </xsl:if>
    14.  
    15.     <xsl:if test="string-length($preis)>0 and contains($preis,'€')">
    16.       <preis><xsl:value-of select="$preis" /></preis>
    17.     </xsl:if>
    18.  
    19.     <xsl:if test="string-length($name)=0"><empty /></xsl:if>
    20.  
    21.   </xsl:template>
    In der Variablen "name" werden alle numerischen Zeichen sowie das Komma und das Euro-Zeichen aus dem Text gelöscht.
    In der Variablen "preis" werden alle Zeichen gelöscht, die in der Variable "name" vorkommen mit Ausnahme des Leerzeichens. Damit müssten dann in der Preisvariablen nur noch numerische Zeichen, das Komma, Euro- und Leerzeichen stehen. Der Variableninhalt wird dann mit unterschiedlichen Elementnamen in den Ausgabebaum geschrieben:
    Code (XML):
    1. <?xml version="1.0" encoding="UTF-8"?>
    2. <?xml-stylesheet type="text/xsl" href="output2.xsl"?>
    3. <output2>
    4.   <name>Mittagstischkarte</name>
    5.   <name>Unser wöchentlich wechselnder Mittagstisch</name>
    6.   <name>von . bis . Uhr</name>
    7.   <empty/>
    8.   <name>"Eintopf der Woche"</name>
    9.   <name>Linseneintopf mit Bockwurst</name>
    10.   <preis>€ 5,50</preis>
    11.   <empty/>
    12.   <empty/>
    13.   <name>Tagessuppe</name>
    14.   <preis>1,50 €</preis>
    15.   <empty/>
    16.   <name>Kasseler mit Sauerkraut und Kartoffelpüree</name>
    17.   <preis>5,50 €</preis>
    18.   <empty/>
    19.   <empty/>
    20.   <name>kl. Schnitzel mit Sauce nach Wahl</name>
    21.   <name>Bratkartoffeln und Gemüse</name>
    22.   <preis>5,50 €</preis>
    23.   <empty/>
    24.   <empty/>
    25.   <name>frische Bratwurst</name>
    26.   <name>mit Bratkartoffeln und Gemüse</name>
    27.   <preis>5,50 €</preis>
    28.   <empty/>
    29.   <empty/>
    30.   <name>fruchtiges Hähnchengeschnetzeltes</name>
    31.   <name>im Reisrand mit Salat</name>
    32.   <preis>5,50 €</preis>
    33.   <empty/>
    34.   <empty/>
    35.   <name>Spiegeleier</name>
    36.   <name>mit Salzkartoffeln und Blattspinat</name>
    37.   <preis>5,50 €</preis>
    38.   <empty/>
    39.   <empty/>
    40.   <name>Dessert</name>
    41.   <preis>1,50 €</preis>
    42.   <empty/>
    43. </output2>
    Im letzten Schritt müsste man nun noch die flache Struktur vertiefen und das könnte man das mit Hilfe der EMPTY-Elemente machen:

    Code (XML):
    1.   <!-- STRUCT-Key matcht alle NAME- und PREIS-Elemente, die das übergebene USE-Element
    2.       als nächstes vorhergehendes EMPTY-Element haben -->
    3.   <xsl:key name="struct" match="name|preis" use="generate-id(preceding-sibling::empty[1])" />
    4.  
    5.   <xsl:template match="/output2">
    6.     <output3>
    7.       <xsl:apply-templates />
    8.     </output3>
    9.   </xsl:template>
    10.  
    11.   <xsl:template match="empty">
    12.     <!-- Nur EMPTY-Elemente bearbeiten, denen ein NAME-Element folgt -->
    13.     <xsl:if test="name(following-sibling::*[1])='name'">
    14.       <gericht>
    15.         <!-- Alle NAME- und PREIS-Elemente in den Ausgabebaum kopieren,
    16.             die dem selektierten EMPTY-Element unmittelbar folgen -->
    17.         <xsl:copy-of select="key('struct',generate-id(.))" />
    18.       </gericht>
    19.     </xsl:if>
    20.   </xsl:template>
    21.  
    22.   <!-- Default Output unterbinden -->
    23.   <xsl:template match="text()" />
    Das Stylesheet ist kommentiert, so dass man sich evtl. darin zurecht finden könnte. Damit ergibt sich dann folgende Ausgabe:
    Code (XML):
    1. <?xml version="1.0" encoding="UTF-8"?>
    2. <output3>
    3.   <gericht>
    4.     <name>"Eintopf der Woche"</name>
    5.     <name>Linseneintopf mit Bockwurst</name>
    6.     <preis>€ 5,50</preis>
    7.   </gericht>
    8.   <gericht>
    9.     <name>Tagessuppe</name>
    10.     <preis>1,50 €</preis>
    11.   </gericht>
    12.   <gericht>
    13.     <name>Kasseler mit Sauerkraut und Kartoffelpüree</name>
    14.     <preis>5,50 €</preis>
    15.   </gericht>
    16.   <gericht>
    17.     <name>kl. Schnitzel mit Sauce nach Wahl</name>
    18.     <name>Bratkartoffeln und Gemüse</name>
    19.     <preis>5,50 €</preis>
    20.   </gericht>
    21.   <gericht>
    22.     <name>frische Bratwurst</name>
    23.     <name>mit Bratkartoffeln und Gemüse</name>
    24.     <preis>5,50 €</preis>
    25.   </gericht>
    26.   <gericht>
    27.     <name>fruchtiges Hähnchengeschnetzeltes</name>
    28.     <name>im Reisrand mit Salat</name>
    29.     <preis>5,50 €</preis>
    30.   </gericht>
    31.   <gericht>
    32.     <name>Spiegeleier</name>
    33.     <name>mit Salzkartoffeln und Blattspinat</name>
    34.     <preis>5,50 €</preis>
    35.   </gericht>
    36.   <gericht>
    37.     <name>Dessert</name>
    38.     <preis>1,50 €</preis>
    39.   </gericht>
    40. </output3>
    Man könnte das alles sicherlich auch ganz anders machen, aber vielleicht hilft dir das weiter. :)
     
    Zuletzt von einem Moderator bearbeitet: 23. Mai 2014
  5. arne123

    arne123 Grünschnabel

    Hey super,

    danke für die ausführliche Antwort, bzw. die Lösung meines Problems :)

    Mir war die translate Funktion aber immer noch nicht sympatisch, es kann ja durchaus vorkommen, das ein oder zwei -- bzw. __ im Text vorkommen, daher habe ich das jetzt so gelöst:

    Code (XML):
    1.   <xsl:template match="text()" mode="text">
    2.     <xsl:if test="not(contains(.,'---'))  and not(contains(.,'___'))  and string-length(.)>2">
    3.   <xsl:value-of select="normalize-space()" />
    gruß
    Arne
     
    Zuletzt von einem Moderator bearbeitet: 23. Mai 2014
Die Seite wird geladen...