# =================================== # Erstellt am: 27.09.2008, 01:03 # Webseite: http://www.cafe-theodor.de # =================================== Sitemap: http://www.cafe-theodor.de/sitemap.xml # =================================== # Folgende Seiten sollen nicht indexiert werden: # =================================== User-agent: * Disallow: /cgi-bin/ Disallow: /admin/ Disallow: /temp/ # =================================== # Schließe folgende Spider komplett aus: # =================================== User-agent: WebReaper User-agent: WebCopier User-agent: Offline Explorer User-agent: HTTrack User-agent: Microsoft.URL.Control User-agent: EmailCollector Disallow: /