also du kannst die bots mit der robot.txt im root deiner website 'dirigieren' - da kannst festlegen welche bots wohin dürfen und was sie tun dürfen... die meisten bots halten sich daran ...
weiters kannst mit der .htaccess den zugriff auf deine seite (oder bestimmte verzeichnissse) für diverse 'zugriffs adressen' komplett sperren - da kannst auch searchbot adressen eintragen - aber achtung wildcards '*' funktionieren in der htaccess nicht...
lg, catch17
____________________________________
...wenn Ihr hungert, wenn Ihr dürstet - ihr seit nicht allein, wenn Ihr krank seit wenn Ihr leidet - Ihr seit nicht allein -- ER kümmert sich auch um andere NICHT
|