[Date Prev][Date Next][Thread Prev][Thread Next][Date Index][Thread Index]

Re: Es ist Wahlkampf ...



Hi,

On Mon, Jun 22, 1998 at 09:18:32PM +0200, Thorsten Fenk wrote:
> > Yahoo&Co arbeiten automatisch. Die Programme haben keinerlei Sprachanalyse
> Katalog != Suchmaschine(Roboter/Spider)
[..]
> Bei Lycos gibt es u.A. die Moeglichkeit, sich nur von der Redaktion
> als "jugendfrei" anerkannte Inhalte anzeigen zu lassen.

So?
Also fuer mich sehen diese Logfiles aber schon *sehr* nach automatischem
Absuchen aus:

lycosidae.lycos.com - - [06/Jun/1998:05:51:03 -0100] "GET /robots.txt HTTP/1.0" 404 244
lycosidae.lycos.com - - [06/Jun/1998:05:51:34 -0100] "GET /robots.txt HTTP/1.0" 404 244
lycosidae.lycos.com - - [06/Jun/1998:05:52:06 -0100] "GET /robots.txt HTTP/1.0" 404 244

spider4.srv.pgh.lycos.com - - [17/Jun/1998:08:11:51 -0100] "GET /robots.txt HTTP/1.0" 404 244
spider4.srv.pgh.lycos.com - - [17/Jun/1998:08:11:53 -0100] "GET /freenet/archiv/para126a.html HTTP/1.0" 200 549
spider4.srv.pgh.lycos.com - - [17/Jun/1998:13:23:39 -0100] "GET /rob

access_log.2:193.189.227.33 - - [07/Jun/1998:21:13:44 +0200] "GET
/robots.txt HTTP/1.1" 404 175 (fireabell.de)

Das Ding hat ueber Tage hinweg nichts anderes getan, als regelmaessig ein
bis zwei mal am Tag nach einer robot.txt zu fragen. Sonst hat es sich
nichts geholt. Was soll ich davon bitte halten?

Doch sicher nicht Handarbeit. 

neko
-- 
Simone Demmel 				MUC.DE e.V.
Webmistress of www.muc.de		Frankfurter Ring 193a
webmaster@muc.de			80807 Muenchen