robots.txt – 30 Jahre Hausregeln für Websites by from heise online News on 2024-02-25 09:00 (#6JWD0) Der Robots Exclusion Standard regelt, wer automatisiert Website-Inhalte abgrasen darf - und ist in Zeiten von ChatGPT so aktuell wie lange nicht mehr.