Files
pw/static/robots.txt
T
Asger Geel WeirsøeandClaude Opus 5.5 e58a11c2b4 feat: flyt sitet fra Astro til Zola
Samme indhold, URL'er og udseende, bygget af en enkelt zola-binær og Tailwind
standalone-CLI uden Node. Kanonisk domæne er asger.weirsoe.dk.

Blogindlæg ligger som page bundles med frontmatter Zola forstår, så de gamle
stempler er ugyldige, indtil scripts/omstempl.py er kørt med PUBLISH_KEY.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
2026-11-01 16:47:08 +01:00

73 lines
1.5 KiB
Plaintext

# Asger Weirsøe — asger.weirsoe.dk
# Alle crawlere er velkomne, inkl. AI/LLM-crawlere (vi vil gerne findes og citeres).
# Undtagelse: selve arkivfilerne under /tarballz/ (op til ~2 GB stykket). Indeks og
# PKGBUILD'er må gerne crawles. Står i hver gruppe, fordi en crawler med sin egen
# gruppe ignorerer User-agent: *.
User-agent: *
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
# Eksplicit velkomst til AI/LLM-crawlere
User-agent: GPTBot
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
User-agent: OAI-SearchBot
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
User-agent: ChatGPT-User
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
User-agent: ClaudeBot
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
User-agent: Claude-Web
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
User-agent: anthropic-ai
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
User-agent: PerplexityBot
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
User-agent: Perplexity-User
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
User-agent: Google-Extended
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
User-agent: Applebot-Extended
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
User-agent: CCBot
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
User-agent: cohere-ai
Allow: /
Disallow: /tarballz/*.tar.zst
Disallow: /tarballz/*.zip
Sitemap: https://asger.weirsoe.dk/sitemap-index.xml