Samme indhold, URL'er og udseende, bygget af en enkelt zola-binær og Tailwind standalone-CLI uden Node. Kanonisk domæne er asger.weirsoe.dk. Blogindlæg ligger som page bundles med frontmatter Zola forstår, så de gamle stempler er ugyldige, indtil scripts/omstempl.py er kørt med PUBLISH_KEY. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
73 lines
1.5 KiB
Plaintext
73 lines
1.5 KiB
Plaintext
# Asger Weirsøe — asger.weirsoe.dk
|
|
# Alle crawlere er velkomne, inkl. AI/LLM-crawlere (vi vil gerne findes og citeres).
|
|
# Undtagelse: selve arkivfilerne under /tarballz/ (op til ~2 GB stykket). Indeks og
|
|
# PKGBUILD'er må gerne crawles. Står i hver gruppe, fordi en crawler med sin egen
|
|
# gruppe ignorerer User-agent: *.
|
|
User-agent: *
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
# Eksplicit velkomst til AI/LLM-crawlere
|
|
User-agent: GPTBot
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
User-agent: OAI-SearchBot
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
User-agent: ChatGPT-User
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
User-agent: ClaudeBot
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
User-agent: Claude-Web
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
User-agent: anthropic-ai
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
User-agent: PerplexityBot
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
User-agent: Perplexity-User
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
User-agent: Google-Extended
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
User-agent: Applebot-Extended
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
User-agent: CCBot
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
User-agent: cohere-ai
|
|
Allow: /
|
|
Disallow: /tarballz/*.tar.zst
|
|
Disallow: /tarballz/*.zip
|
|
|
|
Sitemap: https://asger.weirsoe.dk/sitemap-index.xml
|