SEO-Optimized Robots.txt

Assalamualaikum, Notes saya ini saya buat untuk saya baca lagi jika saya lupa. Ini juga sedikit sharing saja bagi para nyubi kayak saya, biar ga mudah lupa dan bisa dijadikan referensi di kemudian hari.

Saya merupakan penganut Adsense Manual, yang “bersedia” nulis berbulan-bulan untuk dapat traffic. Agaknya jarang sekali ditemukan “spesies” seperti saya belakangan ini hihihi.. jadi saya terhitung langka :v

SEO-Optimized Robots.txt

Berawal dari pengalaman saya build website, manual. Ya, tidak ada yang bisa diceritakan dari pembuatan website manual. Kenapa? Ya karena peminatnya makin lama makin sedikit saja. Jadi intinya, setiap saya publish article, kenapa kok cuma terindex “Featured Image” nya saja? Kenapa gambar-gambar yang lain kok ga ada yang keindex.

Sudah submit URL, sudah submit sitemap, dan dll lah dilakukan. Tetep tidak terindex. Lha kok pas lagi sholat, kepikiran Robots.txt, crawling, allow, disallow... YA.. INI MUNGKIN SETTING ROBOTS.TXT saya yang bermasalah... Ini default Robots.TXT saya

User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Sitemap: https://www.website.com/sitemap.xml

Wogh... Pantesan... atau Wogh..Mungkin saja ini sebabnya.
Karena belakangan GoogleBot sudah beranak pinak. Punya Googlebot-video, Google-Bot Image, Googlebot-Ads...

Tidak mungkin sesimple itu kan? Akhirnya saya nemu.
SEO Optimized Robots.txt

Ini dibawah ini contohnya :


User-agent: *
Disallow: /cgi-bin/
Disallow: /wp-admin/
Disallow: /readme.html
Disallow: /comments/feed/
Disallow: /trackback/
Disallow: /index.php
Disallow: /xmlrpc.php
Disallow: /wp-content/plugins/
Disallow: /feed/
Disallow: */feed/
Allow: /wp-content/uploads/
User-agent: Mediapartners-Google
Allow: /
User-agent: Googlebot-Image
Allow: /wp-content/uploads/
User-agent: Googlebot
Allow: /wp-content/uploads/
User-agent: Adsbot-Google
Allow: /
User-agent: Googlebot-Mobile
Allow: /
Sitemap: https://domain.com/post-sitemap.xml


Woalah.. emang saya yang katrok.. bisanya cuma nulis artikel doang T_T

wp-content/uploads/ harus di allow, user agent nya Googlebot Ads sama Image.

Harus allow soalnya traffic dari gambar kan lumayan.

OMG... Ok. Sekian Notes kali ini. Kita akan lihat dalam beberapa hari kedepan. Apa udah keindex itu gambarnya...
Mungkin para pemain Wallpaper udah pake ini juga. Duhhh...katrok banget saya T_T