Cara Mengatasi Peringatan Diindeks, Meski Diblokir Oleh Robots.txt

Cara Mengatasi Peringatan Diindeks, Meski Diblokir Oleh Robots.txt

Ada berbagai macam masalah cakupan indeks pada webmaster atau google search console yang baru.

Beberapa hari yang lalu saya mendapatkan sebuah peringatan pada google search console yaitu valid dengan peringatan.

Itu artinya bahwa halaman tersebut valid atau benar adanya namun perayap google tidak bisa atau tidak diizinkan untuk merayapi halaman tersebut, sehingga muncul sebuah pesan peringatan.

Status peringatan dengan alasan diindeks, meski diblokir oleh robots.txt bukan masalah serius yang perlu Anda perbaiki.

Masalah ini perlu Anda tinjau kembali, apakah halaman yang diblokir oleh robots.txt tersebut memang tidak seharusnya atau tidak begitu penting untuk dirayapi oleh mesin telusur google?

Jika memang tidak begitu penting maka lebih baik dibiarkan saja.

Untuk pengguna platform blogger, masalah ini muncul karena halaman tersebut misalnya halaman label di blokir oleh file robots.txt yang Anda gunakan, selain itu juga bisa disebabkan oleh meta tag yang digunakan pada template blog Anda.

Ada beberapa cara untuk mengatasi masalah peringatan indeks yang diblokir oleh robots.txt, untuk lebih jelasnya mungkin bisa Anda simak tutorialnya di bawah ini.

Apakah Masalah Peringatan Indeks Yang Diblokir Robots.txt Perlu Segera Diperbaiki?

Tergantung,

Mengapa saya bilang begini, karena masalah peringatan indeks ini ada berbagai macam.

Jika masalah yang Anda alami sekarang seperti saya, lihat pada gambar di bawah ini:

Halaman yang diindeks meski diblokir robots txt

Contoh Error:
https://www.caramanual.com/search/label/Tutorial
https://www.caramanual.com/search/label/Tutorial?&max-results=8

Ini disebabkan karena saya menggunakan tag meta di bawah ini pada template blog saya, sedangkan pada file robots.txt yang saya gunakan, saya tidak memblokir apapun.

<b:if cond='data:blog.pageType in {&quot;archive&quot;} or data:blog.searchLabel or data:blog.searchQuery'>
<meta content='noindex,nofollow' name='robots'/>
</b:if>

Arti dari tag meta di atas adalah bahwa setiap halaman arsip, halam label, dan halaman hasil pencarian atau penelusuran tidak akan diindeks dan atau rayapi oleh mesin penelusuran google.

Sehingga ketika googlebot mencoba untuk merayapi blog atau website Anda maka peringatan ini akan muncul karena google tidak diizinkan untuk merayapi halaman tersebut.

Menurut saya sendiri,

Halaman arsip, label, dan hasil pencarian di blog memang tidak perlu diindeks, oleh sebab itu saya membiarkan peringatan ini.

Namun, jika hal ini terjadi pada halaman postingan atau halaman produk-produk yang kita miliki.

Maka Anda sangat perlu untuk memperbaiki masalah ini dengan secepat mungkin.

Oleh sebab itu saya mengatakan bahwa masalah peringatan diindeks meski diblokir oleh robots.txt ini tergantung dari halaman mana yang bermasalah.

Jadi jika halaman tersebut tidak begitu penting untuk diindeks di google, maka peringatan ini bisa Anda abaikan saja sedangkan jika Anda ingin halaman/postingan/produk atau jasa yang Anda miliki ingin tampil atau muncul di google maka segeralah perbaiki masalah ini.

Bagaimana Cara Mengatasi Peringatan Diindeks, Meski Diblokir Oleh Robots.txt?

Ada dua cara agar status peringatan pada google search console hilang.

Namun sebelum melakukan langkah-langkah ini alangkah baiknya Anda meninjau sendiri untuk beberapa halaman di blog atau website Anda mungkin ada yang tidak perlu diindeks.

Misalnya halaman label, halaman pencarian, dan halaman arsip yang memang sebaiknya tidak perlu diindeks.

Alasannya karena halaman ini bukan merupakan halaman asli yang artinya dapat berubah-ubah, selain itu halaman ini juga memiliki kunjungan yang lebih sedikit sehingga tidak perlu untuk diindeks.

Namun jika Anda masih ingin tetap agar status peringatan diindeks, meski diblokir oleh robots.txt ini hilang, silahkan ikuti langkah-langkah di bawah ini.

1. Periksa kembali file robots.tx yang digunakan

Silahkan periksa kembali file robots.txt yang Anda gunakan, apakah ada perintah disallow seperti gambar berikut ini:

Robots txt khusus

Jika ada perintah disallow seperti itu silahkan dihapus atau diganti menjadi allow, caranya bisa Anda lihat di bawah ini:

1. Masuk ke Blogger.com
2. Klik Setelan > Preferensi penelusuran
3. Lalu pada bagian robots.txt khusus silahkan klik Edit
4. Jika ada perintah Disallow: /search silahkan dihapus

Disallow: berarti tidak diizinkan
/search berarti seluruh halaman yang berada pada folder .../search/...

Jadi,

Disallow: /search artinya seluruh halaman yang berada pada folder /search tidak diizinkan untuk dirayapi.

5. Anda juga bisa mengubah perintah disallow menjadi allow, namun jika seperti ini lebih baik dihapus saja
6. Terakhir silahkan klik Simpan perubahan

Jika Anda masih menggunakan google search console dengan tampilan yang lama, silahkan buka URL berikut ini:

https://www.google.com/webmasters/tools/robots-testing-tool

Kemudian pilih property atau blog yang ingin Anda ubah file robots.txt nya.

Baca juga: Kumpulan Kode Robots.txt Blogger SEO Friendly

2. Periksa kembali tag meta yang digunakan

Untuk pengguna wordpress dan blogger sebaiknya periksa kembali tag meta pada tema yang digunakan pada blog atau website Anda.

Jika tidak ingin muncul peringatan diindeks, meski diblokir oleh robots.txt alangkah baiknya hindari penggunaan tag meta noindex.

Baca juga: Tag Meta Yang Dipahami Google

Untuk pengguna blogger, silahkan ikuti langkah-langkahnya di bawah ini untuk menghapus tag meta noindex.

1. Masuk ke Blogger.com
2. Klik Tema > Edit HTML
3. Kemudian cari kode noindex (gunakan ctrl + f untuk mempercepatnya)
4. Jika ketemu silahkan hapus kode tersebut, contohnya seperti ini:

<meta content='noindex' name='robots'/>

Hapus semua kode tersebut.

5. Pastikan kode noindex yang dihapus berada pada bagian <head>...sampai...</head>
6. Jika sudah tidak ada lagi kode noindex pada bagian <head> sampai </head> silahkan klik Simpan template

Segera Lakukan Validasi Perbaikan

Jika Anda telah melakukan perbaikan dengan kedua cara di atas, maka segera lakukanlah validasi perbaikan.

Agar tim webmaster google melakukan pemeriksaan terhadap laporan validasi yang Anda ajukan.

Jika validasi yang Anda lakukan sudah benar maka status peringatan mengenai masalah cakupan indeks akan hilang dari aku google search console Anda.

Untuk melakukan validasi perbaikan caranya seperti berikut ini:

1. Masuk ke google search console yang baru
2. Kemudian pilih website atau blog Anda pada bagian Telusuri properti
3. Lalu klik Cakupan indeks > klik pada Valid dengan peringatan > kemudian klik pada status Peringatan (lihat pada gambar kedua)
4. Kemudian klik Validasi Perbaikan

Validasi perbaikan

5. Selesai, silahkan tunggu hasilnya

Itulah artikel mengenai cara mengatasi peringatan diindeks, meski diblokir oleh robots.txt silahkan Anda coba. Semoga bermanfaat.

Related Posts

Berlangganan update artikel terbaru via email:

0 Response to "Cara Mengatasi Peringatan Diindeks, Meski Diblokir Oleh Robots.txt"

Post a Comment

Jika ada yang masih kurang jelas, silahkan untuk bertanya pada kolom komentar di bawah ini atau dengan menghubungi kami di halaman kontak.

1. Centang kotak Notify me untuk mendapatkan notifikasi komentar.
2. Komentar kami moderasi, dan tidak semuanya dipublish.
3. Semua komentar dengan menambahkan link akan dihapus dan tidak akan dipublikasikan.

Iklan Atas Artikel

Iklan Tengah Artikel 1

Iklan Tengah Artikel 2

Iklan Bawah Artikel