robots txt

جوجل : قد تتم فهرسة المحتويات على الرغم من حظرها بواسطة ملف robots.txt

هناك حالات خاصة معينة تقوم فيها جوجل بفهرسة محتوى بعض روابط URL  على الرغم من حظرها بواسطة robots.txt.

عادةً ما يؤدي تعيين الوسم “disallow” في ملف robots.txt الذي يشير الى عنوان URL معين إلى عدم قيام جووجل بالزحف إلى هذا الرابط وعدم فهرسته. ومع ذلك ، قد يحدث أن تعرض جوجل مقتطفات لعناوين URL هذه في نتائج البحث ، على سبيل المثال إذا كانت هناك روابط خارجية لعناوين URL المعنية. عادة ، يظهر فقط عنوان URL بدون نص أو وصف في المقتطف لأن الزحف محظور بواسطة ملف robots.txt.

هناك حالات خاصة تقوم جوجل أيضًا بفهرسة المحتوى في روابط URL المحظورة. جون مولر اكد ذلك عندما سئل عبر تويتر. اشار مولر الى مشاركة مدونة Google سابقة حول القواعد التي لم تعد مدعومة في ملف robots.txt.

“يمكن لمحركات البحث فهرسة الصفحات التي تعرفها فقط ، لذا فإن حظر الصفحة من الزحف يعني عادة عدم فهرسة محتواها.”

اشير ايضا الى مصطلح “usually” الذي تم مناقشته في هذه الحالة  ، مما يعني أن هناك استثناءات للقاعدة التي مفادها أن المحتوى من الصفحات المحظورة لا يتم فهرسته.  اشار مولر ايضا الى بعض الامثلة التالية:

  • إذا كانت هناك نقاط ربط لعنوان URL المعني
  • عندما تتم معالجة ملف robots.txt مرة أخرى
  • إذا جرت محاولة لإعادة معالجة عنوان URL.

لذلك ليس هناك ما يضمن عدم ظهور المحتوى من عناوين URL المحظورة بواسطة robots.txt في البحث.

 

 

0 0 تصويت
تقييم المقال

عن أيسر موفق

أيسر موفق
متخصص في كتابة المقالات التحليلية والسيو، مهتم بتطوير محركات البحث وتحسين جودة المحتوى العربي على الإنترنت، خبرة أكثر من 15 سنة في مجال الكتابة والتسويق بالمحتوى ووضع استراتيجات المحتوى وخُطط التسويق بشكل عام.

شاهد أيضاً

كيفية بناء حملة سيو ناجحة

كيفية بناء حملة سيو ناجحة شرح مفصل مع (امثلة)

أحد العوامل الحاسمة لتحقيق النجاح على المدى الطويل في السيو  هو معرفة كيفية بناء حملة …

الإشتراك
نبّهني عن
guest
0 تعليقات
التقيمات المضمنة
عرض جميع التعليقات
0
التعليق عى المقال , شاركنا رأيك.x
()
x