حل مشكلة robots.txt في بلوجر مع Cloudflare بشكل نهائي (تعطيل إدارة الروبوت تكس من كلاودفلير)
يعاني عدد كبير من أصحاب مواقع بلوجر الذين يستخدمون Cloudflare من مشكلة خطيرة تؤثر مباشرة على الأرشفة وظهور المقالات في نتائج البحث، وهي مشكلة ملف
robots.txt.
المشكلة لا تكون في بلوجر كما يعتقد الكثير، بل في إعداد خفي داخل Cloudflare يقوم بالتحكم في ملف الروبوت تكس بدلًا من بلوجر، مما يؤدي إلى تعارض يمنع عناكب جوجل من الوصول الصحيح إلى الموقع.
في هذا الدليل الاحترافي ستتعرف على:
-
السبب الحقيقي لمشكلة robots.txt في بلوجر مع Cloudflare
-
مكان الإعداد الخاطئ بالضبط داخل كلاودفلير
-
الحل النهائي المعتمد لتعطيل إدارة الروبوت تكس من Cloudflare
-
الطريقة الصحيحة للتأكد أن المشكلة انتهت تمامًا
ما هي مشكلة robots.txt في بلوجر مع Cloudflare؟
تظهر المشكلة غالبًا في Google Search Console على شكل:
-
تم الحظر بواسطة robots.txt
-
لا يمكن جلب ملف robots.txt
-
صفحات تم اكتشافها ولم تتم فهرستها
-
انخفاض مفاجئ في الأرشفة
مع أن ملف robots.txt داخل بلوجر مفعّل وسليم.
السبب الحقيقي للمشكلة
السبب ليس في بلوجر إطلاقًا.
السبب هو أن Cloudflare أصبح يوفر ميزة لإدارة ملف
robots.txt مباشرة من لوحة التحكم الخاصة به.
وعند تفعيل هذه الميزة، يقوم Cloudflare بتقديم ملف robots.txt خاص به بدلاً من الملف الموجود في بلوجر، مما يؤدي إلى:
-
تعارض مباشر بين بلوجر وCloudflare
-
أو منع بعض عناكب البحث من الزحف
-
أو تقديم ملف فارغ أو مختلف لمحركات البحث
وهنا تبدأ مشاكل الأرشفة.
أين كان الخطأ تحديدًا؟
الخطأ كان في تفعيل خيار إدارة robots.txt من داخل Cloudflare نفسه.
وبالتالي الحل لم يكن في تعديل ملف الروبوت تكس داخل بلوجر، بل في إيقاف هذه الميزة من Cloudflare.
الحل النهائي لمشكلة robots.txt في بلوجر مع Cloudflare
الحل الصحيح والمعتمد هو:
تعطيل إدارة robots.txt من Cloudflare بالكامل
واتباع المسار التالي بدقة:
1. الدخول إلى لوحة تحكم Cloudflare
ثم اختيار الموقع الخاص بك.
2. التوجه إلى:
Security
3. ثم الدخول إلى:
Settings
4. ثم اختيار:
الإعداد الذي يجب تغييره
ستجد خيارًا خاصًا بإدارة ملف الروبوت تكس من Cloudflare.
قم بإيقاف تفعيل هذا الخيار، واختر:
Disable robots.txt configuration
وستظهر العبارة التالية:
Turn off Cloudflare’s robots.txt configuration to stop managing how bots and crawlers access your site.
وهي تعني:
إيقاف إدارة Cloudflare لملف robots.txt حتى لا يتحكم في وصول عناكب ومحركات البحث إلى موقعك.
لماذا يجب اختيار Disable robots.txt configuration؟
لأنك عند تعطيل هذا الخيار:
-
يعود ملف robots.txt الأصلي الخاص ببلوجر للعمل
-
يتم إلغاء أي ملف robots.txt تقدمه Cloudflare لمحركات البحث
-
يختفي التعارض بين النظامين
-
تستطيع التحكم في الأرشفة فقط من داخل بلوجر
وهذا هو الوضع الصحيح لمدونات بلوجر.
ملاحظة مهمة جدًا
بعد تعطيل robots.txt configuration من Cloudflare، لا تقم بإنشاء أي قواعد أخرى خاصة بالزحف داخل كلاودفلير، واترك إدارة ملف الروبوت تكس بالكامل لبلوجر فقط.
التأكد من أن المشكلة تم حلها
بعد تنفيذ الخطوات السابقة مباشرة:
افتح هذا الرابط في المتصفح:
إذا كنت تستخدم دومين مخصص:
https://yourdomain.com/robots.txt
وإذا كنت تستخدم نطاق بلوجر الافتراضي:
https://اسم-مدونتك.blogspot.com/robots.txt
يجب أن يظهر ملف robots.txt مباشرة بدون:
-
صفحة تحقق من Cloudflare
-
أو رسالة حظر
-
أو إعادة توجيه غريبة
ماذا عن ملف robots.txt داخل بلوجر؟
بعد تعطيل إدارة الروبوت تكس من Cloudflare، انتقل إلى بلوجر وتأكد فقط من أن الملف مفعّل بشكل طبيعي من خلال:
الإعدادات
ثم:
Manage your robots.txt
ويمكنك استخدام هذا النموذج الآمن والمتوافق مع السيو:
User-agent: *
Disallow: /search
Allow: /
Sitemap: https://اسم-مدونتك.blogspot.com/sitemap.xml
ولا تنس استبدال رابط الموقع بعنوان مدونتك الحقيقي.
لماذا هذا الحل هو الأفضل للسيو وAdSense؟
لأنه:
-
يمنع تعارض Cloudflare مع ملف الزحف
-
يسمح لعناكب Google بالوصول المباشر للمقالات
-
يحسن سرعة فهرسة الصفحات الجديدة
-
لا يمنع أي صفحة أساسية من الأرشفة
-
متوافق تمامًا مع سياسات Google AdSense
أخطر خطأ يقع فيه أصحاب المواقع
الكثير يقوم بتعديل ملف robots.txt في بلوجر مرارًا، بينما المشكلة الأساسية ما زالت موجودة داخل Cloudflare.
طالما أن خيار:
robots.txt configuration
مفعل داخل كلاودفلير، فلن تستفيد من أي تعديل داخل بلوجر.
متى تحتاج فعليًا إلى تعديل robots.txt من Cloudflare؟
في حالة واحدة فقط، وهي:
إذا كان موقعك غير مبني على بلوجر وتريد إدارة الزحف بالكامل من خلال Cloudflare.
أما في حالة بلوجر، فالأفضل دائمًا:
ترك ملف robots.txt يدار من داخل بلوجر فقط.
الخلاصة النهائية
مشكلة robots.txt في بلوجر مع Cloudflare لا يتم حلها من خلال تعديل الملف داخل بلوجر، وإنما من خلال تعطيل ميزة إدارة الروبوت تكس من Cloudflare نفسها.
والحل الصحيح كان كالتالي:
الدخول إلى:
Security → Settings → Manage your robots.txt
ثم:
اختيار
Disable robots.txt configuration
وبذلك يتم إيقاف تحكم Cloudflare في ملف robots.txt، ويعود الملف الأصلي الخاص ببلوجر للعمل بشكل طبيعي، وتنتهي مشاكل الحظر والأرشفة بشكل نهائي.
اطلع ايضاكلمات مفتاحية مقترحة لتحسين السيو
-
حل مشكلة robots.txt في بلوجر
-
مشكلة الروبوت تكس مع Cloudflare
-
Disable robots.txt configuration Cloudflare
-
حل مشكلة الأرشفة في بلوجر مع كلاودفلير
-
تعارض robots.txt بلوجر كلاودفلير
-
إعداد robots.txt الصحيح لبلوجر
بهذه الطريقة تكون قد عالجت السبب الحقيقي للمشكلة، وليس مجرد أعراضها.
