
* Php ile biten bütün sayfaları indexlemesini engeller, böylece sadece html uzantılı sayfalarınız indexlenir (viewtopic.php,faq.php,ucp.php v.b.)
* İçinde ? işareti olan bütün sayfaları indexlemesini engeller.
* post ile başlayan sayfaları indexlemesini engeller böylece duplicate content sorunu yaşamazsınız. Duplicate content Google 'ın önem verdiği ve sevmediği bişeydir.
* Kullanıcı sayfalarını indexlemesini engeller, Örn: admin-u1.html, ornekuye-u23.html gibi hit getirmeyecek gereksiz kullanıcı sayfalarının indexlenmesini engeller.
robots.txt dosyası :
Kod: Tümünü seç
User-agent: *
Disallow: /adm
Disallow: /cache
Disallow: /CVS
Disallow: /develop
Disallow: /docs
Disallow: /files
Disallow: /includes
Disallow: /install
Disallow: /language
Disallow: /store
Disallow: /styles
Disallow: /*.php$
Disallow: /*?
Disallow: *-u*
Disallow: /post*