大家都知道，robots協(xié)議是主流搜索引擎共同遵守的一個(gè)協(xié)議，它主要作用是約定網(wǎng)站內(nèi)容那些事可以被抓取那些是不可以被抓取的，而且可以針對(duì)指定搜索引擎來(lái)進(jìn)行設(shè)置，一般情況下搜索引擎是嚴(yán)格按照該文件進(jìn)行網(wǎng)頁(yè)抓取的。因此，絕大多數(shù)網(wǎng)站中都存在一個(gè)robots.txt文件，那么在里面描述文件目錄的時(shí)候是否能夠使用中文字符呢？下面是百度官方發(fā)布的信息：

有同學(xué)問(wèn)百度站長(zhǎng)學(xué)院一個(gè)關(guān)于robots的問(wèn)題：我們有個(gè)站點(diǎn)的目錄結(jié)構(gòu)使用的是中文，這樣式兒的：www.a.com/冒險(xiǎn)島/123.html，那在制作robots文件和sitemap文件的時(shí)候，可以直接使用中文嗎？百度能獲取到嗎？在實(shí)際操作中我們發(fā)現(xiàn)，sitemap中有文件是可以生效的，但robots封禁貌似沒(méi)有反應(yīng)，所以想確認(rèn)一下：robots文件是否支持中文?

工程師解答：Baiduspider目前（2016年10月）在robots里是不支持中文的。

同學(xué)追問(wèn)：那我們進(jìn)行UrlEncode編碼會(huì)不會(huì)支持呢？比如這種：http://www.a.cn/%E7%89%B9%E6%AE%8A:%E6%B5%8F%E8%A7%88/%E7%94%9F%E6%AD%BB%E7%8B%99%E5%87%BB:%E7%99%BD%E9%93%B6%E5%8A%A0%E7%89%B9%E6%9E%97

工程師解答：robots文件支持這種寫(xiě)法。但是否生效，還要取決于當(dāng)時(shí)BaiduSpider抓取的是哪種形式結(jié)構(gòu)的鏈接，如果是UrlEncode編碼就可以生效，如果是中文就非常不幸了。

簡(jiǎn)單的說(shuō)，一般情況下robots里是不支持中文的，就算是進(jìn)行UrlEncode編碼如果連接是中文的還是不可以的。