我有几个文件可以从我的网站下载。 每隔几个小时,所有文件都从相同的IP地址下载(98.137.207.97 – 可能是雅虎?)。 我应该如何继续? 我应该只是阻止IP(并希望下载不被另一个IP占用)还是有更好的方法来处理这个?
你应该创build一个robot.txt文件,如果你不想让僵尸/蜘蛛/等等爬行你的网站的某些部分。