web-dev-qa-db-ja.com

サイトをスクレイピングするサイト、serpランキングが失われる、どうすればよいですか?

2週間前、一部のドメインがサイトをプロキシまたはスクレイピングしていることがわかりました。したがって、theirsite.com/some/parameterにアクセスすると、mysite.com/some/parameterとまったく同じようにレンダリングされますが、mysite.comのすべてのインスタンスがtheirsite.comで置き換えられ、すべてのjavascriptコードが削除され、タグの前にliveinternetが追加されます.ruウィジェットまたはそのようなもの。それを行うドメインは10個ほどあり、以前は見なかったので、Googleはそれらのページをインデックスに登録し、それらのサイトが非常に多かったため、検索結果からリンクが削除された可能性があります。それらのドメインで実行されているサーバーのIPを取得し、スクリプトでそれらをフィルターで除外したため、今度はホームページへのリンクを含む空白のページを配信します。さて、たとえば、私のページタイトルは次のとおりです。

何か-mysite.com

以前、googleでsite:mysite.comと入力すると、ページタイトルが次のように表示されました:

何か-theirsite.com

しかし、空白のページを配信した後、ページタイトルが返されたことがわかります。しかし、問題は、自分のサイトがあるはずの場所にキーワードを入力すると、結果ページに、私よりも上位にランク付けされたスパムドメインが残っていることです。

  • 結果1-theirsite.com
  • 結果2-anothertheirsite.com
  • 3-anotheranothertheir.com
  • 4-mysite.com
  • 5-anotheranothertheir.com

検索結果からそれらを完全に削除する方法と、ランクを回復する方法はわかりません。

さらにあります:それらのサイトを検索コンソールに追加できます(しかし、それでは何もできないと思います)

検索コンソールでサイトへのリンクにアクセスすると、データのリンク方法で、それらが私のサイトであるかのように表示されていることがわかります。「phone sex taboo」や多くのその他。

また、googlebotは、私のサイトに存在しないページにアクセスしていますが、スクリプト内のどこにもリンクされていないと確信しています。たとえば、mysite.com/some-old-keyword-from-spam-sitesにアクセスして、このエラーを修正する必要があるというメールと通知。

Googlebotはそれらのスパムドメインの古いリンク(サイトをスクレイピングし始める前のリンク)にアクセスし、自分のサイトを(自分のものであるかのように)読んでいると思います。

私はDMCAレポートを試しましたが、彼らは私のコンテンツを彼らのサイトに見ていないと言います(私はそれらのサイトをブロックしたため)、スパムレポートを試しましたが結果はありませんでした。

ほぼすべてのトラフィックが失われたと言ったように、1日で(検索コンソールによると)、検索クリック数が毎日8000-12000から100に減少しました。ランクを回復するにはどうすればよいですか?

これらのサイトがほとんどのロングテールキーワードで私を上回り、メインキーワード(3つのキーワード)でgoogleが検索結果から完全に削除されたことを追加できます...

6
buli

空白のページを提供することで正しいことをしたと思います。 Googleの更新が遅いようです。これらのスクレイパーWebサイトのトラフィックが少ない場合、Googleが頻繁にアクセスすることはなく、すべてのページが削除されるまでに数か月かかることがあります。

ただし、ページの「nofollow」を削除することをお勧めします。 nofollowを使用すると、リンクはサイトにカウントされません。リンクを削除すると、PageRankがもう少し高くなり、まだブロックされていない将来のスクレイパーよりも高くなります。

また、スクレイパーサイトはすべてのJSコードを削除していると言いましたが、ページに他のHTMLを配置できる場合は、メタリフレッシュタグを検討できます。

<meta http-equiv="refresh" content="0;URL='YOURURL'" />

またはJavaScriptのオンロード属性:

<body onload="window.location.href='YOURURL'">

これによれば メタリフレッシュは検索エンジンによって監視されるため、再びスクレイパーサイトの削除が高速化される可能性があります。

3
DisgruntledGoat

CloudFlareも調べます。現在の状況を改善することはできませんが、スクレイピングを防止するツールがあります。

0
Jason